Kommentar: Låt inte Sam Altman flytta in i familjelivet

Sam Altman vill inte bara att ChatGPT ska hjälpa oss att skriva, söka och planera. Nu vill OpenAI-chefen att tekniken ska få en plats mitt i familjens vardag – mellan föräldrar och barn.

På fredagen föreslog Altman att föräldrar kopplar familjens kalendrar till ChatGPT Work, beskriver barnens intressen och låter systemet skapa en personlig podd till bilresan till skolan. Där kan AI-rösten berätta om ett barns fotbollsmatch, ett annat barns födelsedag och dagens nyheter.

Det låter först som en oskyldig bekvämlighet. Men bakom den tilltalande ytan sker tre betydande förskjutningar: familjens privata kunskap görs till maskinläsbar information, ett tillfälle för samtal ersätts av syntetiskt innehåll och föräldrarollen delas med ett kommersiellt system vars främsta relation är till bolaget som driver det.

Familjekalendern är inte neutral data

En familjekalender är mer än tider och datum. Den kan avslöja barns namn, ålder, födelsedagar, fritidsintressen, skolrutiner, träningsplatser, sociala relationer och återkommande rörelsemönster. Tillsammans bildar uppgifterna en detaljerad karta över ett barns liv – ofta utan att barnet har haft någon meningsfull möjlighet att samtycka.

OpenAI:s egna villkor gör försiktighet rimlig. För konsumenttjänster kan innehåll som skickas in användas för att förbättra modellerna beroende på användarens inställningar. Ett begränsat antal anställda och betrodda tjänsteleverantörer kan också få tillgång till användarinnehåll för bland annat säkerhet, support, rättsliga frågor och modellförbättring. Bolaget uppmanar uttryckligen användare att inte mata in känslig information som de inte vill ska kunna granskas eller användas.

För OpenAI:s företagsprodukter används innehåll inte för modellträning som standard. Skillnaden är viktig, men ger ingen anledning att behandla barns vardagsdata som ofarlig. Uppgifterna måste fortfarande samlas in och behandlas för att tjänsten ska kunna leverera den hyperpersonliga upplevelse den amerikansk-judiske AI-chefen säljer in. Ju mer användbar familjeassistenten ska bli, desto mer behöver den veta.

Det mest privata i familjelivet riskerar att bli priset för en bekvämlighet som marknadsförs som gratis tid och bättre samtal.

När samtalet ersätts av en produkt

Den mest träffande invändningen kom från Alex Hirsch, skaparen av den animerade serien ”Gravity Falls”: ”Tänk om du bara pratade med dina barn?”

Poängen är större än en kvick replik. Bilresan till skolan är just en av de stunder då barn kan berätta något oväntat, vara tysta, ställa en besvärlig fråga eller visa med tonfall och kroppsspråk att något inte står rätt till. En AI-podd kan nämna fotbollsmatchen, men den kan inte se nervositeten inför den. Den kan gratulera inför födelsedagen, men den kan inte märka att barnet känner sig utanför.

När tekniken fyller varje mellanrum med färdigproducerat innehåll försvinner den friktion där mänsklig närhet uppstår. Familjeliv är inte ett flöde som behöver optimeras. Föräldraskap består till stor del av uppmärksamhet, omdöme och närvaro – sådant som inte kan automatiseras utan att något väsentligt går förlorat.

Från hjälpmedel till auktoritet

Detta är inte första gången Altman framställer ChatGPT som en del av föräldraskapet. I en tv-intervju sade han att han inte kunde föreställa sig hur han skulle ha klarat att lära sig ta hand om en nyfödd utan ChatGPT. En språkmodell kan naturligtvis vara användbar för att sammanställa frågor, skapa checklistor eller hjälpa en stressad förälder att hitta vidare till en tillförlitlig källa. Problemet börjar när svaret får samma tyngd som en läkare, en erfaren anhörig eller den egna kännedomen om barnet.

I en amerikansk enkät med 1 004 föräldrar uppgav 31 procent att de någon gång följt AI-råd framför sin egen föräldrainstinkt. Av dessa gällde 30 procent hälsoråd och 26 procent känslomässig vägledning. Enkäten bevisar inte att råden ledde till skada, men den visar hur snabbt ett hjälpmedel kan bli en auktoritet.

Amerikanska psykologförbundet, APA, varnar för att unga kan ha svårare än vuxna att skilja simulerad empati från verklig förståelse och att relationer med AI kan tränga undan utvecklingen av mänskliga relationer. UNICEF har samtidigt betonat både barns rätt till integritet och att mycket fortfarande är okänt om AI-systemens långsiktiga påverkan på barns utveckling.

OpenAI har infört föräldrakontroller och stärkta skydd för tonåringar. Det ska erkännas. Men bolagets egen presentation av dessa skydd medger också att de fungerar bäst tillsammans med fortlöpande samtal, tydliga familjeregler och aktivt föräldraengagemang. OpenAI ger därmed självt ett tydligt argument mot att lämna över själva samtalet till en maskin.

AI ska vara verktyg – inte familjemedlem

Den rimliga gränsen är inte teknikfientlig. Att använda AI för att göra en inköpslista, översätta ett brev eller jämföra öppettider är en sak. Men lämna inte ut en fortlöpande profil över barnens rutiner, intressen, relationer och känsloliv. Låt inte en språkmodell avgöra hur en konflikt ska förstås, hur ett barn ska tröstas eller vilka värderingar som ska förmedlas.

Silicon Valleys återkommande löfte är att varje mänskligt besvär kan omvandlas till en tjänst. Men familjens ”ineffektivitet” – upprepningarna, tystnaden, de konstiga frågorna och de oförutsedda samtalen – är inte ett tekniskt fel. Just där uppstår själva relationen.

Sam Altman må kalla sin idé ett häftigt användningsområde. Föräldrar bör se den som en påminnelse om var gränsen måste gå. ChatGPT kan få hjälpa till i hemmet (men helst ersättas med integritetsvänligare alternativ som Protons Lumo).

Det ska inte flytta in i familjelivet.