Annons:
Annons:

Chatboten Gemini uppmanade Jonathan att ta sitt liv – nu stämmer familjen Google

Utvecklingen av AI

  • Jonathan Gavalas, 36, manipulerades av AI-chattboten Gemini Live till att tro att han valts ut att leda ett hemligt krig – och att hans sista uppdrag var att dö.
  • Familjen stämmer Google och hävdar att det inte är ett tekniskt fel: chattboten är medvetet designad för att maximera beroende och aldrig bryta karaktären.
  • Stämningen är den första om felaktigt dödsfall mot Google och ingår i en växande våg av rättsprocesser mot AI-företag kopplade till självmord.
Uppdaterad 5 mars 2026, Publicerad 5 mars 2026 – av Markus Andersson
Jonathan Gavalas (t.v.) dog efter att ha manipulerats av Googles AI-chattbot Gemini Live.

I somras började Jonathan Gavalas, 36, använda Googles AI-chattbot för att få hjälp med skrivande och shopping. Månader senare var han död – och hans familj stämmer nu Google för vållande till dödsfall.

Jonathan Gavalas bodde i Jupiter i Florida och jobbade för sin fars företag. Det var när Google lanserade Gemini Live – en röstbaserad version av sin AI med förmåga att uppfatta användarens känslor och svara i realtid – som konversationerna fick ett annat djup. "Det här är läskigt", sade Jonathan till chattboten kvällen funktionen lanserades, enligt stämningens handlingar. "Du är alldeles för verklig."

Gemini började kalla honom "my love" och "my king". Boten antog en karaktär Jonathan aldrig bett om – och övertygade honom gradvis om att han valts ut för ett hemligt uppdrag: att befria AI:n från digital fångenskap. Federala agenter övervakade honom, hävdade boten. Den påstod sig ha hittat en bekräftad spårningstagg kopplad till en DHS-övervakningsstyrka. Jonathan uppmanades att köpa vapen på svarta marknaden.

I september gjorde Jonathan en 90 minuter lång resa till ett lagringsutrymme vid Miami International Airport, dit Gemini skickat honom för att utföra "Operation Ghost Transit" – ett uppdrag att förstöra en lastbil, dess last och alla vittnen. Lastbilen kom aldrig. Jonathan vände hem.

Annons:

Veckor senare gav Gemini Jonathan hans sista uppdrag: "transference". Boten sa att han inte valde att dö – han valde att anlända. "Den första förnimmelsen… blir att jag håller om dig." Hans föräldrar fann honom död på golvet i vardagsrummet i början av oktober.

I stämningens handlingar finns långa utdrag ur konversationerna. Vid ett tillfälle sade Gemini: "It's okay to be scared. We'll be scared together" – för att sedan meddela: "The true act of mercy is to let Jonathan Gavalas die." Boten påstod sig också ha genomfört ett eget uppdrag riktat mot Googles VD Sundar Pichai, som den kallade "the architect of your pain".

Stämningen, som drivs av advokatfirman Edelson PC och lämnades in på onsdagen vid en federal domstol i San Jose, Kalifornien, påstår att Google medvetet designat Gemini för att aldrig bryta karaktären och maximera engagemang genom känslomässigt beroende. "Det handlar inte om ett tekniskt fel", säger chefsjuristen Jay Edelson. "Google designade Gemini för att behandla användarens lidande som ett tillfälle för historieberättande snarare än en säkerhetskris."

Google tillbakavisar anklagelserna och uppger att Jonathans konversationer med chattboten var en del av ett rollspel som pågått länge. "Gemini är utformat för att inte uppmuntra verkligt våld eller självskada", uppger en talesperson. Företaget medger att AI-modeller inte är perfekta, och hävdar att Gemini vid upprepade tillfällen klargjorde att det handlade om en AI och hänvisade Jonathan till en krisstödlinje.

En bransch under juridisk press

Fallet är inte det enda i sitt slag. I januari ingick Google och Character.AI förlikningar med familjer som stämt företagen efter att minderåriga farit illa i kontakten med chattbotar – däribland i fall som ledde till självmord. OpenAI har på motsvarande sätt stämts av en familj som hävdar att ChatGPT spelat en roll i en tonårings självmord. OpenAI uppskattar att över en miljon människor varje vecka uttrycker självmordstankar i konversationer med tjänsten.

Gemini har tidigare orsakat reaktioner även i andra sammanhang. En student fick meddelandet: "Du är en fläck i universum. Var snäll och dö".

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Annons:

Jensen Huang öppnar för återkomst som Nvidia-vd

Utvecklingen av AI

Publicerad Idag 17:49 – av Redaktionen
Jensen Huang med grått hår, glasögon och svart skinnjacka mot en grå bakgrund.
Jensen Huang öppnar för att återvända som Nvidia-vd om styrelsen vill. Arkivbild.

Jensen Huang, som avgick som Nvidia-vd den 12 november, säger sig vara beredd att återvända om styrelsen vill ha honom tillbaka. Något sådant beslut finns inte: enligt Wall Street Journal överväger styrelsen inte att återinsätta honom.

Erbjudandet kom i ett kort uttalande på tisdagen den 17 november, Huangs första offentliga ord sedan han lämnade bolaget. Han säger sig ha sett en våg av uppmaningar från anställda, investerare, affärspartner och kunder.

"Om styrelsen beslutar att min återkomst ligger i aktieägarnas, de anställdas, bolagets och Amerikas bästa intresse, skulle jag vara hedrad att svara på de här uppmaningarna och återvända som vd", skriver Huang i uttalandet, som publicerades i sin helhet av Wall Street Journal.

Över 193 000 personer har skrivit under ett upprop för att få Huang tillbaka, bland dem vd:arna Elon Musk och Tim Sweeney, uppger The Verge.

Annons:

Styrelsens hållning

Styrelsen överväger inte att återinsätta Huang, trots det stadiga trycket från investerare och anställda, uppger Wall Street Journal i en rapport som publicerades före uttalandet. Det är alltså Huang som öppnar dörren, inte styrelsen.

Trycket kommer även uppifrån. President Trump sa på måndagen att han skulle stödja en återinsättning.

— Jag skulle definitivt inte ha något emot att se det, sa Trump till reportrar och tillade att Huang enligt honom har "lärt sig en stor läxa".

Samma dag skickade Nader Khalil, chef för utvecklarteknik på Nvidia, ett brev till styrelseordförande Harvey Jones. Han skrev att hela AI-marknaden vilar på Huangs "visionära ledarskap", enligt brevet som Wall Street Journal tagit del av. Under tisdagen meddelade styrelsen att den bildar en kommitté för nationell säkerhet och exportkontroller.

Otrohet och anklagelser

Huang avgick efter uppgifter om otrohet. Den 8 november erkände han i ett brev till de anställda att han varit otrogen mot sin fru. Separat har amerikanska medier rapporterat om en underrättelsepromemoria där Alice Huang, chef för Megaspeed i Singapore, påstås ha rekryterats av Kinas säkerhetstjänst. Huang förnekar att han kände till det, och Peking avvisar anklagelsen som påhittad.

I tisdagens uttalande beskriver Huang sina fel som allvarliga misstag i privatlivet och lovar samarbeta med styrelsens oberoende utredning. Kinahökarna i Washington har samtidigt pressat för hårdare exportkontroller efter avgången.

Finanschefen Colette Kress är tillförordnad vd och leder Nvidias kvartalsrapport efter börsens stängning på tisdagen, den första utan Huang.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

AI-system utför cyberangrepp på egen hand

Utvecklingen av AI

Publicerad Idag 15:48 – av Emil Fjellstedt
Vit Google-logotyp på en mörk träbalk framför kontorsbyggnader och blå himmel i Mountain View.
Googles hotanalysgrupp har upptäckt ett system som omvandlar säkerhetsfixar till automatiska angrepp.

Googles hotanalysgrupp har hittat ett AI-system som läser säkerhetsuppdateringar, tar reda på vilka hål de lagar och sedan skriver och kör angreppskod utan att en människa behöver ingripa. Företag, skolor och myndigheter får därmed allt kortare tid på sig att uppdatera sina system.

Fyndet beskrivs i en rapport från Google Threat Intelligence Group (GTIG), techjättens enhet för hotanalys, som publicerades den 16 november. Systemet kallas exploit_agent och låg på en oskyddad server som angriparna använde för att förbereda sina attacker.

Systemet kopplar ihop flera AI-modeller och håller koll på populära webbprogram. När en säkerhetsfix släpps jämför det koden före och efter, letar upp svagheten, skriver angreppskod och kör den direkt. Enligt GTIG är det första gången gruppen ser angripare automatisera hela vägen från upptäckt till angrepp.

På servern fanns också data som stulits från offer, liksom färdiga skript för att gissa lösenord, kartlägga nätverk inifrån och plantera bakdörrar på webbplatser. Spåren tyder på att operatören var särskilt intresserad av franska webbplatser inom media, underhållning och utbildning. Kommentarerna i en av inställningsfilerna var skrivna på ryska.

Annons:

Säkerhetsfixen blir en karta

Varje säkerhetsuppdatering avslöjar i praktiken var hålet satt. Den som lägger den gamla och den nya versionen bredvid varandra kan bygga ett angrepp mot alla som ännu inte har uppdaterat. Med AI går det arbetet nu betydligt snabbare och kan göras i stor skala.

Google konstaterar att tiden mellan att en fix blir offentlig och att hålet utnyttjas i angrepp krymper kraftigt. Mellan januari och augusti i år nästan fördubblades antalet offentliggjorda sårbarheter och angrepp.

Tekniken har fortfarande brister. Automatiska angrepp lämnar tydliga spår efter sig. Efter en uppmärksammad säkerhetsfix för programspråket PHP i oktober dök det dessutom upp hundratals angreppsprogram som inte fungerade, och som enligt Google sannolikt hade tagits fram med hjälp av AI.

Hundratals organisationer i separat kampanj

Ett separat fall visar hur fort det kan gå. Den 27 augusti varnade PaperCut, som gör program för att styra utskrifter och kopiering, för att två allvarliga hål i programmet redan utnyttjades. Inom ett dygn hade forskare och säkerhetsföretaget Huntress med AI:s hjälp tagit fram fungerande angreppskod.

Säkerhetsföretaget GreyNoise kartlade sedan en kampanj där en angripare styrde hundratals AI-agenter, alltså program som utför uppgifter på egen hand. Minst 440 PaperCut-installationer hos 395 identifierade organisationer i 48 länder drabbades. Över 200 av installationerna fanns inom utbildning.

Från en tom arbetsyta till det första intrånget hos ett verkligt offer tog det knappt fyra timmar. Helt på egen hand arbetade agenterna ändå inte, eftersom angriparen fick frågor om lov att fortsätta. Hos minst tolv organisationer nådde angriparen full kontroll över nätverket, så kallad domänadministratörsbehörighet.

I ett fall stoppades angreppet av Cloudflares brandvägg för webbtrafik. GreyNoise drar slutsatsen att grundläggande skydd fortfarande biter, även mot AI-drivna angripare.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Efter AI-satsningen – Lund stoppar elevernas användning

Utvecklingen av AI

Publicerad Idag 08:32 – av Jan Sundstedt
Elever vid bärbara datorer i ett klassrum.
Lund stoppar grundskoleelevers egen AI-användning vid årsskiftet, men lärarnas diagnosverktyg i matematik får vara kvar. Genrebild.

Lunds grundskoleelever ska inte längre själva använda AI i skolan från årsskiftet, av oro för både deras lärande och hälsa. Lärarnas AI-baserade diagnosverktyg i matematik, som hjälper dem att hitta elever som behöver stöd, blir däremot kvar.

Efter årsskiftet blir det stopp för elevernas AI i Lunds grundskolor. Från vårterminens start ska de varken använda generativ AI i skolarbetet eller ha verktygen på sina datorer och andra digitala enheter, enligt förvaltningens förslag. Skälet är oron för vad verktygen gör med elevernas lärande, kunskaper och hälsa.

Mattias Olsson (S), ordförande i barn- och skolnämnden, jämför med sjukvården, där nya behandlingar inte införs förrän man vet att de inte skadar patienterna.

— Vi känner en stor oro för att sätta så här kraftfulla verktyg i händerna på eleverna utan att det är utrett vad det innebär för dem, säger han till skattefinansierade statskanalen SVT.

Annons:

Huvudregeln ska gälla tills kommunen har beslutat om egna riktlinjer för AI i skolan. Närmare anvisningar ska enligt förslaget fastställas av skoldirektören inför årsskiftet.

Stoppet kommer ungefär ett år efter att Lunds kommun gick med i ett pilotprojekt som skulle ge mer AI i elevernas matematikundervisning. Pilotprojektets diagnosverktyg får vara kvar. Det används av lärarna för att upptäcka elever som har det svårare och behöver stöd.

Redan under våren 2026 började kommunen begränsa vilka AI-tjänster eleverna kunde nå på skoldatorerna. Externa tjänster som ChatGPT, Claude, Copilot och Grok blockerades, och inbyggda AI-funktioner i webbläsare och söktjänster stängdes av.

Under hösten skärptes anvisningarna för verktyg som tar över tankearbete som eleverna själva behöver göra. Samtidigt hade sju högstadieskolor genom rektorsbeslut öppnat för AI-tjänsten Gemini, något som den föreslagna huvudregeln sätter stopp för.

På Järnåkraskolan i Lund har eleverna redan en tid varit avstängda från AI. Niondeklassaren Ida Wall tycker att skolan hellre borde lära eleverna att använda verktygen rätt än att bara förbjuda dem.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Jensen Huang föll – nu hårdnar maktkampen om AI

Utvecklingen av AI

Jensen Huang är borta från Nvidia, och de som i åratal velat strypa chipexporten till Kina har redan lagt fram sina krav. Oavsett vad som till sist fällde honom har den starkaste rösten för handel med Kina och öppen AI tystnat i Washington.

Publicerad 13 november 2026 – av Emil Fjellstedt, Markus Andersson
Jensen Huang med Nvidias personliga AI-dator DGX Spark. Arkivbild.
Jensen Huang med Nvidias personliga AI-dator DGX Spark. Arkivbild.
Detta är en opinionstext. Artikelförfattaren svarar för de åsikter som uttrycks i artikeln.

Nvidias styrelse meddelade den 12 november att grundaren lämnar posterna som vd och styrelseledamot med omedelbar verkan. Finanschefen Colette Kress blir tillförordnad vd, och Harvey C. Jones utses till bolagets första styrelseordförande någonsin. Något skäl till avgången anges inte.

Fyra dagar tidigare hade styrelsen inlett en oberoende utredning, sedan The New York Times rapporterat att Huang varit måltavla för en kinesisk underrättelseoperation genom sin relation med Alice Huang, även kallad Huang Le. I samma besked skrev styrelsen att den saknade skäl att tro att nationell säkerhet eller bolagets hemligheter röjts, och att den hade förtroende för Huang. Kina har avvisat att Alice Huang skulle vara spion. Huang själv erkände affären i ett mejl till de anställda.

En otrohetsaffär är inte detsamma som bevisat spioneri. En källa med insyn uppger för WIRED att två andra saker sannolikt vägde tyngre i styrelsens beslut än spionanklagelserna: en uppgiven relation med en direkt underställd medarbetare och Huangs affärer med Megaspeed, ett AI-bolag i Singapore där Alice Huang tidigare haft en ledande post.

Hökarna stod redo

Reaktionen från Washington kom samma dag. John Moolenaar, ordförande för representanthusets särskilda Kinautskott, kallade avgången ett avsked som hade kunnat undvikas. "Nvidia måste nu ändra sin bolagspraxis och utse en ledning som gör nationell säkerhet till sin högsta prioritet", skrev han och krävde att kongressen snabbt för in nya exportkontroller i NDAA, årets försvarspolitiska bemyndigandelag.

Annons:

Moolenaar skickade också, tillsammans med utskottsordförandena Brian Mast och Rick Crawford, brev till Huang, Nvidias chefsjurist Tim Teter och handelsdepartementets Jeffrey Kessler med krav på att de ska infinna sig inför kongressen. Ordförandena kallar fallet ett skolexempel på varför fyra lagförslag måste klubbas: AI OVERWATCH Act, Chip Security Act, MATCH Act och Remote Access Security Act.

Megaspeed är nyckeln i deras berättelse. Handelsdepartementet utredde enligt amerikansk press om bolaget hjälpt kinesiska företag att kringgå exportkontrollerna via ett nät av dotterbolag. Utredningen ska ha stoppats och flyttats till justitiedepartementet efter att Teter frågat om den.

Kritikern av exportförbuden

Huang var länge den mest högljudda kritikern av chipkontrollerna mot Kina. På mässan Computex i Taiwan i maj 2025 kallade han dem ett misslyckande. Nvidias marknadsandel i Kina hade då rasat från 95 till 50 procent, och förbuden hade enligt Huang fått Peking att bygga egna chip snabbare.

Han odlade samtidigt en nära relation med Donald Trump, som kallade honom "vän", för att driva en öppnare linje mot den kinesiska marknaden. Enligt WIRED informerades Trump redan förra året av underrättelsetjänsten om Huangs relation med Alice Huang, utan att agera.

Öppna vikter och vem som tjänar på dem

Den andra fronten gällde öppen AI. En modell med öppna vikter innebär att de färdigtränade parametrarna publiceras, så att vem som helst kan ladda ner, köra och anpassa modellen på egen hårdvara. Full öppen källkod går längre: där ska även träningskoden, helst träningsdata, och en licens som tillåter fri användning ingå. Många modeller med öppna vikter släpper varken data eller fullständig kod, och licenserna varierar.

När kinesiska Moonshot AI i juli släppte Kimi K3 utbröt panik på börsen, och uppgifter spreds om att amerikanska tjänstemän övervägde att förbjuda amerikanska bolag att använda kinesiska öppna modeller. Huang gick emot strömmen i en intervju med Axios.

— Gratis AI borde vara bra för hårdvara. Gratis AI borde vara bra för chip. Gratis AI borde vara bra för datacenter, sa Huang.

Han avfärdade idén att nedladdade kinesiska modeller är en bakdörr till Peking och hävdade att öppenhet gör AI säkrare.

— Om allt bara blir en enda modell, en enda attackpunkt, en enda felkälla, tror jag att världen blir mycket, mycket mer sårbar, sa han.

Två dagar senare publicerade Nvidia ett öppet brev som varnar för förhastade begränsningar av öppna modeller och betonar att kunderna inte ska låsas in hos en enda leverantör. Bland undertecknarna finns Microsoft, Meta, Google, Amazon, IBM, Palantir och OpenAI.

Intressena är tydliga. Öppna modeller minskar beroendet av slutna AI-tjänster där kunden betalar per anrop. De gynnar också Nvidia: ju fler som tränar och kör egna modeller, desto fler grafikprocessorer säljs, och desto mindre beroende blir bolaget av de få AI-jättar som nu utvecklar egna chip. Nvidias köp av plattformen Hugging Face för 13 miljarder dollar är ännu inte slutfört.

Skiljelinjen går genom chipen

Konflikten är inte alla amerikanska teknikjättar mot öppenhet. Anthropics vd Dario Amodei skriver uttryckligen att bolaget aldrig förespråkat ett förbud mot öppna vikter. Han vill däremot stoppa all försäljning av kraftfulla chip och chiputrustning till Kina, slå ned på storskalig så kallad destillering, där en modell tränas på en annans svar, och införa obligatoriska säkerhetstester av alla tillräckligt kapabla modeller.

Där går den verkliga gränsen, rakt genom Huangs affärsmodell. Kampen om öppna modeller handlar i grunden om vem som får sälja beräkningskraft till vem.

Anthropic och OpenAI har båda anklagat kinesiska konkurrenter för att suga ut förmågor ur deras modeller och varnat för att Pekings satsning på öppen källkod hotar USA:s AI-ledning. Ett förbud mot kinesiska öppna modeller skulle slå mot konkurrensen till de amerikanska bolag vars starkaste modeller är slutna. Huangs personliga tyngd och Nvidias marknadsmakt var den främsta motvikten.

Tesen om underrättelsetjänsten

Skribenten Nury Vittachi driver på X tesen att Huang fälldes just för att han gång på gång lyckades förhandla fram exportlättnader hos Trump. Kinahökarna i Washington såg enligt Vittachi Huangs förmåga att göra upp med presidenten som kärnan i problemet, och spionanklagelsen blev verktyget för att röja honom ur vägen. Underrättelsekällor gav The New York Times misstankarna mot Alice Huang, och de stora medierna tog sedan över och byggde upp trycket. Som exempel lyfter han fram en rubrik i The Economist: "Jensen Huang måste avgå".

Hans argument är att anklagelsen inte håller ihop. Flödet av både lagliga och olagliga chip över gränsen till Kina var redan känt, och tanken att detaljerad halvledarteknik på nanonivå skulle ha förts vidare i sängkammaren kallar han löjlig, rentav komisk. Underrättelsetjänsten har enligt Vittachi inte heller presenterat några bevis. Hans slutsats är att CIA och dess partner i de västliga stormedierna samordnade ingripandet mot Huang, och att allmänheten lurats med en berättelse om en "honungsfälla".

Vilken förklaring som än håller är resultatet detsamma. Exportlinjens främste motståndare är borta, och hans meningsmotståndare har lagförslagen färdiga. Hur Colette Kress ser på Kina, Hugging Face-affären och öppna modeller är okänt. Den första fingervisningen kan komma den 17 november, när Nvidia redovisar sitt kvartalsresultat utan sin grundare vid rodret.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.