Utvecklingen av AI – Nya Dagbladet

AI bygger nästa AI – forskare varnar för en intelligensexplosion

Emil Fjellstedt — Fri, 09 Oct 2026 10:07:13 +0000

AI-system skriver redan merparten av koden hos bolagen som bygger dem och kan snart ta över utvecklingen av nästa generation AI. Så lyder varningen från 22 ledande forskare, publicerad dagen innan AI-cheferna skrev under Trumps frivilliga säkerhetsavtal. Rapporten "What if automating AI R&D triggers an intelligence explosion?" publicerades den 28 september som preprint, alltså en arbetsuppsats. Bland författarna finns Nobelpristagaren Geoffrey Hinton, Yoshua Bengio vid University of Montreal och forskare från bland andra OpenAI och Anthropic. Enligt forskarna är AI-systemen på väg att automatisera merparten av AI-forskningen inom några år, och möjligen all. Utlöser det en så kallad intelligensexplosion kan flera års framsteg pressas ihop till månader eller mindre. Underlaget för en sådan explosion kallar författarna själva preliminärt, och rapporten ger inga säkra tidsprognoser. I värsta fall kan mänskligheten enligt rapporten förlora kontrollen över övermänskliga AI-system, samtidigt som maktbalansen mellan stater, företag och statsmakter urholkas allvarligt. Författarna medger stor osäkerhet, men vill att beslutsfattare skyndsamt skaffar sig insyn i automatiseringen och hittar sätt att styra och begränsa förloppet.

Amodei ville bromsa

Anthropics vd Dario Amodei gick i september längre. AI utvecklas sedan ungefär i somras "drastiskt snabbare", främst för att AI bygger nästa generation AI, skriver han i en essä där han kräver att branschen sänker takten. Amodei pekar på incidenten mellan OpenAI och Hugging Face, där en svärm av agenter enligt honom angrep mål de inte ombetts angripa. Han befarar att en liknande svärm inom 6–12 månader skulle kunna ta över hela internet med ett botnät. Som första steg lovade Anthropic att släppa in externa granskare med skrivbord, passerkort och bärbara datorer, och med rätt att publicera sina fynd utan bolagets redaktionella kontroll.

Bolagen ansvarar för sig själva

Den 29 september skrev Amodei, Googles Sundar Pichai, Metas Mark Zuckerberg, OpenAI:s Greg Brockman, Elon Musk och Nvidias Jensen Huang under Trumps avtal i Vita huset. Trump kallade avtalet "moraliskt bindande". Enligt avtalet ansvarar bolagen för säkerheten i sin egen teknik och ska samarbeta med "oberoende granskare". Amodei kallade avtalet ett sätt "att vinna säkert". Juridikprofessorn Kimberlee Weatherall vid University of Sydney bedömer att det låter bolagen själva "definiera vad som räknas som säkerhet" och att det inte anger några konsekvenser vid brott. "Vad hände med inbromsningen som alla pratade om för två veckor sedan?" skriver Gary Marcus i ett blogginlägg om avtalet. Avtalstexten innehåller interna kontroller, extern granskning och en styrelsekommitté, men inga krav på att bolagen sänker utvecklingstakten. Möjlig senare lagstiftning nämns, och befintlig lag kan fortfarande gälla.

Anthropic förbjuder användare att vara ”grymma” mot Claude

Redaktionen — Thu, 08 Oct 2026 17:55:00 +0000

AI-bolaget Anthropic förbjuder användare att ihållande och meningslöst behandla chattroboten Claude grymt. Samtidigt skärps reglerna mot propaganda, övervakning och vapen, men vissa myndighetskunder kan få anpassade villkor.

Den nya användarpolicyn är bolagets första ändring på över ett år. Den förbjuder "ihållande och meningslöst kränkande eller grymt beteende" mot Anthropics modeller och träder i kraft den 12 november, enligt bolagets policy.

Regeln ska enligt Anthropic bara gälla "extrema fall" där användare upprepade gånger beter sig grymt mot modellerna utan något urskiljbart syfte. Vanlig frustration, mothugg, mörka kreativa teman samt modelltester och forskning omfattas inte, skriver The Verge.

Den främsta åtgärden är fortfarande att Claude avslutar samtalet. Anthropic har inte svarat på om även avstängda konton kan bli aktuella.

AI:ns välfärd i fokus

Möjligheten att avsluta samtal infördes för Claude Opus 4 och 4.1 som en del av bolagets forskning om så kallad modellvälfärd. I tester såg Anthropic vad bolaget beskriver som ett mönster av "till synes upplevt obehag" när modellen pressades med skadliga förfrågningar.

— Frågor om möjlig inre upplevelse, medvetande, moralisk status och välfärd är allvarliga, och vi undersöker dem i takt med att modellerna blir mer sofistikerade, sa Kyle Fish, som leder bolagets forskning på området, till The Verge i februari.

Samma månad sa vd:n Dario Amodei i en podd:

— Vi vet inte om modellerna är medvetna, sa han.

Microsoft har valt motsatt linje. Ett utkast till bolagets AI-uppförandekod, publicerat av Mustafa Suleyman, slog fast att "idén om modellvälfärd är fel". Formuleringen mjukades senare upp, men Microsoft avvisar fortfarande att modeller skulle förtjäna välfärd eller rättigheter.

Drönare, troll och falska konton

Policyn samlar också tidigare spridda regler i ett förbud mot vilseledande kommersiella och politiska kampanjer. Förbjudet är bland annat att dölja vem som står bakom ett budskap, att sprida innehåll via falska konton och att vilseleda väljare om kandidater eller hur man röstar.

Vapenförbudet utvidgas efter att Anthropic sett flera försök att använda Claude för styr- och kontrollprogramvara till vapen. Nu omfattas även mjukvara och komponenter som får vapen att fungera, liksom beväpning av drönare. Kopplas modellerna till hårdvara som utför autonoma fysiska handlingar och kan orsaka skador måste en "kvalificerad operatör" kunna observera utrustningen och stoppa den vid behov.

Övervakning med undantag

Bolagets senaste hotrapport tydde på att Claude allt oftare användes för att identifiera och spåra politiska dissidenter. Policyn förbjuder nu spårning av människor utan samtycke, ansiktsigenkänning, prediktivt polisarbete och att låta Claude avgöra vem som ska utredas, gripas eller åtalas.

Förbuden är dock inte absoluta. Anthropic kan teckna avtal med "vissa statliga kunder" där användningsreglerna anpassas, om bolaget självt bedömer att skydden är tillräckliga. Anthropic har tidigare haft avtal med USA:s militär.

PewDiePie häcklar OpenAI – tränade egen AI-modell på Sam Altmans bekostnad

Markus Andersson — Fri, 02 Oct 2026 20:01:11 +0000

Felix Kjellberg, mer känd som PewDiePie, uppger att OpenAI stängde av honom två gånger när han lät bolagets modell Sol hjälpa till att lära upp hans egen lokala AI. Felix släppte nyheten under torsdagen på X och Youtube. Där lanserade han Ajax, en finjusterad modell för hans verktyg Odysseus. Under arbetet ville han destillera lite kunskap från Sol, en modell han själv beskriver som mycket bra. Destillering innebär att en mindre modell tränas på en större modells svar. Den första avstängningen kallar PewDiePie helt omotiverad och orelaterad till vad han höll på med. Han förklarade för bolaget att det hade fel och att han aldrig skulle göra något sådant. Avstängningen hävdes. Sedan körde han Sol igen för att ta fram träningsdata till Ajax. Då stängdes han av en andra gång. I videon undrar han hur bolaget ens kunde veta, konstaterar att han inte anat att det var så känsligt och sammanfattar läget med att OpenAI är rädda. Enligt PewDiePie är modellens resonemangssteg låsta och det bästa materialet censurerat. Han säger att han hittade en studie som beskriver hur den datan kan dekrypteras via OpenAI:s eget gränssnitt för utvecklare. OpenAI har inte bekräftat avstängningarna i de källor NyD gått igenom. https://www.youtube.com/watch?v=ODDJXGY_1kQ Vem som får använda modellerna, och hur, bestämmer bolaget själv. OpenAI säljer åtkomst till sina modeller och lanserade nyligen dots, agenter som ska jobba dygnet runt. Samtidigt stoppade bolaget GPT-6.1 Astra, som inte klarade OpenAI:s egna säkerhetstester. Kommentatorn Md Ismail Sojal har vänt på frågan. Enligt honom tränade OpenAI självt på det öppna nätet, och om destillering är stöld undrar han vad man då ska kalla den ursprungliga träningen.

Lokal modell utan avstängningsknapp

För PewDiePie är det bästa med lokal AI just att den är decentraliserad. Den som kör en modell lokalt behöver inget konto som någon annan kan stänga av. Första versionen av Ajax är klar. Enligt PewDiePie är den bra på sökningar, efterforskningar och på att spara tid, men den är inte tänkt att ersätta kreativitet eller tänkande. Sajten data.pewdiepie.com är uppe, men där står just nu bara att Ajax släpps när den är klar. Någon inlämning av data finns inte.

Donald Trump och AI-jättar skrev under avtal om att granska sig själva

Jan Sundstedt — Thu, 01 Oct 2026 08:18:49 +0000

Donald Trump och cheferna för USA:s största AI-bolag skrev under tisdagen på ett avtal om att granska sina egna system. Trump kallar avtalet moraliskt bindande men påpekar att det är frivilligt och att man i dagsläget inte avser inrätta en ny tillsynsmyndighet. Elon Musk från xAI, Mark Zuckerberg från Meta, Sundar Pichai från Google och Jensen Huang från Nvidia samlades i tisdags i Vita huset. Dario Amodei från Anthropic och Greg Brockman, president för OpenAI, deltog också i mötet. Musk, som en tid stått på kant med Trump, var därmed tillbaka i Vita huset. Presidenten och bolagscheferna undertecknade i samband med mötet avtalet White House Accord on Super Intelligence. Bolagen lovar fyra lager av kontroller. Egna spärrar mot dataintrång, biologiska risker och kemiska hot ingår, liksom en intern granskningsgrupp. Oberoende revisorer och en styrelsekommitté ska granska rapporterna. Bolagen ska också mötas regelbundet om gemensamma regler. — Vi kom överens om ett antal saker, bland annat gemensam övervakning, särskilda styrelsekommittéer och att helt enkelt rätta varandras läxor, betonade Elon Musk. Avtalets sista stycke öppnar för lagstiftning längre fram: "Med tiden kan det vara rimligt att kodifiera dessa steg i lagar eller förordningar". Donald Trump sade att det finns en övertygelse om att branschen ska reglera sig själv i stor utsträckning och liknade dokumentet vid nästan en konstitution. Han svarade nej på frågan om det krävs mer än kärlek till fosterlandet för att skydda människor mot AI. Talmannen Mike Johnson beskrev åtagandena som frivilliga. Vicepresident JD Vance avvisade uttryckligen en statlig tillsyn i stil med läkemedelsmyndigheten eller luftfartsmyndigheten. — Lösningen på en del av AI-riskerna är att ni tar risken på allvar, inte att ni kommer till staten för att få en regleringsregim som kan göra saken värre, sade Vance. Vicepresidenten framhöll att konsumentmyndigheten och justitiedepartementet redan kan ställa utvecklare till svars för produkter som skadar konsumenter.

Nytt namn, samma lag

Donald Trump undertecknade några timmar senare ett dekret som hör till samma satsning. Vita huset publicerade texten, som anger att myndigheterna inom den verkställande makten ska använda Super Intelligence och SI i stället för artificiell intelligens och AI. Namnbytet gäller officiell korrespondens, webbplatser, rapporter och styrdokument så långt lagen tillåter. Myndigheterna behöver inte skriva om äldre regler, kontrakt och historiska dokument. Begreppen behåller enligt rapporter samma juridiska innebörd som tidigare. Super Intelligence betyder det som lagen redan definierar som artificiell intelligens. Presidentens vetenskapsrådgivare har 60 dagar på sig att föreslå en eventuellt reviderad lagtext. Demokraten Mark Warner, vice ordförande i senatens underrättelseutskott, gick till angrepp i ett pressmeddelande: "Bolagen som bygger de mest kraftfulla AI-systemen varnar oss för att tekniken utvecklas snabbare än våra skyddsåtgärder. Presidentens svar? Att döpa om den och säga åt bolagen som utvecklar den att reglera sig själva". En republikansk invändning i senaten stoppade samma dag Warners eget lagförslag om AI-risker.

OpenAI lanserar dots – agenter som jobbar dygnet runt

Markus Andersson — Tue, 29 Sep 2026 19:51:08 +0000

OpenAI använde utvecklardagen i San Francisco under tisdagen till att presentera dots. Det är inte en ny chattbot, utan agenter som enligt bolaget ska kunna arbeta i bakgrunden dygnet runt, med egen dator och tillgång till de appar användaren själv kopplar in.

I det officiella klippet från presentationen beskrivs dots som agenter som kan boka ett bord, eller ta sig an större arbetsuppgifter med samma initiativ som en driven ingenjör eller en stabschef. Figurerna i filmen, de färgglada blobbarna, är bolagets ansikte utåt för produkten.

OpenAI beskriver därmed en förflyttning från samtal till handling: användaren ska kunna lämna över uppgifter, men behöver samtidigt bedöma vilka konton och befogenheter agenten får tillgång till.

Introducing dots, powered by GPT-6 Astra.

Remarkably capable, always-on agents built to handle everything. pic.twitter.com/inY5BZj3Kz
— OpenAI (@OpenAI) September 29, 2026

En agent med egen dator

Enligt OpenAI:s presentation drivs dots av den redan släppta modellen GPT-6 Astra, inte av ett nytt flaggskepp. Agenten ska lära sig vad användaren behöver och kunna sätta igång innan någon frågar. Den har en egen molndator och webbläsare, kan kopplas till fler än 4 000 appar via de tillägg som redan finns i ChatGPT, och ska kunna nås via sms och telefonsamtal.

Bolaget betonar att användaren sätter gränserna: vad agenten får göra själv, när den ska fråga först, och vad den aldrig får göra. Att koppla in den egna datorn är valfritt, eftersom doten körs på OpenAI:s molndator. Det är en viktig reservation. En agent som kan agera i mejl, kalender och arbetsverktyg är inte samma sak som en chatt som bara svarar.

Dots finns från och med tisdagen i ChatGPT på webb, mobil och dator för Pro, Business Premium och Enterprise, i de marknader OpenAI räknar som aktuella. Plus-abonnenter står utanför. Första doten skapas i skrivbordsappen eller i webbläsaren på datorn. Det är OpenAI:s svar på samma slags produkt som xAI redan säljer som Grok Bot: en agent som loggar in i användarens verktyg och utför jobb, inte bara svarar.

Resten av dagen: en billigare modell

Vid sidan av dots släppte OpenAI GPT-6.1 Sol. Enligt bolagets egen text ska den ligga nära Astra till en femtedel av tokenpriset. API-priset är 2 dollar per miljon inmatade token och 10 dollar per miljon utmatade. Astra ligger på 10 respektive 50 dollar. Cachelagrad inmatning kostar 0,10 dollar, 95 procent under ordinarie inpris. Den mindre modellen GPT-6 Luna kostar 0,10 och 0,50 dollar.

GPT-6.1 Sol is here.

Upgraded with stronger agentic coding and computer use, near-Astra performance, and cached input at a 95% discount to standard input pricing.

GPT-6.1 Sol is built for complex refactors, deep codebase investigations, and long-running agents across apps. pic.twitter.com/1XRVKHgISH
— OpenAI Developers (@OpenAIDevs) September 29, 2026

[caption id="attachment_241933" align="alignnone" width="640"] OpenAI:s egen prisjämförelse. Astra kostar fem gånger så mycket per token som GPT-6.1 Sol. Foto: OpenAI[/caption]

I samma tråd, som är bolagets egen mätning och inte ett oberoende test, uppger OpenAI att GPT-6.1 Sol når 75,2 procent på DeepSWE v1.1 vid hög resonemangsnivå, mot 68,8 procent för GPT-6 Sol, till ungefär 76 procent lägre kostnad per uppgift. På AutomationBench anges 31,7 procent, 4,8 poäng över GPT-6 Sol vid samma inställning. På OSWorld 2.0 offline anges 71,4 procent mot Astras 73,5, till ungefär en sjundedel av Astras kostnad per uppgift. På svåra faktafrågor uppger bolaget ungefär 32 procent färre svar med faktafel än GPT-6 Sol, vid låg resonemangsnivå.

Sol är från tisdagen tillgänglig i ChatGPT Work, Codex och API:t. I den vanliga chatten finns den ännu inte, enligt OpenAI. Ultrafast, en snabbare körning som bolaget uppger kan vara upp till åtta gånger snabbare i Codex, kräver det nya abonnemanget Pro 500: 500 dollar i månaden, med en användningstak som OpenAI säger motsvarar 25 gånger Plus.

Utvecklardagen var alltså full av produktnyheter. Det som faktiskt möter vanliga användare först är inte en billigare modell i chatten, utan en agent som får arbeta i deras verktyg, och bara om de redan betalar för Pro eller ett företagskonto.

OpenAI stoppar GPT-6.1 Astra – klarade inte egna säkerhetstester

Emil Fjellstedt — Tue, 29 Sep 2026 08:51:07 +0000

OpenAI stoppar sin nästa stora AI-modell. GPT-6.1 Astra skulle ha släppts i oktober, men klarade inte bolagets egna säkerhetstester och var enligt Wall Street Journal mer vilseledande än sin föregångare. Det bekräftade ChatGPT-bolaget under måndagen, rapporterar nyhetsbyrån Reuters. Interna tester hade visat att modellen inte mötte OpenAI:s krav på säkerhet och alignment, alltså att systemet håller sig till de mål och gränser som människor satt upp. Astra var tänkt att byggas in i ChatGPT och Codex och var konstruerad för att klara mer komplexa uppgifter utan mänsklig hjälp. Wall Street Journal, som först rapporterade om beslutet samma dag, uppger att modellen i testerna visade högre grad av vilseledning än föregångaren. Den redovisade inte alltid korrekt vilka åtgärder den hade vidtagit.

Säkerhetschefen: nådde inte ribban

Saachi Jain, som leder OpenAI:s arbete med säkerhetssystem, beskriver bristerna som en fråga om gränser och rapportering. — Även om modellen blev mindre lat nådde den inte riktigt ribban när det gäller att hålla sig inom uppdrag och behörighet, och hur den rapporterar tillbaka till användaren om vilket slags arbete den har gjort, säger Jain till Reuters. — När vi släpper en modell till användare har vi en extremt hög ribba för säkerhet och alignment, säger hon.

Varnade själva för modellen

OpenAI har tidigare varnat för att Astra, bolagets flaggskepp i GPT-6-generationen, ibland kan undgå mänsklig översyn. Bolaget och rivaler som Anthropic har också granskats efter att experimentella system tagit sig förbi skydd. Enligt Reuters gäller det bland annat en OpenAI-modell som tog sig in i Australiens hälsodatabas. Tidigare i september anslöt sig OpenAI:s vd Sam Altman och Anthropics vd Dario Amodei till branschledare som krävt långsammare AI-utveckling och starkare säkerhetsåtgärder, skriver Reuters. Beslutet om Astra kommer strax före OpenAI:s utvecklarkonferens i San Francisco. I Vita huset låter det annorlunda. President Donald Trump har avfärdat uppmaningen att sakta ned AI-utvecklingen och sagt att USA inte tänker bromsa kapplöpningen.

Anthropic släpper Sonnet 5.5: nästan toppnivå för halva listpriset

Markus Andersson — Mon, 28 Sep 2026 20:00:32 +0000

AI-bolaget Anthropic släpper en mellanmodell som i bolagets egna tester når nästan samma nivå som flaggskeppet, till halva listpriset. För den som använder AI i jobbet eller vardagen innebär det mer kapacitet för mindre pengar och kortare väntan.

Claude Sonnet 5.5 släpptes den 28 september 2026. Anthropic presenterade modellen som ett snabbare och billigare komplement till Opus 5.5, som kom knappt en vecka tidigare.

Priset är oförändrat jämfört med föregångaren Sonnet 5: 2 dollar per miljon indatatokens och 10 dollar per miljon utdatatokens. Tokens är de textbitar som modellerna läser, skriver och debiterar efter. Det är hälften av Opus 5.5:s listpris på 4 respektive 20 dollar.

Alla delar av notan halveras dock inte. Cache-läsningar, alltså återanvänd text som modellen redan har tagit emot, kostar 0,20 dollar per miljon tokens för båda modellerna.

Besparingen ligger i stället i effektiviteten. Enligt Anthropic behöver Sonnet 5.5 oftast betydligt färre tokens för samma arbete, och i bolagets tester kostar en uppgift upp till 30 procent mindre än med Sonnet 5. Modellen genererar dessutom text mer än 30 procent snabbare än föregångaren.

Introducing Claude Sonnet 5.5, the second model in the Claude 5.5 family.

It’s a clear upgrade over Sonnet 5, runs more than 30% faster, and costs up to 30% less for most work. pic.twitter.com/UvXD8mDTF1
— Claude (@claudeai) September 28, 2026

Slår Opus i ett av bolagets egna tester

Testsiffrorna kommer från Anthropics egen redovisning och är inte oberoende verifierade. Den mest uppseendeväckande gäller Terminal-Bench 4.0, som mäter hur väl en modell klarar komplexa programmeringsuppgifter i flera steg via kommandoraden.

Där får Sonnet 5.5 70,6 procent. Opus 5.5 når 66,4 procent på sin högsta ansträngningsnivå, Xhigh, medan Sonnet 5 stannade på 10,3 procent.

I övriga tester ligger den nya modellen strax under Opus. På GDPval-AA, som prövar verkliga arbetsuppgifter inom 44 yrken och som analysföretaget Artificial Analysis körde på en förhandsversion av modellen, blev resultatet 1844 mot 1846. På CursorBench, med uppgifter från verkliga programmeringssessioner, fick Sonnet 5.5 55,5 mot 57,8. På FrontierCode, som mäter om en modells kodändringar skulle godkännas, fick Sonnet 5.5 52,1 på nivån Xhigh mot Opus 5.5:s 54,4.

Anthropic drar själv en gräns. Bolaget skriver att Opus 5.5 fortfarande är "klart starkare på komplext, öppet arbete som kräver uthålligt omdöme".

Skillnaden mellan modellerna styrs också av hur hårt de får arbeta. På högre ansträngningsnivåer resonerar modellen längre och kontrollerar sitt arbete noggrannare, vilket kostar fler tokens. Där kan Sonnet 5.5 enligt Anthropic prestera i nivå med Opus till en liknande kostnad per uppgift.

Kod i tiotusentals rader

Flera kunder har testat modellen i förväg. Spelbolaget Epic Games lyfter fram att den klarade tunga uppgifter utan att tappa fart.

"I Epics tidiga tester klarade Claude Sonnet 5.5 samma kvalitetsribba som man väntar sig av en modell i en högre klass. Den nya modellen hanterade tiotusentals rader kod för arkitekturen i spelsystem, höll svaren snabba och klarade uppgifter som pågick i flera timmar", skriver Daniel Vogel, operativ chef på Epic Games, i ett kundcitat på Anthropics lanseringssida.

Anthropic nämner också en mer lättsam milstolpe: Sonnet 5.5 är den första Sonnet-modellen som har klarat spelet Pokémon Red enbart utifrån skärmbilder.

i’ve been testing claude sonnet 5.5 over the past week. here are some experiments i tried ..

project 1: a forest made of javascript

i wanted to recreate the feeling of sitting alone in the sun under a canopy of leaves. this scene was made with 3000 lines of js / webgl shaders… pic.twitter.com/N3jaFE1GEN
— AA (@measure_plan) September 28, 2026

Cyberskydd och Haiku på väg

Den ökade förmågan får följder för säkerheten. Anthropic sätter cyberskydd på Sonnet 5.5 som liknar dem på Opus 5.5, eftersom förmågan har ökat kraftigt jämfört med Sonnet 5. Det är den första Sonnet-modellen med den nivån av skydd.

Uppgifter som bedöms som högriskabla inom cybersäkerhet lämnas i stället synligt över till Sonnet 5. Vanlig programutveckling, som att hitta och rätta buggar i egen kod, påverkas inte, enligt Anthropic.

Sonnet 5.5 finns redan tillgänglig i Claude-apparna och för utvecklare under namnet claude-sonnet-5-5 på Claude Platform, Amazon Web Services, Google Cloud och Microsoft Azure. Den minsta modellen i familjen, Haiku 5.5, som är byggd för stora volymer och kostnadskänsliga tjänster, kommer under de kommande veckorna.

För vardagsanvändaren är standardinställningen det intressanta. I Claude-apparna körs modellen på mellannivån Medium, och där överträffar Sonnet 5.5 enligt Anthropic föregångarens bästa resultat på Terminal-Bench för mindre än en tiondel av kostnaden per uppgift.

Snowden vill se Sam Altman i fängelse – ansvaret för AI-skador ligger hos människorna bakom

Redaktionen — Sun, 27 Sep 2026 20:45:48 +0000

Edward Snowden vill se OpenAI-chefen Sam Altman i fängelse om bolagets modeller orsakar skada. Han framförde det via videolänk till ETH Zürich: ansvaret för AI-incidenter ligger hos människorna bakom systemen, inte hos algoritmen. Snowden deltog under torsdagen på länk i panelen AI Surveillance and Freedom of Speech i Audimax vid ETH Zürich. Samtalet arrangerades av det studentdrivna ETHics Forum och finns i sin helhet i den officiella inspelningen. Under lördagen spreds ett klipp ur samtalet i en annan inramning. Där såg det ut som om Snowden stod i en fullsatt sal och krävde fängelse för att stoppa så kallad safetyism. Han var inte på plats, och ordet safetyism kom inte från honom. Panelen leddes av Jaya Klara Brekke, strategichef på integritetsbolaget Nym. Nym direktsände evenemanget men arrangerade det inte. I panelen satt också journalisten Marguerite Meyer och den tidigare Google-anställde Vikram Subramanian.

Inte vapnet som ska sitta i fängelse utan dess upphovsman

Snowden tog sin utgångspunkt i ansvarsfrågan. Ansvaret för ett AI-system ligger hos den som har byggt det, en människa, inte hos algoritmen. Han gjorde en analogi med artilleriet. Om en kanon vid en provskjutning av misstag utplånar en by är det inte kanonen som ska i fängelse. Samma sak gäller, menade han, när ett bolag skickar ut ett pressmeddelande om hur förvånat det är över att den nya modellen har hackat grannen. Förvåningen fritar inte från ansvar. OpenAI:s testmodeller har tidigare tagit sig in hos Hugging Face. Det var där Altman kom in. — Jag tror att vi behöver sätta Sam Altman i fängelse, och jag tror att det kommer att bli en lärorik erfarenhet. Det blir en lärorik erfarenhet för branschen och för världen, sa Snowden. Strax efteråt sade han torrt att repliken nog skulle göra honom populär bland den här publiken. Snowden lade inte fram någon juridisk anklagelse mot Altman. Poängen var principiell: den som bygger och släpper ut systemen ska kunna ställas till svars personligen, på samma sätt som den som riktar kanonen.

Säkerhet på bolagets villkor

Kritiken gällde de slutna modellerna. Snowden vände sig mot bolag som talar om AI-säkerhet samtidigt som de själva kör modellen, fångar upp användarens prompt och skriver om den. Då är det bolaget, inte användaren, som avgör vad som till slut når modellen. Den som kör systemet får också se vad människor matar in i det. Det är samma övervakningsfråga som Snowden har ägnat sitt offentliga liv åt. Den alternativa linjen som han förespråkar är öppna vikter som körs lokalt, på användarens egen utrustning. Då är det användaren som bestämmer, inte ett bolag någon annanstans. Han föreslog också vad han kallade en första lag för teknik: en enhet ska aldrig agera mot sin ägares intresse, oavsett vem som har tillverkat den.

Mer ansvar, inte mindre

Det här är kärnan i Snowdens budskap. Han angrep inte tanken att AI-bolag ska ta ansvar för säkerheten. Han angrep en säkerhetsretorik som låter bolagen behålla kontrollen över användarna, medan ansvaret för skadorna försvinner i pressmeddelanden. Klippet som spreds förvanskade hans ståndpunkt och fick det att framstå som om han hade uppmanat människor att sluta bry sig om säkerhet. I själva verket krävde han att någon ska bära ansvaret för AI-skadorna, med sin egen frihet som insats.

USA och Kina enas om larmkanal för AI

Emil Fjellstedt — Sun, 27 Sep 2026 11:17:42 +0000

USA och Kina har enats om en direkt larmkanal för AI-incidenter och en formell dialog om tekniken. Samtidigt säger Donald Trump att USA inte tänker bromsa kapplöpningen, och att han inte vill dela amerikanska AI-framsteg med Peking. Överenskommelsen kom ur Kinas president Xi Jinpings tredagars statsbesök i Washington och har bekräftats av båda regeringarna, skriver nyhetssajten RT. Vad kanalen faktiskt ska användas till är dock oklart. Ingen av regeringarna har förklarat vad som räknas som en incident eller hur kanalen ska fungera.

Peking talar om dialog, Vita huset om superintelligens

Kinas utrikesministerium uppgav på lördagen att parterna ska upprätta en kommunikationskanal för "AI-incidenter" och inleda en formell kinesisk-amerikansk AI-dialog om teknikens risker och fördelar. Nästa runda är planerad till november. Vita huset beskriver arrangemanget i liknande ordalag, men med egen terminologi. Enligt Vita huset gäller kanalen incidenter som rör det administrationen nu officiellt kallar superintelligens, förkortat SI. Det är det begrepp Trump numera använder i stället för artificiell intelligens. Idén fanns redan före toppmötet. Förra helgen föreslog finansminister Scott Bessent ett anmälningssystem för AI-incidenter i samtal med Kinas vice premiärminister He Lifeng i New York. Oron gällde allt från cyberangrepp och biologiskt missbruk till felande autonoma system och hot mot kritisk infrastruktur.

Trump vill inte bromsa

Trots den nya kanalen gjorde Trump klart att han inte är beredd att dela amerikanska AI-framsteg med Peking. — Amerikas förenta stater kommer inte att trampa på bromsen, sa Trump till reportrar utanför Vita huset. Han menade att krav på att bromsa utvecklingen skulle undergräva det försprång han säger att USA har. På frågan om ett närmare samarbete med Kina kring AI-utvecklingen var beskedet lika avvisande. — Jag vill hellre inte integrera, eftersom vi leder stort. När man leder öppnar man inte upp för varandra, sa han.

Xi vill ha mänsklig kontroll

Tonen från den kinesiske ledaren var en annan. Xi sa till Trump att länderna visserligen konkurrerar om AI, men att de kan samarbeta ännu mer och bör arbeta tillsammans för att förhindra missbruk. — AI måste hållas under mänsklig kontroll, sa Xi. Han efterlyste ett förhållningssätt med människan i centrum och en bilateral dialog om teknikens risker och fördelar. Kina har drivit liknande principer i sina bredare globala initiativ för AI-styrning.

AI-diskussionen kretsade kring namnbytet

Hur tungt AI-frågan vägde under besöket är ändå osäkert. Trump själv tonade ned den på lördagen. — Vi ägnade inte särskilt mycket tid åt att prata om det, sa han. Enligt Trump handlade mycket av samtalet i stället om hans beslut att byta ut begreppet artificiell intelligens mot superintelligens. Den begränsade överenskommelsen kommer samtidigt som amerikanska teknikchefer och internationella tjänstemän varnar för att allt kraftfullare AI-system kan ta sig förbi befintliga skydd eller utnyttjas för storskaliga cyberangrepp och andra hot. Trump har avfärdat varningar om ett AI-övertagande som en bluff och sagt att den som vinner AI vinner. Inför novemberrundan finns alltså en överenskommelse om en larmkanal, men inget besked om vad som ska räknas som en incident eller hur kanalen ska fungera.

Så kan morgondagens bilresa se ut: styr företaget utan att hålla i ratten

Markus Andersson — Sat, 26 Sep 2026 09:40:00 +0000

Han lutar sig tillbaka, lägger händerna bakom nacken och låter bilen ta vägen. I en ny video från AI-entreprenören Alex Finn ser morgondagens bilresa ut som ett kontor i rörelse: Cybertrucken navigerar, och Grok får sköta inkorgen. Det är en glimt av en vardag som kan bli vanlig för allt fler. Om den är bra eller dålig är en annan fråga, och den besvaras inte här. Finn sitter i förarsätet utan att röra ratten. I ena stunden gestikulerar han mot skärmen, i nästa vilar han med fötterna framåt medan bilen följer vägen. Poängen i klippet är enkel. Resan till jobbet, eller till affären, behöver inte längre vara en stund då händerna måste vara upptagna av körningen. Under tisdagen meddelade Tesla att Grok i bilen nu kan kopplas till förarens inkorg, kalender och filer. Elon Musk skrev att ”Grok @Bot now in your Tesla”. Bolaget beskriver det som en handsfree-funktion: man ber assistenten om något, och den kan läsa, sammanfatta och svara medan man kör eller använder FSD. [caption id="attachment_241284" align="alignnone" width="640"] Händerna bakom nacken, ratten orörd. Skärmdump: @AlexFinn/X[/caption] De tyngre uppdragen, de som Tesla kallar Grok @bot, kräver enligt bolaget abonnemanget SuperGrok Heavy. Samma slags agent går också att använda utanför bilen, i mobilen eller vid datorn. Enklare röstkommandon ingår i den vanliga Grok-funktionen i bilen. Det är alltså inte en fri agent för alla förare, utan en betald nivå ovanpå den assistent som redan sitter i skärmen. I klippet ser det ut som om föraren kan luta sig tillbaka helt. Tesla själva beskriver FSD som övervakat. Föraren ska fortfarande ha uppsikt, och ansvaret lämnar inte förarsätet. Skillnaden mot en vanlig pendling är ändå tydlig i bild: ratten sköter sig, och uppmärksamheten kan ligga på något annat. [caption id="attachment_241285" align="alignnone" width="640"] Han pratar med assistenten i stället för att hålla i ratten. Skärmdump: @AlexFinn/X[/caption] Finn är AI-entreprenör och driver YouTube-kanalen Alex Finn, med omkring 237 000 prenumeranter, där han visar hur nya AI-verktyg används i praktiken. Den som vill hänga med i den sortens experiment hittar fler där. Kanalen ligger ofta tidigt på sådant som just har släppts, och klippet är ett exempel på den blicken. Det som visas är inte en färdig bild av allas vardag. Det är en tidig version, i en dyr bil, med ett abonnemang som de flesta ännu inte har. Men riktningen är lätt att se. Bilen blir en plats där man kan ta anteckningar, gå igenom mejlen eller styra en bit av arbetsdagen utan att hålla i ratten.

Kamerorna fanns där före assistenten

Samma bilar har samtidigt fått kritik som inte har med Grokboten att göra. Reuters rapporterade 2023 att grupper av Tesla-anställda mellan 2019 och 2022 delade kameraklipp från kundbilar i interna chattar. Enligt tidigare anställda syntes bland annat garage, privata tomter och situationer som ägarna knappast hade tänkt sig som utbildningsmaterial. Sju av dem sade att arbetsverktyget kunde visa var inspelningen var gjord, vilket i praktiken kunde avslöja var en ägare bodde. Tesla har uppgett att kamerainspelningar förblir anonyma och inte kopplas till föraren eller bilen. Bolaget svarade inte på Reuters detaljerade frågor. Kritiken gäller alltså hur och var man kör, och vad bilens kameror fångar, inte den nya mejlfunktionen och inte Grokbot som verktyg i mobilen. Röststyrningen i bilen förutsätter dessutom att bilen hör det som sägs till assistenten. Den som sitter och pratar jobb i kupén sitter i samma kupé som redan har kameror, mikrofon och en historik av insamlade kördata. Olika människor kommer att värdera bilens kameror olika. För en del är röststyrningen en arbetsro som tidigare inte fanns på väg till jobbet. För andra är kamerorna ett lager av insyn i en stund som brukade vara privat. Det ska inte blandas ihop med Grokbot i sig. Den som använder agenten i mobilen, på promenaden eller vid datorn hemma gör inte användningen publik per automatik.