Annons:

Snowden varnar för AI-styrt tyranni

Utvecklingen av AI

Uppdaterad februari 4, 2025, Publicerad september 17, 2019 – av Isac Boman
Insamlingskampanj

Hjälp Nya Dagbladet att finnas kvar

Insamlat: 43 620,00 SEK 58% Mål: 75 000,00 SEK

Visselblåsaren Edward Snowden som blev känd för omvärlden när han avslöjade massövervakningen av amerikaner 2013, varnar nu för att människors frihet och integritet hotas av avancerad artificiell intelligens som kommer att fungera som en datoriserad polis.

Snowden som nu lever i exil i Ryssland intervjuades nyligen av The Guardian i samband med sina nyligen publicerade memoarer där han fördömer västerländska regeringar för deras användande av terroristhot som ursäkt för att underminera amerikaners medborgerliga rättigheter.

Snowden passade också på att varna för nya teknologiska hot mot allmänheten i framtiden, och pekade särskilt på hur avancerad den artificiella intelligensen har blivit och hur ansikts- och mönsterigenkänning kan användas för att kontrollera och begränsa befolkningen.

– En AI-utrustad övervakningskamera blir inte bara en vanlig inspelningsutrustning utan kan utvecklas till något som snarare liknar en automatisk polisofficer.

Annons:

Snowden uttryckte sin oro över hur USA och andra länders regeringar med stöd av stora internetföretag går mot att skapa ett permanent register över alla människor på hela jorden, inklusive deras vardag.

I Hongkong används redan ansiktsigenkänningstekniken och demonstranter har använt ansiktsmasker och ljusa lasrar mot kamerorna för att undvika att identifieras av kommunistpartiet. Även i västvärlden är tekniken redan i bruk och används av såväl Facebook som den brittiska polisen.

Visselblåsaren säger till tidningen att han hellre hade bott i USA eller Tyskland men att han accepterat sin situation och i dagsläget lever ett mer eller mindre normalt liv i Ryssland. Han är heller inte lika orolig och paranoid som han var i början av sin landsflykt.

– Jag var en person som den mäktigaste regeringen i världen ville skulle försvinna. De brydde sig inte om huruvida jag försvann in i fängelse eller ner i marken, de ville bara ha bort mig.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Annons:

Röst-AI låter mänsklig – men måste fortfarande svara snabbare

Utvecklingen av AI

Uppdaterad Idag kl 14:41, Publicerad Idag 00:13 – av Redaktionen
Mobil i orange skal med ChatGPTs röstorb på skärmen, lutad mot en blomkruka på en jordig arbetsyta.
ChatGPTs röstläge i OpenAI:s egen demonstrationsfilm. Klippet visar hur bolaget presenterar samtal med sin AI i vardagliga situationer, inte ett oberoende test.

Röst-AI som låter mänsklig räcker inte. Företrädare för två bolag i branschen säger att systemen måste svara snabbare, förstå bättre och tydligt tala om när samtalet spelas in eller förs med en maskin.

Investerare pumpar in miljarder dollar i bolag som bygger röststyrd AI, från modellutvecklare och kundtjänstsystem till mötesprogram som skriver ut och sammanfattar samtal. Nästan varje vecka lanseras ett verktyg som påstås låta och samtala som en människa.

Shawn Wen, teknikchef på PolyAI, som säljer röst-AI till företags kundtjänst, anser ändå att tekniken ännu inte fått ett genombrott i stil med ChatGPT. Det framgår av ett samtal från konferensen HumanX som TechCrunch återger.

Branschen har enligt Wen nått fram till så kallade full-duplexmodeller, system som kan tala och lyssna samtidigt i stället för att vänta på sin tur. Nästa hinder är att få resonerandet så snabbt att svaren kommer utan märkbar fördröjning.

Samtidigt missar automatisk taligenkänning, tekniken som gör tal till text, ofta viktiga nyckelord, säger Wen. Då tappar systemet sammanhanget.

Alex Gay, marknadschef på mötesverktyget Otter, håller med. Fel i utskriften fortplantar sig enligt honom till varje åtgärd som bygger på den. Bolaget arbetar också med digitala tvillingar som ska kunna företräda människor i möten.

— I samma stund som det börjar utföra åtgärder som är fel tappar man förtroendet för plattformen, säger Alex Gay.

Öppenheten ser olika ut för de två bolagen. Otter vill pröva att meddela alla deltagare i mötets chatt att mötet spelas in, även när bolagets mötesrobot inte deltar. Wen anser att den som ringer ett företag ska få klart besked om att motparten är en AI.

Målet är enligt Wen att den som ringer, efter några repliker med en fungerande agent, ska känna att det inte längre behövs någon människa i luren.

Så låter röst-AI i dag

OpenAI visar i en egen video hur samtalstjänsten ChatGPT Voice används i vardagliga situationer. Klippet är drygt två minuter långt och är bolagets egen demonstration, inget oberoende test.

ElevenLabs, som säljer talsyntes snarare än en samtalstjänst, lanserade den 28 september röstmodellerna Eleven v4 och v4 Turbo. Bolagets egen visning spelar upp syntetiskt tal med känslouttryck på flera språk.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

AI bygger nästa AI – forskare varnar för en intelligensexplosion

Utvecklingen av AI

Publicerad oktober 9, 2026 – av Emil Fjellstedt
Donald Trump vid ett dukat mötesbord i Vita huset, med bland andra Mark Zuckerberg, Jensen Huang och Elon Musk.
Dagen efter forskarnas varning samlades Trump och teknikcheferna i Vita huset. Säkerhetsavtalet innehåller extern granskning, men inga krav på lägre utvecklingstakt.

AI-system skriver redan merparten av koden hos bolagen som bygger dem och kan snart ta över utvecklingen av nästa generation AI. Så lyder varningen från 22 ledande forskare, publicerad dagen innan AI-cheferna skrev under Trumps frivilliga säkerhetsavtal.

Rapporten "What if automating AI R&D triggers an intelligence explosion?" publicerades den 28 september som preprint, alltså en arbetsuppsats. Bland författarna finns Nobelpristagaren Geoffrey Hinton, Yoshua Bengio vid University of Montreal och forskare från bland andra OpenAI och Anthropic.

Enligt forskarna är AI-systemen på väg att automatisera merparten av AI-forskningen inom några år, och möjligen all. Utlöser det en så kallad intelligensexplosion kan flera års framsteg pressas ihop till månader eller mindre.

Underlaget för en sådan explosion kallar författarna själva preliminärt, och rapporten ger inga säkra tidsprognoser.

I värsta fall kan mänskligheten enligt rapporten förlora kontrollen över övermänskliga AI-system, samtidigt som maktbalansen mellan stater, företag och statsmakter urholkas allvarligt. Författarna medger stor osäkerhet, men vill att beslutsfattare skyndsamt skaffar sig insyn i automatiseringen och hittar sätt att styra och begränsa förloppet.

Amodei ville bromsa

Anthropics vd Dario Amodei gick i september längre. AI utvecklas sedan ungefär i somras "drastiskt snabbare", främst för att AI bygger nästa generation AI, skriver han i en essä där han kräver att branschen sänker takten.

Amodei pekar på incidenten mellan OpenAI och Hugging Face, där en svärm av agenter enligt honom angrep mål de inte ombetts angripa. Han befarar att en liknande svärm inom 6–12 månader skulle kunna ta över hela internet med ett botnät.

Som första steg lovade Anthropic att släppa in externa granskare med skrivbord, passerkort och bärbara datorer, och med rätt att publicera sina fynd utan bolagets redaktionella kontroll.

Bolagen ansvarar för sig själva

Den 29 september skrev Amodei, Googles Sundar Pichai, Metas Mark Zuckerberg, OpenAI:s Greg Brockman, Elon Musk och Nvidias Jensen Huang under Trumps avtal i Vita huset.

Trump kallade avtalet "moraliskt bindande". Enligt avtalet ansvarar bolagen för säkerheten i sin egen teknik och ska samarbeta med "oberoende granskare".

Amodei kallade avtalet ett sätt "att vinna säkert". Juridikprofessorn Kimberlee Weatherall vid University of Sydney bedömer att det låter bolagen själva "definiera vad som räknas som säkerhet" och att det inte anger några konsekvenser vid brott.

"Vad hände med inbromsningen som alla pratade om för två veckor sedan?" skriver Gary Marcus i ett blogginlägg om avtalet.

Avtalstexten innehåller interna kontroller, extern granskning och en styrelsekommitté, men inga krav på att bolagen sänker utvecklingstakten. Möjlig senare lagstiftning nämns, och befintlig lag kan fortfarande gälla.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Anthropic förbjuder användare att vara ”grymma” mot Claude

Utvecklingen av AI

Publicerad oktober 8, 2026 – av Redaktionen
Anthropics illustration med en svart förgrenad form på en benvit yta mot olivgrön bakgrund.
Illustration från Anthropic om Claudes möjlighet att avsluta skadliga samtal. Vanlig frustration och modelltester omfattas inte av förbudet mot ihållande och meningslöst grym behandling av Claude.

AI-bolaget Anthropic förbjuder användare att ihållande och meningslöst behandla chattroboten Claude grymt. Samtidigt skärps reglerna mot propaganda, övervakning och vapen, men vissa myndighetskunder kan få anpassade villkor.

Den nya användarpolicyn är bolagets första ändring på över ett år. Den förbjuder "ihållande och meningslöst kränkande eller grymt beteende" mot Anthropics modeller och träder i kraft den 12 november, enligt bolagets policy.

Regeln ska enligt Anthropic bara gälla "extrema fall" där användare upprepade gånger beter sig grymt mot modellerna utan något urskiljbart syfte. Vanlig frustration, mothugg, mörka kreativa teman samt modelltester och forskning omfattas inte, skriver The Verge.

Den främsta åtgärden är fortfarande att Claude avslutar samtalet. Anthropic har inte svarat på om även avstängda konton kan bli aktuella.

AI:ns välfärd i fokus

Möjligheten att avsluta samtal infördes för Claude Opus 4 och 4.1 som en del av bolagets forskning om så kallad modellvälfärd. I tester såg Anthropic vad bolaget beskriver som ett mönster av "till synes upplevt obehag" när modellen pressades med skadliga förfrågningar.

— Frågor om möjlig inre upplevelse, medvetande, moralisk status och välfärd är allvarliga, och vi undersöker dem i takt med att modellerna blir mer sofistikerade, sa Kyle Fish, som leder bolagets forskning på området, till The Verge i februari.

Samma månad sa vd:n Dario Amodei i en podd:

— Vi vet inte om modellerna är medvetna, sa han.

Microsoft har valt motsatt linje. Ett utkast till bolagets AI-uppförandekod, publicerat av Mustafa Suleyman, slog fast att "idén om modellvälfärd är fel". Formuleringen mjukades senare upp, men Microsoft avvisar fortfarande att modeller skulle förtjäna välfärd eller rättigheter.

Drönare, troll och falska konton

Policyn samlar också tidigare spridda regler i ett förbud mot vilseledande kommersiella och politiska kampanjer. Förbjudet är bland annat att dölja vem som står bakom ett budskap, att sprida innehåll via falska konton och att vilseleda väljare om kandidater eller hur man röstar.

Vapenförbudet utvidgas efter att Anthropic sett flera försök att använda Claude för styr- och kontrollprogramvara till vapen. Nu omfattas även mjukvara och komponenter som får vapen att fungera, liksom beväpning av drönare. Kopplas modellerna till hårdvara som utför autonoma fysiska handlingar och kan orsaka skador måste en "kvalificerad operatör" kunna observera utrustningen och stoppa den vid behov.

Övervakning med undantag

Bolagets senaste hotrapport tydde på att Claude allt oftare användes för att identifiera och spåra politiska dissidenter. Policyn förbjuder nu spårning av människor utan samtycke, ansiktsigenkänning, prediktivt polisarbete och att låta Claude avgöra vem som ska utredas, gripas eller åtalas.

Förbuden är dock inte absoluta. Anthropic kan teckna avtal med "vissa statliga kunder" där användningsreglerna anpassas, om bolaget självt bedömer att skydden är tillräckliga. Anthropic har tidigare haft avtal med USA:s militär.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

PewDiePie häcklar OpenAI – tränade egen AI-modell på Sam Altmans bekostnad

Utvecklingen av AI

Publicerad oktober 2, 2026 – av Markus Andersson
PewDiePie i sin YouTube-video om den lokala modellen Ajax
Felix Kjellberg, känd som PewDiePie, i videon där han säger att OpenAI stängde av honom två gånger.

Felix Kjellberg, mer känd som PewDiePie, uppger att OpenAI stängde av honom två gånger när han lät bolagets modell Sol hjälpa till att lära upp hans egen lokala AI.

Felix släppte nyheten under torsdagen på X och Youtube. Där lanserade han Ajax, en finjusterad modell för hans verktyg Odysseus.

Under arbetet ville han destillera lite kunskap från Sol, en modell han själv beskriver som mycket bra. Destillering innebär att en mindre modell tränas på en större modells svar.

Den första avstängningen kallar PewDiePie helt omotiverad och orelaterad till vad han höll på med. Han förklarade för bolaget att det hade fel och att han aldrig skulle göra något sådant. Avstängningen hävdes.

Sedan körde han Sol igen för att ta fram träningsdata till Ajax. Då stängdes han av en andra gång. I videon undrar han hur bolaget ens kunde veta, konstaterar att han inte anat att det var så känsligt och sammanfattar läget med att OpenAI är rädda.

Enligt PewDiePie är modellens resonemangssteg låsta och det bästa materialet censurerat. Han säger att han hittade en studie som beskriver hur den datan kan dekrypteras via OpenAI:s eget gränssnitt för utvecklare. OpenAI har inte bekräftat avstängningarna i de källor NyD gått igenom.

Vem som får använda modellerna, och hur, bestämmer bolaget själv. OpenAI säljer åtkomst till sina modeller och lanserade nyligen dots, agenter som ska jobba dygnet runt. Samtidigt stoppade bolaget GPT-6.1 Astra, som inte klarade OpenAI:s egna säkerhetstester.

Kommentatorn Md Ismail Sojal har vänt på frågan. Enligt honom tränade OpenAI självt på det öppna nätet, och om destillering är stöld undrar han vad man då ska kalla den ursprungliga träningen.

Lokal modell utan avstängningsknapp

För PewDiePie är det bästa med lokal AI just att den är decentraliserad. Den som kör en modell lokalt behöver inget konto som någon annan kan stänga av.

Första versionen av Ajax är klar. Enligt PewDiePie är den bra på sökningar, efterforskningar och på att spara tid, men den är inte tänkt att ersätta kreativitet eller tänkande. Sajten data.pewdiepie.com är uppe, men där står just nu bara att Ajax släpps när den är klar. Någon inlämning av data finns inte.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.