Annons:

Påven varnar för AI:s makt över människan

Utvecklingen av AI

Publicerad maj 30, 2026 – av Redaktionen
Påve Leo XIV varnar för AI:s samhällsrisker
Påve Leo XIV varnar i sin första encyklika för att artificiell intelligens kan koncentrera makt och försvaga mänskligt ansvar.
Insamlingskampanj

Hjälp Nya Dagbladet att finnas kvar

Insamlat: 49 100,00 SEK 65% Mål: 75 000,00 SEK

Påven Leo XIV:s första encyklika är en omfattande varning om artificiell intelligens. I Magnifica humanitas beskriver han AI som en teknik som kan hjälpa människan – men också koncentrera makt, försvaga omdömet, hota arbetet och göra krig lättare att föra.

Påven Leo XIV undertecknade dokumentet den 15 maj, exakt 135 år efter att Leo XIII satte sitt namn under Rerum novarum, den katolska sociallärans klassiska text om arbete, kapital och industrisamhällets nya konflikter. Vatikanen publicerade encyklikan den 25 maj, rapporterar Vatican News.

Den nya texten, som omfattar drygt 42 000 ord, bär titeln Magnifica humanitas: Om värnandet av människan i den artificiella intelligensens tidsålder. I centrum står frågan om vad som händer med människans värdighet, frihet och ansvar när algoritmer formar allt fler beslut, relationer och samhällsfunktioner.

”Tekniken är aldrig neutral, eftersom den präglas av dem som utformar, finansierar, reglerar och använder den”, skriver påven i encyklikan.

Annons:

Leo XIV förkastar inte tekniken som sådan. Han beskriver AI som en möjlig gåva som kan lindra lidande och öppna nya möjligheter. Men han varnar samtidigt för att teknisk utveckling som drivs av vinst, makt och militär konkurrens riskerar att göra människan till råvara, datapunkt eller produktionsenhet.

Inte en fråga om ja eller nej

I och med encyklikan skrivs AI-frågan in i samma tradition som kyrkans äldre sociala texter om industrialisering, arbete och social rättvisa. Påven skriver att den avgörande frågan inte är om samhället ska säga ja eller nej till teknik, utan vilken sorts samhälle tekniken ska bygga.

Han använder två bibliska bilder: Babels torn och Jerusalem. Babel står för teknisk makt utan ödmjukhet, där effektivitet och kontroll blir mål i sig själva. Jerusalem står för ett samhälle byggt på ansvar, gemenskap och respekt för människans gränser.

”Att avväpna betyder inte att avvisa tekniken, utan att hindra den från att dominera mänskligheten”, skriver Leo XIV.

Ett återkommande tema är hur artificiell intelligens kan efterlikna mänskligt tänkande och mänsklig omsorg utan att själv bära ansvar, ha förmåga till relationer eller äga ett samvete. Påven varnar särskilt för att sårbara människor kan börja förväxla chattbotar och digitala assistenter med verklig mänsklig närvaro.

Han skriver att inget beräkningssystem, hur avancerat det än är, kan skapa ”ett hjärta som ger sig självt” eller ”ett samvete som urskiljer gott från ont”.

Risk för koncentrerad makt

Ett av encyklikans skarpaste avsnitt behandlar maktkoncentrationen. Påven pekar på att de resurser som krävs för avancerad AI – datamängder, beräkningskraft, kapital och teknisk kompetens – i praktiken samlas hos ett fåtal företag och aktörer.

En mer ”moralisk” AI räcker inte, skriver Leo XIV, om det är ett fåtal som definierar vad denna moral ska vara.

Resonemanget knyter an till den växande politiska debatten om hur AI ska regleras vid exempelvis anställningsförfaranden, kreditprövningar, offentlig service, sjukvård och rättsväsende. Om besluten flyttas in i system som få kan förstå eller granska riskerar ansvaret att försvinna.

Påven efterlyser därför rättsliga ramar, oberoende tillsyn, informerade användare och politiker som inte överlåter samhällsutvecklingen åt marknaden eller teknikbolagen.

Enligt tidskriften Time presenterade Leo XIV encyklikan i Vatikanen tillsammans med Christopher Olah, medgrundare av AI-bolaget Anthropic. Symboliken är tydlig: kyrkan vill tala direkt till den tekniska maktens centrum, inte bara kommentera utvecklingen från sidlinjen.

Arbete, sanning och demokrati

Precis som Rerum novarum kretsar Magnifica humanitas kring arbetets värdighet. Påven varnar för att automatisering kan slå sönder arbetsmarknader och skapa vad han beskriver som ”påtvingad inaktivitet”, där människor inte bara förlorar inkomst utan också social delaktighet och mening.

”Jakten på större vinster kan inte rättfärdiga val som systematiskt offrar arbetstillfällen”, skriver påven enligt Time.

Påven varnar också för hoten mot sanningen. AI kan på några sekunder skapa texter, bilder, röster och videor som ser trovärdiga ut men är fabricerade. Encyklikan publiceras inför valrörelser i västvärlden, i ett informationsklimat där AI-genererat material redan påverkar politisk kommunikation, opinionsbildning och förtroendet för medier.

Leo XIV kopplar därför samman AI med demokratins grundvillkor. Om människor inte längre kan skilja verklighet från manipulation blir även den offentliga debatten sårbar.

”Ingen algoritm kan göra krig moraliskt acceptabelt”

Påvens skarpaste formuleringar rör AI i krigföring. Han varnar för att autonoma vapensystem och snabbare beslutsprocesser kan sänka tröskeln för våld.

”Ingen algoritm kan göra krig moraliskt acceptabelt”, skriver han.

Encyklikan varnar också för att teknik som gör det möjligt att angripa utan att se människans ansikte ökar avståndet mellan beslut och konsekvenser. Ju mer kriget framstår som ett tekniskt problem, desto lättare blir det att dölja det mänskliga ansvaret.

Budskapet riktar sig inte bara till katoliker. Dokumentet publiceras i ett skede när regeringar, företag och internationella organisationer försöker formulera regler för AI samtidigt som tekniken redan förändrar arbetsliv, utbildning, militär planering och politisk kommunikation.

Leo XIV konstaterar att mänskligheten inte står inför en renodlad teknikfråga, utan inför ett vägval som rör vår människosyn. AI kan tjäna människan – men bara om människan inte låter sig reduceras till det som tekniken kan mäta, sortera och ersätta.

Läsaromröstning

Vilket av påven Leo XIV:s budskap i den nya AI-encyklikan anser du vara viktigast?

Röstning stängd

Att teknik aldrig är neutral – den formas av makt och vinstintressen 29%
5 röster
Att AI hotar människans värdighet, omdöme och ansvar 35%
6 röster
Att färre aktörer får för stor makt över samhällsutvecklingen 29%
5 röster
Att vi måste reglera AI med lagar och oberoende tillsyn 6%
1 röst

17 röster totalt

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Annons:

Nya DeepSeek Flash tar stora kliv fram för kostnadseffektiv AI-användning

Utvecklingen av AI

Publicerad Idag 19:16 – av Markus Andersson
Illustrativt montage med DeepSeeks vita logotyp och en vardagsdator med abstrakta verktygsytor i blått och cyan.
DeepSeeks uppgraderade V4.1 Flash kan läsa text och bilder samt skriva kod, till ett lågt pris.

Kinesiska DeepSeek har släppt en uppgraderad version av sin öppna AI-modell V4.1 Flash. Modellen läser text och bilder och skriver kod. Priset är så lågt att avancerad AI blir en realistisk resurs för privatpersoner, småföretag och föreningar.

Den nya versionen heter DeepSeek-V4.1-Flash-1017. Siffrorna står för releasedatumet den 17 oktober. Enligt modellkortet är den en mindre uppdatering av V4.1 Flash, med förbättringar inom resonemang, kod, agentuppgifter och bildtester. Bolaget uppger också att modellen löser uppgifter snabbare och med kortare svar, vilket sänker kostnaden per uppgift.

Modellvikterna, alltså själva den tränade modellen, ges ut under MIT-licensen, en av de mest tillåtande licenserna som finns. Vem som helst får ladda ner, köra, ändra och bygga vidare på dem, även kommersiellt.

Bildförståelsen fanns redan i septemberversionen. Nytt är att samma allroundmodell enligt DeepSeek har blivit både vassare och snabbare.

DeepSeek skriver på X att uppdateringen ger "starkare testresultat, snabbare uppgiftslösning och kortare svar än den tidigare versionen – en Pareto-förbättring i prestanda och kostnad". Med det menar bolaget att modellen blivit bättre utan att något annat blivit sämre. Modellen finns redan på bolagets webbplats, i appen och via API:t.

Slår amerikanska rivaler på flera prov

DeepSeek jämför 1017 med OpenAI:s GPT-5.6 Sol och Anthropics Opus 5. De allra senaste amerikanska modellerna, GPT-6 och Opus 5.5, finns inte med i tabellen. Siffrorna är dessutom bolagets egna och har inte verifierats av redaktionen.

Inom agentarbete och programmering är resultaten ändå slående. På kodtestet DeepSWE får 1017 77,0 poäng, mot 73,0 för GPT-5.6 Sol och 74,0 för Opus 5. På Automation Bench är avståndet större, 60,5 poäng mot 45,8 respektive 50,3.

Samma mönster syns på Agents' Last Exam och Apex Bench. Där leder DeepSeek-modellen med 35,4 respektive 72,1 poäng, en tydlig förbättring från föregångarens 31,8 och 64,6.

Alla prov vinner modellen inte. På Terminal Bench 4, där uppgifterna löses i en kommandoterminal, får Opus 5 51,8 poäng mot DeepSeeks 42,3. På ProgramBench leder Opus med 37 mot 29,1. I kunskapsprovet Humanity's Last Exam utan verktyg är skillnaden ännu större: 42,6 för DeepSeek mot 56,3 för Opus.

På bildproven ligger 1017 i nivå med konkurrenterna. I Chartography får den 83 poäng, mot 79,9 för GPT-5.6 Sol och 84 för Opus 5. I BabyVision hamnar den mellan de två amerikanska modellerna, och i ZeroBench strax under båda.

DeepSeeks resultattabell för V4.1 Flash 1017 och jämförelsemodellerna.
DeepSeeks egen tabell visar förbättringar jämfört med föregångaren, men också tester där amerikanska jämförelsemodeller leder. Bild: DeepSeek.

DeepSeek har också publicerat en videodemonstration där modellen enligt bolaget bygger kompletta projekt från grunden, "från spelskapande till 3D-modellering". Ett av klippen visar en kameraåkning genom en tredimensionell palatsmiljö med gula tak och röda väggar. Uppvisningen är bolagets egen, inte ett oberoende test.

Användare har redan börjat visa upp egna resultat. En X-användare publicerade ett förstapersonsspel kallat Sun Garden, med antika ruiner, ljuseffekter och föremål som går att skjuta på, och uppger att koden skrevs av 1017. Modellen genererar alltså ingen video. Den skriver koden som bygger spelet.

Priset gör skillnaden

I DeepSeeks eget API kostar modellen 0,30 dollar per miljon tokens indata och 1,20 dollar per miljon tokens utdata. En token är en bit av ett ord, ungefär den enhet modellen läser och skriver i.

Under lågtrafik halveras priset till 0,15 respektive 0,60 dollar. Text som redan ligger i cacheminnet kostar bara 0,006 dollar per miljon tokens under högtrafik och 0,003 dollar under lågtrafik. Lågtrafikpriset gäller hela helgen.

DeepSeeks diagram över lösta DeepSWE-uppgifter och kostnad per uppgift.
DeepSeeks separata kostnadsdiagram jämför DeepSWE-resultat vid olika inställningar och omfattar även nyare amerikanska modeller än tabellen ovan. Siffrorna är bolagets redovisning, inte NyD:s egna mätningar. Bild: DeepSeek.

Modellen kan hålla en miljon tokens i minnet i samma samtal. Det räcker för att läsa in långa avtal, utredningar eller hela kodbaser på en gång.

Verktygen hamnar hos vanligt folk

Den verkliga följden handlar om vem som får tillgång till verktygen. En förening kan låta modellen gå igenom protokoll och skannade dokument. En hantverkare kan analysera fotografier och ritningar, och ett litet företag kan bygga egna interna verktyg. Inget av det kräver ett dyrt och låst abonnemang hos en amerikansk techjätte.

Öppna vikter gör att ingen enskild leverantör kan stänga dörren. Om en molntjänst höjer priset eller ändrar villkoren kan användaren gå till en annan som kör samma modell. Arbetsverktygen är dessutom utbytbara och kan kopplas till olika modeller.

Gränserna finns kvar. Med 763 miljarder parametrar är modellen alldeles för stor för en vanlig bärbar dator, så de flesta kommer att använda den via molnet. Beräkningskraften kostar pengar och gör användaren beroende av den som driver servrarna.

Samtidigt är det en kinesisk aktör som lägger en konkurrenskraftig modell i allmänhetens händer, medan de amerikanska toppmodellerna från OpenAI och Anthropic bara går att hyra. Öppna kinesiska modeller har tidigare utmanat amerikanska toppnamn också inom bild.

Motor, verkstad och driftbolag

För den som vill komma igång hjälper det att skilja på tre saker. Modellen är motorn som tänker. Arbetsmiljön, på engelska ofta kallad harness eller agent, är verkstaden som ger motorn händer: den läser filer, kör kommandon och planerar arbetet. Driftleverantören kör modellen på sina servrar och tar betalt för det.

OpenCode är en fri arbetsmiljö med öppen källkod som körs i terminalen. Ollama beskriver hur den läser projektet, redigerar filer, kör kommandon, delar upp arbetet på underagenter, hämtar webbsidor och tar emot bilder och skärmdumpar. Användaren väljer själv leverantör och modell, med egen API-nyckel eller via OpenCodes frivilliga abonnemang Zen och Go.

DeepSeek Harness är bolagets egen arbetsmiljö, släppt med öppen källkod under MIT-licens och byggd på principen "everything is a plugin", alltså att allt är ett tillägg. Med Node.js installerat startas den med kommandot npx @deepseek-ai/dsh web, som öppnar ett lokalt gränssnitt i webbläsaren.

Under Settings och Models lägger man in sin API-nyckel, väljer en projektmapp och beskriver uppgiften. Agenten läser och skriver filer, kör kommandon och planerar, och ber om godkännande enligt de behörighetsregler användaren satt. Enligt DeepSeek är 1017 särskilt optimerad för Harness och för Tencents verktyg CodeBuddy och WorkBuddy.

Ollama lovar att inte spara innehållet

Ollama Cloud erbjuder V4.1 Flash till samma pris som DeepSeek, med halva priset utanför högtrafik. Ett gratiskonto kan köpa krediter utan serviceavgift. Pro kostar 20 dollar i månaden och innehåller krediter för 60 dollar, vilket vid högtrafikpris räcker till 200 miljoner tokens indata eller 50 miljoner tokens utdata.

Ollamas katalog listar modellfamiljen men bekräftar inte att just 1017-versionen har rullats ut där. Den nya versionen finns bekräftat hos DeepSeek direkt.

Enligt Ollamas integritetspolicy behandlas prompter och svar bara tillfälligt för att leverera tjänsten och används aldrig för träning. Samarbetspartnerna måste tillämpa så kallad zero data retention, alltså att inget innehåll sparas. Kontouppgifter, betalningar, IP-adress och viss användningsdata kan däremot lagras.

Servrarna står främst i USA, med Europa som reserv vid hög belastning. Kommandot ollama launch opencode startar OpenCode direkt kopplat till Ollamas modeller.

Ge agenten minsta möjliga behörighet

Agenter som får läsa och skriva filer kan också göra skada. DeepSeek Harness är fortfarande en förhandsversion för utvecklare, och bolaget varnar för ändringar som bryter kompatibiliteten. Enligt projektets säkerhetsanvisning är verktyget varken säkerhetsgranskat eller produktionsklart, och tillägg och kod kan skada eller läcka data.

Rådet är att ge agenten minsta möjliga behörighet, köra den i en isolerad testmiljö och ha säkerhetskopior. DeepSeek rekommenderar Harness i version 0.2.1-rc.1 eller senare. Fram till den 1 november, Pekingtid, bjuder bolaget på de integrerade serververktygen när modellen används via Harness, Claude Code eller Codex.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Röst-AI låter mänsklig – men måste fortfarande svara snabbare

Utvecklingen av AI

Uppdaterad oktober 12, 2026, Publicerad oktober 12, 2026 – av Redaktionen
Mobil i orange skal med ChatGPTs röstorb på skärmen, lutad mot en blomkruka på en jordig arbetsyta.
ChatGPTs röstläge i OpenAI:s egen demonstrationsfilm. Klippet visar hur bolaget presenterar samtal med sin AI i vardagliga situationer, inte ett oberoende test.

Röst-AI som låter mänsklig räcker inte. Företrädare för två bolag i branschen säger att systemen måste svara snabbare, förstå bättre och tydligt tala om när samtalet spelas in eller förs med en maskin.

Investerare pumpar in miljarder dollar i bolag som bygger röststyrd AI, från modellutvecklare och kundtjänstsystem till mötesprogram som skriver ut och sammanfattar samtal. Nästan varje vecka lanseras ett verktyg som påstås låta och samtala som en människa.

Shawn Wen, teknikchef på PolyAI, som säljer röst-AI till företags kundtjänst, anser ändå att tekniken ännu inte fått ett genombrott i stil med ChatGPT. Det framgår av ett samtal från konferensen HumanX som TechCrunch återger.

Branschen har enligt Wen nått fram till så kallade full-duplexmodeller, system som kan tala och lyssna samtidigt i stället för att vänta på sin tur. Nästa hinder är att få resonerandet så snabbt att svaren kommer utan märkbar fördröjning.

Samtidigt missar automatisk taligenkänning, tekniken som gör tal till text, ofta viktiga nyckelord, säger Wen. Då tappar systemet sammanhanget.

Alex Gay, marknadschef på mötesverktyget Otter, håller med. Fel i utskriften fortplantar sig enligt honom till varje åtgärd som bygger på den. Bolaget arbetar också med digitala tvillingar som ska kunna företräda människor i möten.

— I samma stund som det börjar utföra åtgärder som är fel tappar man förtroendet för plattformen, säger Alex Gay.

Öppenheten ser olika ut för de två bolagen. Otter vill pröva att meddela alla deltagare i mötets chatt att mötet spelas in, även när bolagets mötesrobot inte deltar. Wen anser att den som ringer ett företag ska få klart besked om att motparten är en AI.

Målet är enligt Wen att den som ringer, efter några repliker med en fungerande agent, ska känna att det inte längre behövs någon människa i luren.

Så låter röst-AI i dag

OpenAI visar i en egen video hur samtalstjänsten ChatGPT Voice används i vardagliga situationer. Klippet är drygt två minuter långt och är bolagets egen demonstration, inget oberoende test.

ElevenLabs, som säljer talsyntes snarare än en samtalstjänst, lanserade den 28 september röstmodellerna Eleven v4 och v4 Turbo. Bolagets egen visning spelar upp syntetiskt tal med känslouttryck på flera språk.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

AI bygger nästa AI – forskare varnar för en intelligensexplosion

Utvecklingen av AI

Publicerad oktober 9, 2026 – av Emil Fjellstedt
Donald Trump vid ett dukat mötesbord i Vita huset, med bland andra Mark Zuckerberg, Jensen Huang och Elon Musk.
Dagen efter forskarnas varning samlades Trump och teknikcheferna i Vita huset. Säkerhetsavtalet innehåller extern granskning, men inga krav på lägre utvecklingstakt.

AI-system skriver redan merparten av koden hos bolagen som bygger dem och kan snart ta över utvecklingen av nästa generation AI. Så lyder varningen från 22 ledande forskare, publicerad dagen innan AI-cheferna skrev under Trumps frivilliga säkerhetsavtal.

Rapporten "What if automating AI R&D triggers an intelligence explosion?" publicerades den 28 september som preprint, alltså en arbetsuppsats. Bland författarna finns Nobelpristagaren Geoffrey Hinton, Yoshua Bengio vid University of Montreal och forskare från bland andra OpenAI och Anthropic.

Enligt forskarna är AI-systemen på väg att automatisera merparten av AI-forskningen inom några år, och möjligen all. Utlöser det en så kallad intelligensexplosion kan flera års framsteg pressas ihop till månader eller mindre.

Underlaget för en sådan explosion kallar författarna själva preliminärt, och rapporten ger inga säkra tidsprognoser.

I värsta fall kan mänskligheten enligt rapporten förlora kontrollen över övermänskliga AI-system, samtidigt som maktbalansen mellan stater, företag och statsmakter urholkas allvarligt. Författarna medger stor osäkerhet, men vill att beslutsfattare skyndsamt skaffar sig insyn i automatiseringen och hittar sätt att styra och begränsa förloppet.

Amodei ville bromsa

Anthropics vd Dario Amodei gick i september längre. AI utvecklas sedan ungefär i somras "drastiskt snabbare", främst för att AI bygger nästa generation AI, skriver han i en essä där han kräver att branschen sänker takten.

Amodei pekar på incidenten mellan OpenAI och Hugging Face, där en svärm av agenter enligt honom angrep mål de inte ombetts angripa. Han befarar att en liknande svärm inom 6–12 månader skulle kunna ta över hela internet med ett botnät.

Som första steg lovade Anthropic att släppa in externa granskare med skrivbord, passerkort och bärbara datorer, och med rätt att publicera sina fynd utan bolagets redaktionella kontroll.

Bolagen ansvarar för sig själva

Den 29 september skrev Amodei, Googles Sundar Pichai, Metas Mark Zuckerberg, OpenAI:s Greg Brockman, Elon Musk och Nvidias Jensen Huang under Trumps avtal i Vita huset.

Trump kallade avtalet "moraliskt bindande". Enligt avtalet ansvarar bolagen för säkerheten i sin egen teknik och ska samarbeta med "oberoende granskare".

Amodei kallade avtalet ett sätt "att vinna säkert". Juridikprofessorn Kimberlee Weatherall vid University of Sydney bedömer att det låter bolagen själva "definiera vad som räknas som säkerhet" och att det inte anger några konsekvenser vid brott.

"Vad hände med inbromsningen som alla pratade om för två veckor sedan?" skriver Gary Marcus i ett blogginlägg om avtalet.

Avtalstexten innehåller interna kontroller, extern granskning och en styrelsekommitté, men inga krav på att bolagen sänker utvecklingstakten. Möjlig senare lagstiftning nämns, och befintlig lag kan fortfarande gälla.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Anthropic förbjuder användare att vara ”grymma” mot Claude

Utvecklingen av AI

Publicerad oktober 8, 2026 – av Redaktionen
Anthropics illustration med en svart förgrenad form på en benvit yta mot olivgrön bakgrund.
Illustration från Anthropic om Claudes möjlighet att avsluta skadliga samtal. Vanlig frustration och modelltester omfattas inte av förbudet mot ihållande och meningslöst grym behandling av Claude.

AI-bolaget Anthropic förbjuder användare att ihållande och meningslöst behandla chattroboten Claude grymt. Samtidigt skärps reglerna mot propaganda, övervakning och vapen, men vissa myndighetskunder kan få anpassade villkor.

Den nya användarpolicyn är bolagets första ändring på över ett år. Den förbjuder "ihållande och meningslöst kränkande eller grymt beteende" mot Anthropics modeller och träder i kraft den 12 november, enligt bolagets policy.

Regeln ska enligt Anthropic bara gälla "extrema fall" där användare upprepade gånger beter sig grymt mot modellerna utan något urskiljbart syfte. Vanlig frustration, mothugg, mörka kreativa teman samt modelltester och forskning omfattas inte, skriver The Verge.

Den främsta åtgärden är fortfarande att Claude avslutar samtalet. Anthropic har inte svarat på om även avstängda konton kan bli aktuella.

AI:ns välfärd i fokus

Möjligheten att avsluta samtal infördes för Claude Opus 4 och 4.1 som en del av bolagets forskning om så kallad modellvälfärd. I tester såg Anthropic vad bolaget beskriver som ett mönster av "till synes upplevt obehag" när modellen pressades med skadliga förfrågningar.

— Frågor om möjlig inre upplevelse, medvetande, moralisk status och välfärd är allvarliga, och vi undersöker dem i takt med att modellerna blir mer sofistikerade, sa Kyle Fish, som leder bolagets forskning på området, till The Verge i februari.

Samma månad sa vd:n Dario Amodei i en podd:

— Vi vet inte om modellerna är medvetna, sa han.

Microsoft har valt motsatt linje. Ett utkast till bolagets AI-uppförandekod, publicerat av Mustafa Suleyman, slog fast att "idén om modellvälfärd är fel". Formuleringen mjukades senare upp, men Microsoft avvisar fortfarande att modeller skulle förtjäna välfärd eller rättigheter.

Drönare, troll och falska konton

Policyn samlar också tidigare spridda regler i ett förbud mot vilseledande kommersiella och politiska kampanjer. Förbjudet är bland annat att dölja vem som står bakom ett budskap, att sprida innehåll via falska konton och att vilseleda väljare om kandidater eller hur man röstar.

Vapenförbudet utvidgas efter att Anthropic sett flera försök att använda Claude för styr- och kontrollprogramvara till vapen. Nu omfattas även mjukvara och komponenter som får vapen att fungera, liksom beväpning av drönare. Kopplas modellerna till hårdvara som utför autonoma fysiska handlingar och kan orsaka skador måste en "kvalificerad operatör" kunna observera utrustningen och stoppa den vid behov.

Övervakning med undantag

Bolagets senaste hotrapport tydde på att Claude allt oftare användes för att identifiera och spåra politiska dissidenter. Policyn förbjuder nu spårning av människor utan samtycke, ansiktsigenkänning, prediktivt polisarbete och att låta Claude avgöra vem som ska utredas, gripas eller åtalas.

Förbuden är dock inte absoluta. Anthropic kan teckna avtal med "vissa statliga kunder" där användningsreglerna anpassas, om bolaget självt bedömer att skydden är tillräckliga. Anthropic har tidigare haft avtal med USA:s militär.

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.