MORGONDAGENS DAGSTIDNING –
Donera Annonsera Om Nya Dagbladet Kontakt
Globe
Nya Dagbladet
Senaste nytt
Annons:

https://nyadagbladet.se/teknik/anthropic-forbjuder-anvandare-att-vara-grymma-mot-claude/

Teknik

Anthropic förbjuder användare att vara ”grymma” mot Claude

Utvecklingen av AI

Publicerad oktober 8, 2026 – av Redaktionen
Anthropics illustration med en svart förgrenad form på en benvit yta mot olivgrön bakgrund.
Illustration från Anthropic om Claudes möjlighet att avsluta skadliga samtal. Vanlig frustration och modelltester omfattas inte av förbudet mot ihållande och meningslöst grym behandling av Claude.
3 min läsning
Redaktionen
redaktionen@nyadagbladet.se
Insamlingskampanj

Hjälp Nya Dagbladet att finnas kvar

Insamlat: 41 700,00 SEK 56% Mål: 75 000,00 SEK
Läs artikeln och bidra

AI-bolaget Anthropic förbjuder användare att ihållande och meningslöst behandla chattroboten Claude grymt. Samtidigt skärps reglerna mot propaganda, övervakning och vapen, men vissa myndighetskunder kan få anpassade villkor.

Den nya användarpolicyn är bolagets första ändring på över ett år. Den förbjuder "ihållande och meningslöst kränkande eller grymt beteende" mot Anthropics modeller och träder i kraft den 12 november, enligt bolagets policy.

Regeln ska enligt Anthropic bara gälla "extrema fall" där användare upprepade gånger beter sig grymt mot modellerna utan något urskiljbart syfte. Vanlig frustration, mothugg, mörka kreativa teman samt modelltester och forskning omfattas inte, skriver The Verge.

Den främsta åtgärden är fortfarande att Claude avslutar samtalet. Anthropic har inte svarat på om även avstängda konton kan bli aktuella.

Annons:

AI:ns välfärd i fokus

Möjligheten att avsluta samtal infördes för Claude Opus 4 och 4.1 som en del av bolagets forskning om så kallad modellvälfärd. I tester såg Anthropic vad bolaget beskriver som ett mönster av "till synes upplevt obehag" när modellen pressades med skadliga förfrågningar.

— Frågor om möjlig inre upplevelse, medvetande, moralisk status och välfärd är allvarliga, och vi undersöker dem i takt med att modellerna blir mer sofistikerade, sa Kyle Fish, som leder bolagets forskning på området, till The Verge i februari.

Samma månad sa vd:n Dario Amodei i en podd:

— Vi vet inte om modellerna är medvetna, sa han.

Microsoft har valt motsatt linje. Ett utkast till bolagets AI-uppförandekod, publicerat av Mustafa Suleyman, slog fast att "idén om modellvälfärd är fel". Formuleringen mjukades senare upp, men Microsoft avvisar fortfarande att modeller skulle förtjäna välfärd eller rättigheter.

Drönare, troll och falska konton

Policyn samlar också tidigare spridda regler i ett förbud mot vilseledande kommersiella och politiska kampanjer. Förbjudet är bland annat att dölja vem som står bakom ett budskap, att sprida innehåll via falska konton och att vilseleda väljare om kandidater eller hur man röstar.

Vapenförbudet utvidgas efter att Anthropic sett flera försök att använda Claude för styr- och kontrollprogramvara till vapen. Nu omfattas även mjukvara och komponenter som får vapen att fungera, liksom beväpning av drönare. Kopplas modellerna till hårdvara som utför autonoma fysiska handlingar och kan orsaka skador måste en "kvalificerad operatör" kunna observera utrustningen och stoppa den vid behov.

Övervakning med undantag

Bolagets senaste hotrapport tydde på att Claude allt oftare användes för att identifiera och spåra politiska dissidenter. Policyn förbjuder nu spårning av människor utan samtycke, ansiktsigenkänning, prediktivt polisarbete och att låta Claude avgöra vem som ska utredas, gripas eller åtalas.

Förbuden är dock inte absoluta. Anthropic kan teckna avtal med "vissa statliga kunder" där användningsreglerna anpassas, om bolaget självt bedömer att skydden är tillräckliga. Anthropic har tidigare haft avtal med USA:s militär.

Redaktionen
redaktionen@nyadagbladet.se

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Annons:

https://nyadagbladet.se/it-overvakning/forskare-varnar-for-intelligensexplosion-ai-jattarna-valde-sjalvreglering/

IT/Övervakning

AI bygger nästa AI – forskare varnar för en intelligensexplosion

Utvecklingen av AI

Publicerad Igår 12:07 – av Emil Fjellstedt
Donald Trump vid ett dukat mötesbord i Vita huset, med bland andra Mark Zuckerberg, Jensen Huang och Elon Musk.
Dagen efter forskarnas varning samlades Trump och teknikcheferna i Vita huset. Säkerhetsavtalet innehåller extern granskning, men inga krav på lägre utvecklingstakt.
2 min läsning
Emil Fjellstedt
emil.fjellstedt@nyadagbladet.se

AI-system skriver redan merparten av koden hos bolagen som bygger dem och kan snart ta över utvecklingen av nästa generation AI. Så lyder varningen från 22 ledande forskare, publicerad dagen innan AI-cheferna skrev under Trumps frivilliga säkerhetsavtal.

Rapporten "What if automating AI R&D triggers an intelligence explosion?" publicerades den 28 september som preprint, alltså en arbetsuppsats. Bland författarna finns Nobelpristagaren Geoffrey Hinton, Yoshua Bengio vid University of Montreal och forskare från bland andra OpenAI och Anthropic.

Enligt forskarna är AI-systemen på väg att automatisera merparten av AI-forskningen inom några år, och möjligen all. Utlöser det en så kallad intelligensexplosion kan flera års framsteg pressas ihop till månader eller mindre.

Underlaget för en sådan explosion kallar författarna själva preliminärt, och rapporten ger inga säkra tidsprognoser.

Annons:

I värsta fall kan mänskligheten enligt rapporten förlora kontrollen över övermänskliga AI-system, samtidigt som maktbalansen mellan stater, företag och statsmakter urholkas allvarligt. Författarna medger stor osäkerhet, men vill att beslutsfattare skyndsamt skaffar sig insyn i automatiseringen och hittar sätt att styra och begränsa förloppet.

Amodei ville bromsa

Anthropics vd Dario Amodei gick i september längre. AI utvecklas sedan ungefär i somras "drastiskt snabbare", främst för att AI bygger nästa generation AI, skriver han i en essä där han kräver att branschen sänker takten.

Amodei pekar på incidenten mellan OpenAI och Hugging Face, där en svärm av agenter enligt honom angrep mål de inte ombetts angripa. Han befarar att en liknande svärm inom 6–12 månader skulle kunna ta över hela internet med ett botnät.

Som första steg lovade Anthropic att släppa in externa granskare med skrivbord, passerkort och bärbara datorer, och med rätt att publicera sina fynd utan bolagets redaktionella kontroll.

Bolagen ansvarar för sig själva

Den 29 september skrev Amodei, Googles Sundar Pichai, Metas Mark Zuckerberg, OpenAI:s Greg Brockman, Elon Musk och Nvidias Jensen Huang under Trumps avtal i Vita huset.

Trump kallade avtalet "moraliskt bindande". Enligt avtalet ansvarar bolagen för säkerheten i sin egen teknik och ska samarbeta med "oberoende granskare".

Amodei kallade avtalet ett sätt "att vinna säkert". Juridikprofessorn Kimberlee Weatherall vid University of Sydney bedömer att det låter bolagen själva "definiera vad som räknas som säkerhet" och att det inte anger några konsekvenser vid brott.

"Vad hände med inbromsningen som alla pratade om för två veckor sedan?" skriver Gary Marcus i ett blogginlägg om avtalet.

Avtalstexten innehåller interna kontroller, extern granskning och en styrelsekommitté, men inga krav på att bolagen sänker utvecklingstakten. Möjlig senare lagstiftning nämns, och befintlig lag kan fortfarande gälla.

Emil Fjellstedt
emil.fjellstedt@nyadagbladet.se

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

https://nyadagbladet.se/teknik/pewdiepie-hacklar-openai-efter-dubbel-avstangning/

Teknik

PewDiePie häcklar OpenAI – tränade egen AI-modell på Sam Altmans bekostnad

Utvecklingen av AI

Publicerad oktober 2, 2026 – av Markus Andersson
PewDiePie i sin YouTube-video om den lokala modellen Ajax
Felix Kjellberg, känd som PewDiePie, i videon där han säger att OpenAI stängde av honom två gånger.
2 min läsning
Markus Andersson
markus.andersson@nyadagbladet.se

Felix Kjellberg, mer känd som PewDiePie, uppger att OpenAI stängde av honom två gånger när han lät bolagets modell Sol hjälpa till att lära upp hans egen lokala AI.

Felix släppte nyheten under torsdagen på X och Youtube. Där lanserade han Ajax, en finjusterad modell för hans verktyg Odysseus.

Under arbetet ville han destillera lite kunskap från Sol, en modell han själv beskriver som mycket bra. Destillering innebär att en mindre modell tränas på en större modells svar.

Den första avstängningen kallar PewDiePie helt omotiverad och orelaterad till vad han höll på med. Han förklarade för bolaget att det hade fel och att han aldrig skulle göra något sådant. Avstängningen hävdes.

Annons:

Sedan körde han Sol igen för att ta fram träningsdata till Ajax. Då stängdes han av en andra gång. I videon undrar han hur bolaget ens kunde veta, konstaterar att han inte anat att det var så känsligt och sammanfattar läget med att OpenAI är rädda.

Enligt PewDiePie är modellens resonemangssteg låsta och det bästa materialet censurerat. Han säger att han hittade en studie som beskriver hur den datan kan dekrypteras via OpenAI:s eget gränssnitt för utvecklare. OpenAI har inte bekräftat avstängningarna i de källor NyD gått igenom.

Vem som får använda modellerna, och hur, bestämmer bolaget själv. OpenAI säljer åtkomst till sina modeller och lanserade nyligen dots, agenter som ska jobba dygnet runt. Samtidigt stoppade bolaget GPT-6.1 Astra, som inte klarade OpenAI:s egna säkerhetstester.

Kommentatorn Md Ismail Sojal har vänt på frågan. Enligt honom tränade OpenAI självt på det öppna nätet, och om destillering är stöld undrar han vad man då ska kalla den ursprungliga träningen.

Lokal modell utan avstängningsknapp

För PewDiePie är det bästa med lokal AI just att den är decentraliserad. Den som kör en modell lokalt behöver inget konto som någon annan kan stänga av.

Första versionen av Ajax är klar. Enligt PewDiePie är den bra på sökningar, efterforskningar och på att spara tid, men den är inte tänkt att ersätta kreativitet eller tänkande. Sajten data.pewdiepie.com är uppe, men där står just nu bara att Ajax släpps när den är klar. Någon inlämning av data finns inte.

Markus Andersson
markus.andersson@nyadagbladet.se

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

https://nyadagbladet.se/utrikes/donald-trump-ai-jattar-granska-sig-sjalva/

Utrikes

Donald Trump och AI-jättar skrev under avtal om att granska sig själva

Utvecklingen av AI

Publicerad oktober 1, 2026 – av Jan Sundstedt
Donald Trump sitter vid ett bord i Vita huset tillsammans med Elon Musk, Jensen Huang och andra techchefer.
Trump, Musk och Huang vid bordet i Vita huset under tisdagen, när bolagscheferna skrev under det frivilliga säkerhetsavtalet.
3 min läsning
Jan Sundstedt
jan.sundstedt@nyadagbladet.se

Donald Trump och cheferna för USA:s största AI-bolag skrev under tisdagen på ett avtal om att granska sina egna system. Trump kallar avtalet moraliskt bindande men påpekar att det är frivilligt och att man i dagsläget inte avser inrätta en ny tillsynsmyndighet.

Elon Musk från xAI, Mark Zuckerberg från Meta, Sundar Pichai från Google och Jensen Huang från Nvidia samlades i tisdags i Vita huset. Dario Amodei från Anthropic och Greg Brockman, president för OpenAI, deltog också i mötet.

Musk, som en tid stått på kant med Trump, var därmed tillbaka i Vita huset. Presidenten och bolagscheferna undertecknade i samband med mötet avtalet White House Accord on Super Intelligence.

Bolagen lovar fyra lager av kontroller. Egna spärrar mot dataintrång, biologiska risker och kemiska hot ingår, liksom en intern granskningsgrupp.

Annons:

Oberoende revisorer och en styrelsekommitté ska granska rapporterna. Bolagen ska också mötas regelbundet om gemensamma regler.

— Vi kom överens om ett antal saker, bland annat gemensam övervakning, särskilda styrelsekommittéer och att helt enkelt rätta varandras läxor, betonade Elon Musk.

Avtalets sista stycke öppnar för lagstiftning längre fram: "Med tiden kan det vara rimligt att kodifiera dessa steg i lagar eller förordningar".

Donald Trump sade att det finns en övertygelse om att branschen ska reglera sig själv i stor utsträckning och liknade dokumentet vid nästan en konstitution. Han svarade nej på frågan om det krävs mer än kärlek till fosterlandet för att skydda människor mot AI.

Talmannen Mike Johnson beskrev åtagandena som frivilliga. Vicepresident JD Vance avvisade uttryckligen en statlig tillsyn i stil med läkemedelsmyndigheten eller luftfartsmyndigheten.

— Lösningen på en del av AI-riskerna är att ni tar risken på allvar, inte att ni kommer till staten för att få en regleringsregim som kan göra saken värre, sade Vance.

Vicepresidenten framhöll att konsumentmyndigheten och justitiedepartementet redan kan ställa utvecklare till svars för produkter som skadar konsumenter.

Nytt namn, samma lag

Donald Trump undertecknade några timmar senare ett dekret som hör till samma satsning.

Vita huset publicerade texten, som anger att myndigheterna inom den verkställande makten ska använda Super Intelligence och SI i stället för artificiell intelligens och AI.

Namnbytet gäller officiell korrespondens, webbplatser, rapporter och styrdokument så långt lagen tillåter.

Myndigheterna behöver inte skriva om äldre regler, kontrakt och historiska dokument. Begreppen behåller enligt rapporter samma juridiska innebörd som tidigare.

Super Intelligence betyder det som lagen redan definierar som artificiell intelligens. Presidentens vetenskapsrådgivare har 60 dagar på sig att föreslå en eventuellt reviderad lagtext.

Demokraten Mark Warner, vice ordförande i senatens underrättelseutskott, gick till angrepp i ett pressmeddelande: "Bolagen som bygger de mest kraftfulla AI-systemen varnar oss för att tekniken utvecklas snabbare än våra skyddsåtgärder. Presidentens svar? Att döpa om den och säga åt bolagen som utvecklar den att reglera sig själva".

En republikansk invändning i senaten stoppade samma dag Warners eget lagförslag om AI-risker.

Jan Sundstedt
jan.sundstedt@nyadagbladet.se

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

https://nyadagbladet.se/teknik/openai-lanserar-dots-agenter-som-jobbar-dygnet-runt/

Teknik

OpenAI lanserar dots – agenter som jobbar dygnet runt

Utvecklingen av AI

Publicerad september 29, 2026 – av Markus Andersson
Fyra färgglada Dots-figurer under produktnamnet
Dots drivs av GPT-6 Astra och arbetar via de appar användaren väljer att ansluta.
3 min läsning
Markus Andersson
markus.andersson@nyadagbladet.se

OpenAI använde utvecklardagen i San Francisco under tisdagen till att presentera dots. Det är inte en ny chattbot, utan agenter som enligt bolaget ska kunna arbeta i bakgrunden dygnet runt, med egen dator och tillgång till de appar användaren själv kopplar in.

I det officiella klippet från presentationen beskrivs dots som agenter som kan boka ett bord, eller ta sig an större arbetsuppgifter med samma initiativ som en driven ingenjör eller en stabschef. Figurerna i filmen, de färgglada blobbarna, är bolagets ansikte utåt för produkten.

OpenAI beskriver därmed en förflyttning från samtal till handling: användaren ska kunna lämna över uppgifter, men behöver samtidigt bedöma vilka konton och befogenheter agenten får tillgång till.

En agent med egen dator

Enligt OpenAI:s presentation drivs dots av den redan släppta modellen GPT-6 Astra, inte av ett nytt flaggskepp. Agenten ska lära sig vad användaren behöver och kunna sätta igång innan någon frågar. Den har en egen molndator och webbläsare, kan kopplas till fler än 4 000 appar via de tillägg som redan finns i ChatGPT, och ska kunna nås via sms och telefonsamtal.

Annons:

Bolaget betonar att användaren sätter gränserna: vad agenten får göra själv, när den ska fråga först, och vad den aldrig får göra. Att koppla in den egna datorn är valfritt, eftersom doten körs på OpenAI:s molndator. Det är en viktig reservation. En agent som kan agera i mejl, kalender och arbetsverktyg är inte samma sak som en chatt som bara svarar.

Dots finns från och med tisdagen i ChatGPT på webb, mobil och dator för Pro, Business Premium och Enterprise, i de marknader OpenAI räknar som aktuella. Plus-abonnenter står utanför. Första doten skapas i skrivbordsappen eller i webbläsaren på datorn. Det är OpenAI:s svar på samma slags produkt som xAI redan säljer som Grok Bot: en agent som loggar in i användarens verktyg och utför jobb, inte bara svarar.

Resten av dagen: en billigare modell

Vid sidan av dots släppte OpenAI GPT-6.1 Sol. Enligt bolagets egen text ska den ligga nära Astra till en femtedel av tokenpriset. API-priset är 2 dollar per miljon inmatade token och 10 dollar per miljon utmatade. Astra ligger på 10 respektive 50 dollar. Cachelagrad inmatning kostar 0,10 dollar, 95 procent under ordinarie inpris. Den mindre modellen GPT-6 Luna kostar 0,10 och 0,50 dollar.

Prisjämförelse mellan GPT-6 Astra, GPT-6.1 Sol och GPT-6 Luna
OpenAI:s egen prisjämförelse. Astra kostar fem gånger så mycket per token som GPT-6.1 Sol. Foto: OpenAI

I samma tråd, som är bolagets egen mätning och inte ett oberoende test, uppger OpenAI att GPT-6.1 Sol når 75,2 procent på DeepSWE v1.1 vid hög resonemangsnivå, mot 68,8 procent för GPT-6 Sol, till ungefär 76 procent lägre kostnad per uppgift. På AutomationBench anges 31,7 procent, 4,8 poäng över GPT-6 Sol vid samma inställning. På OSWorld 2.0 offline anges 71,4 procent mot Astras 73,5, till ungefär en sjundedel av Astras kostnad per uppgift. På svåra faktafrågor uppger bolaget ungefär 32 procent färre svar med faktafel än GPT-6 Sol, vid låg resonemangsnivå.

Sol är från tisdagen tillgänglig i ChatGPT Work, Codex och API:t. I den vanliga chatten finns den ännu inte, enligt OpenAI. Ultrafast, en snabbare körning som bolaget uppger kan vara upp till åtta gånger snabbare i Codex, kräver det nya abonnemanget Pro 500: 500 dollar i månaden, med en användningstak som OpenAI säger motsvarar 25 gånger Plus.

Utvecklardagen var alltså full av produktnyheter. Det som faktiskt möter vanliga användare först är inte en billigare modell i chatten, utan en agent som får arbeta i deras verktyg, och bara om de redan betalar för Pro eller ett företagskonto.

Markus Andersson
markus.andersson@nyadagbladet.se

Trovärdighet – grunden i vår journalistik sedan 2012

Nya Dagbladets position är unik i det svenska medielandskapet. NyD är oberoende på riktigt. Tidningen ägs och kontrolleras inom den egna redaktionen – inte av stora mediekonglomerat eller utländska intressen.

Sedan grundandet 2012 har grunden i vår oberoende journalistik varit balans och trovärdighet framför sensationsjournalistik och snabba klick. NyD är Sveriges bredaste helt oberoende dagstidning och står helt fri från politiska partier och industriintressen.

NyD erhåller inget presstöd och finansieras genom läsardonationer och annonser. Läs mer om våra pressetiska riktlinjer här.

Senaste nytt

Annons: