Forskarnas öppna brev: “Pausa AI-utvecklingen”

Teknokratins framfart

publicerad 5 april 2023
- av Sofie Persson
Steve Wozniak och Elon Musk är två tunga profiler som skrivit under det öppna brevet.

Hjälp Nya Dagbladet att klara ekonomin under sommaren!


1760 kr av 50 000 kr insamlade. Stöd kampanjen via swish 123 611 30 21 eller andra donationsalternativ.


I ett öppet brev skriver tusentals forskare, professorer och andra yrkesgrupper att det är dags att pausa viss utveckling av AI. Elon Musk är en av dem som skrivit under och det finns även svenska forskare som lämnat sin underskrift.

“Kraftfulla AI-system bör utvecklas först när vi är säkra på att deras effekter kommer att vara positiva“, skriver man bland annat.

Utvecklingen av artificiell intelligens har framskridit de senaste åren men nu börjar till och med AI-forskare att inse att det går alldeles för snabbt. I ett öppet brev initierat av organisationen Future of Life Institute har nu över 50 000 personer skrivit under att det är dags att pausa vissa AI-experiment.

AI-system med mänsklig, konkurrenskraftig intelligens kan innebära stora risker för samhället“, skriver man i brevet.

Specifikt talar man om AI-system som är mer kraftfulla än GPT-4 och att det är just dessa experiment som bör bromsas in i åtminstone ett halvårs tid. Under den tiden föreslås att man tillsammans fokuserar på att utveckla och implementera säkerhetsprotokoll för avancerad AI, som också bör överses av oberoende experter.

En risk man begrundar är bland annat om det verkligen är bra att exempelvis maskiner tar över de flesta jobb, men man ställer sig också frågan om man verkligen ska utveckla icke mänskliga hjärnor som kan bli fler än vi och så småningom ersätta oss.

Ska vi utveckla icke-mänskliga hjärnor som så småningom kan bli fler, smartare, föråldrade och ersätta oss? Ska vi riskera att förlora kontrollen över vår civilisation? Sådana beslut får inte delegeras till icke valda tekniska ledare. Kraftfulla AI-system bör utvecklas först när vi är säkra på att deras effekter kommer att vara positiva och att riskerna kommer att vara hanterbara“, skriver forskarna.

Bland de som skrivit under finns bland annat över 1800 chefer och fler än 1500 professorer tillsammans med tusentals andra personer inom olika yrkesgrupper. Elon Musk är en av AI-forskarna som skrivit under brevet tillsammans med bland andra Apple-medgrundaren Steve Wozniak och Skype-medgrundaren Jaan Tallinn. Åtskilliga professorer och forskare på exempelvis Harvard, MIT, Princeton, Lunds universitet, Kungliga Tekniska Högskolan och Uppsala universitet har skrivit under.

Generative Pre-trained Transformer 4 (GPT-4) är en multimodal storspråksmodell skapad av OpenAI och släpptes den 14 mars 2023. Allmänheten har fått en begränsad tillgång till den via chattroboten ChatGPT, som också är skapad av OpenAI och släpptes i november 2022.

Ladda ner Nya Dagbladets mobilapp!