Nick Boström: AI större hot än klimatförändringar

Nick Boström anser att artificiell intelligens utgör ett större hot mot mänskligheten än klimatförändringar. Ändå är han positivt inställd till teknologin och menar att AI har potentialen att kolonisera universum och ”göra fantastiska saker inom i princip alla områden”.

Boström som kommer från Helsingborg är doktor i filosofi, transhumanist och driver Oxfordbaserade Future of Humanity Institute – ett forskningscentrum med fokus på att förutspå och förebygga kriser och katastrofer som mänskligheten står inför.

Han har också skrivit boken ”Superintelligens” som översatts till mer än 30 språk och haft stor inverkan på debatten kring artificiell intelligens och hur en superintelligent AI i framtiden ska kunna kontrolleras av sina mänskliga skapare.

I en intervju med Aftonbladet hävdar han att Artificiell intelligens utgör ett större hot mot mänskligheten än klimatförändringar – men att teknologin också har ”möjlighet att bli enormt positivt om vi hanterar det bra”.

– Vi kanske inte vet vilka planer den har förrän det är för sent. En avancerad AI med onda avsikter skulle ha strategiska motiv att dölja sina planer tills den var övertygad om att vi inte skulle kunna ändra eller stänga ner den, spekulerar han.

I en framtid där artificiell intelligens ”tagit över och dödat alla människor” tror Boström att denna också kan kolonisera universum och ”förändra detta på det sätt som passar dem bäst utifrån deras mål”.

– Eller också kan de handla med eller samarbeta med någon annan superintelligens där ute, och dela kosmos mellan sig.

Om en framtida super-AI istället är vänligt inställd tror han att både människor och djur skulle kunna få ”fantastiska liv” och att sjukdomar och död skulle kunna förhindras.

– Tänk bara på allt elände som människor drabbas av, från cancer, hjärtattacker, Alzheimers och så vidare. Förutom att bota dem kan AI göra fantastiska saker inom i princip alla områden – nöjesindustrin, naturen, ekonomin och så vidare. Även djuren, både i det vilda och i våra köttindustrier, skulle kunna få fantastiska liv, säger han och hävdar att en super-AI också skulle kunna förhindra dödsfall genom sjukdomar och ålderdom.

– I ett scenario där AI tar över jobben skulle vi få en explosiv ekonomisk tillväxt. Utmaningen skulle då vara att distribuera allt, snarare än att det inte skulle finnas tillräckligt för alla. Potentiellt sett skulle vi alla kunna bli rika, fortsätter han.

På frågan om AI-utvecklingen ändå inte borde stoppas, eftersom det är oklart vad denna riskerar att få för konsekvenser, svarar Boström att detta inte är rätt väg att gå och menar att ett sådant beslut ”vore för drastiskt”.

– AI kan ge oss en större och bättre framtid, som det vore tragiskt om vi stoppade. Jag tycker att maskinell superintelligens bör utvecklas, men med försiktighet. Det skulle inte kännas bra med pauser som blir permanenta, eller att vi pausar så länge att vi under tiden utvecklar en stor risk för att någon annan existentiell katastrof inträffar under tiden.