De senaste månaderna har det för första gången funnits en omfattande debatt om det existentiella hotet från artificiell intelligens (AI). Det är en mycket angelägen, om än väldigt sen, ankomst till vår tids stora ödesfråga. Premisserna för att få delta i den offentliga debatten tycks dock vara att man accepterar synen på AI som en sorts frälsande kraft.
Artikeln publicerades ursprungligen den 11 juli 2023 på Nya Dagbladet.
Jag kommer att tänka på när jag bodde i Ryssland på 1990-talet och hade en bekant som var ingenjör. Han berättade om en studiekamrat han hade haft som var ett riktigt snille. Det här var ännu under Sovjettiden och vid sluttentamen fick studenterna en och en gå fram till examinationskommittén och dra en slumpvis fråga att besvara. Den sällsynt begåvade studenten fick frågan: Varför kraschade Challenger? Han briljerade genom att förklara från ax till limpa alla tekniska orsaker som lett fram till att den amerikanska raketen gått i bitar bara 73 sekunder efter uppskjutning.
Den begåvade studenten blir, hör och häpna, underkänd. Kommittén tar honom i örat för att han missat att det nämna den allra viktigaste förklaringen: Challenger var en kapitalistisk raket. Den kunde inte annat än krascha.
Detta exempel är hämtat från ett totalitärt sammanhang, men även i vår tids ”liberala demokratier” finns vissa propagandafraser som man måste komma ihåg att rabbla upp om man vill få delta i offentliga sammanhang.
Det gäller inte minst debatten om artificiell intelligens, AI. Du kan få sitta med i SVT på bästa sändningstid och varna för de existentiella riskerna, men bara på villkoret att du i nästa andetag sjunger AI:s lov och pratar om allt fantastiskt AI kommer göra för mänskligheten – bota cancer och alla svåra sjukdomar, få bukt med svälten och orättvisorna, lösa miljöproblemen etcetera.
I Sovjetunionen var ideologin kommunism. I vår tid är det teknologin som närmast har fått religiös status, med den artificiella intelligensen i rollen som Gud Fader.
Precis som religionernas utlovade paradis, lockar även den artificiella intelligensens evangelister med en framtida utopi. Ingen i den pågående debatten tycks våga avkräva AI-lobbyn några belägg. Man kunde ju annars fråga sig hur länge någonting med ett så pass uselt track record ska få leva på utopiska löften som kanske aldrig infrias?
Vi kan tänka oss heroin som en jämförelse. Drogen förknippas med elände och lidande. Missbrukade liv, förstörd hälsa, överdoser. Heroin är förbjudet i nästan alla av världens länder.
Ändå är beroendet som heroinet orsakar en piss i Mississippi jämfört med det beroende som AI genererar. Det är nästan komiskt att åka i kollektivtrafiken och se hur i princip varenda människa – vuxen som barn – hypnotiserat stirrar in i en rektangel. Skrattet fastnar dock i halsen eftersom man själv troligen gör likadant. Den kollektiva aspekten är sannolikt det som gör att frågan knappt kommer upp till debatt. Missbruket har blivit normaliserat och det finns inga vuxna i rummet som säger ifrån. Men, som Erich Fromm påpekat, blir en galenskap inte mindre galen bara för att den delas av miljontals människor.
Tänk om jag i en kristallkula fått en bild av framtiden när jag växte upp på 1970-talet, och fått se denna masshypnos. Jag skulle nog trott att det var en dålig science-fiction, där mänskligheten blivit kapad av någon främmande makt.
Så förutom då att vara kusligt beroendeframkallande, vad har AI för track record i övrigt?
AI har givit världens auktoritära makthavare möjlighet att övervaka samhällets medborgare med en teknologi som inte ens Storebror i framtidsromanen 1984 kunde drömma om.
AI har givit de groteskt rika möjlighet att bli ännu mer groteskt rika genom allt effektivare manipulationer av världens finanssystem. Aladdin som ett väldigt avancerat AI-system heter, genererar alltmer av vinsterna åt världens största fondjätte BlackRock.
AI har kraftigt bidragit till att den psykiska ohälsan och självmordstalen ökat drastiskt bland unga. Vi kan konstatera att vare sig det tvångsmässiga dataspelandet eller atomiseringen och pseudoumgänget på antisociala medier har gjort våra barn och ungdomar lyckligare. Förr i tiden drömde tjejer om att se ut som någon filmstjärna. Idag drömmer de om att se ut som sin egen AI-manipulerade profilbild på Instagram.
Som bekant håller AI som även på att göra allt fler människor överflödiga. Om arbetarna tidigare behövdes för att sköta fabrikerna – vilket åtminstone gav dem en viss hållhake på kapitalisterna – är dagens proletariat helt försumbart den stunden AI kan sköta sysslorna billigare. (Någon borde informera Sveriges statsminister om detta. Nyligen sa Ulf Kristersson att det vore fel att bromsa AI-utvecklingen ”för det skulle äventyra jobben”).
Problemet går dock djupare än själva teknologin. I Folkets Radios program om Mind-Control som publicerades hösten 2021 intervjuade jag idéhistorikern Per Johansson som ansåg att diskussionen om AI som tar över våra jobb är något missriktad.
”Det enda skälet till att Artificiell intelligens kan ta över våra jobb”, sa han, ”det är att de redan är artificiellt intelligenta”.
Ända sedan den industriella revolutionen har arbetslivet kommit att präglas av effektivitet och rationalisering. Arbetsplatser utformas enligt industrins organisationsmodeller, och utvecklingen går i allt högre utsträckning mot automatisering. Som en förbittrad läkare sa till mig efter den stora omorganisationen av Karolinska: ”Robotarna är beställda, men leveransen är försenad, så under tiden får jag jobba här på nåder”.
Även skolan producerar kuggar i ett maskineri. Det finns knappt någonting kvar av kreativt skapande. Det ensidiga fokuset på vänster hjärnhalva är extremt.
Vad är vitsen, kan man fråga sig, med att stressa upp barnen när de sover som skönast på morgonen och hetsa dem med prov och läxor enbart för göra dem till lågpresterande räknemaskiner och bristfälliga kunskapsbanker – det vill säga till munsbitar för AI.
Tänk om vi istället skulle acceptera att sådant som maskiner redan kan göra bättre än oss inte är vad vi ska tvinga våra barn att försöka lära sig. I den bästa av världar kunde AI bli en väckarklocka som får oss minnas vilka vi faktiskt är. Vi kunde i stället satsa på att utveckla och fullända de egenskaper som gör oss unikt mänskliga och levande: relationer, poesi, sång, konst, kreativt skapande, humor, småskalighet med mera.
Upprinnelsen till de senaste månadernas debatt är ett uppmärksammat upprop för att pausa utvecklingen av kraftfulla AI-system, vilket följdes av ett öppet brev, undertecknat av världens ledande AI-dignitärer med budskapet att vi bör betrakta AI som ett existentiellt hot mot mänskligheten, precis som kärnvapen.
Min bror, Max Tegmark, har som initiativtagare till uppropet varit en frekvent intervjuperson i mediala sammanhang. Han försöker få oss att ta in det som många nog vill hålla ifrån sig: att vi redan är riktigt illa ute och att det kan gå ofattbart fort från att AI på dagens nivå lär sig AI-utveckling. När de självlärande systemen blir alltmer avancerade kan de själva utveckla och skriva om sin programvara som skriver nästa programvara som skriver nästa som skriver nästa och så vidare.
I en intervju med Deutsche Welle varnar Max för att mänskligheten håller på att bygga ett främmande tänkande ("an alien mind") som är mycket mer kraftfullt än vårt eget, och som vi kommer att behöva dela planeten med.
Vi pratade nyligen, Max och jag, om hur vi på ett märkligt sätt har kommit att ägna oss åt en och samma ödesfråga – även om vi har närmat oss den från vitt skilda håll och med helt olika begreppsapparater.
Spontant tänker nog många att AI-hotet är något som uppstått på senare tid. Det stämmer att den teknologiska utvecklingen har möjliggjort byggandet av detta Frankensteins monster, men det är bara en del av sanningen. AI-teknologin är, skulle man kunna säga, det gränssnitt som ”monstret” använder för att effektivare kunna ta kontroll över oss människor. ”Monstret” själv är dock inte nytt. Redan i urgamla gnostiska texter återfinns varningar för en själlös men kraftfull intelligens som kan infiltrera mänskligt tänkande och leda oss mot fördärv. I min bok Kriget mot livet, som kommer ut i augusti, kan du läsa mer ingående om den här kraften, som gnostikerna kallade arkontisk.
Något som är slående med de gnostiska texterna är att man redan för flera tusen år sedan hade ett koptiskt ord – Hal – för virtuell verklighet. Om ordet låter bekant är det för att filmregissören Stanley Kubrick valde det som namn på datamaskinen som försökte kapa rymdresenärernas farkost i hans berömda film 2001 – ett rymdäventyr.
Gnostikerna beskrev den arkontiska kraften som en sorts pseudogud, driven av blind avund mot den besjälade planeten Jorden. Den saknar den gudomliga intelligens som genomströmmar livet och naturen, som den enbart kan härma. Just detta är den däremot oerhört skicklig på.
De virtuella kopiorna och simuleringarna kommer dock alltid att sakna den mystiska komponent som tillhör livet.
Gnostikerna använde begreppet antimimon för att beteckna den främmande intelligensens modus operandi, vilket syftar på att kopiorna har det motsatta syftet till det levande originalet. Om vi applicerar de gnostiska varningarna på vår tid innebär det att allt som infogas i AI-systemen blir dött och själlöst, att AI och ”smarta” teknologier aldrig kan utvecklas i samklang med att livet blomstrar enligt sina egna förutsättningar.
En ryggradsmässig reaktion är givetvis att avfärda allt dylikt som metafysiskt dravel. Det finns dock goda skäl till att inte vara så snabb i att förkasta gnostikernas varningar från det förgångna. Dels ger de en förståelse för att tendensen att fjärma människor från naturen inte är något nytt. Dels kan de hjälpa oss att se var den verkliga frontlinjen går någonstans, bortom de ideologiska och politiska skiljelinjer människor annars splittras längs.
En som har åskådliggjort denna frontlinje är filmregissören John Carpenter i sitt mästerverk They Live från 1987, där han skildrar Reagans nyliberala tidsålder som en katastrofal utomjordisk invasion. I filmen styrs Amerika av utomjordingar förklädda till medlemmar av den ekonomiska och professionella eliten. För dem är jorden bara en resurs till för att plundras, den är deras ”tredje värld”.
En del människor har rekryterats som utomjordingarnas kumpaner. De belönas för sitt samarbete med snygga jobb, pengar och konsumtionsvaror. De bjuds in till överdådiga banketter där utomjordingar utklädda till affärschefer förklarar att ”Vinsterna har varit betydande, både för oss och för er – den mänskliga makteliten”.
Det finns både plus och minus med ett sådant angreppssätt i AI-debatten. Man kan lätt framstå som alarmistisk och man blir garanterat inte inbjuden till SVT:s morgonsoffa. Det kan samtidigt också vara den väckarklocka många behöver höra, att det faktiskt pågår ett fullskaligt krig mot livet, att en främmande intelligens håller på att ta kontroll över planeten och över oss människor, och att vi behöver välja sida.
Låt oss återvända till idéhistorikern Per Johanssons resonemang om att det konkreta AI-övertagandet som regel har föregåtts av en AI-anpassning av verksamheten i fråga, det vill säga standardisering, likriktning och avhumanisering. Var är det då som ligger härnäst i pipeline?
Vi ser det nu i stor skala inom jordbrukssektorn. Med FN:s mäktiga hållbarhetsagenda som ideologisk bas håller världens agrarindustriella komplex i rask takt på att genomföra ett systemskifte mot ett högteknologiskt, hårdmanipulerat jordbruk som via algoritmer ska kunna skötas av robotar.
Det är heller inte längre enbart komponenterna i industriella verksamheter som ska betraktas som produktionsenheter, utan även livet självt som ska reduceras till en knippe specifika funktioner. Det väckte (lyckligtvis) en viss upprördhet när det blev känt att Vårdguiden på sin webbplats hade uppmaningen ”Kvinna – undvik” som en rekommendation inom sjukvården. Genom att i stället tala om ”den som ska föda barnet”, ”livmoderbärare” eller ”menstruerare” skulle man undvika att kränka transpersoner som identifierar sig som kvinnor.
Det talas även om att artificiella pollinerare kan behöva ersätta bina.
Det är en art som fullständigt håller på att duka under i en värld fylld av miljögifter och genmanipulerade monolandskap och som får sin navigeringsförmåga störd av elektromagnetiska frekvenser.
AI håller i allt raskare takt på att ta kontroll över livet på jorden, inlemma och slutligen assimilera det i sina livlösa system. Kanske är det därför logiskt att man nu fasar ut ur språket och reducerar det som AI aldrig kan åstadkomma till en knippe funktioner, exempelvis kvinnor som föder barn eller livets mångfald av arter som flätas samman i naturen.
Det torde egentligen inte vara svårt att se att hela projektet i sina grundvalar är ett bedrägeri. Det finns redan i detta artificiellt influerade språkbruk ett sorts främlingskap inför det levande, inför livets komplexa väv som naturen består av. Biet är oändligt mycket mer än en pollinerare. Det lever och interagerar med andra arter och när det dör skänker det sin kropp åter till ekosystemet och det ständigt fortgående kretsloppet. Det finns ingen stagnation i naturen och det finns inga sopor, för det finns inget som är överflödigt och det finns inget som kan ersättas.
AI är överhuvudtaget oförmöget att förstå den enorma komplexitet som utgör naturen. Fysikprofessor Ulf Danielsson skriver att inte ens de mest avancerade AI-systemen kommer att kunna producera pålitliga väderprognoser särskilt mycket längre än vad som nu är möjligt. Ulf Danielsson: Släpp förmänskligandet av tekniken och se AI för vad det är. AI och så kallad superintelligens är ett ganska värdelöst verktyg när det kommer till regnskogar och oceaner – och mänskliga samhällen för den delen – ifall syftet är något annat än manipulationer, kontroll och exploatering.
Vad gäller utfästelsen att AI ska bota våra sjukdomar kanske vi borde fråga oss varför har vi alla dessa sjukdomar till att börja med. Kan de till stor del bero på osunt leverne, processad och modifierad mat, meningslösa, monotona sysslor och avsaknad av äkta mänskligt umgänge? Tänk om lekarna och fantasin återigen kunde blomstra i barndomslandet, vilken minskning skulle vi då se av psykisk ohälsa bland unga?
Vad sägs om att avfärda alla frälsningsteologier med AI i huvudrollen och i stället satsa på en världsomspännande digital avgiftningskampanj så att vi kan bryta det svåra beroendet?
Per Shapiro
Artikeln har tidigare publicerats på Folkets Radio
