Techjätten Oracles vd Larry Ellison tror på en framtid där artificiell intelligens blivit en naturlig del av ett gränslöst massövervakningssamhälle där något privatliv inte längre existerar och där allt medborgarna gör kartläggs och registreras.

Oracle och Larry Ellison kommer att spela en nyckelroll i Trumps AI-satsning ”Stargate” – som förväntas kosta uppemot 500 miljarder dollar och av presidenten själv beskrivs som det ”överlägset största AI-infrastrukturprojektet i historien”.

Att Ellison är en av världens mest framgångsrika techmoguler råder det ingen tvekan om – så sent som i höstas gick han förbi Amazon-grundaren Jeff Bezos och blev världens näst rikaste man efter Elon Musk. Men hur ser han egentligen på framtiden för artificiell intelligens och hur den kommer att påverka våra liv?

Under ett möte med finansanalytiker i höstas förutspådde han en framtid som enligt kritiker påminner om mörka dystopiska romaner som George Orwells 1984, där människorna är utsatta för konstant massövervakning och där AI används för att kartlägga medborgarnas minsta steg.

Enligt Ellison är det högst sannolikt att AI-modeller framöver i realtid kommer att användas för att analysera allt material inte bara från övervakningskameror, polisens kroppskameror utan även från kameror i bilar och dörrklockor.

– Medborgarna kommer att uppföra sig på bästa sätt eftersom vi ständigt registrerar och rapporterar allt som händer.

– Varje polis kommer att övervakas hela tiden, och om det uppstår ett problem kommer AI att rapportera problemet och rapportera det till lämplig person, fortsatte han.

Oracle’s Larry Ellison says a surveillance system of police body cams, cameras on cars and autonomous drones, all monitored by AI, will constantly record and report on police and citizens, leading everyone to be on their best behavior pic.twitter.com/RAq5XGaNmZ

— Tsarathustra (@tsarnick) September 15, 2024

”Storebror ser dig”

Mångmiljardären tror också att AI-kontrollerade drönare kommer att ersätta verkliga poliser under biljakter och andra typer av brott och oroligheter.

– Om något händer i ett shoppingcenter skickas en drönare dit och når platsen mycket snabbare än en polisbil.

Tekniksajten Ars Technicas skribent Benji Edwards är en av många som reagerade kraftigt på Ellisons syn på AI-övervakning, och menar att hans kommentarer väcker frågor om framtiden för medborgarnas integritet och rätt till privatliv.

”Ellisons vision har mer än en flyktig likhet med den varnande värld som skildras i George Orwells förutseende roman 1984. I Orwells fiktion använder den totalitära regeringen i Oceanien ständigt närvarande ’teleskärmar’ för att ständigt övervaka medborgarna och skapa ett samhälle där integritet inte längre existerar och självständigt tänkande blir nästan omöjligt”, konstaterar Edwards.

”Men Orwells berömda fras ’Storebror ser dig’ skulle få en ny innebörd i Ellisons teknikdrivna scenario, där AI-system, snarare än mänskliga väktare, skulle fungera som myndigheternas ständigt vaksamma ögon. Automatiserade system, som en gång betraktades som en sci-fi-fantasi, håller redan på att bli verklighet: Liknande automatiserade CCTV-övervakningssystem har redan testats i Londons tunnelbana och vid OS 2024”, fortsätter han.

”En slav lyder”

Han påpekar att automatiserade övervakningssystem redan har implementerats i bland annat kinesiska städer, och att det redan idag finns AI-programvara som kan sortera och organisera den data som samlats in om invånarna med hjälp av ett nätverk av utplacerade övervakningskameror.

Liknande och ännu mer avancerade lösningar riskerar enligt flera bedömare att snart bli en del av vardagen i USA och andra länder och det varnas för att en ”digital diktatur” är på god väg att växa fram där övervakningsstaten är så allomfattande att den är helt omöjlig att slippa undan för någon.

”’Bra beteende’ som det definieras av miljardärerna som äger och kontrollerar allt. Annars vanligtvis känt som blind lydnad och villkorslös underkastelse till deras varje infall och önskan. En slav lyder”, uttrycker en av många oroliga röster.