Hjälp Nya Dagbladet att finnas kvar
Google har enligt uppgifter tecknat ett klassificerat avtal som ger USA:s försvarsdepartement rätt att använda bolagets AI-modeller för ”alla lagliga regeringsändamål”. Avtalet väcker oro internt eftersom Google enligt rapporteringen inte ska ha rätt att stoppa hur Pentagon använder tekniken.
Avtalet, som först rapporterades av The Information och därefter uppmärksammades av The Verge, ska vara en ändring i Googles befintliga avtal med den amerikanska staten. Det innebär enligt uppgifterna att Pentagons användning av Googles AI-system får ske för ”any lawful government purpose” – alla lagliga regeringsändamål.
Rapporteringen kom mindre än ett dygn efter att hundratals Google-anställda, däribland medarbetare vid DeepMind, uppmanat vd:n Sundar Pichai att stoppa Pentagon från att använda bolagets AI. I protesten uttrycktes oro för att tekniken kan användas på ”inhumana eller extremt skadliga sätt”.
Inget veto över användningen
Enligt The Information, som hänvisar till en anonym källa med insyn, innehåller avtalet formuleringar om att Googles AI-system inte ska användas för inhemsk massövervakning eller autonoma vapen utan ”lämplig mänsklig översyn och kontroll”.
Samtidigt uppges avtalet slå fast att Google inte har någon rätt att kontrollera eller lägga veto mot lagliga operativa beslut från regeringen. Bolaget ska även behöva bistå med justeringar av AI-systemens säkerhetsinställningar och filter på regeringens begäran.
Om uppgifterna stämmer placerar avtalet Google i samma grupp som OpenAI och Elon Musks xAI, som enligt rapporteringen också har ingått klassificerade AI-avtal med den amerikanska staten. Anthropic ska däremot ha hamnat på Pentagons svarta lista efter att ha vägrat ta bort säkerhetsspärrar kopplade till vapen och övervakning.
Google försvarar avtalet
Google bekräftade för The Information att avtalet är en ändring av bolagets befintliga uppgörelse med den amerikanska staten.
”Vi är stolta över att vara en del av ett brett konsortium av ledande AI-laboratorier, teknikbolag och molnföretag som tillhandahåller AI-tjänster och infrastruktur för att stärka den nationella säkerheten”, uppgav talespersonen.
Bolaget tillade att det fortsatt står bakom samförståndet inom privat och offentlig sektor om att AI inte bör användas för massövervakning inom landet eller autonoma vapen utan tillräcklig mänsklig kontroll.
Frågan är om sådana principer har någon praktisk betydelse när avtalet samtidigt uppges ge Pentagon sista ordet.
