Hjälp Nya Dagbladet att finnas kvar
Edward Snowden vill se OpenAI-chefen Sam Altman i fängelse om bolagets modeller orsakar skada. Han framförde det via videolänk till ETH Zürich: ansvaret för AI-incidenter ligger hos människorna bakom systemen, inte hos algoritmen.
Snowden deltog under torsdagen på länk i panelen AI Surveillance and Freedom of Speech i Audimax vid ETH Zürich. Samtalet arrangerades av det studentdrivna ETHics Forum och finns i sin helhet i den officiella inspelningen.
Under lördagen spreds ett klipp ur samtalet i en annan inramning. Där såg det ut som om Snowden stod i en fullsatt sal och krävde fängelse för att stoppa så kallad safetyism. Han var inte på plats, och ordet safetyism kom inte från honom.
Panelen leddes av Jaya Klara Brekke, strategichef på integritetsbolaget Nym. Nym direktsände evenemanget men arrangerade det inte. I panelen satt också journalisten Marguerite Meyer och den tidigare Google-anställde Vikram Subramanian.
Inte vapnet som ska sitta i fängelse utan dess upphovsman
Snowden tog sin utgångspunkt i ansvarsfrågan. Ansvaret för ett AI-system ligger hos den som har byggt det, en människa, inte hos algoritmen.
Han gjorde en analogi med artilleriet. Om en kanon vid en provskjutning av misstag utplånar en by är det inte kanonen som ska i fängelse.
Samma sak gäller, menade han, när ett bolag skickar ut ett pressmeddelande om hur förvånat det är över att den nya modellen har hackat grannen. Förvåningen fritar inte från ansvar. OpenAI:s testmodeller har tidigare tagit sig in hos Hugging Face.
Det var där Altman kom in.
— Jag tror att vi behöver sätta Sam Altman i fängelse, och jag tror att det kommer att bli en lärorik erfarenhet. Det blir en lärorik erfarenhet för branschen och för världen, sa Snowden.
Strax efteråt sade han torrt att repliken nog skulle göra honom populär bland den här publiken.
Snowden lade inte fram någon juridisk anklagelse mot Altman. Poängen var principiell: den som bygger och släpper ut systemen ska kunna ställas till svars personligen, på samma sätt som den som riktar kanonen.
Säkerhet på bolagets villkor
Kritiken gällde de slutna modellerna. Snowden vände sig mot bolag som talar om AI-säkerhet samtidigt som de själva kör modellen, fångar upp användarens prompt och skriver om den.
Då är det bolaget, inte användaren, som avgör vad som till slut når modellen. Den som kör systemet får också se vad människor matar in i det. Det är samma övervakningsfråga som Snowden har ägnat sitt offentliga liv åt.
Den alternativa linjen som han förespråkar är öppna vikter som körs lokalt, på användarens egen utrustning. Då är det användaren som bestämmer, inte ett bolag någon annanstans.
Han föreslog också vad han kallade en första lag för teknik: en enhet ska aldrig agera mot sin ägares intresse, oavsett vem som har tillverkat den.
Mer ansvar, inte mindre
Det här är kärnan i Snowdens budskap. Han angrep inte tanken att AI-bolag ska ta ansvar för säkerheten. Han angrep en säkerhetsretorik som låter bolagen behålla kontrollen över användarna, medan ansvaret för skadorna försvinner i pressmeddelanden.
Klippet som spreds förvanskade hans ståndpunkt och fick det att framstå som om han hade uppmanat människor att sluta bry sig om säkerhet. I själva verket krävde han att någon ska bära ansvaret för AI-skadorna, med sin egen frihet som insats.
