Under OS i Paris kommer artificiell intelligens för första gången att användas på bred front för att i realtid plocka bort ”näthat” från sociala medier.
Internationella olympiska kommittén (IOK) ska med hjälp av AI-teknik skanna av tusentals konton på olika sociala medieplattformar, där inlägg och kommentarer som bedöms vara hatiska, hotfulla eller på andra sätt olämpliga kommer att raderas så fort de publicerats.
Man påstår själva att syftet är att skapa en tryggare miljö för idrottsstjärnorna, som idag sägs vara mycket utsatta för framförallt hat, rasism och sexism. Alla OS-deltagare som har öppna konton på Facebook, X, Instagram och TikTok kommer att få sina konton automatiskt skannade på 35 olika språk, varpå de sedan flaggas och raderas av techbolagen – ”i många fall innan den aktiva ens hunnit se dem”, rapporterar Bonnierägda Dagens Nyheter.
Den tidigare alpina skidåkaren Lindsey Vonn, som är en av initiativtagarna till projektet, säger att ”om detta hade funnits när jag höll på så hade det besparat mig mycket ångest och emotionellt trauma”.
”Naturligtvis jätteviktigt”
Olika idrottsförbund runtom i världen har länge krävt ökad censur på sociala medier – och det hävdas att kvinnliga idrottare är mer utsatta än övriga. Förra året uppgav 20 procent av spelarna, under fotbolls-VM för damer, att de utsatts för kränkningar på sociala medier och fotbollsspelaren Olivia Schough uttryckte i samband med det en önskan om att kommentarerna stoppades.
– Man önskar att det fanns något slags stopp för det. För det är ju fruktansvärt hur det kan få folk att må.
Enligt Johan Flodin, sport- och utvecklingschef på Sveriges olympiska kommitté, har så kallat näthat ”blivit en viktigare och viktigare fråga” på senare tid.
– Vi vet att några av de vanligaste formerna av trakasserier och psykologiska övergrepp sker på nätet. Det är tydligt att man behöver ha det i beaktande för att skapa trygga och säkra miljöer, hävdar han.
– Jag är ingen expert på AI så jag vet inte i vilken mån, eller om, det här inkräktar på individens rättigheter. Men att man gör något åt det här är naturligtvis jätteviktigt …Dels möjliggör det att kunna agera här och nu, dels är det ett sätt att kunna förstå vad människor är utsatta för. Nätet är en arena för en massa dumheter, men området är trots det ganska lite beforskat inom idrotten.
Risk för godtycklig censur
Sammanlagt kommer konton som tillhör drygt 15 000 idrottare att skannas av AI:n, och enligt IOK:s chef Kirsty Burrows är målsättningen ”att försöka göra OS till en säker plats”.
Alla är dock inte lika imponerade över retoriken och kritiker pekar på att det är vanskligt att använda AI-teknik och automatiska system för att masscensurera sådant som i de allra flesta fall är fullt lagliga yttranden.
Många pekar också på att ”näthat” är diffust och kan betyda lite vad som helst, och därför heller inte bör blandas samman med exempelvis hot eller uppmaningar till våld. Det finns också farhågor om att i princip alla former av negativ kritik eller vissa specifika termer riskerar att rensas bort av AI:n, varför det kan bli svårt att överhuvudtaget diskutera idrottarnas prestationer utan risk för censur.
