EU tvingar techjättarna flagga AI-genererat innehåll

Techbolag som TikTok, X och Facebook kommer snart att vara skyldiga att tydligt identifiera AI-genererat innehåll på sina plattformar. Det uttalade syftet är att skydda det kommande EU-valet från “desinformation” och “manipulation”.

– Vi vet att den valperiod som nu inleds i Europeiska unionen kommer att utsättas för hybridattacker eller utländsk inblandning av alla slag. Vi kan inte ha halvdana åtgärder, förkunnade Thierry Breton, EU:s kommissionär för den inre marknaden i februari.

Enligt Breton är det ännu inte helt klart när techbolagen kommer att tvingas införa särskilda märkningar på manipulerat innehåll enligt EU:s lag om innehållsmoderering, men regelverket förväntas gälla på bland annat TikTok, X, Facebook, Instagram och YouTube.

Deepfakes har redan dykt upp i olika sammanhang runtom i världen och skapat oro bland lagstiftare – bland annat en ljudförfalskning som utgavs för att vara USA:s president Joe Biden. 2024 påstås dessutom vara särskilt känsligt då européerna håller val till EU-parlamentet i juni – samtidigt som amerikanerna har presidentval i november.

“Snabb reaktionsmekanism”

OpenAI som ligger bakom tjänsten ChatGPT har redan låtit meddela att man kommer att börja märka falska bilder, och även Meta som äger Facebook, Instagram och Threads har sagt att de har för avsikt att snart införa liknande åtgärder.

I EU har lagstiftare länge krävt att de sociala medieföretagen enklare kan hållas juridiskt ansvariga för det som publiceras på deras plattformar – bland annat just ”desinformation”.

Stora onlineplattformar har redan nu en skyldighet att begränsa och motverka vad som beskrivs som ”samordnade manipulationskampanjer” och andra ”systemrisker” som bedöms ha potentiella negativa effekter på valprocesserna.

Enligt Breton är det viktigt att plattformarna också inrättar ”en snabb reaktionsmekanism för alla typer av incidenter” och att EU kommer att genomföra simuleringar för att säkerställa att deras system fungerar.