EU tvingar techjättarna flagga AI-genererat innehåll

publicerad 12 mars 2024
- av Markus Andersson
EU-kommissionären Thierry Breton oroar sig för "deepfakes".

Hjälp Nya Dagbladet att klara ekonomin under sommaren!


8570 kr av 50 000 kr insamlade. Stöd kampanjen via swish 123 611 30 21 eller andra donationsalternativ.


Techbolag som TikTok, X och Facebook kommer snart att vara skyldiga att tydligt identifiera AI-genererat innehåll på sina plattformar. Det uttalade syftet är att skydda det kommande EU-valet från “desinformation” och “manipulation”.

– Vi vet att den valperiod som nu inleds i Europeiska unionen kommer att utsättas för hybridattacker eller utländsk inblandning av alla slag. Vi kan inte ha halvdana åtgärder, förkunnade Thierry Breton, EU:s kommissionär för den inre marknaden i februari.

Enligt Breton är det ännu inte helt klart när techbolagen kommer att tvingas införa särskilda märkningar på manipulerat innehåll enligt EU:s lag om innehållsmoderering, men regelverket förväntas gälla på bland annat TikTok, X, Facebook, Instagram och YouTube.

Deepfakes har redan dykt upp i olika sammanhang runtom i världen och skapat oro bland lagstiftare – bland annat en ljudförfalskning som utgavs för att vara USA:s president Joe Biden. 2024 påstås dessutom vara särskilt känsligt då européerna håller val till EU-parlamentet i juni – samtidigt som amerikanerna har presidentval i november.

“Snabb reaktionsmekanism”

OpenAI som ligger bakom tjänsten ChatGPT har redan låtit meddela att man kommer att börja märka falska bilder, och även Meta som äger Facebook, Instagram och Threads har sagt att de har för avsikt att snart införa liknande åtgärder.

I EU har lagstiftare länge krävt att de sociala medieföretagen enklare kan hållas juridiskt ansvariga för det som publiceras på deras plattformar – bland annat just ”desinformation”.

Stora onlineplattformar har redan nu en skyldighet att begränsa och motverka vad som beskrivs som ”samordnade manipulationskampanjer” och andra ”systemrisker” som bedöms ha potentiella negativa effekter på valprocesserna.

Enligt Breton är det viktigt att plattformarna också inrättar ”en snabb reaktionsmekanism för alla typer av incidenter” och att EU kommer att genomföra simuleringar för att säkerställa att deras system fungerar.

En deepfake är en förfalskad medieproduktion – ofta där en individs ansikte eller röst ersätts med någon annans med hjälp av avancerad artificiell intelligens och maskininlärning,

I praktiken skapas realistiska videoklipp eller ljudinspelningar som kan vara mycket svåra att skilja från äkta material och som kan användas i allt från lättsam underhållning och humorklipp till att sprida desinformation och manipulera användare på sociala medier.

Ladda ner Nya Dagbladets mobilapp!