Enligt organisationen Internet Watch Foundation, som arbetar mot sexuell exploatering av barn på internet, riskerar de snabba framstegen inom artificiell intelligens att leda till att alltfler pedofiler producerar AI-genererade övergreppsfilmer på barn.
Flertalet fall som gruppen upptäckt handlar om manipulation av befintligt övergreppsmaterial eller vuxenpornografi, där pedofilerna ”lagt till” ett barns ansikte i filmen, men ett handfull exempel handlar dock om helt AI-genererade filmklipp, cirka 20 sekunder långa. IWF säger sig vara oroliga för att ett ökande antal övergreppsfilmer kommer att dyka upp i takt med att tekniken blir mer kraftfull, användarvänlig och utbredd.
Dan Sexton, teknikchef på IWF, noterar att antalet AI-producerade stillbilder ökat kraftigt i volym den senaste tiden och är orolig för att samma trend ska synas angående filmklipp.
– Jag skulle preliminärt säga att om det följer samma trend så kommer vi att se fler filmer, uppger han och menar att dessa också förmodas vara av ”högre kvalitet och realism”.
AI-genererade barnpornografiska filmer dök enligt IWF upp så sent som under förra året, och man noterar att de redan börjar bli betydligt mer realistiska än tidigare.
Säljs på nätet
Vad gäller bilder så upptäckte man i ett enskilt webbforum 12 000 AI-genererade barnpornografiska bilder som publicerats under 30 dagar – även här var många mycket realistiska och svåra att särskilja från riktiga fotografier. Man ser också att det finns aktörer som tjänar pengar på denna typ av barnporr och säljer bilder vidare till andra pedofiler på nätet.
– Utan ordentlig kontroll skapar generativa AI-verktyg en lekplats för predatorer på nätet där de kan förverkliga sina mest perversa och sjuka fantasier. Redan nu börjar IWF se att mer av den här typen av material delas och säljs på kommersiella webbplatser för sexuella övergrepp mot barn på internet, säger organisationens vd Susie Hargreaves.
IWF vill därför bland annat kriminalisera skapandet av guider för att generera AI-skapad barnporr eller ”finjusterade” AI-modeller som kan producera denna typ av innehåll.