Spanien har beordrat åklagare att utreda sociala medieplattformarna X, Meta och TikTok för påstådd spridning av AI-genererat material som föreställer sexuella övergrepp mot barn. Beslutet kommer när europeiska tillsynsmyndigheter skärper granskningen av teknikjättar.
En av fem ungdomar i Spanien, mestadels flickor, uppger att falska nakenbilder av dem skapades med AI och delades online när de var minderåriga, enligt rättighetsorganisationen Save the Children.
Nu planerar man att utreda plattformarna för spridning av AI-genererat material, meddelar premiärminister Pedro Sánchez.
— Dessa plattformar underminerar den psykiska hälsan, värdigheten och rättigheterna för våra barn, skrev Sanchez på X. Staten kan inte tillåta detta. Straffriheten för dessa jättar måste upphöra.
Han sade att justitiedepartementet skulle be åklagare att utreda om X, Meta och TikTok begår brott genom att skapa och sprida barnpornografi med hjälp av AI.
Tillkännagivandet från premiärminister Pedro Sanchez kommer samtidigt som tillsynsmyndigheter över hela Europa intensifierar sin granskning av sociala medieplattformar. Teknikjättarna anklagas för en rad olika problem, från konkurrensbegränsande metoder till medveten utformning av beroendeframkallande funktioner.
Företagen svarar
TikTok svarade senare under tisdagen att material som föreställer sexuella övergrepp mot barn är förbjudet på plattformen.
— TikTok har robusta system på plats för att motverka försök att exploatera eller skada unga människor, och vi fortsätter att prioritera och investera i avancerad teknik för att ligga steget före illvilliga aktörer, sade en talesperson för företaget i ett uttalande enligt Reuters.
X och Meta lämnade ingen omedelbar kommentar.
Global granskning intensifieras
Samtidigt meddelade Irlands dataskyddsmyndighet på tisdagen att den öppnat en formell utredning av X:s AI-chattbot Grok för behandling av personuppgifter och dess potential att generera skadliga sexualiserade bilder och videor, inklusive av barn.
Spanien är inte det enda landet som slår till mot sociala medieplattformar. Flera regeringar har öppnat utredningar, infört förbud och sökt skyddsåtgärder i en växande global insats för att begränsa olagligt material.
