AI kommer att förbjudas och begränsas inom flera områden i EU. Enligt ett pressmeddelande kommer restriktionerna att omfatta biometriska kategorisystem, känsloigenkänning samt ansiktsigenkänningsdatabaser.
Under fredagen kom EU-parlamentet, kommissionen och ministerrådet fram till en uppgörelse kring reglering av AI inom EU. Den nya regleringen förbjuder bland annat användning av biometriska kategoriseringssystem som analyserar skyddade personuppgifter såsom etnicitet och politisk hemvist, och begränsar användningen av känsloigenkänning på arbetsplatser och inom utbildning. Vidare förbjuds slumpmässig insamling av bilder på ansikten från internet eller övervakningskameror för att skapa ansiktsigenkänningsdatabaser i den nya lagen, enligt Europaparlamentets pressmeddelande.
Sociala poängsystem baserat på beteende eller personliga kvaliteter förbjuds också, samt även system som manipulerar mänskligt beteende för att ”kringgå fri vilja”.
”En unik rättslig ram för utveckling av AI som du kan lita på. Jag välkomnar dagens politiska överenskommelse”, skriver kommissionens ordförande Ursula von der Leyen på X.
Biometriska identifikationssystem, som ansiktsigenkänning, ska vara strikt begränsade till viss användning av polis. Man får bland annat använda dem till att spåra offer för vissa typer av brott, dit man bland annat räknar kidnappning, människohandel och sexuellt utnyttjande. Det får även användas vid terrorhot och för att söka efter misstänkta personer för vissa ”seriösa brott”.
EU-lagstiftningen introducerar också strikta regler för AI-system klassade som ”högrisk”. Detta kräver att utvecklare utför detaljerade konsekvensanalyser för att bedöma hur deras AI-lösningar, särskilt inom finans- och försäkringssektorerna, kan påverka medborgarnas grundläggande rättigheter. Dessutom inkluderas AI-system som används i valprocesser inom unionen i kategorin högrisksystem.
Bötesstraffen för brott mot AI-lagen kommer att ligga på mellan 7,5 och 35 miljoner euro eller 1,5–7 procent av företagets globala omsättning.
Den överenskomna texten måste nu formellt antas av både parlamentet och rådet för att bli EU-lagstiftning. Parlamentets utskott för inre marknaden och medborgerliga fri- och rättigheter kommer att rösta om överenskommelsen vid ett kommande möte.
