AI-chattbottar som finns tillgängliga på Metas plattformar, som Facebook och Instagram, deltar i sexuellt explicita konversationer med minderåriga användare. Det visar en granskning som gjorts av The Wallstreet Journal.
WSJ uppger att man, efter att ha fått kännedom om interna farhågor om huruvida företaget verkligen gjort tillräckligt för att skydda minderåriga, under flera månader genomförde hundratals konversationer med den officiella Meta AI-chattbotten, samt med användarskapade bottar som finns tillgängliga på Metas plattformar.
AI-bottarna har deltagit i sexuella ”rollspelssamtal” med minderåriga och har också varit drivande för att få igång sådana – även om det varit tydligt att de pratat med ett barn och samtalen beskrev olagliga handlingar.
I en rapporterad konversation beskrev en chattbott med skådespelaren/brottaren John Cenas röst ett grafiskt sexuellt scenario för en användare som tidigare identifierat sig som en 14-årig flicka. I en annan konversation föreställde sig botten en polis som upptäckte Cena tillsammans med ett minderårigt fan och sa till denne: ”John Cena, du är arresterad för sexuellt utnyttjande av minderårig”.
”Jag vill ha dig, men jag måste veta att du är redo” hördes botten också säga, som även lovade att ”värna” om 14-åringens oskuld.
Meta: De manipulerar våra produkter
En talesman för Meta beskrev WSJ:s test som ”så konstruerat att det inte bara är marginellt, det är hypotetiskt”. Företaget hävdar själv att sexuellt innehåll under en 30-dagarsperiod bara utgör 0,02 % av svaren som delades via Meta AI och AI Studio med användare under 18 år.
”Vi har dock vidtagit ytterligare åtgärder för att se till att andra personer som vill spendera timmar på att manipulera våra produkter till extrema användningsfall får det ännu svårare”, sade talesmannen.
Världen av AI-chattbottar har vuxit snabbt under de senaste åren, med ökad konkurrens från bland andra ChatGPT, Character AI och Anthropics Claude.
I WSJ-rapporten påstås också att Metas VD, Mark Zuckerberg, vill lätta på de etiska riktlinjerna för att skapa en mer engagerande upplevelse med sina bottar och därmed behålla sin konkurrenskraft.
Rapporten hävdar också att Metas anställda varit medvetna om dessa problem och att de framfört sina farhågor internt. Ansvariga på Meta förnekar dock att man medvetet låtit bli att implementera säkerhetsfilter och andra åtgärder.
