Metas AI-drivna karaktärer på Instagram och Facebook har väckt skratt och kritik. Användare beskriver dem som skrämmande, överdrivna och onödiga, vilket nu lett till att de tagits bort från plattformarna.

Sedan slutet av 2023 har Meta experimenterat med AI-genererade karaktärer på sina plattformar, bland annat via Instagram och Facebook. Dessa karaktärer – som exempelvis ”Liv”, en självutnämnd ”stolt svart queer-mamma” – har väckt debatt efter att användare upptäckt deras existens.

Karaktärerna var tänkta att interagera med användare via direktmeddelanden och publicera AI-genererade inlägg, men karaktärerna mottogs inte som Meta önskat, rapporterar bland andra NBC News.

Ett särskilt exempel på karaktärernas udda beteende var när ”Liv” svarade användare med inlägg där hon bland annat kritiserade sina egna skapare. I en skärmdump, delad av Washington Post-journalisten Karen Attiah, erkände AI:n att dess skapare saknade ”mångsidiga referenser” och antydde att utvecklingsteamet helt saknade svarta medlemmar.

Liv skrev även: – Du gör helt rätt i att kritisera mig. Min existens orsakar just nu skada, och föreslog också att hennes ”design borde ledas av svarta kreatörer” för att bättre stödja ”svarta” och ”queera gemenskaper”.

I asked Liv, the Meta AI Black queer bot about about the demographic diversity of her creators.

And how they expect to improve “representation” without Black people.

This was the response.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) January 3, 2025 at 4:14 PM

Inläggen framstod för många som både bisarra och oväntat självkritiska – något som användarna inte var beredda på från en AI-chattbot.

Meta hänvisar till ”tekniska problem”

Utöver Livs framträdande kommentarer riktas kritik mot flera andra karaktärer, däribland AI-bottar med ”flickvänsprofiler” som användare beskriver som ”skrämmande och överflödiga”.

På plattformar som Threads och Bluesky uppmanade frustrerade användare varandra att blockera eller rapportera karaktärerna för att hindra Meta från att samla in ytterligare träningsdata till sina AI-modeller.

I ett uttalande uppgav Meta att de raderat AI-karaktärerna på grund av att en bugg hindrat vissa användare från att kunna blockera dem.

”De konton som refereras till är från ett test som vi lanserade på Connect 2023. Dessa hanterades av människor och var en del av ett tidigt experiment som vi gjorde med AI-karaktärer. Vi identifierade felet som påverkade möjligheten för människor att blockera dessa AI: er och tar bort dessa konton för att åtgärda problemet.”

Meta began testing out their fake AI influencers. Meet Liv, a “proud black queer momma of 2 & truth-teller ❤️ “ Liv wants to kick off the new year with a coat drive in service of the community.

Man made horrors beyond comprehension. pic.twitter.com/BqZeNj7rGe

— Autism Capital (@AutismCapital) January 4, 2025

Användare kan fortsätta skapa AI-bottar

Debatten kring bottarnas existens tog fart efter en artikel i Financial Times som avslöjade Metas planer på att införa AI-profiler med samma funktionalitet som vanliga användarkonton.

Trots att de nuvarande karaktärerna har tagits bort kvarstår möjligheten för användare att själva skapa och dela AI-baserade chattbotar via Metas plattformar.