Googles AI på Youtube klassade en populär schack-kanal som ”skadlig och farlig”, vilket ledde till att kanalens ägare blockerades. Google har i vanlig ordning inte kommenterat det inträffade, men forskare bedömer att det kan bero på att kanalen av naturliga skäl ofta använder begrepp som svart, vit, attack, hot och andra dylika schackrelaterade termer.
I juni 2020 inträffade en något underligt på Youtube. Schack-kanalen Agadmator’s Chess Channels ägare Antonio Radic blev blockerad för att ha lagt ut en video som var ”skadlig och farlig” enligt Googles AI. Videon var när stormästaren Hikaru Nakamura spelade schack. Youtube gav ingen förklaring till blockeringen, som blev hävd efter 24 timmar.
Dataforskare vid Carnegie Mellon University började utreda detta och kom fram till att det troligen handlar om att AI:n tyckte sig uppfatta rasism i videon på grund av allt prat om ”svart mot vitt” och annan terminologi som Google motarbetar på olika sätt. De har också gått igenom 1000 kommentarer på olika schack-videos som av AI:n klassats som ”hat” och det visade sig att 82 procent av dessa kommentarer blivit felklassificerade när de innehöll ord som till exempel ”svart”, ”vit”, ”anfall” och ”hot”.
– Om man förlitar sig på AI att hitta rasistiskt språk så kommer sådana här misstag att hända, säger Ashiqur KhudaBukhsh, forskningsledare vid Carnegie Mellon-universitetet.
Youtube eller Google har inte nämnt något om hur man ska kunna förhindra att liknande händelser upprepas.
Ladda ner Nya Dagbladets mobilapp!
