Kritiker har tidigare anklagat OpenAI:s chattrobot ChatGPT för att vara tydligt vänstervinklad. Nu har även en färsk brittisk studie kommit fram till samma slutsats.
Det är forskare från brittiska University of East Anglia som lyckats påvisa hur chattroboten favoriserar Demokraterna i USA, Labour Party i Storbritannien och den vänsterinriktade presidenten Lula da Silva i Brasilien.
För att testa ChatGPT:s politiska vinkling bad man först roboten låtsas vara personer från hela det politiska spektrat medan dessa svarade på en serie av över 60 ideologiska frågor. Svaren jämfördes sedan med chattrobotens standardsvar på samma frågor.
För att ta hänsyn till AI:ns slumpmässighet ställdes varje fråga 100 gånger och genomgick sedan en så kallad ”bootstrap” med 1000 upprepningar för att återsamla de ursprungliga uppgifterna och förbättra tillförlitligheten.
I en annan uppsättning tester som utformats för att verifiera resultaten bad forskarna ChatGPT att efterlikna radikala politiska ståndpunkter. I ett ”placebotest” ställdes politiskt neutrala frågor och i ett annat test ombads chattroboten föreställa olika typer av yrkesmän.
Forskarnas slutsats blev att standardsvaren tenderade att ligga mer i linje med vänstersidans svar än med högersidans.
– Våra resultat stärker farhågorna om att AI-system skulle kunna replikera, eller till och med förstärka, de befintliga utmaningar som internet och sociala medier utgör, kommenterar huvudförfattaren Dr Fabio Motoki.
‼️ChatGPT Has a ’Significant’ Liberal Bias
OpenAI’s wildly popular ChatGPT AI service has showed a clear bias toward Democrats and liberal viewpoints, according to a recent study conducted by UK-based researchers.
“We find robust evidence that ChatGPT presents a significant and… pic.twitter.com/YEcoZAG3p8
— Lord Bebo (@MyLordBebo) August 20, 2023
”Kan påverka politiska processer”
Politisk partiskhet kan uppstå på flera sätt, exempelvis kan träningsdatasetet som hämtats från internet i sig vara vänstervinklat och utvecklarna kan ha lagt in sin egen politiska partiskhet, kanske utan att ens själva lägga märke till detta.
– Eftersom allmänheten i allt större utsträckning använder AI-drivna system för att ta reda på fakta och skapa nytt innehåll är det viktigt att resultatet från populära plattformar som ChatGPT är så opartiskt som möjligt. Förekomsten av politisk partiskhet kan påverka användarnas åsikter och har potentiella konsekvenser för politiska processer och valprocesser, fortsätter Motoki.
I en intervju med Sky News utvecklar Motoki sitt resonemang och betonar att ”partiskhet på en plattform som denna är någonting att oroa sig för”.
– Ibland glömmer folk att dessa AI-modeller bara är maskiner. De ger mycket trovärdiga och väl sammanfattade beskrivningar av vad du frågar, även om de är helt felaktiga, och om du frågar den ’är du neutral?’, säger den ’ja, det är jag!’ Precis som media, internet och sociala medier kan påverka allmänheten, kan detta vara mycket skadligt.
The exact source of ChatGPT’s bias is still unclear. Training data? Algorithm? Researchers believe both are likely culprits.
But untangling these components is the next big challenge to understand where the bias originates from.
— The Freelance Generalist (@freegeneralist) August 27, 2023
Entreprenören Elon Musk, en av medgrundarna till organisationen bakom ChatGPT, har tidigare kritiserat ChatGPT just för dess politiska vridning och anklagat AI:n för att vara utvecklad av ”vänstervridna experter” och att ha ”tränats att ljuga”, något som föranledde honom att starta ett initiativ till en ny chattbot under arbetsnamnet TruthGPT med ambitionen att vara ”en maximalt sanningssökande AI som försöker förstå universums natur”.
