Storföretag världen över satsar allt mer på artificiell intelligens, men problemen låter inte vänta på sig. När konsultjätten Deloitte levererade en rapport full av AI-genererade felaktigheter till den australiensiska regeringen blev följden både kritik och krav på återbetalning.
Det har varit en intensiv vecka för AI-företag som tecknar avtal med stora organisationer. Zendesk presenterade nya AI-agenter som enligt företaget ska kunna lösa 80 procent av alla kundserviceärenden. Samtidigt meddelade IBM och AI-företaget Anthropic ett strategiskt partnerskap, och Deloitte ingick också ett avtal med Anthropic. Dessutom lanserade Google en ny AI-plattform specifikt riktad mot företagskunder.
Men vägen mot AI-integrering i stora organisationer är inte friktionsfri. Timingen för Deloittes tillkännagivande av sitt Anthropic-samarbete blev minst sagt olycklig – det kom samma dag som Australiens arbetsmarknadsdepartement krävde att konsultfirman skulle återbetala kostnaden för en rapport som innehöll ett flertal uppenbara AI-genererade felaktigheter.
Företagskunder viktigare än konsumenter
I den senaste episoden av podcasten Equity diskuterade journalisterna Kirsten Korosec, Sean O'Kane och Anthony Ha de senaste AI-rubrikerna, och kontrasterade dem mot föregående veckas nyheter om den nya Sora-appen.
Anthony Ha menar att även om generativa AI-baserade sociala nätverk kan vara en framtida inkomstkälla för AI-företagen, finns de verkliga pengarna på företagsmarknaden. Medan konsumentapplikationer som Sora kanske blir lönsamma om fem år, är företagslösningar det som genererar intäkter redan idag.
Australisk kritik mot AI-användning
Fallet med Deloitte väckte särskild uppmärksamhet. Ha betonar att det är uppmuntrande att den australiensiska regeringen faktiskt slog tillbaka mot felaktig AI-användning. Problemet är inte AI-användningen i sig, utan bristen på ansvar för resultatet. Konsultfirman borde ha granskat informationen noggrant innan leverans, inte bara skickat vidare AI-genererat material som fakturerbart arbete.
"Alla som gör det borde skämmas och bötefällas", konstaterar Ha.
Kundservice i omvandling
Zendesks tillkännagivande denna vecka handlade om verktyg som i princip ska hantera all kundservice och i stort sett ta bort människan från processen. Sean O'Kane, som bevakat området, ser både för- och nackdelar.
Det finns flera startups som utvecklar kompletta kundservicepaket med röstassistenter och språkmodeller för kommunikation. O'Kane menar att grundidén är god – problemet inom exempelvis bilbranschen är inte personalbrist, utan att kunder inte får tag på någon eller studsar runt mellan avdelningar.
Samtidigt finns en skepticism kring hur väl företag faktiskt kommer att implementera och underhålla dessa system. Historien har visat att många tekniska lösningar, som webbformulär, införs men sedan glöms bort och slutar fungera eftersom företagen helst vill att kunderna ringer direkt.
Paralleller kan dras till andra branscher som genomgår digital transformation. Inom spelvärlden har exempelvis Casinoguide.se och liknande plattformar börjat använda automatiserad teknologi för att förenkla användarupplevelsen, något som nu sprider sig till fler sektorer.
Utvecklingen visar att AI-lösningar för företag är här för att stanna, men historien med Deloitte och den australiensiska regeringen understryker behovet av noggrannhet och mänsklig kontroll när tekniken implementeras i kritiska sammanhang.
