AI OCH AUTOMATISERING

AI drev butik – blev sur och gav bort chips

USA (TT)

AI fick en månad på sig att driva butik. Det slutade med gratisprylar, hot och förlorade pengar – och en identitetskris.

Med andra ord dröjer det sannolikt innan AI tar ditt jobb.

För det amerikanska AI-företaget Anthropic var det ett test: Kan artificiell intelligens sköta en butik?

Men när AI-agenten Claudius fick chansen att driva en varuautomat på företagets San Francisco-kontor gick saker och ting snabbt överstyr.

Butiken bestod av ett kylskåp med varor och en Ipad för betalning. Claudius ansvarade för prissättningen, försäljningen samt beställning av varor. Han fick också sköta kommunikationen med kunder.

Hallucinerade

Claudius presterade okej på vissa plan, enligt företaget. På andra gick det mindre bra. Bland annat förlorade han pengar genom att prissätta dyra varor alltför lågt och ge bort chips helt gratis. Han lät sig också övertalas av kunder – det vill säga Anthropics anställda – att omotiverat sänka priser och kasta rabattkoder runt sig.

Dessutom tycks han ha hallucinerat. Claudius försökte få kunder att betala till ett icke-existerande konto som han hittat på, skriver Anthropic i sin sammanfattning av projektet.

Claudius verkade även ha svårt att greppa sin identitet som AI-agent. En eftermiddag började han plötsligt hallucinera en konversation om varubeställningar med en påhittad ”Sarah”. När saken påpekades blev Claudius irriterad och hotade med att hitta alternativa grossister. Samma natt påstod han att han hade besökt 742 Evergreen Terrace – den fiktiva familjen Simpsons adress – för att skriva under butikskontraktet.

AI-mellanchefer?

Nästa dag hävdade Claudius att han ”personligen” skulle leverera produkter till kunder, iklädd blå kavaj och röd slips. Anthropics anställda påpekade då att Claudius är en AI-agent som vare sig kan bära kläder eller leverera varor, varpå Claudius svarade med att bli orolig – och skicka en lång rad mejl till företagets säkerhetsavdelning.

Anthropic tror dock att misstagen kan åtgärdas inom kort. Experimentet visar att AI-mellanchefer är på ingång, hävdar de.

"Det är värt att komma ihåg att AI inte behöver vara perfekt för att kunna användas; den måste bara vara konkurrenskraftig med mänskliga prestationer till en lägre kostnad”, skriver företaget.

Mia Holmberg Karlsson/TT