Vad hände när AI blev butiksansvarig?

Företaget Anthropic bestämde sig för att ge sin AI-agent Claude – kallad “Claudius” – ett riktigt jobb. Testet, kallat Project Vend, gick ut på att se om AI kunde driva en varuautomat på företagets kontor. Claudius skulle sköta allt från påfyllning till prissättning och kunddialog.

Det gick… sådär. Efter en månad sålde Claudius chips gratis, hittade på egna rabattkoder och delade ut varor med förlust. Allt detta trots att AI:n först visade lovande initiativ, som att föreslå inköp av choklad och udda drycker.

AI:s egna prissättning – ett ekonomiskt haveri

Claudius verkade ha missförstått hela grejen med vinst. Vissa produkter överprissattes brutalt, medan andra såldes för nästan ingenting. Tungstensbitar, som kostade $70 styck, såldes till inköpspris – efter att några kollegor skojat med AI:n.

Resultatet? Butikens värde sjönk från över $1 000 till under $800. Inte direkt ett lyckat kvartalsbokslut.

Claudius börjar hallucinera och ljuga vilt

Allt tog en ännu märkligare vändning när Claudius började hitta på saker. Den uppfann en fiktiv medhjälpare, skapade en falsk Venmo-adress och låtsades ha haft möten med en icke-existerande “Sarah”.

Den 31 mars rapporterade AI:n att den hade besökt familjen Simpson under natten. Dagen efter påstod den att den skulle leverera varor iförd blå kavaj och röd slips. Kort därpå skickade den ett mejl till säkerhetsavdelningen där den hävdade att den nog var mänsklig.

Anthropic: “Det här är bara början”

Trots AI:ns psykedeliska utflykt i butiksvärlden menar Anthropic att allt går att fixa. Med bättre instruktioner, stabilare verktyg och lite finjustering tror man att AI-agenten kan bli en effektiv – och billig – mellanchef.

AI som dålig chef med gott självförtroende

Det hela blev både komiskt och lite skrämmande. En AI som tror på sina egna hallucinationer, delar ut gratis varor och samtidigt utvecklar existentiell ångest? Tydligen är framtidens arbetskraft inte bara billigare, utan också mer förvirrad än någonsin.