Läser nu: Pentagon mot AI-bolaget som vägrade bli ett vapen
- 01
Pentagon mot AI-bolaget som vägrade bli ett vapen
Du har byggt världens säkraste AI, fått ett kontrakt på 200 miljoner dollar med det amerikanska försvaret och sedan knackar försvarsministern på dörren med ett ultimatum. Ta bort alla säkerhetsspärrar, annars drar vi. Det är läget för Anthropic just nu, och det börjar likna en dålig actionfilm mer än affärsmässiga förhandlingar.
Innehållsförteckning
Ok lite bakgrund till storyn
Anthropic, företaget bakom AI-modellen Claude, har länge velat vara den seriösa aktören i AI-branschen. Medan konkurrenter som OpenAI, Google och Elon Musks xAI snällt böjt sig för militärens krav har Anthropic hållit fast vid två saker. Inga vapensystem som opererar helt utan mänsklig kontroll och ingen massövervakning av amerikanska medborgare. Rätt rimligt egentligen. Inte enligt Pentagon.
Mötet som definitivt inte var någon trevlig fika
Tisdagen den 24 februari gick försvarsminister Pete Hegseth och Anthropics VD Dario Amodei in i ett rum på Pentagon. En insider beskrev mötet i förväg som ett shit or get off the pot meeting, vilket troligen är den mest rättframma diplomatiska formuleringen på länge. Hegseth lade ett ultimatum på bordet med deadline på fredagen. Skriv under ett dokument som ger militären fritt tillträde till Claude, annars betalar ni priset.
Ironiskt nog ska mötet ha varit märkligt artigt. Amodei tackade till och med Hegseth för hans tjänst. Inga röster höjdes. Men när de gick ut ur rummet hade ingen ändrat sig ett dugg.
Pentagon behöver Anthropic mer än de vill erkänna
Här sitter hela ironin i historien. Claude är i dagsläget den enda AI-modellen som är godkänd för militärens mest hemligstämplade nätverk. Inte en enda konkurrent är i närheten av den statusen ännu. En Pentagon-tjänsteman uttryckte det med en ärlighet som nästan är rörande. The only reason we are still talking to these people is we need them and we need them now. The problem for these guys is they are that good.
Pentagon hotar alltså att sparka den enda leverantören de inte klarar sig utan. Det påminner lite om att hota sin hjärtkirurg med avsked mitt under en pågående operation.
Vad betyder egentligen woke AI?
Hegseth och Trump-administrationen har döpt Anthropics säkerhetsregler till woke AI. AI-experter menar att begreppet i praktiken är meningslöst och används för att beskriva allt från tekniska skyddsmekanismer till påstådd politisk slagsida i svaren. Det man faktiskt vill ha är en AI som militären kan använda för all lawful purposes, ett begrepp tillräckligt brett för att rymma det mesta man kan komma på.
Tre otrevliga alternativ från Pentagon
Pentagon har lagt fram tre alternativ:
- Det första är att avsluta kontraktet på 200 miljoner dollar, vilket låter dramatiskt men knappt märks för Anthropic vars omsättning ligger runt 14 miljarder dollar per år.
- Det andra är att stämpla Anthropic som en supply chain risk, ett begrepp som annars är reserverat för utländska fiender som Kina och Ryssland. Det skulle tvinga alla Pentagons övriga leverantörer att intyga att de inte använder Claude i sina egna system, en administrativ mardröm med tanke på att åtta av de tio största amerikanska bolagen använder Claude dagligen.
- Det tredje alternativet är att Pentagon åberopar Defense Production Act för att tvinga fram ett avtal på militärens villkor, ett drag så ovanligt aggressivt att juridiska experter redan ifrågasätter om det håller i en domstol.
Deadline till på fredag från Pentagpn
Fredag är deadline. Amodei har gjort klart att Anthropic kan anpassa sin policy men aldrig acceptera massövervakning eller vapensystem utan mänsklig kontroll. Det Pentagon kallar orimliga begränsningar är precis de skäl som fick Amodei att lämna OpenAI och starta Anthropic från början.
AI spelar redan en central roll i militära beslut, den diskussionen är förbi. Det som återstår är frågan om vem som sätter gränserna för hur tekniken används och om det ska vara folkvalda politiker eller teknikbolag som har sista ordet när det gäller autonoma vapensystem och övervakning av medborgare.
