Hegseth slaktes for krav til KI-selskap: – En oppskrift på katastrofe

Anthropic-toppsjef Dario Amodei tar kraftig til motmæle mot USAs forsvarsdepartement. Pete Hegseth har truet med å «svarteliste» KI-selskapet.

Anthropic-sjef Dario Amodei frykter å miste en svært verdifull kontrakt med det amerikanske forsvaret. Men han frykter også for demokratiet dersom han gir etter for kravene. Foto: Denis Balibouse / Reuters

Forsvarsminister Pete Hegseth har truet med å si opp Anthropics kontrakt med Pentagon, verdt opp mot 200 millioner dollar, og «svarteliste» selskapet med mindre det godtar Trump-administrasjonens bruksvilkår.

Fristen selskapet har fått av amerikanske myndigheter, er satt til klokken 23.01 fredag kveld norsk tid. Axios meldte først om fristen.

Vil fjerne sikkerhetsbarrierer

Striden kretser rundt Anthropics språkmodell Claude. Denne har USAs krigsdepartement tatt i utstrakt bruk, også i myndighetenes sikkerhetsgraderte nettverk.

Trump-administrasjonen krever at KI-selskapet fjerner såkalte «guardrails» – sikkerhetsbarrierer – som hindrer bruk av Claude til svært kontroversielle formål.

Slik barrierene er satt opp i dag, kan ikke Claude brukes til omfattende innenlands overvåkning eller fullautonome våpen. Det vil myndighetene gjøre noe med.

Forsvarsminister Pete Hegseth krever at Anthropic gir det amerikanske militæret ubegrenset tilgang på språkmodellen.

Dersom Amodei ikke lystrer, kan KI-selskapet hans bli satt på amerikanske myndigheters «svarteliste» ved å bli merket som en såkalt «supply chain risk». Det betyr at de blir ansett som en potensiell sikkerhetsrisiko i forsyningskjeden til det amerikanske forsvaret.

Torsdag tok selskapets toppsjef, Dario Amodei, kraftig til motmæle mot myndighetskravene i et blogginnlegg. Han skriver at selskapet nekter å etterkomme kravene fra Trump-administrasjonen.

Vil forsvare demokratiet

Claude er ekstensivt utplassert på tvers av Forsvarsdepartementet og andre nasjonale sikkerhetsmyndigheter for kritiske oppdragsfunksjoner.

Dette inkluderer etterretningsanalyse, modellering og simulering, operasjonell planlegging, cyberoperasjoner og mer.

– Anthropic forstår at Krigsdepartementet (Amodei bruker dette navnet, journ. anm.), ikke private selskaper, tar militære beslutninger. Vi har aldri protestert mot spesifikke militære operasjoner eller forsøkt å begrense bruken av teknologien vår på en ad hoc-måte. Imidlertid mener vi at KI i et begrenset antall tilfeller, kan undergrave demokratiske verdier i stedet for å forsvare dem. Noen bruksområder ligger også utenfor det dagens teknologi kan gjøre trygt og pålitelig, skriver Amodei i blogginnlegget.

– Vi kan ikke i god samvittighet gå med på deres forespørsel, avslutter han.

– En oppskrift på katastrofe

Jack Shanahan ledet Project Maven, det amerikanske forsvarsdepartementets banebrytende KI-program for automatisering av etterretningsanalyse.

Nå skriver den pensjonerte generalløytnanten at ingen LLMLLMLarge language model (LLM) - KI basert på maskinlæring, som Claude. Også ChatGPT og Perplexity etc. er basert på LLMer. , noen steder, i noen nåværende form, bør vurderes brukt i et fullautonomt våpensystem.

– Til tross for hypen er frontier-modeller ikke klare for «prime time» i nasjonale sikkerhetsmiljøer. Overavhengighet av dem på dette stadiet er en oppskrift på katastrofe, skriver han.

Han reagerer også kraftig på at saken er blitt offentlig.

– Noe gikk veldig galt i hastverket med å rulle ut modellene, skriver han. Shanahan kaller trusselen om å «svarteliste» Anthropic latterlig.