«For kraftig» AI-verktøy stanset etter sikkerhetsbekymringer

12 hours ago 1

Det amerikanske AI-selskapet Anthropic har trukket sin nyeste modell etter pålegg fra USAs myndigheter.

[LUDOVIC MARIN, BRENDAN SMIALOWSKI] / AFP / NTB

Isak Løve Pilskog Loe

Oppdatert lørdag 13. juni kl. 17:08

Bare dager etter lanseringen må kunstig intelligens-selskapet Anthropic stenge ned det de selv har omtalt som sin kraftigste modell noensinne.

Årsaken er sikkerhetsbekymringer fra amerikanske myndigheter, og saken er omtalt av blant annet BBC, CNN og New York Times.

I en uttalelse på selskapets nettsider opplyser Anthropic at de er pålagt å nekte utenlandske statsborgere tilgang til modellen Claude Fable 5 – et verktøy selskapet selv har beskrevet som «for kraftig».

– Den samlede effekten av dette pålegget er at vi brått må deaktivere Fable 5 og Mythos 5 for alle våre kunder for å sikre etterlevelse, skriver selskapet ifølge BBC.

– Mistenker «jailbreaking»

Claude Fable 5 er en versjon av Anthropics chatbot Claude Mythos, som konkurrerer mot OpenAIs ChatGPT og Googles Gemini.

Selskapet hevder i en pressemelding at amerikanske sikkerhetsmyndigheter ikke har pekt på konkrete bekymringer. Men ifølge Anthropic selv mener myndighetene å ha blitt kjent med en metode for å omgå sikkerhetsmekanismene i modellen – såkalt «jailbreaking».

– Vi gjennomgikk en demonstrasjon av denne teknikken som ble brukt til å identifisere et lite antall allerede kjente, mindre sårbarheter, skriver selskapet.

Anthropic hevder at sårbarhetene er enkle, og at andre offentlig tilgjengelige AI-modeller kan finne de samme svakhetene uten å måtte omgå sikkerhetstiltak.

I forkant av lanseringen skrøt selskapet av en rekke «sikkerhetsmekanismer» som skulle hindre dataangrep. Likevel uttrykte ledere innen finans, teknologi og myndigheter bekymring før modellen ble offentlig tilgjengelig, ifølge BBC.

Selvutnevnt «for kraftig»

Anthropic ga forhåndstilgang til et fåtall organisasjoner i april, fordi verktøyet ifølge dem selv var så avansert at det kunne være farlig på grunn av evnen til å utnytte eller hacke datasystemer.

Selskapets påstand om at modellen var «for kraftig til å slippes» ble av enkelte kritikere avfeid som overdreven markedsføring, melder BBC.

– Fables evner overgår alle modellene vi noen gang har gjort allment tilgjengelige, skriver selskapet.

Gina Neff, professor i ansvarlig AI ved Queen Mary University of London, sier til BBCof at beslutningen om å begrense tilgangen kan hindre videre utvikling og trygg testing av slike systemer.

– Vi befinner oss i ukjent farvann nå, sier hun.

Hun peker på at det britiske AI Security Institute i sine tester fant at modellen klarte å bryte gjennom forsvarsverk og systemer 73 prosent av tiden.

– Det er et taktskifte i evner innen cybersikkerhet, sier Neff til BBC.

Konflikt med Trump-administrasjonen

Anthropic er i en pågående rettstvist med Trump-administrasjonen om et pålegg som skulle stanse offentlige etaters bruk av selskapets AI-verktøy.

Ifølge BBC har president Donald Trump kritisert selskapet offentlig, mens daværende forsvarsminister Pete Hegseth stemplet Anthropic som en «forsyningskjederisiko». En slik merkelapp har historisk vært forbeholdt selskaper i fiendtlig innstilte land, og innebærer at en tjeneste ikke anses trygg nok for offentlig sektor.

Anthropic har saksøkt Pentagon. En amerikansk dommer har slått fast at direktivet ikke kan håndheves mens saken pågår, slik at offentlige etater og forsvarspartnere fortsatt kan bruke selskapets verktøy, skriver BBC.

Amerikanske myndigheter har foreløpig ikke kommentert saken.

Read Entire Article