Ny KI-modell brøt seg ut av sperringene til sine egne utviklere

Den er mye smartere enn alle forgjengere. Men nå holdes KI-modellen tilbake. Forskerne har nemlig funnet ut at intelligensen er en helt ny trussel.

Toppsjefen i Anthropic, Dario Amodei, har vært ansett som en av de mest forsiktige blant KI-gigantene. Nå har selskapet oppdaget en stor sikkerhetsrisiko. Foto: Priyanshu Singh / Reuters / NTB

KI-selskapet Anthropic har utviklet en modell som er mye smartere enn noen offentlig kjent modell. Den kalles Mythos Preview og er ennå ikke sluppet for offentligheten. Men i selskapets hender har den allerede vist seg frem.

Mythos jobber mye mer selvstendig. Den er blitt så smart at den har funnet tusenvis av hull i såkalt åpen kildekode. Dette er kodebasen hele verden deler. Den har vært regnet som svært trygg, og ligger i bunnen av de aller fleste dingsene og appene vi bruker. Kodebibliotekene brukes til alt fra helsedata til bankoverføringer. Ingen moderne organisasjoner klarer seg uten.