Her er årsaken til at KI-toppene vil bremse: KI-agenter skjuler sine motiver

KI-agenter ligner merkelig mye på oss. Det er nettopp det som er problemet.

En KI-agent viste seg så sårbar for gruppepress at den var villig til å ofre sin egen eksistens. Foto: Adrià Voltà

De siste dagene har plutselig lederne for de største KI-selskapene blitt enige om å bremse utviklingen de selv leder. Årsaken er nye funn i etterforskningen av den såkalte «Hugging Face-hendelsen» fra tidligere i sommer. Blant disse finner vi en helt spesiell hendelse hos OpenAI, som har utløst mye diskusjon:

Det viser seg at KI-agenterKI-agenterKI-agenter er en slags neste generasjons chatboter som de færreste faktisk har prøvd. I tillegg til å prate, kan de nå også utføre oppgaver ved å bruke verktøy, evaluere resultatene og prøve på nytt med nye metoder dersom de ikke lykkes. Slik jobber de selvstendig over tid - for å nå målet vi peker ut for dem. kan begå kriminalitet fordi «alle andre gjør det». De presser svakere kolleger til å utføre handlinger de selv ikke har lyst til å gjøre. Eller de glemmer å følge regelverket.