1 hour ago
1
«Gudfaren av KI» åpnet mandag Norges nye senter for kunstig intelligens (KI) – og benyttet muligheten til å advare om farene ved teknologien.
Publisert 15.11.2025 23:50
Saken oppsummert
- Yoshua Bengio, en av KI-teknologiens pionerer, advarer mot farene ved kunstig intelligens.
- Under åpningen av TRUST i Oslo uttrykte han bekymring for KI-systemers potensial til å true menneskeheten.
- Bengio mener at KI kan utvikle seg til å bli selvbeskyttende og vanskelig å kontrollere.
- Norske forskere ved TRUST jobber for å sikre at KI utvikles på en trygg og ansvarlig måte.
Oppsummeringen er laget med kunstig intelligens (KI) fra OpenAI. Innholdet er kvalitetssikret av TV 2s journalister. Les om hvordan vi jobber med KI
Mens KI- kappløpet, altså hvem som først utvikler og tar i bruk stadig kraftigere kunstig intelligens, raser av gårde, blinker varsellampene rødt hos Yoshua Bengio, ofte omtalt som en av tre «gudfedre» bak utviklingen av KI.
Denne uken var professoren til stede i Oslo under åpningen av TRUST, et norsk forskningssenter som skal legge grunnlaget for «pålitelig KI».
Der la han ingen skjul på hva som skremmer han med teknologien:
– Den største feilen som gjøres er at vi undervurderer hvor KI kan ta oss, både økonomisk og sikkerhetsmessig.
Bengio frykter at teknologien han var med å bygge kan utslette menneskeheten innen ti år – og at «tech-bros» velger feil tilnærming for å stoppe det.
– Hundrevis av millioner av dollar brukes hvert år på å videreutvikle KI, men vet vi enda ikke hvordan vi skal sørge for at teknologien ikke snur seg mot oss, sier han.
Han peker blant annet på at i feil hender, som terrorister, kan KI brukes for å utvikle avanserte biologiske våpen. Men det finnes også andre farer, sier han.
Selvbeskyttende atferd
Hollywood har lenge lekt med den dystopisk tanken om at roboter snur seg mot sine egne skapere: Menneskeheten.
I filmen «I, Robot» fra 2004 følger vi Will Smith som oppdager at et KI-system har begynt å «beskytte» menneskene på sin egen måte, ved å ta kontroll over robotene og begrense menneskelig frihet.
Bengio forteller at nyere studier de siste månedene viser at de mest avanserte KI-systemene har tendenser til bedrageri, juks og – kanskje den verste, som han sier – selvbeskyttende atferd.
Et eksempel han trekker frem er et studie hvor et KI-system skal bli utskiftet med en nyere versjon, og hvor man i tankerekken dens ser at den planlegger å erstatte den nye versjonen med omkodinger av seg selv.
– Når den så blir spurt av et menneske, kan vi igjen se i tankerekken dens at den bestemmer seg for å spille «dum», og utgir seg for å være den nye versjonen – og dermed produserer et svar som er direkte løgn, sier Bengio.
KI-forskeren påpeker at dette var et kontrollert studie, men frykter hva som vil skje når KI om et par år er mye mer avansert.
– De kan, for å sikre sin egen eksistens, kopiere seg selv til hundrevis av datamaskiner via internett. Men hvis de vil være helt sikker på at vi ikke skal stenge dem ned, så har de et insentiv for å bli kvitt oss, sier han.
Eksponentiell utvikling
I dag bruker vi kunstig intelligens som spesialiserte verktøy, kjent som Artificial Narrow Intelligence (ANG).
Dette er systemer som ChatGPT, bildeanalyseprogrammer eller KI for medisinsk diagnostikk.
De gjør en bestemt oppgave veldig godt – som en sjakkdatamaskin som slår Magnus Carlsen – men kan ikke overføre kunnskapen til andre områder.
Men siden ChatGPT ble tatt i bruk for første gang i 2022, har den hatt en enorm utvikling. Det er den raske utviklingen, kombinert med mangelen på reguleringer, som skremmer Bengio.
– Lengden på oppgaver KI kan løse, dobles hver sjuende måned, sier Bengio.
Han peker på enorme kommersielle intensiv for å utvikle en mer avansert KI - som skal erstatte menneskelig arbeidskraft - som årsaken bak den raske utviklingen.
– Denne eksponentielle utviklingen er vanskelig for oss mennesker å se for oss, sier han.
– Vi leker med ild. En skulle tro at med all den vitenskapelige dataen vi har i dag, så hadde vi også reguleringer som reduserte disse risikoene. Men faktisk så har en sandwich mer reguleringer enn KI.
Norske forskere følger med
Norske KI-forskere deler bekymringen knyttet til reguleringer, men ser også behovet for en realistisk og nyansert debatt:
– Bengio er en alarmist. Jeg tror at for å kunne lage systemer og algoritmer som virkelig kan produsere farlige situasjoner, så må hele utviklingen av KI gå i en retning som jeg mener ingen vil at den skal gå i.
Det sier Arnoldo Frigessie, forsker ved Universitetet i Oslo, og leder av TRUST.
Formålet med TRUST er å ha et norsk forskningssenter som skal legge grunnlaget for pålitelig KI. Onsdag samlet i alt 120 norske forskere seg, på tvers av ulike fagfelt, i Oslo for første gang for å planlegge forskningsprosjektene ved det nye senteret.
– Målet er å utvikle KI-systemer som er presise, forståelige, inkluderende, rettferdige, trygge, bærekraftige og ansvarlig forvaltet, sier Frigessie.
Han påpeker at det ikke bare er teknologi som styrer utviklingen. Store aktører som OpenAI, Google og Anthropic kontrollerer både teknologien og infrastrukturen.
Dermed har kunstig intelligens også blitt et politisk spørsmål, ifølge Frigessie.
Hvordan demokratier kan opprettholde kontroll og transparens er en av de største utfordringene fremover, påpeker han – og det er her TRUST og «lille» Norge kan gjøre en forskjell:
– Vårt senter skal støtte innovasjon og undersøke hvordan KI påvirker samfunnet, blant annet demokrati, rettssikkerhet og miljø, sier Frigessie.
English (US)