– Jeg er utrolig bekymret for at språkmodeller tar helt av, sier forsker

Når nye teknologier inntar samfunnet, er hun en av dem som stiller de kritiske spørsmålene: 

Hva vil vi oppnå med denne teknologien? Hvordan skal den brukes og styres? Hun er opptatt av at både forskere og andre samfunnsborgere skal ta aktive valg om hva slags samfunn vi vil skape.

Professor Heidrun Åm (43) er en anerkjent forsker, blant annet var med i en regjeringsoppnevnt ekspertgruppe som har kartlagt hvordan kunstig intelligens kan påvirke valg.

Hun forsker på hvordan teknologi påvirker samfunnet. 

Åm analyserer makten de store teknologiselskapene besitter, og ser også på politisk styring av nye teknologier – som nanoteknologi, bioteknologi, sosiale medier og kunstig intelligens.

Nye teknologier påvirker samfunnet

At nettopp hun skulle komme til å jobbe med teknologi sier hun er et paradoks, for hun synes egentlig teknologi i seg selv er ganske kjedelig. Men det å analysere teknologiutviklingen fra et samfunnsvitenskapelig perspektiv, det engasjerer henne enormt.

Hun har vært pådriver for å få teknologiperspektivet inn i sosiologi og statsvitenskap, som er hennes fagfelt.

– Så det passet veldig godt å havne på NTNU, i og med at det er et teknisk universitet som samtidig har en stor samfunnsvitenskapelig del. Dette er et sted å blomstre for sånne folk som meg!

Da ChatGPT ble lansert i 2022 opplevde hun at studentene hennes med ett fikk mye større interesse for hva nye teknologier gjør med samfunnet.

– En av de tingene jeg har prøvd å vise de siste årene er nettopp hva teknologi betyr for makt og demokrati. Så det var litt sånn at virkeligheten innhentet forskningen min.

Forskeren vil bidra til endring

Forskningen hennes bidrar til debatter om vitenskap og samfunn, ansvar innen forskning, risiko-regulering og demokratisering av teknologi. 

Hun har også engasjert seg i temaer som ultraprosessert mat, norsk skole og bærekraftig fiskeoppdrett, blant annet.

– Jeg har aldri vært aktiv i noen politiske organisasjoner, men jeg har alltid vært engasjert. Og jeg tenker noen ganger at jeg burde gjort mye mer, sier hun.

Hun ønsker å bidra til endring og forbedring.

– Det å bidra til forbedring er alltid aktuelt, men vi kjenner at det er ekstra aktuelt nå fordi det er så utrolig mye som skjer av viktige ting. Og at det skjer så fort, både innen teknologi og politikk.

Hun hoppet av X

Tidligere opplevde hun Facebook som en god arena for meningsutveksling. Nå er hun knapt på sosiale medier lenger. Hun har vært innom X, men hoppet raskt av.

– Jeg har ikke lyst til å bli verifisert i dette systemet som Elon Musk har installert. Jeg har bare ikke lyst til å bidra på et personlig plan til denne datainnsamlingen og bidra til at disse folkene som eier sosiale medier blir enda rikere og enda mektigere.

Men hun er opptatt av at vi trenger gode, felles digitale infrastrukturer.

– Mitt budskap som sosiolog er at det ikke skal være individet som skal ha ansvar for å løse utfordringene med sosiale medier, men at vi trenger kollektive løsninger, sier hun.

Dette er en av de nøttene vi må knekke de neste årene, mener hun.

– Hvordan kan vi skape gode, digitale infrastrukturer uten at det skal være så enorm privat inntjening. Kanskje det offentlige skulle ha en rolle i dette?

Tech-oligarkiet har raskt fått svært mye makt

Globale teknologiaktører har fått svært mye makt og påvirkningskraft, og det har gått utrolig fort, mener hun.

– Det er ikke lenger politikere og regjeringer som bestemmer, men tek-aktørene som tar beslutningene over teknologien og hvordan den skal brukes. Og når de gjør det, tar de også beslutninger over menneskers liv, over hva som er lov og hva som ikke er lov, sier forskeren.

Tek-aktørene overtar styringen, men det er gjennom lover vi kan og må regulere dette, legger hun til.

Den tråden hun har fulgt i forskningen de siste årene, er å se på risiko og den finansielle siden av teknologier: Hvem definerer risiko? Hvem sine interesser kommer gjennom? Hvordan reguleres dette? Hvem tjener på investeringene?

– Etiske aspekter ved nye teknologier bør være på banen i tidlige faser av utviklingen. Det hjelper ikke at samfunnsvitere bare peker på konsekvensene i etterkant. Det ville være mye bedre hvis samfunnsaspektene ble integrert allerede i utviklingsfasen, sier hun.

Forskeren er svært bekymret for KI-tsunamien

Selv om kunstig intelligens ble funnet opp allerede på 1950-tallet, er det først de siste årene at fagfeltet virkelig har skutt fart. Ikke minst gjennom språkmodeller som ChatGPT.

Da de kom seilende inn med stor kraft, var skole- og utdanningssektoren uforberedt på denne tsunamien, mener forskeren. Og elever og studenter tok kjapt i bruk KI for å løse skoleoppgaver.

– Jeg er utrolig bekymret for at språkmodeller tar helt av. Det å bruke generativ KI som faktasjekker for eksempel, er svært skummelt.

Generativ KI er bruk av kunstig intelligens for å skape innhold i form av tekst, lyd, bilder, videoer, grafikk og så videre. KI-generert innhold kan bidra til å viske ut skillet mellom sant og usant.

– Jeg tror ganske mange har en idé om at kunstig intelligens er som en maskin som kan filtrere ut den mest riktige informasjonen fra et hav av informasjon. Slik er det jo ikke. Språkmodeller har ikke noe forhold til sannhet, sier Åm.

Elon Musk sin språkmodell Grok for eksempel, tar inn alle meldinger fra SoMe-appen X, og dette skal plutselig være en kunnskapsbase, utdyper hun.

Trenger KI-opplegg for lærere

Å formidle kunnskapen om hvordan språkmodeller fungerer, er utrolig viktig å få inn i utdanningssektoren, understreker hun.

– Jeg tenker at dette er noe av det viktigste akkurat nå. Hvis jeg var utdanningsminister, ville jeg begynt med å få laget et KI-opplegg for lærerne, slik at lærerne kan videreformidle kunnskapen til elevene sine, sier hun.

– Jeg tenker mye på hvordan vi kan jobbe med å utvikle en kritisk KI-forståelse som går ut på nettopp begrensningene i teknologien, men også hva som kan være samfunnskonsekvensene når det kommer til vår kritiske tenkning.

Hjernen må trene

– Det andre viktige spørsmålet vi må stille oss, er hva vi skal bruke generativ KI til og hva det gjør med vår kompetanse på sikt.

Hjernen trenger trening for å utvikle seg og holde seg i form.

– Hvis vi ikke lærer å formulere oss og tenke og analysere selv, hva skjer da med våre kognitive funksjoner? Spesielt hvis vi ikke bruker årene mellom 10 og 18, når hjernen vår er så åpen for å lære, og heller lar en maskin gjøre dette, så er det så mye som kommer til å gå tapt, sier hun.

– Jeg får en eksistensiell fortvilelse jo mer jeg tenker på hva dette skal føre til.

Betenkt over regjeringen

Heidrun Åm er svært betenkt over regjeringen og digitaliseringsministeren sitt mål om at 80 prosent av offentlige tjenester skal ta i bruk KI.

– Vi skal ikke bare bruke teknologi fordi det er kult å bruke teknologi, sier hun.

Forskeren mener imidlertid at offentlig sektor er raske til å ta i bruk ny teknologi når det er hensiktsmessig og nødvendig. Dette opplevde vi under pandemien, da digitale løsninger ble tatt bruk umiddelbart, ikke minst i utdanningssektoren.

– Teknologi skal løse problemer, ikke skape problemer. Og offentlig sektor er veldig god til å omstille seg og ta i bruk teknologi når det løser et problem, sier Åm.

Selv bruker hun språkmodeller til språkvask og til oversetting. Hun skriver forskningsartikler og søknader på norsk og engelsk, mens hun ofte tenker på tysk.

Hun synes språkmodellene kan være gode til å korrigere setningsstrukturer og finne presise formuleringer.

Hun ble headhuntet til ekspertgruppe

I fjor ble hun headhuntet til en ekspertgruppe hvor oppdraget var å gi regjeringen anbefalinger om hvordan Norge kan gjennomføre trygge, demokratiske valg også i framtida. 

I en intens periode jobbet hun sammen med eksperter på ulike fagfelt, og opplevde oppdraget som artig og givende. De kartla erfaringer og utfordringer omkring valg i flere titalls land.

Ekspertgruppen konkluderte blant annet med at Norge er godt stilt. Vi har et sterkt demokrati, høy tillit, høy kompetanse, vi har gode redaktørstyrte medier og god bredde i tilgangen på informasjon.

– Men vi ser også at KI kan bidra til en forsterking av trusler, som fordekte påvirkningskampanjer og cyberoperasjoner. Dette har potensielt konsekvenser ved valg, sa forsker Niels Nagelhus Schia da rapporten ble lagt fram. 

Han ledet ekspertgruppen.

Motpol til fake news – noen av anbefalingene fra rapporten

Dette er noen av anbefalingene i rapporten:

• En aktiv mediepolitikk som opprettholder frie, sterke og mang foldige redaktørstyrte medier.
• Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.
• Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper.

Referanse:

Kunstig intelligens og demokratiske valg – internasjonale erfaringer og nasjonale anbefalinger. Rapport fra ekspertgruppen for kunstig intelligens og valg, Regjeringen.no, 2025.