Kunstig intelligens truer den frie presse

Demokratiet presses ikke av sensur. Ingen står klare til å stenge stemmeurnene eller ta fra oss ytringsfriheten. Heldigvis. Likevel utfordres en av grunnsteinene i vårt velfungerende demokrati, den frie pressen, av en flom av algoritmestyrt innhold der kunstig intelligens kuraterer, komponerer og masseproduserer innhold uten redaktøransvar.

Det høres dramatisk ut, men se på de siste månedene.

KI-innhold lurer velgerne

I Ungarn publiserte regjeringspartiet Fidesz en valgkampvideo, presentert som en nyhet, hvor faren til en liten jente blir henrettet. Budskapet var pakket inn som støtte til en rask «fredsløsning» i Ukraina. På den andre siden av Atlanteren ble Alex Pretty og Renee Good tragiske ofre for brutalitet fra amerikanske ICE. I etterkant har det sirkulert videoer der ofrene oppfører seg truende mot immigrasjonsmyndighetene, og dermed finnes «dokumentasjon» for at ICE-agentene handlet riktig. Her hjemme har mange fått hakeslepp når de de siste ukene har åpnet TikTok og sett videoklipp som tilsynelatende viser kronprinsesse Mette-Marit dansende med Jeffrey Epstein.

Fellesnevneren er at alle disse videoene er hundre prosent falske, men likevel presenteres som sannhet i sosiale medier, side om side med ordinære nyhetssaker. Hvem som står bak og til hvilket formål, vet vi ofte ikke.

Når stadig flere henter nyhetene sine først og fremst fra sosiale medier, og stadig mer av innholdet der er skapt av kunstig intelligens, blir det naivt å tro at dette ikke påvirker oss. Det vi leser og ser preger oss, styrer hva vi snakker om og etter hvert hva vi mener og hvilket parti vi stemmer på.

Enn så lenge kan vi ofte se at videoene er laget av kunstig intelligens, men snart vil det være umulig å se forskjell på KI-videoer og ekte. Risikoen blir da stor for at makter med relativ enkelhet kan skape kaos eller påvirke demokratiet i en viss retning kun ved å lansere en rekke KI-videoer som ingen klarer å skille fra virkeligheten.

Det utfordrer ikke bare pressen, men rettssalene som er avhengige av lyd-, bilde- eller videobevis, og tilliten til oss innbyggere imellom når vi ikke lenger vet om personen du snakker med i telefonen er et ekte menneske, slik mange amerikanere merket da de trodde de ble ringt opp av Joe Biden som oppfordret til å ikke stemme ved sist presidentvalg. I virkeligheten var telefonsamtalen KI-generert.

Algoritmene uten ansvar og forpliktelse

Det er ikke bare falskt innhold som utfordrer oss. Det gjør også ekte informasjon når den løftes frem uten ansvar.

I Marius Borg Høiby-saken har retten nedlagt et forbud mot å identifisere de fornærmede kvinnene. Norske redaksjoner er flinke til å følge forbudet og anonymiserer konsekvent, men TikToks KI-algoritmer har ikke bare forstått hvem disse kvinnene er, algoritmen presenterer navnene fullt åpent i søkeforslag under nyhetsvideoene til Aftenposten og NRK.

Algoritmen bryter dermed grenser som journalister er forpliktet til å respektere. Overraskende er det ikke, for en KI-algoritme er ikke utviklet for å forstå hensynet bak anonymiseringspåbud eller for å etterleve et rettslig forbud. Den er trent til å skape engasjement, til å forsterke det som får oss til å reagere raskt og sterkt.

Mer enn falskt innhold og spredning av identiteter

Konsekvensene strekker seg langt ut over spredning av identiteter som domstolene og pressen bevisst har valgt å beskytte, eller falske videoer av kongelige og andre kjente personer. Den samme algoritmebaserte mekanikken kan drive frem falske påstander om valgjuks, slik verden var vitne til rett før stormingen av Kongressen i USA i 2020, og den gir næring til hatsk retorikk som kan vokse fra ord til overgrep, slik forfølgelsen av Rohingya-minoriteten viste.

Et amerikansk forskningsprosjekt ga et sjeldent innblikk i kraften i denne påvirkningen. Da tusenvis av deltakere ble bedt om å holde seg vekke fra sine kontoer på sosiale medier, var resultatet tydelig. De som tok pausen, ble langt mindre politisk polariserte enn kontrollgruppen som fortsatte å bli påvirket av plattformenes algoritmer hver dag.

Utfordringen dreier seg vel så mye om hvem som styrer strømmen av informasjon som former nyhetsbilde vi mates med daglig. Stadig sjeldnere er det redaksjoner forankret i Vær Varsom-plakaten. Stadig oftere er det KI-algoritmer uten redaktøransvar, og innhold produsert av noen vi ikke har anelse om hvem som egentlig står bak. Slik skyves grunnleggende pressenormer til side, blant dem søken etter sannhet og plikten til å beskytte sårbare.

Hva vi bør gjøre nå

1. Innføring av valgberedskap med KI. Håndtering av KI-innhold må veves inn i faste rutiner og regelmessige øvelser. Vi bør få metoder for å varsle og bekjempe slikt innhold spesielt der det mistenkes at utenlandske aktører kan stå bak, ikke bare stole på at teknologigigantene håndterer dette. Og vi bør å trene på møte åpenbart manipulerte videoer og fabrikert innhold, spesielt før valg.

2. Gjør redaktørstyrt innhold mindre sårbart på plattformer. Redaksjoner bør få reell råderett når de publiserer på SoMe-plattformer, som retten til å skru av KI-anbefalinger. Løsningen kan gå via EUs Digital Services Act, som blant annet har til hensikt å få store plattformer til å redusere systemisk desinformasjon og å være åpne om hvordan anbefalingsalgoritmene virker.

3. Varsomhet med å outsource nyheter og formidling til teknologiplattformene.

Når nyhetssaker publiseres på sosiale medier, er det ingen tvil om at de når et stort publikum, men samtidig svekkes kontrollen over innholdet, inkludert hvordan innholdet presenteres. Slik får vi mindre kontroll, og demokratiet mister også demokratiets robusthet.