Puslespill skaper debatt: – Dette er informasjon kunden bør få

Kunstig intelligens blir en større og større del av samfunnet vårt.

Maskinlæringsverktøyet kan være en nyttig sparringpartner når man skal lage treningsprogram eller finne fisk i havet.

Det kan også felle kommunetopper som bruker det ukritisk i det offentlige.

Men hvor går egentlig grensen for hva man må merke, når man har brukt kunstig intelligens til å skape noe?

Før påske solgte Rema 1000 puslespill for barn i sine butikker. Puslespillene hadde bilder av hunder, enhjørninger og brannbiler.

I forbifarten kan det se ut som normale illustrasjoner, for en relativt billig penge.

Ser man nøye etter, er det derimot flere ting som skurrer med motivene på puslespillene.

– Vi kan aldri bekrefte 100 prosent om noe er laget av kunstig intelligens. Men vi kan se etter tegn på det. Typiske tegn er at det er noen feil i bildet som mennesker veldig sjelden gjør, sier Morten Goodwin, som er professor og har doktorgrad innenfor KI.

– Bør merkes

Etter at Goodwin får tilsendt bildene av puslespillene, ramser han opp noen av avvikene han har funnet.

Her er noen av tingene han stusser på:

Men er det noe galt i det, da?

– Jeg syns ikke det er negativt å bruke kunstig intelligens enten det gjelder illustrasjoner på puslespill eller i andre situasjoner. Men jeg syns man bør være ærlig og tydelig, og ikke gjemme det bort, sier Goodwin.

Dette er derimot ikke noe som kan skje over natten.

– Det er fremdeles ganske nytt, dette med kunstig intelligens. Det er ikke noen godt etablerte normer for hvordan man skal gjøre det, men trenden er i hvert fall at man markerer kunstig intelligens. Det er blant annet nyhetsmediene blitt gode på.

– Hvorfor er det viktig å markere når KI lager noe, mener du?

– Plutselig får man bilder eller situasjoner som kan virke ekte, men som ikke faktisk er det. Det finnes eksempler på mer alvorlige situasjoner enn et uskyldig puslespillbilde. Det tryggeste er da å si at alt vi bruker kunstig intelligens til å lage, merker vi med nettopp det.

– Tenker du da at alt bør merkes?

– Jeg tenker at man ikke trenger å merke alt som lages ved hjelp av kunstig intelligens. Men her virker det som at det er brukt ganske mye kunstig intelligens, og da er det ærlig å fortelle at «her har vi gjort det».

NRK har også vært i kontakt med Elisabeth Wetzer, som forsker på KI ved UiT i Tromsø.

Hun sier at det er mange klare tegn på at puslespillet er laget med kunstig intelligens, og at hun er enig i at dette bør merkes.

– Det reflekteres i prisen hvis en person lager noe sånt, kontra en maskin. Det finnes programmer som kan lage dette i løpet av sekunder, og hvis det er det, så er det hundre prosent profitt. Dette er informasjon som bør gå til kunden.

Det mener ikke forlagets sjef, Christian Vennerød, som har gitt ut puslespillet.

Forlaget vet ikke om det er KI

Vennerød syns ikke at forlaget har noe med hva illustratører bruker til å lage bilder for dem.

Han vil heller ikke bekrefte eller avkrefte at KI har blitt brukt i utformingen av puslespillet.

Vennerød sammenligner kunstig intelligens med da norske forfattere begynte å ta i bruk datamaskin i sitt arbeid, og innføringen av «spinning jenny» under den industrielle revolusjon på 1700-tallet.

– Hvilke hjelpemidler han har brukt, det vet jeg faktisk ikke. Jeg går ikke og spør ham hva han har gjort. Akkurat som de som har skrevet ting for oss. Det kan være han har brukt det, det vet ikke jeg.

– Hvorfor ikke?

– Det syns jeg ikke at er riktig av oss som forlag å gjøre, og det tror jeg heller ikke forlag i dag gjør. Hvis vi syns at produktet er OK, så er det opp til kunstneren å velge hvilke hjelpemidler han vil bruke for å få frem det han har laget. Så dette er et for så vidt vellykket produkt.

Forlaget Cappelen Damm avviser disse påstandene.

– Normalavtalen mellom forlaget og forfatterne gir alle parter ansvar for å informere om og få godkjent bruk av KI, sier Tone Hansen, kommunikasjonssjef i forlaget.

Du kan lese hele svaret til Cappelen Damm her:

Rema 1000: – Skal følge gjeldende lover

Også digitaliserings- og forvaltningsminister Karianne Tung (Ap) er viktig for å gi forbrukerne et riktig bilde av hva de kjøper.

– Jeg mener prinsipielt at alt innhold som er laget med hjelp av kunstig intelligens skal merkes. Det er viktig at vi som forbrukere vet når bilder og tekst er laget med KI, slik at vi kan skille mellom det som er ekte og det som er KI-generert. Derfor mener jeg produsenten bør gjøre forbrukeren oppmerksom på det.

Rema 1000, som solgte dette puslespillet, mener likevel at de har sitt på det tørre.

– Vi har strenge krav i våre leverandøravtaler om at de skal følge gjeldende lover. Vi forventer også at de gjør grundige vurderinger for å sikre at de holder seg innenfor regelverket – også når det gjelder eventuelle underleverandører, sier Hege Rognlien, leder for kommunikasjon i Rema 1000 Norge.

Hun sier at de følger reglene, siden det ikke finnes krav om KI-merking i dag.

– Det finnes i dag ingen krav om merking av produkter der kunstig intelligens har blitt brukt som verktøy, men dette er et område i utvikling. Vi følger utviklingen tett, og dersom det kommer nye lovkrav eller retningslinjer, så vil vi følge disse. Det samme vil vi forvente fra våre leverandører.

Reglene kommer

Karianne Tung bekrefter på sin side at lovene kommer.

– Regjeringen jobber nå med å innføre EUs forordning om kunstig intelligens i norsk lov. Et lovutkast blir sendt ut på høring før sommeren med sikte på at loven skal gjelde fra sensommeren 2026, omtrent samtidig som hoveddelen av forordningen gjelder i EU-landene.

Disse lovene kan ha noe å si for merking av nettopp slike puslespill i fremtiden.

– KI-forordningen stiller krav til transparens for visse KI-systemer. Den inneholder bestemmelser som stiller krav til leverandører av KI-systemer om tydelig merking av bilder, video, lyd og tekst som er generert av et KI-system.