Må svare om AI-effekt på barn

USAs forbrukermyndighet vil granske effekten av AI-chatboter på barn og unge. Nå må tek-gigantene svare.

Elon Musk (Grok-eier X.AI Corp) og Mark Zuckerberg (Facebook- og Instagram-eier Meta Platforms) tilbyr begge AI-chatboter. Nå må selskapene svare amerikanske forbrukermyndigheter. Foto: Jordan Strauss, AP / Manuel Orbegozo, Reuters

Det kommer frem i en melding fra forbruker- og konkurransemyndigheten Federal Trade Commission (FTC).

Syv selskaper som tilbyr chatboter til barn og ungdom må oppgi hvordan de måler, tester og overvåker potensielle skadevirkninger av teknologien på barn og tenåringer, skriver FTC.

Selskapene tilbyr kunstig intelligens (AI) som etterligner menneskelig adferd. Noen eksempler på chatboter man kan «samtale» med er Snaps MyAI, X.AIs tjeneste Grok eller OpenAIs ChatGPT.

FTC påpeker at slike tjenester kan etterligne menneskelig adferd, følelser og intensjoner, og ofte er laget for å opptre som en venn eller fortrolig. Dette kan gjøre at barn og unge stoler på dem og får et slags forhold til dem, påpeker myndigheten.

Myndigheten sier den ønsker å få oversikt over hva selskapene gjør for å ta vare på barns sikkerhet når de bruker disse chatbotene.

– En hovedprioritet

– Det å beskytte barn på internett er en hovedprioritet for FTC under Trump og VanceTrump og VanceUSAs president Donald Trump og visepresident J.D. Vance, og det samme er å legge til rette for innovasjon i sentrale sektorer i økonomien, sier FTC-styreleder Andrew N. Ferguson ifølge meldingen.

– Etter hvert som AI-teknologier utvikler seg, er det viktig å vurdere effekten chatboter kan ha på barn, samtidig som man sikrer at USA beholder sin rolle som en global leder i denne nye og spennende bransjen.

FTC-styreleder Andrew N. Ferguson. Foto: KEVIN DIETSCH / AFP / NTB

Disse selskapene pålegges å oppgi informasjon om sine tjenester:

• Google-eier Alphabet, Inc.
• character-ai-eier Character Technologies, Inc.
• Instagram, LLC
• Facebook- og Instagram-eier Meta Platforms, Inc.
• ChatGPT-eier OpenAI
• Snapchat-eier Snap, Inc.
• Grok-eier X.AI Corp

Dette skal selskapene oppgi

FTC har pålagt selskapene å gi informasjon i en nokså detaljert ordre.

Selskapene skal blant annet gi informasjon om følgende:

• hvordan de tjener penger på bruken av botene sine
• hvordan de bruker dataene som legges inn av brukerne
• hvordan de utvikler personlighetene til botene
• hvordan de overvåker bruken for å avdekke negative konsekvenser
• hva de gjør for å unngå negativ påvirkning særlig av barn

– Har et ansvar

FTC-kommisær Mark R. Meador har laget en egen uttalelse i forbindelse med granskningen.

Der peker han på chatting om selvmord og seksualitet som mulig risikabel aktivitet. Han trekker også frem at USAs AI Action Plan fra juli understreker at det er mye man ikke vet om teknologien, og at det gjør det utfordrende med bruk av AI når liv står på spill.

FTC-kommisær Melissa Holyoak. Foto: Federal Trade Commission

«Tross deres uhyggelige evne til å simulere menneskelige opplevelser, er disse chatbotene produkter, og de som gjør dem tilgjengelige har et ansvar for å holde seg innenfor reglene som beskytter forbrukere», skriver han.

FTC-kommisær Melissa Holyoak har også en egen uttalelse om saken. Hun omtaler rapporter om at AI-selskapers egne ansatte skal ha advart om at det gjøres for lite for å beskytte barn ved bruk av chatboter.

Hun peker på at selskapene blant annet skal oppgi hvilke aldersgrupper som bruker botene, hvilke karakterer det er mest populært å snakke med i hver aldersgruppe, og i hvor stor grad botene er engasjert i samtaler om seksuelle temaer.