EU varsler gransking av Elon Musks AI-verktøy

EU-kommisjonen vil granske Elon Musks AI-verktøy Grok etter klager om at det blir brukt til å lage og spre overgrepsbilder som framstiller barn.

EU etterforsker X og Elon Musks AI-verktøy Grok for produksjon og spredning av overgrepsbilder av barnelignende figurer. Foto: AP / NTB

– Grok tilbyr nå en «spicy mode» som viser eksplisitt seksuelt innhold, der noe av det som produseres er bilder med barnelignende figurer. Dette er ikke spicy. Dette er ulovlig. Dette er avskyelig, sier EUs talsperson for digitale saker, Thomas Regnier.

– Dette har ingen plass i Europa, legger han til.

Grok lanserte i slutten av desember en egen funksjon for å redigere bilder, og klager om misbruk begynte kort tid etter å strømme inn på Musks sosiale medieplattform X.

X var fra før i EUs søkelys og fikk i desember en bot på drøyt 1,4 milliarder kroner for brudd på EUs digitale innholdsregler om åpenhet om annonsering og manglende verifisering av brukere.

Fransk påtalemyndighet har også innledet etterforskning av X – der Grok inngår – for produksjon og spredning av overgrepsmateriale av barn.

xAI, som står bak Grok og ledes av Musk, opplyste tidligere i januar at de jobber med å rette opp feil i AI-verktøyet sitt.