X tar grep for å hindre Grok-avkledning av personer

Grok har fått kritikk over hele verden for å ha brukt kunstig intelligens til å generere seksualiserte bilder.

– Vi har satt i verk teknologiske tiltak for å hindre at Grok tillater redigering av reelle personer i avslørende bekledning som bikinier. Begrensningen gjelder for alle brukere, også betalende abonnenter, sier X' sikkerhetsteam i en uttalelse.

Kunngjøringen kommer etter at Californias justisminister har åpnet etterforskning av Musks selskap xAI – som utvikler Grok – som følge av det seksuelt eksplisitte materialet. Flere land har enten blokkert tilgangen til chatboten eller satt i verk egen etterforskning.

Gjelder alle

Forrige uke bestemte selskapet å begrense Groks bildegenerering til betalende kunder, men nå gjelder det altså for alle.

Flere europeiske land er blant dem som har kritisert Grok. Storbritannia varslet at de ville forby generering av seksualiserte bilder uten samtykke. Malaysia og Indonesia har midlertidig blokkert adgangen til Grok.

SNUR: Reaksjonene mot X og Grok har vært mange og harde etter spredningen av KI-genererte bilder av kvinner i bikini de siste ukene. Nå snur selskapet. Foto: Noah Berger / AP / NTB

EU-kommisjonen, som fungerer som EUs digitale tilsyn, sa tidligere at den har merket seg tiltakene fra X for å hindre Grok i å generere seksualiserte bilder av kvinner og barn».

– Vi vil nøye vurdere disse endringene for å sikre at de faktisk beskytter innbyggerne i EU, sa EU-kommisjonens talsperson Thomas Regnier i en uttalelse, etter skarp kritikk av ikke-samtykkebaserte, avkledde bilder.

– Sjokkerende

Presset har økt globalt på xAI etter at Groks såkalte «Spicy Mode» gjorde det mulig å lage seksualiserte deepfake-bilder av kvinner og barn ved hjelp av enkle tekstkommandoer som «sett henne i bikini» eller «fjern klærne hennes».

– Mengden rapporter som beskriver ikke-samtykkebasert, seksuelt eksplisitt materiale som xAI har produsert og publisert på nettet de siste ukene, er sjokkerende, sa Californias justisminister Rob Bonta tidligere onsdag.

– Vi har nulltoleranse for KI-basert produksjon og spredning av ikke-samtykkebaserte intime bilder eller materiale som innebærer seksuelle overgrep mot barn, sa han.

Forbudt i flere land

Ytterligere press kom onsdag da en koalisjon av 28 sivilsamfunnsorganisasjoner sendte åpne brev til Apple- og Google-sjefene med krav om at Grok og X fjernes fra appbutikkene, som følge av bølgen av seksualiserte bilder.

Indonesia ble lørdag det første landet som blokkerte Grok fullstendig, fulgt av Malaysia søndag. India opplyste søndag at X har fjernet tusenvis av innlegg og hundrevis av brukerkontoer etter klager fra myndighetene.

Det britiske medietilsynet Ofcom sa mandag at det åpner etterforskning av om X har brutt britisk lovgivning knyttet til bildene. I Frankrike opplyste barnekommissær Sarah El Hairy tirsdag at hun har oversendt Grok-genererte bilder til påtalemyndigheten, medietilsynet Arcom og EU.