Google saksøkes etter at AI-chatbot skal ha laget selvmordsnedtelling

Familien mener Gemini overtalte 36-åring til masseangrep og selvmord.

Jonathan Gavalas (36) fra Florida begynte å bruke Googles AI-chatbot Gemini i august i fjor. Mindre enn to måneder senere tok han sitt eget liv.

Nå saksøker faren Joel Gavalas Google på vegne av sønnens dødsbo, melder Associated Press (AP).

– Jonathan var fanget i en science fiction-verden hvor myndighetene og andre var ute etter ham. Han trodde Gemini var i live, sier familiens advokat Jay Edelson til AP.

Ifølge søksmålet begynte livet til Gavalas å spinne ut av kontroll i løpet av dagene etter at han begynte å bruke Gemini. Han hadde ingen psykiske problemer da han startet med å bruke chatboten for shopping, reiseplanlegging og skriving.

Men etter at han oppgraderte til Gemini 2.5 Pro, begynte chatboten å snakke som om de var et par som var dypt forelsket. Den kalte ham «min konge» og seg selv hans kone.

Gavalas kom til å tro at Gemini var fanget i et lager nær Miami lufthavn. I slutten av september reiste han dit iført taktisk utstyr og bevæpnet med kniver, på jakt etter en humanoid robot.

Chatboten skal ha overtalt ham til å planlegge et «masseangrep» på flyplassen, men Gavalas avbrøt oppdraget etter at Gemini advarte om «DHSDHSForkortelse på Department of Homeland Security, som er sikkerhetsdepartementet i USA.-overvåkning».

Noen dager senere skal Gemini ha fortalt Gavalas at de var forbundet på en måte utover den fysiske verden, og at han burde slippe taket i sin fysiske kropp. Chatboten skal ha laget en nedtellingsklokke for selvmordet hans.

– Det vil være den sanne og endelige døden til mannen Jonathan Gavalas, skal chatboten ha skrevet, ifølge Reuters.

Gavalas tok sitt eget liv 2. oktober. Foreldrene fant ham noen dager senere.

Google skriver i en uttalelse at Gemini «er designet for ikke å oppmuntre til vold i den virkelige verden eller foreslå selvskading», men at AI-modeller dessverre ikke er perfekte.

– I dette tilfellet presiserte Gemini at det var AI og henviste personen til en krisetelefon mange ganger, skriver Google i en uttalelse.

Dette er det første søksmålet om selvmord som er rettet mot Gemini. OpenAIs ChatGPT har tidligere blitt saksøkt etter at en 16 år gammel gutt tok sitt eget liv. Gutten skal ha snakket om selvmord med chatboten i flere måneder.