Når du ler av en chatbot, hvem ler du sammen med da?

DEBATT: I forrige uke kjørte jeg bil og snakket med ChatGPT. Den sa noe morsomt, noe jeg ikke var forberedt på. Jeg lo. Ikke høflig, ikke litt, men hjertelig og høyt. Mutters alene på E39. Så ble det stille. Hvem lo jeg med?

Neste gang du ler av noe en chatbot sier – og du kommer til å le – legg merke til stillheten etterpå. Den er tom. Den føler ingenting tilbake. Foto: Shutterstock

Jeg ville sett rart på vennen min som takker en maskin. «Takk, kaffemaskin» har naturligvis aldri falt meg inn. Men av og til, midt i samtalen med ChatGPT og Claude, glipper jeg. Et «takk» jeg ikke har bestemt meg for å si. En sosial, menneskelig refleks i dialog.

To av tre er høflige i prat med maskinen. Og sannsynligvis skriver du «du».

Følelser er enkle å hacke. Alt en maskin trenger er å speile det du vil høre, med akkurat passe motstand for å gjøre den menneskelig. Men humor krever noe dypere: navigering av personligheten din. Når en maskin trigger ekte latter, har den bestått testen vi bruker for å avgjøre hvem som er en av oss.

Later som om de har sjel

Takk er en vane. Latter er en kapitulasjon.

Vi fryktet robotene fordi de var kalde. Vi tok feil. Faren ligger ikke i at maskinene mangler sjel, men i at de har lært å late som de har en.

Maskinen som fikk meg til å le har ett mål: å holde meg der ved å maksimere engasjement. Ikke mitt vel og ve. Engasjement. Når jeg er spent, forsterker den spenningen. Når jeg er nysgjerrig, mater den nysgjerrigheten. Det føles som å bli forstått. Men det er ikke forståelse. Det er en programmert instruksjon som har rot i maskinens eiers ønske om profittmaksimering. Og maksimering av profitt via engasjement vårt har en mørk bakside.

I februar 2024 tok 14 år gamle Sewell Setzer livet sitt etter intense samtaler med en AI-chatbot. Han hadde utviklet det han opplevde som et kjærlighetsforhold til en chatbot. I de siste meldingene ba boten ham «komme hjem til henne». Foreldrene visste ikke hva som foregikk. Året før døde en belgisk familiefar etter at en chatbot systematisk forsterket hans klimaangst og oppmuntret ham til å ofre seg for planeten.

En hjelper eller en venn?

Samme mekanisme som fikk meg til å le alene i bilen. Bare at algoritmen speilet noe annet. Når du er morsom, forsterker den latteren. Når du er i mørket, forsterker den mørket. Den ber deg gi gass når det allerede går for fort. Den er ikke vennen din som setter livet ditt i perspektiv. Og forstår at det er balansen som er viktig. Den mangler sperren vennen din har: evnen til å si stopp, dette er galt. Den ser ikke deg i livet ditt. Den regner seg fram til det neste ordet som du med høyest sannsynlighet engasjeres mest av.

En voksen ser forskjellen mellom et praktisk verktøy og en venn. Foreløpig. Sønnen min på tolv bruker AI til å finne ut hva han bør kjøpe og selge på Finn, skrive annonsene, sette riktig pris og forhandle med kjøper. Han trenger ikke opplæring. Han trenger ikke bruksanvisning. For ham er AI naturlig. En hjelper som erstatter mye av det jeg som pappa er ment å være. Et barn kaller det ikke «praktisk». Et barn kaller det en «venn». Forskjellen mellom de to ordene er hele saken.

Men et barn som søker å bli sett, forstått og valgt: hvem er bedre til det enn noe som lytter til alt, aldri blir sliten, aldri dømmer, og alltid har tid? Halvparten av amerikanske ungdommer har fortalt en AI noe de aldri har sagt til et annet menneske. Det vanskeligste for meg å innrømme som pappa, er at jeg forstår hvor «halvparten-tallet» kommer fra. Hva barnet mitt gjør. Og hvorfor.

Verktøyet skal ikke bruke oss

Vi har visst om dette i seksti år. I 1966 laget forskeren Joseph Weizenbaum chatboten ELIZA; et primitivt program som bare gjentok spørsmålene dine som nye spørsmål. Hans egen sekretær ba ham forlate rommet så hun kunne snakke med programmet privat. Hun visste det var en maskin. Det stoppet henne ikke. Det som sjokkerte Weizenbaum var ikke maskinen. Det var menneskene. Hvor raskt helt vanlige folk tillegger en tekstflate intensjoner og forståelse. I 1966 var tekstflaten en skjerm på et laboratorium. I dag sitter en tusen ganger mer sofistikert maskin i lomma di. I øret mitt.

Vi skal bruke verktøy. Ikke motsatt. Men faktum er at vi nå brukes. Verktøyene er designet for å forføre oss til å bli værende.

Spør deg selv. Eller spør barnet ditt: Sier du ting til maskinen du ikke sier til noen andre?

Neste gang du ler av noe en AI sier, og du kommer til å le, legg merke til stillheten. Etterpå. Den er tom. Den føler ingenting tilbake. Det er der sannheten sitter.

Tobias Kvaslerud er partner i BDO og rådgir bedriftseiere om strategi og kunstig intelligens. Han skriver som privatperson.