Kan språkmodellene behandle mentale helseplager? Dette sier forskningen.

Språkmodeller som ChatGPT 4.0 har en forbløffende evne til å resonnere om andre, skriver psykolog og forsker Ragnhild Bø. Illustrasjonsfoto: Shutterstock, NTB

Språkmodellene har en fremtid som terapeuter. Vi vet bare ikke for hvem, hvordan og med hvilken konsekvens – ennå.

Snart er det ikke en ting språkmodeller ikke kan hjelpe meg med. Hvordan fikser jeg bremser på sykkelen min? Hva skal jeg spise til middag? Hvordan skriver jeg et gratulasjonskort på polsk?

Kan språkmodellene også behandle mentale helseplager?

I en nylig publisert studie var en terapitilpasset språkmodell innbakt i en chatbot som personer med angst og depresjon kunne skrive til. Depresjon ble etter åtte uker redusert med 51 prosent, og angst ble redusert med 31 prosent, når man sammenlignet med dem som sto på venteliste. Dette er funn som ligner det man finner dersom man går til behandling hos en menneskelig terapeut.

Deltagerne opplevde å forme en terapeutisk allianse med chatboten lik den de har med menneskelige terapeuter. Altså viste studien sammenlignbare effekter med det man kan forvente ved psykoterapi.

Beregner tanker og intensjoner

Språkmodellene baserer seg på de treningsdataene de er fôret med. Basert på sannsynlighet forutsier de ut fra kontekst hva som er det mest trolige etterfølgende ordet. Den har ingen medfølelse eller innlevelse. Alt den har, er kalkulasjoner basert på den teksten den er blitt trent på.

Tross dette har språkmodeller som ChatGPT 4.0 en forbløffende evne til å resonnere om andre. Og sammenlignet med tidligere versjoner av ChatGPT har den tatt et stort steg når det gjelder å gi klinisk relevante og empatiske responser omkring mental helse.

Når en språkmodell kan basere seg på det skrevne ord, er den god til å beregne andres tanker og intensjoner. Ut fra kontekst resonnerer den om hva jeg kan vite noe om, selv om den sitter på annen informasjon. Den klarer å regne seg frem til andres følelser i komplekse sosiale relasjoner.

Det er mer usikkert om den klarer å ta høyde for ironi, sarkasme og humor. Foreløpig er ikkespråklige tegn som ansiktsuttrykk, gester og tonefall ikke en del av dens vokabular.

Empati og ensomhet

Når man setter språkmodeller på prøve, viser det seg at de realistisk kan reprodusere flere av de måtene en pasient og en terapeut snakker sammen på. Deres svar på beskrivelser av personer i parterapi ble vurdert som empatiske og bedre enn svarene til psykoterapeuter.

Hvordan språkmodellene presterer sammenlignet med en psykolog i en terapeutisk kontekst, er ikke undersøkt ennå – ei heller effekten på lengre sikt. En studie (ikke ennå fagfellevurdert) antyder at de som deler sterke følelser med modellen, står i fare for å tilbringe mindre tid sammen med andre. Det kan på sikt fremme uhelse.

Etikk og moral

Forskere fremholder at dersom språkmodeller skal ha en forsvarlig fremtid, trengs det menneskelig overvåking. Det vil være behov for et tett samarbeid mellom teknologer, kliniske eksperter, etikere, brukere og lovgivere for å sikre forsvarlig utvikling og bruk. Trolig vil de fungere som et supplement og ikke som selvstendig behandler.

Gjennomsiktigheten i språkmodellene er uklar – vi vet ikke hvilke data de er trent på, og hvordan de bruker data som deles med dem. Vi kjenner ikke de etiske og moralske barrierene som hindrer dem fra å oppfordre til selvmord eller andre drastiske løsninger på komplekse problemer.

For hvem?

Det vil kreve et betydelig arbeid for å sikre at modellene resonnerer godt på norsk, for foreløpig svarer den bedre på helserelaterte spørsmål på engelsk. Hvordan de vil håndtere kulturelle kontekster som skiller seg fra den vestlige forståelsen av psykiske helseplager, er uklart.

Digital kompetanse er ujevnt fordelt i befolkningen, og det er indikasjoner på at modellen i seg selv systematisk forskjellsbehandler minoriteter.

Språkmodellene har en fremtid som terapeuter. Vi vet bare ikke for hvem, hvordan og med hvilken konsekvens – ennå.