ChatGPT fant feilen der Unilabs mislyktes: – Utfordrende

– Jeg ble veldig overrasket da jeg så at de ikke kommenterte det som var så veldig synlig på mange av bildene.

Det sier en 48 år gammel mann fra Rogaland, som ønsker å være anonym når NRK tar kontakt.

48-åringen mener ChatGPT ga ham bedre svar enn røntgeninstituttet Unilabs. Han har derfor klagd inn selskapet til Statsforvalteren i Rogaland, som har opprettet tilsynssak.

Samtidig advarer både Unilabs og Overlegeforeningen folk mot å bruke ChatGPT og andre KI-verktøy på denne måten.

Dette kommer vi tilbake til. Først historien til 48-åringen:

For et år siden hadde han så store smerter at han hadde vondt for å sitte. Smertene satt i baken og han opplevde svakhet i beina.

Fastlegen henviste ham til MR-undersøkelse hos røntgeninstituttet Unilabs.

Mens 48-åringen ventet på svar fra undersøkelsen, kjøpte han tilgang til sine egne MR-bilder. Han lastet dem så opp til KI-tjenesten ChatGPT.

Responsen kom rimelig kontant: MR-bildet viste en såkalt Tarlov-cyste i nedre del av ryggen. Og videre en beskrivelse av symptomer 48-åringen kjente seg godt igjen i.

Mannen tok derfor for gitt at det ville komme et svar fra Unilabs som beskrev cysten, og forslag til videre behandling.

Men svaret overrasket mannen: «lette slitasjeforandringer» og «ingen øvrige funn».

48-åringen sier han ble «helt paff» og kontaktet derfor Unilabs for en ny vurdering.

«Bifunn»

Unilabs mente da at cysten var et såkalt «bifunn» – et funn som ikke hadde noe med smertene hans å gjøre, og som han derfor ikke trengte å vite noe om.

Det stod nemlig ikke noe i henvisningen fra fastlegen som tilsa at cysten skulle ha noen betydning, ifølge Unilabs.

På grunn av dette lette 48-åringen og legen hans etter andre forklaringer. Han trappet for eksempel opp på en stoffskiftemedisin som endte med tre innleggelser underveis – i håp om å finne årsaken til smertene.

Men Unilabs tok feil og ChatGPT hadde rett hele veien: En nevrolog undersøkte ham og tok nye MR-bilder: Nevrologen kunne da bekrefte at cysten presset på nervene, noe som kunne forklare 48-åringens økende plager.

I november i fjor fikk mannen operert bort cysten og sier at han føler seg mye bedre.

48-åringen reagerer på at en så stor cyste ikke ble kommentert av Unilabs i første runde.

Unilabs mener de ikke har brutt god medisinsk praksis i saken (Les svaret fra selskapet lenger nede i saken).

– Risiko

Denne historien til tross: Overlegeforeningen advarer folk mot å bruke KI-verktøy til å få svar om egen helse.

– Vi løper en betydelig risiko hvis vi bare lar pasientene dobbeltsjekke alt med ChatGPT. Da vil totalbehandlingen bli dårligere, sier Ståle Clementsen, leder i Overlegeforeningen.

For hver enkelthistorie der en pasient finner ut hva som er galt ved hjelp av KI, finnes det mange flere der KI leder pasienter i feil retning, ifølge Clementsen.

– Og dette vil kunne føre til mange unødvendige undersøkelser og i noen tilfeller påfølgende unødvendig behandling. Dette vil kunne være en stor belastning for pasientene selv, og vår felles helsetjeneste, sier han.

Clementsen forstår samtidig at 48-åringen er frustrert over behandlingen han har fått i dette tilfellet.

Mener KI byr på utfordringer

Også medisinsk direktør i Unilabs, Fredrik Nomme, uttrykker frustrasjon over at folk spør ChatGPT om helse. Han skriver følgende i sitt svar til Statsforvalteren i Rogaland i forbindelse med tilsynssaken:

«Vi erfarer en utfordrende samfunnsutvikling der mange pasienter ukritisk stoler mer på ethvert tilgjengelig KI-verktøy enn de gjør på radiologens/legens uttalelser».

NRK har bedt Nomme om en kommentar til denne uttalelsen og saken generelt, men han viser oss videre til pressetalsmann i Unilabs, Samuel Danofsky:

– Pasientsikkerhet er ekstremt viktig for oss og vi tar alle klager på største alvor. Vi har et godt utviklet kvalitetssystem og ser kontinuerlig på hvordan vi ytterligere kan forbedre pasientsikkerheten, sier Danofsky

48-åringen har opphevet Unilabs' sin taushetsplikt, men selskapet sier de likevel ikke vil kommentere enkeltsaker i media.

– Må utvikle seg

Mannen fra Rogaland er tydelig på at han ikke har noe ønske om at noen skal bli tatt, men at han vil at man skal lære av saken.

– Radiologene må utvikle seg og sin rolle i takt med teknologiutviklingen, sier han.

Ståle Clementsen i Overlegeforeningen er enig i at KI kan bli viktig i framtidens medisin, men først og fremst som et verktøy og supplement til legene:

– En MR er et øyeblikksbilde. Det er behandlende lege og radiologen med sin erfaring som best kan gi en totalvurdering, sier han.