Blir leger dårligere med KI?

Når du kommer på sykehuset, vil du gjerne at legen skal stille riktig diagnose, så du får behandlingen du trenger så raskt som mulig. Spesielt hvis du har kreft.

Kunstig intelligens (KI) har vært hyllet som en effektiv og presis måte å analysere bilder for å oppdage bruddskader og kreft. De siste årene har også flere norske sykehus tatt i bruk teknologien for å undersøkte tarmkreft.

Forskere ved Universitetet i Oslo (UiO) ville sammen med et internasjonalt team se på hvordan KI kan gjøre at færre dør av tarmkreft. Dette er en av de mest dødelig kreftformene. Tre av ti som får diagnosen, dør av den.

I en nylig publisert undersøkelse så forskerne på hva som skjedde da fire polske sykehus tok i bruk KI i tarmundersøkelser allerede i 2021 og 2022.

Overraskelsen var stor da de oppdaget at i stedet for at legene fant flere svulster, fant de betydelig færre.

Overså 21 prosent

I tre måneder før innføringen, fant legene svulster i tarmene til 28,4 prosent av pasientene. I tre måneder etter, ble pasientene tilfeldig valgt ut til å få en KI-assistert kolonskopi eller en der KI-en var skrudd av.

Når legene ikke fikk hjelp fra KI, oppdaget de bare svulster i 22,4 prosent av pasientene. Det betyr at legene lot 21 av 100 pasienter passere uten å oppdage svulster eller polypper som de normalt ville ha sett.

– Vi ser i perioden fra før til etter innføring av KI at det er et kraftig fall i antallet polypper som oppdages ved undersøkelser uten bruk av kunstig intelligens, sier Yuichi Mori, professor ved UiO.

– Dette til tross for at legene i studien var 19 svært erfarne og dyktige endoskopører, legger han til.

Legene gjorde også en dårligere jobb i snitt når de fikk bruke KI. Med kunstig intelligens oppdaget de utvekster hos 25,3 prosent.

Det er ingen grunn til å tro at antall pasienter med svulster endret seg nok til å forklare forskjellen mellom disse månedene. Så forskerne antar at det skyldes at legene faktisk var dårligere til å oppdage utvekster i månedene de kunne støtte seg på KI.

– Urovekkende paradoks

Forskerne bak studien tror vi mennesker har en naturlig tendens til å stole for mye på anbefalingene fra maskinen.

– Det fører til at klinikere blir mindre motiverte, mindre fokuserte og mindre ansvarlige når de tar egne beslutninger uten KI-assistanse, spekulerer forskerne.

– Studien viser jo et urovekkende paradoks, sier forsker Michael Riegler.

Han er sjefforsker på kunstig intelligens i helsevesenet ved Simula i Oslo, og har ikke vært med på studien fra UiO.

Riegler er enig i at det ser ut som kombinasjonen leger og KI gjorde dårligere vurderinger sammen, enn det legen gjorde alene før innføringen av KI.

– Funnet i seg selv gir grunn til en ny type bekymring. Det handler ikke om at teknologien er dårlig, men om hvordan vi som mennesker blir avhengige av den, sier Riegler.

Frykter dårligere ferdigheter

Han sammenligner legenes KI-bruk med hvordan vi alle er blitt avhengige av digitale kart med GPS på mobilen. Og dermed er vi kanskje ikke like gode på vanlige kart lenger.

Det kan føre til det han kaller «de-skilling» eller kompetansetap.

– Den store bekymringen her, er pasientsikkerheten. Hvis legens egne ferdigheter er blitt svekket, risikerer vi at pasientbehandlingen blir dårligere enn den var før AI i det hele tatt ble innført den dagen teknologien er nede.

Forskerne er varsomme med å trekke bastante konklusjoner, siden studien ikke var en randomisert studie, men målte endringer av KI etter at teknologien ble tatt i bruk.

– Vil overgå mennesker

Riegler mener det er mange andre mulige forklaringer på hvorfor legene kan ha gjort det dårligere etter innføringen av KI.

Som at antall pasienter kan ha økt etter at KI ble innført, og at det kan ha økt stressnivået hos legene.

Eller at rutinene på sykehusene kan ha blitt endret etter innføringen.

Uansett mener han at funnet ikke tilsier at sykehusene bør droppe KI.

– En KI blir aldri sliten eller distrahert, og vil overgå mennesker i ren mønstergjenkjenning. Hovedgrunnen til å utvikle teknologien er ikke nødvendigvis å gjøre de beste legene enda bedre, men å heve standarden for alle, sier Riegler.

– Selvstendig KI kan i fremtiden bli bedre enn menneskelig ytelse i medisin, sier Yuichi Mori.

Men han mener at fordi et menneske må være med på tolkningen av resultatene med dagens regler, er det viktig å finne ut hvordan legenes diagnoser blir positivt eller negativt påvirket av KI.

– Vi må finne ut hva som skjer i hjernen vår når vi samhandler med KI for å optimalisere bruken av den, sier Mori.