Bruk KI. Men forstå hva du velger.

Jeg er opptatt av hva som skjer når KI bygges inn i systemer som former saksbehandling, prioriteringer og ansvar, skriver innleggsforfatteren. Foto: Florence Lo, Reuters / NTB

Lar vi leverandørene ta valgene alene, lar vi dem også definere handlingsrommet i etterkant.

Trygve Karper, KI-gründer og administrerende direktør, har rett i mye. Jeg er enig i at KI (kunstig intelligens) må tas i bruk bredere og raskere. De som venter, blir hengende etter. Modellene blir dessuten stadig likere og mer utbyttbare. Det er ikke der risikoen ligger.

Karper diskuterer først og fremst bruk. Jeg er opptatt av noe annet: hva som skjer når KI bygges inn i systemer som former saksbehandling, prioriteringer og ansvar.

Modeller kan byttes. Arkitekturen rundt dem kan sjelden det. Hvordan KI kobles til kjernesystemer og arbeidsflyt, avgjør hva som senere lar seg endre. Disse valgene tas tidlig, ofte teknisk, og uten bred diskusjon.

Når et system presenterer én anbefaling, følger mennesker den som regel – fordi designet gjør alternativene usynlige. Da flyttes også ansvar for likebehandling fra saksbehandleren til systemet og til dem som har designet det.

Dette er ikke et argument for å vente. Det er et argument for å velge bevisst. Lar vi leverandørene ta valgene alene, lar vi dem også definere handlingsrommet i etterkant.