KI fortsetter å skuffe. Hvorfor bruker vi det likevel?

Hva skjer med ferdighetene dine når du slutter å bruke dem og i stedet bare evaluerer resultatet? De vil til en viss grad forvitre, skriver Bjørn Stærk. Tegning: Arne Nøst

Alt som kommer ut av språkmodellen, er en slags hallusinasjon. Også det som tilfeldigvis er riktig.

«Jeg trenger ingen vitenskapelig assistent lenger, jeg kan be KI om å samle forskningsreferanser.»

Ordene falt under en samtale med akademikere. Flere nikket og fortalte om hvordan de selv nå bruker KI (kunstig intelligens) i arbeidet sitt. «Og hva tenker du?» spurte de meg, som IT-person.

«At du bør være forsiktig med dette, og at verktøyene du satser på, kan bli mye dårligere eller dyrere når boblen sprekker.»

Jeg har snublet inn i mange slike samtaler den siste tiden. Ikke fordi jeg spør folk om KI, men fordi samtaler med mennesker som tilbringer arbeidsdagen sin på datamaskin, nå nesten uunngåelig ender opp der.

Lar Claude gjøre jobben

En leder i en miljøorganisasjon fortalte meg stolt at de har holdt internkurs i ChatGPT. En jeg kjenner som vil skrive bok, bruker KI til å foreslå kapittelideer. Og i min egen bransje står den ene programmereren etter den andre frem og sier at de ikke skriver kode lenger. De lar Claude gjøre jobben.

Jeg har siden starten av denne runden med KI-blest sagt at det store språkmodeller og generativ KI tilbyr, ikke er veldig spennende. Modellene har svelget enorme mengder ustrukturert tekst og bilder og gjort dem om til statistiske sammenhenger. Så genererer de noe nytt som stemmer overens med mønstrene.

Resultatet er ikke tenkning, men en kjapp måte å produsere troverdig tekst og bilder på. «Finn forskning jeg kan bruke til forelesningen min», høres ut som en oppgave, men bør heller forstås som starten på en simulert samtale som det er chatbotens oppgave å videreføre på en troverdig måte.

Mellom klisjeer og plagiat

Troverdig er noe annet enn korrekt. Ekte søkeresultater inngår i konteksten, men kun som ord språkmodellen kan sjonglere, løsrevet fra meningen som ligger bak. Den hallusinerer ikke, fordi alt som kommer ut av den, er en slags hallusinasjon, også det som tilfeldigvis er riktig.

De som vil bruke dette til kreative formål, navigerer mellom Skylla og KharybdisSkylla og KharybdisSkylla og Kharybdis er to sjøuhyrer i gresk mytologi. «Å velge mellom Skylla og Kharybdis» er et uttrykk for å si at man må velge mellom to like dårlige løsninger (Wikipedia).: Teksten og bildene tenderer mot klisjeer og middelmådighet på den ene siden og plagiat på den andre. Det krever en prompter med fast hånd på roret å finne en trygg vei. Mange påstår at de får det til. Deres publikum er ikke nødvendigvis enig.

Noen av svakhetene i de første løsningene er blitt løst ved å fylle på med kontekst og stable prompter oppå hverandre i gjentagende prosesser. Det er litt som å se noen bygge et hus med tape. Imponerende, på sett og vis, men snekkerfaglig kjedelig.

Nevrale nettverk og maskinlæring? Spennende! Når treningsdataene er gode og bruken fornuftig. Men ikke denne syntetiske grøten.

Folk har sine grunner

Likevel vinner den frem, og dette må tas på alvor. Folk er ikke dumme, selv når de gjør dumme ting. De har sine grunner. Hva kan disse grunnene være?

Mye av det vi kontorarbeidere gjør, har alltid vært litt bullshit. Vi produserer dokumenter ingen leser, løser uviktige oppgaver med korte tidsfrister. Det er en befrielse å slippe å tenke gjennom hver eneste setning i den 150 sider lange tilbudsbesvarelsen du må levere neste uke.

KI har gitt folk flest tilgang på former for automatisering som før var forbeholdt de teknisk anlagte. Her må vi IT-folk ta vår del av skylden. Vi har lenge hatt fantastiske verktøy til rådighet for å forenkle kjedelige oppgaver, men vi har ikke lykkes med å åpne dem for ikke-teknikere.

KI gir et gløtt inn i en magisk verden mange ikke ante eksisterte.

Bli din egen mellomleder

Problemer blir lettere å løse når vi forklarer dem til andre. Én programmerer brukte visstnok en gummiand til dette formålet. Chatboter gjør samme nytten og kunne fungert enda bedre hvis de ikke var så sykofantiskesykofantiskeUnderdanige, krypende..

Det de leverer, er dessuten ofte bra nok, tross alt. Med gode prompter og kvalitetskontroll kan du iblant få dem til å gjøre arbeid som er like bra som ditt eget. Til og med kanskje litt bedre, litt raskere. Bra nok, og ennå billig nok, til at du kan oppleve at du har omstilt deg til fremtiden.

Prisen er at du har gjort deg selv til mellomleder for en læringsuvillig KI-lærling som må mikrostyres hele veien.

Hva skjer med ferdighetene dine når du slutter å bruke dem og i stedet bare evaluerer resultatet? De vil til en viss grad forvitre. Hjernen siler bort ubrukte evner. Forfremmelsen til mellomleder med chatbotabonnement risikerer å bli permanent.

Vil du være med, så heng på

Og ferdighetene du ville ha ervervet i fremtiden, hvis du gjorde jobben selv? Intuisjonene det tar eksperter årtier å utvikle? De forblir hypotetiske.

For mennesker i starten av karrieren sin er dette en potensiell katastrofe. Enda verre er det for dem som aldri kommer i gang med livsverket sitt, fordi mentoren de skulle ha lært fra, heller vil betale for en chatbot.

Motargumentet mot disse innvendingene er at generativ KI er kommet for å bli, vil fortsette å utvikle seg, og at alle bare har å henge med, slik vi før har tilpasset oss så mange andre teknologiske fremskritt.

Dette er et brutalt argument, særlig når det legges frem av teknologiledere som drømmer om å legge ned hele sektorer av arbeidslivet. De som selv ikke tror de vil tjene på utviklingen, reagerer med hat. Men jeg kunne motvillig ha godtatt argumentet, hvis teknologien ikke var så skuffende.

En ideologisk krise

Forestillingen om KI som det uunngåelige neste store skrittet peker mot en ideologisk krise. Kulturen vår er bygget opp rundt fremskritt. I generasjoner har fremskrittet levd opp til forventningene. Datamaskinene blåste nytt liv i ideologien. Vi vente oss til årlige syvmilsskritt.

Så roet det seg ned. Løftene er like store, men innfris sjeldnere. Årets mobil er ikke særlig bedre enn fjorårets. Selvkjørende biler «kommer til neste år» har vi hørt i mange år nå.

Vi befinner oss i noe av den samme situasjonen som en menighet som tror at Jesus snart vender tilbake. Dagene går, og i fraværet av himmelåpningen omfavner de den ene svermeren etter den andre. Nå skjer det, nå skjer det endelig! Nei, vent, der forsvant profeten og tok pengene med seg.

Det neste fremskrittet

Jeg sier ikke at fremskrittet er ferdig, eller at ingenting av verdi vil overleve KI-boblen. Fusjonsreaktorer kommer kanskje også en dag? Men det er et gap mellom det uforutsigbare tempoet ekte fremskritt foregår i, og vårt behov for å leve i en verden på stadig ferd mot noe bedre.

Gapet gjør oss sårbare for svermere og svindlere som hausser opp skuffende erstatninger. Blokkjeden, metaverset, store språkmodeller og de mest fremoverskuende blestmakerne sitter nå og leser seg opp på kvantedatamaskiner.

Vi burde justere ideologien, men det er vel mer realistisk å spille på lag med den og si: Glem dyre, upålitelige chatboter. Nå kommer det neste store fremskrittet. Den menneskelige hjernen.