Reagerer på Norges forhold til kontroversiell tek-gigant

– Nå har de så masse data at de kan bruke det til en slags overvåkningsstat, sier professor Maja Van Der Velden ved Universitetet i Oslo.

Hun er svært kritisk til teknologiselskapet Palantir, som blant annet brukes av Tolletaten. Mer om dette kommer vi tilbake til.

Palantir selger datasystemer som bruker kunstig intelligens til å systematisere store mengder data.

Dette kan brukes fra alt til å sjekke pakker i tollsystemet, til valg av mål i krig.

– Hvis vi lever i en demokratisk stat, med demokratisk kontroll, er det ikke et marked for Palantir, mener Van Der Velden.

Nylig har daglig leder i Palantir, Alex Karp, stilt opp i en rekke intervjuer i amerikansk presse, for å svare på påstander om at de legger til rette for et overvåkningssamfunn.

Samtidig har utsendelser fra selskapet møter med alt fra politikere til journalister for å fikse på inntrykket mange har av selskapet.

Får mer makt

Palantir står sentralt i mye av det som utspiller seg i verden nå.

Blant annet brukes programvaren av det israelske forsvaret i angrepene på Gaza og av Ukraina mot Russland, ifølge The Guardian.

Amnesty kritiserer selskapet for å gjøre det mulig for ICE-ansatte å sette sammen informasjon om innvandrere. De mener også at selskapet bidrar til Israels krigføring, som Amnesty International mener er et folkemord.

– Dermed bidrar Palantir til en rekke forbrytelser under internasjonal lov, mener politisk rådgiver i Amnesty, Frank Conde Tangberg.

Palantir hevder selv at de ikke samler inn, lagrer eller selger kundedata for egne formål. De sier at det er kundene som eier dataene og at de kun leverer programvare.

Professor Van Der Velden mener selskapet gjør mer enn dette.

– For å fungere og for å tjene penger trenger de mer og mer data. De vil gjerne ha forskjellige datasett som de kan sette sammen. De kan sette sammen datasett fra for eksempel politiet eller helsesektoren og analysere det, sier hun.

Advarer

I oktober plukket representanter fra Palantir ut et knippe journalister til å bli invitert til et møte i Oslo.

Journalistene som skriver denne saken deltok på møtet sammen med noen andre journalister fra norske medier. Vi skulle få lære om hva selskapet egentlig gjør. Men fikk ikke lov til å sitere det som ble sagt på møtet.

Omtrent en måned senere inviterte Palantir digitaliseringsminister Karianne Tung (Ap) til et møte.

Det fikk flere til å reagere. Amnesty og andre organisasjoner demonstrerte utenfor departementet imens møtet pågikk.

Også professor Maja Van Der Velden deltok. Det er første gang hun som forsker deltar på noe sånt.

Palantir varslet at de ville snakke med ministeren om kunstig intelligens i offentlig sektor.

Men også om løsninger for forsvar, dronetiltak, kriseberedskap og helse.

– Dette er et selskap som ikke tar menneskerettighetene på alvor. Det bør være et stort varsko til Karianne Tung, sier Conde Tangberg i Amnesty.

I et intervju med Wired hevder daglig leder Alex Karp at han ville grepet inn, dersom Palantirs produkter tillot brudd på sivile rettigheter. Samtidig hevder han at Palantirs programvare er «den vanskeligste i verden å misbruke».

Palantir sier det er opp til de demokratiske statene selv å bestemme hvordan de vil bruke teknologien.

Professor Van Der Velden kaller dette en ansvarsfraskrivelse.

– Ved å friste demokratiske land med muligheter, så endrer man beslutningstagningen i de landene. Dermed er ikke teknologien nøytral, for den endrer jo faktisk samfunnene den blir implementert i, forklarer hun.

Hun viser til eksempler i Tyskland hvor staten vurderer å endre lovverket for å tilpasse seg Palantirs systemer.

– Det tyske politiet begynte å bruke Palantir, og nå må de endre lovverket. For de kan ikke bruke Palantir med det lovverket de har nå, sier professoren.

– Vi begynner å endre lovverket fordi disse store tek-bedriftene sier de ikke kan gjøre hva de vil. «Du vil ha Palantirs systemer, vi kan levere. Men du må endre lovverket.»

Palantir er uenige i kritikken

NRK har bedt om et intervju med Palantir til denne saken. De var villig til å snakke med oss over telefon, men de ønsket ikke at vi siterte dem fra samtalen.

Vi takket derfor nei til en ny samtale med selskapet. Palantir har imidlertid svart på spørsmålene på e-post.

– Det er viktig å klargjøre at Palantir ikke utfører overvåking, og vi selger heller ikke programvare som er ment å muliggjøre masseovervåking eller «predictive policing», skriver Aslak Digre, pressekontakt for Palantir i Norge.

Han er uenig i at de ikke hører hjemme i et demokratisk samfunn.

– Påstanden gjenspeiler en fundamental misforståelse av vårt oppdrag. Palantir ble grunnlagt spesifikt for å støtte demokratiske institusjoner, for å hjelpe dem med å bruke data mer effektivt, samtidig som det bygges inn beskyttelse for personvern og sivile friheter, skriver Digre.

Digre sier at de har svart på henvendelser fra Amnesty og tatt opp spørsmål om arbeidet i Israel i offentlige uttalelser. De tilbakeviser kritikken.

– Vi er både overrasket og skuffet over at våre standpunkter blir bevisst oversett, skriver Digre.

Han hevder at det har vært skrevet feilaktige artikler om Palantir, og at det er grunnen til at de nå har endret strategi.

– Vi innså behovet for mer proaktivt engasjement for å sikre nøyaktig rapportering om vårt arbeid, skriver Digre.

– Det handler om å være mer tilgjengelig og transparent i å forklare hva vi faktisk gjør, hvordan teknologien vår fungerer, og hvilke sikkerhetstiltak vi bygger inn i plattformene våre.

Allerede i Norge

Palantir har kontrakter og kontorer i Norge. Tolletaten er blant selskapene som bruker Palantir sine systemer.

Palantir sitt system brukes som en del av Tolletatens etterretnings- og kontrollplattform, forklarer divisjonsdirektør Jan Erik Ressem.

– Programvaren gjør det mulig å sammenstille store datamengder, identifisere risikomønstre, vurdere om inn- og utførsel skjer i henhold til regelverket og lage analyser og statistikk for utenrikshandelen på ulike vareområder og transportstrømmer, skriver han i en e-post til NRK.

Han forklarer at den såkalte Palantir Foundry-plattformen, som samler alle Tolletatens data på ett sted, er en fleksibel plattform som er lett å integrere og tilpasse til mange av etatens behov.

– Å samle alle våre data i et system har styrket vår evne til å avdekke smugling, målrettet etterlevelsesarbeidet vårt mer effektivt, og gjør at vi kan utarbeide analyser over handel, varestrømmer og forsyningssikkerhet.

Tung: – Viktig at vi møter ulike aktører

Digitaliseringsminister Karianne Tung sier det er viktig for henne å møte ulike aktører.

– Jeg takket ja til å møte Palantir, både for å være tydelig på mine forventninger om at kunstig intelligens skal bidra til tillit, skal være i tråd med etiske regler som åpenhet og personvern, sier Tung til NRK.

Ifølge statsråden forsøkte ikke Palantir å selge inn sine systemer til flere aktører i Norge.

– Dette var et møte på et helt overordnet nivå, hvor jeg ønsket å benytte anledningen til å være tydelig på at vi i Norge ikke ønsker å kompromisse på hverken tilliten eller grunnleggende verdier når vi skal ta i bruk kunstig intelligens, sier Tung.