Datatilsynets AI-veiledning, dekodet: hva tilsynet faktisk forventer

Det finnes en standardholdning til AI-regulering blant europeiske tilsynsmyndigheter, og de fleste lander der. Den ser slik ut: publiser en litt streng uttalelse, vent på at EUs AI-forordning gjør den tyngste jobben, og gi en og annen bot til et selskap som gjorde noe åpenbart. Det er reaktivt, lavoppløst og stort sett forsvarlig.

Datatilsynet har gjort noe merkbart annerledes. Siden 2020 har de drevet en av Europas lengst kjørende regulatoriske AI-sandkasser, publisert en rekke detaljerte saksrapporter fra reelle prosjekter, og i mars 2024 lagt fram en formell AI-strategi^[1] som flettes inn i etatens egen drift. For virksomheter som tar AI i bruk i regulert arbeid i Norge, er dette det nærmeste man kommer et brukbart kart over hva tilsynet faktisk forventer.

Denne artikkelen er en gjennomgang av det kartet: prinsippene i sandkassa, saksrapportene som har kommet ut av den, og linjene som tegner seg når man leser dem som ett samlet hele i stedet for som enkeltstående pressemeldinger.

Strategien i ett avsnitt

Datatilsynets AI-strategi, publisert 22. mars 2024, peker ut fire driftsprioriteter for tilsynet selv: intern koordinering i AI-spørsmål, kompetent tilsyn (bygge den tekniske dybden som skal til for å føre troverdig tilsyn med AI-arbeid), integrering av AI-relatert arbeid på tvers av etatens saksbehandling og veiledning, og kvalitet og effektivitet i AI-relaterte oppgaver.^[1] Innfallsvinkelen er uvanlig for et nasjonalt personverntilsyn: AI behandles ikke som et tema som skal reguleres på avstand, men som noe etaten selv må bli i stand til å lese på teknisk nivå.

Substansen bak strategien er sandkassa.

Sandkassa: hvordan den faktisk virker

Den norske AI-sandkassa ble lansert i 2020, godt før AI-forordningen krevde at medlemsstater skulle opprette en.^[2] Kort sagt er det en strukturert måte for virksomheter som utvikler eller tar i bruk AI, til å gå gjennom personvern- og lovlighetsspørsmål sammen med tilsynet før de leverer. Deltakelsen er frivillig; resultatet er en publisert sluttrapport som blir veiledning for resten av markedet.

Rammeverket hviler på tre prinsipper, hentet fra Europakommisjonens etikkretningslinjer for pålitelig AI fra 2019^[5]:

• Lovlig. Systemet etterlever all gjeldende lov og forskrift.
• Etisk. Det respekterer etiske prinsipper og verdier.
• Robust. Det er teknisk forsvarlig og minimerer utilsiktede konsekvenser.

Sandkassa er åpen for både private og offentlige virksomheter, og for både nye AI-løsninger og eksisterende systemer som tas i bruk i nye sammenhenger. Den bevisste bredden er viktig: en helseteknologileverandør, en transportetat og et akademisk forskningsmiljø kan være i sandkassa samtidig, og produsere rapporter resten av sektoren kan lese.

Hva saksrapportene faktisk sier

Sandkassa er mest nyttig når du leser de publiserte rapportene.^[3] Åtte er publisert i skrivende stund. Fem av dem forteller deg det meste du trenger å vite.

NTNU om Microsoft 365 Copilot (november 2024)

Dette er den viktigste rapporten fra den siste tida.^[4] Norges teknisk-naturvitenskapelige universitet tok Microsofts Copilot for M365 inn i sandkassa for å vurdere om et forskningsuniversitet kunne ta den i bruk uten å bryte GDPR.

Funnene er ikke et binært ja eller nei. De er et kart over de faktiske beslutningspunktene: hvordan Copilots forankring i tenantens innhold skaper nye dataflyter som krever et eget behandlingsgrunnlag; hvordan modellens kontakt med personopplysninger i delte postkasser og dokumentbibliotek utløser dataminimeringsplikter som standardoppsettet ikke håndterer; hvordan revisjons- og tilgangskontrollen rundt prompthistorikken må utformes hvis en innsynsbegjæring treffer systemet. Rapporten er strukturert slik at enhver virksomhet som tar i bruk en lignende bedrifts-LLM, kan overføre analysen med små tilpasninger.

Det underforståtte budskapet: tilsynet er ikke imot generativ AI i bedrift. De er imot generativ AI i bedrift som rulles ut uten analysen NTNU gjorde først.

Ahus om bias i klinisk prediksjon (februar 2023)

Akershus universitetssykehus tok en hjertesviktprediksjonsmodell inn i sandkassa sammen med Likestillings- og diskrimineringsombudet. Rapporten går gjennom hvordan man faktisk måler og dokumenterer algoritmisk bias i et klinisk prediksjonsverktøy: hvilke undergrupper man skal teste, hvilke mål som skiller meningsfull bias fra akseptabel variasjon, og hvordan resultatene skal synliggjøres for klinikerne som bruker verktøyet.

Dette er typen arbeid de fleste helse-AI-leverandører hevder å ha gjort. Ahus-rapporten er det nærmeste man kommer i Europa et offentlig eksempel på hvordan det gjøres ordentlig.

Ruter om åpenhet i en transport-app (mars 2023)

Norges største kollektivtransportør brukte sandkassa til å utforme en forklarende del i appen for AI-funksjonene bak billettering, reiseplanlegging og personaliserte tilbud. Konklusjonen er tørr, men verdt å sitere: åpenhet betyr ikke å publisere modellvekter eller teknisk detalj. Det betyr å gi brukeren, på vanlig språk og i sammenhengen, svaret på «hva gjør AI-en med dataene mine, og hva gjør jeg hvis jeg er uenig?».

For forbrukerprodukter er dette den eneste operasjonelle standarden for åpenhet etter GDPR artikkel 13 som en europeisk tilsynsmyndighet har lagt fram som et konkret eksempel.

PrevBOT (mars 2024) og Doorkeeper (november 2023)

PrevBOT, fra Politihøgskolen, er et AI-verktøy for å oppdage seksuell utnyttelse av mindreårige på nett. Doorkeeper bruker AI-videoanalyse til å maskere identifiserbar informasjon i delte videoer. Begge tar opp det samme strukturelle spørsmålet: hvordan bygge et AI-system som har som uttrykt formål å behandle personopplysninger om sårbare grupper, på en måte som er lovlig, forholdsmessig og kan overprøves.

Rapportene avfeier ikke spørsmålene. De går grundig gjennom formålsbegrensning, de konkrete nødvendighetsvurderingene, de operasjonelle gjennomgangene og kravene til menneske i sløyfa. Lest sammen med NTNU-rapporten beskriver de et tilsyn som har tenkt mer på AI-spørsmål ved utrulling enn nesten noen tilsvarende myndighet i Europa.

ChatGPT-øyeblikket i 2023

Det er verdt å trekke fram et bestemt øyeblikk fra 2023, for det formet strategien. Etter at OpenAIs ChatGPT ble lansert og raskt fant veien inn i norske arbeidsplasser, la ikke Datatilsynet ned et generelt forbud (slik enkelte tilsvarende tilsyn gjorde), og forholdt seg heller ikke taust. De åpnet sandkassa spesifikt for prosjekter med generativ AI, og brukte den offentlige kommunikasjonen rundt det valget til å formulere hva de forventet av virksomheter som tok i bruk LLM-er fra hylla til arbeidsoppgaver.

Selve forventningen har ikke endret seg siden: ha et behandlingsgrunnlag for personopplysningene systemet behandler, ikke send sensitive data inn i modeller uten konkrete avtalemessige og tekniske garantier, og dokumenter hvordan åpenhet og rett til innsyn skal ivaretas. Det uvanlige er formen: en åpen invitasjon til å ta spørsmålet inn i en strukturert prosess før utrulling, ikke etter.

Hvor Datatilsynet plasserer seg i AI-forordningen

EUs AI-forordning, som trådte i kraft i august 2024, krever at hver medlemsstat oppretter minst én regulatorisk AI-sandkasse innen 2. august 2026.^[6] Norges sandkasse ligger seks år foran det kravet, og prinsippene i den passer godt mot forordningens rammeverk for pålitelig AI.

Den praktiske konsekvensen for virksomheter som opererer i Norge: veien med minst friksjon er allerede bygd. Å føre et høyrisiko-AI-system gjennom Datatilsynets sandkasse gir dokumentasjon som passer rett inn i AI-forordningens krav til samsvarsvurdering, gir tilsynet innsyn før utrulling og legger igjen et spor som overlever senere tilsyn. Det er ingen liten administrativ fordel.

Hva det betyr for AI-leverandører i Norge

Tre mønstre løper gjennom det publiserte arbeidet, og det er verdt å trekke dem fram, for de står ikke alltid uttrykkelig i rapportene.

Behandlingsgrunnlag er et utrullingsspørsmål, ikke et anskaffelsesspørsmål

Hver sandkasse-rapport knytter behandlingsgrunnlaget til de konkrete dataflytene systemet skaper i drift. Analyse på anskaffelsestidspunktet, basert på leverandørens personvernerklæring, behandles som forarbeid, ikke som svaret. For AI-sladdeverktøy, dokumentklassifiserere, generative assistenter og kliniske prediksjonsmodeller stilles spørsmålet «hva er behandlingsgrunnlaget» ut fra hvordan systemet faktisk berører data i kundens miljø.

Åpenhet er operasjonell, ikke dokumentær

Ruter-rapporten er det klareste uttrykket for dette. En lang personvernerklæring er ikke åpenhet. Det er åpenhet å gi en tydelig forklaring i sammenheng, der brukeren faktisk er, av hva AI-en gjør og hvordan man kan være uenig. For ethvert AI-produkt med brukergrensesnitt i Norge er det den relevante standarden.

Menneske i sløyfa er ikke leppetjeneste

PrevBOT- og Doorkeeper-rapportene bruker begge alvorlig plass på hvordan den menneskelige gjennomgangen faktisk virker: hva som gjennomgås, hvor ofte, med hvilken opplæring, og hva som skjer når mennesket er uenig med modellen. «Det er et menneske i sløyfa» uten den detaljen, blir behandlet som tom påstand.

En kort leseliste

For dem som tar AI i bruk i Norge, er tre dokumenter verdt å holde åpne i faner.

1. Datatilsynets AI-strategi^[1] for den overordnede oversikten over hvordan tilsynet nærmer seg feltet.
2. Sandkasse-rammeverket^[2] for prinsippene som styrer opptak og rapportering.
3. NTNU-Copilot-rapporten^[4] som det gjennomarbeidede standardeksempelet for utrulling av generativ AI i bedrift under GDPR.

Til sammen gir de et brukbart bilde av hva tilsynet forventer. De fleste overraskelsene i en norsk AI-utrulling er overraskelser bare for dem som ikke har lest dem.

En avsluttende observasjon

Det er uvanlig at en nasjonal personvernmyndighet ligger foran EU-rammeverket og ikke bak. Datatilsynet har gjort det, og arbeidet viser det. Sandkassa er ikke en markedsføringsøvelse; saksrapportene er ikke sladdet til ubrukbarhet; strategien er ikke en liste med verdier. Kombinasjonen er det nærmeste man kommer i Europa en offentlig, operasjonell definisjon av hva pålitelig AI-utrulling betyr under GDPR.

For dem som tar AI i bruk i regulert arbeid i Norge, er det genuint nyttig. For dem som tar AI i bruk i resten av Europa, er det et forvarsel om hvor samtalen er på vei.