Generativ kunstig intelligens (GKI) har fått mye oppmerksomhet det siste halvåret. Potensialet i denne teknologien er stort, samtidig er det en del risikoer knyttet til denne. NAV skal derfor ha en restriktiv og ansvarlig tilnærming til bruk av GKI. IT-avdelinga har utarbeidet denne veilederen som skal guide både medarbeidere og risikoeiere i NAV når man skal utforske og bruke GKI i egen arbeidshverdag.
Hva er GKI? Med generativ kunstig intelligens mener vi teknologi som genererer tekst, bilder, programmeringskode og liknende. Eksempler på GKI-tjenester er ChatGPT, Bard, Midjourney og Dall-E. I nær framtid vil også programmer som Microsoft Word komme med integrert GKI-funksjonalitet. Det er mange potensielle bruksområder for GKI i NAV og per i dag kjenner vi ikke alle. Denne første versjonen av veilederen er generell og bred for å dekke alle bruksområder. Veilederen stiller en del grunnleggende spørsmål om hvordan du og din enhet har tenkt til å bruke GKI. Spørsmålene skal vurderes og besvares for å sikre at vi bruker GKI kun der det er trygt og at vi har gjort gode vurderinger.
Dette må du gjøre
Start med å gå gjennom veilederen. Her vil du bli guidet gjennom de viktigste forholdene du må være kjent med før du kan bruke GKI. Det er risikoeiers ansvar å dokumentere at vurderingene i veilederen er gjort for det aktuelle brukstilfellet, men alle som bruker GKI-tjenester skal være kjent med veilederen og vurderingene som er gjort.
Veileder (trykk for å utvide)
Gjeldende rammer for behandling av personopplysninger i NAV gjelder også når GKI brukes. Dette gjelder både personopplysninger om ansatte i NAV og borgernes personopplysninger.
Ved behandling av personopplysninger må det bl.a. foreligge et gyldig rettslig grunnlag for behandlingen. Det er stor usikkerhet rundt hvordan kravene i personopplysningsloven kan ivaretas i møte med teknologien per dags dato. Eksempelvis vet vi lite om hvordan (person)opplysninger behandles av GKI-modellene, mens behandlinga av personopplysninger ellers i tjenestene kan være kjent. Man må være forberedt på betydelig juridisk forarbeid i et usikkert og skiftende landskap om man skal bruke personopplysninger i GKI-tjenester hvis man vil gå videre med dette i dag.
Mange GKI-tjenester på internett (eksempelvis ChatGPT) krever at man bl.a. oppretter brukerkonto, se vår FAQ for mer om dette.
I tillegg til å behandle informasjon om den NAV-ansatte som bruker GKI-tjenesten, vil tjenestene også kunne behandle informasjon om NAV-brukere hvis man legger inn eller på en annen måte gir tjenesten tilgang til dette. NAV har et særskilt ansvar til å beskytte disse opplysningene gjennom taushetsplikten. Vi anbefaler derfor å ikke bruke opplysninger om NAV-brukere i GKI-tjenester inntil ytterligere veiledning og vurderinger foreligger.
Som offentlig myndighet, er NAV bundet av flere lover og regler når vi utøver offentlig myndighet ovenfor brukere. NAV må ivareta brukerens rettsikkerhet og ulike forvaltningsrettslige krav (forsvarlig saksbehandling, informasjon og veiledning, forhåndsvarsling, partsinnsyn m.m.).
Det er stor usikkerhet rundt hvordan prosessregler skal ivaretas i møte med teknologien per dags dato.
Dersom bruken av GKI kan medføre direkte rettslige konsekvenser for NAV-brukere (borgerne), for eksempel at de mister rettigheter eller det blir vanskeligere for NAV å følge forvaltningsloven, anbefaler vi å vente med å ta i bruk slike verktøy, frem til ytterligere veiledning foreligger.
En materiell konsekvens kan på sikt medføre rettslige konsekvenser for brukeren. Det er også usikkerhet om hvordan feil og svakheter kan påvirke liv og helse, og om vurderingsverktøy tillater gode og robuste vurderinger på dette feltet i møtet med GKI. Selv om noen materielle konsekvenser kan virke ufarlige, er det viktig å tenke bredt og langsiktig. Det er en glidende overgang mellom rettslige og materielle konsekvenser.
Det er viktig å ha på plass kvalitetssikringsmekanismer som sørger for at avgjørelser som tas er mest mulig riktig.
GKI er ikke grunnleggende eller formelt optimalisert for faglig presisjon eller til å gjenskape samme resultat flere ganger. Innebygde tiltak kan bøte på dette slik at den totale innretningen likevel kan være pålitelig. GKI-modeller tilbyr ingen formelle garantier for at output fra GKI-verktøyet er korrekte eller reproduserbare på tvers av brukere eller over tid. Små variasjoner i instrukser vi gir kan for eksempel gi ulike resultater, og “hukommelsen” langs én brukertråd/historikk er ikke nødvendigvis overførbar til en annen.
Det er viktig å ha på plass kvalitetssikringsmekanismer for å sikre pålitelighet og konsistens.
For å øke graden av presisjon, konsistens og/eller etterprøvbarhet så kan man spesialisere en modell/tjeneste basert på et egnet datasett. Hvis det er mulig å spesialisere en modell/tjeneste til å fungere i en gitt kontekst, så vil det ta ned risikoen for at tjenesten er upålitelig eller ustabil.
- Hvis bruk av GKI krever at utfallet er korrekt er det viktig at du har tilgang på ekspertisen til å vurdere hvorvidt output fra tjenesten er korrekt eller ei.
- Det skal være mulig å rulle tilbake bruken av GKI siden teknologien er fremdeles i en umoden fase. Her kan det være opphavsrettslige problemstillinger som er årsak til at man må rulle tilbake, eller andre forhold som at verktøyet endres eller tas ned av leverandør.
Generelle krav
Det er noen krav til bruk av GKI som alltid må følges uansett hvilket bruksområde det er snakk om. Det er ulike måter å oppfylle disse på som avhenger av bruksområde.
Bruk av GKI for å løse oppgaver i NAV må merkes. Dette kan gjøres f.eks. ved å opplyse skriftlig at oppgaver er løst med hjelp av KI.
Det er flere årsaker til at merking av innhold produsert med GKI er nødvendig. Det er usikkerhet rundt opphavsrett, både i innholdet modeller er trent på og modellene produserer. Det må derfor være mulig å fjerne innhold produsert med GKI. En annen grunn til å merke bruk av GKI er for å opplyse leseren/brukeren om dette. For eksempel kan det være nyttig eller tillitsvekkende for leseren å vite at en tekst er produsert av eller med hjelp av GKI.
Risikoeier må finne egnede måter for merking av innhold generert ved bruk av GKI.
Bruken av GKI må dokumenteres av risikoeiere og deles med oss, se skjemalenke til høyre på denne sida. For at NAV skal kunne ha en oversikt over hvor og i hvilke prosesser GKI brukes må all bruk dokumenteres. Denne dokumentasjonen må inneholde beskrivelse av vurderingene som er gjort, hvilke risikoer som er identifisert og hvordan aktuelle verktøy brukes.
I tillegg til at vi har behov for oversikt over hvor vi bruker GKI, så skal de ordinære prosessene for vurdering databehandling hos tjenestetilbyderen og ev. tredjeparter følges. Behandling av personopplysninger skal dokumenteres og vurderes i etterlevelsesverktøyet. Ved innkjøp av tjenester må nødvendige avtaler være inngått før tjenesten tas i bruk, se vurdering av programvare og tjenester. Som nevnt under Behandling av personopplysninger kan det være utfordrende å vite hvordan data behandles på de ulike stegene i tjenesten, dette må hensyntas i vurderingene som gjøres.
For konkrete verktøy er det nødvendig å gjennomføre ROS-analyser. I disse analysene skal man identifisere risikoer og sårbarheter og finne tiltak for å redusere sannsynlighet og konsekvens av disse. Se egne sider om risikovurderinger.
Den som er ansvarlig for en prosess er risikoeier. Det kan for eksempel være en produktområdeleder eller avdelingsleder.
- Initiere prosess for og godkjenne risikovurdering og ev. innkjøp av verktøy
- Opplæring og bevisstgjøring av medarbeidere om vurderinger og rammene for bruk av GKI-tjenesten.
- Bruk av GKI-tjenster kan medføre en behandling av personopplysninger om de ansatte som tar det i bruk. Dette må hensyntas i vurderinga av GKI-tjenesten.
- Sørge for at det er rutiner for menneskelig revisjon og for å sjekke korrekthet/ treffsikkerhet av output.
- Sette krav til leverandører/ leverandøroppfølging
- Utarbeide dokumentasjon av bruk av GKI
- Involvere fagmiljøet for data science i vurderinger når det er nødvendig
Spesielle krav
Under har vi listet opp en del generelle use cases for generativ KI og hva du må gjøre i disse ulike casene.
Utvikling av programkode innebærer i utgangspunktet ikke behandling av personopplysninger. De rettslige konsekvensene for bruker vil ikke avgjøres av en GKI, men er avklart på forhånd gjennom hva slags funksjonalitet som utvikles. Det er også kun en støtte i arbeidsprosessen, det betyr at det er utvikleren som til slutt gjør en kvalitetsvurdering av egen kode og avgjør om den kan produksjonsettes, slik vanlig praksis er for utvikling av programkode.
Github Copilot er under utprøving og vurdering per dags dato, utviklermiljøet i IT holdes oppdatert om dette.
GKI gir anledning til å generere tekster, både korte forslag eller lengre sammenstillinger.
Du må regne med at GKI-genererte tekster kan inneholde både faktafeil og feilaktige gjengivelser og samtidig fremstå som plausible og korrekte, selv når referanser foreligger. Når det meste er korrekt, og modellene stadig forbedres, kan det fort bli mer utfordrende å oppdage feil og mangler, og det kan være fristende å slurve med fakta- og referansesjekking. Unngå copy-paste: Se alltid over genererte tekster og gjør nødvendige tilpasninger. Verifiser alltid at opplysninger, påstander, sitater eller andre fakta som fremkommer i teksten stemmer. Unngå å bygge inn genererte tekstavsnitt som fremstår som troverdig eller plausibelt, men som du ikke er sikker på om du forstår, har mulighet til å vurdere riktigheten av, eller ikke er helt enig i. Ikke legg inn tekst du ikke ville lagt inn uten verktøyet. Ikke legg ut genererte tekster på offisielle flater som nav.no uten menneskelig revisjon. Ikke generer tekst som fremstår som fakta.
Klarspråk
Klarspråk er et felt som treffer mange deler av NAV. Å sjekke klarspråk i et vedtaksbrev vil i utgangspunktet innebære at man behandler personopplysninger og/eller omfattes av forvaltningsloven. I mange tilfeller kan man derimot manuelt fjerne innhold i teksten, sjekke kun deler av teksten eller gjøre andre tiltak slik at man ender opp med en tekst uten personopplysninger. Da kan det være at verktøy basert på GKI er hensiktsmessig å bruke når en skal få til bra klarspråk i NAV.
Møtereferater
Bruk av GKI-verktøy for å oppsummere møter, skrive referater o.l. innebærer at du som bruker verktøyet er ansvarlig for teksten som produseres på samme måte som når du skriver teksten selv. For interne møter anbefaler vi at du får signaturer på viktige oppsummeringer, transkriberinger, møtereferater og lignende fra møtedeltakerne som en kvalitetssjekk av teksten som er produsert.
Dette er mest aktuelt for internt bruk – og da gjerne i form av å lage bilder til presentasjoner, bursdagskort til kollegaen eller liknende. Bilder er også personopplysninger og vi skal være varsomme med å spre og lage bilder av personer.
- Ikke generer bilde/video av personer uten deres samtykke.
- Unngå å generere bilder og videoer som ser ekte ut
- Merk alle bilder som GKI-genererte
- Bildegeneratoren er trent på bilder fra nettet. Gjør et omvendt bildesøk for å bekrefte at det ikke har generert noe som er identisk til noe der ute.