KI-sikkerhetssjekkliste: 12 kontrollpunkter før ChatGPT og Copilot

Før virksomheten åpner for ChatGPT, Copilot eller et annet generativt KI-verktøy, bør dere kunne svare på tolv spørsmål. Sjekklisten er laget for en første, praktisk kontroll. Den erstatter ikke en DPIA, juridisk vurdering eller full sikkerhetsanalyse når risikoen tilsier det.

Bruk listen per verktøy og per bruksområde. Samme verktøy kan være lavrisiko til språkvask av offentlig tekst og langt mer krevende når det kobles til e-post, kundedata eller personalsaker.

A. Formål og eierskap

1. Hvilket konkret problem skal verktøyet løse?

Beskriv oppgaven, brukerne og ønsket resultat i én eller to setninger. «Vi vil bruke KI» er ikke et formål. Et presist formål gjør det mulig å vurdere om verktøyet er nødvendig og om en enklere løsning er bedre.

2. Hvem eier bruken internt?

Utpek en navngitt rolle som har ansvar for godkjenning, endringer og ny vurdering. IT kan drifte tilgangen uten å eie den faglige bruken. Fag, sikkerhet, personvern og innkjøp kan derfor ha ulike delansvar.

3. Hvilken rolle har virksomheten etter regelverket?

De fleste virksomheter som bruker et KI-system profesjonelt vil være brukere eller idriftsettere, mens leverandøren utvikler eller tilbyr systemet. Rollen påvirker pliktene, men leverandørens samsvar fritar ikke virksomheten fra å bruke løsningen forsvarlig.

B. Data og tilgang

4. Hvilke data kan verktøyet motta?

Kartlegg både det ansatte skriver inn og data verktøyet kan hente automatisk fra e-post, dokumenter, CRM, kodebaser eller andre integrasjoner. Klassifiser informasjonen og angi eksplisitt hva som er forbudt.

Se den utdypende vurderingen av personopplysninger i ChatGPT og Copilot.

5. Kan datamengden reduseres?

Fjern navn, identifikatorer og detaljer som ikke er nødvendige. Test med syntetiske data før ekte informasjon brukes. Kontroller at «anonymisering» faktisk hindrer at personer kan identifiseres indirekte.

6. Hvem får tilgang – og gjennom hvilken konto?

Krev administrerte virksomhetskontoer når bruken er jobbrelatert. Kontroller identitetsstyring, flerfaktorautentisering, rollefordeling, gjestetilgang og avslutning av tilgang når ansatte slutter eller bytter rolle.

C. Leverandør og teknisk oppsett

7. Hva sier avtalen om lagring, trening og videre bruk?

Kontroller den konkrete produktutgaven. Dokumenter om prompt, filer og resultater lagres, brukes til modellforbedring eller gjøres tilgjengelig for underleverandører. Markedsføringspåstander er ikke nok; avtale og konfigurasjon må samsvare.

8. Hvor behandles dataene?

Kartlegg lagring, fjernaksess, support og underleverandører. Vurder overføringsgrunnlag og supplerende tiltak når personopplysninger kan bli tilgjengelige utenfor EØS.

9. Hvilke integrasjoner og funksjoner er aktive?

Plugins, agenter, nettlesertilgang, filopplasting og koblinger til interne datakilder kan endre risikoen vesentlig. Bruk minste privilegium og aktiver bare funksjoner som er nødvendige for godkjent bruk.

D. Resultat og menneskelig kontroll

10. Hvordan oppdages feil og skadelige resultater?

Definer hvem som kvalitetssikrer resultatet og hvilke kilder som skal brukes. Test realistiske feilsituasjoner: oppdiktede fakta, skjevheter, promptmanipulasjon, lekkasje mellom brukere og instruksjoner skjult i dokumenter eller nettsider.

11. Hvilke beslutninger krever et menneske?

Beskriv hvilke resultater som bare er utkast eller beslutningsstøtte. Sett strengere kontroll ved rekruttering, utdanning, kreditt, helse, offentlige tjenester og andre beslutninger som kan påvirke menneskers rettigheter eller muligheter.

E. Drift og beredskap

12. Kan dere stoppe, undersøke og lære?

Ha en enkel prosess for å rapportere feil deling, uventet tilgang og farlige resultater. Avklar hvem som kan stanse bruken, sikre logger, kontakte leverandøren og vurdere om hendelsen er et personvernbrudd eller sikkerhetsavvik.

Beslutningen etter sjekklisten

Bruk ett av fire utfall:

Utfall	Når det passer	Neste steg
Godkjent	Risiko og tiltak er forstått og akseptert	Registrer eier, vilkår og ny vurderingsdato
Godkjent med vilkår	Bruken krever avgrensning eller ekstra kontroll	Dokumenter vilkår og kontroller etterlevelse
Pilot	Usikkerhet kan reduseres med begrenset test	Bruk syntetiske data, få brukere og tydelig stoppunkt
Ikke godkjent	Risikoen er ukjent, for høy eller mangler tiltak	Stans bruk og avklar før ny vurdering

Et «ja» bør aldri være permanent. Sett ny vurdering ved større produktendring, ny integrasjon, nytt bruksområde, endrede vilkår eller alvorlig avvik.

Minimumsdokumentasjon

Et kort beslutningsnotat bør inneholde:

• verktøy, produktutgave og bruksområde;
• eier og godkjenningsdato;
• datatyper og integrasjoner;
• hovedrisikoer og tiltak;
• krav til menneskelig kontroll;
• beslutning og eventuelle vilkår;
• dato eller hendelse for ny vurdering.

Koble beslutningen til virksomhetens KI-policy og KI-register. Hvis dere ikke har oversikt nok til å fylle ut notatet, er det et signal om at bruken ikke er klar for ordinær drift.

Kilder og videre lesning

• KI Norge om virksomheters roller og ansvar
• Datatilsynet om GPT-baserte tjenester og personvern
• NSM: Kunstig intelligens – muligheter, sikkerhet og ansvar
• SPADEs AI Act-egenvurdering

Sjekklisten gir en styrt start. En KI-sikkerhetsgjennomgang går videre inn i verktøyoversikt, dataflyt, tilgang, leverandører, styring og prioriterte tiltak.