Forklarbar KI og skjevheter: Hva dere bør undersøke

Bruker dere KI til å rangere søkere, vurdere lån eller støtte beslutninger om mennesker, bør dere undersøke om enkelte grupper får systematisk dårligere resultater. Kartlegg hvilke data og kriterier systemet bruker, hvem som kan overprøve resultatet og hvordan feil oppdages.

Skjevhet, diskriminering og forklaring er ulike spørsmål

Skjevhet (bias) kan bety at data eller resultater systematisk trekker i en bestemt retning. Det kan skyldes manglende data, historiske forhold, valg av mål eller hvordan systemet brukes. En skjevhet er ikke automatisk ulovlig diskriminering, men kan gi urettmessige utslag som må undersøkes.

Forklarbarhet handler om å forstå hvilke forhold som påvirker resultatet. En forklaring er ikke bevis for at resultatet er riktig eller rettferdig. Dere må teste selve utfallet og vurdere om informasjonen er tilstrekkelig for den som skal bruke eller utfordre beslutningen.

Tre situasjoner dere kan teste

Eksemplene nedenfor er tenkte situasjoner, ikke beskrivelser av dokumenterte kundehendelser.

• Rekruttering: Et verktøy gir systematisk lavere vurdering til søkere med en bestemt type karriereavbrudd. Undersøk om kriteriet er relevant for jobben og om rekruttereren kan oppdage og korrigere utslaget.
• Kundeservice: En modell prioriterer henvendelser dårligere når språket avviker fra treningsmaterialet. Test med faktiske språkvarianter og kontroller om kunder får ulik oppfølging.
• Beslutningsstøtte: Et system gir en presis risikoscore uten å vise hvilket datagrunnlag den bygger på. Be om dokumentasjon og prøv hva som skjer når grunnlaget er feil eller mangelfullt.

En praktisk gjennomgang

1. Avgrens oppgaven. Hva brukes resultatet til, hvem påvirkes og hva er konsekvensen av en feil? Vurder om et enklere system kan løse oppgaven.
2. Undersøk datagrunnlaget. Hvor kommer dataene fra, hvilke grupper mangler og hva måler variablene faktisk? Ikke samle inn flere personopplysninger uten å avklare nødvendighet og behandlingsgrunnlag.
3. Definer hva dere skal teste. Velg relevante feil og utfall for oppgaven. Test med ulike grupper og realistiske situasjoner. Én samlet treffprosent kan skjule store forskjeller.
4. Undersøk forklaringene. Kan fagpersonen forstå og kontrollere resultatet? Stemmer begrunnelsen med dataene som faktisk ble brukt?
5. Gi et menneske reell myndighet. Avklar hvem som kan stanse eller overprøve bruken, og hvordan berørte personer får hjelp. Sett av tid og informasjon til vurderingen.
6. Følg opp etter innføring. Registrer feil og klager, se etter endrede utslag og gjenta testene når modell, datakilder eller bruk endres.

Dokumenter hva dere undersøkte, funn, begrensninger, tiltak og hvem som aksepterte gjenværende risiko. Det gjør neste vurdering enklere og gir et grunnlag for å forklare beslutningen.

Hvilke regler må vurderes?

Diskrimineringsreglene gjelder også når et digitalt system medvirker til forskjellsbehandling. Vurderingen må knyttes til de aktuelle diskrimineringsgrunnlagene og vilkårene i loven. LDOs utredning om algoritmer, KI og diskriminering, kapittel 4.

Når personopplysninger behandles, gjelder personvernreglene. Utelukkende automatiserte avgjørelser med rettsvirkning eller tilsvarende betydelig påvirkning omfattes av særregler, med avgrensninger og unntak. Informasjon om logikken og konsekvensene må være meningsfull i den konkrete situasjonen. Dette er ikke et generelt krav om å utlevere all modellkode. Datatilsynet om informasjon og åpenhet.

KI-forordningen stiller særkrav til bestemte systemer og roller. Norsk gjennomføring er fortsatt under arbeid per 1. oktober 2026. Undersøk virkeområde og gjeldende frister før dere konkluderer med hvilke KI-spesifikke plikter som gjelder. Regjeringens status 4. august 2026.

For en første gjennomgang av virksomhetens bruk, se KI-sikkerhetssjekklisten.