En KI-modell kan gi en overbevisende forklaring med et oppdiktet saksnummer, feil produktinformasjon eller tall som ikke finnes i grunnlaget. Feilen blir først alvorlig når resultatet brukes som et faktum uten at noen oppdager den.
Hva betyr en KI-hallusinasjon?
Begrepet brukes om feil eller oppdiktet innhold som modellen presenterer som riktig. En flytende formulering, presis dato eller lang begrunnelse viser ikke at påstanden er kontrollert. Det gjelder også når modellen oppgir en kilde.
Skill mellom utkast og opplysninger dere skal stole på
Til et idéutkast kan flere forslag være nyttige. I en kontrakt, en kundebeskjed eller en beslutning må konkrete opplysninger kunne etterprøves. Fastsett hvem som kontrollerer resultatet og hvilket grunnlag som skal brukes før dere åpner verktøyet for oppgaven.
Disse eksemplene er tenkte kontrollsituasjoner:
- Et juridisk notat viser til en avgjørelse. Finn avgjørelsen i den opprinnelige rettskilden og kontroller at den gjelder spørsmålet.
- Et svar til en kunde beskriver en garanti. Sammenlign med gjeldende produktvilkår før svaret sendes.
- En rapport inneholder en beregning. Kontroller data, enheter og beregning uavhengig av modellens forklaring.
- Et møtereferat fordeler ansvar. Sammenlign med det som faktisk ble sagt, og la deltakerne avklare uenighet.
Fem kontroller før resultatet brukes
- Gi et avgrenset grunnlag. Avklar hvilke dokumenter modellen skal bruke og hva den skal gjøre når svaret ikke finnes der.
- Åpne kildene. Kontroller navn, dato, sitat og om kilden støtter akkurat påstanden. En kildehenvisning kan også være feil.
- Kontroller det som kan få konsekvenser. Prioriter penger, rettigheter, sikkerhet, personopplysninger og opplysninger som skal publiseres.
- Test utenfor normalsituasjonen. Prøv manglende data, motstridende dokumenter og spørsmål uten svar. Avklar når systemet skal be et menneske om hjelp.
- Registrer feil. Ta vare på relevant grunnlag, resultat og vurdering slik at dere kan forbedre rutinen. Håndter personopplysninger og tilganger også i denne dokumentasjonen.
Når kontrollen ikke er god nok
Avgrens eller stans bruken når dere ikke kan kontrollere viktige påstander, kildene mangler eller modellen gjentar feil med store konsekvenser. Flere forsøk på samme spørsmål er ikke en uavhengig faktasjekk.
Bruk KI-sikkerhetssjekklisten til å dokumentere kontrollene, og knytt dem til en KI-policy som ansatte kan følge.
Vil dere gå gjennom dette sammen?
Jeg kan hjelpe dere med å avklare behovet og prioritere neste steg.