KI-hallusinasjoner: hvorfor modellen gjetter

Hva er en hallusinasjon?

Det er et svar som virker relevant og sikkert, men inneholder noe feilaktig eller ugrunnet: en oppdiktet kilde, et sitat som aldri ble sagt, feil tall eller en slutning som presenteres som fakta.

Fire forsvarslag

1. Gi modellen kilder. Be den svare fra et avgrenset materiale fremfor fra generell modellhukommelse.
2. Tillat manglende svar. Krev at modellen sier når kildene ikke dekker spørsmålet.
3. Krev sporbarhet. Be om kilde-ID, sidetall eller direkte lenke for hver viktig påstand.
4. Kontroller utenfor modellen. Å be samme modell «dobbeltsjekke» er ikke uavhengig verifikasjon.

Svar bare fra materialet jeg har gitt deg.

For hver viktig påstand:
1. oppgi kilden og nøyaktig sted
2. merk om den er direkte dokumentert eller en slutning
3. si hva som mangler for å være sikker

Hvis materialet ikke støtter et svar, skriv «ikke dokumentert».
Ikke lag lenker, sitater, tall eller navn som ikke finnes i kildene.

Det som ikke er en garanti

Selvrapportert sikkerhet, en selvsikker begrunnelse eller flere modeller som er enige, beviser ikke at påstanden er sann. Strukturert output sikrer heller bare formen. Bruk originalkilden som fasit for viktig informasjon.

For en komplett arbeidsmetode, gå videre til research og faktasjekk og verifiser før du siterer.

Kilder

• Google Cloud: What are AI hallucinations? — forklaring, årsaker og grounding
• Microsoft Learn: RAG prompt engineering — svar fra kilder og håndtering av manglende belegg
• Min mfl.: FActScore — faktavurdering på påstandsnivå