AI-hallusinasjoner: hvorfor modeller finner på ting og hvordan du avslører det
Kort sagt: en hallusinasjon er et selvsikkert, plausibelt, men oppdiktet AI-svar. Det er ikke en feil – det er slik teknologien fungerer: modellen forutsier en sannsynlig tekstfortsettelse, og når den ikke vet svaret, ser den «sannsynlige fortsettelsen» fortsatt ut som et reelt svar. Forsvar: verifiser det som betyr noe, gi modellen kilder, aktiver nettsøk.
Hvorfor modeller finner på ting
En språkmodell «slår ikke opp svar i en database» – den genererer tekst token for token, og velger den mest sannsynlige fortsettelsen. Den har ingen innebygd «jeg vet ikke»-funksjon: når fakta tar slutt, produseres fortsatt statistisk sannsynlig tekst – med datoer, navn og en selvsikker tone.
Hvor risikoen er størst
- Lenker og kilder – modeller finner lett på plausible URL-er og papirtitler
- Nøyaktige tall, datoer, sitater
- Lite kjente personer og hendelser – lite data, mye fantasi
- Juridiske og medisinske detaljer – der feil koster mest
4 forsvarsteknikker
- Verifiser det som betyr noe. Ethvert tall, sitat eller lenke noe avhenger av – åpne den originale kilden.
- Tillat usikkerhet. Legg til «hvis usikker – si ifra» i prompten din. Det reduserer målbart oppdiktning.
- Gi materiale. En modell med et dokument svarer fra dokumentet, ikke fra minnet.
- Aktiver nettsøk – svar basert på funne sider kan sjekkes via lenkene deres.
Det viktigste å huske
Plausible detaljer er ikke bevis. En selvsikker tone er ikke bevis. Det eneste beviset er den originale kilden du selv åpnet.
Relaterte emner
Halvparten av hallusinasjonsforsvaret er en godt utformet forespørsel: hvordan du gir modellen materiale og lar den innrømme usikkerhet, dekkes i hva en prompt er og hvordan du skriver en. Hvis du nettopp har startet, begynn med nybegynnerguiden til ChatGPT. Og hvilke data det er trygt å stole på en modell med, finner du i artikkelen vår om personvern når du jobber med AI.
FAQ
Vil hallusinasjoner forsvinne helt?
Modellene blir mer nøyaktige, og søk pluss forankring reduserer risikoen – men den generative naturen til LLM-er gjør oppdiktning iboende mulig. Verifisering forblir en kjerneferdighet.
Hva er en AI-hallusinasjon med enkle ord?
Det er et selvsikkert, plausibelt, men oppdiktet svar: modellen presenterer et ikke-eksisterende faktum, en lenke eller et sitat like rolig som et ekte. Du kan ikke skille oppdiktning fra sannhet bare ved utseendet – kun ved å verifisere.
Hvordan ser jeg at AI-en finner på ting akkurat nå?
Det finnes ingen pålitelige ytre tegn – det er faren. Indirekte signaler: veldig presise tall uten kilde, lenker som ikke åpnes, detaljer om lite kjente personer. Verifiser alle kritiske detaljer mot den originale kilden.
Hvorfor sier ikke modellen bare «jeg vet ikke»?
Fordi den ikke slår opp et svar i en database – den fullfører den mest sannsynlige fortsettelsen av teksten. Den har ingen innebygd «ukjent»-funksjon. Men du kan spørre: legg til «hvis usikker, si ifra» i prompten din, og oppdiktning reduseres.
Fjerner nettsøk oppdiktning helt?
Ikke helt, men det reduserer risikoen merkbart: svaret er forankret i funne sider du kan sjekke via lenkene deres. Nøkkelen er å åpne kilden selv i stedet for å stole på modellens gjenfortelling.
Hvor er hallusinasjoner spesielt farlige?
Der kostnaden for feil er høy: juridiske og medisinske detaljer, finansielle beregninger, nøyaktige sitater og lenker, fakta om spesifikke personer. På disse områdene er AI et utkast og en assistent, ikke det endelige ordet.
Hvordan er hallusinasjoner knyttet til promptkvalitet?
Direkte. Gi modellen et kildedokument og be den svare kun fra det, og rommet for oppdiktning krymper. Hvordan du bygger slike forespørsler, finner du i vår prompt-artikkel.