AI-hallucinationer: hvorfor modeller digter, og hvordan du fanger det
Kort sagt: en hallucination er et selvsikkert, plausibelt, men opfundet AI-svar. Det er ikke en fejl — det er sådan teknologien virker: modellen forudsiger en sandsynlig tekstfortsættelse, og når den ikke kender svaret, ligner den "sandsynlige fortsættelse" stadig et rigtigt svar. Forsvar: verificer det, der betyder noget, giv modellen kilder, aktiver websøgning.
Hvorfor modeller digter
En sprogmodel "slår ikke svar op i en database" — den genererer tekst token for token og vælger den mest sandsynlige fortsættelse. Den har intet indbygget "jeg ved det ikke"-flag: når fakta slipper op, produceres der stadig statistisk sandsynlig tekst — med datoer, navne og en selvsikker tone.
Hvor risikoen er størst
- Links og kilder — modeller opfinder nemt plausible URL'er og papirtitler
- Præcise tal, datoer, citater
- Lidt kendte personer og begivenheder — lidt data, meget fantasi
- Juridiske og medicinske detaljer — hvor fejl koster mest
4 forsvarsteknikker
- Verificer det, der betyder noget. Ethvert tal, citat eller link, som noget afhænger af — åbn den originale kilde.
- Tillad usikkerhed. Tilføj "hvis usikker — sig det" til din prompt. Det reducerer målbart opdigtning.
- Giv materiale. En model med et dokument svarer ud fra dokumentet, ikke fra hukommelsen.
- Aktiver websøgning — svar baseret på fundne sider kan kontrolleres via deres links.
Det vigtigste at huske
Plausible detaljer er ikke bevis. En selvsikker tone er ikke bevis. Det eneste bevis er den originale kilde, du selv har åbnet.
Relaterede emner
Halvdelen af forsvaret mod hallucinationer er en velformuleret anmodning: hvordan du giver modellen materiale og lader den indrømme usikkerhed, er dækket i hvad en prompt er, og hvordan du skriver en. Hvis du lige er startet, så begynd med begynderguiden til ChatGPT. Og hvilke data det overhovedet er sikkert at stole på en model med, finder du i vores artikel om privatliv, når du arbejder med AI.
FAQ
Vil hallucinationer nogensinde forsvinde?
Modeller bliver mere præcise, og søgning plus grounding reducerer risikoen — men LLM'ers generative natur gør opdigtning iboende muligt. Verifikation forbliver en kernefærdighed.
Hvad er en AI-hallucination i almindelige ord?
Det er et selvsikkert, plausibelt, men opfundet svar: modellen angiver et ikke-eksisterende faktum, link eller citat lige så roligt som et ægte. Du kan ikke skelne opdigtning fra sandhed alene ud fra udseendet — kun ved at verificere.
Hvordan kan jeg se, at AI'en digter lige nu?
Der er intet pålideligt ydre tegn — det er faren. Indirekte signaler: meget præcise tal uden kilde, links der ikke åbner, detaljer om lidt kendte personer. Verificer enhver kritisk detalje mod den originale kilde.
Hvorfor siger modellen ikke bare 'jeg ved det ikke'?
Fordi den ikke slår et svar op i en database — den fuldender den mest sandsynlige fortsættelse af teksten. Den har intet indbygget 'ukendt'-flag. Men du kan bede den om det: tilføj 'hvis usikker, sig det' til din prompt, og opdigtning falder.
Fjerner websøgning opdigtning helt?
Ikke helt, men det sænker risikoen mærkbart: svaret er baseret på fundne sider, du kan tjekke via deres links. Nøglen er at åbne kilden selv i stedet for at stole på modellens genfortælling.
Hvor er hallucinationer særligt farlige?
Hvor omkostningerne ved fejl er høje: juridiske og medicinske detaljer, finansielle beregninger, præcise citater og links, fakta om specifikke personer. På disse områder er AI et udkast og en assistent, ikke det endelige ord.
Hvordan er hallucinationer forbundet med promptkvalitet?
Direkte. Giv modellen et kildedokument, og bed den om kun at svare ud fra det, og rummet for opdigtning skrumper. Hvordan du bygger sådanne anmodninger, finder du i vores prompt-artikel.