Begrensninger og hallusinasjoner: hva du ikke skal stole på

Du har sett hvor glatt en AI svarer. På tide med den andre siden: noen ganger finner den opp ting like glatt. Å vite det er ikke en grunn til å slutte å bruke den – det er betingelsen for å bruke den som en voksen.

Hva en hallusinasjon er

En hallusinasjon er et selvsikkert, polert, men usant svar: et oppdiktet sitat, en lenke til ingenting, en forvirret dato, et oppdiktet faktum. Det ubehagelige er at det høres nøyaktig like overbevisende ut som sannheten – ingen nøling, ingen forbehold. Dette er et felles trekk ved alle tre modellene, ikke en sykdom hos én modell.

Hvorfor den lyver så selvsikkert

En AI «kjenner» ikke fakta slik en oppslagsbok gjør – den forutsier en plausibel fortsettelse av tekst. Mesteparten av tiden stemmer det plausible med det sanne, men der dataene var knappe, fullfører modellen likevel en glatt setning – bare at den nå er feil. Den har ingen intern «jeg er ikke sikker» før du ber om det. Derav regelen: en selvsikker tone er ikke bevis på å ha rett.

Kunnskapskuttet: hvorfor den «ikke vet om i går»

Hver modell har et kunnskapskutt – punktet den har sett verdens tekst frem til. Alt som skjedde senere vet den ikke av seg selv og kan finne opp. Det er nettopp derfor en allrounder uten søketilgang ikke bør svare på «hva er prisen i dag» eller «hvem vant i går kveld» – det er en jobb for Gemini eller Perplexity med ferskt søk (husk «oppgave → AI»-tabellen).

Hvor alle tre feiler på samme måte

• Nøyaktige tall og datoer – statistikk, rater, år: de liker «omtrent riktig».
• Lenker og sitater – de kan finne opp en plausibel kilde som ikke eksisterer.
• Juss og medisin – det høres autoritativt ut, men ansvaret er ditt; dette er emner for en menneskelig spesialist.
• Nylige hendelser – alt etter kunnskapskuttet, uten søk.
• Store hoderegnestykker – lange beregninger spørres bedre om trinn for trinn, eller gjøres i en kalkulator.

Saken med advokaten som stolte på den

Juni 2023, New York. Advokat Steven Schwartz forbereder et rettsdokument og ber ChatGPT om å finne presedenser. Modellen produserer seks saker med tall og sitater – elegante og overbevisende. Schwartz legger dem inn i et rettsdokument. Problemet: ingen av de seks sakene eksisterer – ChatGPT fant dem opp. Dommeren ilegger en bot, og historien havner i aviser over hele verden. En lærdom som kostet tusenvis av dollar og et rykte: AI er et utkast, ikke en kilde til sannhet. Verifisering er en menneskelig jobb.

Hvor hallusinasjoner knapt betyr noe

Det er viktig å ikke svinge til den andre ytterligheten – «hvis den lyver, kan ingenting stoles på». Det er en stor sone der oppfinnelser gjør liten skade: utkast, ideer, formuleringer, forklaringer av generelle konsepter, idémyldring. Hvis du ber om ti overskrifter eller et omskrevet avsnitt, er det ingen «fakta» å sjekke – du vil uansett bedømme resultatet med dine egne øyne. Vær forsiktig der svaret reiser utover deg som et faktum: et tall i en rapport, en lenke i en artikkel, et argument i en debatt, råd om helsen din eller loven. Regelen er enkel: jo mer alvorlige konsekvensene av en feil er, desto strengere er sjekken.

Tre vaner som redder deg

1. Be om kilder og åpne dem. «Gi meg en lenke for hver påstand» – klikk deg så gjennom. Ingen lenke, eller en død en, betyr at det er en hypotese, ikke et faktum. Dette er nøyaktig hva Perplexity ble bygget for.
2. Kryssjekk det som betyr noe med en annen modell. Samme spørsmål til to AI-er: hvis de er enige, er det mer sannsynlig sant; hvis de avviker, grav dypere selv.
3. Gi modellen tillatelse til å si «jeg vet ikke». Legg til i forespørselen din: «hvis du ikke er sikker, si det, ikke finn opp.» Dette reduserer fabrikasjon merkbart.

Vanlige myter

• «Den betalte versjonen hallusinerer ikke.» Toppmodeller feiler sjeldnere, men de slutter ikke: du må fortsatt verifisere.
• «Den svarte selvsikkert, så da må det være slik.» Selvsikker tone og å ha rett er forskjellige ting; modellen tviler ikke høyt med mindre du ber den om det.
• «Hallusinasjoner er en feil de snart vil fikse.» De er en egenskap ved «forutsi fortsettelsen»-tilnærmingen, ikke en feil; de vil bli sjeldnere, men de vil ikke fjerne vanen din med å sjekke.

Gjør dette nå

En liten tillitstest, tre minutter. Spør din AI om noe sjekkbart fra ditt eget felt der du vet det riktige svaret, og be den om en kilde. Bedøm det: er alt nøyaktig, fører lenken til en ekte side? Én slik opplevelse kalibrerer tilliten din bedre enn ti advarsler – denne inkludert.