Begränsningar och hallucinationer: vad du inte ska lita på

Du har sett hur smidigt en AI svarar. Dags för baksidan: ibland hittar den på saker lika smidigt. Att veta det är ingen anledning att sluta använda den – det är förutsättningen för att använda den ansvarsfullt.

Vad en hallucination är

En hallucination är ett självsäkert, välformulerat men falskt svar: ett påhittat citat, en länk till ingenting, ett felaktigt datum, ett uppdiktat faktum. Det obehagliga är att det låter precis lika övertygande som sanningen – ingen tvekan, inga förbehåll. Detta är ett gemensamt drag för alla tre modeller, inte en enskild modells sjukdom.

Varför den ljuger så självsäkert

En AI "vet" inte fakta på samma sätt som en uppslagsbok – den förutspår en rimlig fortsättning på texten. Oftast stämmer rimligt med sant, men där datan var knapp fullföljer modellen ändå en smidig mening – bara det att den nu är fel. Den har inget internt "jag är osäker" förrän du ber om det. Därav regeln: en självsäker ton är inte bevis på att ha rätt.

Kunskapsgränsen: varför den "inte vet om igår"

Varje modell har en kunskapsgräns – den punkt fram till vilken den har sett världens text. Allt som hände senare vet den inte av sig själv och kan hitta på. Det är just därför en allround-modell utan sökåtkomst inte ska svara på "vad kostar det idag" eller "vem vann igår kväll" – det är ett jobb för Gemini eller Perplexity med färsk sökning (kom ihåg tabellen 'uppgift → AI').

Där alla tre misslyckas på samma sätt

• Exakta siffror och datum – statistik, priser, år: de gillar "ungefär rätt".
• Länkar och citat – de kan hitta på en trovärdig källa som inte existerar.
• Juridik och medicin – det låter auktoritativt, men ansvaret är ditt; detta är ämnen för en mänsklig specialist.
• Nyliga händelser – allt efter kunskapsgränsen, utan sökfunktion.
• Stora huvudräkningar – långa beräkningar frågas bättre efter steg för steg, eller görs i en kalkylator.

Fallet med advokaten som litade blint på den

Juni 2023, New York. Advokat Steven Schwartz förbereder en inlaga och ber ChatGPT att hitta prejudikat. Modellen producerar sex fall med siffror och citat – eleganta och övertygande. Schwartz inkluderar dem i ett domstolsdokument. Problemet: inget av de sex fallen existerar – ChatGPT hittade på dem. Domaren utdömer böter och historien hamnar i tidningar världen över. En läxa som kostade tusentals dollar och ett rykte: AI är ett utkast, inte en sanningskälla. Att verifiera är en människas jobb.

Där hallucinationer knappt spelar någon roll

Det är viktigt att inte svänga till den andra ytterligheten – "om den ljuger kan inget lita på". Det finns en stor zon där påhitt gör liten skada: utkast, idéer, formuleringar, förklaringar av allmänna koncept, brainstorming. Om du ber om tio rubriker eller ett omskrivet stycke finns det inga "fakta" att kontrollera – du kommer ändå att bedöma resultatet med dina egna ögon. Var försiktig när svaret färdas bortom dig som ett faktum: en siffra i en rapport, en länk i en artikel, ett argument i en debatt, råd om din hälsa eller juridik. Regeln är enkel: ju allvarligare konsekvenserna av ett fel är, desto strängare kontroll.

Tre vanor som räddar dig

1. Be om källor och öppna dem. "Ge mig en länk för varje påstående" – klicka sedan dig vidare. Ingen länk, eller en död sådan, betyder att det är en hypotes, inte ett faktum. Detta är precis vad Perplexity byggdes för.
2. Kolla viktiga saker med en andra modell. Samma fråga till två AI:er: om de är överens är det mer sannolikt sant; om de skiljer sig åt, gräv själv.
3. Ge modellen tillåtelse att säga "jag vet inte". Lägg till i din förfrågan: "om du är osäker, säg det, hitta inte på." Detta minskar påhitt märkbart.

Vanliga myter

• "Betalversionen hallucinerar inte." Toppmodeller gör färre fel, men de slutar inte: du måste fortfarande verifiera.
• "Den svarade självsäkert, så det måste stämma." Självsäker ton och att ha rätt är olika saker; modellen tvivlar inte högt om du inte ber den.
• "Hallucinationer är en bugg de snart fixar." De är en egenskap hos "förutspå fortsättningen"-metoden, inte ett fel; de blir mer sällsynta, men de kommer inte att ta bort din vana att kontrollera.

Gör detta nu

Ett litet förtroendetest, tre minuter. Fråga din AI något kontrollerbart från ditt eget område där du vet det rätta svaret, och be den om en källa. Bedöm det: är allt korrekt, leder länken till en riktig sida? En sådan upplevelse kalibrerar ditt förtroende bättre än tio varningar – denna inkluderad.