Beperkingen en hallucinaties: wat je niet moet vertrouwen

Je hebt gezien hoe soepel een AI antwoordt. Tijd voor de keerzijde: soms verzint het net zo soepel dingen. Dat weten is geen reden om het niet meer te gebruiken – het is de voorwaarde om het als een volwassene te gebruiken.

Wat een hallucinatie is

Een hallucinatie is een zelfverzekerd, gepolijst, maar fout antwoord: een verzonnen citaat, een link naar niets, een verkeerde datum, een verzonnen feit. Het vervelende is dat het precies zo overtuigend klinkt als de waarheid – geen aarzeling, geen voorbehouden. Dit is een gedeelde eigenschap van alle drie de modellen, niet de ziekte van één model.

Waarom het zo overtuigend liegt

Een AI „weet” geen feiten zoals een naslagwerk dat doet – het voorspelt een aannemelijk vervolg van tekst. Meestal komt aannemelijk overeen met waar, maar waar de data schaars waren, maakt het model toch een vloeiende zin af – alleen is die dan fout. Het heeft geen interne „ik weet het niet zeker” totdat je erom vraagt. Vandaar de regel: een zelfverzekerde toon is geen bewijs van gelijk hebben.

De knowledge cutoff: waarom het „niets weet over gisteren”

Elk model heeft een knowledge cutoff – het punt tot waar het de tekst van de wereld heeft gezien. Alles wat daarna gebeurde, weet het niet uit zichzelf en kan het verzinnen. Dat is precies waarom een allrounder zonder zoektoegang geen antwoord moet geven op „wat is de prijs vandaag” of „wie heeft gisteravond gewonnen” – dat is een taak voor Gemini of Perplexity met verse zoekresultaten (onthoud de „taak → AI”-tabel).

Waar alle drie op dezelfde manier falen

• Exacte cijfers en datums – statistieken, tarieven, jaren: ze houden van „ongeveer goed”.
• Links en citaten – ze kunnen een aannemelijke bron verzinnen die niet bestaat.
• Recht en geneeskunde – het klinkt gezaghebbend, maar de verantwoordelijkheid is van jou; dit zijn onderwerpen voor een menselijke specialist.
• Recente gebeurtenissen – alles na de knowledge cutoff, zonder zoekfunctie.
• Grote hoofdrekenopgaven – lange berekeningen kun je beter stap voor stap vragen, of in een rekenmachine doen.

De zaak van de advocaat die het vertrouwde

Juni 2023, New York. Advocaat Steven Schwartz bereidt een dossier voor en vraagt ChatGPT om precedenten te vinden. Het model produceert zes zaken met nummers en citaten – elegant en overtuigend. Schwartz neemt ze op in een rechtbankdocument. Het probleem: geen van de zes zaken bestaat – ChatGPT verzon ze. De rechter legt een boete op en het verhaal haalt wereldwijd de kranten. Een les die duizenden dollars en een reputatie kostte: AI is een concept, geen bron van waarheid. Verifiëren is mensenwerk.

Waar hallucinaties nauwelijks van belang zijn

Het is belangrijk om niet naar het andere uiterste te slaan – „als het liegt, is niets te vertrouwen”. Er is een enorme zone waar verzinsels weinig kwaad kunnen: concepten, ideeën, formuleringen, uitleg van algemene concepten, brainstormen. Als je om tien koppen of een herschreven alinea vraagt, zijn er geen „feiten” om te controleren – je beoordeelt het resultaat toch met je eigen ogen.

Schakel voorzichtigheid in waar het antwoord jou als feit overstijgt: een getal in een rapport, een link in een artikel, een argument in een debat, advies over je gezondheid of de wet. De regel is simpel: hoe ernstiger de gevolgen van een fout, hoe strenger de controle.

Drie gewoontes die je redden

1. Vraag om bronnen en open ze. „Geef me een link voor elke bewering” – klik dan door. Geen link, of een dode, betekent dat het een hypothese is, geen feit. Dit is precies waar Perplexity voor is gebouwd.
2. Controleer wat belangrijk is met een tweede model. Dezelfde vraag aan twee AI’s: als ze het eens zijn, is het waarschijnlijker waar; als ze afwijken, ga dan zelf graven.
3. Geef het model toestemming om „ik weet het niet” te zeggen. Voeg toe aan je verzoek: „als je het niet zeker weet, zeg dat dan, verzin niets.” Dit vermindert verzinsels merkbaar.

Veelvoorkomende mythes

• „De betaalde versie hallucineert niet.” Topmodellen maken minder vaak fouten, maar ze stoppen er niet mee: je controleert nog steeds.
• „Het antwoordde zelfverzekerd, dus zo zal het wel zijn.” Zelfverzekerdheid van toon en gelijk hebben zijn verschillende dingen; het model twijfelt niet hardop, tenzij je erom vraagt.
• „Hallucinaties zijn een bug die ze snel zullen oplossen.” Ze zijn een eigenschap van de „voorspel het vervolg”-aanpak, geen storing; ze zullen zeldzamer worden, maar ze zullen je gewoonte van controleren niet overbodig maken.

Doe dit nu

Een kleine vertrouwenscheck, drie minuten. Vraag je AI iets controleerbaars uit je eigen vakgebied waar je het juiste antwoord van weet, en vraag om een bron. Beoordeel het: is alles accuraat, leidt de link naar een echte pagina? Eén zo’n ervaring kalibreert je vertrouwen beter dan tien waarschuwingen – deze inbegrepen.