Allucinazioni AI: perché i modelli inventano e come riconoscerle
In breve: un'allucinazione è una risposta AI sicura, plausibile, ma inventata. Non è un bug — è il modo in cui funziona la tecnologia: il modello predice una probabile continuazione del testo, e quando non conosce la risposta, la «probabile continuazione» sembra comunque una risposta reale. Difesa: verifica ciò che conta, dai fonti al modello, abilita la ricerca web.
Perché i modelli inventano
Un modello linguistico non «cerca risposte in un database» — genera testo token per token, scegliendo la continuazione più probabile. Non ha un flag «non so» integrato: quando i fatti finiscono, il testo statisticamente probabile viene comunque prodotto — con date, nomi e un tono sicuro.
Dove il rischio è maggiore
- Link e fonti — i modelli inventano facilmente URL e titoli di articoli plausibili
- Numeri esatti, date, citazioni
- Persone ed eventi poco conosciuti — pochi dati, molta fantasia
- Dettagli legali e medici — dove gli errori costano di più
4 tecniche di difesa
- Verifica ciò che conta. Qualsiasi numero, citazione o link da cui qualcosa dipende — apri la fonte originale.
- Permetti l'incertezza. Aggiungi «se non sei sicuro — dillo» al tuo prompt. Riduce notevolmente l'invenzione.
- Fornisci materiale. Un modello con un documento risponde dal documento, non dalla memoria.
- Abilita la ricerca web — le risposte basate su pagine trovate possono essere verificate tramite i loro link.
L'unica cosa da ricordare
Un dettaglio plausibile non è una prova. Un tono sicuro non è una prova. L'unica prova è la fonte originale che hai aperto tu stesso.
Argomenti correlati
Metà della difesa dalle allucinazioni è una richiesta ben costruita: come dare materiale al modello e fargli ammettere l'incertezza è trattato in cos'è un prompt e come scriverne uno. Se stai appena iniziando, inizia con la guida per principianti a ChatGPT. E quali dati sono sicuri da affidare a un modello è nel nostro articolo sulla privacy quando lavori con l'AI.
FAQ
Le allucinazioni spariranno mai?
I modelli diventano più precisi, e la ricerca più il grounding riducono il rischio — ma la natura generativa degli LLM rende l'invenzione intrinsecamente possibile. La verifica rimane un'abilità fondamentale.
Cos'è un'allucinazione AI in parole semplici?
È una risposta sicura, plausibile, ma inventata: il modello afferma un fatto, un link o una citazione inesistente con la stessa calma di uno reale. Non puoi distinguere l'invenzione dalla verità solo dall'aspetto — solo verificando.
Come faccio a capire che l'AI sta inventando in questo momento?
Non c'è un segno esterno affidabile — questo è il pericolo. Segnali indiretti: numeri molto precisi senza fonte, link che non si aprono, dettagli su persone poco conosciute. Verifica qualsiasi dettaglio critico rispetto alla fonte originale.
Perché il modello non dice semplicemente «non lo so»?
Perché non cerca una risposta in un database — completa la continuazione più probabile del testo. Non ha un flag «sconosciuto» integrato. Ma puoi chiedere: aggiungi «se non sei sicuro, dillo» al tuo prompt, e l'invenzione diminuisce.
La ricerca web elimina completamente l'invenzione?
Non completamente, ma riduce notevolmente il rischio: la risposta è basata su pagine trovate che puoi verificare tramite i loro link. La chiave è aprire tu stesso la fonte piuttosto che fidarti del racconto del modello.
Dove sono particolarmente pericolose le allucinazioni?
Dove il costo dell'errore è alto: dettagli legali e medici, calcoli finanziari, citazioni e link esatti, fatti su persone specifiche. In queste aree l'AI è una bozza e un assistente, non la parola definitiva.
Come sono collegate le allucinazioni alla qualità del prompt?
Direttamente. Dai al modello un documento fonte e chiedigli di rispondere solo da quello, e lo spazio per l'invenzione si riduce. Come costruire tali richieste è nel nostro articolo sul prompt.