Limiti e allucinazioni: cosa non fidarsi

Hai visto con quanta fluidità risponde un'IA. È ora di vedere il rovescio della medaglia: a volte inventa cose con la stessa fluidità. Saperlo non è un motivo per smettere di usarla, ma la condizione per usarla in modo maturo.

Cos'è un'allucinazione

Un'allucinazione è una risposta sicura, ben formulata, ma falsa: una citazione inventata, un link che non porta a nulla, una data sbagliata, un fatto inventato. La parte peggiore è che suona esattamente convincente come la verità, senza esitazioni o avvertimenti. È una caratteristica comune a tutti e tre i modelli, non una malattia di uno solo.

Perché mente con tanta sicurezza

Un'IA non "conosce" i fatti come un libro di consultazione: predice una continuazione plausibile del testo. Il più delle volte il plausibile corrisponde al vero, ma dove i dati scarseggiano il modello completa comunque una frase fluida, solo che ora è sbagliata. Non ha un "non sono sicuro" interno finché non glielo chiedi. Da qui la regola: un tono sicuro non è prova di essere nel giusto.

Il knowledge cutoff: perché "non sa nulla di ieri"

Ogni modello ha un knowledge cutoff, il punto fino al quale ha visto il testo del mondo. Qualsiasi cosa sia successa dopo, non la conosce da solo e potrebbe inventarla. Ecco perché un modello generico senza accesso alla ricerca non dovrebbe rispondere a "qual è il prezzo oggi" o "chi ha vinto ieri sera": quello è un compito per Gemini o Perplexity con ricerca aggiornata (ricordi la tabella "compito → IA").

Dove tutti e tre sbagliano allo stesso modo

• Numeri e date esatti — statistiche, tassi, anni: preferiscono essere "all'incirca giusti".
• Link e citazioni — possono inventare una fonte plausibile che non esiste.
• Legge e medicina — suona autorevole, ma la responsabilità è tua; questi sono argomenti per uno specialista umano.
• Eventi recenti — tutto ciò che è accaduto dopo il knowledge cutoff, senza ricerca.
• Grandi calcoli mentali — i calcoli lunghi è meglio chiederli passo dopo passo, o farli con una calcolatrice.

Il caso dell'avvocato che si è fidato

Giugno 2023, New York. L'avvocato Steven Schwartz sta preparando un'istanza e chiede a ChatGPT di trovare precedenti. Il modello produce sei casi con numeri e citazioni — eleganti e convincenti. Schwartz li inserisce in un documento giudiziario. Il problema: nessuno dei sei casi esiste — ChatGPT li ha inventati. Il giudice impone una multa e la storia finisce sui giornali di tutto il mondo. Una lezione che è costata migliaia di dollari e una reputazione: l'IA è una bozza, non una fonte di verità. Verificare è compito dell'uomo.

Dove le allucinazioni contano poco

È importante non cadere nell'altro estremo: «se mente, non ci si può fidare di nulla». C'è un'ampia zona in cui l'invenzione fa pochi danni: bozze, idee, formulazioni, spiegazioni di concetti generali, brainstorming. Se chiedi dieci titoli o un paragrafo riscritto, non ci sono "fatti" da verificare: giudicherai il risultato con i tuoi occhi comunque. Sii cauto quando la risposta va oltre te come fatto: un numero in un rapporto, un link in un articolo, un argomento in un dibattito, un consiglio sulla tua salute o sulla legge. La regola è semplice: più gravi sono le conseguenze di un errore, più rigoroso deve essere il controllo.

Tre abitudini che ti salvano

1. Chiedi le fonti e aprilile. «Dammi un link per ogni affermazione» — poi clicca. Nessun link, o uno non funzionante, significa che è un'ipotesi, non un fatto. Questo è esattamente per cosa è stato creato Perplexity.
2. Verifica ciò che conta con un secondo modello. Stessa domanda a due IA: se concordano, è più probabile che sia vero; se divergono, approfondisci tu stesso.
3. Dai al modello il permesso di dire «non lo so». Aggiungi alla tua richiesta: «se non sei sicuro, dillo, non inventare». Questo riduce notevolmente le invenzioni.

Miti comuni

• «La versione a pagamento non allucina». I modelli migliori sbagliano meno spesso, ma non smettono: devi comunque verificare.
• «Ha risposto con sicurezza, quindi deve essere così». La sicurezza del tono e l'essere nel giusto sono cose diverse; il modello non esprime dubbi ad alta voce a meno che tu non glielo chieda.
• «Le allucinazioni sono un bug che risolveranno presto». Sono una proprietà dell'approccio "predici la continuazione", non un malfunzionamento; diventeranno più rare, ma non ti faranno abbandonare l'abitudine di controllare.

Fallo ora

Un piccolo test di fiducia, tre minuti. Chiedi alla tua IA qualcosa di verificabile dal tuo campo in cui conosci la risposta giusta, e chiedile una fonte. Giudica: è tutto accurato, il link porta a una pagina reale? Un'esperienza del genere calibra la tua fiducia meglio di dieci avvertimenti — questo incluso.