« Limites et hallucinations : ce qu'il ne faut pas croire »

Vous avez vu avec quelle fluidité une IA répond. Passons à l'autre face de la médaille : parfois elle invente des choses avec la même fluidité. Le savoir n'est pas une raison de cesser de l'utiliser — c'est la condition pour l'utiliser de manière responsable.

Qu'est-ce qu'une hallucination ?

Une hallucination est une réponse sûre, bien formulée, mais fausse : une citation inventée, un lien qui ne mène nulle part, une date erronée, un fait imaginaire. Le plus insidieux est qu'elle semble aussi convaincante que la vérité — sans hésitation ni réserve. C'est une caractéristique commune aux trois modèles, et non une faiblesse propre à l'un d'eux.

Pourquoi l'IA ment-elle avec tant d'assurance ?

Une IA ne « connaît » pas les faits comme un ouvrage de référence — elle prédit une suite plausible de texte. La plupart du temps, le plausible correspond au vrai, mais là où les données sont rares, le modèle complète quand même une phrase fluide — sauf que maintenant, c'est faux. Elle n'a pas de « je ne suis pas sûre » interne tant que vous ne le lui demandez pas. D'où la règle : un ton confiant n'est pas une preuve de justesse.

La limite de connaissances : pourquoi elle « ne sait rien d'hier »

Chaque modèle a une limite de connaissances — la date jusqu'à laquelle il a analysé le texte mondial. Tout ce qui s'est passé après, il ne le sait pas par lui-même et peut l'inventer. C'est pourquoi un modèle généraliste sans accès à la recherche ne devrait pas répondre à « quel est le prix aujourd'hui » ou « qui a gagné hier soir » — c'est le travail de Gemini ou Perplexity avec une recherche actualisée (rappelez-vous le tableau « tâche → IA »).

Où les trois échouent de la même manière

• Chiffres et dates exacts — statistiques, taux, années : ils préfèrent le « à peu près juste ».
• Liens et citations — ils peuvent inventer une source plausible qui n'existe pas.
• Droit et médecine — cela semble faire autorité, mais la responsabilité vous incombe ; ce sont des sujets pour un spécialiste humain.
• Événements récents — tout ce qui est après la limite de connaissances, sans recherche.
• Gros calculs mentaux — les longs calculs sont mieux demandés étape par étape, ou faits avec une calculatrice.

Le cas de l'avocat qui a fait confiance

Juin 2023, New York. L'avocat Steven Schwartz prépare un dossier et demande à ChatGPT de trouver des précédents. Le modèle produit six affaires avec des chiffres et des citations — élégantes et convaincantes. Schwartz les inclut dans un document judiciaire. Le problème : aucune des six affaires n'existe — ChatGPT les a inventées. Le juge impose une amende et l'histoire fait la une des journaux du monde entier. Une leçon qui a coûté des milliers de dollars et une réputation : l'IA est une ébauche, pas une source de vérité. La vérification est le travail d'un humain.

Quand les hallucinations importent peu

Il est important de ne pas tomber dans l'autre extrême — « si elle ment, on ne peut rien croire ». Il existe une vaste zone où l'invention fait peu de mal : les brouillons, les idées, les formulations, les explications de concepts généraux, le brainstorming. Si vous demandez dix titres ou un paragraphe réécrit, il n'y a pas de « faits » à vérifier — vous jugerez le résultat de vos propres yeux de toute façon.

Soyez vigilant lorsque la réponse dépasse votre cadre en tant que fait : un chiffre dans un rapport, un lien dans un article, un argument dans un débat, un conseil sur votre santé ou le droit. La règle est simple : plus les conséquences d'une erreur sont graves, plus la vérification est stricte.

Trois habitudes qui vous sauveront

1. Demandez les sources et ouvrez-les. « Donnez-moi un lien pour chaque affirmation » — puis cliquez. Pas de lien, ou un lien mort, signifie que c'est une hypothèse, pas un fait. C'est exactement pour cela que Perplexity a été conçu.
2. Vérifiez les points importants avec un second modèle. Posez la même question à deux IA : si elles sont d'accord, c'est plus probablement vrai ; si elles divergent, creusez vous-même.
3. Donnez au modèle la permission de dire « je ne sais pas ». Ajoutez à votre requête : « si vous n'êtes pas sûr, dites-le, n'inventez pas. » Cela réduit considérablement la fabrication.

Mythes courants

• « La version payante n'hallucine pas. » Les meilleurs modèles se trompent moins souvent, mais ils ne s'arrêtent pas : vous devez toujours vérifier.
• « Elle a répondu avec assurance, donc c'est forcément vrai. » La confiance du ton et la justesse sont deux choses différentes ; le modèle ne doute pas à voix haute à moins que vous ne le lui demandiez.
• « Les hallucinations sont un bug qu'ils vont bientôt corriger. » Elles sont une propriété de l'approche « prédire la suite », pas une défaillance ; elles deviendront plus rares, mais elles ne vous dispenseront pas de vérifier.

Faites ceci maintenant

Un petit test de confiance, trois minutes. Demandez à votre IA quelque chose de vérifiable dans votre propre domaine où vous connaissez la bonne réponse, et demandez-lui une source. Jugez : tout est-il exact, le lien mène-t-il à une page réelle ? Une telle expérience calibre mieux votre confiance que dix avertissements — celui-ci inclus.