Ce que l'IA peut et ne peut pas faire : des limites claires

De la dernière leçon, vous savez que la force de l'IA dépend de ses données. Maintenant, dressons une carte honnête des limites — ce que l'IA peut réellement faire, et ce qui est au-delà de ses capacités en principe. C'est la réponse à la question « quand ne pas utiliser l'IA ».

La règle principale : le test de la seconde

Gardez une règle simple à l'esprit et cela vous évitera des années d'illusions : si une personne résout la version typique d'une tâche en une seconde de réflexion environ — et que le monde regorge d'exemples de cela — l'IA la gérera probablement. Repérer une voiture sur une photo, entendre un mot, distinguer le spam du non-spam, reconnaître un visage — ce sont toutes des tâches de perception « d'une seconde », et il existe un océan de données pour elles. L'IA est forte ici.

Maintenant, le revers de la médaille : prédire le prix d'une action un mois à l'avance à partir des prix passés n'est pas une tâche d'une seconde, et plus important encore, les prix passés ne prédisent pas les prix futurs. Un double échec : la réflexion prend beaucoup de temps, et il n'y a de toute façon aucun modèle dans les données. La règle est rudimentaire mais fiable : l'IA est une brillante spécialiste de la reconnaissance instantanée, pas un sage qui évalue les conséquences.

Exemples comparés : ce qu'elle peut / ne peut pas faire

Calibrons-nous sur deux domaines où se tromper a un coût réel.

• Une voiture autonome. Peut : déterminer à partir de la caméra et du radar où se trouvent les autres voitures sur la route — il existe des millions d'exemples étiquetés. Rencontre d'énormes difficultés : à lire le geste d'une personne — un ouvrier du bâtiment vous faisant signe de vous arrêter, un cycliste signalant un virage avec un bras. Il existe une infinité de façons de gesticuler, vous ne pouvez pas collecter autant d'exemples, et le coût d'une erreur est une vie.
• La médecine. Peut : détecter une pneumonie sur une radiographie lorsqu'il existe des milliers d'images étiquetées « malade / sain ». Ne peut pas : apprendre un diagnostic à partir d'une douzaine d'images dans un manuel, comme le ferait un étudiant en médecine. Une personne généralise à partir de quelques exemples ; l'IA en a besoin en grande quantité.

La faiblesse sous-estimée : une mauvaise généralisation

Voici une limite dont presque personne ne parle. L'IA est forte sur les données similaires à celles qu'elle a vues lors de l'entraînement, et fragile sur tout ce qui ne lui ressemble pas. Prenez un modèle entraîné sur les radiographies propres d'une clinique, déplacez-le vers une autre où les images sont prises sous un angle différent sur un équipement différent avec plus de bruit, et la précision diminue sensiblement.

Un vrai médecin s'adapte à un nouvel hôpital en une journée ; l'IA ne le peut pas. Rappelez-vous le principe : l'IA ne « comprend » pas la tâche, elle adapte une réponse à des exemples familiers — changez les exemples et la confiance s'effondre. Cela découle directement de la leçon sur les données : ce qui compte n'est pas seulement la qualité des données, mais aussi à quel point elles ressemblent à l'environnement où le modèle fonctionnera réellement.

Pourquoi on a l'impression que l'IA peut tout faire

Soyez prudent avec les informations. Seules les victoires de l'IA font les gros titres : battre le champion, réussir l'examen, peindre un chef-d'œuvre. Les échecs — des centaines de projets discrets où l'IA n'a jamais décollé — sont à peine publiés. C'est de ce biais que vient l'illusion d'omnipotence. Une image réaliste signifie garder l'autre moitié à l'esprit aussi — la moitié que personne ne mentionne.

Quatre questions : devez-vous confier cela à l'IA ?

Avant de confier une tâche à la machine, passez-la au crible de quatre questions :

1. Est-ce une tâche « d'une seconde », et y a-t-il beaucoup d'exemples ? Perception et génération avec beaucoup de données — zone verte.
2. Les données ressemblent-elles à l'environnement où l'IA fonctionnera réellement ? Sur tout ce qui ne lui ressemble pas, l'IA est fragile.
3. Quel est le coût de l'erreur, et pouvez-vous vérifier le résultat ? Coût élevé sans moyen de vérifier — arrêtez.
4. L'IA dispose-t-elle des données dont elle a besoin ? Tout ce qui est récent, privé ou très spécifique (rappelez-vous la date limite de connaissance) qu'elle n'a peut-être jamais vu.

Feu vert : une tâche d'une seconde avec beaucoup de données similaires, un faible coût d'erreur, un résultat vérifiable. Feu rouge : une décision lente et lourde de conséquences, des données inconnues, un coût élevé et aucun moyen de vérifier.

Faites ceci maintenant

Un exercice sans outils — juste votre tête et une feuille de papier. Notez cinq tâches réelles de votre semaine et passez chacune au test de la seconde et aux quatre questions de cette leçon. Marquez celles que vous confieriez à l'IA sans vous inquiéter (reconnaître, résumer, ébaucher un brouillon) et celles que vous garderiez (décisions où l'erreur est coûteuse, données récentes, responsabilité, conditions inconnues).

Cette liste est votre carte personnelle « déléguer / garder ». Le mécanisme et les limites sont clairs maintenant — il est temps de prendre les commandes, ce à quoi sert le prochain module : nous examinerons d'abord des exemples pour votre propre domaine de travail, puis vous rédigerez votre premier vrai prompt.