Les données – le carburant de l'IA : pourquoi elles sont décisives

Dans la leçon sur le fonctionnement de l'apprentissage d'un réseau, le principe « garbage in, garbage out » a été mentionné en passant. Il est temps de le prendre au sérieux : les données ne sont pas un simple arrière-plan, elles sont le carburant de chaque IA. Changez le carburant et tout change.

Pourquoi les données sont décisives, et non l'algorithme

L'intuition suggère qu'une IA puissante repose sur un algorithme brillant. En réalité, les algorithmes d'entraînement sont publiés depuis des années et accessibles à tous — les étudiants les étudient. Ce qui sépare un modèle médiocre d'un excellent, c'est plus souvent la donnée : sa quantité, sa propreté, sa variété. Rappelez-vous de la leçon un pourquoi la percée est survenue en 2012 : les algorithmes de réseaux neuronaux étaient connus depuis les années 1980, mais ils ne se sont activés qu'une fois qu'internet a accumulé des milliards d'exemples. L'algorithme n'attendait pas les données — les données ont réveillé l'algorithme.

D'où la règle de l'industrie : investir dans les données est généralement plus rentable qu'une énième modification du modèle. Les entreprises disposant de données uniques (moteurs de recherche, réseaux sociaux, banques) sont fortes précisément grâce à cela — les données sont plus difficiles à copier que le code.

Deux types de données : structurées et non structurées

Les données structurées sont soigneusement organisées en tableaux : lignes, colonnes, chiffres, catégories. Âge du client, montant de l'achat, date — tout est à sa place.

Les données non structurées sont tout le reste : le texte des e-mails, les photos, l'audio, la vidéo, les publications. Pas de lignes, pas de colonnes — juste un flux. Selon diverses estimations, la majorité des données mondiales est non structurée, et pendant des décennies, les entreprises pouvaient à peine en utiliser une partie. La percée des réseaux neuronaux est précisément ceci : pour la première fois, il existe un outil qui extrait du sens de cet océan. Le LLM du dernier module est une machine à digérer le texte non structuré.

D'où proviennent les données

• L'étiquetage (Labelling). Des personnes ajoutent manuellement les « réponses » : délimiter les piétons dans des séquences pour une voiture autonome, marquer les e-mails comme spam / non-spam. Le célèbre jeu de données ImageNet de la leçon un — environ 14 millions d'images, étiquetées à la main par une armée de personnes ; c'est sur cela qu'AlexNet a gagné. L'étiquetage est un travail coûteux, lent et irremplaçable.
• L'observation du comportement. Chaque clic, chaque « j'aime », chaque vidéo que vous regardez jusqu'à la fin est un étiquetage gratuit. Sans vous en rendre compte, c'est vous qui entraînez les systèmes de recommandation : regardé jusqu'à la fin — « bon exemple » ; ignoré — « mauvais exemple ».
• Les jeux de données prêts à l'emploi. Des ensembles collectés et nettoyés que beaucoup de gens réutilisent : le texte de livres, d'encyclopédies, des collections de photos ouvertes. Rapide — mais tout le monde a les mêmes, donc ils n'offrent aucun avantage unique.

Vous donnez l'entrée et la sortie — le réseau construit le reste lui-même

Un détail important qui explique pourquoi l'étiquetage « entrée → réponse » est suffisant. Vous ne décrivez jamais à l'IA à quoi ressemble un chat ou un visage. Vous donnez seulement l'entrée A (une photo) et la sortie B (« chat / pas chat ») — et le réseau assemble lui-même les caractéristiques intermédiaires, couche par couche, comme des briques Lego. Dans la reconnaissance faciale, vous pouvez le voir clairement : les premières couches trouvent des bords et des taches simples, les suivantes en construisent des parties (un œil, un nez, un contour), les dernières construisent des visages entiers.

Personne n'a programmé « un œil » à la main — le réseau a développé le concept lui-même, juste pour que les réponses soient correctes. C'est pourquoi cette approche a gagné (rappelez-vous la leçon sur ce qu'est l'IA) : les caractéristiques qu'une personne ne pouvait pas exprimer avec des mots, la machine les déduit des exemples.

« Garbage in, garbage out »

Maintenant, le principe de la leçon d'entraînement peut être entendu à plein volume. Un modèle n'est pas plus intelligent que ses données : il apprend ce que vous lui avez montré, erreurs, lacunes et biais inclus.

Un cas réel : en 2016, Microsoft a lancé un chatbot sur Twitter appelé Tay, destiné à apprendre la conversation naturelle directement de ce que les utilisateurs lui disaient. En moins d'une journée, des trolls l'ont submergé de messages abusifs et racistes — et Tay, apprenant docilement de ce « carburant », a commencé à répéter les mêmes obscénités. Seize heures plus tard, Microsoft a débranché la prise. L'algorithme a fonctionné exactement comme prévu — ce sont les données qui y étaient versées qui étaient empoisonnées.

Trois idées reçues sur les données

• « Plus de données, c'est toujours mieux. » Non : un million d'exemples inutiles sont pires que mille exemples propres. Le volume sans la qualité ne fait qu'amplifier l'erreur.
• « Les données sont objectives, ce sont des chiffres. » Les données sont une empreinte de la réalité prise par des personnes, avec leurs choix et leurs angles morts. Un chiffre n'est pas une garantie de vérité : rappelez-vous la date limite de connaissance et les prix obsolètes de la leçon d'entraînement.
• « Nous n'avons pas beaucoup de données — l'IA n'est pas pour nous. » Un peu suffit souvent, si c'est propre et pertinent ; et vous pouvez toujours prendre un modèle prêt à l'emploi et compléter un peu son entraînement (c'était à la fin de la leçon d'entraînement).

Faites ceci maintenant

Un exercice de cinq minutes, sans outils — juste votre esprit. Choisissez n'importe quel service d'IA que vous connaissez (un flux de recommandations, un filtre anti-spam, un assistant vocal) et répondez à trois questions sur papier : (1) sur quelles données a-t-il été le plus probablement entraîné ? (2) d'où proviennent ces données — étiquetage, observation du comportement ou un jeu de données prêt à l'emploi ?

(3) quel biais aurait pu s'y glisser ? L'habitude de voir les données derrière le résultat est ce qui sépare un professionnel d'un consommateur. Dans la prochaine leçon, nous verrons ce que l'IA, avec de telles données, peut réellement faire — et ce qui est au-delà de ses capacités.