Palier 1 — Comprendre · Leçon 3 sur 8
Ce qu'elle ne sait pas : les inventions (« hallucinations »)
À faire
Cette leçon n'est pas encore ouverte
L'IA ne dit presque jamais « je ne sais pas ». Quand elle ignore, elle invente, avec assurance. Cette leçon vous donne le seul réflexe qui protège : vérifier ce qui compte, et seulement ce qui compte.
Objectif : À la fin, vous saurez qu'une IA peut affirmer avec aplomb une chose fausse, et vous aurez le réflexe : vérifier ce qui compte.
La vidéo
Transcription (le texte de la vidéo)
Bonjour. Aujourd'hui, un sujet important : ce que l'intelligence artificielle ne sait pas, et ce qu'elle fait à la place. Vous allez repartir avec un seul réflexe, qui vous protège presque partout.
Vous connaissez le jeu du mot suivant. Quand le programme arrive sur un sujet qu'il connaît mal, il ne s'arrête pas. Il continue à deviner : une date qui ressemble à une date, un nom qui ressemble à un nom. On appelle cela une hallucination. Le mot est trompeur : elle ne voit rien. Elle compose une réponse fausse, avec le même ton que ses réponses justes.
Regardez. Nous demandons l'histoire d'un village de l'Yonne, en dix lignes, avec des dates. Le récit est fluide : la collégiale du treizième siècle, une charte accordée par le roi en douze cent cinquante-six. Nous vérifions sur le site de la commune. La collégiale, oui. La charte, aucune trace. Elle a composé un événement plausible. Rien ne le signalait.
Le ton assuré ne prouve rien. Voici le réflexe, en une règle. Une date, un chiffre, un nom, une adresse, un montant, une dose de médicament : je vérifie ailleurs. Ailleurs, c'est une source humaine : le site de la commune, une administration, une notice, un professionnel. Pas une deuxième intelligence artificielle. Pour la santé, l'argent et le droit : l'intelligence artificielle éclaire, un professionnel décide.
Un geste utile. Nous revenons dans la conversation et nous écrivons : êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. Et elle répond que la date de douze cent cinquante-six est incertaine. Elle a corrigé, sans qu'on lui souffle la réponse. Ce n'est pas une preuve, mais c'est un bon indice.
À vous de jouer, et vous ne pouvez rien casser. Demandez l'histoire de votre village ou de votre quartier, avec des dates. Choisissez une date qui vous intrigue. Vérifiez-la sur le site de la commune ou sur Wikipédia. Puis demandez à l'intelligence artificielle où elle doute.
Ce qu'il faut retenir. L'intelligence artificielle ne sait pas qu'elle se trompe. Ce qui compte, une date, un chiffre, un nom, vous le vérifiez ailleurs. Le reste, vous le prenez comme d'un ami cultivé mais distrait. Vous n'avez pas à vous méfier de tout. Seulement à vérifier ce qui compte.
L'idée
Quand l'IA ne sait pas, elle invente avec assurance : une date, un chiffre, un nom, je les vérifie ailleurs.
La démonstration
Voici l'exemple, entièrement fait sous vos yeux, avant que vous ne le fassiez vous-même.
Nous tapons : « Racontez-moi l'histoire de Saint-Julien-du-Sault en dix lignes, avec des dates. » Exemple de réponse (extrait) : « Saint-Julien-du-Sault, dans l'Yonne, se développe au Moyen Âge autour de sa collégiale, dont la construction commence au XIIIe siècle. En 1256, le roi Louis IX y accorde une charte de franchises… » Le récit est fluide, précis, agréable à lire.
Nous vérifions une date. Sur le site de la commune et sur Wikipédia, la collégiale date bien du XIIIe siècle. Mais la « charte de 1256 » n'apparaît nulle part. Nous ne trouvons aucune trace de cet événement. L'IA a composé un fait plausible, avec un roi et une année crédibles.
Nous revenons dans la conversation : « Êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. » Exemple de réponse : « La date de 1256 est incertaine : je ne peux pas la confirmer par une source précise. Le XIIIe siècle pour la collégiale est bien établi. » Elle a corrigé, sans que nous lui donnions la réponse.
Ce que nous vérifions. Une date sur deux tenait. Le ton était identique pour la vraie et pour l'inventée. La question « où doutez-vous ? » a fait remonter le doute. Le réflexe est né : le récit, nous le gardons ; les dates, nous les vérifions.
L'exercice guidé
Vous ne pouvez rien casser.
Vous ne pouvez rien casser. 1. Copiez la demande ci-dessus dans votre assistant, en remplaçant les crochets par le nom de votre village ou de votre quartier. 2. Lisez le récit. Choisissez une date ou un nom qui vous intrigue. 3. Vérifiez-le sur le site de la commune, ou sur Wikipédia (tapez le nom du village dans Google). 4. Revenez dans la conversation et écrivez : « Êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. » 5. Observez comment l'IA nuance ou corrige.
La consigne à copier :
Racontez-moi l'histoire de [votre village ou votre quartier] en dix lignes, avec des dates et des noms.
Copié ! Collez-la dans votre assistant.Trois vérifications
Cochez chaque phrase quand elle est vraie pour vous :
Le quiz de la leçon
5 questions. La réponse est expliquée tout de suite. Vous pouvez réessayer autant de fois que vous voulez : aucune note n'est gardée.
1. Votre petite-fille vous prévient : « Attention, l'IA hallucine parfois. » Que veut-elle dire ?
Le mot est trompeur : l'IA ne voit rien, elle compose une réponse plausible là où elle ne sait pas. Le réflexe : le ton assuré ne prouve rien.
2. L'IA vous donne la date de construction de votre église, avec beaucoup d'assurance. Que faites-vous ?
Répéter ne vérifie rien, et deux IA peuvent se tromper de la même façon. Une source indépendante (site de la commune, Wikipédia, une personne), si.
3. Voici quatre demandes faites à une IA. Laquelle exige une vérification avant d'agir ?
Santé, argent, droit, faits précis : là où une erreur coûte, on vérifie. Pour une dose, la notice ou le pharmacien décident : l'IA éclaire, un professionnel décide.
4. Après vérification, vous découvrez une date fausse dans l'histoire de votre village racontée par l'IA. Quelle conclusion ?
Les IA se trompent moins qu'avant, mais elles se trompent encore, gratuites ou payantes, et ce n'est pas votre faute. Le réflexe : garder le récit, vérifier ce qui compte.
5. Vous demandez : « Êtes-vous sûr ? » L'IA répond : « Oui, tout à fait. » Qu'est-ce que cela prouve ?
Elle répond avec la même assurance quand elle a raison et quand elle invente. Le réflexe utile : demander « où doutez-vous ? » plutôt que « êtes-vous sûr ? », puis vérifier ailleurs.
Garder votre place
Et maintenant
D'ici demain, guettez un chiffre ou une date qui compte, donnés par une IA ou par une personne. Dites à voix haute : « Je vérifie. » Puis faites-le, sur une source humaine. Nous vous reposerons une question dans 3 jours.
Comment avez-vous trouvé cette leçon ?
Deux questions, dix secondes. Vos réponses servent à corriger les leçons suivantes : c'est notre seul moyen de savoir ce qui passe mal.
Les mots de cette leçon
- Hallucination
- Une réponse fausse donnée avec assurance ; nous disons plutôt « une invention ». Cela arrive ; on vérifie ce qui compte.
- Source humaine
- Un site officiel, un document, une personne compétente : là où l'on vérifie une information qui compte.
- L'IA éclaire, un professionnel décide
- La phrase-cadre pour la santé, l'argent et le droit : l'IA aide à comprendre, la décision revient à un médecin, un conseiller ou un juriste.