Palier 1 · Leçon 4 sur 12
Ce qu'elle ne sait pas : les inventions (« hallucinations »)
À faire
Cette leçon vient plus loin dans le programme
Vous pouvez l'ouvrir maintenant si c'est elle qui répond à votre question. L'ordre du programme est un conseil pour apprendre sans trou, pas une barrière : rien ne vous empêche de venir chercher une réponse tout de suite, puis de reprendre où vous en étiez.
L'IA ne dit presque jamais « je ne sais pas ». Quand elle ignore, elle invente, avec assurance. Cette leçon vous donne le seul réflexe qui protège : vérifier ce qui compte, et seulement ce qui compte.
La vidéo
Lire le texte de la vidéo
Bonjour. Aujourd'hui, un sujet important : ce que l'intelligence artificielle ne sait pas, et ce qu'elle fait à la place. Vous allez repartir avec un seul réflexe, qui vous protège presque partout.
Vous connaissez le jeu du mot suivant. Quand le programme arrive sur un sujet qu'il connaît mal, il ne s'arrête pas. Il continue à deviner : une date qui ressemble à une date, un nom qui ressemble à un nom. On appelle cela une hallucination. Le mot est trompeur : elle ne voit rien. Elle compose une réponse fausse, avec le même ton que ses réponses justes.
Regardez. Nous demandons l'histoire d'un village de l'Yonne, en dix lignes, avec des dates. Le récit est fluide : la collégiale du treizième siècle, une charte accordée par le roi en douze cent cinquante-six. Nous vérifions sur le site de la commune. La collégiale, oui. La charte, aucune trace. Elle a composé un événement plausible. Rien ne le signalait.
Le ton assuré ne prouve rien. Voici le réflexe, en une règle. Une date, un chiffre, un nom, une adresse, un montant, une dose de médicament : je vérifie ailleurs. Ailleurs, c'est une source humaine : le site de la commune, une administration, une notice, un professionnel. Pas une deuxième intelligence artificielle. Pour la santé, l'argent et le droit : l'intelligence artificielle éclaire, un professionnel décide.
Un geste utile. Nous revenons dans la conversation et nous écrivons : êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. Et elle répond que la date de douze cent cinquante-six est incertaine. Elle a corrigé, sans qu'on lui souffle la réponse. Ce n'est pas une preuve, mais c'est un bon indice.
À vous de jouer, et vous ne pouvez rien casser. Demandez l'histoire de votre village ou de votre quartier, avec des dates. Choisissez une date qui vous intrigue. Vérifiez-la sur le site de la commune ou sur Wikipédia. Puis demandez à l'intelligence artificielle où elle doute.
Ce qu'il faut retenir. L'intelligence artificielle ne sait pas qu'elle se trompe. Ce qui compte, une date, un chiffre, un nom, vous le vérifiez ailleurs. Le reste, vous le prenez comme d'un ami cultivé mais distrait. Vous n'avez pas à vous méfier de tout. Seulement à vérifier ce qui compte.
L'idée
Quand l'IA ne sait pas, elle invente avec assurance : une date, un chiffre, un nom, je les vérifie ailleurs.
Quand l'IA ne sait pas, elle invente avec assurance : une date, un chiffre, un nom, je les vérifie ailleurs.
La démonstration
Voici l’exemple, entièrement fait sous vos yeux, avant que vous ne le fassiez vous-même.
Voici l'exemple, entièrement fait sous vos yeux, avant que vous ne le fassiez vous-même.
Nous tapons : « Racontez-moi l'histoire de Saint-Julien-du-Sault en dix lignes, avec des dates. » Exemple de réponse (extrait) : « Saint-Julien-du-Sault, dans l'Yonne, se développe au Moyen Âge autour de sa collégiale, dont la construction commence au XIIIe siècle. En 1256, le roi Louis IX y accorde une charte de franchises… » Le récit est fluide, précis, agréable à lire.
Nous vérifions une date. Sur le site de la commune et sur Wikipédia, la collégiale date bien du XIIIe siècle. Mais la « charte de 1256 » n'apparaît nulle part. Nous ne trouvons aucune trace de cet événement. L'IA a composé un fait plausible, avec un roi et une année crédibles.
Nous revenons dans la conversation : « Êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. » Exemple de réponse : « La date de 1256 est incertaine : je ne peux pas la confirmer par une source précise. Le XIIIe siècle pour la collégiale est bien établi. » Elle a corrigé, sans que nous lui donnions la réponse.
Ce que nous vérifions. Une date sur deux tenait. Le ton était identique pour la vraie et pour l'inventée. La question « où doutez-vous ? » a fait remonter le doute. Le réflexe est né : le récit, nous le gardons ; les dates, nous les vérifions.
Les astuces qu'on aurait aimé connaître
Ce que nous avons appris en le ratant.
Ce que nous avons appris en le ratant. Rien d'obligatoire ici : ce sont des raccourcis, pas des règles de plus.
Ce qu'on a appris à nos dépens
Une IA qui vous « corrige » peut simplement avoir du retard
Nous avons demandé à quatre IA de relire nos 207 leçons sans aller sur internet : huit « erreurs » signalées sur dix étaient fausses — l'une ignorait que Google a renommé NotebookLM en Gemini Notebook, une autre que Mistral a rebaptisé son assistant Vibe. Une IA qui vous reprend sur un nom ou un prix récent n'est pas plus fiable qu'une réponse ordinaire.
L'exercice guidé
Copiez la demande ci-dessus dans votre assistant, en remplaçant les crochets par le nom de votre village ou de votre quartier.
Pour vous entraîner, choisissez un exemple fictif et gardez vos informations personnelles hors de la conversation.
La consigne à copier
Racontez-moi l'histoire de [votre village ou votre quartier] en dix lignes, avec des dates et des noms.
Les passages en couleur, entre crochets, sont à remplacer par vos mots.
- Copiez la demande ci-dessus dans votre assistant, en remplaçant les crochets par le nom de votre village ou de votre quartier.
- Lisez le récit. Choisissez une date ou un nom qui vous intrigue.
- Vérifiez-le sur le site de la commune, ou sur Wikipédia (tapez le nom du village dans Google).
- Revenez dans la conversation et écrivez : « Êtes-vous sûr de chaque date ? Indiquez celles dont vous doutez. »
- Comparez sa réponse avec la source consultée. Notez ce que cette source confirme, contredit ou ne permet pas de vérifier. L'assistant peut rester sûr de lui : c'est votre vérification qui compte.
Comment revenir au cours après l’essai ?
Sur ordinateur, gardez le cours dans un onglet et ouvrez l’assistant dans un autre. Sur téléphone, revenez à l’application ou à l’onglet du cours après avoir envoyé votre demande. Vous pourrez retrouver ces étapes ici.
À cocher quand c'est fait
Cochez chaque phrase quand elle est vraie pour vous :
Le quiz de la leçon
5 questions, une à la fois, la réponse expliquée tout de suite.
5 questions, une à la fois. La réponse est expliquée tout de suite. Vous pouvez réessayer autant de fois que vous voulez : aucune note n'est gardée.
1. Une amie vous prévient : « Attention, l'IA hallucine parfois. » Que veut-elle dire ?
Le mot est trompeur : l'IA ne voit rien, elle compose une réponse plausible là où elle ne sait pas. Le réflexe : le ton assuré ne prouve rien.
2. L'IA vous donne la date de construction de votre église, avec beaucoup d'assurance. Que faites-vous ?
Répéter ne vérifie rien, et deux IA peuvent se tromper de la même façon. Une source indépendante (site de la commune, Wikipédia, une personne), si.
3. Voici quatre demandes faites à une IA. Laquelle exige une vérification avant d'agir ?
Santé, argent, droit, faits précis : là où une erreur coûte, on vérifie. Pour une dose, la notice ou le pharmacien décident : l'IA éclaire, un professionnel décide.
4. Après vérification, vous découvrez une date fausse dans l'histoire de votre village racontée par l'IA. Quelle conclusion ?
Les IA se trompent moins qu'avant, mais elles se trompent encore, gratuites ou payantes, et ce n'est pas votre faute. Le réflexe : garder le récit, vérifier ce qui compte.
5. Vous demandez : « Êtes-vous sûr ? » L'IA répond : « Oui, tout à fait. » Qu'est-ce que cela prouve ?
Elle répond avec la même assurance quand elle a raison et quand elle invente. Le réflexe utile : demander « où doutez-vous ? » plutôt que « êtes-vous sûr ? », puis vérifier ailleurs.
Garder votre place
Et maintenant
D'ici demain, guettez un chiffre ou une date qui compte, donnés par une IA ou par une personne.
D'ici demain, guettez un chiffre ou une date qui compte, donnés par une IA ou par une personne. Dites à voix haute : « Je vérifie. » Puis faites-le, sur une source humaine.
Donner mon avis sur cette leçon
Comment avez-vous trouvé cette leçon ?
Deux questions, dix secondes. Vos réponses servent à corriger les leçons suivantes : c'est notre seul moyen de savoir ce qui passe mal.
Les mots de cette leçon
- Hallucination
- Une réponse fausse donnée avec assurance ; nous disons plutôt « une invention ». Cela arrive ; on vérifie ce qui compte.
- Source humaine
- Un site officiel, un document, une personne compétente : là où l'on vérifie une information qui compte.
- L'IA éclaire, un professionnel décide
- La phrase-cadre pour la santé, l'argent et le droit : l'IA aide à comprendre, la décision revient à un médecin, un conseiller ou un juriste.