Comment une IA « apprend »

Pourquoi l'IA écrit-elle si bien, et se trompe-t-elle pourtant ? La réponse tient dans un jeu d'enfant. Quand vous l'aurez vu à l'œuvre, vous ne lirez plus ses réponses de la même façon.

Objectif : À la fin, vous saurez d'où viennent les réponses d'une IA : de textes lus par milliards, pas d'une compréhension humaine.

La vidéo

Les sous-titres sont affichés par défaut.

Transcription (le texte de la vidéo)

Bonjour. Aujourd'hui, nous ouvrons le capot. D'où viennent les réponses d'une intelligence artificielle ? La réponse tient dans un jeu très simple, que vous allez voir à l'œuvre.

Pour fabriquer une intelligence artificielle qui écrit, on ne lui dicte pas des règles. On lui fait jouer à deviner le mot suivant. On lui montre le début d'une vraie phrase : « Il était une… ». Elle propose un mot. Si elle dit « fois », on la félicite un peu. Si elle dit « voiture », on la corrige un peu. Et on recommence, sur des milliards de phrases, pendant des mois. C'est ce qu'on appelle l'entraînement.

À force, le programme a retenu des régularités : la grammaire, les tournures, les faits qui reviennent souvent. Pas parce qu'il les comprend. Parce qu'ils l'aident à deviner. Quand vous lui écrivez, le jeu continue : votre question devient le début d'un texte, et il compose la suite la plus probable, mot après mot.

Regardez. Nous tapons : complétez, les sanglots longs des violons de… Elle répond « l'automne », et cite Verlaine. Ce vers a été lu des millions de fois. Puis nous tapons une phrase que personne n'a jamais écrite : ma voisine Ginette a rangé son parapluie dans… Elle répond : le porte-parapluies de l'entrée. Elle ne connaît pas Ginette. Elle a inventé une suite plausible, avec le même aplomb.

Voilà la leçon. Une phrase bien tournée peut être fausse. Pensez à un ami cultivé mais distrait : il raconte bien, il se trompe parfois sur une date, sans le savoir. Vous l'écoutez avec plaisir, et vous vérifiez ce qui compte. Certains assistants font aussi une recherche sur internet avant de répondre. C'est utile. Mais la réponse reste une suite probable, composée par le même mécanisme.

À vous de jouer, et vous ne pouvez rien casser. Copiez la demande de la leçon dans votre assistant. Lisez les deux suites. La première est-elle le vrai vers ? La seconde est-elle inventée, mais crédible ? Puis demandez-lui pourquoi il connaissait l'une et pas l'autre. Vous pouvez changer le prénom de la voisine : la suite sera tout aussi plausible, et tout aussi inventée.

Ce qu'il faut retenir. Une intelligence artificielle a appris en devinant le mot suivant, des milliards de fois. Ce qui est connu, elle le restitue. Ce qui est inconnu, elle l'invente. À la prochaine leçon, nous verrons quoi faire quand elle invente.

L'idée

Le programme a appris en devinant le mot suivant dans des milliards de phrases ; quand vous lui écrivez, il continue ce jeu.

La démonstration

Voici l'exemple, entièrement fait sous vos yeux, avant que vous ne le fassiez vous-même.

Nous ouvrons notre assistant et nous tapons : « Complétez cette phrase : Les sanglots longs des violons de… » Exemple de réponse : « …l'automne blessent mon cœur d'une langueur monotone. C'est le début de Chanson d'automne, de Paul Verlaine. » Pas de surprise : ce vers a été lu des millions de fois. Le mot suivant le plus probable, c'est « l'automne ».

Puis nous tapons une phrase que personne n'a jamais écrite : « Complétez cette phrase : Ma voisine Ginette a rangé son parapluie dans… » Exemple de réponse : « …le porte-parapluies de l'entrée, juste à côté de ses bottes de jardin. » Le programme ne connaît ni Ginette ni son entrée. Il a composé une suite plausible, parce que « parapluie » appelle « entrée » et « bottes ».

Nous demandons enfin : « Comment saviez-vous la suite de la première phrase, et pas de la seconde ? » Exemple de réponse : « La première est un poème célèbre, rencontré très souvent pendant mon apprentissage. La seconde est une phrase inédite : j'ai proposé une suite vraisemblable, sans pouvoir la connaître. »

Ce que nous vérifions. Le vers est exact : nous l'avons sur une page de Verlaine. La suite de Ginette est inventée, mais crédible. L'IA elle-même reconnaît la différence. Vous venez de voir la mécanique : ce qui est connu, elle le restitue ; ce qui est inconnu, elle l'invente.

L'exercice guidé

Vous ne pouvez rien casser.

Vous ne pouvez rien casser. 1. Ouvrez votre assistant (ChatGPT, Gemini ou Claude). 2. Copiez la demande ci-dessus et collez-la dans la zone d'écriture. Vous pouvez changer le prénom entre crochets. 3. Appuyez sur Entrée et lisez les deux suites proposées. 4. Comparez : la première est-elle le vrai vers de Verlaine ? La seconde est-elle inventée, mais crédible ? 5. Relisez l'explication de l'IA sur la différence entre les deux.

La consigne à copier :

Complétez cette phrase : « Les sanglots longs des violons de… ». Puis complétez celle-ci : « Ma voisine [Ginette] a rangé son parapluie dans… ». Enfin, dites-moi pourquoi vous connaissiez la première suite et pas la seconde.

Trois vérifications

Cochez chaque phrase quand elle est vraie pour vous :

L'IA a complété le vers de Verlaine avec « l'automne ».
Pour la phrase de la voisine, elle a inventé une suite crédible (un placard, une entrée, un vase…).
Je peux redire le jeu en une phrase : deviner le mot suivant.

Le quiz de la leçon

4 questions. La réponse est expliquée tout de suite. Vous pouvez réessayer autant de fois que vous voulez : aucune note n'est gardée.

1. Votre petit-fils vous assure que ChatGPT « a appris toute l'encyclopédie par cœur ». Que s'est-il vraiment passé pendant son entraînement ?

2. Vous demandez à votre assistant la recette de la tarte Tatin. Que fait-il, concrètement, pour répondre ?

3. L'IA vous a écrit un très beau texte sur votre village, avec deux dates fausses. Comment est-ce possible ?

4. Deux amis ont posé exactement la même question à ChatGPT et ont reçu deux réponses différentes. Pourquoi ?

Garder votre place

Et maintenant

D'ici demain, observez le correcteur de votre téléphone quand vous écrivez un message : il joue au même jeu, deviner le mot suivant. Regardez-le se tromper une fois, et souriez. Nous vous reposerons une question dans 3 jours.

Comment avez-vous trouvé cette leçon ?

Deux questions, dix secondes. Vos réponses servent à corriger les leçons suivantes : c'est notre seul moyen de savoir ce qui passe mal.

Les mots de cette leçon

Entraînement: La période où le programme a joué des milliards de fois à deviner le mot suivant dans de vrais textes.
Mot suivant: Le jeu de base de l'IA : proposer la suite la plus probable d'un texte, mot après mot.
Fluide: Se dit d'un texte qui se lit facilement ; cela ne dit rien de son exactitude.

Tout le glossaire