Les limites : erreurs, sécurité, données

Un programme peut fonctionner et se tromper. Un secret oublié dedans peut être trouvé en quelques minutes. Aujourd'hui, nous regardons ces trois risques en face, et nous apprenons le geste qui neutralise chacun.

Objectif : À la fin, vous saurez les trois risques d'un programme écrit par IA, et le geste qui neutralise chacun.

La vidéo

Les sous-titres sont affichés par défaut.

Transcription (le texte de la vidéo)

Dans cette leçon, nous regardons en face ce qui peut mal tourner. Trois risques seulement, et un geste pour chacun. L'erreur qui ne se voit pas. Le secret oublié dans un programme. Et le chemin que prennent vos données. À la fin, vous saurez fabriquer avec la même liberté, mais sans mauvaise surprise.

Une IA produit du code plausible. Elle imite ce qu'elle a lu, sans comprendre votre situation. Le piège est là. Un programme qui fonctionne n'est pas un programme juste. Il peut donner une réponse fausse sans jamais s'arrêter. Un cas vu cent fois : un convertisseur qui répond bien pour dix euros, et n'importe quoi pour zéro ou pour douze virgule cinquante. La formule était bonne, la lecture de la virgule ne l'était pas. Le geste tient en trois essais. Une valeur ordinaire dont vous connaissez la réponse. Une valeur limite. Une valeur avec une virgule. Trente secondes.

Un programme est un texte, et un texte voyage. Une clé oubliée dans un dépôt public est trouvée en quelques minutes, par des programmes qui cherchent jour et nuit. La règle ne souffre aucune exception. Jamais de mot de passe, jamais de clé, jamais de numéro de carte. Ni dans le programme, ni dans la demande écrite à l'IA. Le remplacement, vous le connaissez : les crochets. Côté données, tout ce que vous écrivez part sur les serveurs de l'entreprise. Anonymisez avant d'envoyer. Et regardez, dans les réglages de votre compte, l'option qui concerne l'amélioration du modèle.

Regardez l'écran. Nous demandons un outil qui répartit les frais du car entre adhérents. Les noms restent entre crochets, avec des montants inventés. L'outil arrive, sans le moindre nom réel. Trois essais. Cent trente-cinq francs pour trois personnes : quarante-cinq chacun. Exact. Zéro personne : un avertissement s'affiche. Douze virgule cinquante : accepté. Nous demandons ensuite si le programme envoie quelque chose dehors, et s'il contient une donnée personnelle. Réponse rassurante, que nous vérifions nous-mêmes à l'œil. Aucune adresse, aucun nom. Dernier point : cet outil touche à l'argent d'autres personnes. Le trésorier le relira.

À vous maintenant. Reprenez un outil, ou demandez-en un neuf, avec des données entièrement inventées. Essayez-le avec une valeur ordinaire, une valeur limite, et une virgule. Vérifiez vous-même, dans le texte du programme, qu'aucune adresse externe n'y figure. Ouvrez enfin les réglages de votre compte et regardez l'option d'amélioration du modèle. Vous ne pouvez rien casser.

Retenez ceci. Un programme qui fonctionne n'est pas forcément juste : trois essais bien choisis le disent. Aucun mot de passe et aucune clé ne figurent jamais dans un programme. Vos données s'anonymisent avant d'être envoyées. Et dès qu'un outil touche à l'argent ou aux données d'autrui, un humain doit le relire. Dans la prochaine leçon, l'IA devient votre professeur : variables, conditions et boucles, par l'exemple.

L'idée

Trois risques, trois gestes. Trois essais contre l'erreur, des crochets contre les secrets, des données inventées contre les fuites.

La démonstration

Voici l'exemple, entièrement fait sous vos yeux, avant que vous ne le fassiez vous-même.

Nous mettons nos règles à l'épreuve sur un cas concret. Nous demandons à Claude : « Fabriquez un outil qui calcule la part de chaque adhérent dans les frais du car. Voici ma liste : [Membre un, 45 francs], [Membre deux, 30 francs], [Membre trois, 60 francs]. Les noms restent entre crochets, je les remplirai moi-même. »

L'outil arrive, correct, et sans le moindre nom réel. Nous l'essayons alors avec trois valeurs choisies. Cent trente-cinq francs pour trois personnes : quarante-cinq francs chacun. Exact. Zéro personne : un message d'avertissement s'affiche. Correct. Douze virgule cinquante : accepté sans erreur.

Nous posons ensuite une question de contrôle. « Ce programme envoie-t-il quelque chose en dehors de ma page ? Contient-il une donnée personnelle ? »

Exemple de réponse : « Le programme ne contient aucune adresse internet, et rien ne quitte votre navigateur. Les seules données présentes sont les crochets que vous avez laissés, sans valeur réelle. »

Nous vérifions cette affirmation nous-mêmes, à l'œil, dans le texte du programme. Aucune adresse commençant par http, aucun nom.

Dernier point : cet outil sert à répartir des frais entre adhérents. Il touche à l'argent d'autres personnes. Nous ferons donc relire le calcul par le trésorier avant de l'utiliser pour de vrai.

L'exercice guidé

Vous ne pouvez rien casser.

Vous ne pouvez rien casser. 1. Collez la demande ci-dessus avec des données entièrement inventées, jamais réelles. 2. Essayez l'outil avec trois valeurs : une ordinaire, une limite, une écrite avec une virgule. 3. Vérifiez vous-même, à l'œil, qu'aucune adresse commençant par http ne figure dans le programme. 4. Ouvrez les réglages de votre compte et regardez l'option qui concerne l'amélioration du modèle. 5. Notez si votre outil touche à de l'argent ou aux données d'autrui, et qui devrait le relire.

La consigne à copier :

Fabriquez [l'outil voulu : un calcul de partage de frais, un suivi de dépenses]. Voici mes exemples, avec des données inventées : [Membre un, montant], [Membre deux, montant]. Gardez les crochets tels quels, je les remplirai moi-même. N'écrivez aucun mot de passe et aucune donnée personnelle dans le programme. Ensuite, répondez à deux questions. Ce programme envoie-t-il quelque chose en dehors de ma page ? Contient-il une donnée personnelle ? Enfin, proposez-moi trois valeurs d'essai, dont une valeur limite comme [zéro ou une case vide].

Trois vérifications

Cochez chaque phrase quand elle est vraie pour vous :

Je vois que mes essais couvrent une valeur ordinaire, une valeur limite et une virgule.
Je vois qu'aucun mot de passe et aucune donnée réelle ne figurent dans le programme.
Je vois moi-même, dans le texte, qu'aucune adresse externe n'y est présente.
Je sais si mon outil touche à de l'argent ou aux données d'autres personnes.

Le quiz de la leçon

5 questions. La réponse est expliquée tout de suite. Vous pouvez réessayer autant de fois que vous voulez : aucune note n'est gardée.

1. Votre convertisseur donne le bon résultat pour dix euros. Que concluez-vous ?

2. L'IA vous demande votre numéro de contrat pour rendre le programme plus précis. Que faites-vous ?

3. Vous préparez un outil qui calcule les remboursements des adhérents de votre association. Que faites-vous avant de l'utiliser ?

4. Vous voulez que vos conversations ne servent pas à entraîner le programme. Où regardez-vous ?

5. Un ami publie un programme contenant sa clé d'accès, en pensant que personne ne la verra. A-t-il raison ?

Garder votre place

Et maintenant

D'ici demain, reprenez le dernier outil que vous avez fabriqué. Faites-lui subir les trois essais : une valeur ordinaire, une valeur limite, une virgule. Notez le résultat de chacun sur un papier. Nous vous reposerons une question dans 3 jours.

Comment avez-vous trouvé cette leçon ?

Deux questions, dix secondes. Vos réponses servent à corriger les leçons suivantes : c'est notre seul moyen de savoir ce qui passe mal.

Les mots de cette leçon

Cas limite: Une valeur rare qui met un programme en difficulté : zéro, une case vide, un très grand nombre.
Clé d'accès: Un code qui ouvre un service à votre place. Elle ne se met jamais dans un programme.
Anonymiser: Remplacer les vraies données par des exemples inventés, avant de les confier à un outil.
Entraînement: L'usage de textes pour améliorer un programme d'IA. Un réglage permet souvent de le refuser.
Crochets: Des mots entre parenthèses carrées, mis à la place d'une donnée réelle, à remplir soi-même plus tard.

Tout le glossaire