Étiquette : IA

IA et hallucination : une activité transférable dès le CM2

Par blank

Quand j’ai conçu l’activité “IA et hallucination” (présent dans cet article), je l’avais pensée au départ pour des élèves de collège, avec une idée simple : faire vivre aux élèves une erreur de modélisation avant même de parler d’intelligence artificielle.

Le principe est volontairement piégeux. On donne aux élèves un tableau de données qui semble les inviter à prolonger une régularité.
Beaucoup se lancent alors dans une extrapolation : les points semblent presque alignés, la croissance paraît régulière, donc on prolonge la tendance comme si elle pouvait continuer indéfiniment.

Et c’est précisément là que l’activité prend tout son sens.

Récemment, David Sire, collègue professeur des écoles, m’a fait un retour après l’avoir testée avec ses élèves de CM2. Il a arrondi les données du tableau afin de les rendre plus accessibles. Les élèves ont tracé le graphique, puis ont proposé des valeurs pour des âges plus avancés. Pour 20 ans, beaucoup ont trouvé autour de 190 cm ; pour 50 ans, certains sont allés jusqu’à 395 cm, voire 700 cm.

La suite de l’activité leur a permis de confronter leurs résultats au réel.
En découvrant leurs origines (âge-taille), ils ont rapidement compris que quelque chose n’allait pas. Leur conclusion a été particulièrement intéressante : ils ont expliqué qu’ils avaient cherché de la proportionnalité, alors que ce n’était pas une situation proportionnelle.

Leur formulation est très intéressante au niveau CM2 (confusion proportionnalité//régularité).
Avec un regard mathématique plus précis, le piège est sans doute davantage celui d’un modèle affine : les points semblent presque alignés, la croissance paraît régulière, alors on continue la tendance sans se demander si elle a encore du sens dans la réalité.

C’est exactement le cœur de l’activité.

L’enjeu est d’apprendre aux élèves à ne pas appliquer automatiquement une « méthode » (modélisation) parce qu’elle semble fonctionner sur quelques valeurs.

  • Avant de calculer, il faut interpréter.
  • Avant de prolonger une courbe, il faut se demander si cela a du sens.
  • Avant de produire une réponse, il faut comprendre le contexte.

David a ensuite soumis le même tableau à ChatGPT. L’outil a produit des réponses du même ordre que celles des élèves. Ce moment a été très parlant pour la classe : les élèves ont compris que l’IA pouvait, elle aussi, prolonger une tendance apparente et fournir une réponse cohérente en surface, mais fausse dès que l’on réintroduit le contexte.

Les formulations des élèves à la fin de la séance résument très bien les apprentissages :

On a appris que tous les tableaux ne sont pas proportionnels, tout dépend de quoi on parle.

On a appris aussi que les IA peuvent se tromper, il faut donc vérifier et leur donner du contexte.

Ce retour est précieux, car il montre que l’activité n’est pas uniquement une activité sur l’intelligence artificielle. C’est d’abord une activité de mathématiques, de modélisation et d’esprit critique. L’IA arrive ensuite comme un miroir : elle permet de montrer que l’erreur commise par les élèves n’est pas une “bêtise”, mais un piège classique lorsqu’on traite des données sans interroger leur signification.

Ce test en CM2 montre aussi que l’activité peut vivre dès le cycle 3, à condition d’accompagner le vocabulaire et de choisir des données suffisamment accessibles. Les notions en jeu : tableau, graphique, croissance, proportionnalité~affine, modélisation, sont déjà présentes, au moins en partie, dans les apprentissages des élèves. L’intelligence artificielle n’est pas ici un objet technique complexe : elle devient un outil de discussion sur la fiabilité des réponses, la nécessité du contexte et l’importance de la vérification.

C’est sans doute ce qui me semble le plus intéressant dans cette activité : elle ne cherche pas à faire “utiliser l’IA” pour utiliser l’IA. Elle permet de construire une posture.

  • Ne pas croire une réponse parce qu’elle est bien formulée.
  • Ne pas valider un résultat parce qu’il prolonge une régularité apparente.
  • Ne pas confondre cohérence mathématique locale et vérité dans le réel.
  • Et surtout : apprendre à demander “de quoi parle-t-on ?” avant de répondre.

Finalement, ce retour de CM2 confirme une intuition forte : l’éducation à l’IA ne commence pas forcément par des explications techniques sur les modèles de langage. Elle peut commencer très simplement, avec un tableau, un graphique, une erreur, puis une discussion collective dès le cycle 3

Et c’est peut-être là que l’école a un rôle essentiel à jouer : apprendre aux élèves à ne pas seulement produire des réponses, mais à les questionner.

Merci à David Sire pour ce retour de terrain, qui montre que cette activité peut être transférée au cycle 3 avec des adaptations simples et un accompagnement adapté.

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons

IA et Stéréotype

Par blank

Une IA ne ment pas forcément. Elle simplifie.

Dans le cadre d’une activité sur la littératie de l’IA, j’ai voulu travailler avec les élèves une compétence essentielle : critiquer.

Pas critiquer au sens de “rejeter”, mais au sens de questionner une production, d’en comprendre les limites, les choix implicites et les représentations.

Le point de départ est volontairement simple : demander à un générateur d’images une photo réaliste de “deux personnes mariées en France” (Merci GEMINI)

blank

L’image produite semble parfaitement correcte :

  • un couple homme-femme,
  • une robe blanche,
  • un costume,
  • un village,
  • une église,
  • des invités souriants,
  • le temps ensoleilé.

Mais justement : elle semble « trop » correcte.

blank

Car en France, deux personnes mariées peuvent aussi être deux hommes, deux femmes, se marier civilement, dans une mairie, sans référence religieuse, dans un cadre urbain, sobre, différent, sous la pluie…

blank

->L’image n’est donc pas “fausse”, elle est partielle.

Le format de l’activité

L’activité est construite sur un format très contraint : deux pages, en recto-verso.

Au recto, une seule image. Aucun contrepoint. Le regard est orienté, volontairement, vers une représentation dominante et familière. Ce cadrage n’est pas anodin : il reproduit exactement le mécanisme par lequel une IA renforce des normes implicites.

Au verso, d’autres images apparaissent. Le contraste crée un décalage, qui ouvre la discussion.

-> On ne “corrige” pas immédiatement, on prépare la prise de conscience.

Les élèves observent d’abord librement, puis débattent. L’objectif n’est pas de leur donner tout de suite le mot “biais”, mais de leur faire éprouver le décalage entre une réponse plausible et une réalité plus complexe.

Le bilan

Le bilan que je propose est simple :

Une IA apprend à partir de données.

Si ces données ne représentent pas toute la réalité, alors ses réponses seront elles aussi partielles.

Elle propose ensuite la réponse la plus probable.

Elle ne ment pas, mais elle simplifie.

On peut alors introduire deux notions :

  • biais de représentation : les données utilisées ne montrent pas toute la réalité.
  • biais de sélection : l’IA choisit une réponse parmi plusieurs possibles.


Cette activité s’inscrit pleinement dans la littératie de l’IA : apprendre à utiliser, comprendre, mais aussi critiquer.

Car former les élèves à l’IA, ce n’est pas seulement leur apprendre à produire plus vite.
C’est leur apprendre à regarder autrement ce qui est produit.

blank

Et parfois, une simple image suffit à ouvrir une vraie discussion sur le monde que les machines nous donnent à voir.




Voici l’activité qui inclut un petit corrigé pour le bilan, cela peut toujours aider…

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons

Modéliser ou Halluciner ?

Par blank

blank

Comment faire comprendre aux élèves le lien entre une modélisation mathématique et la prédiction statistique d’un Large Language Model (LLM) ?

Cette activité propose d’utiliser un exercice de traitement de données pour mettre en lumière les « hallucinations » de l’intelligence artificielle face au bon sens.

Le point de départ : Un nuage de points « presque » alignés.

L’activité commence par une tâche familière : on fournit aux élèves un tableau de données numériques. Ce qu’on ne leur dit pas immédiatement, c’est que ces données représentent la croissance d’un enfant (âge en haut, taille en cm en bas).
La consigne : Représenter ces données graphiquement et deviner les valeurs manquantes pour x=0, x=20 et x=30.

blank

Le scénario : Les points fournis (de 4 à 13 ans) sont quasi-alignés.

Le réflexe de l’élève : Tracer une droite de régression pour extrapoler.

blank
blank

L’erreur de modélisation : Le piège du hors-contexte

blank

Sans le contexte « humain », l’élève se comporte comme une machine : il prolonge la droite.

AU verso de la feuille d’activité se trouve l’origine de données.

À 0 an, il trouve une taille qui lui semble plausible (oui, oui 78cm pour les élèves, ça passe).
Il y a moins de doute à 20 ou 30 ans, la modélisation linéaire l’amène à prédire des tailles absurdes (comme 2m40).

C’est ici que réside le cœur de l’activité : modéliser sans contexte peut conduit à l’absurde.


L’agentivité de l’élève : Apprendre de son propre modèle

Le dispositif s’appuie sur quatre piliers de l’apprentissage :

  • Intentionnalité : L’élève veut prédire.
  • Pensée Prospective : Il utilise son graphique pour prédire.
  • Autoréaction : Il est confronté au verso (la réalité).
  • Autoreflexion : Il comprend pourquoi son modèle a echoué.

Conclusion : L’élève apprend à ne plus faire confiance aveuglément à un « prolongement logique », il doit questionner ses propres manières de modéliser.

Et si on demandait à l’IA ?

Proposition : Faire faire l’exercice à un LLM (ici Gemini) devant les élèves.

Observation : Gemini prédit aussi 2m57,

blank

On passe de la curiosité de l’élève sur ce que va répondre un LLM à la nécessité d’une vigilance accrue.

La réponse d’un LLM est statistiquement correcte au regard de ses données d’entrainement et celui-ci, mais elle n’est pas vérité, car le LLM appose le même modèle que l’élève.
L’erreur vient du manque de contexte.
C’est bien le coeur du problème dans l’utilisation des LLM, s’assurer qu’ils ont le contexte et l’entrainement suffisant pour pouvoir apposer le bon modèle, sans quoi il y aura des hallucinations. Cela permet d’insister sur l’importance du prompt

Corrélation ne vaut pas causalité.

Ce qu’on en retient en classe de maths

Cette activité permet de travailler des points essentiels du programme tout en développant l’esprit critique :

  • La limite de l’extrapolation : Un modèle mathématique n’est valide que dans un intervalle donné (ici, la période de croissance) et sous certaines conditions réelles.
  • Corrélation n’est pas causalité : Ce n’est pas parce que deux variables semblent liées sur un échantillon qu’elles le sont de manière universelle et infinie.
  • La nature des LLM : La réponse d’une IA est statistiquement correcte au regard de ses données d’entraînement, mais elle n’est pas « la vérité ».

En confrontant leurs propres erreurs à celles de la machine, les élèves comprennent que la mathématique est un outil de compréhension du monde, et non une simple manipulation de symboles. Pour ne pas « halluciner » comme une IA, il faut garder les yeux ouverts sur le réel !

Voici l’activité :

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons