Vendredi dernier, on a eu la chance de croiser avec le frangin Colin de la Higuera lors d’une journée organisée par la Chaire UNESCO RELIA.
Lors de la table ronde, il a rappelé quelque chose d’assez simple, mais finalement essentiel : si l’on veut éduquer les élèves à l’intelligence artificielle, il faut aussi leur permettre de comprendre un minimum comment elle fonctionne.
Je le rejoins complètement (Arnaud aussi 🙂 ).
Évidemment, développer l’esprit critique face aux réponses produites par une IA reste indispensable. Savoir questionner une réponse, vérifier une information, repérer un biais ou une hallucination, tout cela est essentiel.
Ne les opposons pas d’ailleurs.
On peut apprendre à critiquer l’IA tout en essayant de comprendre ce qui se passe derrière.
Bref, cette idée m’est restée dans un coin de la tête.
Et ce week-end, mon cerveau a commencé à faire ses habituels petits ponts improbables (je vous assure des fois, je me perds moi-même dans mes pensées… Je loue beaucoup d’admirations à ma femme qui le supporte au quotidien)
Une nouvelle activité « IA sans IA »
J’ai donc imaginé une nouvelle activité dans la série IA sans IA, sous CANVA que j’avais déjà démarré, l’objectif toujours faire des mathématiques en même temps
Le principe est assez simple : faire travailler les élèves en binôme avec deux rôles différents.
Le premier élève joue le rôle de la machine pendant l’entraînement.
Le second joue ensuite le rôle de la machine une fois entraînée.
Et surtout : le second ne voit jamais les données d’origine.
C’est là que ça devient intéressant.
Mais pourquoi un chocolat chaud ?
Il me fallait une situation mathématique simple, parlante et permettant de construire un modèle à partir de données.
Et là, allez savoir pourquoi, j’ai pensé à Caramel (l’outil présent sur la Forge, Gauthier le co-concepteur est dans le même groupe de formateur, le fameux réseau AAN/IAN), je l’avais croisé (avec la bonne nouvelle de CARAMEL V7 et l’intégration dans ELEA).
Caramel -> Chocolat -> Chocolat chaud
Voilà.
Oui, mon cerveau fait parfois des ponts assez surprenants.
Je suis donc parti d’un grand classique : le refroidissement d’un chocolat chaud (un petit coup de mateur de recherche pour avoir la courbe (faut pas rêver, mes études de physique sont très très loin)
On dispose de plusieurs mesures de température prises au cours du temps.
L’élève 1 reçoit ces données, les place dans un repère et doit tracer une courbe qui lui semble représenter au mieux leur évolution.
Jusque-là, rien de très exotique : on fait des mathématiques.
Mais ensuite, je lui demande de recopier uniquement la courbe sur une nouvelle feuille.
Pas les points originels. Pas le tableau. Pas les valeurs.
Seulement le modèle qu’il a construit.
Cette feuille est alors donnée à l’élève 2.
Les données ont disparu
L’élève 2 doit maintenant utiliser cette courbe pour produire de nouvelles valeurs.
Par exemple, estimer la température du chocolat à 6,12 et 18…
Il n’a jamais vu les données d’entraînement. il n’a pas le contexte (oui le contexte Arnaud on y revient toujours)
Il ne dispose plus que du modèle.
Et c’est précisément ce que je voulais rendre visible.
Lors de l’entraînement, une partie de l’information précise disparaît.
Le modèle ne conserve pas simplement une liste de toutes les données qu’il a reçues.
Il construit une représentation de certaines régularités.
Cette représentation est moins précise que les données originales… mais elle permet désormais de produire beaucoup d’autres valeurs.
C’est ce compromis que permet l’IA
Prédire, mesurer l’erreur, recommencer
Une fois les prédictions réalisées par l’élève 2, on révèle les vraies valeurs.
On peut alors mesurer l’erreur :
Erreur = | valeur réelle − valeur prédite |
Il faudra expliquer evidement la notion de valeur absolue, mais c’est jouable
Puis calculer une erreur moyenne. Et ensuite ? On recommence.
L’élève 1 observe où son modèle s’est trompé et modifie légèrement sa courbe. L’élève 2 utilise ce nouveau modèle et refait des prédictions.
On obtient ainsi une version évidemment très simplifiée de ce que l’on cherche à faire lors d’un apprentissage automatique :
données → modèle → prédictions → erreur → ajustement → nouvelles prédictions.
C’est simplifié, bien sûr.
Un véritable réseau de neurones ne dessine pas une jolie courbe au crayon sur une feuille.
Mais derrière cette métaphore, on retrouve bien quelques idées fondamentales : des données d’entraînement, des paramètres que l’on ajuste, des prédictions et une erreur que l’on cherche à réduire.
Et au passage, on fait des maths
C’était important pour moi : je ne voulais pas d’une activité sur l’IA dans laquelle les mathématiques serviraient simplement de décoration.
Ici, on travaille réellement :
- la représentation graphique ;
- la lecture d’une image ;
- les valeurs approchées ;
- l’erreur absolue ;
- la moyenne ;
- l’interpolation ;
- l’extrapolation.
Et finalement, ce sont justement les mathématiques qui permettent de faire comprendre quelque chose du fonctionnement d’un modèle.
C’est exactement ce que je cherche avec mes activités IA sans IA : parler d’intelligence artificielle… sans forcément allumer une intelligence artificielle.
Et si on demande n’importe quoi au modèle ?
La dernière partie de l’activité consiste à pousser un peu le modèle dans ses retranchements.
Les données d’entraînement sont comprises entre 0 et 40 .
On demande alors aux élèves de prédire la température à 50 .
Puis à 100 .
On passe donc de l’interpolation à l’extrapolation.
Et là, le chocolat chaud devient particulièrement intéressant.
Parce qu’un élève sait intuitivement qu’un chocolat posé dans une pièce à 20 °C ne va pas continuer à refroidir indéfiniment jusqu’à atteindre -50 °C.
Il possède une connaissance du monde réel qui lui permet de questionner la prédiction du modèle.
Et là, on retombe directement sur… l’esprit critique.
La boucle est bouclée.
Comprendre pour mieux critiquer
C’est sans doute cela qui m’intéresse le plus dans cette activité.
Faire comprendre aux élèves qu’une réponse produite par un modèle n’est pas une vérité retrouvée quelque part dans une gigantesque base de données.
C’est une prédiction produite à partir d’une représentation construite pendant l’entraînement.
Cette prédiction peut être très bonne. Elle peut être approximative.
Elle peut aussi devenir franchement mauvaise lorsque l’on demande au modèle quelque chose de trop éloigné de ce qu’il a appris. Et finalement, mieux comprendre cette mécanique permet peut-être aussi de mieux questionner les réponses d’une IA.
C’est sans doute là que se situe une partie de cette fameuse littératie de l’IA dont parlait Colin de la Higuera.
Pas seulement apprendre à utiliser l’outil. Pas seulement apprendre à s’en méfier.
Mais essayer de comprendre pourquoi il peut être incroyablement performant… et pourquoi il peut aussi se tromper avec beaucoup d’assurance.
Voici l’activité en question :
Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :
