Catégorie : IA

Démystifier l’IA : Une séance en VDC sur les hallucinations de l’Intelligence Artificielle

L’intelligence artificielle fascine les élèves, intrigue mais parfois… hallucine. Cette séance n’est pas axée sur les mathématiques, mais plutôt sur l’exploration critique de l’IA, ses hallucinations et la poursuite de son appropriation par les élèves.

L’objectif ? Mettre en lumière la manière dont l’IA peut générer des informations fausses tout en les rendant crédibles. Bref parler du vrai-faux parler du faux-vrai, avec ma collègue de français. On évoquera le pouvoir des mots sur notre perception de la vérité à la sauce IA.
Pour cela, nous avons préparé 15 prompts soigneusement testés (enfin que certains) pour provoquer des réponses erronées.
On espère qu’après une heure d’expérimentations, cela soit une mission accomplie hallucinée !

Une séance en deux temps : comprendre et expérimenter

1️⃣ Débusquer les fausses autobiographies
Les élèves par groupe de deux rédigent une autobiographie mêlant événements réels et éléments fictifs ( à l’aide de l’IA). Les autres groupes ont pour mission d’identifier de qui il s’agit et d’identifier les éléments faux. Cet exercice leur permet de réaliser à quel point il est difficile de distinguer le vrai du faux, surtout quand l’IA rend tout plausible.

2️⃣ Faire halluciner l’IA

On évoque les hallucinations, le knowledge cutoff et le fact-checking rapidement.
Place ensuite à l’expérimentation ! Les élèves testent différents prompts donnés pour induire des réponses erronées de l’IA : la fameuse hallucination. Ils analysent les tendances récurrentes, comparent leurs résultats et tentent de comprendre les mécanismes en jeu.

Un cadre éthique et sécurisé

Bien sûr, la question de la protection des données personnelles est abordée : toutes les contributions restent anonymes et non reliables aux élèves (surtout sur la partie autobiographique). Cela sera une occasion de discuter de la gestion des données personnelles par les grandes entreprises d’IA, comme OpenAI.

Voici le document élève et le déroulé de la séance :

EDIT : Je publierai les prompts après l’activité de jeudi, afin de vérifier qu’ils fonctionnent toujours. Les LLM ayant tendance à apprendre de nos expérimentations, il vaut mieux s’assurer de leur efficacité avant de les partager. Rendez-vous jeudi soir !

Je ferai plus tard un compte-rendu avec un regard croisé de ma collègue de français.

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons

Logique d’élève dans les devoirs : l’enrichissement personnel ou la production , repenser la place de l’IA dans l’éducation nationale

Bonjour à toutes et tous !

L’IA est un sujet fascinant et là au détour d’une grande discussion avec le frangin, j’ai émis l’hypothèse de logique comportementale à avoir avec l’IA au même titre (dans une moindre mesure) que celui de la calculatrice.

L’idée est de repenser l’utilisation de l’IA.

Voyons le comportement d’un élève en difficulté, essayons de catégoriser les comportements :

  • L’élève est en difficulté, de type blocage et ne trouve pas quelle question se pose (ou il s’en pose tellement qu’il est noyé) (La première étape de son raisonnement n’est pas identifiée)
  • L’élève est en difficulté, il ne comprend pas l’énoncé. (pas de sens)
  • L’élève est en difficulté par ce qu’il ne trouve pas d’intérêt pour l’exercice donné. (pas d’engagement)

De toute ses situations, généralement, il faut le soutien d’une tierce personne (sinon il aurait déjà eu des initiatives, comme voir son cours, identifier des exercices similaires…)

Bref, ces élèves généralement vont voir leurs parents ou grand(e) frère/soeur… et on arrive à des inégalités.

L’IA à la rescousse qui permet de favoriser l’égalité sociale?

L’IA est entré dans notre quotidien (personnellement tel un gamin voyant son frangin prendre un compte chez OpenAI… j’ai fait pareil quelques heures après qu’il me l’ai appris pour tester ce que donne le compte payant…).

blank

La stratégie de ces élèves en blocage peut les amener à utiliser une IA de type LLM (Large Language Model) : à savoir principalement Gemini ou Chat-GPT.

Et là généralement, ça peut donner des master-class !

Voici un bel exemple dans un DM où la réponse attendue était CD=CE+ED=30+10=40 (les points C,D et E sont alignés)

J’ai corrigé ce DM et j’étais certain de cette entourloupe de l’élève (qui en plus avait un bon niveau, mais n’est pas toujours enclin à faire ses exercices)

blank
blank

Bref, on y observe ici un simple recopiage sans réflexion.

C’est vraiment ce qu’on ne souhaite pas, mais est-ce vraiment différent quand les parents « aident » leurs enfants en leur donnant leur réponse (qui n’est pas toujours bonne) ?

Qu’en retiennent les enfants dans ces cas ? RIEN que ce soit avec les parents ou l’IA.

Donc en terme d’équité, j’en suis à penser que c’est un vrai plus ! Même pour les élèves dont les parents ne sont pas disponibles, il peut y avoir une aide potentielle.

Le travers de ces cas : Pas d’apprentissage, on fait croire à l’élève qu’il sait faire, alors qu’il ne sait que copier…

En fait on est une sur une stratégie de PRODUCTION. L’objectif implicite de l’élève c’est de produire, donc il produit et il est content d’avoir produit. Il fait ce qu’on lui demande un peu comme une IA. Il se satisfait de cela, car il répond à la demande.

blank

En fait, nous en tant qu’enseignant, on souhaiterait que l’élève se pose des questions, réfléchisse avec ses ressources (externes ou internes). On veut qu’il se mobilise (dans le sens bouger) en utilisant ses compétences et ses ressources intelligemment.

Les devoirs sont donné avec une belle inférence :

« Faites vos exercices »

On sous-entendrait « Faites vos exercices avec votre cours ouvert, en lisant la leçon avant, en regardant les exercices précédents, après avoir posé suffisamment de questions en classe » en somme avoir un comportement d’apprenant.

Mais l’élève lui peut entendre « Faites vos exercices et c’est tout ».

Et si le problème était d’éduquer à être élève en explicitant nos attentes ?

J’en viens à penser qu’il faudrait expliciter d’avantage nos attentes. J’avais des collègues dont je voyais régulièrement écrire qu’il faut relire la leçon dans les agendas, je me dis qu’on devrait aller plus loin.

Les faire entrer dans une logique d’enrichissement : je relis le cours pour acquérir de l’enrichissement personnel avant de faire des exercices.

Avec une telle attitude, on repensera automatiquement les usages des ressources externes que sont les IA et les parents/frères/sœurs /oncle/tante pour faire les exercices.

Passer d’une logique de production à une logique d’enrichissement.

Ainsi, on peut repenser les usages de l’IA. Si je demandais à l’IA comment elle fait et pourquoi elle le fait, si je la questionnais sur ses réponses? Si je lui disais que je pense qu’elle a tort? Si je lui demandait ses sources ? Quels cours elle utilise?

blank

Cela reviendrait à un parent qui lui remontre le cours et l’explique.

Avoir cette logique de prendre du recul sur ce qu’elle dit, d’ouverture sur la notion, de regard croisé.

C’est de l’enrichissement.

Et ce comportement, on peut également l’avoir avec des parents.

D’ailleurs souvent on peut demander aux parents d’agir selon cette manière comme on peut demander à l’IA d’agir comme cela.

Les aidants doivent apprendre à aider.

Un comportement difficile à adopter tant à cause de l’IA que nous enseignant.

Mais l’arrivée de l’IA bouleverse les habitudes d’autant plus qu’elle nous est présentée pas pour ce qu’elle est. Ce n’est pas un assistant fiable, ce n’est pas un solutionneur, c’est juste un producteur de texte et qui fait ce que lui demande RAPIDEMENT et uniquement cela : produire du texte cohérent avec la demande.

Il peut avoir faux, donner une réponse qui ne correspond pas à l’attente, d’autant plus que la demande sera peu claire.

Et pourtant les grandes start-up, elles se gaussent de dire que leur IA sera à même d’être fiable, ce qui est IMPOSSIBLE par définition du fonctionnement de l’IA qui a une logique statistique.

Bien entendu le déterminisme des mathématiques s’est amélioré à coup de code python intégré (face à une demande de calcul, l’IA produit en caché du code python correspondant à la demande mathématique et l’exécute avec des valeurs données permettant de moins se tromper sur les calculs, pour cela OPEN AI a fait manger à l’IA des tonnes de programmes codés pour la rendre mathématiquement bonne)

L’IA deviendra à un moment bonne , permettant de singer les élèves (on le peut déjà, en dictant à l’IA de se comporter comme un élève en ayant un langage d’ado et en donnant des écrits que l’on a produit…c’est même pas mal, et oui, l’IA est douée pour ça).

Côté enseignant, cela suggère également de revoir ce qu’on attend des devoirs.

  • Attends-on que l’élève réussisse systématiquement ?
  • Quelle pression met-on sur les devoirs ?
  • Quelle porte de sortie pour les élèves en difficultés ?
  • Quel droit à l’erreur ?
blank

L’arrivée de l’IA fait quand même un sacré bien, celui de se poser la bonne question :

Qu’attend-on des devoirs?

Pour moi, c’était celui de remobiliser des connaissances et idéalement faire relire le cours par les élèves.

J’en viens à me demander si je ne demanderai pas à mes élèves de réfléchir à poser une question intéressante et l’écrire pour le cours d’après…. Histoire juste qu’ils se mettent dans la peau de quelqu’un qui demande de l’aide et que la question soit bien posée….

blank

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons

Expérience de l’IA sur le travail à la maison, le retour !

Contexte :
À 8h00 du matin, j’ai reçu 26 retours d’exercices, dont un envoyé à 1h30 du matin (par un élève absent ce jour-là). Quelques élèves étaient grippés.
J’avais donc face à moi 25 paires d’yeux qui me scrutaient, curieux de savoir ce que j’avais préparé. Douche froide, je leur annonce que je n’ai pas eu le temps (en fait si, héhéhé) de traiter leurs réponses et qu’on y reviendrait plus tard, je démarre mon cours normalement.


Déroulement de l’expérience :

1. Mise en situation :

Je leur demande, comme d’habitude, de sortir leurs cahiers de brouillon pour un petit exercice au tableau. Je projette alors l’Exercice 7, mais sans afficher son titre. Tout le monde comprend immédiatement qu’il s’agit du fameux exercice traité à l’aide de ChatGPT.

blank

Je dessine le tableau de données suivant afin de le compléter.
Je leurs précise qu’il n’y a que trois valeurs à déterminer.

Donc je leur lance :

  • Moi : « Qui se souvient d’une valeur ? »
  • Silence gêné.
  • Moi : « Qui ne sait pas ? »
  • Toutes les mains se lèvent.

2. Débat : Pourquoi ce résultat ?

  • Élève 1 : « On ne va pas apprendre les résultats des exos par cœur ! »
  • Élève 2 : « Moi perso, j’ai rien regardé de ce qu’elle (ChatGPT) a fait. »
  • Moi : « Alors, mettons les mains dans le cambouis, faites-moi l’exercice ! »
blank

Les résultats sont les suivants :

  • Moyenne : 17 élèves sur 25 ont réussi.
    • Les 8 autres ont soit additionné toutes les notes directement (6 + 8 + 10 +…), soit fait des erreurs dans les priorités opératoires (parenthèses manquantes).
  • Médiane : Échec total.
  • Étendue : Réussie dans l’ensemble, sauf pour 9 élèves qui, bloqués sur les premières questions, n’ont pas traité cette partie.

Bilan intermédiaire : Globalement positif pour des élèves de 3e, mais ces compétences sont attendues en 4e, donc peu de surprises. Seule la médiane pose des problèmes, il s’agit d’une notion de 3e, qui plus est dans un tableau


Réflexion collective et retour à l’IA :

Lorsque j’ai demandé : « Pourquoi la médiane pose problème ? », j’ai affiché quelques réponses des élèves fournies par ChatGPT.

blank
blank
blank

blank

Les élèves ont remarqué qu’un même prompt (voir article précédent ) avait généré des résultats différents, ce qui les a perturbés. J’ai saisi cette occasion pour insister sur :

  • La fiabilité relative de ChatGPT.
  • Le non-déterminisme de ses calculs.

Les échanges marquants :

blank
  • Moi : « Qui a vérifié ou lu ce que ChatGPT faisait ? »
    • Élève 1 : « Moi, mais j’ai lâché, c’était trop dur, matter le truc là ! » (nldr le sigma je suppose)
    • Élève 2 : « En fait, fallait lire regarde en dessous c’est plus simple mais c’était pas clair quand même. »
  • Moi : « Qui a vraiment lu ? »
    • Silence général.

J’ai expliqué que dans ce contexte, l’IA ne les avait pas aidés à progresser, mais qu’elle aurait pu si elle avait été utilisée de manière réfléchie.

blank
Screenshot qui m’a permis d’exploiter ce qu’elle faisait et donc ce qu’il fallait faire pour trouver la médiane, en corrigeant l’erreur car la médiane se trouve entre la 2500e et 25001e valeurs.

L’avantage de cette erreur et encore une fois d’insister sur le fait qu’il fait savoir être critique !


Retour à l’autonomie :

Après cette correction collective, les élèves ont poursuivi leur travail avec des exercices en autonomie. Quelques-uns sont venus échanger à la fin sur la manière de mieux travailler avec l’IA. Certains ont suggéré qu’indiquer qu’ils étaient collégiens aurait pu aider ChatGPT à adapter ses réponses. J’ai confirmé cette idée, mais j’ai également rappelé que l’IA ne devrait être utilisée qu’en dernier recours, faute de quoi ils risquent de ne rien apprendre.


Bilan de l’expérience :

À chaud, je considère cette séance comme positive. Elle m’a permis de :

  1. Identifier les limites de l’utilisation de ChatGPT en classe.
  2. Montrer que l’IA peut induire une régression si elle est mal exploitée.
  3. Initier une réflexion sur l’autonomie et l’apprentissage actif.

Cependant, je reste inquiet quant à l’utilisation correcte de l’IA par les élèves. Cette expérience a révélé le risque de « légitimer » un peu trop vite un outil dont certains abusent déjà.


Prochaines étapes :

En fin d’année, je prévois de leur demander un bilan sur l’IA et l’école :

  • Où placer l’IA dans leur apprentissage ?
  • Comment en faire un allié, comme un grand frère qui guide, sans tomber dans la facilité de copier sans comprendre ?

Toujours un objectif : les aider à percevoir que l’IA peut être un formidable outil… mais qu’elle ne remplacera jamais l’effort et la réflexion personnelle.

Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :

Licence Creative Commons