L’intelligence artificielle fascine les élèves, intrigue mais parfois… hallucine. Cette séance n’est pas axée sur les mathématiques, mais plutôt sur l’exploration critique de l’IA, ses hallucinations et la poursuite de son appropriation par les élèves.
L’objectif ? Mettre en lumière la manière dont l’IA peut générer des informations fausses tout en les rendant crédibles. Bref parler du vrai-faux parler du faux-vrai, avec ma collègue de français. On évoquera le pouvoir des mots sur notre perception de la vérité à la sauce IA.
Pour cela, nous avons préparé 15 prompts soigneusement testés (enfin que certains) pour provoquer des réponses erronées.
On espère qu’après une heure d’expérimentations, cela soit une mission accomplie hallucinée !
Une séance en deux temps : comprendre et expérimenter
1️⃣ Débusquer les fausses autobiographies
Les élèves par groupe de deux rédigent une autobiographie mêlant événements réels et éléments fictifs ( à l’aide de l’IA). Les autres groupes ont pour mission d’identifier de qui il s’agit et d’identifier les éléments faux. Cet exercice leur permet de réaliser à quel point il est difficile de distinguer le vrai du faux, surtout quand l’IA rend tout plausible.
2️⃣ Faire halluciner l’IA
On évoque les hallucinations, le knowledge cutoff et le fact-checking rapidement.
Place ensuite à l’expérimentation ! Les élèves testent différents prompts donnés pour induire des réponses erronées de l’IA : la fameuse hallucination. Ils analysent les tendances récurrentes, comparent leurs résultats et tentent de comprendre les mécanismes en jeu.
Un cadre éthique et sécurisé
Bien sûr, la question de la protection des données personnelles est abordée : toutes les contributions restent anonymes et non reliables aux élèves (surtout sur la partie autobiographique). Cela sera une occasion de discuter de la gestion des données personnelles par les grandes entreprises d’IA, comme OpenAI.
Expérimentation en classe : retour d’expérience sur l’usage de ChatGPT
Bon… La séance ne s’est pas déroulée comme je l’avais imaginée. J’étais sans doute moins dynamique que d’habitude – en tout cas, c’est ce que m’a fait remarquer ma collègue de français
L’exercice sur l’autobiographie, bien que pertinent, a pris bien plus de temps que prévu. Je n’avais pas anticipé la longueur des réponses générées par ChatGPT : il rédige trop, et les élèves ont dû gérer cette quantité de texte importante. Pour éviter cela, nous avons ajouté une consigne à la machine pour la limiter dans ses réponses.
Autre point intéressant : les élèves ne sont pas encore à l’aise avec l’interaction avec l’IA. La distinction entre prompt primaire et prompts secondaires ne leur est pas naturelle. Beaucoup pensent qu’il faut rédiger un très long prompt dès le départ, alors qu’un échange progressif est plus efficace. J’ai pris le temps d’accompagner quelques binômes pour leur montrer comment ajuster leurs demandes et affiner leurs échanges avec la machine.
Sur la partie « prompts hallucinatoires », il y a eu du bon et du moins bon. Bonne surprise : certains prompts ont bien fonctionné. Dans certains cas, ChatGPT a reconnaissait des incohérences dans les promptes, mais une simple réinitialisation permettait de lui redemander et de la duper. et obtenir une réponse plus conforme à nos attentes. La magie (ou le mystère) du non-déterminisme…
Le regret de la séance : nous avons manqué de temps pour clore l’activité sur les hallucinations, et maintenant… nous sommes en vacances. Sentiment mitigé, donc. L’activité me semblait bien préparée, peut-être un peu trop ou… pas assez ? À affiner.
La suite après les vacances ! Nous reprendrons avec les élèves, cette fois en présence d’un chercheur en IA qui interviendra deux heures en classe. J’ai hâte de voir ce que cela donnera !Bilan mitigé
Voici le document élève et le déroulé de la séance :
EDIT : Je publierai les prompts après l’activité de jeudi, afin de vérifier qu’ils fonctionnent toujours. Les LLM ayant tendance à apprendre de nos expérimentations, il vaut mieux s’assurer de leur efficacité avant de les partager. Rendez-vous jeudi soir !
Je ferai plus tard un compte-rendu avec un regard croisé de ma collègue de français.
Vous avez aimé cet article ? Alors partagez-le avec vos amis en cliquant sur les boutons ci-dessous :
