Une IA ne ment pas forcément. Elle simplifie.

Dans le cadre d’une activité sur la littératie de l’IA, j’ai voulu travailler avec les élèves une compétence essentielle : critiquer.

Pas critiquer au sens de “rejeter”, mais au sens de questionner une production, d’en comprendre les limites, les choix implicites et les représentations.

Le point de départ est volontairement simple : demander à un générateur d’images une photo réaliste de “deux personnes mariées en France” (Merci GEMINI)

L’image produite semble parfaitement correcte :

• un couple homme-femme,
• une robe blanche,
• un costume,
• un village,
• une église,
• des invités souriants,
• le temps ensoleilé.

Mais justement : elle semble « trop » correcte.

Car en France, deux personnes mariées peuvent aussi être deux hommes, deux femmes, se marier civilement, dans une mairie, sans référence religieuse, dans un cadre urbain, sobre, différent, sous la pluie…

->L’image n’est donc pas “fausse”, elle est partielle.

Le format de l’activité

L’activité est construite sur un format très contraint : deux pages, en recto-verso.

Au recto, une seule image. Aucun contrepoint. Le regard est orienté, volontairement, vers une représentation dominante et familière. Ce cadrage n’est pas anodin : il reproduit exactement le mécanisme par lequel une IA renforce des normes implicites.

Au verso, d’autres images apparaissent. Le contraste crée un décalage, qui ouvre la discussion.

-> On ne “corrige” pas immédiatement, on prépare la prise de conscience.

Les élèves observent d’abord librement, puis débattent. L’objectif n’est pas de leur donner tout de suite le mot “biais”, mais de leur faire éprouver le décalage entre une réponse plausible et une réalité plus complexe.

Le bilan

Le bilan que je propose est simple :

Une IA apprend à partir de données.

Si ces données ne représentent pas toute la réalité, alors ses réponses seront elles aussi partielles.

Elle propose ensuite la réponse la plus probable.

Elle ne ment pas, mais elle simplifie.

On peut alors introduire deux notions :

• biais de représentation : les données utilisées ne montrent pas toute la réalité.
• biais de sélection : l’IA choisit une réponse parmi plusieurs possibles.

Cette activité s’inscrit pleinement dans la littératie de l’IA : apprendre à utiliser, comprendre, mais aussi critiquer.

Car former les élèves à l’IA, ce n’est pas seulement leur apprendre à produire plus vite.
C’est leur apprendre à regarder autrement ce qui est produit.

Et parfois, une simple image suffit à ouvrir une vraie discussion sur le monde que les machines nous donnent à voir.

Voici l’activité qui inclut un petit corrigé pour le bilan, cela peut toujours aider…