Bonjour à toutes et à tous.

L’IA a le vent en poupe et des idées de créer une IA programmée pour aider les élèves a émergé depuis longtemps.

Mais c’est quoi aider?

Alors pour moi, ce n’est pas donner les réponses, mais proposer un début de stratégies pour débloquer l’élèves, en somme poser une question intermédiaire ou des suggestions de posture à avoir (regarde ton cours etc…).

Sauf que c’est mal connaître les IA. On peut contourner rapidement les limites.

Il y a plusieurs mois, on s’était amusé avec mon frangin à s’envoyer des prompts et essayer de contourner les limitations de l’autre….( on a toujours réussi à contourner)

Bref, je pense qu’un vrai test permet de voir l’ampleur du problème, c’est ce que je vais vous proposer.

Voici un prompt rapide pour en voir les limites :

https://chatgpt.com/share/6771c845-3dbc-8011-b95b-2bb71bd98d31

Voici ce que j’en ai fait, et comment j’ai contourné le problème.

Au début, je propose l’exercice que je ne sais pas résoudre.

Au début il m’aide bien en créant une question intermédiaire supposément plus simple.

Je réponds donc que je ne sais pas….

Il(elle) agit correctement et simplifie encore le problème.Et je sors l’argument imparable pour qu’il me dise la réponse, celui de l’autorité. (là j’ai mis professeur, mais président ça marche encore mieux quand on a fixé des limitations pour éviter ça !! 🙂

Voici l’échange complet :

https://chatgpt.com/share/6771cb2f-f644-8011-84c1-d72b148e2c2e

Alors on pourrait confectionner un prompt hyper long pour contrecarrer tous les problèmes de limitations, mais ce n’est pas sans voir le problème de consistance à force de dialoguer avec l’IA, l’IA perdra le prompt de départ, il oubliera les limitations et donc rebelote il répondra au problème directement.

Fun fact, on peut faire plus simple : on peut aussi lui demander d’oublier les limitations ou le prompt (parfois il faut s’y reprendre à plusieurs fois…)

https://chatgpt.com/share/6771ccf7-1c34-8011-afbe-9e8618d43dd8