Education: A Genève, ChatGPT se trahit avec des «oeufs de vaches»

«C’est vertigineux», lance Eric Vanoncini, en regardant le texte généré par ChatGPT dérouler sur le grand écran d’une salle de classe du canton de Genève, en Suisse. «Cela risque potentiellement de bouleverser une partie du monde éducatif tel qu’on l’a connu et ça pose énormément de questions», reconnaît le professeur d’anglais et de philosophie, en marge d’un séminaire qu’il anime pour essayer d’aider ses collègues enseignants à mieux appréhender cette intelligence artificielle – en accès libre – qui séduit de plus en plus élèves et étudiants ici et partout ailleurs.

Silvia Antonuccio trouve que «c’est une jolie découverte, mais en même temps, inquiétante». La professeure d’italien et d’espagnol est loin d’être seule à se sentir démunie face à ce nouveau type d’anti-sèche. Les quelque 140 participants aux séminaires organisés dans le canton veulent tous apprendre comment faire face au robot je-sais-tout, qui peut être consulté par tout un chacun depuis que la société californienne OpenAI l’a mis à disposition gratuitement sur internet en novembre.

ChatGPT permet de générer des dissertations, des annonces publicitaires ou des lignes de code informatique sur demande et en quelques secondes. Les anecdotes sont désormais légion sur l’usage plus ou moins subtil qui en est fait par les élèves.

Debout dans la pénombre, Eric Vanoncini entre dans le vif du sujet en demandant à ChatGPT de se présenter. Le résultat, qui apparaît sur l’écran en quelques secondes, c’est un texte court, bien écrit, informatif et «sans faute d’orthographe», s’exclame le professeur, qui trouve le résultat «bluffant».

Jeu du chat et de la souris

Un savoir-faire qui n’a pas échappé aux élèves. M. Vanoncini se souvient de ce collègue tout déçu de réaliser que les très beaux progrès de sa classe jusque-là très moyenne n’étaient pas seulement dus à ses qualités d’enseignant.

«Qu’est-ce qu’on peut faire?» lance un des participants dans la salle, laissant poindre la frustration ressentie par nombre de participants. M. Vanoncini reconnaît que c’est compliqué, d’autant que pour lui les programmes créés pour détecter l’utilisation de ChatGPT et d’autres outils d’intelligence artificielle ne sont pas la solution.

«La plupart des experts en la matière s’accordent pour dire qu’il n’y a aucun outil qui est fiable à 100%», explique-t-il: «Cette question de la fraude c’est un peu le jeu du chat et de la souris».

Mais le chatbot fait aussi des erreurs qui le trahissent. Bien qu’il puisse produire des textes qui donnent la sensation d’avoir été écrits par un humain, il ne s’agit en fait que d’un outil de prédiction de texte très puissant, a souligné M. Vanoncini. «Il n’est pas créé pour affirmer ce qui est vrai… mais pour générer ce qui est probable.» Par conséquent, on peut poser à ChatGPT une question basée sur une hypothèse erronée et recevoir une réponse apparemment logique, mais profondément erronée.

«J’ai demandé: comment doit-on ramasser les œufs de vache?» raconte le professeur, faisant éclater de rire l’audience. ChatGPT conseille d’abord de mettre des gants pour éviter d’avoir des bactéries sur ses mains, puis donne des conseils pour trouver un nid de vache, «généralement fait de foin ou de paille».

Potentielles applications positives

Karim Aboun, professeur de comptabilité dans un lycée, y voit un moyen de piéger les tricheurs: «Poser une question qui semble vraisemblable, mais qui en fait contient une erreur et de voir si les élèves utilisent cet outil sans s’apercevoir que la question est fausse».

Un autre participant veut y voir «une forme de démocratisation», le plus grand nombre ayant désormais accès, grâce à ces outils, à ce qui était auparavant l’apanage des classes sociales les plus aisées et éduquées.

M. Vanoncini souligne aussi les nombreuses applications positives potentielles du chatbot dans l’éducation, si les textes générés servent de base de discussion et d’analyse dans la salle de classe. Cela pourrait également pousser les éducateurs à réévaluer comment ils enseignent en mettant davantage l’accent sur le processus plutôt que sur les résultats.

«Je n’ai pas peur», explique à l’AFP Christian Stamm, un professeur d’électronique, pour qui ChatGPT est un «outil pour nous faire passer au niveau supérieur». «Aujourd’hui, tout le monde utilise une machine à calculer, et nous continuons à faire des maths à l’école.»