Ideas - Comment parler IA au lycée ?

Comment parler IA au lycée ?

Charlotte Laclau, maîtresse de conférences à Télécom Paris, juin 2024

Charlotte Laclau nous accorde un entretien sur un sujet majeur : comment exercer l’esprit critique des élèves de lycée vis-à-vis de l’intelligence artificielle ? Charlotte travaille depuis deux ans avec les élèves de lycée pour démystifier ce sujet et les aider à prendre du recul sur un outil qui leur est presque natif et qui a envahi tous les aspects de leur quotidien.

Propos recueillis par Isabelle Mauriac

Podcast

Retrouvez cette interview en format audio dans le cadre du podcast Le ¼ d’heure du chercheur :

Podcast Michel Desnoues, Télécom Paris

De la difficulté d’enseigner l’IA au lycée

— Charlotte, les professeurs de terminale sont censés introduire l’intelligence artificielle. Quelles difficultés cela pose-t-il ? Sont-ils forcément bien équipés pour cela ?

Les élèves de terminale suivent un enseignement scientifique qui couvre divers sujets comme les énergies renouvelables, la biodiversité, et un module intitulé « De l’informatique à l’intelligence artificielle ». Les enseignants responsables de ces cours ont certes une formation scientifique, mais pas nécessairement en mathématiques ou en informatique, qui sont les piliers de l’intelligence artificielle. Par exemple, un professeur de physique-chimie ou de sciences de la vie et de la terre peut se retrouver à devoir enseigner l’intelligence artificielle. C’est la première difficulté qu’ils rencontrent.

— Aucun enseignant n’est donc vraiment spécialisé dans ce domaine. C’est un vrai défi !

Exactement. Bien qu’il y ait de plus en plus d’informatique dans la formation des enseignants, l’intelligence artificielle reste un domaine où ils doivent s’auto-former. Ils ont les compétences pour le faire, mais encore faut-il qu’ils en aient le temps. De plus, même s’ils l’enseignent, ils n’ont pas le recul que peuvent avoir des chercheurs de l’enseignement supérieur.

De la nécessité de démasquer l’IA

— Parlons maintenant de vos interventions dans les lycées. Pour vous, il est crucial de sensibiliser les élèves à un outil qu’ils utilisent souvent sans y réfléchir, qui comporte des risques de manipulation et qui influence leur manière de penser. J’imagine que vous commencez par leur expliquer ce que produit l’IA et son omniprésence dans leur vie quotidienne ?

Oui, exactement. Pour donner un peu de contexte, j’ai été sollicitée par l’Institut de Recherche sur l’Enseignement des Mathématiques (IREM), qui a créé un groupe de recherche sur l’enseignement de l’intelligence artificielle en terminale. Ils m’ont mise en contact avec les lycées. Mes interventions ne sont pas des cours, mais des sessions interactives avec plusieurs étapes. La première étape est de définir ce qu’est l’intelligence artificielle. Avant l’arrivée de ChatGPT, beaucoup avaient une vision de l’IA comme une sorte de super-humanoïde. Certains élèves ont déjà un peu de recul, et savent que l’IA implique des algorithmes et des modèles mathématiques. Mais majoritairement ils la voient surtout comme un outil imitant la pensée humaine, ce qui reste une définition très large.

Donc, une partie de mon intervention consiste à expliquer comment fonctionnent les algorithmes et à sensibiliser à la collecte systématique des données, en montrant qu’eux-mêmes génèrent des données partout, non seulement avec leur téléphone.

Depuis l’arrivée de ChatGPT, la vision de l’IA des élèves du secondaire s’est rétrécie. Ils voient ChatGPT principalement comme un rédacteur pour les devoirs, sans réaliser que l’IA peut se tromper.

— Ils ont donc une confiance absolue en ChatGPT ?

Oui, une partie de l’intervention vise à leur montrer que ChatGPT peut se tromper et leur parler des hallucinations des IA. Ils ne savent souvent pas que ChatGPT peut inventer des informations. L’idée est de leur montrer concrètement comment cela fonctionne pour qu’ils comprennent pourquoi ChatGPT peut parfois dire n’importe quoi.

— Vous les sensibilisez aussi aux fake news j’imagine ? Un domaine où cela progresse très vite : les fake news d’aujourd’hui ne sont plus du tout les même qu’il y a quelques années…

Je leur parle du fonctionnement des algorithmes et justement de cette notion d’entraînement sur les données et cela m’amène ensuite à pouvoir leur parler de ce qu’on appelle les IA génératives qui sont aujourd’hui à l’origine de l’explosion des fake news. Et donc l’idée est très simple, j’en regarde avec eux… J’ai repris quelques exemples un peu classiques de fake news qu’on a pu voir circuler sur internet ces dernières années et on regarde ensemble comment nous pouvons les détecter. L’idée, c’est de leur montrer qu’elles étaient d’assez pauvre qualité au début, avec par exemple des personnes avec sept doigts mais sans nez, puis je leur montre des exemples de plus en plus raffinés, qui finalement proviennent des IA génératives les plus récentes, sans défaut.

De ce fait, la question est : quand il n’existe aucun défaut sur l’image, comment peut-on finalement détecter qu’il s’agit d’une fake news ?

— C’est une vraie question… pour les élèves comme pour tout le monde !

Oui, c’est la question de la source, sur laquelle ils sont censés avoir été sensibilisés, pas uniquement dans le cadre des IA mais de manière générale. Vu qu’ils s’informent beaucoup en ligne, les élèves doivent être formés sur la manière de vérifier les sources. Ici, c’est exactement la même règle qui va s’appliquer.

Et je leur parle aussi des chercheurs qui travaillent aujourd’hui en apprentissage automatique sur ce qu’on appelle des fact checker : des intelligences artificielles qui vont être capables de détecter si du contenu a été lui-même généré par une intelligence artificielle. Enfin, il y a aussi toute la question d’intégrer dans les images des sortes de signatures, qui sont générées par des IA pour pouvoir justement facilement détecter qu’il ne s’agit pas d’image réelle.

Quelle influence sur l’avenir des élèves ?

— Ressentent-ils de l’anxiété face aux transformations rapides de l’IA et leurs impacts futurs sur les métiers ?

Oui ; néanmoins, j’essaie de leur montrer des cas un peu politiques qui peuvent justement amener à de la manipulation. Je pense qu’ils se sentent relativement outillés sur cette question-là d’aller chercher des sources. Par contre effectivement, c’est l’impact sur le marché de l’emploi qui va créer plutôt de l’anxiété pour eux ; ce qui revient régulièrement est par exemple : « Je voudrais être juriste mais j’ai l’impression que de toute façon aujourd’hui des IA comme ChatGPT vont finalement remplacer le métier de juriste. Alors devrais-je vraiment me former pour être juriste ? » C’est là où on va avoir de l’anxiété.

Je n’ai pas de réponse arrêtée à leur donner, je ne suis pas devin. Simplement l’idée ici c’est plutôt de les éduquer à la manière dont on est censé utiliser ces intelligences artificielles : ce sont bien des assistants qui ne sont pas là pour nous remplacer…

J’essaie d’insister plus particulièrement sur l’importance de comprendre comment bien les utiliser et non de les voir comme des futurs juristes, par exemple, à notre place. Une personne n’ayant aucune formation en droit va aller chercher une réponse à une question d’ordre juridique avec son propre vocabulaire, il est donc tout à fait probable que la réponse que lui fournira ChatGPT ne sera pas exactement celle recherchée, tandis qu’un ou une juriste, qui aura la terminologie précise, va être capable de formuler sa requête de manière beaucoup plus ciblée à une intelligence artificielle pour pouvoir trouver une réponse à sa question. Donc la formation juridique reste de toute façon importante.

Et puis, on a parlé de l’anxiété sur les métiers mais il y a aussi l’éco-anxiété, car ce sont des modèles qui consomment beaucoup de ressources…

Comment tirer parti des IA ?

— Et leur parlez-vous aussi des aspects positifs de l’IA ?

Oui, je termine sur une note positive en évoquant les progrès que l’IA peut apporter, notamment en médecine et dans la recherche de nouveaux matériaux. Je les incite à réfléchir aux usages positifs et aux impacts bénéfiques de l’IA dans leur vie actuelle ou future.

— Vous citez la médecine et vous parlez du climat ; il y a tout ce qui est prédiction de scénarios climatiques pour réguler les impacts climatiques. Détaillez-vous ces questions avec eux ?

Oui, comme la prévision d’événements météorologiques extrêmes par exemple, qui va nous permettre d’anticiper des évacuations par exemple… j’essaie de les amener sur ces sujets-là. Et aujourd’hui, sur la question de l’environnement et du développement durable, il y a toute la recherche menée en intelligence artificielle pour la découverte de nouveaux matériaux…

… qui va justement dans la direction d’une IA finalement en mesure de nous aider à développer un modèle plus viable pour notre planète.

— Pensez-vous que les scientifiques devraient intervenir davantage dans les lycées ?

Oui, je pense que les scientifiques actifs sur le sujet devraient intervenir plus souvent. Des lycées mettent en place des programmes expérimentaux comme le Lycée Paul Valéry, mais il n’existe pas vraiment d’action nationale ou régionale. Il faudrait mobiliser plus d’enseignants-chercheurs et de doctorants pour parler d’intelligence artificielle aux élèves de lycée.