Les quatre piliers de la recherche en IA pour l'éducation

L'intelligence artificielle trouve aujourd'hui une multitude d'applications à différents niveaux d'enseignement. En offrant à ses utilisateurs une expérience d'apprentissage personnalisée, elle promet d’améliorer la façon dont les élèves apprennent, la façon dont les enseignants travaillent et, plus globalement, ce à quoi l'avenir pourrait ressembler dans le domaine de l'éducation. Néanmoins, quatre challenges, tous étroitement liés, doivent aujourd’hui être au cœur des préoccupations des acteurs du domaine pour que l’intelligence artificielle puisse intégrer pleinement l’expérience éducative du futur.

Le premier concerne l’équité, la confidentialité, et la transparence des décisions. Les algorithmes d'IA apprennent à partir des données récoltées. Si ces données sont biaisées en faveur d'une ethnie, d'un genre ou d'un segment socio-économique, les décisions, par exemple d’admission, pourront aussi l’être. Il est donc important de s’assurer que les algorithmes d'IA n'amplifient des biais existants, et aillent plutôt dans l’idée de réduire les inégalités.

Beaucoup d’acteurs vont dans la volonté de minimisation des données de la CNIL, et souhaitent exclure la variable de genre dans leurs systèmes d’IA, mais au contraire il faut pouvoir mesurer la discrimination pour pouvoir réduire les inégalités.

Et si un algorithme, ou une décision, n’est pas ouvert, il est plus difficile de savoir s’il crée de la discrimination ou pas.

Le second enjeu est la capacité à identifier des métriques utiles pour l’enseignant et l’élève (learning analytics), par exemple mesurer les gains d’apprentissage des élèves. Cela passe notamment par la possibilité de résumer et visualiser des données massives. Il s’agit de résumer les fonctions objectifs qui seront ensuite optimisées avec des techniques d’apprentissage, et pouvoir faire un retour à l’apprenant pour qu’il sache où il se situe dans l’espace des connaissances et comment il y évolue.

Le troisième challenge, lié au précédent, est la possibilité de prédire la performance des étudiants, pour par exemple détecter les étudiants en difficulté et adapter l’enseignement en conséquence.

Comme dit au conseil scientifique de l’Éducation nationale, en France, nous sommes très bons pour remarquer que « le niveau baisse », mais la question à se poser est « comment peut-on agir là-dessus ? ».

L’objectif est ainsi de pouvoir intervenir en amont, en optimisant la séquence d’exercices présentés aux élèves (si les questions sont trop faciles, l’apprenant s’ennuie ; si elles sont trop difficiles, l’apprenant est découragé), tout en s’assurant que les interventions ne vont pas empirer les choses. Cela utilise des techniques d’inférence causale et d’apprentissage par renforcement.

Le quatrième challenge est le développement de la génération automatique de contenu : production écrite, exercices ou corrections. Nous avons beaucoup entendu parler de ChatGPT récemment. La plupart des acteurs de l’éducation sont inquiets, notamment sur le fait que les apprenants pourraient s’en servir pour tricher, alors que cela peut être une vraie opportunité pour générer des exercices adaptés à la difficulté des jeunes, ludiques et innovants ; ou apprendre une langue en interagissant avec un LLM (modèle massif de langage) qui s’adapte au niveau des étudiants et leur fait des retours sur leurs fautes. 

Nous pensons souvent aux risques, sans envisager les nombreuses opportunités que l’IA peut apporter en éducation et en formation.