DEUXIÈME PARTIE
POUR UNE INTÉGRATION
EFFICACE ET RESPONSABLE DE L'IA DANS L'ÉDUCATION :
ACCOMPAGNER, FORMER, ÉVALUER
Dans un contexte où le marché de l'IA dans l'éducation connaît une expansion importante, soulevant des questions sociétales et éthiques majeures, des principes directeurs consensuels ont été fixés au niveau international pour orienter les politiques publiques. Il faut reconnaître à la France le mérite d'avoir pris la mesure de l'importance des développements en cours et d'avoir entrepris des actions pour intégrer l'IA dans le service public de l'éducation.
Cependant, il manque des lignes directrices claires et un cadre de confiance qui permettraient de tirer tout le parti des potentialités permises par l'IA et d'entrevoir une « hybridation » réussie des pratiques d'enseignement. Pour l'avenir, une attention accrue devra être portée à l'accompagnement et la formation des acteurs, l'émergence d'une culture citoyenne de l'IA et la poursuite de l'évaluation des outils disponibles et de la recherche.
I. UNE VISION STRATÉGIQUE D'ENSEMBLE ET UN CADRE D'USAGE QUI RESTENT À PRÉCISER, UN CLIMAT DE CONFIANCE À BÂTIR
A. DES PRINCIPES DIRECTEURS CONSENSUELS FIXÉS AU NIVEAU INTERNATIONAL
De grandes orientations ont été définies par les institutions internationales pour encadrer l'utilisation de l'intelligence artificielle dans l'éducation. En vertu du consensus de Beijing24(*) adopté par l'Unesco, les parties prenantes sont notamment invitées à :
· planifier l'IA dans les politiques de l'éducation, en gardant notamment à l'esprit le caractère pluridisciplinaire de l'IA et de ses effets ;
· mettre l'IA au service de l'autonomisation des enseignants et de leur enseignement, l'éducation devant continuer de reposer essentiellement sur l'interaction et la collaboration humaines ;
· soutenir le développement de nouveaux modèles et envisager l'application de solutions d'IA novatrices lorsque les avantages l'emportent clairement sur les risques ;
· développer les valeurs et compétences nécessaires dans la vie et au travail à l'ère de l'IA ;
· exploiter le potentiel de l'IA pour offrir à tous des possibilités d'apprentissage personnalisé tout au long de la vie ;
· promouvoir une utilisation équitable et inclusive de l'IA dans l'éducation ;
· veiller à une utilisation éthique, transparente et vérifiable des données éducatives et des algorithmes ;
· garder à l'esprit l'absence d'études systématiques sur les effets des applications de l'IA dans l'éducation et adopter une approche interdisciplinaire de la recherche sur l'utilisation de l'IA dans l'éducation.
Il convient d'apporter des « réponses politiques appropriées visant à intégrer systématiquement l'intelligence artificielle (IA) dans l'éducation [...] et à utiliser l'IA comme un levier afin d'accélérer la mise en place de systèmes éducatifs ouverts et flexibles, offrant à tous des possibilités d'apprentissage tout au long de la vie équitables, pertinentes et de qualité ».
Unesco, 2021
Ces principes directeurs ont été approfondis dans les travaux ultérieurs de l'Unesco, qui a notamment mis au point un « guide pour les décideurs publics »25(*). Leur esprit est partagé par les institutions européennes (Conseil de l'Europe et Union européenne) qui ont également élaboré un cadre éthique sur l'utilisation de l'IA.
Au sein de l'Union européenne, le règlement européen sur l'IA (« AI Act ») dont l'entrée en vigueur échelonnée est fixée au 1er août 2024, constitue la première législation générale au monde en la matière. Elle privilégie une approche fondée sur les risques en classant les systèmes d'IA en quatre niveaux (risque inacceptable, haut risque, risque spécifique en matière de transparence et risque minimal).
S'agissant de l'éducation, les systèmes d'IA qui contribuent à déterminer l'accès ou l'affectation aux établissements d'enseignement ou à évaluer les étudiants sont classés parmi les utilisations à haut risque. Parmi les applications interdites figurent notamment les systèmes de reconnaissance des émotions dans les établissements d'enseignement ou encore les systèmes de notation basés sur le comportement social ou les caractéristiques personnelles.
* 24 Unesco, Consensus de Beijing sur l'intelligence artificielle et l'éducation, « Planifier l'éducation à l'ère de l'IA : un bond en avant », 16-18 mai 2019.
* 25 Unesco, IA et Éducation, Guide pour les décideurs publics, 2021. Unesco, Enseigner l'intelligence artificielle au primaire et au secondaire. Une cartographie des programmes validés par les gouvernements, 2023. Unesco, Orientations pour l'intelligence artificielle générative dans l'éducation et la recherche, 2024.