Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

Dans la classe moderne, la technologie n'est plus seulement un outil de diffusion des leçons ; elle devient un participant au processus d'apprentissage lui-même. Les systèmes d'intelligence artificielle sont de plus en plus capables d'analyser le comportement des élèves, d'offrir des commentaires et même de prédire les performances futures. Bien que ces outils promettent efficacité et personnalisation, ils introduisent également des questions complexes sur la vie privée, l'équité et les coûts cachés de la puissance de calcul. Pour les jeunes qui grandissent dans un monde saturé d'algorithmes, comprendre comment ces systèmes fonctionnent et quels compromis éthiques ils impliquent devient aussi essentiel que la lecture ou l'écriture. Le défi pour les éducateurs n'est pas simplement d'enseigner la mécanique du code, mais d'aider les élèves à naviguer dans les décisions difficiles qui surviennent lorsque la technologie rencontre les valeurs humaines. Cela nécessite un espace où les apprenants peuvent se mettre à la place des décideurs, peser des intérêts divergents et pratiquer l'art du raisonnement éthique dans un cadre qui semble réel, même si le scénario est imaginé.

Une équipe de chercheurs issus d'universités à travers les États-Unis a développé une nouvelle façon d'amener ces concepts abstraits dans la classe de niveau collège. Ils ont créé un environnement d'apprentissage numérique appelé « Agents of ViTAL: Ethics Missions », une expérience accessible via un navigateur où les élèves travaillent ensemble pour résoudre un problème fictif. Dans ce scénario, un collège envisage d'adopter un nouveau système d'intelligence artificielle nommé PresenterPal, conçu pour fournir un feedback instantané sur les discussions en classe. Les élèves ne sont pas des auditeurs passifs ; ils sont les décideurs. Ils entrent dans un espace virtuel qui mélange l'ordre calme d'une bibliothèque avec la nature expérimentale d'un laboratoire, appelé le « Libratory ». Ici, ils rencontrent des guides numériques qui préparent le terrain pour leur mission : déterminer si l'école doit adopter cette technologie.

Une fois l'enquête commencée, les élèves explorent une version simulée de l'école, recueillant des informations auprès de diverses personnes qui seraient affectées par le nouveau système. Ils s'entretiennent avec des enseignants, des élèves, des administrateurs et du personnel informatique, collectant des preuves telles que des rapports de presse sur des violations de données ou des notes sur des contraintes budgétaires. Au fil de la simulation, ils rencontrent des situations spécifiques qui les forcent à affronter les trois dimensions éthiques principales de l'intelligence artificielle : la vie privée, le biais et l'impact environnemental. Par exemple, lors de la configuration du système, les élèves doivent décider s'ils stockent les données d'interaction des élèves sur des serveurs locaux au sein de l'école ou sur des serveurs cloud ailleurs. Ce choix n'est pas simplement technique ; il a du poids. Stocker les données localement peut protéger la vie privée mais solliciter le budget limité de l'école, tandis que l'utilisation du cloud peut offrir une meilleure sécurité mais soulever des inquiétudes quant à savoir qui d'autre peut accéder aux informations. Ces moments sont conçus pour montrer qu'il existe rarement une solution parfaite, seulement une série de compromis difficiles.

Après avoir recueilli leurs preuves, les élèves passent à une phase collaborative appelée le « Ranking Challenge » (Défi de classement). Dans cette partie de l'expérience, le groupe doit parvenir à un consensus sur les risques et les bénéfices les plus importants de l'IA. Ils utilisent un tableau numérique partagé pour classer ces facteurs, discutant de leur raisonnement dans une fenêtre de chat intégrée. Ce tableau sert de registre visuel de leur pensée collective, les aidant à voir comment leurs vues individuelles évoluent lorsqu'ils s'écoutent les uns les autres. L'objectif n'est pas de trouver une seule réponse « correcte », mais de pratiquer la compétence consistant à justifier des compromis en utilisant les preuves trouvées précédemment. Ils doivent articuler pourquoi ils privilégient la vie privée à la commodité, ou pourquoi ils estiment que les coûts environnementaux sont plus importants que l'efficacité immédiate, puis convenir d'une recommandation finale pour l'école.

Tout ce processus est soutenu par un compagnon numérique appelé EthicsBot. Contrairement à un enseignant traditionnel ou à un moteur de recherche qui fournit des réponses, EthicsBot est conçu pour agir comme un partenaire de réflexion de type pair. Il ne dit pas aux élèves quoi penser ; au contraire, il pose des questions qui les incitent à considérer des perspectives alternatives, à clarifier leur propre raisonnement et à réfléchir au poids éthique de leurs choix. Le système a été construit avec une approche de création unique : les élèves eux-mêmes ont aidé à concevoir le bot. Grâce à un processus de co-conception, des lycéens ont fourni des commentaires qui ont façonné la manière dont le bot s'exprime, ce qu'il suggère et les limites de sécurité qu'il respecte pour éviter de donner des informations trompeuses. Cela garantit que l'outil semble pertinent pour les apprenants et respecte leur voix dans le développement de la technologie qu'ils étudient.

Les chercheurs ont testé cet environnement avec quatre classes de troisième, impliquant quatre-vingts élèves ayant donné leur consentement pour participer. Les résultats ont montré que les élèves étaient profondément engagés par le matériel. Ils ne se sont pas contentés de jouer à un jeu ; ils ont démontré une capacité de raisonnement éthique substantiel, reliant les scénarios fictifs de la simulation à leurs propres expériences réelles avec la technologie. Les élèves ont été capables de discuter de questions complexes comme la sécurité des données et le biais algorithmique avec un niveau de nuance qui suggère que l'approche narrative est efficace. En plaçant les élèves dans le rôle de participants actifs plutôt que de récepteurs passifs d'informations, le système les aide à développer la confiance et les compétences nécessaires pour naviguer dans un monde de plus en plus automatisé. Le projet suggère que lorsque les jeunes disposent de l'espace nécessaire pour explorer ces dilemmes de manière collaborative, ils peuvent développer une compréhension sophistiquée du paysage éthique de l'intelligence artificielle.