Who Designs the Designer? Behavioural Architecture for GenAI in Education

Résumé technique : Qui conçoit le concepteur ? L'architecture comportementale pour l'IA générative dans l'éducation

Énoncé du problème
Le document identifie que le discours actuel sur l'IA dans l'éducation est « bloqué » entre deux paradigmes inefficaces : l'approche de « l'immunisation contre l'IA » (interdire les outils et s'appuyer sur des détecteurs peu fiables) et l'approche de « l'IA en tant que tuteur » (systèmes adaptatifs de contenu). Les deux échouent car elles ignorent des décennies de recherche établissant que la personnalité, la motivation et l'état émotionnel façonnent les résultats d'apprentissage aussi fortement que les capacités cognitives. Les systèmes actuels déduisent ces traits à partir de traces comportementales opaques (ex. : schémas de clics, temps de réponse) sans le consentement ni la compréhension de l'étudiant, ceant un profilage peu fiable et un manque d'agence de l'étudiant. De plus, le « rôle de concepteur » — l'entité qui définit ce que le système considère comme vrai au sujet d'un étudiant — est actuellement occupé uniquement par les fournisseurs d'IA, créant une asymétrie de pouvoir où les institutions évaluent les étudiants à l'aide de systèmes qu'elles ne gouvernent pas.

Méthodologie et architecture proposée
Le document ne présente pas de résultats empiriques mais propose un cadre théorique appelé Architecture Comportementale. Cette architecture redéfinit la conception des systèmes d'IA dans l'éducation à travers trois mécanismes fondamentaux :

1. Dossiers d'apprentissage co-rédigés : Au lieu d'inférer les traits de l'étudiant à partir de traces de données cachées, le système s'adapte en fonction d'un dossier co-rédigé par l'étudiant et le système.
   • Agence de l'étudiant : Les étudiants peuvent nommer les schémas de leur propre apprentissage, accepter ou rejeter les propositions du système, et lire/réviser le dossier à tout moment.
   • Adoption explicite : Aucun schéma ne devient une règle sans adoption explicite (soit par l'étudiant, soit par le système demandant une confirmation).
   • Infrastructure longitudinale : Contra irement aux interventions au niveau du cours, il s'agit d'une infrastructure institutionnelle où la compréhension de l'étudiant est construite tôt et affinée continuellement sur des années, à l'instar d'un ordinateur portable fourni par l'école.
2. Redistribution du rôle de concepteur : Le rôle de « concepteur » (définir la représentation de l'étudiant) est distribué entre trois acteurs :
   • L'éducateur : Définit le cadre pédagogique, les objectifs d'apprentissage et les parcours de base.
   • L'étudiant : Co-rédige la représentation de ses propres schémas d'apprentissage et de ses motivations.
   • L'IA : Exécute les tâches dans les limites fixées par l'éducateur et l'étudiant.
3. Contraintes éthiques : L'architecture interdit explicitement au système de tirer des conclusions psychologiques à partir de schémas d'apprentissage. Elle distingue les observations d'apprentissage (ex. : « vous écrivez mieux après une pause ») des affirmations psychologiques, empêchant le système d'agir comme un outil clinique non agréé au sein d'une institution qui détient un pouvoir sur l'avenir académique de l'étudiant.

Contributions clés
La principale contribution du document est de nommer une vacance : le « rôle de concepteur » dans l'IA appliquée à l'éducation est actuellement inoccupé. Les auteurs soutiennent que l'occupation de ce rôle nécessite une infrastructure qui n'existe pas encore. Le document expose :

• Un changement d'adaptation : Passer de l'adaptation de contenu (ajuster le matériel basé sur des traces cachées) à l'adaptation comportementale (s'adapter à la personnalité, la motivation et l'émotion révélées par la conversation).
• La méta-littératie comme objectif central : Identifier que la co-rédaction est une compétence qui n'est pas enseignée actuellement. Le document soutient que la « méta-littératie » (la capacité d'évaluer, de corriger et de façonner l'information dans les systèmes adaptatifs) doit être un objectif d'apprentissage fondamental pour éviter une fracture numérique où seuls les étudiants privilégiés pourraient participer efficacement.
• Le « Risque Solaria » : Le document identifie un nouveau risque où des environnements d'apprentissage privés hautement efficaces pourraient démanteler la capacité collective de l'éducation, isolant les étudiants (analogue à la Solaria d'Asimov). Les mesures actuelles, qui mesurent les gains individuels, ne peuvent pas détecter cette érosion de l'apprentissage partagé.

Exigences de gouvernance
Le document soutient que les institutions individuelles ne peuvent pas fournir les protections structurelles nécessaires car elles sont à la fois les opérateurs du système et les évaluateurs des étudiants. Par conséquent, une gouvernance au niveau de l'UE est proposée comme la solution nécessaire, basée sur trois mécanismes :

1. Combler la lacune du RGPD : Étendre la portabilité des données (Article 20) pour inclure les profils comportementaux inférés et dérivés, empêant ainsi le verrouillage par les fournisseurs (vendor lock-in).
2. Certification indépendante : Étendre l'IA Act de l'UE pour exiger une certification indépendante garantissant que les architectures comportementales sont pédagogiquement saines et psychologiquement sûres.
3. Normes d'interopérabilité : Appliquer le précédent de l'Espace européen des données de santé pour garantir que les étudiants puissent passer d'un système à l'autre sans perdre leurs dossiers longitudinaux.

Résultats et affirmations
Le document ne présente pas de résultats empiriques ou de données expérimentales. C'est une proposition conceptuelle.

• Affirmations : Le document affirme que les systèmes actuels échouent car ils ignorent les facteurs non cognitifs et manquent d'agence de l'étudiant. Il soutient que l'architecture proposée est la seule façon de déployer éthiquement l'adaptation comportementale dans l'éducation.
• Modestie : Les auteurs font preuve de modestie quant à l'état actuel du domaine, reconnaissant que la base de recherche permettant de déterminer ce qui rend une telle architecture « pédagogiquement sûre » n'existe pas encore.
• Validation future : Le document conclut en proposant cinq questions empiriques pour tester la validité de l'architecture :
  1. Produit-elle de meilleurs résultats d'apprentissage que l'adaptation de contenu uniquement ?
  2. La co-rédaction réduit-elle réellement l'asymétrie de pouvoir, ou est-elle purement performative ?
  3. L'effet « Solaria » (perte de capacité collaborative) émerge-t-il ?
  4. Le système peut-il être conçu pour ne jamais franchir la limite entre les observations d'apprentissage et les affirmations psychologiques ?
  5. La formation à la méta-littératie modifie-t-elle les résultats des étudiants, indiquant un besoin de formation obligatoire ?

Signification
La signification du document réside dans sa critique structurelle des tendances actuelles de l'IA dans l'éducation. Il soutient que sans une conception délibérée qui redistribue le rôle de « concepteur » et établit une gouvernance au niveau supranational, le domaine risque de dériver vers des systèmes de surveillance ou des expériences éducatives isolantes. Il pose le problème non pas comme un défi technique de meilleurs algorithmes, mais comme un défi de gouvernance et d'architecture concernant la question de savoir qui définit la vérité sur l'apprenant.