Résumé Technique : Apprendre à Prompter – Améliorer l'engagement des élèves avec un tutorat de niveau secondaire adaptatif basé sur les LLM

Énoncé du Problème

Bien que les modèles de langage étendus (LLM) offrent un potentiel significatif pour personnaliser l'éducation, les systèmes de tutorat actuels font face à trois limitations principales :

1. Prompting Statique : La plupart des systèmes existants reposent sur des prompts statiques conçus pour un seul sujet (ex. : les mathématiques), échouant à s'adapter aux exigences diverses de différentes disciplines académiques (ex. : le français, la géographie, la physique).
2. Écart Simulation-Réalité : La recherche valide souvent l'efficacité pédagogique dans des environnements synthétiques où des étudiants simulés peuvent présenter une « sycophantie » ou des comportements idéalisés, ce qui entraîne des décalages de distribution lors du déploiement auprès de vrais étudiants.
3. Rareté du Feedback : Dans des scénarios réels, les utilisateurs sautent souvent les exercices formels après avoir interagi avec un tuteur, ce qui entraîne une absence de feedback immédiat et explicite (ex. : scores de tests) nécessaire pour entraîner des modèles adaptatifs. Les approches existantes reposent souvent sur des scores uniques de type « boîte noire », sujets à une variance élevée et au détournement de récompense (reward gaming).

Méthodologie

Les auteurs proposent un Système de Tutorat Adaptatif Sensible au Sujet qui cadre la sélection de prompts comme un problème de routage de bandits contextuels. Le cadre se compose de trois composantes fondamentales :

1. Représentation des Entrées et Espace de Prompts

• Entrée Hybride ($X$) : Pour atténuer la dégradation de la représentation (anisotropie) dans les plongements (embeddings) pré-entraînés, le système utilise une architecture à double voie. Il fusionne un plongement thématique de 768 dimensions (provenant d'un encodeur E5) avec un plongement d'ID de sujet apprenable de 64 dimensions. Cela injecte explicitement les frontières de sujets dans l'espace latent.
• Pool de Prompts ($P$) : Le système sélectionne parmi un pool de 20 prompts pédagogiques distincts. Ces prompts, rédigés par des experts humains et variés via des LLM, couvrent des stratégies telles que l'étayage socratique, l'inversion de rôle de Feynman et le soutien empathique.

2. Calibration du Score Évaluatif ($Y$)

Pour remédier à l'absence de scores d'exercices immédiats, les auteurs emploient un Évaluateur LLM (GPT-5-mini) qui décompose l'efficacité instructionnelle en 14 critères pédagogiques binaires fondés sur la théorie de l'éducation (ex. : étayage du tuteur, curiosité de l'élève, réponses correctes en moins de 2 tours).

• Pondération : Le score brut est une somme pondérée de ces 14 caractéristiques, où les poids sont dérivés des corrélations de Pearson avec les résultats d'apprentissage étiquetés par des humains.
• Calibration : Pour combler l'écart sim-vers-réel, une fonction de calibration sigmoïde est appliquée au score brut ($y_{raw}$) afin d'aligner la distribution du feedback simulé avec les distributions empiriques du monde réel, empêchant le routeur de sur-optimiser pour des comportements synthétiques.

3. Architecture de Routage et Optimisation

• Réseau Acteur-Critique : Le routeur utilise un mécanisme d'injection de sujet résiduel. L'embedding du sujet est injecté directement dans les couches de sortie finales (via des connexions de saut/skip-connections) pour éviter la dilution lors des transformations non linéaires profondes, garantissant que les exigences spécifiques au sujet gouvernent la sélection de la stratégie.
• Entraînement : Le modèle est optimisé à l'aide de l'Optimisation de Politique Proche (PPO) adaptée à un cadre de bandit contextuel à étape unique. Il utilise le Rejeu d'Expérience (Experience Replay) et l'échantillonnage d'importance pour gérer la latence élevée des environnements LLM.
• Stratégie de Déploiement : En déploiement réel, le système opère selon deux modes : Exploitation (80 % du trafic, sélection gourmande de la stratégie ayant la plus haute probabilité) et Exploration (20 % du trafic, échantillonnage pondéré pour recueillir des données d'entraînement diversifiées).

Configuration Expérimentale

• Simulation : Un environnement contrôlé avec trois profils d'étudiants simulés (Motivé, Médiocre, Non motivé) a été utilisé pour entraîner le routeur sur 16 000 étapes.
• Test A/B en Monde Réel : Le système a été déployé auprès de 359 lycéens néerlandais (656 conversations) en mars et avril 2026.
• Baselines : Des comparaisons ont été faites avec une Baseline de Production (prompt socratique statique raffiné par un expert) et une Baseline de la Littérature (adaptation statique d'un prompt pédagogique antérieur).

Résultats Clés

1. Performance de la Simulation

• Le routeur adaptatif a significativement surpassé les deux baselines statiques en simulation (Score Moyen : 0,694 contre 0,647 et 0,64, $p < 0,001$).
• Le routeur a réussi à éliminer la « queue » des interactions médiocres (scores < 0,4) observée avec les approches statiques.
• Alignement de Sujet : Dans 8 des 13 sujets évalués, le routeur a atteint une correspondance parfaite avec la stratégie empiriquement optimale. Dans les autres, la marge de regret était minimale (< 0,02).

2. Déploiement en Monde Réel

• Efficacité Instructionnelle : Le routeur adaptatif a réduit le nombre de tours nécessaires pour atteindre des interactions profondes (tours $\ge$ 5) d'environ 3 tours par rapport à la baseline ($p = 0,007$).
• Changement de Stratégie : Le routeur a réussi à passer de stratégies préférées en simulation (ex. : Feynman/raisonnement profond) à des stratégies optimales en monde réel (ex. : Coach/étayage), démontrant un transfert réussi de la simulation vers la réalité.
• Taux de Conversion :
  • Le routeur d'Exploitation a obtenu un taux de conversion comparable à la baseline statique (19,1 % contre 19,6 %).
  • Le routeur d'Exploration (échantillonnage stochastique) a obtenu un taux de conversion significativement plus élevé de 28,1 %, suggérant que la diversité des stratégies peut être plus bénéfique qu'une politique unique « optimale » lors d'un déploiement précoce.
• Validité du Score : Les scores pédagogiques de l'évaluateur LLM étaient statistiquement prédictifs de la conversion aux exercices (0,599 pour les convertis contre 0,560 pour les non-convertis, $p = 0,037$), validant la métrique de substitution (proxy).

Signification et Revendications

L'article affirme démontrer que :

1. Le Feedback Décomposé est Robuste : Décomposer l'efficacité instructionnelle en 14 critères observables fournit un proxy fiable, aligné sur l'humain, pour le succès de l'apprenant, même en l'absence de scores d'exercices en aval.
2. Le Routage Adaptatif Fonctionne : Formuler le tutorat comme un problème de routage de prompts permet au système de spécialiser les stratégies pédagogiques à travers différents sujets, surpassant les baselines statiques tant en simulation qu'en conditions réelles.
3. Le Transfert Sim-vers-Réel est Réalisable : Grâce à la calibration des scores et à l'injection de sujet résiduelle, le système peut combler l'écart entre les simulations idéalisées et les interactions réelles éparses et bruitées, en déplaçant les stratégies pour correspondre aux besoins réels des étudiants (ex. : passer du raisonnement profond à l'étayage).

Les auteurs notent des limites, notamment la rareté des données pour les sujets de niche, la difficulté de mesurer le gain de connaissances immédiat sans exercices formels, et la contrainte d'un pool de prompts discrets qui empêche la génération de nouvelles stratégies hybrides. Ils suggèrent que les travaux futurs pourraient se concentrer sur des études longitudinales, l'équilibre des déséquilibres de domaines et l'incorporation de l'historique de conversation dans la décision de routage.