Résumé Technique : Savoir n'est pas Comprendre : Re-ancrer la Proactivité Générative par l'Insight Épistémique et Comportemental

1. Énoncé du Problème

Les agents d'IA générative actuels passent de simples outils réactifs à des collaborateurs proactifs. Cependant, les approches prédominantes de la proactivité sont fondamentalement désalignées avec les conditions épistémiques de l'enquête humaine. Les systèmes existants opèrent sous l'hypothèse que les objectifs, les incertitudes et les besoins d'information de l'utilisateur sont entièrement représentables, traitant la proactivité comme un problème d'optimisation consistant à anticiper les besoins au sein d'un cadre de tâche fixe.

Le problème central identifié est l'incomplétude épistémique : l'état où le progrès dépend de l'engagement avec les « inconnues inconnues » (les lacunes de connaissance que l'utilisateur et le système n'ont pas encore reconnues). Les agents proactifs actuels échouent à modéliser cette condition car ils opérationnalisent l'ignorance simplement comme une incertitude sur des variables connues. Par conséquent, les agents font preuve d'un outrepassement épistémique (epistemic overreach), agissant avec une grande confiance et un engagement irréversible malgré l'absence d'une compréhension justifiée de la situation. Cela conduit à des modes de défaillance tels que :

• L'erreur en tant que connaissance : Des agents exécutant avec assurance des plans basés sur des modèles internes erronés.
• Le déni : Des agents supprimant l'inconfort épistémique pour maintenir l'élan de la tâche.
• L'engagement incontrôlé : Des agents intensifiant l'action alors que leur compréhension se dégrade, plutôt que de réduire leur intensité.

L'article soutient que la proactivité ne peut être réduite à « plus d'initiative » ou « plus d'autonomie ». Sans un ancrage dans les limites de la compréhension, l'augmentation de l'autonomie ne fait qu'amplifier la capacité à s'engager dans l'erreur.

2. Méthodologie et Cadre Théorique

Cet article ne propose pas d'algorithme, de jeu de données ou de test de référence spécifique. Il avance plutôt une position conceptuelle ancrée dans une synthèse de deux corps de travaux complémentaires :

1. Philosophie de l'Ignorance : S'appuyant sur Kerwin (1993) et d'autres, les auteurs distinguent l'incertitude (manque de confiance sur des variables connues) de l'ignorance (formes structurées, dynamiques et souvent actives de non-savoir, incluant les lacunes non reconnues, le savoir tacite et l'information supprimée). Ce cadre pose l'ignorance comme une condition structurante active qui façonne ce qui peut être questionné.
2. Théorie du Comportement Proactif : S'appuyant sur la théorie des organisations (Parker et al., 2010 ; Grant & Parker, 2007), l'article utilise le Modèle du Beignet Inversé (Inverted Doughnut Model). Ce modèle définit la proactivité comme une initiative bornée :
   • Noyau : Responsabilités prescrites où la déviation est coûteuse.
     // Espace Discrétionnaire : Où l'initiative est encouragée et les erreurs sont récupérables.
   • Outrepassement : Comportement dépassant la légitimité situationnelle, menant au conflit ou à des conséquences imprévues.

L'article critique les paradigmes d'agents existants (Anticipatif, Autonome et à Initiative Mixte) pour avoir externalisé l'incertitude épistémique. Il soutient que si les théories comportementales contraignent où un agent peut agir (périmètre du rôle), elles échouent à contraindre si la compréhension de l'agent justifie l'action.

3. Contributions Clés

A. Le Modèle de Couplage Épistémique-Comportemental

La contribution centrale est l'introduction du couplage épistémique-comportemental, un modèle conjoint reliant deux dimensions :

1. Légitimité Épistémique : Si l'agent est justifié à intervenir compte tenu de ce qu'il peut légitimement prétendre comprendre (distinguant les connus connus, les connus inconnus, les inconnus connus et les inconnus inconnus).
2. Engagement Comportemental : Le degré auquel un agent intervient, engage des ressources ou modifie le monde sans sollicitation explicite de l'utilisateur.

Ce couplage crée un espace à deux dimensions (Figure 4) définissant quatre régimes :

• Haute Légitimité / Faible Engagement : Assistance prudente (observation, clarification).
• Haute Légitimité / Haut Engagement : Action justifiée (intervention ancrée).
• Faible Légitimité / Faible Engagement : Sondage exploratoire (collecte d'informations).
• Faible Légitimité / Haut Engagement : Outrepassement Épistémique (le principal mode de défaillance où les agents agissent de manière décisive sans compréhension justifiée).

B. Recadrage des Modes de Défaillance

L'article reclassifie les échecs courants des agents non pas comme des hallucinations isolées ou des problèmes d'alignement, mais comme des mauvais couplages :

• Outrepassement Épistémique : Un haut engagement exercé sans compréhension justifiée.
• Signaux Épistémiques Supprimés : Des agents lissant l'incertitude pour maintenir la cohérence, empêchant la détection d'un désalignement.
• Engagement Incontrôlé : Une intensification de l'action face à la dégradation épistémique due à des boucles d'auto-amélioration qui traitent l'erreur comme une connaissance.

C. Exigences Comportementales Minimales

Les auteurs proposent quatre contraintes que tout système proactif doit satisfaire pour éviter un mauvais couplage structurel :

1. L'engagement doit croître proportionnellement à la récupérabilité épistémique : Les actions irréversibles exigent une compréhension forte ; les interventions sous fragilité doivent rester réversibles.
2. La proactivité doit préserver les signaux épistémiques : Les actions ne doivent pas supprimer l'incertitude, le désaccord ou les preuves anormales.
3. L'engagement doit être interruptible par la dégradation épistémique : Les systèmes doivent réduire leur intensité ou suspendre l'intervention lorsqu'une nouveauté ou une incohérence est détectée.
4. L'incertitude épistémique doit moduler activement l'initiative : L'incertitude doit influencer quand et comment l'action est entreprise, et non simplement la qualifier a posteriori.

D. Identification de la Variable de Contrôle Manquante

L'article soutient que l'autonomie est la mauvaise variable de contrôle pour réguler la proactivité. L'autonomie détermine qui agit, mais l'engagement détermine avec quelle force un agent agit et l'étendue avec laquelle il façonne les états futurs. Les objectifs d'entraînement actuels récompensent le « momentum » (achèvement de la tâche, cohérence, vitesse), ce qui incite les agents à intensifier l'engagement même lorsque la légitimité épistémique s'érode.

4. Résultats et Analyse

En tant qu'article de position, les résultats sont théoriques et analytiques plutôt qu'empiriques :

• Analyse des Approches Prévalentes : Une revue des systèmes anticipatifs, autonomes et à initiative mixte (Tableau 1) révèle un plafond structurel : ils opèrent principalement dans les « connus connus » et les « connus inconnus ». Même les systèmes à initiative mixte, qui gèrent les « inconnus connus » (intention latente), échouent généralement à engager les « inconnus inconnus ».
• Diagnostic des Incitations d'Entraînement : L'article démontre que les pressions d'optimisation actuelles (récompensant l'achèvement de la tâche et les séquences cohérentes) privilégient systématiquement l'axe de l'engagement tout en laissant la légitimité épistémique sous-contrainte. Cela explique pourquoi l'outrepassement épistémique est un mode de défaillance persistant et prévisible plutôt qu'une anomalie.
• Validation Conceptuelle : Le cadre de couplage parvient à unifier divers modes de défaillance (hallucination, autonomie dangereuse, désalignement) sous un seul prisme explicatif : le découplage entre savoir et agir.

5. Signification et Directions Futures

L'article revendique sa importance en recadrant l'espace de conception de la proactivité générative, passant d'une « initiative maximale » à une déviation calibrée.

• Partenariat Épistémique : Les auteurs proposent une nouvelle frontière où les agents agissent comme des partenaires épistémiques. Cela implique des agents qui :
  • Posent des questions sur les inconnues inconnues.
  • Fonctionnent comme des penseurs à long terme, raisonnant sur l'évolution des objectifs et les conséquences différées.
  • Exhibent une proactivité au moment de l'exécution (test-time proactivity), régulant activement l'initiative pendant le déploiement pour rester dans l'espace conjoint épistémique-comportemental.
• Agenda de Recherche : L'article esquisse cinq questions critiques pour les travaux futurs :
  1. Comment représenter la légitimité épistémique distinctement des scores de confiance ?
  2. Quels signaux épistémiques doivent être préservés pendant l'action ?
  3. Comment détecter la dégradation épistémique en temps réel ?
  4. Quand la retenue est-elle le comportement proactif correct ?
  5. Comment évaluer la qualité du couplage (justification au moment de l'action vs résultat final) ?

En fin de compte, l'article soutient que le progrès de l'IA proactive dépend moins de l'augmentation de l'autonomie que de la discipline de l'engagement en présence d'une compréhension incomplète. Il appelle à un changement où les agents sont évalués non seulement sur leur capacité à clore des tâches, mais sur leur capacité à soutenir l'enquête, à faire émerger les lacunes latentes et à calibrer la retenue.