Artificial Agency Program: Curiosity, compression, and communication in agents

Cet article présente le Programme d'Agence Artificielle (AAP), une feuille de recherche qui propose de concevoir des systèmes d'IA comme des agents réalistes et limités en ressources, motivés par la curiosité et l'apprentissage, afin d'optimiser l'interaction homme-outil-environnement grâce à l'unification de la compression prédictive, de la motivation intrinsèque et de la communication.

L'essentiel

🌍 L'Idée de Base : L'IA n'est pas un Dieu, c'est un Apprenti

Imaginez que nous essayons de construire une intelligence artificielle (IA) comme si nous voulions créer un super-héros capable de tout savoir et de tout faire instantanément. Le problème, c'est que dans la vraie vie, nous ne sommes pas des super-héros. Nous sommes des humains limités : nous avons une mémoire courte, nous ne voyons pas tout, nous avons besoin de dormir, et nous devons dépenser de l'énergie pour bouger.

Richard Csaky propose une nouvelle façon de voir les choses : au lieu de créer une IA qui essaie d'être parfaite, créons une IA qui agit comme un agent réel, avec des limites, des budgets et de la curiosité.

L'objectif n'est pas seulement d'avoir une IA intelligente, mais d'avoir une IA qui fonctionne bien avec nous, dans un monde réel, en gérant ses ressources (temps, énergie, calcul) comme un humain le ferait.

---

🧠 Les Trois Piliers de la Programmes (Curiosité, Compression, Communication)

Pour rendre cette IA « vivante » et utile, l'auteur propose trois moteurs principaux :

1. La Curiosité : « Je veux comprendre ce que je ne maîtrise pas encore »

Dans les jeux vidéo classiques, l'IA est souvent récompensée pour trouver des choses nouvelles ou surprenantes. Mais Csaky dit : « Non, la vraie curiosité, c'est de chercher à comprendre ce que l'on peut déjà toucher, mais qu'on ne sait pas encore prédire parfaitement. »

• L'analogie du puzzle : Imaginez un enfant qui joue avec des pièces de puzzle.
  • Si le puzzle est trop facile (tout est déjà assemblé), l'enfant s'ennuie.
  • Si le puzzle est trop dur (des pièces d'un autre puzzle), l'enfant est frustré et abandonne.
  • La vraie curiosité, c'est quand l'enfant trouve une pièce qui s'ajuste juste un peu mieux que la dernière fois. C'est le moment où il apprend.
  • L'IA doit donc chercher à améliorer sa capacité à prédire le monde, pas juste à chercher du bruit ou du chaos.

2. La Compression : « Résumer le monde pour le garder en tête »

Le monde est immense et complexe. Pour le comprendre, il faut le résumer. C'est ce qu'on appelle la « compression ».

• L'analogie du journal de bord : Imaginez que vous devez raconter votre journée à un ami. Si vous racontez chaque seconde (« j'ai marché, puis j'ai respiré, puis j'ai marché... »), c'est long et inutile.
  • La compression, c'est dire : « J'ai fait une promenade agréable ». Vous avez compressé des milliers de données en une phrase utile.
  • L'IA doit apprendre à trouver les modèles (les règles) qui expliquent le monde avec le moins de mots possibles. Plus elle est bonne pour compresser, plus elle comprend vraiment le monde.

3. La Communication : « Parler pour penser et agir »

L'auteur voit le langage (et la communication) non pas comme une fin en soi, mais comme un outil parmi d'autres.

• L'analogie de la boîte à outils : Imaginez un artisan. Il a un marteau, un tournevis et une règle. Il ne les utilise pas tous en même temps. Il choisit l'outil selon la tâche.
  • Parfois, il faut « parler » (écrire une pensée, un token) pour organiser ses idées.
  • Parfois, il faut juste « agir » (bouger, cliquer) sans parler.
  • Parfois, il faut juste « observer » sans rien faire.
  • Le programme propose de donner à l'IA un budget. Elle doit décider : « Est-ce que je dépense mon énergie pour réfléchir (penser en silence), pour parler (écrire), ou pour agir ? ». Si elle parle trop sans raison, elle gaspille son énergie.

---

⚖️ Le Concept Clé : L'Interface (Le Pont entre l'IA et le Monde)

L'un des points les plus intéressants est l'idée de « friction ».

• L'analogie du casque de réalité virtuelle : Imaginez que vous portez un casque VR.
  • Si l'image est floue (mauvaise vision) et que vos mains bougent avec 5 secondes de retard (mauvaise action), vous ne pouvez pas jouer correctement, même si votre cerveau est génial.
  • Le problème n'est pas l'intelligence, c'est le lien (l'interface) entre vous et le monde.
  • L'IA doit pouvoir améliorer ce lien. Si elle peut « acheter » de meilleurs capteurs ou agir plus vite, elle le fera, mais seulement si cela lui permet d'apprendre plus vite à long terme.

---

🧪 Le Plan d'Expérience : Comment tester tout ça ?

L'auteur ne veut pas juste théoriser, il veut tester cela par étapes, comme un scientifique qui construit un laboratoire :

1. Niveau 1 (Le Terrain de Jeu) : On commence avec de petits mondes virtuels simples (comme des grilles de pixels) où l'on peut contrôler exactement ce que l'IA voit et entend. On vérifie si elle apprend vraiment à mieux prédire.
2. Niveau 2 (Les Énigmes) : On passe à des puzzles complexes (comme les tests ARC-AGI) où l'IA doit réfléchir, observer et agir. On lui impose un budget d'énergie strict.
3. Niveau 3 (Le Monde Réel) : On utilise de grosses IA modernes (qui voient et entendent) et on leur ajoute un « chef d'orchestre » (un contrôleur) qui décide à chaque seconde : « Dois-je regarder plus longtemps ? Dois-je réfléchir ? Ou dois-je agir maintenant ? ».

Le but final : Ne pas chercher la note la plus haute, mais la note la plus efficace. Une IA qui obtient 90/100 en dépensant très peu d'énergie est mieux qu'une IA qui obtient 95/100 mais qui consomme l'énergie d'une ville entière.

---

💡 En Résumé : Pourquoi c'est important ?

Aujourd'hui, on construit des IA qui sont comme des génies enfermés dans une tour d'ivoire, qui lisent tout Internet mais qui ne savent pas comment interagir avec le monde réel sans gaspiller des ressources.

Le programme de Richard Csaky veut construire des agents de terrain :

• Des agents qui savent qu'ils ont un budget (temps, énergie, mémoire).
• Des agents qui sont curieux de ce qu'ils peuvent apprendre maintenant.
• Des agents qui savent choisir quand parler, quand réfléchir et quand agir.

C'est une vision plus humaine, plus réaliste et plus durable de l'intelligence artificielle. Au lieu de créer des machines qui essaient de tout savoir, on crée des partenaires qui savent comment naviguer dans un monde imparfait.

Résumé technique

1. Problématique et Contexte

Le papier identifie une lacune fondamentale dans les systèmes d'IA contemporains (notamment les modèles de langage à grande échelle) : ils sont entraînés et évalués dans des conditions qui ne reflètent pas les contraintes de l'agence biologique réelle. Les systèmes actuels possèdent souvent une mémoire textuelle surhumaine mais manquent de contraintes réalistes en matière de :

• Intégration dans la réalité : Interaction physique et temporelle limitée.
• Ressources finies : Contraintes de calcul, de mémoire, de bande passante de capteurs et d'actionneurs.
• Incertitude : Nécessité d'agir avec une observabilité partielle.

L'auteur soutient que l'intelligence ne doit pas être vue comme une capacité brute isolée, mais comme une propriété d'un système couplé humain-outil-environnement. Le problème central est de concevoir des agents qui maximisent leur utilité (sensing, compréhension, action) tout en minimisant la friction et le coût énergétique, plutôt que de simplement optimiser une métrique de performance sans tenir compte des coûts d'opportunité.

2. Méthodologie et Cadre Formel

L'AAP propose un programme de recherche structuré autour d'un agent intégré, limité en ressources, dont le développement est piloté par la curiosité définie comme progrès d'apprentissage (learning progress).

A. Formalisation de l'Agent

L'agent est modélisé comme un processus contrôlé partiellement observable (POMDP) avec des contraintes dynamiques :

• États : $X_t$ (état caché de l'environnement), $S_t$ (état interne de l'agent), $O_t$ (observation), $A_t = (U_t, V_t)$ (action).
• Contraintes de capacité : $c^O_t$ (observation), $c^A_t$ (action), $c^C_t$ (calcul/délégation). Ces capacités peuvent être modifiées par l'agent.
• Récompense Intrinsèque (Curiosité) : Au lieu de la nouveauté brute, l'agent est motivé par l'amélioration de la compression prédictive. La récompense $r_t$ est la différence entre la perte prédictive avant et après une mise à jour du modèle. L'agent cherche à réduire l'incertitude sur les observations futures.

B. Fonction Objectif Unifiée

L'objectif global $J$ maximise le progrès d'apprentissage tout en pénalisant les coûts :
$$J = \mathbb{E} \left[ \sum \gamma^{t-1} (r_t - \lambda_O C_O(t) - \lambda_E C_E(t) - \lambda_C C_C(t) - \lambda_M C_M(t)) \right]$$
Où les coûts couvrent le traitement des observations, l'action/énergie, le calcul/délégation et la maintenance de la mémoire (liée à la thermodynamique de l'information).

C. Concepts Clés

1. Empowerment (Autonomisation) : Capacité de l'agent à influencer les observations futures via ses actions (capacité du canal).
2. Plasticité : Mesure de l'influence des observations sur les actions (adaptation réactive).
3. Unification (Qualité de l'interface) : Réduction des goulots d'étranglement entre l'agent et l'environnement (capacité de perception, d'action et de communication).
4. Langage comme goulot d'étranglement sélectif : Le langage (ou les tokens privés) n'est pas un mode de calcul privilégié par défaut, mais une ressource coûteuse à allouer uniquement lorsque le gain en compression ou en coordination justifie le coût.

3. Contributions Clés

Le papier propose cinq hypothèses principales (H1-H5) et un agenda expérimental :

• H1 (Alignement pragmatique) : L'amélioration du progrès d'apprentissage (compression) tend à coïncider avec l'amélioration du contrôle et de l'autonomisation dans des régimes de contraintes réalistes.
• H2 (Pression vers l'unification) : Les agents optimiseront leurs ressources pour améliorer leurs interfaces (capteurs, actionneurs, communication) tant que le retour à long terme (progrès d'apprentissage) dépasse le coût marginal.
• H3 (Pression prédictive induite par les contraintes) : Même sans récompense intrinsèque explicite, les contraintes de viabilité et de coût forcent l'agent à développer de meilleures représentations prédictives pour éviter le gaspillage de ressources.
• H4 (Optimalité adaptative du calcul) : Un méta-contrôleur qui alloue dynamiquement le budget entre observation, action et délibération surpasse les calendriers fixes, surtout lorsque la difficulté de la tâche varie.
• H5 (Goulot d'étranglement de l'auto-communication) : L'utilisation de tokens privés (langage interne ou symboles) améliore l'efficacité de l'échantillonnage et la planification à long horizon, à condition que ce canal soit régulé par un coût de bande passante.

Nouvelle Taxonomie de Tokens :
L'auteur propose une classification unifiée des tokens par modalité ($V$=Vision, $S$=Audio, $T$=Texte, $A$=Action) avec trois rôles :

1. Entrée ($i$) : Observations du monde.
2. Privé/Self ($s$) : Délégation interne, raisonnement, imagerie mentale (sans sortie publique).
3. Sortie/Public ($o$) : Communication avec l'environnement ou d'autres agents.

4. Résultats Attendus et Agenda Expérimental

Le papier ne rapporte pas de résultats empiriques finaux (c'est un programme de recherche), mais définit une feuille de route en trois étapes pour valider ces hypothèses :

1. Phase 1 : POMDPs Synthétiques : Environnements de type "Gridworld" avec des dynamiques latentes connues et des goulots d'étranglement contrôlables. Objectif : Calibrer les métriques et tester H1-H3.
2. Phase 2 : Inférence Interactive (style ARC-AGI) : Tâches nécessitant une généralisation avec peu de données. Objectif : Tester l'allocation de ressources entre observation, action et délibération interne (H4, H5).
3. Phase 3 : Contrôle Méta Multimodal (VLA) : Utilisation d'un modèle pré-entraîné (Vision-Language-Action) avec un contrôleur léger qui décide dynamiquement d'acquérir des données, d'agir ou de réfléchir.

Critères de Succès :

• Amélioration de la frontière Pareto (Performance vs Coût).
• Utilisation interprétable et non triviale de la computation privée.
• Adaptation systématique de l'allocation des actions méta en fonction des coûts et des contraintes d'interface.

5. Signification et Impact

Ce travail est significatif car il opère un changement de paradigme dans la conception de l'IA :

• De la capacité brute à l'efficacité contrainte : Il déplace le focus de la maximisation des scores de benchmark vers l'optimisation sous contraintes énergétiques et temporelles, reflétant mieux la réalité biologique et physique.
• Théorie de l'agence étendue : Il formalise l'idée que l'intelligence émerge de l'interaction entre un agent, ses outils et son environnement, et que la "curiosité" est un mécanisme d'expansion de capacités pour améliorer la compression prédictive.
• Réévaluation du Langage : Il remet en question le dogme selon lequel le langage est le mode de calcul optimal pour toutes les étapes de la pensée. Il propose que le langage interne (pensée) devrait être traité comme une ressource coûteuse, au même titre que l'action ou la perception, à activer uniquement lorsque nécessaire.
• Fondements Thermodynamiques : En reliant la compression d'information, la prédiction et les coûts énergétiques (via la thermodynamique de l'information), le papier offre un cadre théorique unifié pour comprendre l'efficacité des systèmes intelligents.

En résumé, l'AAP propose un cadre falsifiable pour construire des agents artificiels qui ne sont pas seulement "intelligents" en termes de performance, mais qui sont robustes, efficaces et adaptatifs dans des environnements réels limités en ressources.