Working Paper: Towards a Category-theoretic Comparative Framework for Artificial General Intelligence

Ce papier de travail propose un cadre formel fondé sur la théorie des catégories pour décrire, comparer et analyser de manière unifiée différentes architectures d'Intelligence Artificielle Générale (AGI), afin d'identifier leurs similitudes, leurs différences et d'orienter la recherche future.

L'essentiel

Imaginez que vous êtes un architecte en chef chargé de construire des "cerveaux artificiels" (des AGI). Aujourd'hui, il existe des milliers de projets différents : certains apprennent par essais et erreurs (comme un enfant qui touche un four chaud), d'autres raisonnent avec des causes et des effets, d'autres encore utilisent des schémas complexes comme des Lego.

Le problème ? Chacun parle sa propre langue. Un ingénieur en "Apprentissage par Renforcement" ne parle pas la même langue qu'un expert en "Inférence Active". Il est très difficile de comparer leurs créations, de savoir qui est le plus intelligent, ou de comprendre comment améliorer l'un en s'inspirant de l'autre.

C'est là qu'intervient ce papier de recherche. Les auteurs proposent une nouvelle "langue universelle" basée sur les mathématiques (la théorie des catégories) pour décrire, comparer et construire ces intelligences.

Voici l'explication simple, avec des images pour mieux comprendre :

1. Le Plan vs. La Maison (Architecture vs. Agent)

Pour comprendre leur idée, il faut distinguer deux choses :

• L'Architecture (Le Plan) : C'est le dessin sur papier. Il dit : "Il faut une cuisine, une chambre, et un couloir qui les relie". Il ne dit pas de quelle couleur sont les murs, ni quelle marque de robinet utiliser. C'est la structure pure.
• L'Agent (La Maison construite) : C'est la réalité. C'est la maison avec ses murs rouges, ses robinets en cuivre et ses meubles.

Les auteurs disent : "Arrêtons de comparer les maisons (les algorithmes) directement. Comparons d'abord les plans (les architectures) !"

2. La Théorie des Catégories : Le "Lego Mathématique"

Comment comparer des plans très différents ? Ils utilisent la Théorie des Catégories. Imaginez que c'est une boîte de Lego ultra-puissante.

• Dans cette boîte, chaque pièce (un module de décision, un capteur, une mémoire) est une forme géométrique.
• Les connexions entre les pièces sont des règles de branchement.
• Cette théorie permet de dire : "Ce plan A est en fait une version simplifiée du plan B" ou "Ces deux plans, bien qu'ils semblent différents, ont exactement la même structure de base".

C'est comme si vous pouviez transformer un dessin de voiture en un dessin de vélo en mathématiques, juste en changeant certaines pièces, pour voir ce qui est commun aux deux véhicules.

3. Deux Couches de l'Architecture : Le "Squelette" et la "Mémoire"

L'auteur fait une distinction cruciale, comme dans une usine de montage :

• Le Squelette (Syntaxe) : C'est le chemin que l'information suit. "D'abord on regarde, ensuite on décide, ensuite on agit". C'est le flux de travail.
• La Mémoire (Connaissance) : C'est ce qu'on apprend et comment on le stocke.
  • Exemple 1 (Le Docteur classique) : Il a toujours le même flux (observer -> décider -> agir). Mais s'il rencontre une nouvelle maladie, il peut créer un nouveau dossier dans sa mémoire.
  • Exemple 2 (Le Docteur rigide) : Il a le même flux, mais sa mémoire est bloquée. Il ne peut pas créer de nouveaux dossiers ; il doit juste ajuster les chiffres dans le dossier existant. Même s'il voit une nouvelle maladie, il essaie de l'adapter à l'ancienne.

Le papier montre que la différence entre un robot "bête" et un robot "intelligent" ne vient pas seulement de son flux de travail, mais de la flexibilité de sa mémoire.

4. L'Évolution des Architectures (De la simple à la complexe)

Les auteurs comparent plusieurs types d'architectures comme des étapes d'évolution :

• Niveau 1 : L'Apprentissage par Renforcement (RL) - Le Chien de Pavlov.
  • Analogie : Un chien qui apprend que si il sonne, il a une friandise. Tout est stocké dans un seul gros sac de paramètres. Si le chien apprend une nouvelle astuce, il doit tout réapprendre. C'est simple, mais rigide.
• Niveau 2 : L'Apprentissage Causal (CRL) - Le Détective.
  • Analogie : Le détective ne se contente pas de dire "A cause B". Il comprend pourquoi. Il a deux sacs : un pour "ce que je fais" (la politique) et un pour "comment le monde fonctionne" (le modèle causal). Il peut tester des hypothèses ("Et si je faisais ça ?") sans vraiment le faire. C'est plus intelligent.
• Niveau 3 : L'Apprentissage Basé sur les Schémas (SBL) - Le Maître Lego.
  • Analogie : C'est l'architecture la plus avancée proposée ici. Imaginez un cerveau qui ne stocke pas tout dans un seul gros bloc, mais qui a des milliers de petites boîtes (des "schémas").
  • Il a une boîte "Comment ouvrir une porte", une boîte "Comment éviter la pluie", une boîte "Comment cuisiner".
  • Quand il apprend, il ne réécrit pas tout son cerveau. Il crée une nouvelle petite boîte ou combine deux boîtes existantes. Il peut réutiliser ses connaissances d'hier pour aujourd'hui. C'est la clé pour apprendre continuellement sans oublier.

5. Pourquoi est-ce important pour le futur ?

Aujourd'hui, les géants de la tech dépensent des milliards pour créer des AGI, mais ils naviguent à l'aveugle. Ils construisent des maisons sans savoir si les fondations sont solides ou si elles sont compatibles avec d'autres bâtiments.

Ce papier propose une carte au trésor mathématique.

• Il permet de dire : "Pour avoir une intelligence générale, il faut absolument une architecture avec une mémoire modulaire (comme le niveau 3)".
• Il permet de voir où sont les trous : "Ah, cette architecture ne gère pas bien la mémoire à long terme".
• Il permet de mélanger les meilleures idées de différents projets pour créer le robot parfait.

En résumé

Ce papier dit : "Arrêtons de comparer les robots par leur apparence ou leur code. Regardons leurs plans d'architecte."

En utilisant un langage mathématique précis (la théorie des catégories), ils veulent créer un dictionnaire commun pour que les scientifiques puissent enfin dire : "Voici comment on passe d'un apprentissage simple à une intelligence véritablement générale", en construisant des plans de plus en plus flexibles, modulaires et capables d'apprendre tout au long de la vie, exactement comme un humain.

Résumé technique

1. Problématique

L'Intelligence Artificielle Générale (AGI) est devenue un objectif majeur, mais le domaine souffre d'un manque de définition formelle unifiée. Bien qu'il existe de nombreuses architectures candidates (Apprentissage par Renforcement, IA Universelle, Inférence Active, Apprentissage par Schéma, etc.), elles reposent sur des formulations mathématiques hétérogènes.

Les lacunes identifiées sont :

• L'absence d'un cadre formel permettant de comparer rigoureusement différentes architectures AGI.
• L'impossibilité d'établir des relations précises, de dériver des garanties structurelles ou d'identifier les raisons théoriques des différences empiriques entre les approches.
• La confusion fréquente entre l'implémentation algorithmique (le "comment") et l'architecture computationnelle (le "quoi" et le "pourquoi structurel").

L'objectif de ce papier est de combler ce vide en développant un cadre algébrique et catégoriel pour décrire, comparer et analyser les architectures d'agents AGI.

2. Méthodologie

Les auteurs adoptent une approche basée sur la Théorie des Catégories, en particulier les catégories hypergraphes (hypergraph categories) et les profoncteurs. Leur méthodologie repose sur plusieurs piliers conceptuels :

A. Distinction Architecture / Agent

• L'Architecture n'est pas vue comme un algorithme, mais comme une théorie algébrique d'interconnexion. Elle définit les contraintes structurelles, les ports d'interface et les motifs de câblage, indépendamment de l'implémentation.
• L'Agent est une interprétation sémantique de cette architecture, formalisée comme un foncteur monoidal fort vers une catégorie de systèmes concrets (ex: noyaux stochastiques, opérateurs différentiables).

B. Structure de l'Architecture (Catégorie ArchAgents)

Une architecture est définie comme un triplet $(G_A, Know_A, \Phi_A)$ :

1. Syntaxe ($G_A$) : Une sous-catégorie symétrique monoidale d'une catégorie hypergraphe libre. Elle décrit le flux de contrôle (comment les modules sont connectés : perception $\to$ décision $\to$ action).
2. Connaissance ($Know_A$) : Une catégorie hypergraphe décrivant les types de ressources de connaissance internes et les transformations admissibles (mise à jour, encapsulation, combinaison).
3. Interface ($\Phi_A$) : Un profoncteur reliant la syntaxe à la connaissance. Il spécifie où et comment les composants syntaxiques interagissent avec les ressources de connaissance, sans imposer de mécanisme de représentation spécifique.

C. Fibration des Agents

Les agents concrets forment une fibration de Grothendieck au-dessus de la catégorie des architectures. Cela permet de :

• Représenter tous les agents possibles pour une architecture donnée (la fibre).
• Définir des morphismes entre architectures (traductions structurelles) qui induisent des foncteurs de réindexation, permettant de traduire un agent d'une architecture vers une autre.

D. Propriétés et Certificats

Le cadre distingue trois types de propriétés :

• Structurelles : Déduites uniquement de la syntaxe (ex: existence de boucles de rétroaction, décomposabilité).
• Informationnelles : Concernant la gestion et la propagation de l'information au sein de l'architecture.
• Sémantiques : Propriétés comportementales des agents concrets, validées via des certificats (preuves portées) basés sur des institutions logiques, permettant d'intégrer des théorèmes externes (ex: convergence, bornes d'erreur).

3. Contributions Clés

1. Formalisation Catégorielle des Architectures AGI :

   • Introduction de la catégorie ArchAgents où les objets sont des architectures abstraites et les morphismes sont des traductions structurelles.
   • Utilisation des catégories hypergraphes pour modéliser les diagrammes de câblage, les boucles de rétroaction et les systèmes ouverts de manière compositionnelle.

2. Séparation Syntaxe / Connaissance :

   • Le papier propose une distinction fondamentale entre la structure opérationnelle (syntaxe) et la structure de gestion des connaissances (épistémique). Cela permet d'analyser comment deux agents avec le même flux de contrôle peuvent différer radicalement dans leur capacité d'apprentissage et de généralisation.

3. Études de Cas Comparatives :
   Les auteurs appliquent leur cadre pour modéliser et comparer quatre architectures majeures, montrant une progression vers une complexité croissante :

   • Apprentissage par Renforcement (RL) : Architecture plate avec un porteur de connaissance unique et non différencié ($\Theta$). Limité par l'absence de modularité.
   • RL Causal (CRL) : Introduit une séparation explicite entre les paramètres de la politique et un modèle causal du monde, permettant des interventions et un raisonnement contrefactuel.
   • Apprentissage par Schéma (SBL) : Architecture modulaire où la connaissance est structurée en "schémas" (unités fonctionnelles composables, réutilisables et isolées). Elle permet un apprentissage continu, la découverte de variables latentes et la réutilisation de connaissances.
   • AIXI : Modélisé comme une architecture avec un noyau prédictif universel et une mémoire historique, illustrant la capacité du cadre à traiter des agents théoriques complexes.

4. Extension par Contraintes Architecturales (Appendice A) :

   • Proposition d'ajouter une couche de contraintes architecturales ($R_A$) pour capturer des lois mathématiques spécifiques (ex: équations de Bellman, factorisation causale) qui ne sont pas purement syntaxiques mais essentielles à la définition d'une architecture.

4. Résultats et Analyse

• Comparabilité : Le cadre permet de visualiser formellement comment le RL, le CRL et le SBL se situent sur un spectre. Le SBL apparaît comme une relaxation progressive des contraintes du RL (factorisation des interfaces, multiplicité des modèles, découplage temporel, médiation corps-esprit).
• Propriétés Structurelles :
  • Le RL souffre d'un "goulot d'étranglement" informationnel (tout est compressé dans $\Theta$).
  • Le CRL introduit une modularité partielle (séparation politique/modèle) mais reste monolithique au sein de chaque composant.
  • Le SBL offre une modularité complète et une locaité des mises à jour, ce qui est crucial pour éviter l'oubli catastrophique et permettre l'apprentissage continu.
• Tableau Comparatif : Le papier fournit un tableau synthétique comparant les architectures sur des critères tels que la structure de l'information persistante, la structure de rétroaction, la réutilisation des connaissances et le support de l'apprentissage continu.

5. Signification et Perspectives

Signification Théorique :

• Ce travail établit une fondation mathématique unifiée pour l'AGI, passant d'une comparaison empirique à une analyse structurelle rigoureuse.
• Il démontre que la Théorie des Catégories est un paradigme adapté pour modéliser la complexité des systèmes cognitifs, en particulier pour gérer la compositionnalité et l'abstraction.
• La relation symbiotique proposée : l'AGI bénéficiera d'une formalisation générale, tandis que la Théorie des Catégories deviendra un paradigme mathématique de premier plan grâce à l'intérêt pour l'AGI.

Perspectives Futures (Plan de travail) :

• Court terme : Spécification précise des morphismes d'architecture, ajout d'une ontologie des types, et formalisation des théories algorithmiques (ex: équations de Bellman) dans le cadre hypergraphe.
• Moyen terme : Introduction d'une catégorie "Monde" pour modéliser les environnements et les interactions agent-environnement, permettant l'évaluation empirique formelle.
• Long terme : Identification des principes architecturaux nécessaires et suffisants pour l'intelligence générale et création d'une plateforme collaborative pour comparer et évaluer les architectures.

En conclusion, ce papier ne propose pas un nouvel algorithme d'AGI, mais un langage formel pour concevoir, analyser et comparer les architectures d'AGI, ouvrant la voie à une ingénierie des systèmes cognitifs plus rigoureuse et fondée sur des principes structurels clairs.