💻 computer science

From categorized neural architectures to subexponential proof theory

Cet article établit un lien fondamental entre l'architecture neuronale et la logique en démontrant comment une structure sous-exponentielle peut être déduite d'une catégorie d'architectures neuronales paramétrées, garantissant ainsi l'élimination des coupures et la validité des dérivations par rapport aux diagrammes catégoriels.

Auteurs originaux : Carlos Ramírez Ovalle

Publié 2026-04-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Carlos Ramírez Ovalle

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Grand Voyage : De l'Architecture des Neurones à la Logique des Règles

Imaginez que vous êtes un architecte qui construit des maisons très spéciales : des réseaux de neurones (les cerveaux artificiels qui font tourner l'IA). Habituellement, on regarde ces maisons pour voir si elles sont belles ou fonctionnelles. Mais dans ce papier, l'auteur, Carlos Ramírez Ovalle, pose une question différente : « Si on regarde comment ces maisons sont construites, peut-on découvrir les règles de grammaire cachées qui les régissent ? »

Le but n'est pas de prendre une logique existante (comme les règles d'un jeu d'échecs) et de chercher une maison qui correspond. C'est l'inverse : on observe la maison, on comprend comment elle gère ses ressources, et on déduit les règles logiques qui en découlent naturellement.

Voici le voyage en trois étapes, expliqué avec des analogies :

1. L'Architecture : La Maison avec des Pièces Etiquetées 🏠

Imaginez que votre réseau de neurones est une grande maison avec plusieurs pièces. Mais ce n'est pas une maison ordinaire. Chaque pièce a une étiquette (un "zone") qui dicte comment on peut y entrer, sortir ou y laisser des objets.

Dans cette maison, il y a trois types de zones principales :

La Zone "Mémoire Persistante" (p) : C'est comme un coffre-fort ou un tableau blanc. Vous pouvez y écrire des choses, les effacer quand vous voulez, et les copier autant de fois que vous le souhaitez. C'est une ressource illimitée et flexible.
La Zone "Contexte Pertinent" (r) : C'est comme un livre que vous tenez à la main. Vous pouvez le lire et le copier (pour en faire des photocopies), mais vous ne pouvez pas le jeter à la poubelle tant que vous en avez besoin. Il doit être utilisé.
La Zone "Linéaire" (ℓ) : C'est comme un ticket de bus unique. Vous pouvez l'utiliser une fois pour entrer, mais une fois passé, il est consommé. Vous ne pouvez ni le copier, ni le jeter avant d'avoir fini.

L'auteur dit : « Regardez comment l'architecte a construit la maison. Il a mis des étiquettes précises sur chaque pièce pour dire : "Ici, on peut copier", "Là, on ne peut pas jeter". »

2. Le Traducteur : Du Bâtiment aux Règles (La Catégorie) 🗣️

Ensuite, l'auteur utilise un outil mathématique (la théorie des catégories) qui agit comme un traducteur.

Au lieu de regarder les murs et les tuyaux, ce traducteur regarde les règles de circulation à l'intérieur de la maison. Il se demande :

"Est-ce que je peux jeter un objet de la zone A ?"
"Est-ce que je peux dupliquer un objet de la zone B ?"

Le traducteur prend ces observations physiques (l'architecture) et les transforme en une signature. C'est comme si, en observant une cuisine, on déduisait la recette : "Ah, ici on a un four, donc on peut cuire ; là, on a un évier, donc on peut jeter l'eau."

Le résultat de cette étape est une liste de règles logiques qui correspondent exactement à la façon dont la maison est construite.

3. La Logique : Le Jeu de Règles Déduit 🎲

Une fois la "signature" extraite, on obtient un système de logique (un peu comme les règles d'un jeu de cartes). Ce système a des règles très précises :

Règle de "Copie" (Contraction) : Si la zone est une "Mémoire Persistante", la logique dit : "Tu as le droit de copier cette carte." Si c'est une zone "Linéaire", la logique dit : "Interdit de copier !"
Règle de "Jeter" (Affaiblissement) : Si la zone est "Persistante", la logique dit : "Tu as le droit de jeter cette carte." Si c'est "Linéaire", la logique dit : "Tu dois absolument l'utiliser !"

La grande découverte du papier :
Ces règles de logique ne sont pas inventées par un philosophe assis dans un bureau. Elles sont lues directement sur la structure du réseau de neurones. Si vous changez la façon dont le réseau gère ses données (par exemple, si vous permettez de copier une information qui était auparavant linéaire), la logique change instantanément pour refléter cette nouvelle réalité.

Pourquoi est-ce important ? (Le Message Clé) 🌟

Imaginez que vous essayiez d'enseigner les règles de la circulation à des voitures en leur donnant un manuel de conduite écrit par un humain. Cela peut ne pas marcher si les voitures sont conçues pour voler.

Ce papier dit : « Ne forcez pas les règles sur les machines. Laissez les machines nous dire quelles règles elles suivent déjà. »

Avant : On prenait une logique complexe (comme la logique linéaire) et on essayait de l'appliquer aux réseaux de neurones.
Maintenant (selon ce papier) : On regarde le réseau de neurones, on voit comment il gère ses ressources (copier, jeter, garder), et on extrait la logique qui lui correspond parfaitement.

En Résumé 🎯

Ce papier est comme un détective qui observe une usine de fabrication d'IA. Au lieu de dire "Voici les règles de l'usine", il observe les machines, voit comment elles manipulent les pièces, et écrit un livre de règles qui décrit exactement ce que les machines font.

Il prouve trois choses essentielles :

La structure est solide : Les pièces s'assemblent bien (c'est une "catégorie symétrique monoidale").
Les règles sont cohérentes : On peut simplifier les calculs sans perdre d'information (élimination des coupures).
La logique est vraie : Chaque règle logique trouvée correspond à une action réelle autorisée dans l'architecture du réseau.

C'est une première étape vers un monde où la logique de l'IA ne serait pas imposée de l'extérieur, mais écrite par l'architecture elle-même.

1. Problématique et Contexte

L'article s'inscrit à l'intersection de l'apprentissage automatique (machine learning) et de la logique catégorique. Bien que l'utilisation de la théorie des catégories pour décrire la composition des architectures neuronales (apprentissage supervisé, rétropropagation) soit bien établie, et que la logique catégorique ait permis de dériver des systèmes de preuve à partir de structures catégorielles, une question fondamentale reste ouverte : peut-on déduire une logique appropriée directement à partir d'une famille d'architectures neuronales, sans postuler une logique préexistante ?

Le défi spécifique réside dans la gestion des ressources. Les architectures neuronales modernes traitent différemment les types d'informations : certaines sont réutilisables (mémoire persistante), d'autres jetables, d'autres linéaires (doivent être consommées exactement une fois), et d'autres peuvent être coercées d'un contexte à un autre. L'objectif est de formaliser cette discipline des ressources architecturale pour en extraire un système de preuve logique, spécifiquement une logique sous-exponentielle (subexponentielle), où les règles structurelles (affaiblissement et contraction) dépendent de zones spécifiques.

2. Méthodologie

L'auteur propose un programme de construction en quatre étapes, allant de l'architecture vers la logique :
$\text{Famille d'architectures} \longrightarrow \text{Architecture catégorisée} \longrightarrow \text{Signature sous-exponentielle} \longrightarrow \text{Théorie de la preuve}$

A. Catégorisation des Architectures (Section 2)

L'auteur définit une catégorie $Arch_Z$ dont :

Objets : Des contextes de ressources typés et étiquetés par des zones ( $Z$ ). Un contexte est une liste finie de paires $(z, A)$ où $z$ est une étiquette de zone et $A$ un objet d'une catégorie de base $Ctx$ (ayant des produits finis).
Morphismes : Des blocs de calcul paramétrés $(P, \phi)$ , où $P$ est un objet de paramètres et $\phi$ une application $P \times [[\Gamma]] \to [[\Delta]]$ . Ces morphismes sont définis à équivalence d'isomorphisme de reparamétrisation près.
Structure : La catégorie est munie d'un produit tensoriel (concaténation de contextes) et est prouvée être symétrique monoïdale.

B. Discipline de Zone Cohérente

Pour capturer les contraintes de ressources, l'auteur introduit une discipline de zone cohérente ($Lic$) sur $Arch_Z$ . Celle-ci spécifie quelles opérations structurelles sont « licenciées » (autorisées) par l'architecture :

Préordre de zones ( $\preceq$ ) : Définit la relation de raffinement entre les zones.
Coercions de zone ( $\chi$ ) : Morphismes permettant de passer d'une zone à une autre plus « riche ».
Ensembles de zones licenciées :
- $W_{Lic}$ : Zones où l'affaiblissement (discarding/jet) est autorisé.
- $C_{Lic}$ : Zones où la contraction (duplication/diagonale) est autorisée.
  Ces opérations sont encodées catégoriquement par des morphismes spécifiques (discards $\omega$ et diagonales $\delta$ ) qui doivent respecter des conditions de cohérence (fonctorialité, compatibilité avec le préordre).

C. Extraction de la Signature Sous-Exponentielle

À partir de la discipline catégorique, l'auteur reconstruit une signature sous-exponentielle $\Sigma_{Lic} = (Z, \preceq, W_{Lic}, C_{Lic})$ .

Le théorème principal de cette section (Théorème 2.18) démontre que les classes de zones extraites ( $W_{Lic}$ et $C_{Lic}$ ) correspondent exactement aux zones où la discipline architecturale autorise explicitement le jet et la duplication. La signature n'est donc pas imposée de l'extérieur, mais lue à partir des données catégorielles.

D. Théorie de la Proof (Section 3)

À partir de la signature extraite, l'auteur définit un calcul de séquents tensoriel $TZ_{\Sigma}$ .

Ce calcul est un fragment de la logique linéaire intuitionniste contenant : les atomes, le produit tensoriel ( $\otimes$ ), l'unité ( $I$ ), et des règles structurelles d'affaiblissement ( $W_z$ ) et de contraction ( $C_z$ ) indexées par les zones.
Élimination de la coupure : L'article prouve que la règle de coupure est admissible dans ce calcul (Théorème 3.7), en s'appuyant sur les résultats connus pour les logiques sous-exponentielles et en montrant que le fragment tensoriel est clos sous l'élimination de la coupure.

E. Adéquation et Soundness (Section 4)

L'auteur définit une interprétation sémantique des dérivations logiques dans la catégorie architecturale $Arch_Z$ .

Chaque dérivation est interprétée par un morphisme construit à partir des blocs architecturaux, des isomorphismes structurels et des familles licenciées (discards et diagonales).
Le Théorème de Soundness (4.8) établit que toute dérivation valide dans le calcul extrait correspond à un diagramme licite dans l'architecture. Inversement, les règles structurelles du calcul ne sont présentes que si l'architecture le permet catégoriquement.

3. Contributions Clés

Définition de la catégorie $Arch_Z$ : Une formalisation catégorique rigoureuse des blocs de calcul paramétrés et de leurs contextes de ressources étiquetés.
Extraction de la logique : Une méthode inverse (architecture $\to$ logique) qui dérive une signature sous-exponentielle à partir d'une discipline de ressources catégorielle, plutôt que de postuler la logique avant de chercher une sémantique.
Théorèmes fondamentaux :
- Preuve que la catégorie architecturale est symétrique monoïdale.
- Preuve de l'élimination de la coupure pour le calcul extrait.
- Preuve de la soundness (adéquation) entre le calcul logique et les diagrammes architecturaux licenciés.
Exemples concrets :
- Un exemple abstrait avec trois zones (persistante, pertinente, linéaire) montrant comment les règles de copie et de jet émergent.
- Un exemple d'architecture neuronale à deux blocs (mémoire persistante, contexte récupéré, observation actuelle) montrant comment la logique extraite reflète exactement le comportement de réutilisation des entrées (ex: la mémoire persistante peut être dupliquée, l'observation actuelle non).

4. Résultats Principaux

Structurel : L'architecture des réseaux de neurones, lorsqu'elle est organisée catégoriquement avec une discipline de zones, contient intrinsèquement les données nécessaires pour définir une logique sous-exponentielle.
Logique : Le système de preuve extrait ( $TZ_{\Sigma}$ ) est un fragment tensoriel de la logique linéaire où les règles structurelles sont indexées par des zones. Ce système admet l'élimination de la coupure.
Sémantique : Il existe une correspondance exacte (soundness) entre les règles de dérivation du calcul et les morphismes autorisés dans la catégorie architecturale. Si une règle de contraction existe pour une zone $z$ dans la logique, c'est parce qu'il existe un morphisme de diagonale licencié pour cette zone dans l'architecture.

5. Signification et Impact

Cet article représente une étape fondatrice dans le programme « Architecture Neurale $\to$ Catégorie $\to$ Logique ».

Changement de paradigme : Contrairement aux approches traditionnelles qui utilisent la logique pour contraindre ou concevoir des réseaux de neurones, cet article propose de lire la logique à partir de la structure des ressources de l'architecture. La logique n'est pas un cadre externe, mais une conséquence des permissions structurelles de l'architecture.
Précision mathématique : L'article évite les analogies vagues en fournissant des théorèmes rigoureux (catégoriques, syntaxiques et sémantiques) reliant les blocs de calcul aux règles de preuve.
Fondation pour l'avenir : Bien que le fragment actuel soit limité (pas d'implication linéaire), il établit la base pour des travaux futurs visant à enrichir la logique (ajout de l'implication via des adjonctions linéaire-non-linéaire) et à étudier des architectures plus complexes (transformers, systèmes multi-modaux) pour en extraire des disciplines de ressources plus riches.

En résumé, l'article démontre que la « discipline des ressources » inhérente à une architecture neuronale catégorisée détermine de manière unique et canonique un système de preuve sous-exponentiel, validant ainsi l'idée que la logique peut émerger de la structure computationnelle elle-même.