💻 computer science

sLTN: Structural Logic Tensor Networks

Cet article introduit sLTN, un cadre neurosymbolique qui étend les Logic Tensor Networks en incorporant des dimensions structurelles en tant qu'éléments de premier rang afin de permettre la représentation explicite et l'apprentissage différentiable de contraintes temporelles, séquentielles et relationnelles.

Auteurs originaux : Davide Rinaldi, Luciano Serafini

Publié 2026-08-12

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Davide Rinaldi, Luciano Serafini

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un ordinateur à comprendre le monde. Vous avez deux outils puissants dans votre boîte à outils. Le premier est l'Apprentissage Automatique (Machine Learning), qui est comme un apprenti super observateur qui apprend en regardant des millions d'exemples. Il est excellent pour repérer des motifs, comme reconnaître un chat sur une photo, mais il ne "sait" pas vraiment ce qu'est un chat ou pourquoi il se comporte de telle manière. Le second outil est la Logique, qui est comme un livre de règles strict ou un ensemble de lois. Elle sait que si « tous les chats ont une queue » et que « Fluffy est un chat », alors « Fluffy doit avoir une queue ». Mais la logique est souvent rigide et peine à apprendre à partir de données réelles et désordonnées.

Pendant un certain temps, des scientifiques ont tenté de combiner ces deux outils en un seul système appelé IA neurosymbolique. L'objectif est de créer une IA capable d'apprendre à partir de données et de suivre des règles logiques en même temps. Un cadre populaire pour cela est appelé Logic Tensor Networks (LTN). Considérez LTN comme un traducteur qui transforme les règles logiques en problèmes mathématiques qu'un ordinateur peut résoudre à l'aide de gradients (une méthode pour améliorer les réponses étape par étape). Cependant, la version originale de LTN avait un angle mort : elle était conçue pour des données « plates ». Elle traitait tout comme un immense tas désorganisé d'éléments individuels. Elle ne savait pas comment gérer des choses qui possèdent un ordre naturel ou une structure, comme une séquence d'événements dans le temps, une liste d'étapes dans une histoire, ou les connexions entre des amis dans un réseau social. C'était comme essayer de décrire un film en listant simplement les acteurs sans mentionner l'intrigue ou la chronologie.

C'est ici qu'intervient un nouvel article, introduisant le sLTN (Structural Logic Tensor Networks). Les auteurs, Davide Rinaldi et Luciano Serafini, ont réalisé que le monde n'est pas seulement un tas d'objets ; il est rempli de structures. Le temps s'écoule vers l'avant, les phrases ont des ordres de mots, et les graphes ont des connexions. Ils ont construit une mise à jour de LTN qui traite ces structures comme des « citoyens de première classe ». Dans le sLTN, vous pouvez explicitement parler de « pas de temps », de « positions de séquence » ou de « nœuds de graphe » directement à l'intérieur de vos règles logiques.

L'article ne se contente pas de suggérer que c'est une bonne idée ; il fournit le schéma mathématique complet (syntaxe et sémantique) ainsi qu'une bibliothèque logicielle fonctionnelle construite sur PyTorch. Ils montrent que le sLTN peut prendre une règle logique telle que « Si un chiffre apparaît au temps $t$ , il doit également apparaître au temps $t+1$ » et la transformer en un problème mathématique dont l'ordinateur peut apprendre. Ils l'ont démontré avec une tâche de classification vidéo où l'IA devait regarder une séquence d'images montrant un chiffre en train d'être dessiné. Le système a appris à distinguer les vidéos où un chiffre apparaît de manière fluide de celles où il clignote, en utilisant des règles logiques sur le temps et la séquence. Les auteurs montrent que si l'on supprime les caractéristiques structurelles, le sLTN revient parfaitement au LTN original, prouvant qu'il s'agit d'une véritable extension. Bien que l'article présente un cadre solide et un code fonctionnel, il note que le système est encore une nouvelle bibliothèque qui nécessite plus de tests et de validation en conditions réelles au-delà de ces exemples initiaux. C'est une étape prometteuse vers une IA qui comprend non seulement ce que sont les choses, mais aussi comment elles sont agencées dans le monde.

Résumé Technique : Réseaux de Tenseurs Logiques Structurels (sLTN)

Énoncé du Problème

Les Réseaux de Tenseurs Logiques (LTN) fournissent un cadre neurosymbolique qui intègre la logique du premier ordre aux réseaux de neurones en interprétant les symboles logiques comme des tenseurs et les connecteurs logiques comme des opérateurs flous différentiables. Bien qu'efficace pour des tâches impliquant des collections plates d'individus (par exemple, l'interprétation sémantique d'images, les systèmes de recommandation), la formulation originale des LTN manque de mécanismes explicites pour gérer les données possédant une organisation structurelle inhérente.

Dans des domaines tels que les séries temporelles, les données séquentielles ou les entrées structurées sous forme de graphes, l'organisation structurelle (ordre temporel, position dans la séquence, connectivité du graphe) est une composante sémantique du problème plutôt qu'un simple détail d'implémentation. La formulation originale des LTN traite les données comme des collections plates, ce qui rend difficile l'expression de contraintes se référant explicitement à des motifs positionnels ou relationnels, tels que la persistance temporelle, les contraintes de voisinage dans les graphes, ou les dépendances entre des positions ordonnées. Cette limitation restreint l'applicabilité du cadre aux tâches de raisonnement structurel où le langage logique doit directement référencer les axes selon lesquels les objets sont organisés.

Méthodologie

Pour remédier à ces limitations, les auteurs introduisent les Réseaux de Tenseurs Logiques Structurels (sLTN), une extension des LTN qui élève les dimensions structurelles au rang d'éléments de premier ordre du langage logique. La méthodologie repose sur trois piliers fondamentaux :

1. Syntaxe Étendue et Signature

sLTN étend la signature standard de la logique du premier ordre à plusieurs tris pour inclure :

Dimensions Structurelles ( $D$ ) : Des axes de tenseurs nommés représentant l'organisation spécifique au domaine (par exemple, les pas de temps $T$ , les positions de séquence, les nœuds de graphes).
Variables Structurelles ( $\Xi$ ) : Des variables variant sur les indices des dimensions structurelles déclarées, distinctes des variables du premier ordre qui varient sur les individus.
Relations Structurelles ( $R$ ) : Des relations sur des tuples d'indices structurels, interprétées comme des masques booléens ou flous. Par exemple, une relation next(t, t') peut exprimer l'adjacence entre deux pas de temps consécutifs.

Le langage supporte la quantification structurelle (quantifier sur les indices d'une dimension), la quantification structurelle gardée (évaluer les formules uniquement là où une relation structurelle est vérifiée) et l'annotation/sélection d'axes (renommer ou découper des axes structurels spécifiques).

2. Sémantique de Tenseurs Flous

La sémantique de sLTN est définie via des tenseurs annotés, qui suivent explicitement le rôle de chaque axe de tenseur (variable, structurel ou domaine).

Instanciation (Grounding) : Les symboles sont instanciés en tenseurs ou en cartes de tenseurs. Les constantes et les variables portent des axes structurels basés sur leurs profils dimensionnels. Les fonctions et les prédicats sont instanciés comme des applications locales qui consomment et produisent des profils structurels spécifiques.
Relations Structurelles : Instanciées comme des masques de valeurs de vérité sur les indices structurels (par exemple, un masque net pour next où $M_{i,j} = 1$ si $j = i+1$ ).
Dénotation Compositionnelle : La dénotation des termes et des formules est calculée via une récursion structurelle. Les opérations clés incluent :
- Alignement d'axes nommés : Aligner les tenseurs par nom et par rôle avant d'appliquer des opérations ponctuelles ou des applications locales.
- Consommation et Propagation : Les prédicats et les fonctions peuvent "consommer" des axes structurels (en agrégeant sur eux) ou les propager de manière ponctuelle.
- Agrégation : Les quantificateurs (tant du premier ordre que structurels) sont interprétés comme des opérateurs d'agrégation (par exemple, moyenne, min, max) sur les axes de variables ou structurels correspondants. Les quantificateurs gardés utilisent les valeurs de vérité de la garde comme poids ou masques lors de l'agrégation.

3. Apprentissage et Optimisation

L'apprentissage dans sLTN est formulé comme l'optimisation d'une base de connaissances (un ensemble de clauses fermées) pour maximiser leurs degrés de satisfaction.

Formulation Multi-Objectif : Puisqu'une base de connaissances consiste en plusieurs clauses, la satisfaction est naturellement un problème multi-objectif.
Apprentissage Scalarisé : Les satisfactions de clauses sont agrégées en une perte scalaire unique en utilisant un agrégateur configurable (par exemple, la moyenne de puissance) avant la rétropropagation.
Apprentissage Multi-Objectif : sLTN supporte la conservation des pertes par clause et la combinaison de leurs gradients à l'aide d'agrégateurs de descente de Jacobienne (par exemple, PCGrad) pour gérer les objectifs conflictuels sans scalarisation prématurée.
Différentiabilité : L'ensemble du cadre, y compris les opérateurs flous et l'agrégation, est implémenté à l'aide d'opérations de tenseurs différentiables dans PyTorch, permettant l'optimisation par gradient des paramètres d'interprétation.

Principales Contributions

Le papier présente trois contributions majeures :

Extension du Langage : Il étend le langage LTN avec des dimensions structurelles, des variables structurelles et des relations structurelles, faisant de l'organisation structurelle un objet explicite de la modélisation logique. Cela permet aux formules de se référer directement aux motifs positionnels et relationnels.
Sémantique Formelle : Il fournit une sémantique de tenseur flou rigoureuse pour sLTN, définissant comment les constructions structurelles s'intègrent aux connecteurs différentiables et à l'agrégation des quantificateurs. Il démontre que les sémantiques originales des LTN sont récupérées comme un cas particulier lorsque les dimensions structurelles sont absentes.
Implémentation Modulaire : Il décrit une implémentation modulaire en Python/PyTorch qui sépare la syntaxe (Signatures, parseurs) de la sémantique (Interprétations). La bibliothèque supporte la définition déclarative de signatures, l'analyse syntaxique de formules et l'interprétation tensorielle avec des opérations sur axes nommés.

Résultats et Exemples Illustratifs

Le papier ne présente pas de benchmarks empiriques à grande échelle mais illustre les capacités du cadre à travers un exemple de classification de vidéos en cours déroulement impliquant des chiffres MNIST.

Tâche : Distinguer entre des vidéos "apparaissantes" (un chiffre est révélé de manière monotone) et des vidéos "non-apparaissantes" (chiffres révélés et cachés de manière cyclique).
Application de sLTN :
- Persistance Temporelle : Une formule exprime que si un chiffre est complet à l'instant $t$ , il doit rester complet à $t+1$ (en utilisant la relation next).
- Conditions de Limite : Des formules imposent qu'une vidéo apparaissante commence incomplète (à $t=0$ ) et finit complète (à $t=T-1$ ) en utilisant la sélection d'axes.
- Jugement de Séquence Globale : Le prédicat appear consomme l'intégralité de l'axe temporel pour effectuer une classification globale, se distinguant des prédicats par image comme Complete.
Implémentation : L'exemple démontre comment déclarer des signatures, définir des prédicats dérivés (par exemple, is_appear), analyser des formules complexes avec des quantificateurs structurels, et entraîner le modèle en utilisant l'interface kb_backward avec une optimisation soit scalarisée, soit multi-objectif.

Signification et Revendications

Le papier positionne sLTN comme une évolution nécessaire du cadre LTN pour répondre à la demande croissante de raisonnement neurosymbolique sur des données structurées.

Expressivité : En traitant les dimensions structurelles comme des citoyens de premier ordre, sLTN permet aux contraintes logiques d'être exprimées directement au niveau de la sémantique du problème (par exemple, l'ordre temporel, la topologie de graphe) plutôt que de les forcer dans des représentations plates.
Compatibilité : Le cadre préserve les avantages clés des LTN, notamment la sémantique floue différentiable et l'optimisation par gradient, tout en les étendant aux entrées structurées.
Utilité Pratique : La séparation de la syntaxe et de la sémantique, ainsi que l'implémentation PyTorch fournie, visent à abaisser la barrière d'application du raisonnement neurosymbolique à des domaines structurés complexes tels que le raisonnement temporel, le traitement séquentiel et l'apprentissage basé sur les graphes.

Les auteurs reconnaissent que sLTN est un cadre initial nécessitant une stabilisation supplémentaire et une validation empirique systématique. Ils esquissent des travaux futurs visant à développer des théories structurées spécifiques au domaine, à étendre le langage avec des primitives de calcul récursives finies, et à étudier des programmes de gestion des hyperparamètres principled pour améliorer la stabilité de l'entraînement. Le papier sert de compagnon à la bibliothèque open-source sLTN, fournissant le fondement théorique de son utilisation.