Résumé Technique : Lorsque les Violations de Règles sont Rares : Entraînement Chimère pour la Détection d'Anomalies Logiques

Énoncé du Problème

L'article aborde la Détection d'Anomalies Logiques, un cadre où les anomalies sont définies non pas simplement comme des valeurs aberrantes statistiques ou des échantillons hors distribution (OOD), mais comme des entrées qui violent des contraintes sémantiques connues. Ces contraintes incluent des co-occurrences d'objets structurées, des préconditions d'actions et des régularités temporelles ou relationnelles.

Un défi critique dans ce domaine est que les violations de règles réelles sont souvent rares ou totalement absentes durant l'entraînement. La classification binaire supervisée standard nécessite l'accès à des échantillons anormaux, qui sont par définition rares. De plus, les méthodes existantes font face à un compromis : les pipelines purement symboliques reposent sur des sorties de perception fragiles, tandis que les pipelines purement neuronaux réapprennent souvent implicitement les contraintes, les enchevêtrant avec des indices visuels fallacieux et échouant à fournir des attributions interprétables au niveau des règles. Les auteurs visent à développer une méthode capable d'apprendre à détecter les violations de règles en utilisant uniquement des données d'entraînement cohérentes avec les règles (c'est-à-dire des données "normales"), sans nécessiter d'exemples explicites d'anomalies.

Méthodologie

Le cadre proposé, désigné sous le nom d'Évaluateur Neuronal, est une approche neuro-symbolique qui compile les contraintes logiques en Graphes Acycliques Dirigés (DAG) explicites et apprend des opérateurs neuronaux réutilisables pour les évaluer.

1. Architecture et Pipeline d'Entraînement

La méthode opère en quatre étapes (illustrées dans la Figure 1) :

• Étape 1 (Banque de Concepts Feuilles) : Un encodeur partagé $E_\phi$ extrait des caractéristiques $z$ à partir des images d'entrée. Un ensemble de têtes "feuilles" prédit des probabilités pour un ensemble prédéfini de concepts sémantiques (par exemple, présence d'objets, relations).
• Étape 2 (Apprentissage de Portes de Sous-arbres) : Chaque règle logique est représentée comme un DAG où les feuilles sont des identifiants de concepts et les nœuds internes sont des opérateurs logiques (ET, OU, IMPLIQUE, IFF). Le système apprend une porte de sous-arbre $g_{\theta_v}$ pour chaque nœud interne. Ces portes mappent les caractéristiques des enfants et les drapeaux de négation au niveau des arêtes vers une représentation de caractéristique parente et une probabilité de satisfaction de la règle.
• Étape 3 (Entraînement par Niveau) : L'entraînement progresse de bas en haut par profondeur. Les portes de plus faible profondeur sont figées, et les portes au niveau actuel sont entraînées en utilisant une entropie croisée binaire au niveau des nœuds. Crucialement, les cibles de vérité terrain pour les nœuds internes sont dérivées via une propagation booléenne exacte à partir des étiquettes de concepts dures, fournissant une supervision intermédiaire pour chaque nœud du graphe, et pas seulement pour la racine.
• Étape 4 (Inférence) : Pour une nouvelle image, les portes figées propagent les caractéristiques vers le haut du DAG pour calculer la probabilité de satisfaction de la racine. Le score d'anomalie est défini comme $1 - \hat{t}_{racine}$.

2. Entraînement Négatif Chimère

L'innovation centrale adressant la rareté des violations réelles est l'Entraînement Chimère.

• Le Problème : L'entraînement sur des données normales d'une même image conduit souvent à un "apprentissage de raccourcis", où une porte apprend à reconnaître un modèle visuel global d'une règle plutôt qu'à composer l'opérateur logique. De plus, des contre-exemples informatifs (par exemple, $A=1, B=0$ pour une implication $A \Rightarrow B$) peuvent manquer de la distribution d'entraînement.
• La Solution : Au lieu de mélanger des pixels bruts (comme Mixup), la méthode construit des opérandes contrefactuels au niveau des caractéristiques. Pour un nœud binaire avec des enfants $\ell$ et $r$, l'entrée d'entraînement pour l'échantillon $i$ est formée en concaténant la caractéristique de l'enfant gauche de l'échantillon $i$ et la caractéristique de l'enfant droit d'un échantillon différent $\pi(i)$ (où $\pi$ est une permutation).
• Génération de Cible : L'étiquette cible pour cette entrée "chimère" est calculée en appliquant l'opérateur logique aux étiquettes de vérité dure des échantillons respectifs ($t_\ell(y_i)$ et $t_r(y_{\pi(i)})$).
• Effet : Cela force les portes à se comporter comme des opérateurs compositionnels, apprenant la relation logique entre les caractéristiques plutôt que de mémoriser des corrélations visuelles. Cela fournit des contre-exemples logiques supervisés même lorsque des résultats de règles spécifiques sont absents des données naturelles.

3. Mise en Cache Consciente de la Lignée

Pour passer à l'échelle sur de nombreuses règles, le système emploie un mécanisme de mise en cache. Une clé de cache est générée sur la base de la structure du sous-arbre symbolique, des négations d'arêtes, de l'architecture de la porte, de la dimension des caractéristiques et d'une empreinte digitale de l'encodeur en amont. Cela permet de réutiliser en toute sécurité les sous-arbres appris à travers différentes règles et exécutions, à condition que la représentation des caractéristiques et la structure logique correspondent.

Contributions Clés

1. Portes de Sous-arbres : Un mécanisme d'apprentissage local aux nœuds, de bas en haut, qui compose des caractéristiques conditionnées par des concepts en probabilités de vérité sous une supervision booléenne stricte, permettant la réutilisation des opérateurs logiques appris.
2. Entraînement Négatif Chimère : Une stratégie d'entraînement novatrice qui impose la compositionnalité au niveau des opérateurs et prévient l'apprentissage de raccourcis en mélangeant des opérandes de sous-arbres provenant d'échantillons différents. Cela permet au modèle d'opérer efficacement dans des scénarios où les contre-factuels réels (violations) sont totalement absents des données d'entraînement.
3. Validation Empirique : Démonstration de l'efficacité de la méthode sur des benchmarks structurés d'images/vidéos (CLEVRER, OpenImages, VidOR) et sur des données réelles, montrant des améliorations significatives par rapport aux baselines d'événements indépendants et à l'entraînement sémantique sur une même image.

Résultats

Les auteurs ont évalué l'Évaluateur Neuronal contre trois baselines :

• INDEPPROB : Un évaluateur probabiliste d'événements indépendants (baseline symbolique).
• SEM (Perte Sémantique) : Une baseline d'entraînement sémantique sur une même image sans mélange chimère.
• Mono-N/Mono-C : Baselines monolithiques uniquement racine (entraînées sur des données normales uniquement ou avec des données chimère).

Constats Clés :

• Gains de Performance : L'Évaluateur Neuronal a constamment surpassé la baseline d'événements indépendants en AUROC d'anomalie au niveau des règles. Des gains notables ont été observés sur CLEVRER (+0,083), OpenImages (+0,078) et VidOR (+0,234).
• Nécessité de l'Entraînement Chimère : La baseline SEM (entraînement sur une même image uniquement) s'est effondrée sur des jeux de données complexes, produisant un AUROC $\approx 0,5$ (devinette aléatoire). Cela confirme que les données normales ordinaires manquent d'une couverture suffisante de configurations de vérité de violation informatives pour apprendre un signal d'anomalie non trivial sans supervision contrefactuelle explicite.
• Règles Compositionnelles : La méthode a montré une force particulière sur les règles compositionnelles et relationnelles (par exemple, chaînes d'implications dans CLEVRER, règles objet-relation dans VidOR), où les hypothèses probabilistes fixes (comme l'indépendance des événements) échouent.
• Insights d'Ablation : Bien que la baseline monolithique entraînée avec chimère ait performé de manière similaire au modèle modulaire complet, l'approche modulaire fournit une décomposition plus interprétable et réutilisable de l'évaluation des règles sans perte de performance significative.

Signification et Revendications

L'article revendique que de nombreuses anomalies pratiques sont mieux caractérisées comme des violations de contraintes de domaine plutôt que comme une simple rareté dans l'espace des pixels. En compilant les contraintes en DAG explicites et en entraînant avec une supervision basée sur la chimère, le détecteur fournit non seulement un score d'anomalie scalaire mais aussi des attributions structurées au niveau des règles expliquant quelles contraintes ont été violées.

Les auteurs soulignent que cette approche permet la détection de violations de règles même lorsque le jeu de données d'entraînement contient uniquement des échantillons cohérents avec les règles. C'est une caractéristique distinctive par rapport à la classification binaire entièrement supervisée, qui nécessite l'accès à des échantillons anormaux rares. La méthode comble le fossé entre le raisonnement symbolique (contraintes explicites) et la perception neuronale (extraction de caractéristiques robuste), offrant une solution évolutive pour la détection d'anomalies logiques dans des scénarios où les anomalies de vérité terrain sont indisponibles.

L'article reste modeste concernant ses limites, notant que la méthode hérite des erreurs de la banque de concepts feuilles, des biais des annotations de jeu de données et des corrélations fallacieuses potentielles dans les règles extraites. Il affirme que des scores d'anomalie élevés indiquent une incohérence sémantique par rapport à l'ensemble de règles sélectionné, plutôt qu'un jugement de sécurité à usage général.