World2Rules: A Neuro-Symbolic Framework for Learning World-Governing Safety Rules for Aviation

1. Problématique

De nombreux systèmes critiques pour la sécurité, comme l'aviation, sont régis par des règles explicites définissant les configurations mondiales dangereuses et contraignant les interactions des agents. Cependant, ces règles sont souvent implicites, complexes et dépendantes du contexte, ce qui rend leur spécification manuelle incomplète et sujette à erreurs.

Le défi principal réside dans l'apprentissage de ces règles à partir de données multimodales réelles, caractérisées par :

• Une asymétrie des données : Une abondance de données opérationnelles nominales (comportements sûrs) contre une rareté extrême de cas d'échec (accidents, incidents).
• Le bruit et l'incohérence : Les rapports d'incidents sont souvent non structurés, bruités et contiennent des incohérences.
• Les limites des approches existantes :
  • Les modèles neuronaux (LLM, VLM) excellent pour extraire des structures de données non structurées mais manquent de garanties formelles, de cohérence logique et de robustesse face aux corrélations fallacieuses.
  • Les méthodes symboliques (comme la Programmation Logique Inductive - ILP) offrent une vérifiabilité et une interprétabilité, mais sont fragiles lorsqu'elles sont appliquées directement à des observations imparfaites ou bruitées.

L'objectif est donc de développer un cadre capable d'apprendre des règles de sécurité formelles, interprétables et vérifiables à partir de données multimodales bruitées et déséquilibrées.

2. Méthodologie : Le Framework World2Rules

World2Rules est un cadre neuro-symbolique qui combine l'extraction par des modèles pré-entraînés et la vérification par un solveur de programmation logique. L'approche repose sur un mécanisme de raisonnement réflexif hiérarchique en quatre niveaux pour filtrer les erreurs et garantir la cohérence.

A. Extraction des Données Multimodales

Le système traite deux types de données :

1. Données de violation (Positives) : Rapports d'accidents et d'incidents (ex: ASIAS). Un LLM extrait les entités, relations et faits symboliques.
2. Données nominales (Négatives) : Trajectoires opérationnelles normales sur les surfaces aéroportuaires (ex: Amelia-48). Un VLM (Vision-Language Model) extrait les faits correspondants à partir d'images annotées.

B. Apprentissage Inductif Logique (ILP) avec Vérification

Le cœur du système utilise le solveur Popper pour l'ILP. Au lieu d'appliquer l'ILP une seule fois sur l'ensemble des données (ce qui échouerait face au bruit), World2Rules utilise une procédure itérative à quatre niveaux :

1. Niveau 1 : Cohérence d'extraction. Validation syntaxique et sémantique des extraits générés par les modèles neuronaux avant tout apprentissage.
2. Niveau 2 : Cohérence au niveau du sous-ensemble. Chaque paire (rapport d'incident + observation nominale) forme un sous-ensemble ILP indépendant. Le solveur vérifie si un hypothèse peut être trouvée qui est cohérente avec ce sous-ensemble spécifique. Les sous-ensembles incohérents sont rejetés.
3. Niveau 3 : Agrégation itérative globale. Les sous-ensembles validés sont agrégés progressivement. À chaque étape, le système vérifie si l'ajout d'un nouveau sous-ensemble permet de maintenir une hypothèse globale cohérente (100 % de précision sur les exemples positifs et négatifs cumulés). Si l'ajout brise la cohérence, le sous-ensemble est rejeté ou partiellement élagué. Un mécanisme de "mélange" (shuffle) est utilisé pour éviter les biais d'ordre.
4. Niveau 4 : Élagage par support. Les règles finales sont évaluées selon leur "support empirique" (combien d'exemples positifs elles couvrent). Les règles à faible support (potentiellement du bruit ou des sur-spécialisations) sont éliminées.

C. Garanties de Correction

Le cadre assure mathématiquement que l'hypothèse finale est "negative-safe" (elle ne déduit jamais un exemple négatif comme positif), garantissant ainsi l'absence de fausses alertes critiques, même après l'élagage.

3. Contributions Clés

1. Framework Neuro-Symbolique : Introduction de World2Rules pour apprendre des règles de sécurité déclaratives à partir de données multimodales brutes, en traitant les modèles neuronaux comme des générateurs de candidats et l'ILP comme une couche de vérification.
2. Procédure de Vérification Hiérarchique : Formalisation d'un mécanisme de contrôle de cohérence à plusieurs niveaux (extraction, sous-ensemble, agrégation, support) qui limite la propagation des erreurs des modèles neuronaux.
3. Apprentissage par Données Contrastives : Démonstration de l'efficacité de combiner des données opérationnelles nominales (pour contraindre l'espace des états permis) et des données de violation (pour délimiter les états interdits) afin d'apprendre des règles de sécurité robustes pour les opérations de surface aéroportuaires.

4. Résultats Expérimentaux

L'évaluation a été réalisée sur un jeu de données de sécurité aéronautique réel, comprenant 38 scénarios de test (28 incidents réels + 10 scénarios canoniques) et 300 rapports de violation pour l'entraînement.

• Performance : World2Rules atteint un score F1 de 94,0 %.
  • +23,6 points par rapport à une approche purement neuronale (LLM seul, 70,4 %).
  • +43,2 points par rapport à une approche neuro-symbolique naïve (ILP en un seul passage, 50,8 %).
• Précision et Rappel : Le système maintient une précision parfaite (ou quasi-parfaite), éliminant les fausses positives grâce à la vérification par solveur. L'amélioration majeure réside dans le rappel, permettant de capturer une gamme beaucoup plus large de motifs d'intrusion sur la piste.
• Évolutivité : La performance (F1) augmente de manière monotone avec la quantité de données d'entraînement (de 52,5 % avec 10 rapports à 94,0 % avec 300), prouvant que l'agrégation itérative exploite efficacement la diversité des données sans introduire de règles erronées.
• Interprétabilité : Les règles apprises sont compactes, en logique du premier ordre, et correspondent directement aux catégories reconnues d'intrusions sur piste (ex: "atterrissage sur une piste occupée", "traversée pendant l'atterrissage").

5. Signification et Impact

Ce travail démontre que l'intégration de la vérification symbolique dans les pipelines d'apprentissage profond est cruciale pour les applications de sécurité critique.

• Sécurité et Vérifiabilité : Contrairement aux boîtes noires neuronales, World2Rules produit des règles formelles vérifiables, essentielles pour l'analyse de conformité et la certification en aviation.
• Robustesse au Bruit : Le cadre résout le problème de l'apprentissage à partir de données déséquilibrées et bruitées en rejetant activement les hypothèses non étayées.
• Généralisation : Bien que testé sur l'aviation, le cadre est agnostique au domaine et peut être appliqué à tout système régi par des règles de sécurité structurées, à condition de définir un vocabulaire de prédicats approprié.

En résumé, World2Rules offre une voie prometteuse pour transformer des données d'incidents complexes en règles de sécurité formelles, exploitant le meilleur des deux mondes : la capacité d'extraction des modèles neuronaux et la rigueur logique des systèmes symboliques.