Imaginez que vous essayiez de prédire la prochaine grande tempête. Vous ne pouvez pas simplement deviner ; vous devez observer comment le vent, la pression et la température ont dansé ensemble par le passé pour créer le chaos. C'est le cœur de l'« analyse de sécurité » dans l'aviation. Il ne s'agit pas de réparer un moteur cassé après qu'il ait fumé ; il s'agit d'utiliser une boule de cristal faite de données pour demander : « Et si un pilote était confus, que la météo devenait glaciale et qu'un ordinateur tombait en panne, tout cela en même temps ? » L'objectif est de trouver ces combinaisons dangereuses avant qu'elles ne se produisent, afin que les ingénieurs puissent construire des avions capables de les survivre. Pendant des décennies, les humains ont fait cela en faisant du brainstorming et en vérifiant d'anciens rapports d'accidents, mais le nombre de scénarios possibles de type « et si » est si immense qu'il revient à essayer de trouver un grain de sable spécifique sur une plage. Aujourd'hui, les scientifiques se demandent : pouvons-nous apprendre à un ordinateur super intelligent à faire ce brainstorming pour nous ?

Ce document présente un nouvel outil d'IA appelé HaGen (Hazard Generator) qui agit comme un partenaire d'écriture créative pour les ingénieurs de sécurité. Au lieu de simplement lister des faits arides, HaGen lit des milliers de rapports d'accidents réels et historiques issus de la base de données de la NASA et apprend la « grammaire » des catastrophes de l'aviation. Lorsqu'un ingénieur demande : « Montrez-moi un scénario où un avion est endommagé lors d'un atterrissage par ciel clair », HaGen ne se contente pas de recracher une liste aléatoire d'erreurs. Il construit une histoire complète : il choisit des causes spécifiques et réalistes (comme un type particulier de météo, une phase de vol précise et une erreur humaine) puis écrit un récit technique et vivant décrivant exactement comment ces facteurs se combineraient pour causer des problèmes.

Les chercheurs ont testé cet outil contre des méthodes mathématiques plus anciennes et plus rigides. Ils ont constaté que, bien que l'IA soit excellente pour écrire l'histoire, elle trébuche parfois sur la logique, inventant des combinaisons d'événements impossibles. Cependant, ils ont découvert un correctif astucieux : ils ont créé une version hybride appelée HaGen+. Dans cette version, une autre IA, hautement logique, construit d'abord le « squelette » de l'accident (la liste des causes), et HaGen se contente d'ajouter la « chair » (l'histoire). Cette combinaison s'est avérée être la plus fiable, produisant des scénarios qui sont non seulement réalistes, mais aussi cohérents et exempts d'erreurs logiques. Le document suggère que cette approche hybride pourrait devenir un assistant puissant pour les experts de la sécurité, les aidant à repérer des situations dangereuses qu'ils auraient pu manquer, à condition qu'un expert humain vérifie toujours le travail final.

L'histoire de HaGen : Apprendre à l'IA à rêver de désastres (en toute sécurité)

La sécurité aérienne est un peu comme jouer à un jeu de « Et si ? », mais avec des enjeux aussi élevés que le ciel lui-même. Pour maintenir la sécurité des avions, les ingénieurs doivent imaginer toutes les façons possibles dont un vol pourrait mal tourner. Ils examinent les anciens rapports d'accidents — comme ceux stockés dans la vaste base de données de la NASA appelée ASRS — pour observer des modèles. Généralement, un crash n'est pas causé par une seule chose ; c'est une réaction en chaîne. Peut-être que la météo était mauvaise, que le pilote était fatigué et qu'un capteur a échoué, tout cela au même moment précis.

Pendant longtemps, les humains ont dû élaborer manuellement ces chaînes d'événements. C'est un travail difficile, et comme il y a tellement de variables (météo, actions du pilote, pièces de l'avion, instructions du contrôle aérien), il est facile de manquer une combinaison étrange mais dangereuse. C'est là que les auteurs du document interviennent avec une nouvelle idée : Utilisons les modèles de langage étendus (LLM) — le même type d'IA qui écrit des poèmes et répond à des questions — pour générer ces scénarios de « Et si ? » pour nous.

L'outil magique : HaGen

Les auteurs ont construit un outil appelé HaGen. Considérez HaGen comme un écrivain créatif qui a lu chaque rapport d'accident aérien de l'histoire. Lorsque vous lui donnez un objectif spécifique — comme, « Écris une histoire sur un avion endommagé lors d'une approche finale par beau temps » — HaGen fait deux choses :

1. Il construit un squelette : Il choisit un ensemble de facteurs catégoriels spécifiques (comme « Nuit », « Givrage », « Rupture de communication ») qui respectent les règles de l'aviation.
2. Il écrit l'histoire : Il génère un récit détaillé décrivant exactement comment ces facteurs se dérouleraient dans la vie réelle, en utilisant le langage technique utilisé par les pilotes et les contrôleurs.

Le papier a testé HaGen en utilisant trois modèles d'IA différents (Llama, Ministral et Phi) et deux manières de poser les questions (Zero-Shot, où vous demandez simplement, et Few-Shot, où vous donnez d'abord quelques exemples à l'IA).

Le problème : Les hallucinations de l'IA

Voici le hic. Bien que HaGen soit excellent pour écrire, il se trompe parfois sur les faits. Lors des expériences, l'IA a parfois généré des scénarios impossibles ou ne respectant pas les règles. Par exemple, elle pourrait suggérer qu'un avion s'est écrasé par « ciel clair » alors que le récit décrit un blizzard, ou elle pourrait inventer une pièce d'avion qui n'existe pas.

Les chercheurs ont constaté que le simple fait de demander à l'IA d'être « créative » (Zero-Shot) entraînait beaucoup d'erreurs. Cependant, lorsqu'ils ont donné à l'IA quelques exemples de bonnes histoires au préalable (Few-Shot prompting), le taux d'erreur a chuté de manière significative. En fait, passer à cette méthode « Few-Shot » a amélioré la précision des structures générées d'environ 52 % par rapport à une simple demande sans exemples.

Il est intéressant de noter qu'ils ont tenté de « fine-tuner » l'IA (en l'enseignant spécifiquement sur leur jeu de données) pour l'améliorer, mais cela a en réalité aggravé les choses pour certains modèles, provoquant des échecs plus fréquents. Les meilleurs résultats sont venus de l'utilisation du modèle Llama avec l'approche Few-Shot et sans fine-tuning.

La solution : HaGen+ (Le meilleur des deux mondes)

Les auteurs ont réalisé que si l'IA est douée pour écrire des histoires, elle n'est pas toujours capable de la rigueur logique requise pour construire le « squelette » de l'accident. Ils ont donc créé HaGen+.

Imaginez HaGen+ comme une équipe de deux :

1. L'Architecte (EVA) : Il s'agit d'un algorithme spécialisé plus ancien, très strict et logique. Il construit le squelette parfait de l'accident, garantissant que tous les facteurs concordent. Il utilise une méthode appelée « abduction évolutive », qui est un processus d'évolution numérique testant des milliers de combinaisons pour trouver les plus plausibles.
2. Le Conteur (HaGen) : Une fois que l'Architecte a construit le squelette, HaGen prend le relais et écrit le récit autour de celui-ci.

Cette approche hybride a résolu le problème majeur. Parce que l'Architecte garantit la validité du squelette, le Conteur n'a jamais à s'inquiéter d'inventer des faits impossibles. Le résultat ? L'outil « HaGen+ » a produit des scénarios tout aussi réalistes que les meilleures méthodes basées uniquement sur la structure, mais avec zéro structure invalide. Cela a également rendu les histoires beaucoup plus cohérentes, réduisant la variabilité de leur réalisme de 83 %.

Pourquoi cela importe

Le document ne prétend pas que l'IA peut remplacer les ingénieurs de sécurité humains. Au contraire, il suggère que l'IA peut être un puissant « assistant » dans la boucle. Elle peut générer rapidement des centaines de scénarios détaillés et plausibles auxquels un humain n'aurait peut-être jamais pensé, aidant les ingénieurs à repérer des dangers cachés.

Les chercheurs ont testé leur outil par rapport aux méthodes de pointe pour générer des données d'accidents structurées (spécifiquement celles basées sur la recherche évolutive et la découverte de structures causales) et ont constaté que leurs scénarios structurés générés par l'IA étaient statistiquement indiscernables de ceux créés par ces méthodes dédiées non-IA. De plus, le système assure la traçabilité en liant chaque scénario généré aux rapports ASRS historiques les plus similaires, offrant la preuve que le scénario est ancré dans des modèles du monde réel plutôt que d'être une simple invention aléatoire.

Cependant, le document précise avec prudence qu'il s'agit d'un outil d'exploration, et non d'une boule de cristal pour la prédiction. L'IA génère des scénarios « candidats » qui doivent être examinés par des experts humains. Les auteurs suggèrent que pour que cela puisse être utilisé dans la certification réelle (obtention de l'approbation officielle d'agences comme la FAA ou l'EASA), l'IA devrait faire partie d'un système « Human-in-the-Loop » (l'humain dans la boucle), où l'humain a toujours le dernier mot.

En bref, ce document montre qu'en combinant la rigueur logique des algorithmes traditionnels avec le pouvoir de narration créative de l'IA moderne, nous pouvons construire un meilleur filet de sécurité pour les cieux. Il ne s'agit pas de remplacer le pilote ou l'ingénieur, mais de leur donner un assistant surpuissant pour les aider à voir les dangers invisibles avant qu'ils ne surviennent.