Stel je voor dat je de volgende grote storm probeert te voorspellen. Je kunt niet gewoon gokken; je moet kijken naar hoe wind, druk en temperatuur in het verleden samen hebben gedanst om chaos te creëren. Dit is de kern van "veiligheidsanalyse" in de luchtvaart. Het gaat niet over het repareren van een kapotte motor nadat deze rook heeft uitgestoten; het gaat over het gebruiken van een kristallen bol gemaakt van data om te vragen: "Wat als een piloot in de war raakt, het weer ijzig wordt en een computer een fout maakt, alles tegelijkert volgt?" Het doel is om deze gevaarlijke combinaties te vinden voordat ze gebeuren, zodat ingenieurs vliegtuigen kunnen bouwen die ze kunnen overleven. Decennialang hebben mensen dit gedaan door te brainstormen en oude ongevalsrapporten te controleren, maar het aantal mogelijke "wat als"-scenario's is zo groot dat het voelt als het zoeken naar een specifief zandkorreltje op een strand. Nu vragen wetenschappers zich af: kunnen we een superintelligente computer leren om dit brainstormen voor ons te doen?

Dit artikel introduceert een nieuwe AI-tool genaamd HaGen (Hazard Generator), die fungeert als een creatieve schrijfpartner voor veiligheidstechnici. In plaats van alleen droge feiten op te sommen, leest HaGen duizenden echte, historische ongevalsrapporten uit de NASA-database en leert het de "grammatica" van luchtvaartrampen. Wanneer een ingenieur vraagt: "Toon me een scenario waarin een vliegtuig schade oploopt tijdens een landing bij een heldere hemel," spuugt HaGen niet zomaar een willekeurige lijst met fouten uit. Het construeert een volledig verhaal: het kiest specifieke, realistische oorzaken (zoals een specifiek type weer, een bepaalde fase van de vlucht en een menselijke fout) en schrijft vervolgens een levendig, technisch narratief dat precies beschrijft hoe die factoren zouden combineren om problemen te veroorzaken.

De onderzoekers testten deze tool tegen oudere, meer rigide wiskundige methoden. Ze ontdekten dat hoewel de AI geweldig is in het schrijven van het verhaal, het soms struikelt over de logica en onmogelijke combinaties van gebeurtenissen verzint. Ze ontdekten echter een slimme oplossing: ze creëerden een hybride versie genaamd HaGen+. In deze versie bouwt een andere, zeer logische AI eerst het "skelet" van het ongeluk (de lijst met oorzaken), en HaGen vult vervolgens alleen nog het "vlees" in (het verhaal). Deze combinatie bleek de meest betrouwbare, waarbij scenario's werden geproduceerd die niet alleen realistisch waren, maar ook consistent en vrij van logische fouten. Het artikel suggereert dat deze hybride aanpak een krachtige assistent voor veiligheidsexperts kan worden, die hen helpt gevaarlijke situaties te ontdekken die ze anders wellicht over het hoofd hadden gezien, mits een menselijke expert het uiteindelijke werk altijd controleert.

Het Verhaal van HaGen: AI Leren Dromen over Rampen (Veilig)

Luchtvaartveiligheid is een beetje als het spelen van een spelletje "Wat als?", maar dan met belangen die even hoog zijn als de lucht zelf. Om vliegtuigen veilig te houden, moeten ingenieurs zich elke mogelijke manier voorstellen waarop een vlucht mis kan gaan. Ze kijken naar oude ongevalsrapporten—zoals die in de enorme database van NASA genaamd ASRS—om patronen te zien. Meestal wordt een crash niet door slechts één ding veroorzaakt; het is een kettingreactie. Misschien was het weer slecht, was de piloot moe en faalde een sensor, en gebeurde dit alles op exact hetzelfde moment.

Al een lange tijd moeten mensen deze ketens van gebeurtenissen handmatig brainstormen. Het is hard werk, en omdat er zoveel variabelen zijn (weer, menselijke acties, vliegtuigonderdelen, instructies van de luchtverkeersleiding), is het makkelijk om een vreemde maar gevaarlijke combinatie te missen. Hier komen de auteurs van het artikel met een nieuw idee: Laten we Large Language Models (LLM's) gebruiken—dezelfde soort AI die gedichten schrijft en vragen beantwoordt—om deze "Wat als"-scenario's voor ons te genereren.

De Magische Tool: HaGen

De auteurs bouwden een tool genaamd HaGen. Zie HaGen als een creatieve schrijver die elk enkel ongevalsrapport uit de geschiedenis heeft gelezen. Wanneer je het een specifiek doel geeft—zoals: "Schrijf een verhaal over een vliegtuig dat schade oploopt tijdens een finale nadering bij helder weer"—doet HaGen twee dingen:

1. Het bouwt een skelet: Het kiest een reeks specifieke, categorische factoren (zoals "Nacht", "Ijsvorming", "Communicatieproblemen") die voldoen aan de regels van de luchtvaart.
2. Het schrijft het verhaal: Het genereert een gedetailleerd narratief dat precies beschrijft hoe die factoren in het echte leven zouden uitspelen, gebruikmakend van de technische taal die piloten en verkeersleiders gebruiken.

Het artikel testte HaGen met drie verschillende AI-modellen (Llama, Ministral en Phi) en twee verschillende manieren om de vragen te stellen (Zero-Shot, waarbij je gewoon vraagt, en Few-Shot, waarbij je de AI eerst een paar voorbeelden geeft).

Het Probleen: AI-hallucinaties

Hier zit de adder onder het gras. Hoewel HaGen geweldig is in schrijven, gaat het soms de feiten niet juist. In de experimenten genereerde de AI af en toe scenario's die onmogelijk waren of niet overeenkwamen met de regels. Bijvoorbeeld, het zou kunnen suggereren dat een vliegtuig neerstortte in "heldere luchten" terwijl het verhaal een sneeuwstorm beschreef, of het zou een onderdeel van het vliegtuig verzinnen dat niet bestaat.

De onderzoekers ontdekten dat het simpelweg vragen aan de AI om "creatief te zijn" (Zero-Shot) tot veel fouten leidde. Echter, toen ze de AI eerst een paar goede voorbeelden van verhalen gaven (Few-Shot prompting), daalde het foutpercentage aanzienlijk. Sterker nog, het overstappen naar deze "Few-Shot"-methode verbeterde de nauwkeurigheid van de gegenereerde structuren met ongeveer 52% vergeleken met het simpelweg vragen zonder voorbeelden.

Interessant genoeg probeerden ze de AI te "fine-tunen" (het specifiek trainen op hun dataset) om het beter te maken, maar dit maakte het voor sommige modellen juist slechter en zorgde ervoor dat ze vaker faalden. De beste resultaten kwamen voort uit het gebruik van het Llama-model met de Few-Shot-aanpak en zonder fine-tuning.

De Oplossing: HaGen+ (Het Beste van Beide Werelden)

De auteurs realiseerden zich dat hoewel de AI goed is in het schrijven van verhalen, het niet altijd goed is in de strikte logica die nodig is om het "skelet" van het ongeval te bouwen. Daarom creëerden ze HaGen+.

Stel je HaGen+ voor als een team van twee:

1. De Architect (EVA): Dit is een gespecialiseerd, ouder algoritme dat zeer strikt en logisch is. Het bouwt het perfecte skelet van het ongeval en zorgt ervoor dat alle factoren samen logisch zijn. Het gebruikt een methode genaamd "evolutionary abduction", wat een soort digitaal evolutieproces is dat duizenden combinaties test om de meest aannemelijke te vinden.
2. De Verhalenverteller (HaGen): Zodra de Architect het skelet heeft gebouwd, neemt HaGen het over en schrijft het narratief rondom dat skelet.

Deze hybride aanpak loste het grootste probleem op. Omdat de Architect garandeert dat het skelet geldig is, hoeft de Verhalenverteller zich nooit zorgen te maken over het verzinnen van onmogelijke feiten. Het resultaat? De "HaGen+"-tool produceerde scenario's die net zo realistisch waren als de beste zelfstandige gestructureerde methoden, maar dan met nul ongeldige structuren. Het maakte de verhalen ook veel consistenter, waardoor de variabiliteit in hoe realistisch ze klonken met 83% afnam.

Waarom dit ertoe doet

Het artikel beweert niet dat AI de menselijke veiligheidstechnici kan vervangen. In plaats daarvan suggereert het dat AI een krachtige "assistent" in de loop kan zijn. Het kan snel honderden plausibele, gedetailleerde scenario's genereren die een mens misschien nooit zou bedenken, waardoor ingenieurs verborgen gevaren kunnen opsporen.

De onderzoekers testten hun tool tegen de meest geavanceerde methoden voor het genereren van gestructureerde ongevalsdata (specifiek die gebaseerd op evolutionaire zoekopdrachten en causale structuurontdekking) en ontdekten dat hun door AI gegenereerde gestructureerde scenario's statistisch niet te onderscheiden waren van die gecreëerd door deze toegewijde, niet-AI-methoden. Bovendien biedt het systeem traceerbaarheid door elk gegenereerd scenario te koppelen aan de meest vergelijkbare historische ASRS-rapporten, wat bewijs biedt dat het scenario gebaseerd is op echte patronen uit de praktijk in plaats van op een willekeurige uitvinding.

De auteurs merken echter voorzichtig op dat dit een instrument is voor exploratie, niet een kristallen bol voor voorspelling. De AI genereert "kandidaat"-scenario's die door menselijke experts moeten worden beoordeeld. De auteurs suggereren dat voor gebruik in de echte wereld voor certificering (het verkrijgen van officiële goedkeuring door instanties zoals de FAA of EASA), de AI onderdeel moet zijn van een "Human-in-the-Loop"-systeem, waarbij een mens altijd het laatste woord heeft.

Kortom, het artikel laat zien dat door de logische strengheid van de traditionele algoritmen te combineren met het creatieve vertelvermogen van moderne AI, we een beter vangnet voor de lucht kunnen bouwen. Het gaat niet om het vervangen van de piloot of de ingenieur; het gaat om het geven van een superkrachtige assistent om hen te helpen de onzichtbare gevaren te zien voordat ze ooit gebeuren.