Stellen Sie sich vor, Sie versuchen, den nächsten großen Sturm vorherzusagen. Sie können nicht einfach raten; Sie müssen beobachten, wie Wind, Druck und Temperatur in der Vergangenheit zusammengetanzt haben, um Chaos zu erzeugen. Dies ist das Herzstück der „Sicherheitsanalyse“ in der Luftfahrt. Es geht nicht darum, einen defekten Motor zu reparieren, nachdem er Rauch ausgestoßen hat; es geht darum, ein Kristallornament aus Daten zu nutzen, um die Frage zu stellen: „Was wäre, wenn ein Pilot verwirrt ist, das Wetter umschlägt und ein Computerfehler auftritt – und das alles gleichzeitig?“ Das Ziel ist es, diese gefährlichen Kombinationen zu finden, bevor sie passieren, damit Ingenieure Flugzeuge bauen können, die ihnen standhalten können. Jahrzehntelang haben Menschen dies durch Brainstorming und die Überprüfung alter Unfallberichte getan, aber die Anzahl der möglichen „Was-wäre-wenn“-Szenarien ist so gewaltig, dass es ist, als versuche man, ein spezifisches Sandkorn auf einem Strand zu finden. Nun fragen Wissenschaftler: Können wir einen superintelligenten Computer lehren, dieses Brainstorming für uns zu übernehmen?

Dieses Paper stellt ein neues KI-Tool namens HaGen (Hazard Generator) vor, das wie ein kreativer Schreibpartner für Sicherheitsingenieure fungiert. Anstatt nur trockene Fakten aufzulisten, liest HaGen tausende echte, historische Unfallberichte aus der NASA-Datenbank und lernt die „Grammatik“ von Luftfahrtkatastrophen. Wenn ein Ingenieur fragt: „Zeige mir ein Szenario, in dem ein Flugzeug bei einer Landung unter klarem Himmel beschädigt wird“, spuckt HaGen nicht einfach eine zufällige Liste von Fehlern aus. Es konstruiert eine vollständige Geschichte: Es wählt spezifische, realistische Ursachen (wie eine bestimmte Art von Wetter, eine bestimmte Flugphase und einen menschlichen Fehler) und schreibt dann eine lebendige, technische Erzählung, die genau beschreibt, wie diese Faktoren zusammenwirken würden, um Probleme zu verursachen.

Die Forscher testeten dieses Tool gegen ältere, starrere mathematische Methoden. Sie fanden heraus, dass die KI zwar großartig darin ist, die Geschichte zu schreiben, sich aber manchmal an der Logik verschluckt und unmögliche Kombinationen von Ereignissen erfindet. Sie entdeckten jedoch eine clevere Lösung: Sie entwickelten eine Hybridversion namens HaGen+. In dieser Version baut eine andere, hochgradig logische KI zuerst das „Skelett“ des Unfalls (die Liste der Ursachen), und HaGen füllt lediglich das „Fleisch“ (die Geschichte) aus. Diese Kombination erwies sich als am zuverlässigsten; sie erzeugte Szenarien, die nicht nur realistisch, sondern auch konsistent und frei von logischen Fehlern waren. Das Paper legt nahe, dass dieser hybride Ansatz zu einem leistungsstarken Assistenten für Sicherheitsexperten werden könnte, der ihnen hilft, gefährliche Situationen zu entdecken, die sie vielleicht übersehen hätten – vorausgesetzt, ein menschlicher Experte überprüft stets das Endergebnis.

Die Geschichte von HaGen: Einer KI beibringen, Katastrophen zu träumen (auf sichere Weise)

Luftfahrtsicherheit ist ein wenig wie ein Spiel mit dem „Was wäre, wenn?“, aber mit Einsätzen, die so hoch sind wie der Himmel selbst. Um Flugzeuge sicher zu halten, müssen Ingenieure sich jede mögliche Weise vorstellen, wie ein Flug schiefgehen könnte. Sie schauen sich alte Unfallberichte an – wie jene in der riesigen Datenbank der NASA namens ASRS – um Muster zu erkennen. Normalerweise wird ein Absturz nicht durch nur eine Sache verursacht; es ist eine Kettenreaktion. Vielleicht war das Wetter schlecht, der Pilot war müde und ein Sensor fiel aus – und das alles zur exakt gleichen Zeit.

Lange Zeit mussten Menschen diese Ketten von Ereignissen manuell durch Brainstorming entwickeln. Das ist harte Arbeit, und da es so viele Variablen gibt (Wetter, Handlungen des Piloten, Flugzeugteile, Anweisungen der Flugsicherung), ist es leicht, eine seltsame, aber gefährliche Kombination zu übersehen. Hier setzen die Autoren des Papers mit einer neuen Idee an: Lassen Sie uns Large Language Models (LLMs) verwenden – dieselbe Art von KI, die Gedichte schreibt und Fragen beantwortet – um diese „Was-wäre-wenn“-Szenarien für uns zu generieren.

Das magische Werkzeug: HaGen

Die Autoren entwickelten ein Tool namens HaGen. Betrachten Sie HaGen als einen kreativen Schreiber, der jeden einzelnen historischen Unfallbericht der Luftfahrt gelesen hat. Wenn Sie ihm ein spezifisches Ziel geben – wie etwa: „Schreibe eine Geschichte über ein Flugzeug, das während des Endanflugs bei klarem Wetter beschädigt wird“ – tut HaGen zwei Dinge:

1. Es baut ein Skelett: Es wählt einen Satz spezifischer, kategorischer Faktoren (wie „Nacht“, „Vereisung“, „Kommunikationsabbruch“), die den Regeln der Luftfahrt entsprechen.
2. Es schreibt die Geschichte: Es generiert eine detaillierte Erzählung, die genau beschreibt, wie diese Faktoren im realen Leben ablaufen würden, unter Verwendung der technischen Sprache, die Piloten und Fluglotsen verwenden.

Das Paper testete HaGen mit drei verschiedenen KI-Modellen (Llama, Ministral und Phi) und zwei verschiedenen Arten, die Fragen zu stellen (Zero-Shot, bei dem man einfach nur fragt, und Few-Shot, bei dem man der KI zuerst einige Beispiele gibt).

Das Problem: KI-Halluzinationen

Hier liegt der Haken. Während HaGen großartig im Schreiben ist, unterläuft ihm manchmal ein Fehler bei den Fakten. In den Experimenten generierte die KI gelegentlich Szenarien, die unmöglich waren oder nicht den Regeln entsprachen. Zum Beispiel könnte sie ein Flugzeug in einem „klaren Himmel“ abstürzen lassen, während die Geschichte einen Schneesturm beschrieb, oder sie könnte ein Teil des Flugzeugs erfinden, das gar nicht existiert.

Die Forscher fanden heraus, dass es zu vielen Fehlern führte, wenn man die KI einfach nur bat, „kreativ zu sein“ (Zero-Shot). Wenn sie der KI jedoch zuerst einige Beispiele für gute Geschichten gaben (Few-Shot Prompting), sank die Fehlerrate signifikant. Tatsächlich verbesserte der Wechsel zu dieser „Few-Shot“-Methode die Genauigkeit der generierten Strukturen um etwa 52 % im Vergleich zum bloßen Fragen ohne Beispiele.

Interessanterweise versuchten sie, die KI „feinzutunen“ (sie gezielt mit ihrem Datensatz zu lehren), um sie besser zu machen, aber das verschlechterte die Ergebnisse für einige Modelle sogar und führte dazu, dass sie häufiger scheiterten. Die besten Ergebnisse wurden mit dem Llama-Modell in Kombination mit dem Few-Shot-Ansatz und ohne Fine-Tuning erzielt.

Die Lösung: HaGen+ (Das Beste aus beiden Welten)

Die Autoren erkannten, dass die KI zwar gut darin ist, Geschichten zu schreiben, aber nicht immer über die strikte Logik verfügt, die zum Aufbau des „Skeletts“ eines Unfalls erforderlich ist. Also entwickelten sie HaGen+.

Stellen Sie sich HaGen+ als ein Team aus zwei Personen vor:

1. Der Architekt (EVA): Dies ist ein spezialisierter, älterer Algorithmus, der sehr streng und logisch ist. Er baut das perfekte Skelett des Unfalls und stellt sicher, dass alle Faktoren zusammen Sinn ergeben. Er nutzt eine Methode namens „evolutionäre Abduktion“, was einem digitalen Evolutionsprozess gleicht, der tausende Kombinationen testet, um die plausibelsten zu finden.
2. Der Geschichtenerzähler (HaGen): Sobald der Architekt das Skelett gebaut hat, übernimmt HaGen das Ruder und schreibt die Erzählung um dieses Skelett herum.

Dieser hybride Ansatz löste das größte Problem. Da der Architekt garantiert, dass das Skelett gültig ist, muss sich der Geschichtenerzähler keine Sorgen machen, unmögliche Fakten zu erfinden. Das Ergebnis? Das „HaGen+“-Tool produzierte Szenarien, die genauso realistisch waren wie die besten eigenständigen strukturbasierten Methoden, aber mit null ungültigen Strukturen. Es machte die Geschichten auch viel konsistenter und reduzierte die Variabilität darin, wie realistisch sie klangen, um 83 %.

Warum das wichtig ist

Das Paper behauptet nicht, dass KI menschliche Sicherheitsingenieure ersetzen kann. Stattdessen deutet es darauf an, dass KI ein leistungsstarker „Assistent“ im Prozess sein kann. Sie kann schnell hunderte plausible, detaillierte Szenarien generieren, die ein Mensch vielleicht nie übersehen würde, und Ingenieuren helfen, verborgene Gefahren aufzuspüren.

Die Forscher testeten ihr Tool gegen modernste Methoden zur Generierung strukturierter Unfalldaten (speziell solche, die auf evolutionärer Suche und kausaler Strukturfindung basieren) und fanden heraus, dass ihre KI-generierten strukturierten Szenarien statistisch nicht von diesen dedizierten, nicht-KI-basierten Methoden zu unterscheiden waren. Darüber hinaus bietet das System Rückverfolgbarkeit, indem es jedes generierte Szenario mit den ähnlichsten historischen ASRS-Berichten verknüpft und so einen Beweis liefert, dass das Szenario auf realen Mustern basiert und nicht nur eine zufällige Erfindung ist.

Das Paper weist jedoch vorsichtig darauf hin, dass dies ein Werkzeug zur Exploration ist, nicht ein Kristallornament zur Vorhersage. Die KI generiert „Kandidaten-Szenarien“, die von menschlichen Experten überprüft werden müssen. Die Autoren schlagen vor, dass für eine Nutzung in der realen Zertifizierung (die offizielle Genehmigung durch Behörden wie die FAA oder EASA zu erhalten) die KI Teil eines „Human-in-the-Loop“-Systems sein müsste, in dem ein Mensch immer das letzte Wort hat.

Kurz gesagt zeigt das Paper, dass wir durch die Kombination der logischen Strenge alter Algorithmen mit der kreativen Erzählkraft moderner KI ein besseres Sicherheitsnetz für den Himmel bauen können. Es geht nicht darum, den Piloten oder den Ingenieur zu ersetzen; es geht darum, ihnen einen superstarken Assistenten an die Seite zu stellen, der ihnen hilft, die unsichtbaren Gefahren zu sehen, bevor sie jemals eintreten.