🤖 AI

Explainable AI-Driven Cyber Risk Analytics and Model Reliability Assessment for Intelligent Governance of U.S. Critical Infrastructure: An XGBoost and SHAP-Based Intrusion Detection Framework

Dieses Papier schlägt ein Framework auf Basis erklärbarer KI vor, das XGBoost- und SHAP-Techniken auf dem CICIDS2017-Datensatz nutzt, um die Intrusion Detection, die Cyber-Risikoanalyse und die Modellzuverlässigkeit für die intelligente Governance der kritischen Infrastruktur der USA zu verbessern.

Ursprüngliche Autoren: B. M. Taslimul Haque, Md. Arifur Rahman, Md. Serajul Kabir Chowdhury Rubel, Md. Iqbal Hossan

Veröffentlicht 2026-06-05

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: B. M. Taslimul Haque, Md. Arifur Rahman, Md. Serajul Kabir Chowdhury Rubel, Md. Iqbal Hossan

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Vorstellung: Den Schutz der digitalen Stadt gewährleisten

Stellen Sie sich die kritische Infrastruktur der Vereinigten Staaten (Stromnetze, Krankenhäuser, Banken und Wassersysteme) wie eine riesige, geschäftige Stadt vor. Jahrelang nutzten die Stadtwachen ein einfaches Regelwerk: „Wenn du wie ein bekannter Krimineller aussiehst, halte dich auf.“ Das funktionierte ganz gut, als Kriminelle noch berechenbar waren. Aber heute haben sich die „Kriminellen“ (Cyber-Angreifer) verändert. Sie klopfen nicht einfach nur an die Tür; sie tarnen sich als Lieferfahrer, mischen sich unter die Menge oder stürmen das Tor gleichzeitig mit tausenden falschen Menschen (DDoS-Angriffe), um ihren eigentlichen Diebstahl zu verbergen.

Das alte Regelwerk ist zu langsam und starr, um sie zu fangen. Deshalb haben die Forscher in dieser Arbeit versucht, einen intelligenten, KI-gestützten Sicherheitswachmann zu bauen. Aber hier ist der Haken: Sie wollten nicht nur einen Wachmann, der präzise ist; sie wollten einen, der seine Argumentation erklären kann. Wenn die KI schreit: „Halt diesen Mann!“, muss der verantwortliche Mensch wissen, warum, bevor er das Tor verriegelt.

Das Problem: Das „Black Box“-Dilemma

In der Vergangenheit waren viele KI-Sicherheitssysteme wie Black Boxes (schwarze Kästen). Man gab Daten ein, und es kam ein „Risiko-Score“ heraus.

Die KI sagt: „99 % Wahrscheinlichkeit, dass dies ein Angriff ist.“
Der Mensch fragt: „Warum?“
Die KI sagt: „Weil ich es so sage.“

Für ein Krankenhaus oder ein Stromnetz ist ein „Weil ich es so sage“ nicht gut genug. Wenn die KI falsch liegt, könnte sie eine lebensrettende Maschine oder eine Wasseraufbereitungsanlage abschalten. Die Forscher wollten ein System bauen, das nicht nur intelligent, sondern auch transparent und vertrauenswürdig ist.

Das Experiment: Das Training der KI

Die Forscher verwendeten einen massiven Datensatz namens CICIDS2017. Stellen Sie sich diesen Datensatz wie eine riesige Bibliothek von Videoaufnahmen aus den Sicherheitskameras einer Stadt vor, die Millionen von Stunden Filmmaterial enthält.

Die Guten: Normaler Datenverkehr (Menschen, die Kaffee kaufen oder E-Mails versenden).
Die Bösen: Verschiedene Angriffe, darunter DDoS (eine riesige Menschenmenge, die die Straßen blockiert), Brute Force (Versuche, jeden Schlüssel an einem Schlüsselbund auszuprobieren) und Botnets (Armeen infizierter Computer).

Sie trainierten vier verschiedene Arten von „KI-Wachmännern“ (Maschinelle Lernmodelle), um dieses Filmmaterial zu überwachen:

XGBoost: Ein sehr scharfsinniger, schneller Lerner, der einen Entscheidungsbaum aufbaut.
Random Forest: Ein Komitee aus vielen Entscheidungsbäumen, die über die Antwort abstimmen.
Decision Tree (Entscheidungsbaum): Ein einzelnes, leicht nachvollziehbares Flussdiagramm.
Logistic Regression (Logistische Regression): Ein einfacher, linearer Regelbefolger.

Die Ergebnisse: Der Champion-Wachmann

Die Forscher testeten diese Wachmänner mit neuem Filmmaterial, das sie zuvor noch nicht gesehen hatten.

Der Gewinner: Ein spezifisches Modell (eine Support Vector Machine oder SVM) schnitt fast perfekt ab. Es identifizierte fast jeden einzelnen Angriff und fast jede normale Person korrekt.
Die Punktzahl: Es machte nur 11 Fehler bei tausenden Datensätzen. Es erkannte 2.571 Angriffe und 1.918 normale Ereignisse korrekt.
Das „Fehlalarm“-Problem: In der Sicherheit ist ein „False Positive“ (falsch positiver Alarm) wie ein Wachmann, der „Dieb!“ schreit, obwohl es nur ein Postbote ist. Dies verursacht Panik und verschwendet Zeit. Dieses Modell hatte sehr wenige Fehlalarme, was entscheidend ist, um die Stadt reibungslos am Laufen zu halten.

Das Geheimrezept: Das „Warum“ (Erklärbare KI)

Dies ist der wichtigste Teil der Arbeit. Die Forscher hörten nicht bei „es funktioniert“ auf. Sie nutzten ein Werkzeug namens SHAP (SHapley Additive Explanations).

Stellen Sie sich SHAP wie eine Lupe vor, die der KI hilft, dem menschlichen Wachmann genau zu zeigen, was sie gesehen hat.

Ohne SHAP: „Ich glaube, dieses Auto ist eine Bombe.“
Mit SHAP: „Ich glaube, dieses Auto ist eine Bombe, weil:
1. Es mit 100 mph fährt (Flow Bytes/s).
2. Es trägt riesige, schwere Kisten (Packet Size).
3. Es steuert direkt auf die Tresortür der Bank zu (Destination Port).“

Die Studie fand heraus, dass die KI auf bestimmte Hinweise achtete, um DDoS-Angriffe zu erkennen:

Flow Duration (Flussdauer): Normaler Verkehr ist schnell (wie ein kurzer Handschlag). Angriffstrafik bleibt oft lange verbunden, um Ressourcen zu erschöpfen.
Packet Size (Paketgröße): Angreifer senden oft riesige, schwere Pakete, um die Leitungen zu verstopfen.
Destination Port (Zielport): Angriffe zielen oft mit ungewöhnlicher Intensität auf bestimmte „Türen“ (wie Port 80 für Webseiten).

Warum dies für die Governance wichtig ist

Die Arbeit argumentiert, dass für kritische Infrastrukturen (wie das Stromnetz) Vertrauen genauso wichtig ist wie Genauigkeit.

Wenn ein Modell zu 99 % genau ist, man aber nicht weiß, warum es etwas gemeldet hat, kann man ihm nicht genug vertrauen, um ein Krankenhaus abzuschalten.
Durch die Nutzung von SHAP wird das Modell auditierbar (prüfbar). Ein menschlicher Manager kann sich die Erklärung ansehen, sagen: „Ja, die Paketgröße ist riesig, das ergibt Sinn“, und dann mit Zuversicht handeln.

Die Einschränkungen (Das Kleingedruckte)

Die Autoren sind ehrlich darüber, was ihre Studie nicht geleistet hat:

Veraltete Daten: Die Daten stammen aus dem Jahr 2017. Angreifer haben sich seitdem weiterentwickelt, daher muss die KI möglicherweise für die Tricks von heute neu trainiert werden.
Statischer Test: Sie haben die KI an einer Aufnahme getestet, nicht in einer lebendigen, Echtzeit-Stadt, in der sich der Verkehr jede Sekunde ändert.
Eine Art von Angriff: Diese Studie konzentrierte sich stark auf DDoS-Angriffe (die „Mengen“-Angriffe). Sie hat die KI nicht vollständig gegen subtilere, hinterlistige Angriffe wie Datendiebstahl oder Ransomware getestet.

Das Fazit

Diese Arbeit beweist, dass wir KI-Sicherheitssysteme bauen können, die nicht nur „intelligent“, sondern auch ehrlich und erklärbar sind. Durch die Kombination von leistungsstarker Erkennung (wie dem SVM-Modell) mit einer „Lupe“ (SHAP) können wir ein Cybersicherheitssystem schaffen, dem menschliche Entscheidungsträger vertrauen können, um die lebenswichtigen Systeme zu schützen, die unsere Gesellschaft am Laufen halten. Es führt uns von „blindem Vertrauen in den Computer“ hin zum „Verstehen und Verifizieren der Entscheidung des Computers“.

Technisches Resümee: Erklärbare KI-gestützte Cyber-Risikoanalytik für die kritische Infrastruktur der USA

Problemstellung
Die Sektoren der kritischen Infrastruktur der USA (Energie, Gesundheitswesen, Verkehr, Finanzen, Kommunikation) sind mit einer expandierenden Cyber-Angriffsfläche konfrontiert, die durch KI-gesteuerte digitale Technologien vorangetrieben wird. Traditionelle, regelbasierte Cybersicherheitsmechanismen erweisen sich zunehmend als unzureichend gegenüber komplexen Bedrohungen wie Distributed-Denial-of-Service-Angriffen (DDoS), fortgeschrittenen anhaltenden Bedrohungen (Advanced Persistent Threats, APTs), Botnetzen und Ransomware. Während maschinelles Lernen (ML) vielversprechende Ansätze für die Intrusionserkennung bietet, konzentrieren sich bestehende Frameworks oft auf die Klassifizierungsgenauigkeit zu Lasten der Modellzuverlässigkeit, Erklärbarkeit und Governance-Transparenz. Diese „Black-Box“-Natur schafft ein grundlegendes Vertrauensdefizit bei Infrastrukturbetreibern und politischen Entscheidungsträgern, die eine prüfbare, interpretierbare Entscheidungsunterstützung benötigen, um operative Maßnahmen zu rechtfertigen.

Methodik
Die Studie verwendet ein quantitatives, experimentelles Forschungsdesign, um ein Framework zur Resilienz von Cyber-Risikoanalytik und zur Bewertung der Modellzuverlässigkeit zu entwickeln. Die Methodik verläuft über sechs sequentielle Phasen unter Verwendung des CICIDS2017-Datensatzes, einem realistischen Benchmark, der gelabelte Netzwerkflüsse für DDoS, Brute-Force, Botnetze, Web-Angriffe und Infiltrationsverkehr enthält.

Datenvorverarbeitung: Die rohen Netzwerkflüsse wurden einer Bereinigung (Entfernung von Duplikaten, Imputation fehlender oder unendlicher Werte), Kodierung (Umwandlung von String-Labels und Protokolltypen in Ganzzahlen), Normalisierung (Min-Max-Skalierung für kontinuierliche Merkmale) und Merkmalsauswahl unterzogen. Der Auswahlprozess nutzte die Pearson-Korrelationsanalyse (Entfernung von Paaren mit $|r| > 0,95$ ) und ein Random-Forest-basiertes Importance-Ranking (Entfernung von Merkmalen unter dem 10. Perzentil), wodurch die ursprünglichen 79 Merkmale auf einen Satz von etwa 40–45 diskriminativen Merkmalen reduziert wurden.
Modelltraining: Vier überwachte Klassifikatoren wurden trainiert und vergleichend evaluiert: XGBoost, Random Forest, Decision Tree und Logistic Regression. Die Studie hebt zudem die Leistung eines Support Vector Machine (SVM) Klassifikators bei einer binären Aufgabe (DDoS vs. Benign) hervor. Die Experimente nutzten einen 8-zu-2-stratifizierten Train-Test-Split mit fünffacher stratifizierter Kreuzvalidierung.
Erklärbare KI (XAI): Um die Undurchsichtigkeit von ML-Modellen zu adressieren, wurde die SHAP (SHapley Additive Explanations) Analyse integriert. Unter Verwendung des TreeSHAP-Algorithmus generierte die Studie Merkmalsebenen-Erklärungen (Beeswarm-Plots, Balkendiagramme der mittleren absoluten SHAP-Werte und Force-Plots), um Modellvorhersagen zu interpretieren.
Zuverlässigkeitsbewertung: Die Leistung wurde nicht nur anhand der Genauigkeit, sondern anhand einer umfassenden Suite von Metriken evaluiert: Präzision, Recall, F1-Score, ROC-AUC und insbesondere die False Positive Rate (FPR), welche entscheidend ist, um Alarmmüdigkeit (Alert Fatigue) in operativen Umgebungen zu verhindern.

Kernergebnisse

Klassifizierungsleistung: Der SVM-Klassifikator erreichte eine nahezu perfekte Diskriminierung bei der binären Klassifizierung von DDoS gegenüber Benign, was eine ROC-AUC nahe 1,00 ergab. Die Konfusionsmatrix zeigte 2.571 True Positives und 1.918 True Negatives, mit insgesamt nur 11 Fehlklassifizierungen (7 False Positives und 4 False Negatives).
Diskriminative Kraft der Merkmale: Die explorative Analyse bestätigte, dass spezifische Netzwerkmerkmale substanzielle diskriminative Informationen tragen:
- Flow-Dauer: Lange Flussdauern wurden mit persistenten Sitzungen und TCP-Verbindungserschöpfungsangriffen assoziiert.
- Paketgröße: DDoS-Traffic wies im Vergleich zu benignem Traffic signifikant größere durchschnittliche Paketgrößen auf, was volumetrische Flutungsstrategien widerspiegelt.
- Ziel-Ports: Anomal hohe Volumina auf Standard-Ports (80, 443, 53) kombiniert mit anderen Merkmalen dienten als Indikatoren für Angriffsaktivitäten.
- Flow Bytes/s: Hochintensive Traffic-Anomalien waren deutlich im Verteilungsschwanz unterscheidbar.
Erklärbarkeit: Die SHAP-Analyse identifizierte erfolgreich die einflussreichsten Netzwerkmerkmale, die Modellvorhersagen steuern, und lieferte die Transparenz auf Merkmalsebene, die Governance-Akteure benötigen, um Klassifizierungsergebnisse mit fundiertem Vertrauen zu prüfen.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass ihr primärer Beitrag nicht bloß darin besteht, zu demonstrieren, dass ML Angriffe erkennen kann – eine Fähigkeit, die in der Literatur bereits etabliert ist –, sondern darin, wie dies auf eine Weise geschieht, die zuverlässig, transparent und operativ nützlich für menschliche Entscheidungsträger ist.

Governance-Vertrauenswürdigkeit: Das Framework fördert „vertrauenswürdige, erklärbare KI“, indem es zuverlässige Intrusionserkennung mit transparenter, Governance-gerechter Entscheidungsunterstützung kombiniert. Es adressiert die Lücke zwischen hoher Genauigkeit und der Notwendigkeit auditierbarer, erklärbarer Modelle in kritischen Infrastrukturen.
Operative Rechenschaftspflicht: Durch die Integration von SHAP bewegt sich die Studie über die reine Erkennungsgenauigkeit hinaus hin zu Systemen, die interpretierbar, auditierbar und operativ rechenschaftspflichtig sind. Dies ermöglicht es Analysten zu verstehen, war Warum ein Modell ein Ereignis markiert hat (z. B. durch spezifische Anomalien der Paketgröße oder Flussdauer), was informierte Maßnahmen wie Systemisolierung oder weitere Untersuchungen ermöglicht.
Resilienz statt statischer Protektion: Die Studie steht im Einklang mit dem Wandel von statischer Protektion hin zu Resilienz-basierter Governance und argumentiert, dass Modelle erklärbar sein müssen und ihre Fehlermodi verstanden werden müssen, um ein adaptives Sicherheitsmanagement zu unterstützen.

Einschränkungen und Umfang
Die Autoren nehmen eine bescheidene Haltung hinsichtlich der Generalisierbarkeit ihrer Ergebnisse ein:

Die Analyse konzentrierte sich auf die binäre Klassifizierung (DDoS vs. Benign) innerhalb eines spezifischen Teilsatzes des CICIDS2017-Datensatzes; die Leistung gegenüber der vollständigen Taxonomie von 15 Angriffsarten (einschließlich subtilerer Bedrohungen wie Brute Force oder Infiltration) wurde in dieser Studie nicht vollständig evaluiert.
Die Experimente wurden in einer offline, statischen Umgebung durchgeführt; das Verhalten des Frameworks unter Echtzeitbedingungen, Concept Drift und adversen Evasion-Techniken muss noch validiert werden.
Klassenimbalance wurde mittels stratifizierter Stichprobenziehung adressiert, jedoch nicht durch synthetische Augmentierung (z. B. SMOTE), was die Recall für Minderheitenklassen in breiteren Anwendungen beeinflussen könnte.

Zusammenfassend lässt sich sagen, dass die Studie ein glaubwürdiges Fundament für ein integriertes Framework schafft, in dem Detektion, Zuverlässigkeitsbewertung und Erklärbarkeit zusammenwirken, um die für den Schutz der US-kritischen Infrastruktur wesentlichen menschlichen Governance-Prozesse zu unterstützen.