🤖 AI

Agentic Incident Response through Digital Twin-Enhanced Multiscale Planning

Dieses Paper schlägt ein fundiertes agentenbasiertes Incident-Response-Framework vor, das entscheidungstheoretische Rollout-Planung mit einem digitalen Zwilling und leichtgewichtigen LLM-Agenten integriert, um High-Level-Strategien und ausführbare Befehle zu generieren, wobei es die Ergebnisse von Frontier-LLM-Baselines durch die Reduzierung der Wiederherstellungszeit und die Erhöhung der Wiederherstellungsraten über verschiedene Angriffsszenarien hinweg signifikant übertrifft.

Ursprüngliche Autoren: Yiran Gao, Tao Li, Kim Hammar

Veröffentlicht 2026-08-04

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yiran Gao, Tao Li, Kim Hammar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich das Internet als eine riesige, geschäftige Stadt vor, in der Millionen von Menschen, Unternehmen und Maschinen ständig miteinander kommunizieren. Manchmal schleichen sich Unruhestifter ein, die versuchen, Geheimnisse zu stehlen oder Kraftwerke abzuschalten. In der realen Welt, wenn ein Cyberangriff stattfindet, ist es normalerweise ein Team aus hochqualifizierten menschlichen Detektiven (genannt Sicherheitsoperatoren), das herausfinden muss, was schiefgelaufen ist, entscheiden muss, welches Gebäude zuerst abgeriegelt werden soll, und dann manuell Befehle eintippen muss, um es zu beheben. Es ist, als würde man versuchen, einen Brand in einem Wolkenkratzer zu löschen, während das Gebäude noch brennt, und dabei ein Handbuch verwenden, das möglicherweise veraltet ist. Dieser Prozess ist langsam, erschöpfend und dauert oft Monate, bis die vollständige Erholung erfolgt ist, wodurch die Stadt die ganze Zeit über verwundbar bleibt.

Um dies zu beschleunigen, haben Wissenschaftler zwei Haupttricks ausprobiert. Der erste besteht darin, „mathematische Gehirne“ (Algorithmen) einzusetzen, die einen perfekten Plan berechnen können, aber diese sind oft zu abstrakt – sie wissen zwar theoretisch, was zu tun ist, können aber nicht die Befehle eintippen, um einen echten Server zu reparieren. Der zweite Trick ist die Verwendung von „superintelligenten Chatbots“ (Large Language Models oder LLMs), die Protokolle lesen und Code schreiben können. Aber diese Chatbots können unzuverlässig sein; sie erfinden manchmal Dinge (halluzinieren) oder bleiben in einer Schleife stecken, indem sie versuchen, das Falsche zu reparieren, weil ihnen ein solider Schlachtplan fehlt. Die große Frage ist: Können wir ein System bauen, das das strategische Gehirn eines Mathematikers und die praktischen Fähigkeiten eines Chatbots besitzt, und das gleichzeitig sicher genug ist, um es zu testen, bevor es das echte Stadtgebiet berührt?

Dieses Paper stellt ein cleveres neues System namens „Agentic Incident Response“ vor, das genau dieses Problem lösen will. Denken Sie an ein zweistufiges Rettungsteam, das zusammen mit einem „Digitalen Zwilling“ arbeitet – einer perfekten, virtuellen Kopie des Netzwerks der Stadt, in der sie üben können, ohne echten Schaden anzurichten.

So arbeitet das Team:

Der Strategische Kommandant (Taktische Skala): Zuerst betrachtet ein mathematischer Planer das große Ganze. Er kümmert sich noch nicht um die winzigen Details des Tippens von Befehlen. Stattdessen fragt er: „Welches Gebäude ist im Moment am kritischsten zu retten, um zu verhindern, dass sich das Feuer ausbreitet?“ Er nutzt eine „Rollout“-Methode, was wie das Durchspielen tausender möglicher Zukünfte in einer Simulation ist, um zu sehen, welche Reihenfolge der Rettung von Gebäuden zur schnellsten Erholung führt.
Der Feldsagent (Operationale Skala): Sobald der Kommandant entscheidet: „Rette zuerst den Server im Keller“, übernimmt ein spezialisierter KI-Agent (ein leichtgewichtiger, fein abgestimmter Chatbot). Seine Aufgabe ist es, diesen hochgradig abstrakten Befehl in tatsächliche, ausführbare Befehle zu übersetzen.
Das Sicherheitsnetz (Der Digitale Zwilling): Bevor der Feldsagent einen Befehl an das echte Netzwerk sendet, testet er ihn im Digitalen Zwilling – einem virtuellen Abbild des Systems. Wenn der Befehl in der Simulation funktioniert, wird er genehmigt. Wenn er in der virtuellen Welt fehlschlägt oder einen Absturz verursacht, wird er verworfen, und der Agent versucht einen anderen Befehl. Dies verhindert, dass die KI versehentlich das reale System beschädigt.

Die Forscher testeten dieses System in einer kontrollierten Umgebung mit fünf Servern und drei verschiedenen Arten von Cyberangriffen (wie schwache Passwörter, Softwarefehler und Command Injections). Sie verglichen ihr System mit den derzeit fortschrittlichsten verfügbaren „Frontier“-Chatbots und anderen existierenden automatisierten Methoden.

Die Ergebnisse waren vielversprechend. In ihren Simulationen konnte dieses neue zweiteilige Team das System im Durchschnitt 15,1 % schneller wiederherstellen als die besten eigenständigen Chatbots. Noch wichtiger ist, dass es das System 33,6 % häufiger erfolgreich wiederhergestellt hat als dieselben Chatbots. Während die Top-Tier-Chatbots das Problem etwa 50 % bis 75 % der Zeit lösen konnten, hielt diese neue Methode ihre Erfolgsquote über 90 %.

Das Paper legt nahe, dass das Geheimrezept nicht nur die Verwendung eines klügeren Chatbots ist, sondern die Kombination der Fähigkeit des Chatbots, Code zu schreiben, mit einer strengen, mathematikbasierten Strategie und einer Sicherheitsprüfung in einer virtuellen Welt. Die Autoren merken an, dass das System nicht perfekt ist; wenn die ursprüngliche Annahme darüber, wie der Angreifer vorgeht, falsch ist, könnte der Plan weniger effektiv sein. Jedoch haben sie durch die Verwendung eines leichtgewichtigen Modells, das sie speziell auf Incident-Daten trainiert haben (anstatt eines massiven, allgemeinen Modells), gezeigt, dass man keinen Supercomputer braucht, um exzellente Ergebnisse zu erzielen. Stattdessen benötigt man ein System, das weiß, wann es planen, wann es handeln und wann es seine Arbeit in einem sicheren, virtuellen Sandbox-Bereich doppelt prüfen muss.

Technisches Resümee: Agentische Incident Response durch Digital-Twin-gestützte Multiskalen-Planung

Problemstellung

Aktuelle Prozesse der Incident Response (IR) sind überwiegend manuell und verlassen sich auf Sicherheitsoperatoren sowie vordefinierte Playbooks. Dieser Ansatz ist oft langsam, arbeitsintensiv und erfordert spezialisierte Fähigkeiten; Berichte deuten darauf hin, dass Organisationen über 100 Tage benötigen können, um vollständig auf Sicherheitsvorfälle zu reagieren und sich davon zu erholen. Während Methoden der autonomen Cyberabwehr (ACD) auf entscheidungstheoretischen Ansätzen (z. B. Reinforcement Learning, Markov-Entscheidungsprozesse) zur Automatisierung der Planung vorgeschlagen wurden, operieren diese typischerweise auf einer abstrakten taktischen Skala. Diese Methoden generieren hochgradig strategische Ziele (z. B. „Host X verteidigen“), scheitern jedoch an der Erzeugung ausführbarer operativer Befehle, was ihre direkte Anwendbarkeit auf reale Systeme einschränkt.

Im Gegensatz dazu leiden Ansätze, die Large Language Models (LLMs) zur Generierung operativer Befehle nutzen, unter Zuverlässigkeitsproblemen. Aktuelle agentische LLM-Ansätze verlassen sich oft auf wiederholte Aufrufe ohne prinzipielle Planungsalgorithmen, was zu Halluzinationen, unzuverlässigen Plänen und begrenzten Planungshorizonten führt. Zudem sind viele bestehende LLM-basierte Methoden von externen Anbietern abhängig und verfügen nicht über die Fähigkeit, Aktionen vor dem Einsatz zu verifizieren.

Es besteht eine kritische Lücke zwischen der taktischen Planung (Ressourcenallokation und Strategie) und der operativen Ausführung (Generierung und Verifizierung spezifischer Systembefehle).

Methodik

Das Paper schlägt ein multiskaliges agentisches Incident-Response-Framework vor, das diese Lücke schließt, indem es entscheidungstheoretische Planung mit LLM-basierter Befehlsgenerierung integriert, unterstützt durch einen Digital Twin (DT). Die Architektur operiert auf zwei unterschiedlichen Skalen:

1. Formalisierung: Faktorisierter POMDP

Die Autoren modellieren die Incident Response als einen faktorisierten Partiel Beobachtbaren Markov-Entscheidungsprozess (POMDP):

Zustandsraum ( $s_t$ ): Dekomponiert in einen globalen Sicherheitszustand ( $g_t$ ), der den Kompromissstatus von Netzwerkomponenten darstellt (sicher vs. kompromittiert), und lokale Erholungszustände ( $\ell_t$ ), die den Fortschritt spezifischer Komponenten durch sechs Phasen der Reaktion darstellen (Eindämmung, Bewertung, Sicherung, Vertreibung, Härtung, Wiederherstellung).
Aktionen ( $a_t$ ): Getrennt in taktische Aktionen (eine Permutation, die die Prioritätsreihenfolge der zu erholenden Komponenten definiert) und operative Aktionen (spezifische Systembefehle, die auf die priorisierte Komponente angewendet werden).
Kostenfunktion: Minimiert die Erholungszeit bei gleichzeitiger Bestrafung von Verzögerungen bei der Wiederherstellung hochpriorisierter oder kritischer Komponenten.

2. Die Multiskalen-Architektur

Das System verwendet einen Digital Twin, der in zwei Modi arbeitet:

Simulationsmodus (Taktische Skala): Eine leichtgewichtige Abstraktion des Netzwerks, die zur Simulation der Angriffsfortschritt und zur Evaluierung hochgradiger Erholungsstrategien verwendet wird.
Emulationsmodus (Operative Skala): Ein virtuelles Replikat des betroffenen Systems, das dazu dient, spezifische Befehle vor deren Anwendung auf das reale System auszuführen und zu verifizieren.

Der Planungsprozess umfasst zwei Stufen:

Taktische Planung (Rollout-Planner): Unter Verwendung der Digital-Twin-Simulation berechnet ein entscheidungstheoretischer Planner (basierend auf Lookahead-Rollout-Methoden) eine hochgradige Reaktionsstrategie. Er bestimmt die optimale Reihenfolge der Wiederherstellung von Netzwerkomponenten, um die Gesamterholungszeit und die Risikopropagierung zu minimieren.
Operative Planung (LLM-Agent): Ein leichtgewichtiges, fein abgestimmtes LLM übersetzt die hochgradige Strategie in ausführbare Befehle.
- Offline-Feinabstimmung: Die Autoren haben ein DeepSeek-R1-14B Modell auf drei spezifischen Aufgaben mit einem Datensatz von 68.000 Vorfällen fein abgestimmt: (1) Incident Assessment (Ableitung von Angreifer-Taktiken), (2) Belief Generation (Schätzung des Systemzustands aus Logs) und (3) Response Action Generation.
- Online-Ausführung: Das LLM generiert Kandidatenbefehle, die dann via Digital Twin Emulation verifiziert werden. Wenn ein Befehl als effektiv verifiziert wird, wird er ausgeführt; andernfalls wird die Kostenfunktion bestraft und der Agent generiert den Plan neu.

Zentrale Beiträge

Faktorisierte POMDP-Formulierung: Die Autoren formulieren die Incident Response als einen faktorisierten MDP, der die Netzwerk-Ebene der taktischen Planung explizit von der server-spezifischen operativen Planung trennt.
Integriertes Agentisches Framework: Sie entwickeln ein Framework, das entscheidungstheoretische Rollout-Planung (für die Strategie) mit LLM-basierter Generierung (für die Ausführung) kombiniert, verifiziert durch einen Digital Twin. Dies ist die erste Arbeit, die taktische Planung mit operativer Reaktionsgenerierung in dieser spezifischen Weise kombiniert.
Dual-Mode Digital Twin: Im Gegensatz zu bisherigen Arbeiten, die DTs entweder für Simulation oder Emulation nutzen, verwendet diese Methode beide: Simulation für effiziente taktische Planung und Emulation für operative Verifizierung.
Leichtgewichtige Lokale Implementierung: Das System nutzt ein lokal fein abgestimmtes 14B-Parameter-LLM, was die Abhängigkeit von externen LLM-Anbietern reduziert und zeigt, dass leichte Modelle durch gezielte Planung leistungsfähigere Ergebnisse erzielen können als Frontier-Modelle.

Experimentelle Ergebnisse

Die Methode wurde auf einem Testbed-Netzwerk mit fünf Servern unter drei Angriffsszenarien evaluiert: Weak-Credential-3, Shellshock-4 und Command-Injection-5.

Baselines: Das System wurde gegen Frontier-LLMs (GPT-5.5, Gemini-3.1-Pro, DeepSeek-V4-Pro, Claude-Opus-4.8) und State-of-the-Art agentische Baselines (IRCopilot, LLM-IR) getestet.
Erholungsrate: Der vorgeschlagene agentische Ansatz erreichte eine Erholungsrate von ~90 % über alle Szenarien hinweg. Dies übertraf die Frontier-LLMs (die Raten zwischen 46,8 % und 71,4 % erreichten) und die vorherigen agentischen Baselines (50,8 % bis 68,2 %) signifikant.
Ausführungszeit: Der Ansatz reduzierte die durchschnittliche Ausführungszeit der Erholungsaktionen um 15,1 % im Vergleich zu den Frontier-LLMs.
Ablationsstudien:
- Im Vergleich zu Baselines, die denselben taktischen Plan verwendeten, war die vorgeschlagene Methode in der operativen Planung (LLM + DT-Verifizierung) überlegen.
- Selbst wenn die Baselines gezwungen wurden, die taktische Planung durchzuführen, übertraf die vorgeschlagene Methode sie bei der Ausführungszeit um 53,9 % bis 57,8 %, was den Wert des integrierten taktisch-operativen Kreislaufs unterstreicht.
LLM-Leistung: Das fein abgestimmte 14B-Modell erreichte eine hohe Präzision und Recall (>0,85) für gängige Angreifer-Taktiken und eine Erfolgsquote von 85,3 % bei der Generierung effektiver Erholungsaktionen für spezifische MITRE ATT&CK-Taktiken.

Bedeutung und Behauptungen

Die Autoren behaupten, dass die primäre Bedeutung dieser Arbeit darin liegt, die Lücke zwischen abstrakter entscheidungstheoretischer Planung und praktischer operativer Ausführung zu schließen. Durch die Kombination der strategischen Strenge von Rollout-Planern mit der kontextuellen Anpassungsfähigkeit von LLMs und der Erdung beider in einem Digital Twin zur Verifizierung, erreicht das System:

Zuverlässigkeit: Minderung von LLM-Halluzinationen durch Digital-Twin-Verifizierung.
Effizienz: Reduzierung der Erholungszeit durch optimale Ressourcenallokation (taktische Planung).
Praktikabilität: Betrieb mit einem leichtgewichtigen, lokal implementierten Modell, das nicht auf externe API-Anbieter angewiesen ist.

Die Autoren kommen zu dem Schluss, dass ihr Verfahren nicht perfekt ist – insbesondere weisen sie auf Einschränkungen hinsichtlich der Fehlklassifizierung von Angreifer-Taktiken (wenn das LLM die falschen Taktiken inferiert, leidet der taktische Plan) und der Rechenkosten von LLM-Rollouts hin – aber es stellt einen fundierten Schritt in Richtung vollautonomer, zuverlässiger und effizienter Incident-Response-Systeme dar. Zukünftige Arbeit wird die Kalibrierung der LLM-basierten Incident-Assessment identifiziert, um Taktik-Fehlklassifizierungen zu reduzieren.