A Queryable Knowledge Graph of MITRE ATLAS: Cross-Linking Adversarial AI Taxonomies for Grounded Threat Reasoning
Dieses Paper präsentiert einen auf Neo4j basierenden Knowledge Graph, der die statische MITRE ATLAS-Dokumentation in ein abfragbares, LLM-gestütztes System transformiert, das mit den OWASP Top 10 für LLM-Anwendungen verknüpft ist und es Praktikern ermöglicht, Threat Reasoning durchzuführen, 40 nicht entschärfte Generative-KI-Techniken zu identifizieren und die orthogonale Natur von ATLAS-Taktiken und OWASP-Risikokategorien zu demonstrieren.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie besitzen eine riesige, unglaublich detaillierte Enzyklopädie, geschrieben von Sicherheitsexperten namens MITRE ATLAS. Dieses Buch beschreibt jede bekannte Methode, mit der ein „digitaler Schurke“ ein KI-System hacken kann. Es listet die Ziele der Schurken (Taktiken), ihre spezifischen Tricks (Techniken), die verfügbaren Abwehrmaßnahmen (Mitigationen) und reale Geschichten von Angriffen auf, die bereits stattgefunden haben (Fallstudien).
Das Problem ist laut dieser Arbeit, dass diese Enzyklopädie statisch ist. Es ist wie eine Bibliothek, in der die Bücher hinter Glas stehen. Man kann sie zwar lesen, aber man kann den Bibliothekar nicht fragen: „Zeig mir jeden Trick, für den es noch keine Abwehr gibt“, oder „Verbinde die Punkte zwischen diesem speziellen Angriff und dieser spezifischen Schwachstelle.“ Man muss manuell durch die Seiten blättern, Listen miteinander abgleichen und hoffen, dass man nichts übersieht.
Salwa Maknis Arbeit handelt davon, diese verschlossene Bibliothek in eine lebendige, interaktive Karte zu verwandeln.
Hier ist die Aufschlüsselung dessen, was sie getan haben, unter Verwendung einfacher Analogien:
1. Die Karte erstellen (Der Knowledge Graph)
Anstatt die Daten in einer Liste oder einem Dokument zu speichern, hat die Autorin ein digitales Spinnennetz (einen sogenannten „Knowledge Graph“ in Neo4j) aufgebaut.
- Die Knoten (Die Punkte): Jeder Punkt repräsentiert ein Puzzleteil: einen spezifischen Angriffstrick, ein Ziel eines Schurken, eine Verteidigungsstrategie oder eine reale Angriffssituation.
- Die Fäden (Die Verbindungen): Die Linien, die die Punkte verbinden, zeigen, wie sie zusammenhängen. Zum Beispiel verbindet eine Linie „LLM Prompt Injection“ (einen Trick) mit „Prompt Injection“ (dem Ziel) und eine weitere Linie mit „Input Validation“ (der Verteidigung).
- Warum das wichtig ist: In einem normalen Dokument erfordert das Finden einer Verbindung das Lesen. In dieser Karte kann man sofort von einem Trick zur entsprechenden Verteidigung „wandern“ oder sehen, welche Tricks gar keine Fäden zu einer Verteidigung haben.
2. Zwei verschiedene Sprachen zusammenführen (Cross-Linking)
Sicherheitsteams sprechen zwei verschiedene Sprachen:
- MITRE ATLAS spricht in „Adversary Tactics“ (Wie die Bösewichte denken und vorgehen).
- OWASP Top 10 spricht in „App Vulnerabilities“ (Wo die Software schwach ist).
Die Autorin hat manuell Brücken zwischen diesen beiden Welten geschlagen. Sie nahm die 10 Hauptkategorien der LLM-Risiken aus OWASP und verband sie mit den spezifischen Tricks in MITRE ATLAS.
- Die Entdeckung: Sie fand heraus, dass diese beiden Listen sich nicht einfach nur wiederholen; sie sind orthogonal (wie die X- und Y-Achsen in einem Koordinatensystem). Die eine organisiert nach dem, was der Bösewicht tun will, und die andere nach dem, wo die Software schwach ist. Durch die Verbindung dieser beiden erhält man eine 3D-Ansicht des Problems statt einer flachen 2D-Liste.
3. Der „fundierte“ Detektiv (Die Reasoning Engine)
Die Autorin baute ein Werkzeug, das eine KI (LLM) nutzt, um Fragen zu beantworten, aber mit einer strengen Regel: Die KI darf nichts erfinden.
- Wie es funktioniert: Wenn man fragt: „Wie stoppe ich diesen Angriff?“, rät die KI nicht basierend auf ihrem Training. Stattdessen agiert sie wie ein Bibliothekar, der zuerst die spezifische ID-Nummer des Angriffs in der Karte nachschlägt, die exakten Fakten aus der Datenbank zieht und sie dann für einen zusammenfasst.
- Der Vorteil: Wenn die Karte sagt „Keine Verteidigung existiert“, dann sagt auch die KI „Keine Verteidigung existiert“. Sie halluziniert keine gefälschten Lösungen. Jede Antwort enthält ein „Zitier-Tag“, das auf die ursprüngliche Quelle verweist, wie eine Fußnote in einer wissenschaftlichen Arbeit.
4. Was sie herausgefunden hat (Die Ergebnisse)
Durch das Ausführen von Abfragen auf dieser Karte deckte die Autorin einige harte Wahrheiten auf, die in den statischen Dokumenten verborgen waren:
- Die Verteidigungslücke: Sie fand 40 spezifische Tricks, die auf Generative KI abzielen und derzeit über null dokumentierte Abwehrmaßnahmen verfügen. Es ist, als würde man 40 neue Wege finden, ein Schloss zu knacken, für die es noch keinen Dietrich gibt.
- Die besten Verteidigungen: Sie identifizierte, welche Verteidigungen die größte Fläche abdecken. Zum Beispiel deckt „AI Telemetry Logging“ (das detaillierte Protokollieren dessen, was die KI tut) 17 verschiedene Angriffstricks ab, was es zu einer hochprioritären Verteidigung macht.
- Die Orthogonalität: Sie bewies, dass man nicht einfach nur eine Liste (OWASP) nutzen kann, um die andere (ATLAS) zu lösen. Man braucht beide, um das vollständige Bild zu erhalten.
5. Was es ist (und was es nicht ist)
- Es ist: Ein funktionierender Prototyp, eine Datenbank und ein Satz von Werkzeugen, die es Sicherheitstechniker ermöglichen, komplexe Fragen zu stellen und Antworten basierend auf harten Daten statt auf Vermutungen zu erhalten.
- Es ist nicht: Ein fertiges kommerzielles Produkt (noch nicht). Die Autorin gibt zu, dass die Karte noch aufgebaut wird. Einige Verbindungen (wie das Warum einer Verteidigung funktioniert) sind noch nicht so detailliert, und der „KI-Detektiv“ kann manchmal einen Trick übersehen, wenn die ursprüngliche Frage nicht perfekt formuliert war.
- Es ist nicht: Ein Zauberstab, der die KI-Sicherheit magisch löst. Es ist ein Werkzeug, das Menschen helfen soll, die Landschaft besser zu verstehen, damit sie bessere Abwehrmaßnahmen entwickeln können.
Kurz gesagt: Die Arbeit verwandelt eine statische, schwer lesbare Liste von KI-Bedrohungen in eine dynamische, durchsuchbare Karte. Sie verbindet zwei verschiedene Sicherheits-Sprachen, nutzt KI, um Fragen ohne Lügen zu beantworten, und zeigt genau auf, wo unsere Abwehr im Kampf gegen KI-Hacker lückenhaft ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.