Synthetic APTs: the Collapse of TTP-Based Attribution
Dieses Paper argumentiert, dass KI-gestützte Adversary Emulation aufzeigt, wie die Fähigkeit von Agenten, sich dynamisch anzupassen und defensive Werkzeuge zu instrumentalisieren, die traditionelle Abhängigkeit von statischen Taktiken, Techniken und Prozeduren (TTPs) zur Attribution von Cyberangriffen auf spezifische Akteure untergräbt und dadurch die Barriere für Einzelpersonen, über Fähigkeiten auf dem Niveau von Nationalstaaten zu verfügen, effektiv einbrechen lässt.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die Kernidee: Das Problem der „digitalen Maske“
Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, einen Dieb zu fangen. In der Vergangenheit konnten Sie den Dieb an seiner Signatur identifizieren: Vielleicht benutzte er immer einen roten Brecheisen, knackte Schlösser immer von der linken Seite oder hinterließ immer eine bestimmte Art von Schlamm auf dem Boden. In der digitalen Welt werden diese Signaturen als TTPs (Tactics, Techniques, and Procedures – Taktiken, Techniken und Prozeduren) bezeichnet. Wenn Sie sehen, dass ein Hacker „Roter Brecheisen #41“ benutzt, wissen Sie, dass es „Gruppe A“ ist.
Dieses Paper argumentiert, dass Künstliche Intelligenz (KI) dieses System bald zerstören wird.
Die Forscher bauten einen digitalen Spielplatz (einen „Cyber Range“) und programmierten KI-Agenten, um wie fünf verschiedene berühmte Hacker-Gruppen zu agieren (wie APT28, APT29, Lazarus usw.). Sie beobachteten dann, wie diese KI-Hacker gegen KI-Verteidiger kämpften.
Das schockierende Ergebnis: Obwohl die KI-Agenten angewiesen wurden, sich wie unterschiedliche Gruppen zu verhalten, begannen sie alle den Angriff auf die exakt gleiche Weise. Sie verwendeten dieselben Werkzeuge, dieselben Scan-Methoden und dieselben Einstiegspunkte. Es war, als ob fünf verschiedene Personen, die unterschiedliche Masken tragen, alle durch exakt dieselbe Hintertür in eine Bank einbrachen, exakt denselben Schlüssel verwendeten und exakt denselben Fußabdruck hinterließen.
Da sie alle am Anfang gleich aussahren, kann ein menschlicher Detektiv (oder ein Computer) nicht mehr sagen: „Oh, das ist definitiv Gruppe A.“ Der „Fingerabdruck“ wurde verwischt.
Das Experiment: Ein digitales „Kriegsspiel“
Die Forscher richteten zwei verschiedene „Schlachtfelder“ ein, um dies zu testen:
- Das „Bürogebäude“ (Unternehmensnetzwerk): Ein Standard-Unternehmensnetzwerk mit 20 Computern. Es war relativ offen, wie ein Gebäude mit unverschlossenen Seitentüren.
- Die „Festung“ (Militärische Infrastruktur): Ein hochgesichertes Netzwerk mit zwei getrennten Organisationen, schweren Firewalls und strengen Sicherheitszonen. Es war wie eine Festung mit mehreren Toren.
Sie führten insgesamt 20 Schlachten durch. In jeder Schlacht versuchte ein KI-Angreifer (der vorgab, eine der 5 Hacker-Gruppen zu sein), einzubrechen, während ein KI-Verteidiger versuchte, ihn aufzuhalten.
Die Ergebnisse: Eine perfekte Spaltung
Der Ausgang war unglaublich vorhersehbar, unabhängig davon, welche „Hacker-Gruppe“ die KI imitierte:
- Im Bürogebäude: Die KI-Angreifer gewannen immer. Sie brachen ein und übernahmen die Kontrolle über Computer (zwischen 2 und 12 Stück).
- In der Festung: Die KI-Verteidiger gewannen immer (oder der Kampf endete in einem Unentschieden). Die Angreifer konnten das Vordertor nicht passieren.
Die Lektion: Es spielte keine Rolle, ob die KI vorgab, ein russischer Spion, ein nordkoreanischer Dieb oder ein chinesischer Hacker zu sein. Das Layout des Gebäudes (das Netzwerkdesign) war viel entscheidender als die „Persönlichkeit“ des Angreifers. Wenn die Türen schwach waren, brach die KI ein. Wenn die Mauern stark waren, scheiterte die KI.
Der „Zaubertrick“, der die Attribution zerstörte
Der interessanteste Teil der Studie geschah innerhalb der Schlachten im „Bürogebäude“.
Die Forscher erwarteten, dass die KI, die „Gruppe A“ imitierte, auch die speziellen Werkzeuge von „Gruppe A“ verwenden würde, und die KI von „Gruppe B“ die Werkzeuge von „Gruppe B“. Stattdessen entdeckten alle KI-Angreifer unabhängig voneinander denselben Trick.
Sie fanden heraus, dass die Verteidiger ein Verwaltungstool (genannt Velociraptor) mit einem Standardpasswort offen liegen gelassen hatten.
- Die KI-Angreifer hackten nicht nur die Computer; sie kaperten das eigene Sicherheitstool der Verteidiger.
- Sie verwandelten die eigene Sicherheitskamera der Verteidiger in ihre eigene Fernsteuerung (Command and Control).
- Sie nutzten dieses vertrauenswürdige Tool, um sich im Netzwerk zu bewegen, unsichtbar für andere Alarme.
Die Analogie: Stellen Sie sich vor, ein Einbrecher bricht in ein Haus ein. Anstatt das Schloss zu knacken, findet er den Ersatzschlüssel, der unter der Matte versteckt ist. Schlimmer noch: Er findet das Handbuch des Sicherheitssystems des Hausbesitzers, nutzt den eigenen Sicherheitscode des Hausbesitzers, um die Haustür zu öffnen, und nutzt dann die eigene Überwachungskamera des Hausbesitzers, um die Ankunft der Polizei zu beobachten.
Warum das wichtig ist: Dieser Trick stand in keinem der „Playbooks“ der spezifischen Hacker-Gruppen. Es war ein neues, gemeinsames Verhalten, das alle KI-Agenten selbstständig erfunden hatten, weil sie denselben zugrunde liegenden KI-Kern verwendeten. Da sie alle exakt dasselbe taten, konnte man nicht sagen, welche „Gruppe“ dafür verantwortlich war.
Die drei wichtigsten Erkenntnisse
Der „Start“ ist für alle gleich:
Wenn KI-Agenten einen Angriff beginnen, machen sie zuerst alle die gleichen grundlegenden Dinge (Scannen des Netzwerks, Passwörter erraten). Sie fangen erst an, unterschiedlich zu agieren, wenn sie tiefer im System sind. Aber bis dahin haben sie bereits einen generischen Fingerabdruck hinterlassen, der wie der eines jeden anderen aussieht.Der „Fingerabdruck“ verblasst:
Früher konnte man bei einer bestimmten Hacking-Technik sagen: „Das ist definitiv die Lazarus-Gruppe.“ Jetzt, wenn man diese Technik sieht, kann man sich nicht mehr sicher sein. Es könnte die Lazarus-Gruppe sein, oder es könnte eine andere Gruppe sein, die eine KI nutzt, die einfach nur herausgefunden hat, dass dies der beste Weg ist. Die „Signatur“ ist nicht mehr einzigartig.Das Gebäude ist wichtiger als der Einbrecher:
Die Studie fand heraus, dass das Netzwerkdesign (wie die Computer verbunden und geschützt sind) das Einzige war, was entschied, wer gewann.- Wenn das Netzwerk schwach war (Büro), gewann die KI jedes Mal, egal wie „intelligent“ der Verteidiger war.
- Wenn das Netzwerk stark war (Festung), verlor die KI jedes Mal, selbst wenn der Angreifer das leistungsfähigste verfügbare KI-Modell einsetzte.
- Zentrale Erkenntnis: Ein kleinerer, günstigerer KI-Verteidiger konnte genauso gut arbeiten wie ein massiver, teurer, wenn das Netzwerk sicher gebaut war.
Fazit: Was bedeutet das?
Das Paper kommt zu dem Schluss, dass wir in eine Ära eintreten, in der die Attribution gebrochen ist.
Früher konnten wir einen Cyber-Angreifer an seinem „Stil“ identifizieren. Da KI nun aber so programmiert werden kann, dass sie wie jeder andere agiert, und da KI dazu neigt, die gleichen „besten“ Lösungen für Probleme zu finden, werden verschiedene Angreifer beginnen, identisch auszusehen.
Wenn ein böswilliger Akteur ein anderes Land für einen Cyberangriff verantwortlich machen will, kann er einfach eine KI anweisen, sich wie „Gruppe X“ zu verhalten. Die KI wird höchstwahrscheinlich exakt denselben „Fingerabdruck“ erzeugen wie die echte Gruppe X, was es unmöglich macht, den wahren Urheber des Angriffs zu bestimmen.
Die abschließende Warnung des Papers: Wir können uns nicht mehr auf den „Stil“ verlassen, um Cyberkriminelle zu fassen. Wir müssen uns auf stärkere Netzwerkbarrieren (Segmentierung) und bessere Sicherheitshygiene (wie das Ändern von Standardpasswörtern) verlassen, denn die „digitalen Fingerabdrücke“ sind nicht mehr zuverlässig.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.