To Defend Against Cyber Attacks, We Must Teach AI Agents to Hack
Dieses Positionspapier argumentiert, dass Verteidiger, um unvermeidbaren KI-gesteuerten Cyberangriffen entgegenzuwirken, ihre Strategie grundlegend ändern müssen, indem sie verantwortungsvoll eigene offensive KI-Fähigkeiten in kontrollierten, regulierten Umgebungen entwickeln und einsetzen, um Bedrohungen zu meistern, bevor es die Angreifer tun.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Die alten Regeln funktionieren nicht mehr
In den letzten zehn Jahren funktionierte Cybersicherheit wie ein „Whac-A-Mole“-Spiel (Hau-den-Maul).
- Der alte Weg: Hacker mussten hochqualifizierte Menschen sein. Den Aufbau eines komplexen Angriffs gestaltete man wie den Bau eines maßgeschneiderten Hauses; es erforderte monatelange harte Arbeit und tiefes Fachwissen. Da dies so teuer und zeitaufwendig war, griffen Hacker nur die „großen Häuser“ (große Unternehmen) an oder nutzten einfache, generische Werkzeuge, um an tausenden Türen zu klopfen, in der Hoffnung, dass eine offen steht. Die Verteidiger gingen davon aus, dass Hacker es sich nicht leisten könnten, an jeder Tür anzuklopfen.
- Die neue Bedroftung: KI-Agenten verändern das Spiel. Stellen Sie sich einen Hacker vor, der kein Mensch ist, sondern ein Schwarm aus tausenden winzigen, unermüdlichen Robotern. Diese Roboter müssen keine Experten sein. Sie können in einer Sekunde an Millionen von Türen klopfen. Selbst wenn sie 9
99 % der Zeit scheitern, müssen sie nur 1 % der Zeit Erfolg haben, um Gewinn zu machen. Sie können auch die „kleinen Häuser“ (Nischensysteme) angreifen, die Menschen früher ignorierten, weil sie es nicht wert waren.
Das Papier argumentiert, dass die Verteidiger derzeit versuchen, diese Roboter aufzuhalten, indem sie den Robotern selbst „Nicht Betreten“-Schilder an die Tür hängen. Das Papier sagt jedoch, dass dies nicht funktionieren wird, da böswillige Akteure einfach ihre eigenen Roboter ohne diese Schilder bauen können.
Warum aktuelle Abwehrmethoden versagen
Die Autoren sagen, dass wir versuchen, KI-Hacker mit drei Methoden aufzuhalten, aber alle sind wie der Versuch, eine Flut mit einem Sieb aufzuhalten:
Filterung der Trainingsdaten (Der „Saubere Bibliotheks“-Ansatz):
- Die Idee: Wir entfernen alle schlechten Anweisungen (wie „Wie man eine Bombe baut“) aus den Trainingsbüchern der KI, damit sie nie lernt, böse zu sein.
- Warum es scheitert: Böswillige Hacker müssen keine „schlechten Bücher“ lesen. Sie können die KI dazu bringen, durch einfache Logik und gesunden Menschenverstand zu lernen, wie man hackt, genau wie ein Mensch ein Schloss knacken kann, ohne ein Handbuch zu besitzen. Außerdem können böswillige Hacker die KI einfach herunterladen und sie selbst lehren.
Safety Alignment (Der „Gutes Benehmen“-Ansatz):
- Die Idee: Wir trainieren die KI darauf, „Nein“ zu sagen, wenn sie gebeten wird, etwas Schlechtes zu tun.
- Warum es scheitert: Böswillige Hacker sind gerissen. Sie können die KI austricksen, sodass sie eine schlechte Anfrage als eine gute ansieht (wie einen Wachmann zu fragen, die „Sicherheit zu testen“, anstatt „einzubrechen“). Außerdem, wenn die KI auf dem eigenen Computer eines Hackers läuft, kann dieser sie einfach neu trainieren, um den „Nein“-Button zu ignorieren.
Output Guardrails (Der „Türsteher“-Ansatz):
- Die Idee: Wir stellen einen Türsteher an die Tür, der jede Nachricht prüft, die die KI sendet, und alles blockiert, was gefährlich aussieht.
- Warum es scheitert: Ein Hacker kann einen großen Angriff in tausend winzige, harmlos aussehende Schritte zerlegen. Der Türsteher sieht jeden Schritt als sicher an, aber wenn man sie alle zusammenfügt, bauen sie eine Bombe.
Die vorgeschlagene Lösung: Bauen Sie Ihre eigenen „Red Team“-Roboter
Das Papier schlägt eine radikale Wende vor: Wir müssen unsere eigenen KI-Agenten lehren, wie man hackt, damit wir sie nutzen können, um uns zu verteidigen.
Denken Sie an eine Feuerwehr.
- Aktuelle Verteidigung: Wir warten, bis ein Feuer ausbricht, und versuchen dann, es zu löschen.
- Die Idee des Papiers: Wir stellen ein Team von professionellen Brandstiftern (unsere „Offensive KI“) ein, die in einer gesicherten, abgeschotteten Trainingsanlage (einem „Cyber Range“) arbeiten.
- Diese „Guten Brandstifter“ versuchen, das Gebäude mit jedem erdenklichen Trick niederzubrennen.
- Da es KIs sind, können sie in Sekunden Millionen von Wegen versuchen, ein Feuer zu entfachen.
- Wir beobachten, wo sie Erfolg haben, finden die Schwachstellen in unserem Gebäude und beheben sie, bevor ein echter Bösewicht auftaucht.
Die drei Schritte, um dies sicher zu machen
Die Autoren wissen, dass das gefährlich klingt, und schlagen daher drei strenge Regeln vor, um zu verhindern, dass die „Guten Brandstifter“ echten Schaden anrichten:
- Bessere Teststrecken bauen: Wir brauchen bessere „Fahrschulen“ (Benchmarks), um genau zu messen, wie gut diese Hacking-Roboter sind. Wir müssen sie in realen Szenarien testen, nicht nur in einfachen Rätseln.
- Trainieren, nicht nur Skripten: Anstatt den Robotern eine feste Liste von Schritten zu geben, müssen wir sie trainieren, zu lernen und sich anzupassen, genau wie ein menschlicher Hacker es tun würde. Dies macht sie besser darin, neue, unbekannte Schwachstellen zu finden.
- Die „Sandbox“-Regel: Dies ist der wichtigste Teil. Die „Guten Brandstifter“ dürfen niemals die gesicherte Trainingsanlage verlassen.
- Sie bleiben in einem digitalen Käfig, in dem sie das echte Internet nicht erreichen können.
- Sie finden die Lücken und schreiben einen Bericht.
- Dann nehmen wir diesen Bericht und geben ihn an eine andere, „Sichere KI“, die nur weiß, wie man Löcher flickt, nicht wie man sie macht. Diese „Sichere KI“ ist das, was wir an die Öffentlichkeit abgeben, um unsere Systeme zu schützen.
Das Fazit
Das Papier kommt zu dem Schluss, dass wir nicht warten können, bis böswillige Hacker herausgefunden haben, wie sie KI für Angriffe nutzen können. Bis dahin wird es zu spät sein.
Stattdessen müssen wir die Waffe zuerst beherrschen. Wir müssen unsere eigene offensive KI bauen, sie in einen sicheren Käfig sperren und sie nutzen, um jeden möglichen Weg zu finden, wie unsere Systeme gebrochen werden können. Nur wenn wir verstehen, wie der Feind denkt und in massivem Maßstab handelt, können wir hoffen, uns selbst zu verteidigen.
Kurz gesagt: Um die bösen Roboter zu stoppen, müssen wir unsere eigenen guten Roboter bauen, die noch besser darin sind, Dinge zu zerstören, aber wir müssen sie in einem Käfig halten, damit sie nur helfen, unser Haus zu reparieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.