Certifying Ghosts: How Cybersecurity AI Agents Break the EU Cyber Resilience Act
Dieses Papier argumentiert, dass der statische, prozessbasierte Compliance-Rahmen des EU Cyber Resilience Act grundlegend unvereinbar mit der kontinuierlichen, KI-gesteuerten Beschleunigung der Entdeckung und Ausnutzung von Schwachstellen ist, was einen Wechsel von der einmaligen Zertifizierung hin zu einer permanenten, agentengesteuerten Sicherheit erforderlich macht.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Ein Gesetz für eine andere Welt
Stellen Sie sich vor, die Europäische Union erlässt ein neues Gesetz namens Cyber Resilience Act (CRA). Das Ziel ist es, sicherzustellen, dass die Gadgets, die wir kaufen (wie intelligente Kühlschränke, Roboter oder Kameras), sicher sind.
Das Gesetz ist in einem Punkt klug: Es gibt zu, dass Software niemals perfekt ist. Man kann nicht versprechen, dass ein Produkt niemals einen Fehler (Bug) haben wird. Deshalb fordert das Gesetz nicht „Null Fehler“, sondern einen Prozess. Es besagt: „Hersteller, Sie müssen nach Fehlern suchen, sie beheben, wenn Sie sie finden, und uns informieren, wenn jemand aktiv Ihr Produkt angreift.“
Die Autoren dieser Arbeit argumentieren, dass dieses Gesetz für eine Welt geschrieben wurde, die nicht mehr existiert. Es wurde entworfen, als das Finden von Softwarefehlern noch langsam, teuer und auf menschliche Experten angewiesen war. Doch heute haben KI-Agenten (Computerprogramme, die wie autonome Hacker agieren) die Spielregeln verändert. Sie können Fehler sofort, kostengünstig und in Millionenhöhen finden.
Die Arbeit argumentt, dass das Gesetz zwar mit dem Volumen an Fehlern umgehen kann, aber völlig versagt, wenn es mit der Geschwindigkeit und der Natur dieser KI-Hacker konfrontiert wird.
Die vier Regeln, auf denen das Gesetz beruhte (Und wie die KI sie brach)
Das Gesetz geht von vier Annahmen über die Funktionsweise der Welt aus. Die Arbeit nennt diese „Prämissen“. Die KI hat alle vier widerlegt.
1. Die Regel der „menschlichen Knappheit“ (Prämisse P1)
- Die alte Welt: Einen Fehler zu finden, war wie die Suche nach einer Nadel im Heuhaufen. Es dauerte Tage oder Wochen, bis ein geschulter menschlicher Detektiv eine fand. Weil es schwierig war, wurden nicht viele Fehler gleichzeitig gefunden.
- Die KI-Realität: KI-Agenten sind wie ein Schwarm von 1.000 superschnellen Detektiven. Sie können einen Heuhaufen scannen und in einer Sekunde 1.000 Nadeln finden.
- Das Ergebnis: Das Gesetz beugt sich hier. Es kann damit umgehen. Das Gesetz sagt lediglich: „Sie müssen nicht jede Nadel finden; zeigen Sie uns nur, dass Sie ein gutes System haben, um zu entscheiden, welche Nadeln gefährlich sind.“ Der Prozess passt sich dem Volumen an.
2. Die „Schnappschuss“-Regel (Prämisse P2)
- Die alte Welt: Wenn Sie ein Produkt verkaufen, prüfen Sie es. Wenn es heute sauber ist, erhalten Sie ein „Sicherheits“-Zertifikat. Sie gehen davon aus, dass es eine Zeit lang sauber bleibt.
- Die KI-Realität: Eine KI kann sich ein Produkt auch schon morgen ansehen und einen brandneuen Fehler finden, der heute noch nicht existierte (oder nicht bekannt war). Das Produkt hat sich nicht verändert, aber das „Sicherheits“-Zertifikat ist nun eine Lüge.
- Das Ergebnis: Das Gesetz bricht. Das Zertifikat ist wie ein Foto einer Person von gestern. Wenn sie sich heute die Haare schneidet, ist das Foto zwar noch „wahr“ in Bezug auf die Vergangenheit, aber es ist nutzlos, um sie jetzt zu identifizieren. Das Gesetz zertifiziert einen „Geist“ – ein sicheres Produkt, das so nicht mehr existiert.
3. Die Regel des „diskreten Ereignisses“ (Prämisse P3)
- Die alte Welt: Hacking war wie ein Einbrecher, der ein Fenster einschlägt. Man hört den Aufprall, weiß, dass es passiert ist, und ruft die Polizei (meldet den Vorfall).
- Die KI-Realität: KI-Hacker sind wie ein sanfter, ständiger Wind, der die Wand erodiert. Sie tasten sich rund um die Uhr an Ihr Produkt heran. Es gibt keinen einzelnen „Aufprall“, den man melden könnte; der Angriff ist nun Teil des Hintergrundrauschens des Internets.
- Das Ergebnis: Das Gesetz bricht. Das Gesetz besagt: „Melden Sie es, wenn Sie aktives Hacking sehen.“ Aber wenn Hacking konstant und unsichtbar ist, können Sie den Bericht nicht auslösen. Das Alarmsystem ist defekt, weil das Feuer nun ein langsames Glimmen ist und keine plötzliche Explosion.
4. Die Regel des „Wettlaufs zur Behebung“ (Prämisse P4)
- Die alte Welt: Wenn ein Fehler gefunden wird, hat das Unternehmen Zeit, ihn zu beheben und ein Update zu senden, bevor Hacker ihn ausnutzen können.
- Die KI-Realität: KI-Hacker können einen entdeckten Fehler in Minuten in eine Waffe verwandeln. Bis ein menschliches Unternehmen ein Meeting beendet hat, um über einen Patch zu diskutieren, hat die KI den Fehler bereits auf Millionen von Geräten ausgenutzt.
- Das Ergebnis: Das Gesetz bricht. Das Gesetz sagt: „Beheben Sie es unverzüglich.“ Aber man kann nicht mit einem Fahrrad gegen eine Kugel rennen. Die Zeitlinie ist kollabiert; der Wettlauf ist für Menschen ungewinnbar.
Das Kernproblem: Das Zertifizieren von Geistern
Die Arbeit verwendet den Begriff „Certifying Ghosts“ (Geister zertifizieren).
Stellen Sie sich vor, ein Lebensmittelkontrolleur besucht ein Restaurant, prüft die Küche und vergibt einen „Gesundheits“-Stempel. Doch in dem Moment, in dem der Inspektor geht, taucht ein magisches Virus im Essen auf. Das Restaurant ist nun unsicher, trägt aber immer noch den „Gesundheits“-Stempel, weil der Inspekteur nur den Prozess und den Moment geprüft hat.
Der CRA macht dies mit Software. Er stempelt Produkte als „sicher“ ab, basierend auf einem Schnappschuss in der Zeit. Aber da KI-Hacker die Sicherheitslage augenblicklich verändern können, ist dieser Stempel in dem Moment, in dem er gedruckt wird, bereits eine Lüge. Das Gesetz zertifiziert eine Sicherheitslage, die bereits vergangen ist.
Die Lösung: Das „Roboter-Immunsystem“
Die Arbeit sagt nicht nur, dass das Gesetz kaputt ist; sie bietet auch eine Heilung an. Sie argumentiert, dass wir nicht zu einer Welt zurückkehren können, in der Menschen Dinge langsam prüfen. Wir müssen dieselbe Waffe nutzen, die die Hacker verwenden: KI-Verteidiger.
- Die Analogie: Anstatt eines Sicherheitswächters, der einmal am Tag die Flure abläuft (das aktuelle Gesetz), benötigen Sie ein digitales Immunsystem, das im Inneren des Roboters oder Geräts lebt.
- Die Funktionsweise: Dieser KI-Verteidiger beobachtet das Gerät ständig. Wenn ein KI-Hacker versucht einzubrechen, erkennt der Verteidiger dies, blockiert es und schließt die Lücke in Millisekunden – schneller, als der Hacker reagieren kann.
- Der Beweis: Die Autoren testeten dies an zwei echten Robotern: einem humanoiden Roboter und einem robotergesteuerten Rasenmäher.
- Ohne den KI-Verteidiger: Der Hacker übernahm die Kontrolle über die Roboter in Sekunden.
- Mit dem KI-Verteidiger: Der Hacker wurde blockiert, bevor er echten Schaden anrichten konnte. Der Roboter arbeitete sicher weiter.
Das Fazit
Die Arbeit kommt zu dem Schluss, dass der Cyber Resilience Act ein gut gemachtes Gesetz für eine Welt ist, die bereits verlassen wurde.
- Die Lösung: Wir müssen aufhören, Sicherheit als periodische Untersuchung zu behandeln (wie ein jährlicher Arztbesuch) und anfangen, sie als kontinuierliche, lebendige Verteidigung zu betrachten (wie ein Immunsystem).
- Die Warnung: Wenn die EU bis zur vollständigen Durchsetzung dieses Gesetzes im Jahr 2027 nicht nachbessert, wird sie Produkten „Sicherheits“-Zertifikate aushändigen, die bereits anfällig für KI-Angriffe sind.
- Der Appell: Sicherheit muss kontinuierlich werden und von KI-Agenten gesteuert werden. Es ist keine Option mehr, sondern die einzige Möglichkeit, in der aktuellen Bedrohungslage zu überleben.
Kurz gesagt: Man kann keine Papierkarte benutzen, um durch eine Stadt zu navigieren, die jede Stunde neu gebaut wird. Das Gesetz muss aufhören, auf die Karte zu schauen, und statfangen, das Auto in Echtzeit zu steuern.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.