💻 computer science

Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput

Dieser Beitrag argumentiert, dass die primäre Auswirkung von LLMs auf die Cybersicherheit nicht lediglich eine Zunahme von Zero-Day-Entdeckungen ist, sondern eine fundamentale Verschiebung der „Bugonomik", bei der die Engstelle vom Auffinden von Schwachstellen zur Fähigkeit des Verteidigers übergeht, die daraus resultierende Flut kostengünstiger, hochvolumiger Berichte zu validieren, zu priorisieren und zu beheben.

Ursprüngliche Autoren: Alfredo Pesoli, Herman Errico, Lorenzo Cavallaro

Veröffentlicht 2026-05-26

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Alfredo Pesoli, Herman Errico, Lorenzo Cavallaro

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Es geht nicht darum, mehr Fehler zu finden, sondern darum, sie schneller zu beheben

Stellen Sie sich vor, Sie betreiben eine riesige Bibliothek (den Softwarecode des Internets). Jahrelang war die größte Sicherheitsgeschichte von „Zero-Day"-Fehlern geprägt: selten, versteckt und unglaublich teuer zu finden. Nur ein paar elitäre Spione (offensive Hacker) konnten sie finden, und sie verkauften diese Geheimnisse für Millionen von Dollar.

Jetzt ist Künstliche Intelligenz (KI) aufgetaucht. Die Schlagzeilen lauten: „KI hat Tausende von Fehlern gefunden!" Das Paper argumentiert, dass dies zwar wahr ist, wir aber den falschen Teil der Geschichte betrachten.

Das Paper führt ein Konzept namens „Bugonomics" (die Ökonomie der Fehler) ein. Es argumentiert, dass KI nicht nur das Finden von Fehlern billiger macht; sie verändert die gesamte Ökonomie des Umgangs mit ihnen. Der eigentliche Engpass ist nicht mehr, die Nadel im Heuhaufen zu finden; es geht darum, den Heuhaufen zu durchsuchen, um herauszufinden, welche Nadeln echt und gefährlich sind und wie man sie repariert, ohne die Bibliothek zu beschädigen.

Die Kernanalogie: Die „Fehlerfabrik" versus die „Reparaturwerkstatt"

Stellen Sie sich die Sicherheitswelt als ein zweigeteiltes System vor:

Die Fabrik (Fehler finden): Hier glänzt die KI. Sie kann Millionen von Codezeilen scannen und sehr günstig Tausende von „vermuteten" Fehlern ausspucken.
Die Reparaturwerkstatt (Fehler beheben): Hier arbeiten Menschen (die Wartungsteams). Sie müssen prüfen, ob der Fehler echt ist, herausfinden, wie schlimm er ist, einen Patch schreiben, ihn testen und ausliefern.

Der Hauptpunkt des Papers:
Die KI hat die Fabrik in ein Hochgeschwindigkeits-Förderband verwandelt. Es ist nun sehr billig, eine „Vermutung" zu produzieren, dass ein Fehler existiert. Die Reparaturwerkstatt ist jedoch nicht größer geworden. Die Menschen, die die Software reparieren (insbesondere in Open-Source-Projekten), arbeiten immer noch mit derselben Geschwindigkeit.

Wenn die Fabrik 1.000 „Vermutungen" pro Tag liefert, die Reparaturwerkstatt aber nur 10 echte Reparaturen pro Tag bewältigen kann, gerät das System ins Stocken. Das Paper argumentiert, dass der wahre Wert der KI nicht in der Menge der gefundenen Fehler liegt, sondern darin, wie gut sie diese Erkenntnisse so aufbereiten kann, dass die Reparaturwerkstatt sie schnell beheben kann.

Wichtige Konzepte erklärt

1. Der „Kandidat" versus das „Echte"

Das Paper unterscheidet zwischen verschiedenen Arten von Fehlerberichten:

Kandidatenbericht: Ein Roboter sagt: „Hey, diese Codezeile sieht seltsam aus." (Günstig zu erstellen, oft falsch).
Validierte Entdeckung: Ein Mensch prüft und sagt: „Ja, das ist ein echter Fehler."
Abhilfepaket: Ein komplettes Kit, das den Fehlerbericht, den Nachweis, dass er funktioniert, und einen vorgeschlagenen Fix enthält.

Die Analogie: Stellen Sie sich einen Spamfilter vor.

Kandidat: Der Filter markiert eine E-Mail als „vielleicht Spam".
Validiert: Ein Mensch öffnet sie und bestätigt, dass es Spam ist.
Abhilfe: Der Mensch löscht sie, blockiert den Absender und aktualisiert die Filterregeln.
Das Problem: Die KI ist großartig darin, E-Mails als „vielleicht Spam" zu markieren. Aber wenn sie 10.000 E-Mails pro Tag markiert, wird der menschliche Posteingang überflutet. Das Paper sagt, wir brauchen KI, die das Löschen und Blockieren (die Abhilfe) übernimmt, nicht nur das Markieren.

2. Die „Mythos"- und „Firefox"-Zahlen

Das Paper betrachtet echte Daten von Anthropic (dem Unternehmen hinter dem „Mythos"-KI-Modell) und Mozilla (Firefox).

Das Ergebnis: Die KI fand viele Fehler. In einem Fall fand sie in zwei Wochen 22 Fehler in Firefox.
Der Haken: Um diese 22 echten Fehler zu finden, musste die KI 112 Berichte einreichen. Das bedeutet, dass von jedem 5 eingereichten Berichten nur einer ein echter, hochwertiger Fehler war.
Die Kosten: Obwohl der Betrieb der KI sehr wenig kostete, war die menschliche Zeit, die für die Prüfung dieser 112 Berichte erforderlich war, teuer. Das Paper berechnet, dass die Kosten für die menschliche Überprüfung der Arbeit tatsächlich höher sein könnten als die Kosten der KI selbst.

3. Der Mythos vom „alten Fehler"

Schlagzeilen lieben es zu sagen: „KI hat einen Fehler gefunden, der sich seit 20 Jahren versteckt hat!"

Die Sicht des Papers: Dies ist eine schlechte Art, Erfolg zu messen. Nur weil ein Fehler alt ist, bedeutet das nicht, dass er gefährlich ist.
Die Analogie: Einen staubigen, kaputten Stuhl in einer Garage zu finden, der seit 20 Jahren nicht benutzt wurde, ist nicht so beängstigend wie einen losen Schritt auf einer Brücke zu finden, die jeden Tag von Menschen benutzt wird. Das Alter des Fehlers sagt uns nicht, ob er eine echte Bedrohung ist. Das Paper sagt, wir sollten aufhören, „wie alt der Fehler ist" als Maßstab dafür zu verwenden, wie gut die KI ist.

4. Die Open-Source-Krise

Das Paper hebt ein spezifisches Problem mit Open-Source-Software (kostenlose Software, die von Freiwilligen entwickelt wird) hervor.

Die Situation: KI kann eine Flut von Fehlerberichten für kostenlose Software generieren.
Das Problem: Die Freiwilligen, die diese Software warten, haben keine bezahlten Mitarbeiter, um diese Berichte zu prüfen. Sie arbeiten bereits nachts und am Wochenende.
Das Risiko: Wenn die KI sie mit qualitativ minderwertigen Berichten überschwemmt, geraten die Freiwilligen in ein Burnout. Das Paper schlägt vor, dass Unternehmen, die diese Software nutzen, selbst für die Arbeit der „Reparaturwerkstatt" (Validierung und Behebung) bezahlen sollten, anstatt einfach nur rohe Berichte über die Freiwilligen zu kippen.

Was sollten wir stattdessen messen?

Das Paper argumentiert, dass wir ändern müssen, wie wir über KI-Sicherheit sprechen. Anstatt zu fragen: „Wie viele Fehler hat die KI gefunden?", sollten wir fragen:

Wie viele „echte" Fehler hat sie gefunden? (Präzision)
Wie viel menschliche Zeit hat sie gespart? (Hat sie uns einen einsatzbereiten Fix gegeben oder nur eine Frage?)
Was sind die Kosten pro behobenem Fehler? (Nicht nur die Kosten, um ihn zu finden).

Das Fazit: Orchestrierung, nicht Ersatz

Das Paper kommt zu dem Schluss, dass KI menschliche Sicherheitsexperten nicht ersetzen wird. Stattdessen wird sie zu einem mächtigen Werkzeug in einem Team.

Die Zukunft: Wir müssen KI mit anderen Werkzeugen „orchestrieren" (koordinieren). Die KI kann den Code scannen und einen Fix entwerfen, aber ein Mensch (oder ein spezialisiertes Werkzeug) muss ihn verifizieren.
Das Ziel: Das Ziel ist nicht, die meisten Fehler zu finden; es ist, die sicherste Software auszuliefern.
Die Erkenntnis: Die „Zero-Day"-Ära (in der das Finden eines Fehlers ein seltenes, teures Ereignis war) verschiebt sich in eine Ära der „Abhilfe-Durchsatzleistung" (in der das Finden von Fehlern einfach ist, aber das Beheben im großen Maßstab der schwierige Teil ist).

Kurz gesagt: KI hat den Preis für das Finden des Problems gesenkt, aber der Preis für das Lösen des Problems ist immer noch hoch. Die Gewinner werden diejenigen sein, die KI nutzen können, um nicht nur das Problem zu finden, sondern der Reparaturwerkstatt eine vollständig verpackte, sofort reparierbare Lösung zu übergeben.

Technische Zusammenfassung: Entmystifizierung des Mythos oder Störung der Bugonomik?

Problemstellung

Jüngste Demonstrationen von Large Language Models (LLMs), wie Anthropics „Mythos Preview", haben Narrative erzeugt, die darauf hindeuten, dass KI die Cybersicherheit grundlegend neu gestalten wird, indem sie die Entdeckung von Schwachstellen automatisiert. Diese Narrative konzentrieren sich jedoch häufig auf Meilensteine der Leistungsfähigkeit (z. B. Anzahl der gefundenen Fehler) und vernachlässigen die zugrunde liegenden wirtschaftlichen Realitäten. Die Arbeit argumentiert, dass die Sicherheitscommunity einem Rahmenwerk zur Analyse der operativen Ökonomie der Entdeckung, Validierung und Behebung von Schwachstellen entbehrt.

Das Kernproblem liegt in einer potenziellen Verschiebung des „Bugonomik"-Landschafts: Während LLMs die Kosten für die Generierung von Kandidaten-Berichten über Schwachstellen (Low-Signal-Artefakte) drastisch senken können, reduzieren sie nicht automatisch die Kosten für Validierung, Auswirkungensbewertung, Triage und Integration von Patches. Dies birgt das Risiko, dass das Volumen der Berichte die knappe menschliche Kapazität zur Verarbeitung überfordert, insbesondere in Open-Source-Ökosystemen. Die Arbeit zielt darauf ab, die Debatte von „KI findet mehr Fehler" zu „Wie verändern LLMs die Kostenstruktur für die Erzeugung handlungsfähiger Sicherheitsergebnisse?" zu verlagern.

Methodik

Die Autoren wenden eine Bugonomik-Linse an, definiert als die Untersuchung, wie sich der Wert von Schwachstellenartefakten ändert, wenn sich die Kosten für deren Erzeugung ändern. Die Methodik umfasst:

Ökonomische Modellierung: Die Arbeit konstruiert ein Kostenmodell, das den Lebenszyklus von Schwachstellen in diskrete Phasen unterteilt:
- $C_G$ : Kosten für die Generierung von Kandidatenberichten.
- $C_V$ : Kosten für Validierung, Reproduktion und Deduplizierung von Berichten.
- $C_I$ : Kosten für die Feststellung der Auswirkungen oder Ausnutzbarkeit.
- $C_R$ : Kosten für die Verpackung der Behebung (Tests, Patches, Begründung).
- $C_T$ : Kosten für das Triage, die Prüfung und den Versand durch die Maintainer.
- Die Gesamtkosten werden modelliert als $C_{total} = C_G + C_V + C_I + C_R + C_T$ .
Analyse öffentlicher Daten: Die Autoren analysieren öffentliche Daten aus:
- Anthropics „Mythos Preview": Untersuchung von Kampagnenkosten und Entdeckungsquoten auf Kampagnenebene.
- Mozilla Firefox-Kollaboration: Analyse des Verhältnisses von eingereichten Berichten zu akzeptierten Schwachstellen (112 Berichte führten zu 22 akzeptierten Schwachstellen, eine Akzeptanzrate von ca. 19,6 %).
- Exploit-Märkte und VRPs: Nutzung öffentlicher Preise von Exploit-Brokern (z. B. Crowdfenses Auszahlungen im Multi-Millionen-Dollar-Bereich für Zero-Days) und Daten aus Vulnerability Reward Programs (VRPs, z. B. Googles Auszahlungen 2025) als Baselines für offensive und defensive Werte.
Terminologische Verfeinerung: Die Arbeit unterscheidet rigoros zwischen:
- Kandidatenbericht: Ein vom Modell generierter Verdacht.
- Akzeptierte Schwachstelle: Eine bestätigte Sicherheitslücke.
- Ausnutzbare Schwachstelle: Ein Problem mit einem glaubwürdigen Angriffspfad.
- Exploit-Kette: Eine Zusammensetzung von Techniken für operativen Zugriff.
- Handlungsfähiges Sicherheitsergebnis: Ein validierter Befund, ein Nachweis der Auswirkungen oder ein ausgelieferter Fix.

Hauptbeiträge

Die Arbeit leistet vier Hauptbeiträge:

Neudefinition der Bugonomik: Sie verlagert das Narrativ von der „Zero-Day-Asymmetrie" (wo die Offense aufgrund knapper, hochbewerteter Exploits im Vorteil ist) hin zur „Durchsatzrate der Behebung auf der Verteidigerseite". Die Argumentation besagt, dass der kurzfristige Wandel nicht in einem Zusammenbruch der Exploit-Preise liegt, sondern in einer Veränderung dessen, wo der Engpass liegt: von der Fehlerfindung hin zur Aufnahme und Behebung.
Verknüpfung von Marktsignalen: Sie verbindet öffentliche Exploit-Markt-Preise, VRP-Daten und Incident-Baselines, um zu zeigen, dass LLMs die Workflows der Verteidiger neu bewerten. Während die Kandidatengenerierung günstiger wird, steigt der Wert evidenzreicher Behebungspakete, und die knappe Kapazität der Maintainer wird zur primären Einschränkung.
Ein Kostenmodell für LLM-Workflows: Die Autoren stellen ein quantitatives Modell vor, das die Kosten der Kandidatengenerierung von den Kosten für Validierung, Auswirkungsnachweise und Verpackung der Behebung trennt. Dieses Modell verdeutlicht, dass „günstige" Kandidatengenerierung zu hohen Gesamtkosten führen kann, wenn die Belastungen durch Validierung und Triage nicht berücksichtigt werden.
Differenzierung der Outputs: Sie trennt die Ökonomie der vom Verteidiger geführten Härtung (z. B. Behebung technischer Schulden) von der ungebremsten Zero-Day-Jagd und argumentiert, dass Kandidatenberichte, Auswirkungsnachweise und operative Exploit-Ketten keine austauschbaren wirtschaftlichen Outputs sind.

Ergebnisse und Beobachtungen

Basierend auf der Analyse öffentlicher Daten zieht die Arbeit mehrere spezifische Schlussfolgerungen:

Ökonomie auf Kampagnenebene: Bei der „Mythos Preview" erzielte eine Kampagne mit Kosten unter 20.000 USD „einige Dutzend" Befunde. Dies impliziert Kosten pro gemeldetem Befund von etwa 417–833 USD, doch die Kosten pro handlungsfähiger Schwachstelle sind aufgrund unbekannter Validierungs- und Triage-Kosten höher.
Der Validierungs-Engpass: Bei der Firefox-Kollaboration führten 112 Berichte zu 22 akzeptierten Schwachstellen (19,6 % Akzeptanz). Die Arbeit schätzt, dass, wenn die Validierung pro Bericht bei Expertensätzen 0,5–2 Stunden dauert, die Validierungskosten allein (5.600–56.000 USD) die Kosten für die Modell-Inferenz übertreffen können. Dies legt nahe, dass, wenn $C_G$ sinkt, $C_V$ und $C_T$ zu den dominierenden Einschränkungen werden.
Kosten der Exploit-Entwicklung: Obwohl Anthropic für mehrere hundert Versuche, die in einer sandgeboxten Umgebung zwei „rohe" Browser-Exploits hervorbrachten, etwa 4.000 USD meldete, stellt die Arbeit fest, dass dies nicht den Kosten einer produktionsreifen Exploit-Kette entspricht, die Tarnung, Zuverlässigkeit und das Umgehen von Defense-in-Depth erfordert.
Open-Source-Asymmetrie: LLM-gestützte Entdeckung kann Berichte mit Maschinen-Geschwindigkeit generieren, aber die Kapazität der Maintainer für Validierung und Veröffentlichung skaliert nicht automatisch. Dies schafft eine Asymmetrie, bei der Open-Source-Maintainer einen größeren Strom an Berichten niedriger Qualität absorbieren müssen, ohne das Budget zur Verarbeitung zu haben.
Neubewertung durch VRPs: Vulnerability Reward Programs beginnen, Anreize anzupassen. Da die Kandidatengenerierung günstiger wird, verlagern Programme die Prämien hin zu Berichten, die Reproduzierer, Begründungen zur Ausnutzbarkeit und Patch-Leitfäden enthalten, und zahlen effektiv für die „Qualität des Review-Pakets" statt für bloßen Verdacht.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass die Bedeutung von LLMs in der Sicherheit nicht in der Beseitigung des Zero-Day-Marktes liegt, sondern in der Entmystifizierung der Pipeline zur Schwachstellenentdeckung und einer Verschiebung des wirtschaftlichen Engpasses.

Entmystifizierung: LLMs senken die Schwelle für die Erzeugung plausibler, evidenzgestützter Befunde und machen den Prozess des „Fehlerfindens" weniger zu einer spezialisierten Boutique-Aktivität und mehr zu einem Durchsatzproblem.
Verschiebung des Engpasses: Die kritische Einschränkung verlagert sich von der Entdeckung zur Behebung. Die knappe Ressource ist nicht mehr die Fähigkeit, einen Fehler zu finden, sondern die Kapazität, ihn zu validieren, zu priorisieren und einen Fix auszuliefern.
Strategische Richtung: Die Arbeit plädiert für Orchestrierung statt Substitution. Frontier-Modelle sollten mit statischer Analyse, Fuzzing und symbolischer Ausführung kombiniert werden. Das Ziel ist die Erzeugung von „Review-Paketen" (Patches, Tests, Begründung), die die kognitive Belastung der Maintainer reduzieren.
Technische Schulden: Eine hochwirksame Anwendung für LLMs ist nicht nur die Jagd nach Zero-Days, sondern die Behebung technischer Schulden (z. B. inkonsistente Eingabevalidierung, veraltete APIs), bei denen das Output direkt in Arbeit mündet, die Verteidiger ausliefern können.
Metriken für die Zukunft: Die Arbeit argumentiert, dass sich das Feld über das Zählen von „gefundenen Fehlern" hinaus bewegen muss. Zukünftige Berichte sollten Präzision, Kosten pro akzeptierter Schwachstelle, Kosten pro Schwachstelle mit hohem Schweregrad und akzeptierte Fixes pro Maintainer-Stunde messen.

Die Autoren kommen zu dem Schluss, dass LLMs zwar strategisch wichtig sind, Verteidiger jedoch nicht wirtschaftlich obsolet machen. Stattdessen heben sie das Niveau für die routinemäßige Sicherheitsprüfung und verlagern den strategischen Fokus darauf, skalierbare Schwachstellen-Logik in dauerhafte, akzeptierte Sicherheitsverbesserungen umzuwandeln, insbesondere innerhalb des Open-Source-Ökosystems.