💻 computer science

Quantifiable Uncertainty: A Stochastic Consensus Multi-Agent RAG Framework for Robust Malware Detection

Die Arbeit stellt MAGMA vor, ein stochastisches Konsens-Multi-Agenten-RAG-Framework, das die robuste Malware-Erkennung verbessert, indem es die semantische Code-Retrieval von der probabilistischen Verifikation entkoppelt, um epistemische Unsicherheit zu quantifizieren und mehrdeutige Proben effektiv abzulehnen, wodurch eine Erkennungsrate von 98,4 % erreicht wird.

Ursprüngliche Autoren: ElMouatez Billah Karbab

Veröffentlicht 2026-05-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: ElMouatez Billah Karbab

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind Sicherheitsbeamter in einer High-Tech-Bank. Ihre Aufgabe besteht darin, Diebe (Malware) zu erkennen, die sich einzuschleichen versuchen.

Lange Zeit nutzten Sicherheitsbeamte eine einfache Methode: Sie merkten sich die Gesichter bekannter Diebe. Wenn ein Gesicht mit einem Foto in ihrem Buch übereinstimmte, lösten sie den Alarm aus. Dies ist vergleichbar mit herkömmlicher Antiviren-Software. Doch clevere Diebe begannen, Masken zu tragen, ihre Haare zu verändern oder gefälschte Ausweise zu verwenden (strukturelle Mutationen). Die Wachen, die nur auf die Oberfläche schauten, ließen sich täuschen. Sie sagten selbstbewusst: „Das ist ein normaler Kunde", obwohl es sich um einen verkleideten Dieb handelte. Dies bezeichnet das Papier als „Selbstbewusste Falschheit" („Confident Wrongness").

Die Autoren dieses Papiers, angeführt von ElMouatez Billah Karbab, entwickelten ein neues System namens MAGMA, um dieses Problem zu lösen. Anstatt nur ein Foto zu betrachten, agiert MAGMA wie ein Team aus Expertendetektiven, die nicht nur raten, sondern ermitteln.

So funktioniert MAGMA, aufgeschlüsselt in einfache Schritte:

1. Die Zwei-Objektiv-Kamera (Dual-Stream Lifting)

Wenn eine neue Datei eintrifft, betrachtet MAGMA nicht nur den rohen Code (der wie ein durcheinandergeratenes Zahlenchaos wirkt). Es verwendet zwei verschiedene „Objektive", um die Datei gleichzeitig zu betrachten:

Das Assembly-Objektiv: Dies betrachtet die niedrigstufigen, mechanischen Anweisungen (wie die Motorteile eines Autos). Es zeigt genau, wie die Maschine aufgebaut ist.
Das Pseudo-Code-Objektiv: Dies betrachtet die hochstufige Logik (wie das Handbuch eines Autos). Es versteht, was der Code zu tun versucht, und ignoriert die unordentlichen Details.

Durch die Nutzung beider Objektive kann MAGMA Tricks durchschauen. Wenn ein Dieb die Motorteile verändert, damit sie anders aussehen (Assembly), bleibt die Logik des Autos (Pseudo-Code) meist gleich. Wenn sie die Logik ändern, geben die Motorteile sie meist zu erkennen.

2. Die Bibliothek des Detektivs (Retrieval-Augmented Generation)

Anstatt jeden möglichen Dieb auswendig zu lernen, verfügt MAGMA über eine riesige Bibliothek verifizierter „Entscheidungs-kritischer Funktionen" (DCFs). Dies sind Code-Schnipsel, von denen bekannt ist, dass sie bösartig sind, wie ein „Fahndungsplakat" für spezifische kriminelle Verhaltensweisen.

Wenn eine neue Datei eintrifft, rät MAGMA nicht. Es durchsucht sofort seine Bibliothek, um zu prüfen, ob der Code der Datei mit einem dieser „Fahndungs"-Schnipsel übereinstimmt. Dies verankert das System in echten Beweisen, anstatt nur zu raten.

3. Die Jury der Detektive (Stochastic Consensus Ensemble)

Dies ist der einzigartigste Teil. Anstatt dass ein einzelner Detektiv eine Entscheidung trifft, sendet MAGMA die Beweise an fünf verschiedene KI-Detektive (Agenten).

Diese Agenten sind identisch, werden jedoch gebeten, mit einem gewissen Maß an „Zufälligkeit" zu denken (wie wenn man sie auffordert, verschiedene Möglichkeiten zu erwägen).
Alle betrachten die Beweise unabhängig voneinander und stimmen ab: „Schuldig" (Bösartig) oder „Nicht schuldig" (Unschädlich).

4. Die zwei Punktekarten (FES und ECS)

Nachdem die fünf Detektive abgestimmt haben, berechnet MAGMA zwei Scores, um zu entscheiden, was zu tun ist:

Score 1: Beweisstärke (FES): Dies fragt: „Wie stark ist der Beweis?" Wenn die Detektive eine perfekte Übereinstimmung mit einem bekannten „Fahndungsplakat" finden, ist dieser Score hoch. Wenn sie nur raten, ist der Score niedrig.
Score 2: Konfliktscore (ECS): Dies fragt: „Streiten sich die Detektive?"
- Wenn alle 5 Detektive übereinstimmen, ist der Score niedrig (hohe Zuversicht).
- Wenn 3 „Schuldig" und 2 „Nicht schuldig" sagen, ist der Score hoch. Dies bedeutet, dass die Datei verwirrend oder trickreich ist.

5. Der „Ich weiß es nicht"-Knopf (Die Ablehnungsrichtlinie)

Im alten System musste die Wache „Schuldig" oder „Nicht schuldig" sagen, selbst wenn sie unsicher war. Dies führte zu Fehlern.

MAGMA bietet eine dritte Option: „Unsicher".

Wenn der Konfliktscore zu hoch ist (die Detektive streiten), verweigert MAGMA eine endgültige Entscheidung.
Stattdessen markiert es die Datei und sagt: „Das ist zu verwirrend für eine Maschine. Schicken Sie sie zur Überprüfung an einen menschlichen Experten."

Die Ergebnisse

Das Papier testete dieses System gegen Tausende echter Malware-Proben, einschließlich sehr trickreicher, die ihre Form ändern, um sich zu verstecken.

Alte Systeme: Ließen sich von den Tricks verwirren und machten selbstbewusste Fehler.
MAGMA: Fing 98,4 % der Malware ab.
Das Sicherheitsnetz: Wenn MAGMA nicht sicher war, hielt es inne und bat um Hilfe, was verhinderte, dass es „selbstbewusst falsche" Fehler machte.

Der Kompromiss

Das Papier gibt zu, dass dies einen Preis hat. Da MAGMA fünf Detektive einsetzt und eine Bibliothek durchsucht, dauert die Prüfung einer Datei länger (etwa 42 Sekunden) im Vergleich zu alten Systemen, die in einem Bruchteil einer Sekunde prüfen.

Die Autoren schlagen vor, dass MAGMA den schnellen, initialen Scanner nicht ersetzen sollte. Stattdessen sollte es als Experte der zweiten Linie für die trickreichen Dateien dienen, bei denen der schnelle Scanner keine Entscheidung treffen kann. Es ist der Unterschied zwischen einer Überwachungskamera, die nur ein Foto macht, und einem Team forensischer Experten, die das Foto analysieren, um das Verbrechen aufzuklären.

Technische Zusammenfassung: MAGMA – Ein stochastischer Konsens-Multi-Agent-RAG-Rahmenwerk für robuste Malware-Erkennung

1. Problemstellung

Zeitgenössische Deep-Learning-(DL-)Malware-Detektoren leiden zwar als dominante Technologie unter einer kritischen Schwachstelle: semantische Blindheit. Indem sie Binärcode als unstrukturierte statistische Daten (z. B. Roh-Byte-Sequenzen) behandeln, agieren diese Modelle als stochastische Mustererkennungsmechanismen, denen eine echte semantische Schlussfolgerung fehlt. Diese Einschränkung manifestiert sich als „sichere Fehleinschätzung" (Confident Wrongness), bei der ein Modell auf einer bösartigen Probe eine hochkonfidente Entscheidung (z. B. >99 % harmlos) ausgibt, lediglich weil eine adversarische Transformation (z. B. Instruktionssubstitution, Einfügen von totem Code) die Eingabe in einen dünn besetzten Bereich des Einbettungsraums verschiebt und dabei die Entscheidungsgrenze überschreitet, ohne die zugrundeliegende bösartige Funktionalität zu verändern.

Aktuelle State-of-the-Art-Systeme verfügen über keinen formalen Mechanismus zur Quantifizierung epistemischer Unsicherheit (Modell-Unwissenheit). Folglich zwingen sie zu binären Entscheidungen, selbst wenn Eingaben außerhalb der Trainingsverteilung liegen, versäumen es, anomale Fälle zur menschlichen Überprüfung zu melden und begehen stattdessen katastrophale automatisierte Fehler.

2. Methodik: Das MAGMA-Rahmenwerk

Die Autoren schlagen MAGMA (Multi-Agent Generative Malware Analysis) vor, ein Rahmenwerk, das die Erkennung von statischer Mustererkennung in einen probabilistischen Beweissammelprozess umformuliert. Die Architektur entkoppelt die strukturelle Repräsentation von der probabilistischen Schlussfolgerung durch vier Kernkomponenten:

A. Dual-Stream-Lifting

Um semantische Undurchsichtigkeit zu überwinden, hebt MAGMA rohe Binärdateien vor der Vektorisierung in zwei parallele, für Menschen lesbare Zwischenrepräsentationen:

Syntaktischer Stream ( $I_{ASM}$ ): Eine lineare Disassemblierung, die normalisierte Assembler-Instruktionen erzeugt. Dies erfasst granulare architektonische Abhängigkeiten, Registermanipulationen und kryptografische Konstanten, die bei der Hoch-Level-Decompilierung oft verloren gehen.
Semantischer Stream ( $I_{Code}$ ): Eine Decompilierung in hochleveligen Pseudo-C-Code. Dies abstrahiert compilerspezifische Details, um den Kontrollflussgraphen (CFG), Datenabhängigkeiten und Kern-API-Sequenzen zu isolieren.
Diese dualen Einbettungen werden zu einem zusammengesetzten Abfragevektor verkettet, wodurch sichergestellt wird, dass syntaktische Obfuskation (z. B. Umbenennung von Registern) die Erkennung nicht umgeht, wenn die semantische Absicht weiterhin bösartig ist, und umgekehrt.

B. Retrieval-Augmented Generation (RAG)

Anstatt sich auf das eingefrorene parametrische Gedächtnis eines Large Language Model (LLM) zu verlassen, fragt MAGMA eine Vektor-Wissensdatenbank (KB) ab, die mit verifizierten, von Analysten kuratierten Entscheidungskritischen Funktionen (DCFs) gefüllt ist.

Das System ruft die $k$ -nächsten Nachbarn (DCFs) basierend auf der Kosinus-Ähnlichkeit im latenten Raum ab.
Dieser Schritt verankert den generativen Prozess in bekannter Bedrohungsinformation, verhindert Halluzinationen und wandelt die Klassifizierungsaufgabe in eine Beweisevaluierungsaufgabe um.

C. Stochastischer Konsistenz-Ensemble

Um die Stabilität des Schlussfolgerungsprozesses zu untersuchen, setzt MAGMA ein Homogenes Agenten-Ensemble ein, das aus $N$ identischen LLM-Instanzen besteht.

Stochastisches Sampling: Im Gegensatz zum gierigen Decoding operieren die Agenten mit einer Temperatur $T > 0$ , was das Modell zwingt, alternative Schlussfolgerungspfade mit geringerer Wahrscheinlichkeit zu erkunden.
Unabhängige Schlussfolgerung: Jeder Agent bewertet unabhängig die abgerufenen DCFs und den Dual-Stream-Kontext, um eine binäre Entscheidung (Bösartig/Harmlos) zu treffen.
Konsens: Das System aggregiert diese unabhängigen Ausgaben, um die Stabilität der Vorhersage zu messen.

D. Quantifizierbare Unsicherheitsmetriken

Das Rahmenwerk leitet zwei komplementäre Metriken ab, um Unsicherheit zu quantifizieren und die Entscheidungsfindung zu steuern:

Funktions-Beweisstärke (FES): Eine gewichtete Aggregation der Abrufkonfidenz. Sie berechnet die mittlere Wahrscheinlichkeitsmasse, die von allen Agenten der Klasse „Bösartig" zugewiesen wird, skaliert mit dem Ähnlichkeitsgewicht des abgerufenen Kontexts. Dies verhindert eine „halluzinierte Konsensbildung", bei der Agenten sich auf eine Entscheidung einigen, ohne eine starke beweiskräftige Grundlage zu haben.
Beweis-Konfliktscore (ECS): Definiert als Shannon-Entropie der Vorhersageverteilung des Ensembles.
- Niedriger ECS ( $\approx 0$ ) zeigt hohen Konsens (stabile Vorhersage) an.
- Hoher ECS ( $\approx 1$ ) zeigt signifikante Uneinigkeit zwischen den Agenten an und signalisiert strukturelle Mehrdeutigkeit, adversarische Perturbation oder Out-of-Distribution (OOD)-Eingaben.

E. Drei-Zustands-Entscheidungsrichtlinie

MAGMA ersetzt die binäre Klassifizierung durch eine Drei-Zustands-Richtlinie:

Bösartig: Hohe FES UND niedriger ECS.
Harmlos: Niedrige FES UND niedriger ECS.
Unsicher (Ablehnung): Hoher ECS (Überschreitung des Schwellenwerts $\tau_{stable}$ ).
Als „Unsicher" markierte Eingaben werden automatisch abgelehnt und zur Überprüfung durch einen menschlichen Analysten weitergeleitet, wodurch verhindert wird, dass das System bei mehrdeutigen Proben hochkonfidente, aber fehlerhafte Urteile fällt.

3. Hauptbeiträge

Dual-Stream-RAG-Architektur: Ein neuartiger Mechanismus, der syntaktische Assembler- und semantische Pseudocode-Einbettungen in einen gemeinsamen Vektorraum abbildet und die Inferenz in einer kuratierten KB von entscheidungskritischen Funktionen verankert, um die Opazität neuronaler Netze zu mindern.
Quantifizierbare Zuschreibung (FES): Einführung der Metrik Funktions-Beweisstärke, die den Einfluss abgerufener Kontexte gewichtet und Blackbox-Vorhersagen in überprüfbare Beweislinien verwandelt.
Stochastische Selbstkonsistenz: Modellierung der Malware-Erkennung als probabilistisches Konsensspiel, bei dem ein Multi-Agenten-Ensemble (mit $T>0$ ) Beweise gegen adversarische Kriterien bewertet, um eine begrenzte Vorhersageverteilung zu erzeugen.
Formalisierte Ablehnung via Entropie: Definition des Beweis-Konfliktscores (ECS) als Proxy für die Sensitivität gegenüber adversarischen Perturbationen, was eine prinzipielle „Ablehnungsoption"-Richtlinie ermöglicht, die die Klassifizierung stoppt, wenn die epistemische Unsicherheit zu hoch ist.
Umfassende Evaluierung: Ausführliche Tests gegen hochpolymorphe Varianten und etablierte Baselines (MalConv, ResNeXt+), die die Wirksamkeit der entropiegesteuerten Ablehnungsrichtlinie demonstrieren.

4. Experimentelle Ergebnisse

Das Rahmenwerk wurde an einem Datensatz von 40.814 Binärdateien (Wild-Augmented Benchmark) evaluiert, der zeitlich aufgeteilt wurde, um Look-Ahead-Bias zu verhindern.

Erkennungsleistung: MAGMA erreichte einen F1-Score von 98,4 % und übertraf die stärkste externe Baseline (ResNeXt+) um 1,3 Prozentpunkte sowie MalConv um 4,2 Prozentpunkte.
Fehlerreduktion: Die Durchsetzung der entropiegesteuerten Ablehnungsrichtlinie führte zu einer absoluten Verbesserung der Erkennungsgenauigkeit um 4,2 % gegenüber Umgehungsversuchen und zu einer Reduktion der False-Positive-Rate (FPR) um 4,0 % im Vergleich zu nicht-ablehnenden Baselines.
Ablationsstudien:
- Die Dual-Stream-Einbettung allein erreichte 95,8 % F1 und übertraf MalConv.
- Die Hinzunahme des LLM-Ensembles ( $N=5$ ) brachte eine weitere Steigerung um +2,6 Prozentpunkte, was bestätigt, dass die Ensemble-Diversität Grenzfälle löst, die allein durch Retrieval nicht bewältigt werden können.
- Zero-Shot-LLM-Inferenz (ohne RAG) schnitt schlecht ab (79,6 % F1) und unterstreicht die Notwendigkeit einer retrieval-augmentierten Verankerung.
Unsicherheitskalibrierung: Falsch klassifizierte Proben wiesen signifikant höhere ECS-Werte ( $\sim 0,84$ ) auf als korrekte Vorhersagen ( $\sim 0,13$ ), was ECS als effektives Signal für die Ablehnung durch den Menschen im Loop validiert.
Latenz: Die gesamte Pipeline benötigt durchschnittlich ~42 Sekunden pro Binärdatei (dominiert durch die LLM-Inferenz), was MAGMA als eine Tier-2-Cloud-Verifizierungsschicht und nicht als Echtzeit-Endpunkt-Scanner positioniert.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass MAGMA die fundamentale Asymmetrie in der Malware-Abwehr adressiert, bei der Verteidiger alle bösartigen Varianten begrenzen müssen, während Angreifer nur einen erfolgreichen Umgehungsbedarf haben. Durch den Wechsel von deterministischer Mustererkennung zu probabilistischer Verifizierung quantifiziert MAGMA explizit die eigenen blinden Flecken des Modells.

Die Bedeutung liegt in der Fähigkeit des Systems:

Strukturelle Mehrdeutigkeit zu identifizieren: Entropiemaximierung nutzen, um zu erkennen, wenn eine Eingabe in der Nähe der Entscheidungsgrenze strukturell perturbiert ist, selbst wenn die bösartige Funktionalität erhalten bleibt.
Sichere Fehleinschätzungen zu verhindern: Mehrdeutige Eingaben automatisch abzulehnen, anstatt eine binäre Entscheidung zu erzwingen, wodurch das Risiko katastrophaler automatisierter Fehler reduziert wird.
Die semantische Lücke zu überbrücken: RAG nutzen, um die diskriminierende Kraft von Einbettungen mit den Schlussfolgerungsfähigkeiten von LLMs zu verbinden und die Analyse in verifizierte Bedrohungsinformationen zu verankern, anstatt auf halluzinierte Zero-Shot-Inferenz zu setzen.

Die Autoren positionieren MAGMA nicht als Ersatz für hochdurchsatzfähige Endpunkt-AV-Engines, sondern als robuste Tier-2-Verifizierungsschicht für „Grauzonen"-Proben, die Signaturfilter umgehen, aber definitive Verhaltensindikatoren für automatisierte Sandboxing fehlen.