Technische Samenvatting: MAGMA – Een Stochastische Consensus Multi-Agent RAG Framework voor Robuste Malware-detectie

1. Probleemstelling

Moderne deep learning (DL) malware-detectoren, hoewel dominant, lijden onder een kritieke kwetsbaarheid: semantische blindheid. Door binaire code te behandelen als ongestructureerde statistische data (bijvoorbeeld ruwe byte-sequenties), fungeren deze modellen als stochastische patroonmatchers zonder werkelijke semantische redenering. Deze beperking manifesteert zich als "Zeker Fout", waarbij een model een hoge zekerheidsverdict (bijvoorbeeld >99% onschadelijk) geeft op een kwaadaardig monster, simpelweg omdat een adversaire transformatie (bijvoorbeeld instructie-substitutie, invoeging van dode code) de invoer verplaatst naar een schaars gebied van de inbeddingsruimte, de beslissingsgrens kruist zonder de onderliggende kwaadaardige functionaliteit te wijzigen.

Huidige state-of-the-art systemen missen een formeel mechanisme om epistemische onzekerheid (modelonwetendheid) te kwantificeren. Bijgevolg dwingen ze binaire beslissingen af, zelfs wanneer invoer buiten de trainingsverdeling valt, falen ze om abnormale gevallen aan te duiden voor menselijke beoordeling en plegen ze in plaats daarvan catastrofale geautomatiseerde fouten.

2. Methodologie: Het MAGMA Framework

De auteurs stellen MAGMA (Multi-Agent Generative Malware Analysis) voor, een framework dat detectie herformuleert van statische patroonmatching naar een probabilistisch proces van bewijsverzameling. De architectuur ontkoppelt structurele representatie van probabilistische redenering via vier kerncomponenten:

A. Dual-Stream Lifting

Om semantische ondoorzichtigheid te overwinnen, lift MAGMA ruwe binaries naar twee parallelle, menselijk leesbare intermediaire representaties voordat vectorisatie plaatsvindt:

1. Syntactische Stream ($I_{ASM}$): Een lineaire disassemblage-mapping die genormaliseerde assembly-instructies produceert. Dit vangt granulaire architecturale afhankelijkheden, registermanipulaties en cryptografische constanten op die vaak verloren gaan bij high-level decompilatie.
2. Semantische Stream ($I_{Code}$): Decompilatie naar high-level pseudo-C-code. Dit abstracte compiler-specifieke details om het Control Flow Graph (CFG), data-afhankelijkheden en kern-API-sequenties te isoleren.
   Deze dubbele inbeddingen worden samengevoegd tot een compositieve query-vector, zodat syntactische obscuratie (bijvoorbeeld hernoemen van registers) detectie niet ontwijkt als de semantische intentie kwaadaardig blijft, en vice versa.

B. Retrieval-Augmented Generation (RAG)

In plaats van te vertrouwen op het bevroren parametrische geheugen van een Large Language Model (LLM), queryt MAGMA een Vector Knowledge Base (KB) gevuld met geverifieerde, door analisten gecureerde Decision-Critical Functions (DCFs).

• Het systeem haalt de $k$-naaste buren (DCFs) op op basis van cosijn-afstand in de latente ruimte.
• Deze stap verankert het generatieve proces in bekende threat intelligence, voorkomt hallucinaties en converteert de classificatietaken naar een bewijs-evaluatietaken.

C. Stochastische Consistentie Ensemble

Om de stabiliteit van het redeneringsproces te onderzoeken, hanteert MAGMA een Homogeen Agent Ensemble bestaande uit $N$ identieke LLM-instanties.

• Stochastische Sampling: In tegenstelling tot greedy decoding opereren agenten met een temperatuur $T > 0$, waardoor het model gedwongen wordt om alternatieve, minder waarschijnlijke redeneerpaden te verkennen.
• Onafhankelijke Redenering: Elke agent evalueert onafhankelijk de opgehaalde DCF's en de dual-stream context om een binaire verdict (Kwaadaardig/Onschadelijk) te produceren.
• Consensus: Het systeem aggregeert deze onafhankelijke outputs om de stabiliteit van de voorspelling te meten.

D. Kwantificeerbare Onzekerheidsmetrieken

Het framework leidt twee complementaire metrieken af om onzekerheid te kwantificeren en besluitvorming te sturen:

1. Function Evidence Strength (FES): Een gewogen aggregatie van retrieval-vertrouwen. Het berekent de gemiddelde waarschijnlijkheidsmassa toegewezen aan de "Kwaadaardige" klasse over alle agenten, geschaald met de similariteitsgewicht van de opgehaalde context. Dit voorkomt "gehallucineerde consensus" waarbij agenten het eens zijn over een verdict zonder sterke bewijslast.
2. Evidence Conflict Score (ECS): Gedefinieerd als de Shannon-entropie van de voorspellingsverdeling van het ensemble.
   • Lage ECS ($\approx 0$) geeft hoge consensus aan (stabiele voorspelling).
   • Hoge ECS ($\approx 1$) geeft aanzienlijke onenigheid aan onder agenten, wat structurele ambiguïteit, adversaire perturbatie of Out-of-Distribution (OOD) invoer signaleert.

E. Drie-toestand Besluitbeleid

MAGMA vervangt binaire classificatie door een drie-toestand beleid:

• Kwaadaardig: Hoge FES EN Lage ECS.
• Onschadelijk: Lage FES EN Lage ECS.
• Onzeker (Afwijzen): Hoge ECS (boven de drempel $\tau_{stable}$).
  Invoer gemarkeerd als "Onzeker" wordt automatisch afgewezen en doorgestuurd voor menselijke analistenbeoordeling, waardoor het systeem wordt voorkomen dat het zelfverzekerde maar foutieve verdicten geeft over ambigu monster.

3. Belangrijkste Bijdragen

1. Dual-Stream RAG Architectuur: Een nieuw mechanisme dat syntactische assembly en semantische pseudo-code afbeeldt naar een gezamenlijke vectorruimte, inferentie verankert in een gecureerde KB van Decision-Critical Functions om de ondoorzichtigheid van neurale netwerken te mitigeren.
2. Kwantificeerbare Toeschrijving (FES): Introductie van de Function Evidence Strength-metriek, die de invloed van opgehaalde contexten weegt en black-box voorspellingen omzet in controleerbare bewijsketens.
3. Stochastische Zelf-consistentie: Malware-detectie modelleren als een probabilistisch consensuspel waarbij een multi-agent ensemble (met $T>0$) bewijs evalueert tegen adversaire criteria om een gebonden voorspellingsverdeling te produceren.
4. Geformaliseerde Afwijzing via Entropie: Definieren van de Evidence Conflict Score (ECS) als proxy voor gevoeligheid voor adversaire perturbaties, waardoor een principieel "afwijzings-optie" beleid mogelijk wordt dat classificatie stopt wanneer epistemische onzekerheid te hoog is.
5. Uitgebreide Evaluatie: Omvattende testen tegen sterk polymorfe varianten en gevestigde baselines (MalConv, ResNeXt+), waarbij de effectiviteit van het entropie-gestuurde afwijzingsbeleid wordt aangetoond.

4. Experimentele Resultaten

Het framework werd geëvalueerd op een dataset van 40.814 binaries (Wild-Augmented Benchmark), temporair gesplitst om vooruitkijkende bias te voorkomen.

• Detectieprestaties: MAGMA behaalde een F1-score van 98,4%, wat 1,3 procentpunt boven de sterkste externe baseline (ResNeXt+) ligt en 4,2 procentpunt boven MalConv.
• Foutreductie: Het afdwingen van het entropie-gestuurde afwijzingsbeleid resulteerde in een absolute verbetering van 4,2% in detectienauwkeurigheid tegenover ontwijkingpogingen en een reductie van 4,0% in de False Positive Rate (FPR) vergeleken met niet-afwijzende baselines.
• Ablatiestudies:
  • De dual-stream embedding alleen behaalde 95,8% F1, presterend beter dan MalConv.
  • Het toevoegen van het LLM-ensemble ($N=5$) leverde een verdere toename van +2,6 pp op, wat bevestigt dat ensemble-diversiteit borderline gevallen oplost die alleen retrieval niet kan oplossen.
  • Zero-shot LLM-inferentie (zonder RAG) presteerde slecht (79,6% F1), wat de noodzaak van retrieval-versterkte verankering onderstreept.
• Onzekerheidskalibratie: Fout geclassificeerde monsters vertoonden aanzienlijk hogere ECS-waarden ($\sim 0,84$) vergeleken met correcte voorspellingen ($\sim 0,13$), wat ECS valideert als een effectief signaal voor mens-in-de-lus afwijzing.
• Latentie: De volledige pipeline gemiddeld ~42 seconden per binary (gedomineerd door LLM-inferentie), wat MAGMA positioneert als een Tier-2 Cloud Verificatielaag in plaats van een real-time endpointscanner.

5. Betekenis en Claims

Het paper beweert dat MAGMA de fundamentele asymmetrie in malwareverdediging aanpakt, waarbij verdedigers alle kwaadaardige varianten moeten begrenzen terwijl aanvallers slechts één succesvol ontwijkingpad nodig hebben. Door te verschuiven van deterministische patroonmatching naar probabilistische verificatie, kwantificeert MAGMA expliciet de eigen blinde vlekken van het model.

De betekenis ligt in het vermogen van het systeem om:

• Structurele Ambiguïteit te Identificeren: Entropiemaximalisatie gebruiken om te detecteren wanneer invoer structureel geperturbeerd is nabij de beslissingsgrens, zelfs als de kwaadaardige functionaliteit behouden blijft.
• Zeker Fout te Voorkomen: Ambigue invoer automatisch afwijzen in plaats van een binaire beslissing af te dwingen, waardoor het risico op catastrofale geautomatiseerde fouten wordt verkleind.
• De Semantische Kloof te Overbruggen: RAG gebruiken om het discriminatieve vermogen van inbeddingen te verbinden met de redeneercapaciteiten van LLM's, waardoor de analyse wordt verankerd in geverifieerde threat intelligence in plaats van gehallucineerde zero-shot inferentie.

De auteurs positioneren MAGMA niet als vervanging voor high-throughput endpoint AV-engines, maar als een robuuste Tier-2 verificatielaag voor "grijze zone"-monsters die signatuurfilters ontwijken maar geen definitieve gedragsindicatoren hebben voor geautomatiseerd sandboxen.