🤖 machine learning

Retrofit: Continual Learning with Controlled Forgetting for Binary Security Detection and Analysis

Het paper introduceert RETROFIT, een methode voor continu leren in de binaire beveiliging die vergeten effectief beheerst zonder historische data door middel van parametermerging en een vertrouwensgebaseerde arbitrage, waardoor de prestaties bij malware-detectie en binaire samenvatting aanzienlijk verbeteren.

Oorspronkelijke auteurs: Yiling He, Junchi Lei, Hongyu She, Shuo Shao, Xinran Zheng, Yiping Liu, Zhan Qin, Lorenzo Cavallaro

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yiling He, Junchi Lei, Hongyu She, Shuo Shao, Xinran Zheng, Yiping Liu, Zhan Qin, Lorenzo Cavallaro

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een veiligheidsagent bent die elke dag nieuwe misdadigers moet herkennen. In het verleden heb je een fotoalbum gemaakt met oude daders (de "oude kennis"). Maar nu komen er elke maand nieuwe types criminelen, en de politie geeft je de opdracht: "Leer deze nieuwe types kennen, maar vergeet de oude niet."

Het probleem? Als je je hersenen te veel op de nieuwe daders focust, beginnen de oude gezichten te vervagen. Dit heet in de tech-wereld "catastrophic forgetting" (catastrofaal vergeten). En er is nog een probleem: je mag het oude fotoalbum niet meer gebruiken. De wetgeving is te streng, of het album is kwijtgeraakt.

Dit is precies het probleem dat het nieuwe systeem RETROFIT oplost. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Dilemma: Vergeten of Stagnatie

Normaal gesproken zouden veiligheidsanalisten hun model (hun "hersenen") opnieuw trainen met alle oude én nieuwe data. Maar dat mag niet in de beveiligingswereld (vanwege privacy en grote hoeveelheden data).

Als je alleen leert van de nieuwe data, vergeet je de oude daders (je wordt blind voor oude trucs).
Als je alleen vasthoudt aan het oude, mis je de nieuwe bedreigingen.

2. De Oplossing: RETROFIT (De Slimme Renovatie)

RETROFIT is als een slimme renovatie van een huis zonder dat je de oude bouwtekeningen hoeft te raadplegen. In plaats van het hele huis af te breken en opnieuw te bouwen, doe je het volgende:

Stap A: De "Lage-Rang" Aanbouw (De Kleine Uitbreiding)

Stel je voor dat je bestaande huis (het oude model) al perfect is ingericht. Je wilt er een nieuwe kamer aan bouwen voor de nieuwe daders, maar je wilt de oude meubels niet verplaatsen.

RETROFIT bouwt geen nieuw, zwaar fundament. In plaats daarvan maakt het een lichtgewicht uitbreiding (een soort "pop-up kamer" of een laagje verf) die alleen de nieuwe informatie opslaat.
Technisch gezien noemen ze dit low-rank decomposition. In het kort: je maakt een heel klein, specifiek blokje voor nieuwe kennis, zodat je de oude kennis niet per ongeluk overschrijft.

Stap B: De "Vertrouwens-Commissie" (De Arbitrage)

Nu heb je twee versies van je model:

De Oude Meester: Kent de oude daders perfect, maar ziet de nieuwe niet.
De Nieuwe Leerling: Kent de nieuwe daders, maar is nog onzeker over de oude.

RETROFIT laat deze twee met elkaar praten, maar met een slimme regel: "Luister naar de Oude Meester zolang hij zeker is."

Als de Oude Meester zegt: "Ik weet zeker dat dit een oude dader is!", dan luistert RETROFIT naar hem en verandert hij niets.
Als de Oude Meester twijfelt ("Ik weet het niet meer..."), dan laat RETROFIT de Nieuwe Leerling het woord voeren om nieuwe kennis toe te voegen.
Dit heet confidence-guided arbitration. Het is alsof je een ervaren chef-kok (oude model) en een jonge stagiair (nieuw model) samen laat koken, waarbij je alleen de stagiair laat ingrijpen als de chef twijfelt.

Stap C: De "Scheidingstap" (Het Masker)

Om te voorkomen dat de nieuwe uitbreiding de oude muren beschadigt, gebruikt RETROFIT een masker.

Stel je voor dat je nieuwe verf alleen op specifieke plekken mag worden aangebracht. Het masker zorgt ervoor dat de nieuwe kennis alleen op de plekken terechtkomt waar hij nodig is, en niet overal willekeurig door de oude kennis heen "krast".

Waarom is dit zo goed? (De Resultaten)

In de testcases (zoals het opsporen van Android-malware en het analyseren van gecodeerde software) deed RETROFIT het wonderlijk goed:

Bij Malware: Het systeem vergeet de oude malware niet. Terwijl andere systemen na een paar jaar maar 66% van de oude daders nog herkenden, herkende RETROFIT er 93% van. Het was zelfs beter dan een systeem dat alle data (oud en nieuw) tegelijk had gezien (wat in de praktijk vaak onmogelijk is).
Bij Software-analyse: Soms moet je software analyseren die "ontkleed" is (alle labels zijn verwijderd, alsof een boek zonder titels is). RETROFIT kon hierin de betekenis van de code beter begrijpen dan eerdere methoden, zelfs met data die 2 keer zo goed was als de beste concurrenten.

De Grootste Troef: Geen Oude Data Nodig

Het meest revolutionaire is dat RETROFIT geen enkele oude foto of document nodig heeft om te werken. Het onthoudt de oude kennis door de "geest" van het oude model te gebruiken als leraar, in plaats van de fysieke data.

Samenvattend:
RETROFIT is als een slimme, aanpasbare veiligheidsagent die elke dag nieuwe bedreigingen leert kennen zonder zijn geheugen te verliezen. Hij doet dit door:

Nieuwe kennis in een klein, veilig blokje te stoppen.
Alleen te veranderen als hij zeker is dat de oude kennis het toelaat.
Nooit de oude "foto's" nodig te hebben, omdat hij de ervaring van zijn oude zelf als gids gebruikt.

Dit maakt het perfect voor een wereld waar data-privacy cruciaal is, maar waar bedreigingen elke dag veranderen.

Titel

RETROFIT: Continual Learning met Gereguleerd Vergeten voor Binaire Beveiliging en Analyse

1. Het Probleem

Dieplerningsmodellen zijn essentieel geworden voor binaire beveiligingstaken zoals malware-detectie en binaire analyse. Echter, hun effectiviteit wordt bedreigd door twee vormen van non-stationariteit:

Temporele drift: Malware-families en aanvalstechnieken evolueren voortdurend. Modellen moeten zich aanpassen aan nieuwe bedreigingen zonder oude kennis te verliezen.
Representatiewisseling: Binair bestanden ondergaan transformaties (compilatie, optimalisatie, het verwijderen van symbolen/stripping), waardoor de datarepresentatie verschilt, zelfs als de onderliggende semantiek hetzelfde blijft.

Huidige uitdagingen:

Catastrofaal vergeten: Bestaande Continual Learning (CL) methoden verliezen vaak de kennis over oudere malware of representaties wanneer ze worden getraind op nieuwe data.
Data-beperkingen: In beveiligingsomgevingen is het vaak illegaal of onmogelijk om historische data (malware-samples, propriëtaire binaries) op te slaan of opnieuw te gebruiken vanwege privacy- en eigendomsregels.
Beperkingen van bestaande CL: Veel CL-methoden vertrouwen op replay buffers (het opslaan van oude data) of onbeperkte updates, wat ze onbruikbaar maakt in deze data-gevoelige context.

2. Methodologie: RETROFIT

RETROFIT is een data-agnostische CL-methode die kennis behoudt zonder historische data te vereisen. Het lost het probleem op door kennisaccumulatie te formuleren als modelconsolidatie via parameter-merging, met "gecontroleerd vergeten".

De kerncomponenten zijn:

A. Modelconsolidatie zonder Data

In plaats van oude data te gebruiken, fungeert het vorige model als een proxy voor de oude kennis. Een nieuw model wordt getraind op de huidige data en vervolgens samengevoegd (gemerged) met het oude model.

B. Gestructureerde Beperkingen (Low-Rank & Sparse)

Om te voorkomen dat nieuwe updates oude kennis overschrijven, worden updates beperkt tot specifieke subruimtes:

Low-Rank Decompositie (LoRA): Updates worden beperkt tot een laag-rang subspace ( $\Delta W = AB$ ). Hierdoor wordt het "oppervlak" voor interferentie met oude kennis drastisch verkleind. De projectiematrix $A$ is willekeurig en vast (bevroren), wat zorgt voor benaderende orthogonaliteit tussen taken in hoge dimensies.
Sparse Masking: Een leerbaar masker $M$ wordt toegepast op de update-matrix $B$ . Dit masker selecteert welke parameters actief zijn, waardoor taak-specifieke kennis wordt geïsoleerd en overlap tussen taken wordt geminimaliseerd.

C. Vertrouwens-gestuurde Arbitrage

Om te beslissen hoe nieuwe en oude kennis worden samengevoegd, gebruikt RETROFIT een confidence-guided arbitration:

Twee "docenten" worden gebruikt: het oude model ( $f_{old}$ ) en het nieuw aangepaste model ( $f_{new}$ ).
Op basis van de vertrouwen (confidence) van het oude model op de juiste klasse, wordt bepaald welk model de supervisie moet geven.
- Als het oude model zeker is, wordt de output van het oude model gehandhaafd om vergeten te voorkomen.
- Als het oude model onzeker is, wordt de output van het nieuwe model gebruikt om nieuwe kennis te integreren.
Dit proces wordt ondersteund door een Sparse-Group-Lasso regularisatie om de sparsiteit van het masker te bevorderen.

3. Belangrijkste Bijdragen

Formalisatie van CL in Beveiliging: De auteurs identificeren en adresseren de gekoppelde uitdagingen van kennisverlies en generalisatiefalen in data-gevoelige beveiligingsscenario's zonder toegang tot historische data.
De RETROFIT Methode: Een nieuwe aanpak die kennisaccumulatie bereikt door modellen te consolideren via laag-rang, gesparseerde updates en vertrouwen-gestuurde arbitrage, volledig zonder data-replay.
Uitgebreide Evaluatie: De methode is getest op twee cruciale beveiligingstoepassingen en overtreft bestaande state-of-the-art CL-methoden aanzienlijk.

4. Resultaten

De evaluatie omvatte twee datasets: Android-malware-detectie (temporele drift) en binaire samenvatting (representatiewisseling).

A. Malware Detectie (Temporele Drift)

Behoud (Retention): RETROFIT verbeterde de behoudsscore (PTR) met 38,6% ten opzichte van de standaard Continual Fine-Tuning (CFT) en met 30,29% ten opzichte van alle andere CL-baselines.
Aanpassing: Het behield een hoge prestatie op nieuwe bedreigingen en presteerde zelfs beter dan het "Oracle"-model (dat alle data tegelijk gebruikt had) op nieuwe data.
Vergelijking: Bestaande methoden (zoals LwF, PODNet) leden onder vergeten of hadden een lagere aanpassingscapaciteit.

B. Binaire Analyse (Samenvatting van Stripped Binaries)

Generalisatie: In de taak om gecompileerde binaries te samenvatten (van volledig gecompileerd tot volledig "stripped"), presteerde RETROFIT consistent beter dan baselines.
Kritieke Prestatie: Op de meest uitdagende taak (samenvatting van volledig "stripped" binaries) behaalde RETROFIT een BLEU-score van 15,05. Dit is meer dan 2x zo hoog als de beste transfer-learning methode uit eerdere werken (7,20) en overtreft zelfs het Oracle-model.
Kwaliteit: Kwalitatieve analyses toonden aan dat RETROFIT complexe logica in gedisassembleerde code beter begrijpt en minder "hallucinaties" produceert dan concurrenten.

C. Vergelijking met Aggregatie-methoden

RETROFIT overtrof ook methoden die modellen behouden en later samenvoegen (zoals Ensemble Learning of Weight Averaging). Dit bevestigt dat sequentiële, gecontroleerde aanpassing superieur is aan statische aggregatie in dynamische beveiligingsomgevingen.

5. Betekenis en Impact

Praktische Toepasbaarheid: RETROFIT lost het fundamentele probleem op van het bijwerken van beveiligingsmodellen in omgevingen waar data-opslag niet mogelijk is (bijv. vanwege GDPR of eigendomsrechten).
Theoretische Inzichten: Het paper toont aan dat "gecontroleerd vergeten" (bounded forgetting) niet alleen schadelijk is, maar essentieel kan zijn voor langdurige generalisatie en stabiliteit.
Veiligheid: De methode verbetert de betrouwbaarheid van defensieve systemen tegen evoluerende malware en complexe binaire analyse, zonder de privacy van gevoelige data te schenden.
Efficiëntie: De methode heeft een lage rekenkosten, behoudt een constante modelgrootte en vereist geen extra opslag voor databuffers.

Conclusie: RETROFIT biedt een robuust kader voor continu leren in de beveiligingssector, waarbij het een balans vindt tussen het behoud van historische kennis en het aanpassen aan nieuwe, onbekende bedreigingen, zelfs zonder toegang tot de oorspronkelijke trainingsdata.