Riepilogo Tecnico: SEED - Rilevamento Continuo Semi-supervisionato di Malware

1. Enunciato del Problema

I rilevatori di malware basati sull'apprendimento automatico affrontano una significativa obsolescenza nel tempo a causa della deriva concettuale, dove le proprietà statistiche delle applicazioni sia benigne che maligne evolvono. Questo fenomeno rende necessaria un'adattamento continuo (Apprendimento nel Mondo Aperto) mantenendo al contempo la stabilità contro l'oblio catastrofico delle conoscenze apprese in precedenza.

Un collo di bottiglia critico nel dispiegamento di tali sistemi è il budget di etichettatura. Nel dominio della sicurezza, ottenere dati completamente etichettati è arduo, costoso e spesso inaffidabile a causa delle dinamiche di etichettatura e dei ritardi di verifica. Sebbene i metodi più recenti all'avanguardia (SOTA) come HCL (Apprendimento Contrastivo Gerarchico) sfruttino strutture semantiche per gestire la deriva, fanno affidamento pesante su dati completamente etichettati. Gli autori osservano che quando HCL viene adattato a contesti semi-supervisionati (utilizzando solo etichette parziali, indicato come HCL*), le sue prestazioni peggiorano significativamente, in particolare su dataset privi di forti strutture semantiche intrinseche (ad esempio BODMAS e AndroZoo). Ad esempio, sul dataset BODMAS, HCL* scende da un AUT (Area Under the Time curve) di 0,795 a 0,613 rispetto alla sua controparte completamente supervisionata.

Il documento affronta la sfida di mantenere un rilevamento di malware robusto sotto supervisione limitata e deriva concettuale, specificamente quando mancano strutture semantiche forti o quando i budget di etichettatura sono vincolati.

2. Metodologia: SEED

Il metodo proposto, SEED (Rilevamento Continuo Semi-supervisionato di Malware per Affrontare la Deriva Concettuale con un Budget), è un framework di apprendimento continuo semi-supervisionato che integra l'apprendimento attivo e una strategia di aggiornamento ritardato del buffer. Opera in due fasi distinte: addestramento su "compiti osservati" (parzialmente etichettati) e "compiti non osservati" (completamente non etichettati).

2.1 Addestramento con Compiti Osservati (Dati Parzialmente Etichettati)

Per i compiti contenenti sia campioni etichettati ($D^l_t$) che non etichettati ($D^u_t$), SEED impiega un processo in due passaggi per sfruttare i dati non etichettati senza fare affidamento sulla perdita contrastiva:

1. Costruzione dello Spazio di Rappresentazione tramite SVD: Il metodo costruisce uno spazio di rappresentazione latente utilizzando gli esemplari etichettati dei compiti passati. Invece di memorizzare tutte le rappresentazioni grezze, applica la Decomposizione ai Valori Singoli (SVD) ai vettori latenti codificati per estrarre vettori di base ortonormali. Questo riduce i costi di archiviazione e cattura le caratteristiche più salienti dei dati.
2. Selezione degli Esemplari e Apprendimento a Coppie: Per ogni campione non etichettato, SEED lo proietta nello spazio di rappresentazione basato su SVD. Calcola quindi le distanze del coseno per trovare l'esemplare etichettato più adatto (o un gruppo di esemplari) dal buffer. Un meccanismo di soglia adattiva seleziona la migliore corrispondenza in base al rapporto attuale dei dati etichettati.
3. Funzione di Perdita: Invece della perdita contrastiva, SEED utilizza una perdita Cross-Entropia Binaria (BCE) personalizzata. Impone una similarità rappresentazionale tra un campione non etichettato e il suo corrispettivo etichettato selezionato nello spazio latente.
4. Memoria di Proiezione del Gradiente (GPM): Per mitigare l'oblio catastrofico, SEED utilizza la GPM. I gradienti del compito corrente vengono proiettati ortogonalmente alle direzioni dei gradienti dei compiti precedenti (specificamente per le classi di malware), garantendo che l'apprendimento di nuove caratteristiche non interferisca con le definizioni di malware apprese in precedenza.

2.2 Addestramento con Compiti Non Osservati (Dati Completamente Non Etichettati)

Quando si incontrano compiti privi di etichette, SEED impiega una strategia di apprendimento attivo per trasformare il compito in uno parzialmente etichettato:

1. Quantificazione dell'Incertezza: Il modello calcola l'incertezza dei campioni non etichettati misurando la loro distanza media del coseno dai gruppi benigni e maligni memorizzati nel buffer.
2. Selezione Bilanciata: Per evitare un bias verso la classe maggioritaria (benigna), il metodo seleziona i campioni da etichettare dall'analista basandosi su una strategia di ranking bilanciata (selezionando campioni lontani o vicini a gruppi specifici per garantire la rappresentanza di entrambe le classi).
3. Transizione: Una volta che un sottoinsieme di campioni è stato etichettato da un analista di sicurezza, il compito viene trattato come un "compito osservato" e processato utilizzando la metodologia descritta nella Sezione 2.1.

2.3 Strategia di Aggiornamento Ritardato del Buffer

Per affrontare il problema del rumore nelle etichette (comune nell'etichettatura della sicurezza dove i verdetto iniziali possono essere errati o instabili), SEED introduce un aggiornamento ritardato del buffer. I campioni appena etichettati non vengono aggiunti immediatamente al buffer di replay. Invece, vengono trattenuti per un periodo di ritardo fisso (ad esempio 1, 3 o 11 mesi) per consentire alle etichette di stabilizzarsi (imitando la convergenza dei verdetto di antivirus multi-motore). Questo impedisce che etichette rumorose si propaghino durante il processo di apprendimento basato sul replay.

3. Contributi Chiave

• Identificazione delle Limitazioni nell'Apprendimento Contrastivo: Il documento dimostra che i metodi di apprendimento contrastivo (come HCL) subiscono un degrado significativo delle prestazioni in contesti semi-supervisionati quando mancano strutture semantiche forti, evidenziando la necessità di approcci alternativi.
• Framework SEED: Un nuovo metodo di apprendimento continuo semi-supervisionato che:
  • Utilizza la SVD per costruire uno spazio di rappresentazione robusto da dati etichettati limitati.
  • Sostituisce la perdita contrastiva con un approccio di apprendimento della similarità a coppie utilizzando una perdita BCE personalizzata.
  • Integra l'apprendimento attivo per selezionare campioni informativi da compiti completamente non etichettati.
• Mitigazione del Rumore: L'introduzione di una strategia di aggiornamento ritardato del buffer per mitigare gli effetti avversi del rumore nelle etichette, dimostrando robustezza anche con alti rapporti di rumore (fino all'80%).
• Valutazione Completa: Esperimenti estensivi sui dataset Windows (BODMAS) e Android (AndroZoo, APIGraph) che dimostrano l'efficacia del metodo sotto vari budget di etichettatura e livelli di rumore.

4. Risultati Sperimentali

Gli autori hanno valutato SEED rispetto a baseline classiche di apprendimento continuo (EWC, A-GEM, MIR, CBRS) e metodi di apprendimento contrastivo (CADE, HCL, HCL*).

• Prestazioni su BODMAS (Windows): SEED ha raggiunto un miglioramento medio del 40% nell'AUT (rilevamento di malware non osservato) rispetto a HCL* attraverso vari budget di etichettatura. Ha superato significativamente HCL* (0,810 contro 0,613) e CADE.
• Prestazioni su AndroZoo (Android): SEED ha mostrato un miglioramento medio del 14% rispetto a HCL* (0,855 contro 0,780).
• Prestazioni su APIGraph (Android): Su questo dataset, che possiede forti strutture semantiche (chiamate API), SEED è rimasto competitivo con HCL*, raggiungendo un AUT di 0,930 rispetto a 0,948 di HCL*. Ciò suggerisce che SEED è versatile, performando bene anche quando esistono strutture semantiche, sebbene eccella maggiormente quando queste sono assenti.
• Robustezza al Rumore nelle Etichette: Sotto alto rumore nelle etichette (fino all'80%), SEED con la strategia di buffer ritardato ha mantenuto prestazioni stabili (ad esempio, unseen-AUT(A) intorno a 0,85–0,90 su AndroZoo), mentre i modelli addestrati direttamente su etichette rumorose si sono degradati drasticamente.
• Analisi di Sensibilità: Il metodo ha mostrato miglioramenti costanti con rapporti di etichettatura più alti, in particolare su BODMAS, e ha dimostrato che la soglia SVD al 95% e le metriche di distanza del coseno hanno fornito le prestazioni più stabili.

5. Significato e Affermazioni

Il documento afferma che SEED fornisce una soluzione pratica per il rilevamento di malware in ambienti a risorse vincolate e mondo aperto dove i dati completamente etichettati non sono disponibili. Il suo significato principale risiede in:

1. Disaccoppiamento dalla Struttura Semantica: A differenza dei metodi contrastivi che richiedono forti relazioni semantiche per formare coppie positive/negative, SEED si basa sulla proiezione in uno spazio di vettori di base, rendendolo efficace su dataset diversificati indipendentemente dalla struttura intrinseca.
2. Efficienza del Budget: Sfrutta efficacemente una piccola frazione di dati etichettati (ad esempio il 20%) per adattarsi alla deriva concettuale, riducendo la dipendenza dall'etichettatura manuale esaustiva.
3. Stabilità contro il Rumore: Riconoscendo la natura dinamica delle etichette di sicurezza, la strategia di buffer ritardato offre un meccanismo realistico per gestire il rumore nelle etichette senza una complessa modellazione del rumore.

Gli autori concludono che SEED è robusto sotto supervisione limitata, superando l'apprendimento contrastivo in assenza di una forte struttura semantica rimanendo competitivo quando tale struttura è presente, offrendo così un approccio equilibrato per il rilevamento continuo di malware.