🤖 machine learning

CAM-Guided Saliency Cutout and Image-Based Malware Classification

Questo articolo investiga l'efficacia del cutout di salienza guidato da CAM per la classificazione di immagini di malware utilizzando il dataset RawMal-TF, riscontrando che, diversamente dalle immagini naturali dove il cutout a bassa salienza migliora le prestazioni, le strategie di cutout guidate dalla salienza degradano effettivamente l'accuratezza per i malware, evidenziando significative differenze di dominio tra i due tipi di immagini.

Autori originali: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Pubblicato 2026-08-13

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di insegnare a un robot a riconoscere diversi tipi di auto mostrandogli migliaia di foto. Se mostri al robot esattamente la stessa immagine ogni volta, potrebbe semplicemente memorizzare lo sfondo o un particolare coprimozzo lucido invece di imparare cosa rende un'auto un'auto. Per fermare questa "memorizzazione", gli scienziati usano un trucco chiamato dropout. È come dire al robot: "Ok, ora coprirò una parte di questa immagine con un quadrato nero. Riesci ancora a indovinare cos'è?". Questo costringe il robot a guardare l'intera immagine e a imparare schemi più profondi, non solo un punto fortunato. Questo è il cuore di Cutout, una tecnica utilizzata per rendere i modelli di visione artificiale più intelligenti e meno inclini a fallire quando vedono qualcosa di nuovo.

Ma ecco la grande domanda: dove dovremmo mettere quel quadrato nero? Dovremmo metterlo ovunque a caso, o dovremmo essere intelligenti? Alcuni ricercatori hanno pensato: "Osserviamo l'immagine e troviamo le parti più importanti (la 'saliency'), poi nascondiamo le parti noiose per far sì che il robot si concentri sui pezzi interessanti". Questo articolo approfondisce questa idea, ma con un colpo di scena: invece di guardare foto di gatti o auto, guardano il malware. Il malware è l'equivalente digitale di un virus; è un programma informatico malevolo. Gli scienziati hanno scoperto un modo per trasformare il codice invisibile di questi virus in immagini in scala di grigi, che assomigliano un po' alla nebbia di una vecchia TV. L'obiettivo è vedere se il trucco dell' "occultamento intelligente" funziona sulle immagini di questi virus allo stesso modo in cui funziona sulle foto del mondo naturale.

L'Esperimento: Nascondere le Cose Giuste (o Sbagliate)

I ricercatori hanno allestito un enorme parco giochi digitale per testare questo. Hanno utilizzato un cervello robotico standard (una rete neurale chiamata ResNet18) e gli hanno dato due compiti molto diversi. Il primo set era RawMal-TF, una collezione di 17.000 immagini in scala di grigi di virus informatici, con 1.000 esempi per ciascuna delle 17 famiglie di virus. Il secondo set era CIFAR-100, una famosa collezione di 100.000 foto di oggetti quotidiani come mele, camion e rane, usata come gruppo di controllo per vedere come il trucco si comporta su immagini normali.

Hanno testato quattro modi diversi per addestrare il robot:

Nessun Cutout: Il robot vede le immagini esattamente come sono.
Random Cutout: Il robot vede l'immagine originale più copie in cui un quadrato casuale è oscurato.
Low-Saliency Cutout: Il robot vede copie in cui il quadrato nero è posizionato sopra le parti "noiose" e non importanti dell'immagine (secondo un modello di insegnante intelligente).
High-Saliency Cutout: Il robot vede copie in cui il quadrato nero è posizionato sopra le parti "interessanti" e più importanti dell'immagine.

Hanno testato diverse dimensioni per questi quadrati neri (coprendo il 5%, 10%, 20% o 30% dell'immagine) e diversi numeri di copie extra (4 o 8 per ogni immagine originale).

I Risultati: Una Storia di Due Mondi

Le scoperte sono state un mix affascinante di "funziona!" e "aspetta, non funziona".

Sulle Immagini Naturali (CIFAR-100):
La strategia di "occultamento intelligente" ha funzionato davvero! Quando i ricercatori hanno usato il Low-Saliency Cutout (nascondendo le parti noiose), il robot è diventato più bravo nel suo lavoro. Nello specifico, quando hanno nascosto il 10% dell'immagine nei punti meno importanti, l'accuratezza del robot è salita al 63,51%, superando il punteggio standard di "nessun occultamento" di 62,65%. Sembra che per le foto di oggetti del mondo reale, dire al robot di ignorare lo sfondo e concentrarsi sul soggetto principale sia un ottimo modo per imparare. Tuttavia, se provavano a nascondere le parti più importanti (High-Saliency), il robot si confondeva e le prestazioni peggioravano notevolmente.

Sulle Immagini Malware (RawMal-TF):
Qui, la storia ha preso una piega completamente diversa. La strategia di "occultamento intelligente" è fallita. In effetti, ha peggiorato le cose. Il risultato migliore per le immagini dei virus è arrivato dal gruppo No Cutout, dove il robot vedeva le immagini perfettamente, ottenendo un punteggio del 72,83%. Ogni singola versione del trucco di "occultamento" — che fosse casuale, a bassa salienza o ad alta salienza — ha abbassato il punteggio.

Il miglior tentativo di "occultamento" (Random Cutout con un quadrato del 30%) ha raggiunto solo il 71,55%.
La strategia "Low-Saliency" (nascondere le parti noiose) era a volte leggermente migliore del caso casuale, ma spesso leggermente peggiore, e non ha mai superato il punteggio del gruppo "No Cutout".
La strategia "High-Saliency" (nascondere le parti importanti) è stata costantemente la peggiore, facendo crollare significativamente i punteggi.

Cosa Significa: I Virus non sono Solo Immagini

Gli autori suggeriscono che questa differenza accada perché le immagini del malware e le immagini naturali sono fondamentalmente diverse. Quando guardi la foto di un cane, le parti "importanti" sono il muso e le orecchie del cane. Nascondere l'erba sullo sfondo (low-saliency) aiuta il robot a concentrarsi sul cane.

Ma un'immagine di un malware è solo una traduzione di codice informatico in un'immagine. Le parti "importanti" che il computer vede potrebbero essere schemi specifici di byte, intestazioni di file o padding che per noi sembrano semplice rumore statico. Quando i ricercatori hanno usato il metodo "intelligente" per nascondere le parti "noiose", potrebbero aver accidentalmente coperto indizi strutturali cruciali necessari per identificare la famiglia del virus. È come cercare di imparare una lingua coprendo le vocali: potresti pensare di concentrarti sulle consonanti, ma in realtà hai distrutto la struttura della frase.

L'articolo conclude che, sebbene il saliency-guided cutout sia uno strumento potente per le immagini naturali, non funziona automaticamente per il malware. Il modo "intelligente" per nascondere parti di un'immagine di un virus non riguarda solo il guardare l'immagine; richiede la comprensione della struttura nascosta del codice stesso. Per ora, l'approccio più semplice — mostrare al robot l'immagine completa e senza maschere — rimane il campione per identificare queste minacce digitali.

Sintesi Tecnica: CAM-Guided Saliency Cutout e Classificazione di Malware basata su Immagini

Definizione del Problema

La classificazione di malware basata su immagini converte file eseguibili binari in immagini in scala di grigi per sfruttare le Reti Neurali Convoluzionali (CNN) per l'analisi. Sebbene le CNN raggiungano risultati allo stato dell'arte in questo dominio, l'overfitting rimane una preoccupazione. Il Dropout e il Cutout sono tecniche di regolarizzazione standard per mitigare l'overfitting; il Cutout, nello specifico, maschera regioni spaziali casuali delle immagini di addestramento per costringere il modello a imparare da pattern visivi diversificati piuttosto che fare affidamento su singoli tratti locali.

La domanda centrale di ricerca di questo articolo è se la regolarizzazione Cutout possa essere migliorata guidando il posizionamento della regione mascherata utilizzando la High-Resolution Class Activation Mapping (HiResCAM). Nello specifico, gli autori indagano se rimuovere le regioni identificate come "a bassa salienza" (meno importanti per la predizione del modello) o "ad alta salienza" (più importanti) produca prestazioni di classificazione migliori rispetto al normale Cutout casuale. Un obiettivo secondario è determinare se i comportamenti osservati nei dataset di immagini naturali (come CIFAR-100) si traducano nel dominio dei malware, o se le immagini di malware richiedano un trattamento distinto a causa delle loro differenze strutturali rispetto alle immagini naturali.

Metodologia

Lo studio impiega un design sperimentale controllato utilizzando ResNet18 come architettura di base. Gli esperimenti sono condotti su due dataset:

RawMal-TF: Un dataset di malware contenente 17 famiglie con 1.000 campioni ciascuna, convertiti in immagini standard in scala di grigi.
CIFAR-100: Un dataset di immagini naturali utilizzato come benchmark comparativo.

Condizioni Sperimentali

Vengono confrontati quattro scenari di addestramento:

No Cutout: Il baseline utilizzando le immagini di addestramento originali.
Random Cutout: Standard Cutout dove le regioni quadrate sono selezionate casualmente.
Low-Saliency Cutout: La regione di cutout è selezionata da aree con bassa attivazione in una mappa di salienza HiResCAM generata da un modello "insegnante" (un ResNet18 senza cutout addestrato sugli stessi dati).
High-Saliency Cutout: La regione di cutout è selezionata da aree con alta attivazione nella mappa HiResCAM.

Dettagli di Implementazione

Modello Insegnante (Teacher Model): Un ResNet18 addestrato senza cutout genera mappe di salienza HiResCAM per le immagini di addestramento.
Augmentation: Per ogni immagine originale, vengono create $M$ copie aumentate ( $M \in \{4, 8\}$ ). Ogni copia ha una regione quadrata mascherata (riempita di nero).
Aree di Cutout: Gli esperimenti testano dimensioni di maschera che coprono il 5%, 10%, 20% e 30% dell'area dell'immagine.
Logica di Selezione: Per il cutout guidato da CAM, le finestre candidate sono valutate in base alla salienza media. Il metodo seleziona una finestra dal bottom 10% (bassa salienza) o dal top 10% (alta salienza) dei candidati per garantire la diversità tra le $M$ copie, piuttosto che scegliere sempre il minimo o il massimo assoluto.
Configurazione di Addestramento: 100 epoche, ottimizzatore SGD, batch size 128, learning rate 0.1 con cosine scheduling. Tre seed casuali (42, 43, 44) sono utilizzati per valutare la robustezza. I dati di validazione non vengono mai mascherati.

Risultati Chiave

Risultati RawMal-TF (Malware)

I risultati per il dataset malware sono negativi riguardo l'utilità del cutout guidato dalla salienza:

Superiorità del Baseline: Il baseline No Cutout ha raggiunto la più alta accuratezza media di validazione (72.83% ± 0.16%).
Degradazione da Cutout: Tutte le condizioni di cutout (Random, Low-Saliency e High-Saliency) hanno prodotto un'accuratezza media di validazione inferiore rispetto al baseline.
- Miglior Random Cutout ( $M=4$ , area 30%): 71.55%.
- Miglior Low-Saliency Cutout ( $M=4$ , area 30%): 71.43%.
- Miglior High-Saliency Cutout: ~70.66%.
Saliency vs. Random: Il cutout a bassa salienza ha mostrato risultati incoerenti rispetto al cutout casuale, con differenze che variano da -0.56 a +0.46 punti percentuali tra le diverse configurazioni. Il cutout ad alta salienza è stato costantemente peggiore del cutout casuale, con deficit fino a -2.00 punti percentuali.
Conclusione: Il posizionamento guidato dalla salienza non ha migliorato la classificazione dei malware; anzi, l'approccio casuale standard ha performato meglio degli approcci guidati, sebbene entrambi siano inferiori a nessun aumento (no augmentation).

Risultati CIFAR-100 (Immagini Naturali)

Al contrario, il dataset di immagini naturali ha mostrato risultati positivi per specifiche strategie guidate dalla salienza:

Baseline: L'accuratezza No Cutout era del 62.65% ± 0.57%.
Miglioramento con Low-Saliency: Il Low-saliency cutout con $M=4$ e area 10% ha raggiunto il 63.51% ± 0.36%, superando il baseline di 0.86 punti percentuali e il corrispondente random cutout di 1.25 punti percentuali.
Degradazione da High-Saliency: Il cutout ad alta salienza è stato costantemente dannoso, performando significativamente peggio sia del baseline che del random cutout in tutte le configurazioni.
Robustezza: Il low-saliency cutout è rimasto robusto anche all'aumentare dell'area della maschera (20% e 30%), mentre le prestazioni del random e dell'high-saliency cutout sono deteriorate rapidamente.

Contributi e Significatività

Il contributo primario del documento è la dimostrazione empirica che il Cutout guidato dalla salienza è dipendente dal dominio.

Disparità di Dominio: Lo studio stabilisce che le tecniche efficaci per le immagini naturali (specificamente il low-saliency cutout) non si trasferiscono automaticamente alle immagini di malware. Nel dominio dei malware, le regioni a "bassa salienza" identificate da HiResCAM non corrispondono necessariamente a informazioni di background non critiche come potrebbe accadere nelle immagini naturali.
Natura delle Immagini di Malware: Gli autori sostengono che le immagini di malware derivino da sequenze di byte e strutture binarie (es. header PE, confini delle sezioni). Una maschera quadrata locale in un'immagine di malware può rimuovere regioni di byte contigue che codificano informazioni strutturali critiche per la classificazione della famiglia, indipendentemente dall'intensità del pixel o dal punteggio di salienza. Di conseguenza, mascherare queste regioni (anche se ritenute a "bassa salienza" da un modello insegnante) può danneggiare la rappresentazione invece di regolarizzarla.
Rischio di High-Saliency: I risultati confermano che mascherare le regioni ad alta salienza è generalmente dannoso in entrambi i domini, poiché rimuove le caratteristiche più discriminanti su cui il modello si affida.
Direzione Futura: Il documento suggerisce che per i malware, le strategie di masking dovrebbero essere consapevoli della struttura (allineate con gli offset binari, le sezioni PE o le transizioni di entropia) piuttosto che affidarsi esclusivamente a mappe di salienza basate su immagini derivate da assunzioni di immagini naturali.

Limitazioni e Ambito

Gli autori notano esplicitamente diverse limitazioni:

Specificità dell'Architettura: I risultati si basano esclusivamente su ResNet18; le prestazioni potrebbero differire con altre architetture (es. ViT, EfficientNet).
Rappresentazione dell'Immagine: Lo studio è limitato alle immagini in scala di grigi; altre trasformazioni binario-immagine non sono state testate.
Potenza Statistica: Sebbene siano stati utilizzati tre seed, la dimensione del campione è piccola e gli intervalli di confidenza dovrebbero essere considerati esplorativi.
Budget Computazionale: I set di addestramento aumentati ( $M=4$ o $8$) comportano più esempi di addestramento rispetto al baseline, il che significa che il confronto non è strettamente equivalente in termini di passi dell'ottimizzatore.

In sintesi, il documento conclude che, sebbene il Cutout guidato dalla salienza possa migliorare la classificazione di immagini naturali, attualmente non offre alcun beneficio — e può essere dannoso — per la classificazione di malware in scala di grigi, evidenziando la necessità di strategie di augmentation specifiche per il dominio nell'analisi dei malware.