Killing Two Birds with One Stone: Malicious Package Detection in NPM and PyPI using a Single Model of Malicious Behavior Sequence

Sintesi Tecnica: Cerebro – Rilevamento di pacchetti malevoli in NPM e PyPI utilizzando un singolo modello di sequenza di comportamento malevolo

Problematica
La catena di approvvigionamento del software open-source (OSS) è diventata un vettore di attacco primario, con i registri di pacchetti come NPM (JavaScript) e PyPI (Python) che fungono da bersagli frequenti per l'iniezione di pacchetti malevoli. Gli attuali meccanismi di rilevamento affrontano due criticità fondamentali:

1. Silos di ecosistema: La maggior parte dei rilevatori è progettata per un singolo ecosistema (o NPM o PyPI) e non può sfruttare la conoscenza dei comportamenti malevoli rilevati in un ecosistema per identificare le minacce nell'altro. Questo è particolarmente problematico poiché gli attaccanti spesso trascrivono pacchetti malevoli tra diversi ecosistemi, eppure i dataset pubblici di pacchetti malevoli sono piccoli e frammentati.
2. Mancanza di modellazione sequenziale: Gli approcci attuali modellano tipicamente il comportamento malevolo come un insieme di caratteristiche discrete e indipendenti (ad esempio, import specifici o anomalie nei metadati). Essi non riescono a catturare la natura sequenziale degli attacchi, in cui le attività malevole avvengono spesso in un ordine specifico (ad esempio, lettura di dati sensibili, codifica, trasmissione e un'esecuzione di un payload).

Metodologia: Cerebro
Per affrontare queste limitazioni, gli autori propongono Cerebro, un modello di rilevamento unificato che utilizza una "sequenza di comportamento malevolo" per rilevare minacce sia in NPM che in PyPI. Il sistema opera attraverso tre componenti principali:

1. Estrattore di Caratteristiche (Analisi Statica):

   • Cerebro impiega l'analisi statica per estrarre 16 caratteristiche indipendenti dal linguaggio basate su un'astrazione di alto livello del comportamento malevolo.
   • Le caratteristiche sono categorizzate in cinque dimensioni: Metadata (es. nomi sospetti, sebbene Cerebro si concentri su caratteristiche a livello di codice per evitare assunzioni specifiche del registro), Lettura di Informazioni (uso di moduli OS/file system), Trasmissione Dati (uso di moduli di rete, URL), Codifica (tecniche di offuscamento come base64) e Esecuzione Payload (uso di moduli di processo, eval, script bash).
   • Basandosi su astrazioni a livello di codice piuttosto che sui metadati del registro, Cerebro consente la fusione della conoscenza tra diversi ecosistemi.

2. Generatore di Sequenza di Comportamento:

   • Questa componente organizza le caratteristiche estratte in una rappresentazione sequenziale per modellare il flusso di esecuzione di un attacco.
   • Prioritizzazione: I metodi sono prioritizzati in base alla loro probabilità di esecuzione: Install-time (massima, es. setup.py, script preinstall), Import-time (es. __init__.py, index.js) e Run-time.
   • Traversamento del Grafo delle Chiamate: Il sistema costruisce un grafo delle chiamate per il pacchetto. Attraversa il grafo partendo dai metodi prioritari, estraendo le istanze delle caratteristiche e ordinandole per numero di riga e dipendenze di chiamata. Ciò preserva la relazione sequenziale inter-procedurale delle attività sospette.

3. Classificatore di Malevolità:

   • La sequenza di comportamento generata viene trasformata in una descrizione testuale (es. "import modulo network, usa chiamata modulo network, legge informazioni sensibili").
   • Questo testo viene fornito a un modello di linguaggio pre-addestrato (BERT, RoBERTa o T5) che viene perfezionato come classificatore binario. L'uso di descrizioni in linguaggio naturale permette al modello di sfruttare la comprensione semantica acquisita durante il pre-addestramento per interpretare il contesto dei termini di sicurezza.

Contributi Chiave

• Modello di Rilevamento Unificato: Gli autori hanno implementato Cerebro, il primo modello capace di rilevare pacchetti malevoli sia in NPM che in PyPI utilizzando un'unica architettura basata su sequenze di comportamento.
• Modellazione della Sequenza di Comportamento: Il documento introduce un approccio innovativo per modellare la malevolità non come un "sacchetto di caratteristiche" (bag of features), ma come una sequenza ordinata di eventi derivati dall'analisi statica e dai grafi delle chiamate.
• Validazione Empirica: Sono stati condotti esperimenti estesi su un dataset composto da 2.675 pacchetti malevoli e 7.391 pacchetti benigni.
• Distribuzione nel Mondo Reale: Il sistema è stato distribuito per monitorare i pacchetti appena pubblicati per 7-8 mesi, portando al rilevamento e alla rimozione di centinaia di nuovi pacchetti malevoli.

Risultati della Valutazione

• Efficacia:
  • Mono-lingue (Addestramento/Test sullo stesso ecosistema): Cerebro ha superato gli approcci basati sull'apprendimento all'avanguardia (es. Amalfi, SAP) con una media del 10,0% in precisione e del 7,4% in recall.
  • Bi-lingue (Addestramento su entrambi, test su uno): Cerebro ha ottenuto un miglioramento medio del 9,9% in precisione e dell'8,9% in recall rispetto ai metodi esistenti, dimostrando il valore della fusione della conoscenza cross-ecosistema.
  • Cross-lingue (Addestramento su uno, test sull'altro): Il modello ha mostato guadagni significativi nel punteggio F1 rispetto ai baseline, sebbene le prestazioni siano inferiori nelle impostazioni mono-lingue, indicando che mentre il trasferimento di conoscenza è possibile, le sfumature specifiche dell'ecosistema rimangono rilevanti.
• Efficienza: Il tempo medio per analizzare un singolo pacchetto è di 10,5 secondi, che gli autori ritengono accettabile per la verifica dei registri. L'addestramento del modello sull'intero dataset misto richiede circa 39,3 ore.
• Studio di Ablazione: Rimuovere il generatore di sequenza di comportamento o la fase di trasformazione testuale ha causato cali significativi nella recall (fino al 33% negli scenari cross-lingue), confermando la necessità della modellazione sequenziale e della rappresentazione semantica.
• Impatto nel Mondo Reale:
  • Durante un periodo di monitoraggio, Cerebro ha segnalato 5.976 versioni di pacchetti potenzialmente malevoli da 923.638 nuove release.
  • Dopo la verifica manuale, gli autori hanno confermato 683 pacchetti PyPI malevoli e 799 pacchetti NPM malevoli.
  • Tutti i pacchetti malevoli confermati sono stati segnalati e rimossi dai team ufficiali di PyPI e NPM. Gli autori hanno ricevuto 707 lettere di ringraziamento per queste segnalazioni.
  • L'analisi di queste nuove minacce ha rivelato che l'83,3% ha attivato comportamenti malevoli al momento dell'installazione (install-time) e il 70,9% mirava a rubare informazioni sensibili.

Significatività e Rivendicazioni
Il documento sostiene che Cerebro affronti efficacemente le doppie sfide della frammentazione degli ecosistemi e della mancanza di modellazione sequenziale nei sistemi di rilevamento attuali. Astrando il comportamento malevolo in una sequenza indipendente dal linguaggio e sfruttando le capacità semantiche dei modelli di linguaggio di grandi dimensioni, Cerebro raggiunge una precisione superiore rispetto agli approcci basati su regole o su caratteristiche discrete. Gli autori sottolineano che il loro approccio non è solo teoricamente solido, ma anche praticamente percorribile, come dimostrato dal successo nel rilevamento e nella rimozione di quasi 1.500 nuovi pacchetti malevoli nel mondo reale. Il lavoro suggerisce che i futuri sistemi di rilevamento dovrebbero andare oltre le liste statiche di caratteristiche per modellare il processo di un attacco, e che l'apprendimento cross-ecosistema sia una strategia valida per mitigare la scarsità di dati nella ricerca sulla sicurezza.