LLM-Enhanced Hierarchical Heterogeneous Graph Representation Learning for Malicious Python Package Detection

Sintesi Tecnica: H2GLM per il Rilevamento di Pacchetti Python Maliziosi

Definizione del Problema
L'ampia adozione di repository open-source come PyPI ha reso i pacchetti Python maliziosi una minaccia critica per le catene di approvvigionamento del software (software supply chains). I metodi di rilevamento esistenti affrontano limitazioni significative:

• Gli approcci basati su regole (ad es., firme, euristiche) faticano contro l'offuscamento, il caricamento dinamico del codice e i pattern di attacco in rapida evoluzione, portando a tassi elevati di falsi positivi e falsi negativi.
• Gli approcci basati sull'apprendimento spesso non riescono a catturare l'organizzazione gerarchica e le interazioni eterogenee intrinseche nei pacchetti Python. Sebbene le Graph Neural Networks (GNN) modellino le dipendenze strutturali, esse si affidano frequentemente a grafi omogenei che trattano tutte le entità in modo uniforme, perdendo distinzioni critiche tra pacchetti, file e funzioni.
• I Large Language Models (LLM) eccellono nel ragionamento semantico ma mancano di un contesto strutturale esplicito e faticano a elaborare strutture di programmi interconnesse su larga scala senza troncamenti, portando a una ricostruzione incompleta della catena di attacco.
• Fondamentalmente, i comportamenti maliziosi emergono spesso dalle interazioni tra componenti eterogenei (ad es., script di installazione che invocano funzioni che accedono a variabili d'ambiente ed esfiltrano dati), una complessità che gli attuali framework GNN-LLM omogenei non possono modellare efficacemente.

Metodologia: Framework H2GLM
Gli autori propongono H2GLM (un framework di apprendimento di rappresentazioni di grafi eterogenei gerarchici potenziato da LLM), un framework a quattro stadi progettato per modellare congiuntamente l'eterogeneità strutturale esplicita e l'eterogeneità semantica implicita.

1. Estrazione del Grafo:

   • Costruisce un grafo di codice eterogeneo $G = (V, E, \phi, \psi)$ a partire dall'Albero della Sintassi Astratta (AST).
   • Nodi ($V$): Tre tipi: Package, File e Function.
   • Archi ($E$): Tre tipi: Contain (package-file, file-function), Import e Call.
   • Attributi: Codice sorgente per le funzioni; riassunti generati da LLM per i file e i pacchetti basati sui manifest di progetto e sulle docstring.

2. Generazione del Grafo di Caratteristiche Eterogeneo Gerarchico:

   • Potenzia il grafo con un nuovo livello di eterogeneità semantica, $\phi_{LLM}$.
   • Inferenza LLM: Un LLM analizza il codice sorgente di ogni nodo Function per inferire dinamicamente il suo tipo semantico funzionale (ad es., ispezione dell'ambiente, accesso alle credenziali, comunicazione di rete) e generare una descrizione semantica. Ciò introduce un'eterogeneità latente non presente nella struttura grezza.
   • Codifica delle Caratteristiche: Le caratteristiche dei nodi sono costruite concatenando gli embedding di un Sentence Transformer (per i riassunti testuali) e di CodeBERT (per gli snippet di codice sorgente), creando vettori di caratteristiche ricchi e consapevoli del tipo.

3. Classificazione (H2GNN):

   • Una nuova Hierarchical Heterogeneous Graph Neural Network (H2GNN) elabora il grafo attraverso tre meccanismi specifici:
     • Proiezione delle Caratteristiche Guidata da $\phi(v)$: Proietta i tipi di nodi eterogenei (Package, File, Function) in uno spazio latente unificato utilizzando matrici apprendibili specifiche per tipo.
     • Elaborazione delle Caratteristiche Guidata da $\phi_{LLM}(v)$: Elabora ulteriormente le rappresentazioni dei nodi in base ai tipi semantici funzionali inferiti dall'LLM, consentendo al modello di apprendere rappresentazioni specializzate per diversi ruoli semantici.
     • Passaggio di Messaggi Guidato da $\psi(e)$: Aggrega le informazioni attraverso gli archi, utilizzando pesi specifici per tipo e coefficienti di attenzione per enfatizzare le relazioni critiche (ad es., catene di importazione, chiamate di funzione) indicative di una propagazione maliziosa.
   • Un'operazione di global mean pooling seguita da un MLP predice la maliziosità a livello di pacchetto.

4. Localizzazione:

   • Per identificare le funzioni malizie specifiche, il framework impiega un meccanismo di attribuzione a livello di funzione.
   • Rimuove iterativamente i nodi funzione dal grafo e misura il calo della probabilità di maliziosità predetta.
   • Le funzioni che causano cali significativi di probabilità vengono segnalate come sospette. I loro sottografi locali vengono poi analizzati da un LLM per generare spiegazioni interpretabili dall'uomo della logica di attacco.

Contributi Chiave

• Framework H2GLM: Un framework di apprendimento che integra GNN e LLM per modellare sia l'eterogeneità strutturale esplicita (pacchetti, file, funzioni) che l'eterogeneità semantica implicita (ruoli funzionali inferiti da LLM).
• Nuova Architettura H2GNN: Una rete neurale a grafo adattata per l'analisi del codice che esegue il passaggio di messaggi consapevole del tipo e l'elaborazione delle caratteristiche consapevole del contenuto, consentendo la modellazione della propagazione del comportamento malizioso attraverso livelli gerarchici.
• Localizzazione Automatica: Un meccanismo che identifica automaticamente funzioni sospette e percorsi di attacco senza intervento umano, combinando l'attribuzione del grafo con il ragionamento LLM per l'interpretabilità.
• Validazione nel Mondo Reale: Il framework è stato implementato per monitorare PyPI, identificando con successo pacchetti maliziosi che sono stati successivamente confermati e rimossi dai manutentori.

Risultati Sperimentali
Sono stati condotti esperimenti estesi su un dataset di 3.049 pacchetti maliziosi e numerosi pacchetti benigni, stratificati per dimensione e complessità di importazione.

• Prestazioni Complessive: H2GLM ha raggiunto un F1-score del 97,12%, superando costantemente i baseline allo stato dell'arte, inclusi i metodi ML tradizionali, i detector basati su grafi (MPHunter), gli strumenti di analisi statica (Bandit4Mal, OSSGadget) e vari LLM (Qwen3-14b, DeepSeek-R1-70b).
• Robustezza: H2GLM ha mantenuto prestazioni stabili (F1 > 94,9%) in condizioni estreme, inclusi pacchetti estremamente piccoli (<1,57KB) e pacchetti con ampie dipendenze di importazione (>100 import), dove altri metodi (specialmente LLM e GNN omogenee) hanno subito un significativo degrado delle prestazioni dovuto a limiti di contesto o incapacità di modellare dipendenze complesse.
• Studi di Ablazione: La rimozione del passaggio di messaggi eterogeneo ($\psi(e)$) o dell'elaborazione semantica guidata da LLM ($\phi_{LLM}$) ha comportato cali dell'F1-score di circa il 4%, confermando la necessità di entrambe l'eterogeneità strutturale e semantica.
• Accuratezza della Localizzazione: Su un sottoinsieme di 300 pacchetti annotati manualmente, H2GLM ha raggiunto un'accuratezza del 95,67% nell'identificare le funzioni specifiche responsabili del comportamento malizioso.
• Case Studies: Il sistema ha identificato con successo la comunicazione C2 (command-and-control) offuscata in un pacchetto malizioso che si travestiva da libreria crittografica, individuando la specifica funzione di rete nonostante l'intenso offuscamento.

Significatività e Claim
Il documento sostiene che H2GLM rappresenti un avanzamento significativo nella sicurezza della supply chain del software affrontando il "gap di eterogeneità" nei metodi di rilevamento esistenti. Modellando esplicitamente la struttura multi-livello dei pacchetti Python e sfruttando gli LLM per scoprire i ruoli semantici latenti, il framework ottiene:

1. Maggiore Accuratezza: Tassi di rilevamento superiori rispetto sia ai metodi basati su regole che ai metodi di apprendimento esistenti.
2. Robustezza: Prestazioni efficaci attraverso diverse complessità di pacchetti dove altri metodi falliscono.
3. Interpretabilità: La capacità non solo di classificare i pacchetti, ma anche di localizzare e spiegare i comportamenti maliziosi specifici, riducendo la necessità di intervento manuale degli esperti.
4. Applicabilità Pratica: Successo dimostrato in una pipeline di monitoraggio automatizzata nel mondo reale su PyPI, validando la sua utilità per la protezione continua su larga scala dell'ecosistema.

Gli autori sottolineano che questo lavoro è il primo a integrare l'apprendimento di grafi eterogenei gerarchici con gli LLM specificamente per il rilevamento di pacchetti maliziosi, offrendo un cambio di paradigma dalle rappresentazioni omogenee a un'analisi più sfumata e guidata dal comportamento.