The Phish, The Spam, and The Valid: Generating Feature-Rich Emails for Benchmarking LLMs

Titolo e Obiettivo

Il paper introduce PhishFuzzer, un framework di generazione arricchito da metadati progettato per colmare il divario tra i dataset di email esistenti (spesso obsoleti e privi di granularità) e le moderne minacce di phishing e spam generate o facilitate da Large Language Models (LLM). L'obiettivo principale è creare un benchmark rigoroso per valutare l'affidabilità, la robustezza e le modalità di fallimento sistematico degli LLM nella classificazione delle email.

1. Il Problema

• Minacce Evolutive: Il phishing e lo spam sono in aumento in volume e sofisticazione. I criminali informatici utilizzano sempre più gli LLM per creare messaggi linguisticamente persuasivi che eludono i sistemi di rilevamento tradizionali basati su regole e parole chiave.
• Carenza dei Dataset Esistenti: I dataset pubblici attuali (es. SpamAssassin, Enron) sono spesso datati (pre-2010), soffrono di problemi di codifica, mancano di metadati strutturali completi (URL interi, nomi di allegati) e non distinguono chiaramente tra tre classi critiche: Phishing, Spam e Email Valide. Inoltre, spesso mancano annotazioni sull'intento dell'attaccante.
• Necessità di Valutazione: È necessario un dataset moderno, sinteticamente generato ma basato su semi reali, che permetta di testare come gli LLM gestiscono le variazioni linguistiche e l'inclusione di metadati contestuali.

2. Metodologia: Il Framework PhishFuzzer

Il framework segue un processo in quattro fasi per generare un dataset di 23.100 email:

1. Creazione del Dataset "Seed" (Semi):
   • Combinazione di 300 email private (curate manualmente e anonimizzate) e 3.000 email pubbliche.
   • Le email sono bilanciate tra Phishing, Spam e Valide.
2. Benchmark di Intento e Arricchimento (Label Augmentation):
   • Vengono testati diversi LLM (Claude, GPT, Gemini, Qwen, DeepSeek) per identificare l'intento dell'attaccante (es. "clicca sul link", "apri allegato") e popolare i campi mancanti (URL, allegati) nelle email pubbliche.
   • Gemini-2.5-Flash è stato selezionato come modello ottimale per la sua alta accuratezza strutturale e basso tasso di allucinazioni.
3. Arricchimento delle Etichette:
   • Utilizzando il modello selezionato, vengono aggiunti intenti, URL e nomi di allegati a tutte le 3.000 email pubbliche, creando un set di semi di 3.300 email strutturalmente coerenti.
4. Espansione del Dataset (Seeding):
   • Ogni email "seme" viene utilizzata come template per generare 6 varianti sintetiche (totale 7 email per template).
   • Le varianti sono generate lungo due dimensioni ortogonali:
     • Entità: 2 tipi (Entità globalmente riconosciute vs. entità fittizie ma realistiche).
     • Lunghezza: 3 tipi (Corta, Media, Lunga).
   • Questo processo produce 19.800 varianti sintetiche, portando il totale a 23.100 email. Il processo pulisce anche artefatti di codifica e HTML residui.

3. Contributi Chiave

• PhishFuzzer Dataset: Il primo dataset open-source a tre classi (Phishing, Spam, Valide) con 3.300 semi reali e 19.800 varianti sintetiche. Include metadati completi (URL, allegati, mittente) e annotazioni sull'intento dell'attaccante.
• Framework di Generazione: Un pipeline che utilizza LLM per espandere dataset reali mantenendo la coerenza strutturale e l'intento originale, risolvendo il problema della scarsità di dati moderni.
• Metriche di Valutazione Rigorose: Introduzione di metriche formali oltre alla semplice accuratezza:
  • Task Success Rate (TSR): Percentuale di varianti corrette per un template.
  • Confidence Index (Conf@K): Percentuale di template classificati perfettamente in tutte le varianti.
  • Total Flip Score (TFS@K): Misura i "punti ciechi" sistematici, ovvero i template in cui il modello fallisce su tutte le varianti (indicando un errore strutturale e non stocastico).

4. Risultati Sperimentali

Gli autori hanno valutato due modelli SOTA (Qwen-2.5-72B e Gemini-3.1-Pro) in due configurazioni:

• Basic: Solo soggetto e corpo dell'email.
• Full: Soggetto, corpo + metadati (URL, mittente, allegati).

Risultati Principali:

• Rilevamento del Phishing: L'inclusione dei metadati migliora drasticamente il rilevamento del phishing.
  • Gemini-3.1-Pro: F1 score sale da 0.939 a 0.958.
  • Qwen-2.5-72B: F1 score sale da 0.893 a 0.917.
  • I metadati riducono gli errori di classificazione del phishing come "Valido".
• Il Dilemma dello Spam: L'inclusione dei metadati ha un effetto negativo sul rilevamento dello spam.
  • Entrambi i modelli peggiorano nel distinguere lo Spam dalle email Valide.
  • Lo Spam viene spesso classificato erroneamente come "Valido" (False Negativi), specialmente quando i metadati sono presenti. Questo suggerisce che i modelli faticano a gestire la sottile linea soggettiva tra marketing aggressivo e comunicazioni legittime.
• Robustezza alle Varianti:
  • Qwen-2.5-72B: Mostra una sensibilità alle variazioni linguistiche ("fuzzing"), con un calo di prestazioni sulle varianti sintetiche rispetto ai semi originali.
  • Gemini-3.1-Pro: Dimostra maggiore resilienza semantica, mantenendo o migliorando leggermente le prestazioni sulle varianti, indicando una comprensione più profonda della logica dell'email rispetto ai pattern lessicali.
• Punti Ciechi Sistematici (TFS@K): L'analisi ha rivelato che entrambi i modelli falliscono sistematicamente su specifici template di spam, confermando che la distinzione spam/valido è intrinsecamente ambigua e soggettiva.

5. Significato e Conclusioni

• Impatto sulla Sicurezza: Il lavoro dimostra che mentre i metadati sono cruciali per indurire le difese contro il phishing (rilevando domini falsi o link sospetti), introducono un compromesso (trade-off) che degrada la capacità di filtrare lo spam, spingendo le email sospette nella categoria "Valida".
• Valutazione degli LLM: Gli LLM moderni sono eccellenti nel rilevare il phishing quando forniti di contesto completo, ma faticano ancora con la classificazione fine tra spam e legittimità, un problema che riflette l'ambiguità umana.
• Open Science: Il dataset, gli script di generazione e i prompt sono resi pubblici su GitHub, fornendo alla comunità di ricerca una base solida e standardizzata per lo sviluppo di futuri sistemi di sicurezza email basati su AI.

In sintesi, il paper evidenzia che la prossima generazione di sistemi di difesa deve combinare il ragionamento semantico degli LLM con filtri euristici tradizionali per gestire efficacemente sia le minacce di phishing sofisticate che la complessa distinzione tra spam e comunicazioni legittime.