🤖 AI

A Robust and Explainable Transformer-Based Framework for Phishing Email Detection

Questo articolo propone un framework di rilevamento delle email di phishing robusto e spiegabile che combina l'addestramento avversario su un modello DistilBERT con metodi XAI integrati e un generatore Flan-T5 per produrre spiegazioni basate su prove che siano accurate, resilienti e trasparenti.

Autori originali: Sajad U P

Pubblicato 2026-06-03

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Sajad U P

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina che la tua casella di posta elettronica sia un aeroporto affollato, e ogni messaggio sia un passeggero che cerca di imbarcarsi su un volo. La maggior parte dei passeggeri sono cittadini locali amichevoli (email legittime), ma alcuni sono impostori in travestimento, che cercano di intrufolarsi per rubare i tuoi bagagli (email di phishing).

Per anni, le guardie di sicurezza in questo aeroporto (i filtri antispam tradizionali) hanno usato una semplice lista di controllo: "Se il passeggero dice 'soldi gratis', fermalo". Ma gli impostori sono diventati intelligenti. Hanno iniziato a cambiare vestiti, a scambiare lettere nei loro nomi (come scrivere "G00gle" invece di "Google"), o a sussurrare le loro bugie in modo che sembrassero normali. Le vecchie guardie non riuscivano a distinguerli.

Questo articolo presenta un nuovo sistema di sicurezza super intelligente costruito su tre idee principali: una guardia più intelligente, un campo di addestramento più duro e una guida amichevole per spiegare la decisione.

1. La Guardia più Intelligente: DistilBERT

L'articolo utilizza un modello chiamato DistilBERT. Immagina questo come una guardia giurata altamente istruita che ha letto milioni di libri e comprende il contesto di una frase, non solo le singole parole.

Il Problema: Sebbene questa guardia sia molto intelligente, è anche un po' una "scatola nera" (black box). Non puoi chiederle perché ha fermato qualcuno; dice solo: "No". Inoltre, se un impostore cambia anche solo una lettera nel suo nome, la guardia potrebbe confondersi e lasciarlo passare.
La Soluzione: I ricercatori hanno mantenuto questa guardia intelligente, ma le hanno dato un regime di addestramento speciale per renderla più dura e trasparente.

2. Il Campo di Addestramento più Duro: Addestramento Avversario

Per rendere la guardia incrollabile, i ricercatori l'hanno sottoposta a un "campo di addestramento" progettato per romperla, affinché possa imparare a sopravvivere.

L'esercitazione "FGM" (Livello di Embedding): Immagina che la guardia stia imparando a riconoscere un volto. Gli istruttori prendono l'immagine mentale di un volto nella mente della guardia e la sfocano o la distorcono leggermente (matematicamente) per vedere se la guardia riconosce ancora la persona. Questa si chiama FGM. Insegna alla guardia a concentrarsi sull'essenza della persona, non solo sulla luce perfetta.
L'esercitazione "Rumore di Carattere" (Livello Superficiale): Poi, prendono il testo effettivo delle email e iniziano a rovinarlo. Sostituiscono una "o" con uno "0", cancellano una lettera o aggiungono un carattere casuale. Questo simula i trucchi del mondo reale usati dagli imbroglioni.
Il Risultato: Addestrando la guardia su queste email "rotte" e "distorte", essa impara a ignorare il rumore. Anche se uno scammer scrive "Acc0unt" invece di "Account", la guardia sa che si tratta comunque di un account sospetto. L'articolo mostra che mentre l'accuratezza di una guardia normale scende dal 98% al 54% quando affronta questi trucchi, questa guardia addestrata resta forte al 93%.

3. La Guida Amichevole: IA Spiegabile (XAI)

Anche se la guardia è perfetta, hai comunque bisogno di sapere perché ha fermato qualcuno. Se una guardia si limita a urlare "Stop!" senza una ragione, potresti arrabbiarti o confonderti.

Il Problema: Di solito, i modelli di IA forniscono solo una risposta "Sì/No".
La Soluzione: I ricercatori hanno aggiunto una "Guida Amichevole" (usando uno strumento chiamato Flan-T5).
- Per prima cosa, il sistema utilizza tre diversi "strumenti investigativi" (chiamati LIME, SHAP e IG) per evidenziare esattamente quali parole hanno reso sospetta la guardia. Ha detto "Urgente"? Ha chiesto la tua password?
- Poi, la Guida Amichevole prende queste parole evidenziate e scrive una frase semplice, in linguaggio naturale, per te.
- Esempio: Invece di un codice confuso, il sistema ti dice: "Questa email è stata segnalata come truffa perché utilizza un linguaggio urgente come 'azione immediata' e ti chiede di cliccare su un link per resettare la tua password."

Come tutto funziona insieme

L'articolo descrive una pipeline che appare così:

Input: Arriva un'email.
La Guardia: Il modello DistilBERT la legge. Grazie al suo addestramento speciale, non viene ingannata da refusi o simboli strani.
I Detective: Se la guardia è sospettosa, gli strumenti investigativi (LIME, SHAP, IG) indicano le parole specifiche che hanno fatto scattare l'allarme.
La Guida: La Guida Amichevole traduce quei punti tecnici in una breve storia leggibile da un essere umano che spiega il rischio.

Cosa ha scoperto l'articolo

È più Forte: Il nuovo sistema non solo è diventato migliore nel individuare le truffe; è diventato molto più bravo a individuare le truffe astute che cercano di nascondersi cambiando le lettere.
È più Chiaro: Quando il sistema commette un errore (come segnalare un'email realmente urgente come truffa), la spiegazione aiuta a capire perché è successo (ad esempio, "Pensava che la parola 'urgente' fosse una tattica da truffa"). Ciò aiuta gli utenti a fidarsi di più del sistema.
È Veloce: Poiché hanno utilizzato "DistilBERT" (una versione più leggera e veloce dei grandi modelli di IA), questo sistema può funzionare rapidamente senza richiedere un supercomputer.

In sintesi

Questo articolo presenta un sistema di sicurezza che è più forte contro i trucchi, più veloce da eseguire e onesto riguardo al proprio ragionamento. Colma il divario tra un potente cervello informatico e un utente umano che vuole solo sapere: "Questa email è sicura?" senza dover avere una laurea in informatica.

Sintesi Tecnica: Un Framework Basato su Transformer Robusto ed Esplicabile per il Rilevamento di Email di Phishing

Problematica
Gli attacchi di phishing rimangono una minaccia cibernetica persistente e sofisticata, che sfrutta sempre più l'IA per imitare fonti attendibili ed esploitare le vulnerabilità umane. Sebbene i modelli basati su Transformer (ad esempio, BERT, DistilBERT) abbiano dimostrato prestazioni superiori nel catturare pattern linguistici contestuali per il rilevamento del phishing, essi soffrono di due criticità fondamentali: una mancanza di interpretabilità (operando come "black box") e la vulnerabilità alle perturbazioni avversarie. Recenti attacchi avversari, inclusi lievi modifiche a livello di carattere e manipolazioni a livello di embedding, possono facilmente eludere i meccanismi di rilevamento standard. Inoltre, la ricerca esistente spesso affronta la robustezza e la spiegabilità in modo isolato, lasciando un divario tra l'affidabilità del modello e la fiducia dell'utente.

Metodologia
Il documento propone un framework unificato, leggero e end-to-end centrato su DistilBERT (una variante distillata ed efficiente di BERT) per affrontare queste sfide attraverso tre componenti integrate:

Addestramento alla Robustezza Ibrida:
Per migliorare la resilienza contro attacchi sia a livello di embedding che a livello superficiale, gli autori impiegano un approccio di addestramento a doppia strategia:
- Addestramento Avversario a Livello di Embedding: Utilizzando il Metodo del Gradiente Veloce (FGM), il modello viene addestrato con perturbazioni basate sul gradiente applicate direttamente agli embedding dei token. Questo ammorbidisce il confine decisionale nello spazio continuo degli embedding.
- Aumento del Rumore a Livello di Carattere: Perturbazioni stocastiche (inserimento, cancellazione e sostituzione di caratteri, inclusi i sostituti visivamente simili come 'o'→'0') vengono applicate al 30% dei campioni di addestramento prima della tokenizzazione. Ciò simula le tattiche di evasione del mondo reale e costringe il modello a imparare rappresentazioni sub-word e contestuali robuste.
- Ottimizzazione: Il modello minimizza una funzione di perdita composita ( $L_{total} = L_{clean} + \lambda L_{adv}$ ) dove $\lambda=0.5$ , bilanciando l'accuratezza della classificazione standard con la resilienza avversaria.
Integrazione della XAI (Explainable AI):
Per migliorare la trasparenza, il framework integra tre metodi di attribuzione locale: LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations) e IG (Integrated Gradients). Questi metodi quantificano l'importanza di specifici token nel processo decisionale del modello. Lo studio conduce una valutazione comparativa di questi metodi sotto perturbazioni dell'input per valutare la stabilità della spiegazione.
Generazione di Spiegazioni in Linguaggio Naturale:
Per colmare il divario tra le attribuzioni tecniche delle feature e la comprensione dell'utente, il framework utilizza Flan-T5-Small, un modello transformer sequence-to-sequence leggero e istruito per seguire istruzioni. I top token influenti derivati da LIME, i loro punteggi di attribuzione e la confidenza della previsione del modello vengono formattati in prompt strutturati e basati su regole. Flan-T5-Small genera quindi narrazioni concise, in linguaggio naturale e basate su prove, che spiegano perché un'email è stata segnalata come phishing o legittima.

Principali Contributi
Il documento delinea quattro contributi primari:

Robustezza Ibrida Migliorata: Dimostra che la combinazione dell'addestramento degli embedding tramite FGM con l'aumento del rumore a livello di carattere migliora significativamente la resilienza di DistilBERT agli attacchi di perturbazione a livello di carattere, offrendo un'alternativa computazionalmente efficiente alle difese avversarie multi-step.
Valutazione Comparativa della XAI: Fornisce un confronto sistematico tra LIME, SHAP e IG sotto distorsioni realistiche dell'input, quantificando l'interpretabilità e la robustezza qualitativa dei metodi di attribuzione.
Spiegazioni Basate su Evidenze: Stabilisce uno strato che converte le attribuzioni tecniche delle feature in narrazioni leggibili dall'uomo utilizzando Flan-T5-Small, radicando direttamente le spiegazioni nelle prove del modello piuttosto che in avvisi statici.
Framework End-to-End: Unifica l'addestramento robusto, la XAI e la razionalizzazione in linguaggio naturale in una pipeline implementabile che affronta il compromesso tra robustezza del modello e fiducia dell'utente.

Risultati Sperimentali
Il framework è stato valutato su un dataset pubblico di email di phishing (circa 18.650 campioni) ed è stato validato su un dataset cross-domain (sottoinsieme di CEAS 08).

Robustezza: Sotto un crescente rumore a livello di carattere (fino al 20% di corruzione), il framework proposto ha mantenuto un'accuratezza del 93,2%, un miglioramento drastico rispetto al baseline DistilBERT, che è sceso al 54,5%. L'approccio ibrido ha ridotto il calo di accuratezza dai dati puliti al 20% di rumore a soli 4,9 punti percentuali, rispetto ai 43,5 punti del baseline.
Stabilità della Spiegazione: L'analisi qualitativa ha mostrato che, mentre i modelli baseline esibivano attribuzioni di token volatili e inversioni di polarità sotto piccole modifiche del testo, il framework proposto manteneva pattern di attribuzione stabili, facendo affidamento su indicatori semanticamente significativi piuttosto che su fragili indizi superficiali.
Studio sull'Utente: Uno studio pilota con 30 partecipanti utilizzando un prototipo web ha prodotto punteggi elevati per la Chiarezza Decisionale (Media: 4,34/5) e l'Focus Informativo (Media: 4,22/5), indicando che le spiegazioni generate erano percepite come chiare e rilevanti.
Generalizzazione Cross-Domain: Sul dataset CEAS, il framework proposto ha mantenuto un'accuratezza del 95,7% con il 20% di rumore, rispetto al 67,6% del baseline, dimostrando forti capacità di generalizzazione.

Significatività e Rivendicazioni
Gli autori sostengono che questo approccio integrato colmi efficacemente il divario tra l'affidabilità del modello e la fiducia dell'utente. Affrontando simultaneamente la robustezza avversaria e l'interpretabilità, il framework fa progredire la trasparenza del rilevamento del phishing. Il documento sottolinea che il metodo proposto non è meramente uno strumento di rilevamento, ma un sistema di supporto decisionale che migliora la trasparenza, permettendo agli utenti di comprendere la logica dietro gli avvisi di sicurezza. Gli autori notano con moderazione che, sebbene il framework migliori la resilienza alle comuni tattiche di offuscamento, non cattura completamente gli attacchi avversari ottimizzati o la sofisticata parafrasi semantica, e che sono necessari lavori futuri per affrontare queste minacce in evoluzione. Lo studio posiziona rigorosamente le proprie tecniche avversarie come misure difensive per aumentare la resilienza del sistema contro gli attori malevoli.