🤖 AI

A Robust and Explainable Transformer-Based Framework for Phishing Email Detection

Este artículo propone un marco de detección de correos electrónicos de phishing robusto y explicable que combina el entrenamiento adversarial en un modelo DistilBERT con métodos integrados de XAI y un generador Flan-T5 para producir explicaciones precisas, resilientes, transparentes y basadas en evidencia.

Autores originales: Sajad U P

Publicado 2026-06-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sajad U P

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que la bandeja de entrada de tu correo electrónico es un aeropuerto concurrido, y cada mensaje es un pasajero intentando abordar un vuelo. La mayoría de los pasajeros son lugareños amigables (correos legítimos), pero algunos son impostores disfrazados, intentando colarse para robar tu equipaje (correos de phishing).

Durante años, los guardias de seguridad en este aeropuerto (los filtros de spam tradicionales) usaban una lista de verificación sencilla: "Si el pasajero dice 'dinero gratis', deténlo". Pero los impostores se volvieron inteligentes. Empezaron a cambiar de ropa, a cambiar letras en sus nombres (como escribir "G00gle" en lugar de "Google"), o a susurrar sus mentiras de una manera que sonaba normal. Los viejos guardias no podían notar la diferencia.

Este artículo presenta un nuevo sistema de seguridad superinteligente construido sobre tres ideas principales: un guardia más inteligente, un campo de entrenamiento más duro y un guía amable para explicar la decisión.

1. El Guardia Más Inteligente: DistilBERT

El artículo utiliza un modelo llamado DistilBERT. Piensa en esto como un guardia de seguridad altamente educado que ha leído millones de libros y comprende el contexto de una oración, no solo las palabras.

El Problema: Aunque este guardia es muy inteligente, también es un poco una "caja negra". No puedes preguntarle por qué detuvo a alguien; simplemente dice: "No". Además, si un impostor cambia solo una letra en su nombre, el guardia podría confundirse y dejarlo pasar.
La Solución: Los investigadores mantuvieron a este guardia inteligente, pero le dieron un régimen de entrenamiento especial para hacerlo más resistente y transparente.

2. El Campo de Entrenamiento Más Duro: Entrenamiento Adversario

Para hacer al guardia inquebrantable, los investigadores lo sometieron a un "campo de entrenamiento" diseñado para romperlo, de modo que pueda aprender a sobrevivir.

El Simulacro "FGM" (Nivel de Embedding): Imagina que el guardia está aprendiendo a reconocer un rostro. Los entrenadores toman la imagen mental que el guardia tiene de un rostro y la difuminan o distorsionan ligeramente (matemáticamente) para ver si el guardia todavía reconoce a la persona. Esto se llama FGM. Enseña al guardia a concentrarse en la esencia de la persona, no solo en la iluminación perfecta.
El Simulacro de "Ruido de Caracteres" (Nivel de Superficie): Luego, toman el texto real de los correos electrónicos y comienzan a alterarlo. Cambian una "o" por un "0", eliminan una letra o añaden un carácter aleatorio. Esto simula los trucos del mundo real que usan los estafadores.
El Resultado: Al entrenar con estos correos "rotos" y "distorsionados", el guardia aprende a ignorar el ruido. Incluso si un estafador escribe "Acc0unt" en lugar de "Account", el guardia sabe que sigue siendo una cuenta sospechosa. El artículo muestra que mientras la precisión de un guardia normal cae del 98% al 54% cuando se enfrenta a estos trucos, este guardia entrenado se mantiene fuerte con un 93%.

3. El Guía Amable: IA Explicable (XAI)

Incluso si el guardia es perfecto, necesitas saber por qué detuvo a alguien. Si un guardia solo grita "¡Deténgase!" sin una razón, podrías enojarte o confundirte.

El Problema: Usualmente, los modelos de IA solo dan una respuesta de "Sí/No".
La Solución: Los investigadores añadieron un "Guía Amable" (usando una herramienta llamada Flan-T5).
- Primero, el sistema utiliza tres diferentes "herramientas de detective" (llamadas LIME, SHAP e IG) para resaltar exactamente qué palabras hicieron que el guardia sospechara. ¿Dijo el correo electrónico "Urgente"? ¿Te pide tu contraseña?
- Luego, el Guía Amable toma esas palabras resaltadas y escribe una oración sencilla en lenguaje común para ti.
- Ejemplo: En lugar de un código confuso, el sistema te dice: "Este correo fue marcado como una estafa porque utiliza un lenguaje urgente como 'acción inmediata' y te pide que hagas clic en un enlace para restablecer tu contraseña".

Cómo Funciona Todo Junto

El artículo describe un proceso que se ve así:

Entrada: Llega un correo electrónico.
El Guardia: El modelo DistilBERT lo lee. Debido a su entrenamiento especial, no es engañado por errores tipográficos o símbolos extraños.
Los Detectives: Si el guardia sospecha, las herramientas de detective (LIME, SHAP, IG) señalan las palabras específicas que activaron la alarma.
El Guía: El Guía Amable traduce esos puntos técnicos en una historia corta y legible para humanos explicando el riesgo.

Lo que el Artículo Encontró

Es más Resistente: El nuevo sistema no solo fue mejor detectando estafas; fue mucho mejor detectando estafas tramposas que intentan esconderse cambiando letras.
Es más Claro: Cuando el sistema comete un error (como marcar un correo urgente real como una estafa), la explicación te ayuda a entender por qué sucedió (por ejemplo, "Pensó que la palabra 'urgente' era una táctica de estafa"). Esto ayuda a que los usuarios confíen más en el sistema.
Es Rápido: Debido a que utilizaron "DistilBERT" (una versión más ligera y rápida de los grandes modelos de IA), este sistema puede ejecutarse rápidamente sin necesidad de una supercomputadora.

La Conclusión

Este artículo presenta un sistema de seguridad que es más fuerte contra los trucos, más rápido de ejecutar y honesto sobre su razonamiento. Cierra la brecha entre un cerebro de computadora potente y un usuario humano que solo quiere saber: "¿Es seguro este correo electrónico?" sin necesidad de tener un título en ciencias de la computación.

Resumen Técnico: Un Marco Basado en Transformers Robusto y Explicable para la Detección de Correos Electrónicos de Phishing

Planteamiento del Problema
Los ataques de phishing siguen siendo una amenaza cibernética persistente y sofisticada, que aprovecha cada vez más la IA para imitar fuentes confiables y explotar las vulnerabilidades humanas. Si bien los modelos basados en Transformers (por ejemplo, BERT, DistilBERT) han demostrado un rendimiento superior al capturar patrones lingüísticos contextuales para la detección de phishing, sufren dos limitaciones críticas: una falta de interpretabilidad (operando como "cajas negras") y vulnerabilidad a perturbaciones adversarias. Los ataques adversarios recientes, incluyendo modificaciones menores a nivel de caracteres y manipulaciones a nivel de embeddings, pueden eludir fácilmente los mecanismos de detección estándar. Además, la investigación existente suele abordar la robustez y la explicabilidad de forma aislada, dejando un vacío entre la fiabilidad del modelo y la confianza del usuario.

Metodología
El artículo propone un marco unificado, ligero y de extremo a extremo centrado en DistilBERT (una variante destilada y eficiente de BERT) para abordar estos desafíos a través de tres componentes integrados:

Entrenamiento de Robustez Híbrida:
Para mejorar la resiliencia tanto ante ataques a nivel de embedding como a nivel de superficie, los autores emplean un enfoque de entrenamiento de doble estrategia:
- Entrenamiento Adversario a Nivel de Embedding: Utilizando el Método de Gradiente Rápido (FGM), el modelo es entrenado con perturbaciones basadas en gradientes aplicadas directamente a los embeddings de los tokens. Esto suaviza la frontera de decisión en el espacio continuo de los embeddings.
- Aumento de Ruido a Nivel de Carácter: Se aplican perturbaciones estocásticas (inserción, eliminación y sustitución de caracteres, incluyendo reemplazos visualmente similares como 'o'→'0') al 30% de las muestras de entrenamiento antes de la tokenización. Esto simula tácticas de evasión del mundo real y obliga al modelo a aprender representaciones contextuales y de subpalabras robustas.
- Optimización: El modelo minimiza una función de pérdida compuesta ( $L_{total} = L_{clean} + \lambda L_{adv}$ ) donde $\lambda=0.5$ , equilibrando la precisión de clasificación estándar con la resiliencia adversaria.
Integración de IA Explicable (XAI):
Para mejorar la transparencia, el marco integra tres métodos de atribución local: LIME (Explicaciones de Modelo Agnósticas Localmente Interpretables), SHAP (Explicaciones Aditivas de Shapley) e IG (Gradientes Integrados). Estos métodos cuantifican la importancia de tokens específicos en el proceso de toma de decisiones del modelo. El estudio realiza una evaluación comparativa de estos métodos bajo perturbaciones de entrada para evaluar la estabilidad de la explicación.
Generación de Explicaciones en Lenguaje Natural:
Para cerrar la brecha entre las atribuciones técnicas de características y la comprensión del usuario, el marco utiliza Flan-T5-Small, un Transformer de secuencia a secuencia ligero y ajustado por instrucciones. Los tokens más influyentes derivados de LIME, sus puntuaciones de atribución y la confianza de la predicción del modelo se formatean en prompts estructurados basados en reglas. Flan-T5-Small genera entonces narrativas concisas, en lenguaje sencillo y basadas en evidencia, que explican por qué un correo electrónico fue marcado como phishing o legítimo.

Contribuciones Clave
El artículo describe cuatro contribuciones principales:

Robustez Híbrida Mejorada: Demuestra que la combinación del entrenamiento de embeddings basado en FGM con el aumento de ruido a nivel de carácter mejora significamente la resiliencia de DistilBERT ante ataques de perturbación de caracteres, ofreciendo una alternativa computacionalmente eficiente a las defensas adversarias de múltiples pasos.
Evaluación Comparativa de XAI: Proporciona una comparación sistemática de LIME, SHAP e IG bajo distorsiones de entrada realistas, cuantificando la interpretabilidad y la robustez cualitativa de los métodos de atribución.
aciones Basadas en Evidencia: Establece una capa que convierte las atribuciones técnicas de características en narrativas legibles por humanos utilizando Flan-T5-Small, fundamentando directamente las explicaciones en la evidencia del modelo en lugar de alertas estáticas.
Marco de Extremo a Extremo: Unifica el entrenamiento robusto, la XAI y la racionalización en lenguaje natural en un pipeline desplegable que aborda el compromiso entre la robustez del modelo y la confianza del usuario.

Resultados Experimentales
El marco fue evaluado en un conjunto de datos público de correos electrónicos de phishing (aprox. 18,650 muestras) y validado en un conjunto de datos de dominio cruzado (subconjunto CEAS 08).

Robustez: Bajo un aumento de ruido a nivel de carácter (hasta un 20% de corrupción), el marco propuesto mantuvo una precisión del 93.2%, una mejora drástica sobre el DistilBERT base, que cayó al 54.5%. El enfoque híbrico redujo la caída de precisión de datos limpios a un 20% de ruido a solo 4.9 puntos porcentuales, en comparación con los 43.5 puntos del modelo base.
Estabilidad de la Explicación: El análisis cualitativo mostró que, mientras los modelos base exhibían atribuciones de tokens volátiles y reversiones de polaridad bajo modificaciones menores de texto, el marco propuesto mantuvo patrones de atribución estables, basándose en indicadores semánticamente significativos en lugar de claves superficiales frágiles.
Estudio de Usuario: Un estudio piloto con 30 participantes utilizando un prototipo basado en la web arrojó puntuaciones altas para la Claridad de la Decisión (Media: 4.34/5) y el Enfoque de la Información (Media: 4.22/5), indicando que las explicaciones generadas fueron percibidas como claras y relevantes.
Generalización de Dominio Cruzado: En el conjunto de datos CEAS, el marco propuesto mantuvo una precisión del 95.7% con un 20% de ruido, en comparación con el 67.6% del modelo base, demostando fuertes capacidades de generalización.

Significancia y Reivindicaciones
Los autores afirman que este enfoque integrado cierra eficazmente la brecha entre la fiabilidad del modelo y la confianza del usuario. Al abordar simultáneamente la robustez adversaria y la interpretabilidad, el marco hace avanzar el estado de la detección de phishing transparente. El artículo enfatiza que el método propuesto no es meramente una herramienta de detección, sino un sistema de apoyo a la decisión que mejora la transparencia, permitiendo a los usuarios comprender la lógica detrás de las alertas de seguridad. Los autores señalan modestamente que, si bien el marco mejora la resiliencia ante tácticas de ofuscación comunes, no captura totalmente los ataques adversarios optimizados o el parafraseo semántico sofisticado, y que es necesario trabajo futuro para abordar estas amenazas evolutivas. El estudio posiciona estrictamente sus técnicas adversarias como medidas defensivas para mejorar la resiliencia del sistema ante actores maliciosos.