💻 computer science

An Explainable Agentic RAG Framework for Zero-Shot Phishing and Web Attack Detection

El artículo presenta XAR-Detect, un marco de RAG agéntico explicable que aprovecha un codificador DeBERTa, la recuperación dinámica de firmas de amenazas y el razonamiento autónomo para lograr una detección de alta precisión y de disparo cero (zero-shot) de ataques de phishing y web con justificaciones transparentes, superando significativamente los métodos de vanguardia existentes sin requerir reentrenamiento.

Autores originales: Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Publicado 2026-09-04

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo digital, las amenazas más persistentes suelen llegar disfrazadas de mensajes ordinarios o peticiones rutinarias de sitios web. Los correos electrónicos de phishing, diseñados para robar contraseñas, y los ataques web, que intentan vulnerar servidores, se han vuelto tan sofisticados que pueden imitar la comunicación legítima con un realismo aterrador. Durante décadas, los sistemas de seguridad han dependido de una estrategia de reconocimiento: han sido entrenados con bibliotecas masivas de ejemplos malos conocidos, aprendiendo a detectar las huellas dactilares específicas de crímenes pasados. Sin embargo, este enfoque tiene una debilidad fundamental. Cuando los atacantes inventan un truco nuevo, uno que nunca se ha visto antes, estos sistemas estáticos suelen fallar porque no tienen un punto de referencia para lo desconocido. Para resolver esto, los investigadores están explorando un camino diferente, uno que combina la capacidad de aprender del contexto con el poder de buscar información fresca en tiempo real, de forma muy similar a un guardia de seguridad que no solo conoce los rostros de criminales conocidos, sino que también porta una transmisión en vivo de alertas actuales para identificar a un extraño en la multitud.

Un equipo de investigadores ha desarrollado un nuevo sistema llamado XAR-Detect que intenta cerrar esta brecha entre el entrenamiento estático y la realidad dinámica. En lugar de depender únicamente de un modelo preentrenado que congela su conocimiento en el momento en que termina de aprender, este marco actúa más como un investigador inteligente. Toma un correo electrónico sospechoso o una petición web y primero analiza su contenido para comprender su estructura y significado. Luego, en lugar de hacer una suposición basada solo en lo que ha memorizado, se comunica inmediatamente con una base de datos en vivo de inteligencia de amenazas. Esta base de datos se actualiza constantemente con información de los principales repositorios de seguridad, conteniendo millones de registros sobre enlaces de phishing conocidos, código malicioso y vulnerabilidades recientes. El sistema recupera las advertencias más relevantes de este flujo en vivo y las utiliza para informar su decisión. Si el mensaje entrante comparte características con una amenaza reportada recientemente, el sistema puede marcarlo como peligroso, incluso si el sistema mismo nunca ha sido entrenado explícitamente para ese tipo específico de ataque.

La innovación central reside en cómo el sistema procesa esta información. No simplemente añade los nuevos datos a los antiguos; emplea un agente de razonamiento autónomo que actúa como un pensador crítico. Este agente sopesa la evidencia del mensaje mismo contra la inteligencia fresca que acaba de recuperar. Se pregunta si los patrones coinciden, considera el contexto y luego forma una hipótesis sobre si el mensaje es seguro o malicioso. Este proceso de múltiples pasos permite al sistema adaptarse a nuevas estrategias de ataque sin necesidad de ser reentrenado desde cero. En sus experimentos, los investigadores probaron este enfoque en una variedad de conjuntos de datos del mundo real, incluyendo miles de correos electrónicos de phishing y millones de registros de tráfico web. Encontraron que el sistema podía identificar correctamente ataques conocidos con una precisión de casi el 98 por ciento, un nivel de rendimiento que superó a los métodos existentes por un margen significativo. Más importante aún, cuando fue probado en tipos completamente nuevos de ataques que estaban ocultos de sus datos de entrenamiento, el sistema aún logró detectarlos con una precisión del 88.3 por ciento. Esto sugiere que la capacidad de buscar amenazas actuales en tiempo real proporciona una red de seguridad poderosa contra lo desconocido.

Más allá de simplemente atrapar a los malos actores, a los investigadores les preocupaba el problema de la "caja negra", donde sistemas informáticos complejos toman decisiones que los humanos no pueden entender. En la seguridad de alto nivel, saber por qué un sistema marcó un mensaje es tan importante como la alerta misma. XAR-Detect aborda esto proporcionando una explicación clara de dos capas para cada decisión que toma. Primero, resalta qué características específicas del mensaje —como un enlace extraño o una elección de palabras inusual— contribuyeron más a la sospecha. Segundo, muestra qué piezas de inteligencia de amenazas externas se utilizaron para llegar a la conclusión. Esta transparencia permite a los analistas de seguridad humanos verificar la lógica del sistema, asegurando que la detección se base en evidencia sólida en lugar de una suposición aleatoria. Los investigadores midieron qué tan fiables eran estas explicaciones y las encontraron altamente consistentes, lo que significa que el sistema ofrece una razón estable para sus elecciones incluso cuando la entrada es ligeramente reformulada.

El estudio también reveló los límites de este enfoque. La capacidad del sistema para detectar nuevas amenazas depende enteramente de la calidad y cobertura de la base de datos en vivo que consulta. Si aparece un ataque completamente novedoso que aún no ha sido registrado en ningún repositorio global de amenazas, el sistema no puede buscarlo y su rendimiento puede caer. Los investigadores reconocen que, si bien el sistema es un gran paso adelante, no es un escudo perfecto contra cada posible amenaza futura. Además, debido a que la parte de razonamiento del sistema depende de potentes servicios de computación externos, existen consideraciones prácticas respecto a la velocidad y el costo que deben gestionarse en despliegues del mundo real. A pesar de estas limitaciones, los resultados demuestran un camino viable para la defensa cibernética. Al combinar la comprensión profunda del lenguaje con la capacidad de acceder a la inteligencia en vivo, XAR-Detect ofrece una forma de detectar amenazas que nunca han sido vistas antes, proporcionando una defensa más flexible y transparente para el mundo digital.

Resumen Técnico: Un Marco de RAG Agéntico Explicable para la Detección Zero-Shot de Phishing y Ataques Web

1. Planteamiento del Problema

El phishing y los ataques basados en la web (por ejemplo, inyección SQL, XSS) siguen siendo amenazas críticas para los sistemas industriales y empresariales, con volúmenes de ataque que aumentan significamente y evolucionan rápidamente. Los marcos de detección existentes enfrentan tres limitaciones principales:

Generalización Estática: La mayoría de los modelos supervisados y auto-supervisados dependen de distribuciones de entrenamiento fijas. Una vez entrenados, no pueden generalizar a patrones de ataque no vistos sin un reentrenamiento o ajuste fino (fine-tuning).
Intensidad de Datos: Los modelos de alto rendimiento suelen requerir grandes volúmenes de datos etiquetados manualmente, los cuales son escasos para las amenazas emergentes.
Falta de Transparencia: Muchos métodos adaptativos, como el Aprendizaje por Refuerzo (RL) o los clasificadores de Modelos de Lenguaje Extensos (LLM) independientes, operan como "cajas negras", careciendo de la explicabilidad requerida para el cumplimiento regulatorio (por ejemplo, GDPR, NIS2) y la confianza de los analistas.

Los enfoques actuales suelen abordar solo un aspecto de este desafío (por ejemplo, adaptabilidad sin explicabilidad, o explicabilidad sin capacidad zero-shot). Existe una brecha para un marco unificado que combine la generalización zero-shot, el razonamiento agéntico adaptativo, el anclaje de conocimiento de amenazas en tiempo real y la explicabilidad transparente.

2. Metodología: XAR-Detect

Los autores proponen XAR-Detect (eXplainable Agentic Retrieval-Augmented Detection), un marco diseñado para operar en un entorno de "mundo abierto" donde debe detectar clases de ataque no presentes en sus datos de entrenamiento. El sistema integra cuatro componentes principales:

A. Codificación Contextual

Los datos brutos de correos electrónicos y solicitudes HTTP se procesan utilizando DeBERTa-v3, seleccionado por su mecanismo de atención desentrelazada y codificación de posición relativa. Este codificador genera representaciones contextuales ricas ( $e_i$ ) a partir del texto de entrada, capturando tanto el contenido semántico como los atributos estructurales.

B. Generación Aumentada por Recuperación (RAG)

Para superar las limitaciones de las distribuciones de entrenamiento estáticas, XAR-Detect emplea un módulo RAG. Durante la inferencia, la representación contextual sirve como consulta para recuperar los $K$ mejores firmas de amenazas semánticamente coincidentes de una base de conocimientos en vivo ( $\mathcal{E}$ ). Esta base de conocimientos agrega datos de:

PhishTank (URLs de phishing)
VirusTotal (firmas de malware)
CVE (Common Vulnerabilities and Exposures)

Las firmas recuperadas ( $\mathcal{R}_i$ ) se agregan mediante mecanismos ponderados por atención y se fusionan con la representación del codificador local para crear una entrada aumentada ( $\tilde{x}_i$ ). Esto permite al sistema aprovechar la inteligencia de amenazas externa para ataques excluidos de su conjunto de entrenamiento.

C. Razonamiento Agéntico

A diferencia de los canales RAG estándar que concatenan contexto de forma pasiva, XAR-Detect utiliza un agente de razonamiento basado en LLM autónomo (específicamente GPT-4o) para procesar la evidencia aumentada. El agente realiza un proceso de inferencia estructurado de múltiples pasos:

Evaluación de Evidencia: Evalúa la consistencia entre las características locales y las firmas de amenazas recuperadas.
Formación de Hipótesis: Genera etiquetas candidatas (Benigno, Phishing, Ataque Web) con estimaciones de confianza.
Consolidación de Decisiones: Resuelve hipótesis en competencia para producir una predicción final.

Este proceso iterativo permite al modelo refinar su decisión basándose en la evidencia recuperada sin requerir los ciclos de entrenamiento de política asociados con el Aprendizaje por Refuerzo.

D. Explicabilidad de Doble Capa

Para garantizar la transparencia, el marco proporciona dos capas de explicación:

Atribución Global: Utiliza SHAP (SHapley Additive exPlanations) para determinar la contribución marginal de características específicas y dimensiones de amenazas recuperadas a la predicción a través de la población.
Atribución a Nivel de Instancia: Agrega mapas de atención a nivel de token a través de las capas y cabezales del codificador para proporcionar justificaciones específicas de cada caso, resaltando exactamente qué partes de la entrada y de la evidencia recuperada influyeron en la decisión.

3. Contribuciones Clave

El artículo describe cinco contribuciones primarias:

Marco Unificado: La propuesta de XAR-Detect, que integra el razonamiento basado en LLM, la recuperación dinámica de inteligencia de amenazas y la explicabilidad de doble capa tanto para la detección de phishing como de ataques web.
Mecanismo Zero-Shot: Una arquitectura aumentada por RAG que permite la detección de variantes de ataque no vistas previamente sin necesidad de reentrenamiento o ajuste fino.
Agente de Razonamiento Autónomo: Un agente que sintetiza las representaciones de características locales con la evidencia recuperada mediante inferencia de múltiples pasos, extendiendo el paradigma de RAG agéntico hacia la detección unificada de amenazas.
Transparencia de Doble Capa: La implementación de análisis SHAP global combinado con la atribución de atención a nivel de instancia para proporcionar interpretabilidad tanto a nivel de modelo como de caso específico.
Validación Empírica: Evaluación exhaustiva que demuestra un rendimiento superior sobre las líneas base de vanguardia en escenarios equilibrados, desequilibrados y zero-shot.

4. Resultados Experimentales

El marco fue evaluado en tres corpora de phishing (Nazario, Enron, Subhadeep) y en el benchmark de ataques web SR-BH.

Rendimiento General (Equilibrado): XAR-Detect logró un F1-score del 97.8% y una Tasa de Falsos Positivos (FPR) del 2.1%. Esto superó a la mejor línea base auto-supervisada (SSL Ensemble) por 2.4 puntos porcentuales en F1 y redujo el FPR en 2.7 puntos.
Robustez (Desequilibrado): Bajo una distribución realista donde los ataques comprendían aproximadamente el 15% de los datos, XAR-Detect mantuvo un F1 de 96.2% con un FPR de 3.8%, mostrando una degradación de rendimiento significativamente menor que las líneas base.
Generalización Zero-Shot: Al ser probado en clases de ataque completamente excluidas del entrenamiento, XAR-Detect alcanzó un F1 de 88.3%. Esto superó al SSL Ensemble por 34.2 puntos porcentuales y a CyberRAG por 14.1 puntos, demostrando la eficacia del razonamiento aumentado por recuperación para amenazas no vistas.
Estudios de Ablación: Eliminar el módulo RAG redujo el F1 en 1.7 puntos; eliminar el agente lo redujo en 2.1 puntos. La combinación de ambos produjo una ganancia de 3.0 puntos sobre la línea base de solo codificador, confirmando su naturaleza complementaria.
Métricas de Explicabilidad: El marco demostró una alta fidelidad de explicación (0.847) y estabilidad (0.913) en comparación con las líneas base post-hoc.

5. Significación y Reivindicaciones

El artículo afirma que XAR-Detect ofrece un camino práctico, interpretable y eficiente en etiquetas hacia la detección inteligente de amenazas cibernéticas. Su importancia radica en abordar la limitación de "mundo cerrado" de los modelos tradicionales al fundamentar las decisiones en inteligencia de amenazas externa en vivo en lugar de distribuciones de entrenamiento congeladas.

Los autores enfatizan que el marco está listo para entornos federados, ya que el módulo de razonamiento opera sobre representaciones codificadas e inteligencia pública, lo que permite el despliegue distribuido en organizaciones con sensibilidad a la privacidad. Sin embargo, el artículo mantiene una postura modesta respecto a las limitaciones:

Dependencia de Cobertura: El rendimiento zero-shot está limitado por la densidad de cobertura ( $\rho$ ) de la base de conocimientos externa; las familias de ataques completamente nuevas sin firmas similares en el repositorio aún podrían resultar en altas tasas de error.
Restricciones Operativas: La dependencia de GPT-4o introduce dependencia de API, latencia de inferencia y posibles costos, lo que podría restringir el despliegue en tiempo real de alto rendimiento.
Validación del Analista: Aunque las métricas técnicas de fidelidad de la explicación son sólidas, el artículo señala que la utilidad práctica de estas explicaciones para los analistas de seguridad (por ejemplo, reducir el tiempo de triaje) aún no ha sido validada mediante estudios con sujetos humanos.

En conclusión, XAR-Detect representa un cambio de la detección estática y de uso intensivo de datos hacia sistemas adaptativos, anclados en el conocimiento y transparentes, capaces de manejar el panorama evolutivo de las amenazas cibernéticas.