💻 computer science

An Explainable Agentic RAG Framework for Zero-Shot Phishing and Web Attack Detection

O artigo apresenta o XAR-Detect, um framework de RAG agêntico explicável que aproveita um codificador DeBERTa, recuperação dinâmica de assinaturas de ameaças e raciocínio autônomo para alcançar a detecção de alta precisão e zero-shot de ataques de phishing e web com justificativas transparentes, superando significativamente os métodos de estado da arte existentes sem exigir retreinamento.

Autores originais: Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Publicado 2026-09-04

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo digital, as ameaças mais persistentes chegam frequentemente disfarçadas de mensagens comuns ou solicitações rotineiras de sites. E-mails de phishing, projetados para roubar senhas, e ataques web, que tentam invadir servidores, tornaram-se tão sofisticados que podem imitar comunicações legítimas com um realismo assustador. Por décadas, os sistemas de segurança basearam-se em uma estratégia de reconhecimento: eles são treinados em bibliotecas massivas de exemplos ruins conhecidos, aprendendo a identificar as impressões digitais específicas de crimes passados. No entanto, essa abordagem possui uma fraqueza fundamental. Quando os atacantes inventam um novo truque, um que nunca foi visto antes, esses sistemas estáticos frequentemente falham porque não possuem um ponto de referência para o desconhecido. Para resolver isso, pesquisadores estão explorando um caminho diferente, um que combina a capacidade de aprender com o contexto e o poder de buscar informações novas em tempo real, de forma muito semelhante a um segurança que não apenas conhece os rostos de criminosos conhecidos, mas também carrega um feed ao vivo de alertas atuais para identificar um estranho na multidão.

Uma equipe de pesquisadores desenvolveu um novo sistema chamado XAR-Detect, que tenta preencher essa lacuna entre o treinamento estático e a realidade dinâmica. Em vez de depender apenas de um modelo pré-treinado que congela seu conhecimento no momento em que termina de aprender, este framework atua mais como um investigador inteligente. Ele recebe um e-mail suspeito ou uma solicitação web e primeiro analisa seu conteúdo para compreender sua estrutura e significado. Em seguida, em vez de fazer um palpite baseado apenas no que memorizou, ele recorre imediatamente a um banco de dados ao vivo de inteligência de ameaças globais. Este banco de dados é constantemente atualizado com informações de grandes repositórios de segurança, contendo milhões de registros sobre links de phishing conhecidos, código malicioso e vulnerabilidades recentes. O sistema recupera os avisos mais relevantes deste feed ao vivo e os utiliza para informar sua decisão. Se a mensagem recebida compartilha características com uma ameaça recém-reportada, o sistema pode sinalizá-la como perigosa, mesmo que o próprio sistema nunca tenha sido explicitamente treinado para esse tipo específico de ataque.

A inovação central reside em como o sistema processa essa informação. Ele não simplesmente adiciona os novos dados aos antigos; ele emprega um agente de raciocínio autônomo que atua como um pensador crítico. Este agente pondera as evidências da própria mensagem contra a inteligência fresca que acabou de recuperar. Ele questiona a si mesmo se os padrões coincidem, considera o contexto e, então, forma uma hipótesia sobre se a mensagem é segura ou maliciosa. Este processo de múltiplas etapas permite que o sistema se adapte a novas estratégias de ataque sem a necessidade de ser retreinado do zero. Em seus experimentos, os pesquisadores testaram essa abordagem em uma variedade de conjuntos de dados do mundo real, incluindo milhares de e-mails de phishing e milhões de registros de tráfego web. Eles descobriram que o sistema conseguia identificar ataques conhecidos com uma precisão de quase 98 por cento, um nível de desempenho que superou os métodos existentes por uma margem significativa. Mais importante ainda, quando testado em tipos completamente novos de ataques que estavam ocultos de seus dados de treinamento, o sistema ainda conseguiu detectá-los com uma precisão de 88,3 por cento. Isso sugere que a capacidade de buscar ameaças atuais em tempo real fornece uma rede de segurança poderosa contra o desconhecido.

Além de apenas capturar maus atores, os pesquisadores estavam preocupados com o problema da "caixa preta", onde sistemas de computador complexos tomam decisões que os humanos não conseguem compreender. Em segurança de alto risco, saber por que um sistema sinalizou uma mensagem é tão importante quanto a própria sinalização. O XAR-Detect aborda isso fornecendo uma explicação clara de duas camadas para cada decisão que toma. Primeiro, ele destaca quais características específicas da mensagem — como um link estranho ou uma escolha de palavras incomum — mais contribuíram para a suspeita. Segundo, ele mostra quais partes da inteligência de ameaças externa foram usadas para chegar à conclusão. Essa transparência permite que analistas de segurança humanos verifiquem a lógica do sistema, garantindo que a detecção seja baseada em evidências sólidas e não em um palpite aleatório. Os pesquisadores mediram o quão confiáveis essas explicações eram e as consideraram altamente consistentes, o que significa que o sistema fornece uma razão estável para suas escolações mesmo quando a entrada é levemente reformulada.

O estudo também revelou os limites desta abordagem. A capacidade do sistema de detectar novas ameaças depende inteiramente da qualidade e da cobertura do banco de dados ao vivo que ele consulta. Se um ataque completamente novo aparecer e ainda não tiver sido registrado em nenhum repositório de ameaças globais, o sistema não poderá buscá-lo, e seu desempenho poderá cair. Os pesquisadores reconhecem que, embora o sistema seja um grande passo à frente, ele não é um escudo perfeito contra todas as possíveis ameaças futuras. Além disso, como a parte de raciocínio do sistema depende de serviços de computação externos poderosos, existem considerações práticas relativas à velocidade e ao custo que devem ser gerenciadas em implementações no mundo real. Apesar dessas restrições, os resultados demonstram um caminho viável para a defesa cibernética. Ao combinar a compreensão profunda da linguagem com a capacidade de acessar inteligência ao vivo, o XAR-Detect oferece uma maneira de detectar ameaças que nunca foram vistas antes, proporcionando uma defesa mais flexível e transparente para o mundo digital.

Resumo Técnico: Um Framework de RAG Agêntico Explicável para Detecção Zero-Shot de Phishing e Ataques Web

1. Declaração do Problema

Phishing e ataques baseados na web (ex: injeção de SQL, XSS) continuam sendo ameaças críticas para sistemas industriais e empresariais, com volumes de ataques aumentando significamente e evoluindo rapidamente. Os frameworks de detecção existentes enfrentam três limitações primárias:

Generalização Estática: A maioria dos modelos supervisionados e autossupervisionados depende de distribuições de treinamento fixas. Uma vez treinados, eles não conseguem generalizar para padrões de ataque não vistos sem retreinamento ou ajuste fino (fine-tuning).
Intensidade de Dados: Modelos de alto desempenho frequentemente exigem grandes volumes de dados rotulados manualmente, que são escassos para ameaças emergentes.
Falta de Transparência: Muitos métodos adaptativos, como Aprendizado por Reforço (RL) ou classificadores de Grandes Modelos de Linguagem (LLMs) independentes, operam como "caixas pretas", carecendo da explicabilidade necessária para conformidade regulatória (ex: GDPR, NIS2) e confiança do analista.

Abordagens atuais tipicamente abordam apenas um aspecto deste desafio (ex: adaptabilidade sem explicabilidade, ou explicabilidade sem capacidade zero-shot). Existe uma lacuna para um framework unificado que combine generalização zero-shot, raciocínio agêntico adaptativo, fundamentação em conhecimento de ameaças em tempo real e explicabilidade transparente.

2. Metodologia: XAR-Detect

Os autores propõem o XAR-Detect (eXplainable Agentic Retrieval-Augmented Detection), um framework projetado para operar em um ambiente de "mundo aberto" onde deve detectar classes de ataque não presentes em seus dados de treinamento. O sistema integra quatro componentes principais:

A. Codificação Contextual

Dados brutos de e-mail e requisições HTTP são processados usando DeBERTa-v3, selecionado por seu mecanismo de atenção desvinculada e codificação de posição relativa. Este codificador gera representações contextuais ricas ( $e_i$ ) a partir do texto de entrada, capturando tanto o conteúdo semântico quanto atributos estruturais.

B. Geração Aumentada por Recuperação (RAG)

Para superar as limitações das distribuições de treinamento estáticas, o XAR-Detect emprega um módulo RAG. No momento da inferência, a representação contextual serve como uma consulta para recuperar os top- $K$ assinaturas de ameaças semanticamente correspondentes de uma base de conhecimento viva ( $\mathcal{E}$ ). Esta base de conhecimento agrega dados de:

PhishTank (URLs de phishing)
VirusTotal (assinaturas de malware)
CVE (Common Vulnerabilities and Exposures)

As assinaturas recuperadas ( $\mathcal{R}_i$ ) são agregadas via mecanismos ponderados por atenção e fundidas com a representação do codificador local para criar uma entrada aumentada ( $\tilde{x}_i$ ). Isso permite que o sistema aproveite a inteligência de ameaças externa para ataques excluídos de seu conjunto de treinamento.

C. Raciocínio Agêntico

Ao contrário dos pipelines RAG padrão que concatenam contexto passivamente, o XAR-Detect utiliza um agente de raciocínio baseado em LLM autônomo (especificamente o GPT-4o) para processar a evidência aumentada. O agente realiza um processo de inferência estruturado de múltiplos passos:

Avaliação de Evidência: Avalia a consistência entre as características locais e as assinaturas de ameaças recuperadas.
Formação de Hipótese: Gera rótulos candidatos (Benigno, Phishing, Ataque Web) com estimativas de confiança.
Consolidação de Decisão: Resolve hipóteses conflitantes para produzir uma previsão final.

Este processo iterativo permite que o modelo refine sua decisão com base na evidência recuperada sem exigir os ciclos de treinamento de política associados ao Aprendizado por Reforço.

D. Explicabilidade de Duas Camadas

Para garantir a transparência, o framework fornece dois níveis de explicação:

Atribuição Global: Utiliza SHAP (SHapley Additive exPlanations) para determinar a contribuição marginal de características específicas e dimensões de ameaças recuperadas para a predição em toda a população.
Atribuição ao Nível de Instância: Agrega mapas de atenção ao nível de token através de camadas e cabeças do codificador para fornecer justificativas específicas de cada caso, destacando exatamente quais partes da entrada e da evidência recuperada influenciaram a decisão.

3. Principais Contribuições

O artigo delineia cinco contribuições primárias:

Framework Unificado: A proposta do XAR-Detect, que integra raciocínio baseado em LLM, recuperação dinâmica de inteligência de ameaças e explicabilidade de duas camadas para detecção de phishing e ataques web.
Mecanismo Zero-Shot: Uma arquitetura aumentada por RAG que permite a detecção de variantes de ataques anteriormente não vistos sem necessidade de retreinamento ou ajuste fino.
Agente de Raciocínio Autônomo: Um agente que sintetiza representações de características locais com evidências recuperadas através de inferência de múltiplos passos, estendendo o paradigma RAG agêntico para detecção unificada de ameaças.
Transparência de Duas Camadas: A implementação de análise SHAP global combinada com atribuição de atenção ao nível de instância para fornecer interpretabilidade tanto para o modelo quanto para casos específicos.
Validação Empírica: Avaliação abrangente demonstrando desempenho superior sobre baselines de estado da arte em cenários equilibrados, desbalanceados e zero-shot.

4. Resultados Experimentais

O framework foi avaliado em três corpora de phishing (Nazario, Enron, Subhadeep) e no benchmark de ataques web SR-BH.

Desempenho Geral (Equilibrado): O XAR-Detect alcançou um F1-score de 97,8% e uma Taxa de Falso Positivo (FPR) de 2,1%. Superou o melhor baseline autossupervisionado (SSL Ensemble) em 2,4 pontos percentuais em F1 e reduziu o FPR em 2,7 pontos.
Robustez (Desbalanceado): Sob uma distribuição realista onde os ataques compunham ~15% dos dados, o XAR-Detect manteve um F1 de 96,2% com um FPR de 3,8%, mostrando uma degradação de desempenho significativamente menor que os baselines.
Generalização Zero-Shot: Quando testado em classes de ataque inteiramente excluídas do treinamento, o XAR-Detect alcançou um F1 de 88,3%. Isso excedeu o SSL Ensemble em 34,2 pontos percentuais e o CyberRAG em 14,1 pontos, demonstrando a eficácia do raciocínio aumentado por recuperação para ameaças não vistas.
Estudos de Ablação: Remover o módulo RAG reduziu o F1 em 1,7 pontos; remover o agente reduziu-o em 2,1 pontos. A combinação de ambos gerou um ganho de 3,0 pontos sobre o baseline de apenas codificador, confirmando sua natureza complementar.
Métricas de Explicabilidade: O framework demonstrou alta fidelidade de explicação (0,847) e estabilidade (0,913) em comparação com baselines post-hoc.

5. Significância e Alegações

O artigo alega que o XAR-Detect oferece um caminho prático, interpretável e eficiente em termos de rótulos para a detecção inteligente de ameaças cibernéticas. Sua significância reside em abordar a limitação de "mundo fechado" dos modelos tradicionais, fundamentando decisões em inteligência de ameaças externa ao vivo, em vez de distribuições de treinamento congeladas.

Os autores enfatizam que o framework está pronto para federação, pois o módulo de raciocínio opera em representações codificadas e inteligência pública, suportando implantação distribuída em organizações sensíveis à privacidade. No entanto, o artigo mantém uma postura modesta quanto às limitações:

Dependência de Cobertura: O desempenho zero-shot é limitado pela densidade de cobertura ( $\rho$ ) da base de conhecimento externa; famílias de ataques inteiramente novas sem assinaturas similares no repositório ainda podem resultar em altas taxas de erro.
Restrições Operacionais: A dependência do GPT-4o introduz dependência de API, latência de inferência e potenciais custos, o que pode restringir a implantação de alto throughput em tempo real.
Validação por Analistas: Embora as métricas técnicas de fidelidade de explicação sejam fortes, o artigo observa que a utilidade prática dessas explicações para analistas de segurança (ex: redução do tempo de triagem) ainda não foi validada através de estudos com seres humanos.

Em conclusão, o XAR-Detect representa uma mudança da detecção estática e intensiva em dados para sistemas adaptáveis, fundamentados em conhecimento e transparentes, capazes de lidar com o cenário em evolução das ameaças cibernéticas.