The Phish, The Spam, and The Valid: Generating Feature-Rich Emails for Benchmarking LLMs

1. Problema e Contexto

O artigo aborda a crescente ameaça de e-mails de phishing e spam gerados por Inteligência Artificial, especificamente por Grandes Modelos de Linguagem (LLMs). Os sistemas de detecção tradicionais, baseados em heurísticas de regras e características estáticas (como palavras-chave ou reputação do remetente), estão se tornando ineficazes contra mensagens reescritas por LLMs, que são linguisticamente polidas e convincentes.

Além disso, o estudo identifica lacunas críticas nos conjuntos de dados (datasets) existentes:

• Obsolescência: Muitos datasets públicos são antigos (pré-2010) e não refletem a sofisticação linguística moderna.
• Falta de Granularidade: Eles frequentemente carecem de metadados estruturais completos (URLs completas, nomes de anexos) e não possuem anotações sobre a intenção do atacante.
• Classificação Insuficiente: A maioria dos datasets não separa claramente entre Phishing, Spam e E-mails Válidos, ou trata essas classes de forma ambígua.

2. Metodologia: Framework PhishFuzzer

Os autores desenvolveram o PhishFuzzer, um framework de geração de e-mails enriquecidos com metadados. O processo segue quatro etapas principais:

• Criação do Dataset Semente (Seed):
  • Combinação de 300 e-mails privados (curados manualmente e anonimizados) e 3.000 e-mails públicos.
  • Os e-mails foram anotados com assunto, corpo, remetente, URLs extraídas e nomes de anexos.
• Benchmarking de Intenção e Augmentation (Ricocheteamento de Rótulos):
  • LLMs foram testados para identificar a intenção do atacante (ex: "clicar em link", "abrir anexo") e preencher metadados faltantes em e-mails legados.
  • O modelo Gemini-2.5-Flash foi selecionado como o mais confiável para gerar URLs e nomes de arquivos contextualmente plausíveis, minimizando alucinações.
• Enriquecimento de Rótulos:
  • O modelo escolhido preencheu campos de intenção, URL e anexo para todos os 3.000 e-mails públicos, criando um conjunto de sementes estruturalmente consistente de 3.300 e-mails.
• Expansão do Dataset (Geração de Variantes):
  • Cada e-mail semente serviu como template para gerar 6 variantes sintéticas, totalizando 19.800 variantes.
  • As variantes foram criadas variando duas dimensões ortogonais:
    1. Entidade: Entidades globais reconhecidas vs. empresas fabricadas (mas realistas).
    2. Comprimento: Curto, Médio e Longo.
  • O resultado final é um dataset de 23.100 e-mails (3.300 reais + 19.800 sintéticos) com rótulos estritos de três classes (Phishing, Spam, Valid) e metadados completos.

3. Principais Contribuições

1. PhishFuzzer Dataset: O primeiro dataset open-source de três classes com 23.100 e-mails, incluindo rastreamento de proveniência, metadados estruturais completos (URLs, anexos) e anotações de intenção do atacante.
2. Pipeline de Geração: Um método que usa e-mails reais como sementes para produzir variantes sintéticas que mantêm a consistência estrutural e a intenção original, mas com variações linguísticas e de entidade.
3. Benchmarks Rigorosos de LLMs: Avaliação de dois modelos de ponta (Qwen-2.5-72B e Gemini-3.1-Pro) em configurações "Básica" (apenas corpo/assunto) e "Completa" (com metadados).
4. Novas Métricas de Avaliação: Introdução de métricas como Task Success Rate (TSR), Confidence Index (Conf@K) e Total Flip Score (TFS@K) para medir a confiabilidade do modelo e identificar "pontos cegos" sistemáticos onde o modelo falha consistentemente em todas as variantes de um template.

4. Resultados Principais

A avaliação revelou insights cruciais sobre o comportamento dos LLMs na segurança de e-mails:

• Impacto dos Metadados:
  • A inclusão de metadados (URLs, remetente, anexos) melhorou significativamente a detecção de Phishing para ambos os modelos (o F1 do Phishing do Gemini subiu de 0,939 para 0,958).
  • Trade-off Crítico: Embora os metadados ajudem a identificar Phishing, eles degradaram severamente a detecção de Spam. Ambos os modelos passaram a classificar erroneamente e-mails de Spam como "Válidos" com mais frequência quando os metadados estavam presentes.
• Desempenho dos Modelos:
  • Gemini-3.1-Pro: Demonstrou maior robustez e consistência semântica, mantendo desempenho estável em dados não vistos e variantes reescritas. Foi mais "paranoico", cometendo mais falsos positivos em e-mails válidos (classificando-os como Phishing) na configuração básica, mas corrigiu isso com metadados.
  • Qwen-2.5-72B: Mostrou sinais de contaminação de dados, com queda de desempenho em e-mails privados não vistos (2026) em comparação com dados públicos. Foi mais suscetível a "fuzzing" linguístico (variações de texto), perdendo precisão nas variantes.
• Dificuldade na Fronteira Spam vs. Valid: Ambos os modelos lutaram para distinguir a fronteira subjetiva entre Spam e e-mails válidos (ex: promoções, newsletters), resultando em baixas pontuações F1 para a classe Spam (≤ 0,428).
• Pontos Cegos Sistemáticos: A métrica TFS@K identificou templates específicos onde os modelos falharam consistentemente em todas as 7 variações, revelando vulnerabilidades estruturais e, em alguns casos, erros de rotulagem humana em datasets públicos legados.

5. Significado e Conclusão

O estudo conclui que, embora os LLMs modernos sejam excelentes em detectar phishing quando auxiliados por metadados estruturais, eles ainda enfrentam desafios fundamentais na distinção semântica entre spam e comunicação legítima.

• Para a Segurança: A detecção robusta futura dependerá de arquiteturas híbridas que combinam o raciocínio semântico dos LLMs com filtros heurísticos, especialmente para lidar com a ambiguidade do spam.
• Para a Pesquisa: O PhishFuzzer fornece uma base rigorosa e open-source para avaliar a próxima geração de sistemas de segurança de e-mail, permitindo testes contra ataques sintéticos realistas e variáveis linguísticas que os datasets antigos não cobrem.
• Reprodutibilidade: Todo o framework, scripts de geração e o dataset estão disponíveis publicamente no GitHub, promovendo ciência aberta e reprodutibilidade.

Em suma, o trabalho demonstra que a simples adição de metadados não é uma solução mágica; ela resolve um problema (phishing) mas exacerba outro (detecção de spam), exigindo novas abordagens de modelagem para a segurança de e-mails na era da IA generativa.