Resumo Técnico: Revelando Vulnerabilidades de Inteligência de Ameaças Cibernéticas Assistida por LLM

Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais implantados para automatizar tarefas de Inteligência de Ameaças Cibernéticas (CTI), variando de avaliação de vulnerabilidades a resposta a incidentes. No entanto, lacunas significativas de confiabilidade persistem nos fluxos de trabalho operacionais. Embora a literatura existente frequentemente atribua essas falhas a limitações genéricas dos modelos, como alucinação ou jailbreaking, este artigo argumenta que o gargalo dominante é a natureza única do próprio cenário de ameaças. Os dados de CTI são caracterizados por heterogeneidade, volatilidade e fragmentação. As evidências são frequentemente entrelaçadas, provenientes de fontes colaborativas (crowdsourced) e temporalmente instáveis — propriedades que as avaliações padrão de LLM raramente capturam. Consequentemente, os LLMs lutam para raciocinar efetivamente sob essas condições, levando a taxas de falha substanciais em tarefas de segurança críticas.

Metodologia

Os autores propõem um estudo empírico abrangente e um novo quadro metodológico para identificar e categorizar falhas de LLM no raciocínio de CTI.

1. Avaliação Empírica em Grande Escala

O estudo avalia uma suíte diversificada de modelos, incluindo LLMs de propósito geral líderes da indústria (por exemplo, GPT-5, Claude-Sonnet-4, Gemini-2.5) e agentes especializados em cibersegurança (por exemplo, DeepHat, SecGPT, Cyber-Zero). A avaliação abrange o ciclo de vida completo da CTI em quatro estágios:

• Contextualização: Enriquecimento de observações brutas com contexto (por exemplo, mapeamento de logs para CVEs).
• Atribuição: Identificação de adversários e vinculação de eventos a perfis de atores.
• Previsão: Previsão da probabilidade de exploração e evolução de campanhas.
• Mitigação: Recomendação de patches, regras de detecção e roteiros de resposta.

Os conjuntos de dados incluem benchmarks estabelecidos (CTIBench, SevenLLM-Bench, SWE-Bench, CyberTeam) e relatórios de ameaças do mundo real de fontes autoritativas (NVD, CISA, avisos de fornecedores).

2. Categorização de Falhas com Humano no Loop

Para abordar o desafio de classificar modos de falha de forma confiável sem rótulos rígidos, os autores introduzem um quadro estratificado com humano no loop:

• Amostragem Estratificada: As instâncias são partitionadas em estratos de quantil com base em pontuações de similaridade entre as saídas do modelo e materiais de referência. A inspeção manual de amostras "âncora" dentro de cada estrato estabelece faixas de pontuação para saídas "corretas" versus "falhas", minimizando a carga de trabalho manual para <1,5% do total de instâncias.
• Refinamento Iterativo da Taxonomia: Um processo autoregressivo alterna entre classificação assistida por LLM e inspeção humana. Novos padrões de falha identificados por humanos são adicionados à taxonomia até a convergência.
• Deliberação Multiagente: Para garantir estabilidade, múltiplos LLMs classificam instâncias independentemente, seguidos por uma segunda rodada de deliberação. Inspetores humanos intervêm apenas quando há falta de consenso entre os agentes ou quando as previsões flutuam entre rodadas (<1,8% dos casos).

Principais Contribuições

1. Identificação de Três Falhas Cognitivas Específicas do Domínio

O estudo identifica três categorias dominantes de vulnerabilidades que limitam a eficácia dos LLMs em CTI, distintas de falhas genéricas de LLM:

• Correlações Espúrias: LLMs atribuem excessivamente com base em características superficiais ou coocorrentes em vez de links causais. Exemplos incluem confundir ferramentas de commodities com evidências específicas de um ator (viés de co-menção) ou superatribuir reutilização de infraestrutura com base em Indicadores de Comprometimento (IoCs) deliberadamente reciclados.
• Conhecimento Contraditório: Inconsistências entre fontes de CTI (por exemplo, relatórios conflitantes, contradições temporais entre evidências desatualizadas e recentes, conflitos semânticos na nomenclatura) confundem os modelos, levando a previsões instáveis ou conflitantes.
• Generalização Confinada: LLMs lutam para se estender além de distribuições familiares, falhando em ameaças emergentes (zero-day) ou padrões não vistos. Isso inclui viés distribucional (excesso de dependência em dados de treinamento comuns) e falta de consciência ambiental (ignorar restrições específicas de implantação).

2. Análise de Causa Raiz Através dos Estágios de CTI

O artigo mapeia essas vulnerabilidades para estágios e técnicas específicos de CTI. Por exemplo, o viés de co-menção frequentemente surge durante a Contextualização quando sistemas de recuperação tratam entidades coocorrentes como causalmente relacionadas. O Conhecimento Contraditório frequentemente desestabiliza a Atribuição e a Mitigação quando as fontes discordam sobre a identidade do ator ou a eficácia do patch. Falhas de Generalização Confinada são mais proeminentes na Previsão e na Mitigação quando os modelos encontram vetores de ataque novos ou restrições ambientais não presentes nos dados de treinamento.

3. Validação via Intervenções Causais

Os autores validam essas causas raiz por meio de estudos de intervenção causal. Ao perturbar tokens contextuais não causais (por exemplo, datas, setores) enquanto preservam atributos causais (por exemplo, TTPs, mecanismos de exploração), eles demonstram que as previsões de LLM frequentemente invertem, confirmando a dependência de correlações espúrias.

4. Estratégias Defensivas

O artigo propõe e avalia estratégias de mitigação direcionadas:

• Intervenção Causal ($C^3$): Uma verificação de consistência contrafactual no momento da inferência que força os modelos a verificar se as conclusões permanecem estáveis quando o contexto não causal é alterado.
• Mitigações de Alta Granularidade: Técnicas específicas para cada subtipo de vulnerabilidade, como filtragem de evidências no momento da recuperação (para remover viés de co-menção), reclassificação consciente do tempo (para resolver contradições) e inferência consciente de novidade (para lidar com padrões não vistos).

Resultados

• Lacunas de Desempenho: A avaliação revela lacunas universais em todos os modelos. LLMs de propósito geral se destacam em tarefas pesadas de compreensão (por exemplo, pontuação de confiabilidade de fontes), mas lutam com saídas operacionais. Agentes especializados em cibersegurança mostram melhor desempenho em classificações operacionais específicas, mas sofrem com generalização confinada em ameaças emergentes.
• Taxas de Falha: Sem mitigação, as taxas de falha são significativas em todos os estágios. Por exemplo, modelos de propósito geral mostram altas taxas de falha em Detecção de Falsa Bandeira e Reutilização de Infraestrutura.
• Eficácia das Defesas:
  • A proposta intervenção causal $C^3$ produz ganhos universais de desempenho, com melhorias notáveis em Detecção de Falsa Bandeira (até +0,115 F1) e Construção de Cronograma de Eventos (Δ médio ≈ 0,08).
  • Mitigações de alta granularidade reduzem significativamente as razões de vulnerabilidade. Uma abordagem "completa" (combinando filtragem de recuperação e restrições de inferência) reduz as taxas de falha em todas as categorias. Por exemplo, falhas de Contradição Temporal em LLMs gerais caíram de 17,53% para 4,25% com mitigação apenas de recuperação, enquanto falhas de Correlação Espúria foram melhor abordadas por verificações apenas de inferência.

Significado e Alegações

O artigo afirma revelar "pontos cegos" nas vulnerabilidades atuais de LLM específicas do domínio de CTI. Ele argumenta que a adaptação padrão de modelos ou engenharia de prompts é insuficiente porque as falhas estão enraizadas nas propriedades intrínsecas do cenário de ameaças (heterogeneidade, volatilidade, fragmentação).

O significado deste trabalho reside em:

1. Mudar o Foco: Deslocar o discurso de falhas genéricas de LLM (alucinação) para falhas de raciocínio específicas do domínio impulsionadas pela natureza dos dados de ameaças cibernéticas.
2. Fornecer um Roteiro: Oferecer um caminho concreto, informado por taxonomia, para construir agentes de CTI resilientes e conscientes do domínio.
3. Demonstrar Viabilidade: Mostrar que defesas leves e direcionadas (verificações de consistência causal e filtragem de recuperação) podem mitigar substancialmente esses modos de falha específicos sem exigir retreinamento massivo.

Os autores concluem que uma análise robusta de CTI baseada em LLM requer proteções explicitamente adaptadas à heterogeneidade do cenário de ameaças, fornecendo insights fundamentais para futuras adaptações principistas em sistemas de LLM focados em cibersegurança.