Bridging Cybersecurity Expertise Gaps through Human-LLM Collaboration: Trust, Reliance, and Design Imperatives from a Mixed-Methods Study

Resumo Técnico: Preenchendo Lacunas de Especialização em Cibersegurança através da Colaboração Humano–LLM

Declaração do Problema
As operações de cibersegurança enfrentam uma lacuna de especialização crescente, onde a demanda por analistas qualificados supera a oferta, forçando as organizações a depender de pessoal menos experiente para a triagem de primeira linha. Embora os Grandes Modelos de Linguagem (LLMs) ofereçam potencial como ferramentas de suporte à decisão, seu valor operacional em ambientes de alto risco depende não apenas da precisão do modelo, mas de como os humanos interpretam, confiam e dependem dos conselhos gerados pela IA. A pesquisa existente frequentemente foca em benchmarks de detecção centrados no modelo, deixando uma lacuna crítica na compreensão das dinâmicas colaborativas entre usuários não especialistas e LLMs durante a triagem de cibersegurança. Especificamente, permanece incerto como a transparência da tarefa (a capacidade dos usuários de verificar independentemente as evidências) influencia a confiança, a revisão de decisões e o aprendizado de curto prazo ao interagir com assistentes de IA.

Metodologia
Os autores conduziram um estudo exploratório de métodos mistos envolvendo 58 participantes (não especialistas tecnicamente capazes) em duas tarefas controladas de triagem de cibersegurança, projetadas para representar demandas cognitivas e níveis de transparência contrastantes:

1. Triagem de E-mail de Phishing (Transparente em relação às pistas): Uma tarefa baseada em texto onde indicadores relevantes para a decisão (ex: domínios de remetente, links) são diretamente observáveis e interpretáveis por humanos.
2. Triagem de Intrusão (Opaque em relação às pistas): Uma tarefa tabular envolvendo telemetria de rede de alta dimensionalidade, onde a evidência é latente e requer raciocínio de domínio para ser interpretada, tornando a verificação independente difícil para não especialistas.

Design do Estudo:

• Procedimento: Os participantes completaram as tarefas tanto em fases independentes (sem auxílio) quanto colaborativas (com assistência de LLM). O estudo de phishing utilizou ordens contrabalançadas para avaliar efeitos de aprendizado, enquanto o estudo de intrusão utilizou uma ordem fixa para gerenciar a carga cognitiva.
• Configuração da IA:
  • Phishing: Llama2-7B implantado localmente, configurado para um raciocínio cauteloso e baseado em evidências.
  • Intrusão: GPT-4 via ChatGPT, configurado com uma persona de analista de SOC para priorizar a minimização de falsos negativos, forneando explicações analíticas.
• Coleta de Dados: O estudo capturou três fluxos de dados: (i) logs de interação para codificação qualitativa de estilos de perguntas, sinais de confiança e comportamentos de confiança; (ii) questionários pós-estudo (incluindo itens da Escala de Usabilidade do Sistema) medindo confiança, utilidade e aprendizado; e (iii) saídas de classificação pontuadas contra o ground truth.
• Análise: Os autores empregaram análise de conteúdo indutiva nos logs de interação e regressão logística exploratória para ligar atributos de interação (ex: definitividade, vinculação de evidências) a resultados de decisão. O desempenho quantitativo foi analisado por meio de precisão, recall, pontuações F1 e testes de McNemar pareados dentro de cada item para medir mudanças de decisão de "Primeiro Palpite" para "Decisão Final".

Principais Contribuições

1. Estudo de Triagem de Cibersegurança: O artigo apresenta uma investigação de métodos mistos da colaboração Humano–LLM em duas tarefas de proxy distintas, deslocando o foco do benchmarking de detectores para a dinâmica de interação.
2. Assimetria de Confiança: O estudo identifica uma assimetria dependente da tarefa na confiança. Em tarefas transparentes em relação às pistas (phishing), os usuários atuam como árbitros mais fortes das decisões finais ao verificar pistas visíveis. Em tarefas opacas em relação às pistas (intrusão), respostas definitivas do LLM exercem uma influência mais forte nas decisões dos participantes devido à dificuldade de verificação independente.
3. Ligações Interação-Resultado: Através de logs de interação codificados, os autores estabelecem associações entre fatores de interação específicos (enquadramento de perguntas, explicações vinculadas a evidências, definitividade da resposta) e comportamentos do usuário, como confiança, revisão de decisão e aprendizado de curto prazo.
4. Imperativos de Design: As descobertas são traduzidas em recomendações de design específicas para assistentes de cibersegurança confiáveis, incluindo comunicação de confiança calibrada, explicações contrastivas, divulgação progressiva e arcabouços de interação adaptáveis à tarefa.

Principais Resultados

• Ganhos de Desempenho: A colaboração gerou ganhos modestos na triagem de phishing (principalmente melhoria na precisão/redução de falsos positivos) e ganhos maiores na triagem de intrusão (principalmente melhoria no recall/recuperação de intrusões perdidas). Na triagem de intrusão, a correção para itens específicos melhorou de 45,8% (sem auxílio) para 75,0% (colaborativo).
• Definitividade e Risco: A definitividade das respostas do LLM esteve fortemente associada à confiança do usuário. Conselhos definitivos apoiaram decisões corretas quando o modelo era preciso, mas ampliaram erros quando o modelo estava errado. Esse risco foi mais pronunciado em tarefas de intrusão opacas em relação às pistas, onde os usuários careciam de pistas de verificação independente.
• Padrões de Interação:
  • Phishing: Usuários fizeram perguntas de classificação direta (49%) e focaram em componentes visíveis.
  • Intrusão: Usuários engajaram em diálogos mais exploratórios e orientados à análise (44% das consultas), solicitando detecção de anomalias, comparações de características e raciocínio baseado em modelos.
• Tendências de Aprendizado: Evidências sugerem aprendizado de curto prazo; participantes que começaram com assistência de IA tiveram melhor desempenho em fases subsequentes sem auxílio, indicando uma transferência de estratégias (ex: inspeção de características específicas).
• Usabilidade: Embora a colaboração tenha sido avaliada positivamente no geral, a interface de intrusão foi percebida como menos intuitiva e mais exigente cognitivamente do que a interface de phishing.

Significância e Alegações
O artigo posiciona-se explicitamente não como um benchmark para detectores de phishing ou intrusão de última geração, mas como um estudo de Colaboração Humano–IA (HAIC). Os autores alegam que a principal significância de seu trabalho reside em caracterizar como e sob quais condições a colaboração auxilia ou prejudica a tomada de decisão em cenários inferenciais.

O estudo argumenta que os LLMs não devem ser vistos como detectores de segurança autônomos, mas como auxiliares de raciocínio colaborativo. O valor operacional dos LLMs na cibersegurança depende do design de sistemas que suportem a "confiança calibrada" — ajudando os usuários a aceitar conselhos úteis, desafiar conselhos errôneos e aprender com a interação. Os autores concluem que, para preencher as lacunas de especialização de forma segura, os assistentes de LLM devem ser projetados para comunicar incerteza explicitamente, fundamentar recomendações em evidências verificáveis e fornecer arcabouços que incentivem o usuário a investigar em vez de aceitar passivamente as recomendações da IA, particularmente em ambientes de alta complexidade e opacidade de pistas.