Resumo Técnico: Governança de Operações de Segurança Assistidas por IA

1. Declaração do Problema

Gerentes de engenharia enfrentam um dilema crítico de adoção: a IA Generativa, a Geração Aumentada por Recuperação (RAG) e agentes de codificação podem acelerar fluxos de trabalho técnicos em Centros de Operações de Segurança (SOCs), mas seu uso não gerenciado introduz riscos significativos em ambientes de telemetria de alto risco e com privilégios. Embora a IA possa gerar artefatos semelhantes a código, resumir evidências e propor ações, ela frequentemente obscurece a responsabilização e cria vulnerabilidades relacionadas à privacidade, custos, auditabilidade e qualidade da decisão.

O problema específico abordado é como governar o suporte à decisão operacional assistido por IA em funções de segurança sem enfraquecer o controle. O artigo utiliza a Linguagem de Consulta Kusto (KQL) dentro do ecossistema de segurança da Microsoft Azure (Defender XDR, Sentinel, Azure Data Explorer) como uma instanciação técnica delimitada. Embora as consultas KQL sejam tipicamente somente leitura, consultas geradas por IA não gerenciadas ainda podem causar danos através de:

• Varreduras amplas levando a estouro de custos e degradação de desempenho.
• Exposição de campos sensíveis (por exemplo, linhas de comando, URLs, assuntos de e-mail) violando a privacidade.
• Invalidade de esquema (referenciando tabelas ou colunas indisponíveis).
• Interpretações enganosas de evidências ou inteligência de ameaças desatualizada.
• Execução descontrolada que contorna políticas de governança estabelecidas.

O desafio central não é meramente se um modelo de IA pode gerar uma consulta sintaticamente correta, mas se uma organização pode governar o ciclo de vida desse artefato — desde a proposta e validação até a execução, auditoria e melhoria.

2. Metodologia

O estudo emprega Pesquisa de Ciência de Design (DSR) para desenvolver e avaliar um artefato socio-técnico destinado a melhorar a capacidade organizacional. A metodologia segue o processo DSRM: identificação do problema, definição de objetivos, design e desenvolvimento, demonstração, avaliação e comunicação.

• Artefato: Um Corretor de Consultas de IA Governado. Trata-se de um sistema socio-técnico que separa o planejamento da IA da execução operacional.
• Contexto: O artefato é instanciado em fluxos de trabalho de caça a ameaças centrados na Microsoft, mas é projetado com princípios de gestão transferíveis.
• Estratégia de Avaliação: O estudo adota um protocolo de avaliação em etapas para evitar alegações prematuras de eficácia em produção. Ele avança de:
  1. Validação Offline/Pacote: Testes contra dados sintéticos e rastros normalizados de esquema.
  2. Reprodução Histórica: Recuperação de evidências de casos encerrados.
  3. Simulação de Equipe Roxa: Teste da utilidade de detecção contra comportamentos semeados.
  4. Piloto em Modo Sombra: Telemetria ao vivo limitada com supervisão de analista e nenhuma resposta automatizada.
  5. Produção Controlada: Implantação limitada com monitoramento rigoroso de orçamento e auditoria.
• Linhas de Base: O corretor proposto é comparado a consultas KQL escritas manualmente por analistas, bibliotecas de consultas aprovadas estáticas e consultas KQL geradas por IA sem corretor.

3. Contribuições Principais e Design do Artefato

3.1 Arquitetura do Corretor de Consultas de IA Governado

A contribuição central é um framework de gestão instanciado como uma arquitetura corretora. O fluxo de controle principal é:
Solicitação do Analista → Plano de Caça da IA → Fundamentação RAG → Seleção de Modelo Aprovado → Validação KQL → Decisão de Política → Execução via API Somente Leitura → Normalização de Resultados → Feedback do Analista.

Componentes-chave incluem:

• Planejador de IA: Converte intenção em linguagem natural em um plano de caça estruturado (intenção, entidades, seleção de fonte).
• Camada de Fundamentação RAG: Recupera esquemas atuais, modelos aprovados, playbooks e contexto de inteligência de ameaças para prevenir alucinações.
• Resolvedor de Modelos: Mapeia o plano para padrões KQL parametrizados e aprovados, em vez de gerar código livre.
• Corretor KQL: O mecanismo de aplicação que valida consultas contra identidade, política, listas de permissão de fontes, limites de custo, limites de tempo/linha e regras de aprovação.
• Adaptadores de Fonte: Isolam a execução para APIs específicas somente leitura (Microsoft Graph, Log Analytics, Sentinel Data Lake, ADX).
• Camada de Feedback: Registra a disposição do analista e rótulos de avaliação para apoiar a melhoria contínua.

3.2 Proposições de Design

O estudo estabelece seis proposições de design (P1–P6) que formam a espinha dorsal teórica do framework:

• P1 (Execução Corretora): Separar o planejamento da IA do acesso executável aumenta o controle ao converter a saída da IA em uma solicitação avaliada por política.
• P2 (Geração Baseada em Modelos): Consultas derivadas de modelos aprovados e parametrizados com proprietários e histórico de versões são mais governáveis.
• P3 (Inteligência Consciente de Proveniência): A inteligência de ameaças deve preservar a fonte, confiança e validade antes de influenciar a geração de consultas.
• P4 (Avaliação Delimitada por Evidências): Alegações sobre o artefato devem ser correspondidas a níveis apropriados de evidência (de testes offline a implantação naturalista).
• P5 (Contribuição de Agentes em Ambiente Isolado): Agentes de codificação devem ser restritos a repositórios não produtivos e solicitações de pull, nunca acesso direto à API de produção.
• P6 (Governança Centrada em Funções): A adoção sustentável requer responsabilidades distribuídas entre liderança do SOC, engenharia de detecção, engenharia de plataforma e governança de IA, em vez de centralizar no provedor do modelo.

3.3 Modelo Operacional e Maturidade

O artigo define um modelo de maturidade para adoção:

• Estágio 0 (Offline): Dados sintéticos e adaptadores simulados.
• Estágio 1 (POC Controlado): Ambiente não produtivo com validação de pacote.
• Estágio 2 (Modo Sombra): Telemetria ao vivo limitada com supervisão de analista.
• Estágio 3 (Produção Controlada): Analistas treinados, execução auditada e controles de orçamento.
• Estágio 4 (Engenharia Assistida por Agentes): Agentes de codificação propõem alterações via solicitações de pull sob revisão humana.

Especifica também uma estrutura de gate do Conselho de Revisão de Engenharia (ERB) para transição entre estágios, exigindo evidências específicas (por exemplo, logs de auditoria, relatórios de custos, matrizes RACI) antes da promoção.

4. Resultados e Limites de Evidência

O artigo não afirma ter demonstrado eficácia em produção multiempresarial ou métricas específicas de aumento de detecção. Em vez disso, os "resultados" são a plausibilidade do design e o próprio protocolo de avaliação.

• Rastreabilidade: O artefato permite rastreabilidade ponta a ponta, desde a solicitação do usuário até a disposição do analista, permitindo que gestores distingam entre falhas de planejamento da IA, falhas de controle de governança e falhas de adequação operacional.
• Mitigação de Riscos: O design aborda explicitamente modos de falha como alucinação de esquema, varredura excessiva de dados, exposição de dados sensíveis e injeção de prompt através de controles específicos (por exemplo, fundamentação RAG, limites de linha, tratamento de logs como evidência e não como instruções).
• Reprodutibilidade: O estudo propõe um pacote de reprodutibilidade incluindo tabelas sintéticas, modelos versionados, arquivos de política e manifestos, permitindo que o artefato seja inspecionado sem expor telemetria empresarial ao vivo.

5. Significado e Alegações

O significado do artigo reside em reestruturar as operações de segurança assistidas por IA como um problema de gestão de engenharia em vez de uma questão puramente técnica ou de desempenho do modelo.

• Framework de Gestão: Fornece um framework concreto para converter a IA de uma ajuda informal à produtividade em uma capacidade operacional socio-técnica responsável.
• Governança sobre Fluência: A mensagem central é que o valor da IA em trabalhos de engenharia de alto risco depende menos da fluência do modelo e mais de modelos operacionais responsáveis, gates de evidência e controle gerencial.
• Transferibilidade: Embora instanciado em KQL/Microsoft, a contribuição é a arquitetura de governança (funções, modelos, gates de política, maturidade de evidências) aplicável a outras funções técnicas de alto risco, como automação de infraestrutura e análises críticas para a segurança.
• Alegações Modestas: Os autores afirmam explicitamente que o artefato não é um substituto para analistas do SOC ou um algoritmo de detecção universal. É uma arquitetura de governança projetada para ajudar gestores a controlar o trabalho habilitado por IA, com alegações de eficácia em produção reservadas para futura avaliação naturalista.

Em resumo, o estudo contribui com um artefato de ciência de design e um framework de gestão que especifica como governar o suporte à decisão operacional assistido por IA em infraestrutura digital de alto risco, garantindo que a validade técnica, auditabilidade, privacidade e disciplina de custos sejam preservadas.