Direct Causation in International Humanitarian Law and the Challenge of AI-Mediated Civilian Cyber Operations

Resumo Técnico: Causalidade Direta no Direito Internacional Humanitário e o Desafio das Operações Cibernéticas Civis Mediadas por IA

Problema
O Direito Internacional Humanitário (DIH) protege os civis de ataques diretos, a menos que estes participem diretamente das hostilidades (PDH). A Orientação Interpretativa de 2009 do CICV operacionaliza isso através de um teste cumulativo de três critérios: limiar de dano, causalidade direta e nexo beligerante. Este artigo identifica uma falha estrutural no critério de causalidade direta quando aplicado a operações cibernéticas civis mediadas por IA. Especificamente, o desdobramento de sistemas cibernéticos multiagentes autônomos por civis cria uma lacuna causal que as ferramentas doutrinárias existentes não conseguem preencher.

A questão central é que a Orientação Interpretativa pressupõe atores humanos identificáveis a jusante do ato civil inicial, cujo comportamento possa ser classificado. Em casos tradicionais (ex: minas, ataques de drones), o humano ou executa o dano ou codifica as decisões operativas em um sistema que as executa posteriormente. No entanto, em cenários avançados de IA, um civil pode configurar um sistema com um objetivo de alto nível e, em seguida, desengajar-se, permitindo que o sistema gere autonomamente as decisões operativas específicas (seleção de alvo, geração de exploit, tempo de execução) que causam o dano. Como o humano não é mais "endógeno" ao sistema gerador de decisões, e porque não há contribuintes humanos a jusante para formar uma operação "conjunta", o framework recorre por padrão à classificação de participação indireta (capacitação). Esta classificação está substantivamente em tensão com o propósito do framework, pois falha em capturar civis que pessoalmente implantam sistemas autônomos contra alvos militares, agrupando-os, em vez disso, com pesquisa científica ou produção de armas.

Metodologia
O artigo emprega uma análise doutrinária da Orientação Interpretativa combinada com uma avaliação empírica de capacidades emergentes de IA ofensiva.

1. Framework Doutrinário: Os autores analisam o padrão de "um passo causal" e o requisito de "parte integrante" para a causalidade conjunta. Eles introduzem uma lente analítica endógena/exógena para determinar se o civil está dentro ou fora do sistema que gera decisões de dano operativas.
2. Construção de Cenários: Três cenários de conduta cibernética mediada por IA são construídos, variando de humano no circuito (human-in-the-loop) até o desdobramento totalmente autônomo:
   • Cenário 1: Um voluntário usa um LLM para redigir um script e o executa manualmente (Humano no circuito).
   • Cenário 2: Um hacktivista opera um framework agêntico onde a IA propõe etapas, mas o humano aprova cada ação antes da execução (Humano no circuito com assistência generativa).
   • Cenário 3: Um hacktivista configura um sistema multiagente hierárquico (ex: HPTSA) com um objetivo amplo e o lança, permitindo que o sistema planeje, realize reconhecimento e execute ataques autonomamente, sem novos inputs humanos.
3. Contexto Empírico: A análise baseia-se na participação cibernética civil documentada no conflito Rússia-Ucrânia (ex: o Exército de TI da Ucrânia) e em pesquisas recentes de IA ofensiva (ex: o agente GPT-4 de Fang et al. explorando 87% das CVEs, e o Project Glasswing da Anthropic) para estabelecer que as bases técnicas para o Cenário 3 são operacionais, não especulativas.

Principais Contribuições
O artigo apresenta três contribuições primárias:

1. Identificação de Falha Estrutural Doutrinária: Demonstra que o elemento de causalidade direta falha estruturalmente para desdobramentos multiagentes autônomos. O padrão de "um passo causal" falha porque o dano é produzido por decisões geradas pelo sistema após o desengajamento humano. O requisito de "parte integrante" falha porque pressupõe contribuintes humanos a jusante, que estão ausentes em operações totalmente autônomas.
2. Introdução da Granularidade de Especificação de Objetivos: O artigo identifica a granularidade de especificação de objetivos como a propriedade mensurável que determina a concretude do teste de "parte integrante". Este construto quantifica quanto da tomada de decisão operativa é fixada pelo humano no momento da configuração versus quanto é gerado pelo sistema posteriormente.
   • Os autores propõem um espectro de cinco níveis:
     • Nível 1 (Totalmente especificado): O humano nomeia o alvo, o método e as etapas de execução.
     • Nível 2 (Método especificado): O humano nomeia o alvo e a classe do método; o sistema seleciona a técnica.
     • Nível 3 (Alvo especificado): O humano nomeia o alvo; o sistema seleciona o método.
     • Nível 4 (Escopo especificado): O humano nomeia a classe de alvos; o sistema seleciona alvos e métodos específicos.
     • Nível 5 (Objetivo especificado): O humano declara apenas o objetivo; o sistema seleciona alvos, métodos e execução.
   • O artigo argumenta que a falha doutrinária ocorre especificamente no Nível 5, onde o humano é exógeno ao sistema de decisões de dano operativas.
3. Avaliação da Governança Técnica de IA (TAIG): O artigo avalia instrumentos existentes de governança técnica de IA (ex: benchmarks de capacidade como Cybench, frameworks agênticos como AgentBench e ferramentas de proveniência de saída). Conclui-se que nenhum desses instrumentos registra ou reporta a granularidade de especificação de objetivos. Enquanto medem o desempenho ou o acesso do modelo, carecem da métrica específica necessária para a classificação jurídica subsequente da conduta civil.

Resultados

• Cenário 1 e 2: Enquadram-se na lógica existente de PDH. No Cenário 1, o humano executa o ato. No Cenário 2, o humano aprova cada decisão operativa, mantendo uma posição endógena.
• Cenário 3: Este cenário quebra o framework. O ato do humano (configuração) é separado do dano por uma sequência de decisões autônomas do sistema.
  • O padrão de "um passo causal" não é atendido porque o dano está a muitos passos de distância.
  • O requisito de "parte integrante" não é atendido porque não há uma "operação tática concreta e coordenada" definida por humanos no momento do ato; a operação é gerada pelo sistema.
  • Consequentemente, o framework recorre por padrão à exclusão de capacitação, classificando incorretamente o desdobramento como participação indireta.
• Consequência Temporal: A falha da causalidade direta causa a quebra da fronteira temporal "durante o tempo em que", uma vez que não há um ato participativo identificável para ancorar o início e o fim do engajamento.
• Lacuna de Governança: Os instrumentos de TAIG atuais não capturam a granularidade dos atos de configuração. Sem registrar se um desdobramento foi de Nível 1 ou Nível 5, não há base probatória para distinguir entre capacitação (ex: pesquisa) e participação direta (ex: desdobramento de ataque autônomo).

Significância
O artigo argumenta que o desalinhamento entre as operações cibernéticas mediadas por IA e o framework de PDH é estrutural, não meramente interpretativo. À medida que os sistemas autônomos proliferam, a lacuna entre o que o framework classifica (participação indireta) e o que ele foi desenhado para classificar (participação direta) aumentará.

A significância reside em localizar o ponto preciso onde a doutrina precisa de atualização: a componente de concretude do teste de parte integrante não pode funcionar sem uma medida de quanto conteúdo operativo o humano fixou na configuração. O artigo propõe que a granularidade de especificação de objetivos é a métrica necessária para restaurar a distinção entre civis que constroem capacidade e aqueles que pessoalmente participam de hostilidades. Embora o artigo note que a instrumentação de plataformas cooperativas é um possível primeiro passo, reconhece limitações significativas, incluindo o fato de que atores adversários (hacktivistas) frequentemente operam em hardware local sem intermediários de plataforma, tornando as medidas de governança cooperativa atuais insuficientes para os casos mais críticos. O trabalho serve como um diagnóstico de um modo específico de falha doutrinária, em vez de uma proposta de governança abrangente.