Sense, Sense-making and the Changing Character of Warfare

A guerra sempre foi um concurso de vontades, um embate onde líderes humanos tentam superar e manobrar seus inimigos de forma mais inteligente. Por séculos, a névoa da guerra foi uma companheira constante, uma mistura de confusão, medo e falta de informação que torna cada decisão difícil. Soldados e comandantes confiaram em seus próprios olhos, ouvidos e julgamento para atravessar essa névoa, decidindo o que é real e o que é um truque. Mas no século XXI, uma revolução silenciosa está mudando a forma como os exércitos veem o campo de batalha. Em vez de dependerem apenas dos sentidos humanos, as forças militares modernas estão entregando o trabalho de ver e compreender às máquinas. Redes densas de sensores, satélites e inteligência artificial agora reúnem dados em velocidades que nenhum humano conseguiria igualar, filtrando montanhas de informações para dizer aos comandantes o que atacar e quando. Essa mudança não é apenas sobre decidir mais rápido; é sobre mudar quem ou o que tem o direito de decidir o que conta como verdade no meio de um combate.

Um novo artigo de David Galbreath, pesquisador da Universidade de Bath, explora o que acontece quando deixamos as máquinas realizarem o trabalho pesado de interpretação. O estudo faz uma pergunta profunda: se um computador decide o que um soldado vê, e esse computador comete um erro, quem é o responsável? O artigo argumenta que esses sistemas digitais não são apenas ferramentas, como um rifle melhor ou um caminhão mais rápido. Em vez disso, eles atuam como as regras invisíveis de um jogo, moldando o que é possível, o que é visível e quem detém o poder. Galbreath sugere que, quando esses sistemas falham, eles revelam as estruturas políticas ocultas da guerra moderna, mostrando-nos que as próprias máquinas são agora participantes ativos no conflito, e não apenas auxiliares passivos.

Para entender isso, deve-se primeiro observar como a ideia de "processamento de sentido" (sense-making) mudou. No passado, um operador de radar olhava para uma tela, via um ponto e usava seu treinamento para decidir se era um avião aliado ou um míssil inimigo. Hoje, sistemas de inteligência artificial fazem essa classificação automaticamente. Eles escaneiam vastas quantidades de dados, identificam padrões e sinalizam alvos para revisão humana. Essa delegação do trabalho mental significa que as máquinas estão agora definindo a realidade que os comandantes humanos experienciam. Se a máquina pensa que um carro civil é um caminhão militar, o comandante humano pode vê-lo como um caminhão. O artigo aponta que isso cria um novo tipo de perigo. As máquinas não são infalíveis; elas podem ser enganadas por interferência eletrônica ou podem cometer erros porque foram treinadas com dados ruins. Quando falham, os resultados não são apenas falhas técnicas; são crises de autoridade.

Galbreath recorre à teoria do "constitucionalismo mecânico" para explicar essa mudança. Essa ideia sugere que as máquinas não são objetos neutros, mas estão profundamente entrelaçadas na ordem jurídica e política da sociedade. Assim como uma constituição estabelece as regras de como um governo funciona, as redes digitais estabelecem as regras de como a guerra é travada. Elas decidem qual informação passa, quão rápido ela se move e quem tem o direito de vê-la. Quando essas redes funcionam sem problemas, elas são invisíveis. Mas quando elas quebram — quando um sinal é bloqueado, um computador é hackeado ou um algoritmo classifica incorretamente um alvo — as regras ocultas são expostas. Uma falha no sistema revela que o poder de tomar decisões foi transferido das mãos humanas para o código. Este é um momento crítico porque mostra que a capacidade do Estado de travar uma guerra depende inteiramente da saúde dessas infraestruturas digitais. Se a rede colapsa, a capacidade do Estado de perceber e agir colapsa com ela.

O artigo examina exemplos do mundo real para mostrar como isso ocorre. Em conflitos recentes, como na Ucrânia e em Gaza, ambos os lados utilizaram inteligência artificial para localizar alvos e guiar drones. Esses sistemas podem processar imagens e dados muito mais rápido do que qualquer equipe humana. No entanto, essa velocidade tem um custo. O artigo observa que, quando esses sistemas são bloqueados por guerra eletrônica ou enganados por sinais falsos, toda a cadeia de comando pode ser lançada em confusão. Um radar pode ser inundado com alvos falsos, tornando impossível para os operadores saberem o que é real. Um algoritmo pode confundir um objeto inofensivo com uma ameaça, levando a um ataque que nunca deveria ter ocorrido. Estes não são apenas erros; são momentos em que a "constituição" do campo de batalha é reescrita pelo inimigo. O lado que consegue cegar os sensores do outro ou corromper seus dados ganha uma vantagem massiva, não destruindo mais tanques, mas tornando o inimigo incapaz de compreender o que está acontecendo ao seu redor.

Essa transformação força um repensar das ideias clássicas sobre a guerra, particularmente as do teórico militar do século XIX, Carl von Clausewitz. Clausewitz descreveu a guerra como um "duelo" entre duas vontades opostas, onde o atrito — a resistência e a incerteza do mundo real — torna as coisas difíceis. Galbreath argumenta que a guerra digital mudou a natureza desse atrito. Não se trata mais apenas de fadiga humana ou mau tempo. Agora, o atrito vem das próprias máquinas. Um computador pode hesitar devido a um erro de software, ou pode agir rápido demais para que um humano possa impedi-lo. A "névoa" da guerra não é mais apenas a falta de informação; pode ser uma sobrecarga de informações falsas, uma situação em que o comandante está tão confiante nos dados da máquina que não consegue ver o erro até que seja tarde demais. O duelo não é mais apenas entre dois generais; é entre dois conjuntos diferentes de sensores e algoritmos, cada um tentando impor sua própria versão da realidade ao outro.

O estudo também destaca um problema crescente de responsabilidade. Na guerra tradicional, se um soldado comete um erro, a cadeia de comando é clara. Mas quando um sistema de inteligência artificial identifica incorretamente um alvo, torna-se muito difícil dizer de quem é a culpa. Foi o engenheiro que escreveu o código? O comandante que confiou no sistema? Ou a própria máquina? O artigo sugere que essa ambiguidade é perigosa. Ela cria um vácuo onde ninguém se sente totalmente no controle, embora todos estejam dependendo da máquina para tomar decisões de vida ou morte. Isso é especialmente verdadeiro quando os sistemas operam em velocidades que são rápidas demais para a intervenção humana. Se uma máquina decide disparar uma arma em uma fração de segundo, não há tempo para um humano questionar a decisão. A autoridade para matar foi delegada a um processo que não pode ser responsabilizado moralmente da mesma forma que uma pessoa.

Em última análise, o artigo conclui que não podemos tratar esses sistemas digitais como simples ferramentas que tornam a guerra mais eficiente. Eles estão remodelando o próprio caráter da guerra, mudando a forma como ela é percecionada, organizada e governada. O autor argumenta que precisamos parar de pensar nas máquinas apenas como auxiliares e começar a vê-las como atores políticos que estruturam o campo de batalha. Elas definem o que pode ser visto, o que pode ser conhecido e o que pode ser feito. À medida que os exércitos continuam a depender cada vez mais de inteligência artificial e redes automatizadas, o desafio não será apenas construir armas melhores. Será manter o julgamento e o controle humanos em um mundo onde as máquinas são, cada vez mais, as que dão sentido à violência. O futuro da guerra dependerá de nossa capacidade de compreender essas novas regras constitucionais e garantir que o poder de decidir quem vive e quem morre permaneça nas mãos humanas, mesmo enquanto as máquinas fazem cada vez mais o trabalho de observar.