Sense, Sense-making and the Changing Character of Warfare

La guerra è sempre stata una contesa di volontà, uno scontro in cui i leader umani cercano di superare in astuzia e manovra i propri nemici. Per secoli, la nebbia della guerra è stata una compagna costante, un misto di confusione, paura e informazioni mancanti che rende ogni decisione difficile. Soldati e comandanti si sono affidati ai propri occhi, orecchie e giudizio per diradare quella nebbia, decidendo cosa sia reale e cosa sia un inganno. Ma nel ventunesimo secolo, una rivoluzione silenziosa sta cambiando il modo in cui gli eserciti vedono il campo di battaglia. Invece di affidarsi esclusivamente ai sensi umani, le milizie moderne stanno affidando il compito di vedere e comprendere alla macchina. Reti dense di sensori, satelliti e intelligenza artificiale ora raccolgono dati a velocità che nessun essere umano potrebbe eguagliare, setacciando montagne di informazioni per dire ai comandanti cosa colpire e quando. Questo passaggio non riguarda solo il prendere decisioni più velocemente; riguarda il cambiare chi, o cosa, ha il diritto di decidere cosa conti come verità nel mezzo di un combattimento.

Un nuovo articolo di David Galbreath, un ricercatore dell'Università di Bath, esplora cosa accade quando lasciamo che le macchine facciano il lavoro pesante dell'interpretazione. Lo studio pone una domanda profonda: se un computer decide ciò che un soldato vede, e quel computer commette un errore, di chi è la responsabilità? L'articolo sostiene che questi sistemi digitali non siano solo strumenti, come un fucile migliore o un camion più veloce. Al contrario, essi agiscono come le regole invisibili di un gioco, plasmando ciò che è possibile, ciò che è visibile e chi detiene il potere. Galbreath suggerisce che quando questi sistemi falliscono, rivelano le strutture politiche nascoste della guerra moderna, mostrandoci che le macchine stesse sono ora partecipanti attivi al conflitto, non solo aiutanti passivi.

Per capire questo, bisogna innanzitutto osservare come sia cambiato il concetto di "comprensione del senso" (sense-making). In passato, un operatore radar guardava uno schermo, vedeva un segnale e usava il proprio addestramento per decidere se fosse un aereo amico o un missile nemico. Oggi, i sistemi di intelligenza artificiale fanno questa selezione automaticamente. Essi scansionano enormi quantità di dati, identificano schemi e segnalano bersagli per la revisione umana. Questa delega del lavoro mentale significa che le macchine stanno ora definendo la realtà che i comandanti umani sperimentano. Se la macchina pensa che un'auto civile sia un camion militare, il comandante umano potrebbe vederla come un camion. L'articolo sottolinea che questo crea un nuovo tipo di pericolo. Le macchine non sono infallibili; possono essere ingannate da interferenze elettroniche o possono commettere errori perché sono state addestrate su dati errati. Quando falliscono, i risultati non sono semplici glitch tecnici; sono crisi di autorità.

Galbreath attinge alla teoria del "costituzionalismo meccanico" per spiegare questo passaggio. Questa idea suggerisce che le macchine non siano oggetti neutrali, ma siano profondamente intrecciate nell'ordine legale e politico della società. Proprio come una costituzione stabilisce le regole per il funzionamento di un governo, le reti digitali stabiliscono le regole per il modo in cui si combatte la guerra. Esse decidono quali informazioni passano, quanto velocemente si muovono e chi ha il diritto di vederle. Quando queste reti funzionano senza intoppi, sono invisibili. Ma quando si interrompono — quando un segnale viene disturbato, un computer viene hackerato o un algoritmo classifica erroneamente un bersaglio — le regole nascoste vengono esposte. Un guasto nel sistema rivela che il potere di prendere decisioni è stato trasferito dalle mani umane al codice. Questo è un momento critico perché mostra che la capacità dello Stato di fare la guerra dipende interamente dalla salute di queste infrastrutture digitali. Se la rete crolla, la capacità dello Stato di percepire e agire crolla con essa.

L'articolo esamina esempi del mondo reale per mostrare come questo si manifesti. Nei conflitti recenti, come quelli in Ucraina e a Gaza, entrambe le parti hanno utilizzato l'intelligenza artificiale per localizzare bersagli e guidare droni. Questi sistemi possono elaborare immagini e dati molto più velocemente di qualsiasi squadra umana. Tuttavia, questa velocità ha un costo. L'articolo nota che quando questi sistemi vengono disturbati dalla guerra elettronica o ingannati da segnali falsi, l'intera catena di comando può essere gettata nella confusione. Un radar potrebbe essere inondato di bersagli finti, rendendo impossibile per gli operatori sapere cosa sia reale. Un algoritmo potrebbe scambiare un oggetto innocuo per una minaccia, portando a un attacco che non avrebbe mai dovuto avvenire. Questi non sono solo errori; sono momenti in cui la "costituzione" del campo di battaglia viene riscritta dal nemico. La parte che riesce a accecare i sensori dell'altro o a corromperne i dati ottiene un enorme vantaggio, non distruggendo più carri armati, ma rendendo l'avversario incapace di comprendere ciò che accade intorno a sé.

Questa trasformazione impone un ripensamento delle classiche idee sulla guerra, in particolare quelle del teorico militare del XIX secolo Carl von Clausewitz. Clausewitz descrisse la guerra come un "duello" tra due volontà opposte, dove l'attrito — la resistenza e l'incertezza del mondo reale — rende le cose difficili. Galbreath sostiene che la guerra digitale abbia cambiato la natura di questo attrito. Non si tratta più solo di stanchezza umana o cattivo tempo. Ora, l'attrito proviene dalle macchine stesse. Un computer potrebbe esitare a causa di un bug del software, o potrebbe agire troppo velocemente perché un essere umano possa fermarlo. La "nebbia" della guerra non è più solo una mancanza di informazioni; può essere un sovraccarico di informazioni false, una situazione in cui il comandante è così fiducioso nei dati della macchina da non accorgersi dell'errore finché non è troppo tardi. Il duello non è più solo tra due generali; è tra due diversi set di sensori e algoritmi, ognuno dei quali cerca di imporre la propria versione della realtà all'altro.

Lo studio evidenzia anche un problema crescente di responsabilità. Nella guerra tradizionale, se un soldato commette un errore, la catena di comando è chiara. Ma quando un sistema di intelligenza artificiale identifica erroneamente un bersaglio, diventa molto difficile stabilire chi sia il responsabile. È stato l'ingegnere che ha scritto il codice? Il comandante che si è fidato del sistema? O la macchina stessa? L'articolo suggerisce che questa ambiguità sia pericolosa. Crea un vuoto in cui nessuno si sente pienamente in controllo, eppure tutti si affidano alla macchina per prendere decisioni di vita o di morte. Ciò è particolarmente vero quando i sistemi operano a velocità troppo elevate per l'intervento umano. Se una macchina decide di sparare un'arma in una frazione di secondo, non c'è tempo affinché un essere umano metta in discussione la decisione. L'autorità di uccidere è stata delegata a un processo che non può essere ritenuto moralmente responsabile allo stesso modo di una persona.

In definitiva, l'articolo conclude che non possiamo trattare questi sistemi digitali come semplici strumenti che rendono la guerra più efficiente. Essi stanno rimodellando il carattere stesso della guerra, cambiando il modo in cui viene percepita, organizzata e governata. L'autore sostiene che dobbiamo smettere di pensare alle macchine solo come aiutanti e iniziare a vederle come attori politici che strutturano il campo di battaglia. Esse definiscono ciò che può essere visto, ciò che può essere conosciuto e ciò che può essere fatto. Mentre le milizie continuano a fare sempre più affidamento sull'intelligenza artificiale e sulle reti automatizzate, la sfida non sarà solo quella di costruire armi migliori. Sarà quella di mantenere il giudizio e il controllo umano in un mondo in cui le macchine sono sempre più quelle che danno senso alla violenza. Il futuro della guerra dipenderà dalla nostra capacità di comprendere queste nuove regole costituzionali e di garantire che il potere di decidere chi vive e chi muore rimanga nelle mani umane, anche mentre le macchine fanno sempre più il lavoro di osservazione.