Sense, Sense-making and the Changing Character of Warfare

La guerre a toujours été un concours de volontés, un affrontement où les chefs humains tentent de surpasser l'intelligence et la manœuvre de leurs ennemis. Pendant des siècles, le brouillard de la guerre a été un compagnon constant, un mélange de confusion, de peur et d'informations manquantes qui rend chaque décision difficile. Les soldats et les commandants se sont appuyés sur leurs propres yeux, leurs oreilles et leur jugement pour percer ce brouillard, décidant de ce qui est réel et de ce qui est un leurre. Mais au XXIe siècle, une révolution silencieuse change la façon dont les armées perçoivent le champ de bataille. Au lieu de s'appuyer uniquement sur les sens humains, les armées modernes confient la tâche de voir et de comprendre aux machines. Des réseaux denses de capteurs, de satellites et d'intelligence artificielle rassemblent désormais des données à des vitesses qu'aucun humain ne pourrait égaler, triant des montagnes d'informations pour dire aux commandants quoi viser et quand. Ce changement ne consiste pas seulement à prendre des décisions plus rapidement ; il s'agit de changer qui ou quoi décide de ce qui constitue la vérité au milieu d'un combat.

Un nouvel article de David Galbreath, chercheur à l'Université de Bath, explore ce qui se passe lorsque nous laissons les machines faire le gros du travail d'interprétation. L'étude pose une question profonde : si un ordinateur décide de ce qu'un soldat voit, et que cet ordinateur commet une erreur, qui est responsable ? L'article soutient que ces systèmes numériques ne sont pas de simples outils, comme un meilleur fusil ou un camion plus rapide. Au contraire, ils agissent comme les règles invisibles d'un jeu, façonnant ce qui est possible, ce qui est visible et qui détient le pouvoir. Galathbreath suggère que lorsque ces systèmes échouent, ils révèlent les structures politiques cachées de la guerre moderne, nous montrant que les machines sont désormais des participants actifs au conflit, et non de simples aides passives.

Pour comprendre cela, il faut d'abord examiner comment l'idée de « construction du sens » (sense-making) a évolué. Autrefois, un opérateur radar regardait un écran, voyait un point, et utilisait sa formation pour décider s'il s'agissait d'un avion ami ou d'un missile ennemi. Aujourd'hui, les systèmes d'intelligence artificielle effectuent ce tri automatiquement. Ils scannent de vastes quantités de données, identifient des modèles et signalent des cibles pour examen humain. Cette délégation du travail mental signifie que les machines définissent désormais la réalité que les commandants humains expérimentent. Si la machine pense qu'une voiture civile est un camion militaire, le commandant humain pourrait la voir comme un camion. L'article souligne que cela crée un nouveau type de danger. Les machines ne sont pas infaillibles ; elles peuvent être trompées par des interférences électroniques, ou peuvent commettre des erreurs parce qu'elles ont été entraînées sur des données erronées. Lorsqu'elles échouent, les résultats ne sont pas de simples incidents techniques ; ce sont des crises d'autorité.

Galbreath s'appuie sur une théorie appelée « constitutionnalisme mécanique » pour expliquer ce changement. Cette idée suggère que les machines ne sont pas des objets neutres mais sont profondément tissées dans l'ordre juridique et politique de la société. Tout comme une constitution fixe les règles de fonctionnement d'un gouvernement, les réseaux numériques fixent les règles de la conduite de la guerre. Ils décident de l'information qui passe, de la vitesse à laquelle elle circule et de qui peut la voir. Lorsque ces réseaux fonctionnent sans accroc, ils sont invisibles. Mais lorsqu'ils tombent en panne — qu'un signal soit brouillé, qu'un ordinateur soit piraté ou qu'un algorithme classifie mal une cible — les règles cachées sont exposées. Une défaillance du système révèle que le pouvoir de décision a été transféré des mains humaines vers le code. C'est un moment critique car il montre que la capacité de l'État à faire la guerre dépend entièrement de la santé de ces infrastructures numériques. Si le réseau s'effondre, la capacité de l'État à percevoir et à agir s'effondre avec lui.

L'article examine des exemples concrets pour montrer comment cela se manifeste. Dans les conflits récents, tels qu'en Ukraine et à Gaza, les deux camps ont utilisé l'intelligence artificielle pour localiser des cibles et guider des drones. Ces systèmes peuvent traiter des images et des données bien plus rapidement que n'importe quelle équipe humaine. Cependant, cette rapidité a un coût. L'article note que lorsque ces systèmes sont perturbés par la guerre électronique ou trompés par de faux signaux, toute la chaîne de commandement peut être plongée dans la confusion. Un radar peut être inondé de fausses cibles, rendant impossible pour les opérateurs de savoir ce qui est réel. Un algorithme peut confondre un objet inoffensif avec une menace, entraînant une frappe qui n'aurait jamais dû avoir lieu. Ce ne sont pas de simples erreurs ; ce sont des moments où la « constitution » du champ de bataille est réécrite par l'ennemi. Le camp capable d'aveugler les capteurs de l'autre ou de corrompre ses données gagne un avantage massif, non pas en détruisant plus de chars, mais en rendant l'ennemi incapable de comprendre ce qui se passe autour de lui.

Cette transformation force une remise en question des idées classiques sur la guerre, particulièrement celles du théoricien militaire du XIXe siècle Carl von Clausewitz. Clausewitz décrivait la guerre comme un « duel » entre deux volontés opposées, où la friction — la résistance et l'incertitude du monde réel — rend les choses difficiles. Galbreath soutient que la guerre numérique a changé la nature de cette friction. Elle ne provient plus seulement de la fatigue humaine ou du mauvais temps. Désormais, la friction provient des machines elles-mêmes. Un ordinateur peut hésiter à cause d'un bogue logiciel, ou peut agir trop vite pour qu'un humain puisse l'arrêter. Le « brouillard » de la guerre n'est plus seulement un manque d'information ; il peut s'agir d'une surcharge d'informations fausses, une situation où le commandant est si confiant dans les données de la machine qu'il ne peut voir l'erreur que trop tard. Le duel n'est plus seulement entre deux généraux ; il est entre deux ensembles différents de capteurs et d'algorithmes, chacun essayant d'imposer sa propre version de la réalité à l'autre.

L'étude souligne également un problème croissant de responsabilité. Dans la guerre traditionnelle, si un soldat commet une erreur, la chaîne de commandement est claire. Mais lorsqu'un système d'intelligence artificielle identifie mal une cible, il devient très difficile de déterminer qui est responsable. Était-ce l'ingénieur qui a écrit le code ? Le commandant qui a fait confiance au système ? Ou la machine elle-même ? L'article suggère que cette ambiguïté est dangereuse. Elle crée un vide où personne ne se sent pleinement responsable, alors que tout le monde compte sur la machine pour prendre des décisions de vie ou de mort. Cela est particulièrement vrai lorsque les systèmes opèrent à des vitesses trop rapides pour une intervention humaine. Si une machine décide de tirer une arme en une fraction de seconde, il n'y a pas de temps pour qu'un humain remette la décision en question. L'autorité de tuer a été déléguée à un processus qui ne peut être tenu moralement responsable de la même manière qu'une personne.

En fin de compte, l'article conclut que nous ne pouvons pas traiter ces systèmes numériques comme de simples outils rendant la guerre plus efficace. Ils remodèlent le caractère même de la guerre, changeant la façon dont elle est perçue, organisée et gouvernée. L'auteur soutient que nous devons cesser de considérer les machines comme de simples aides et commencer à les voir comme des acteurs politiques qui structurent le champ de bataille. Elles définissent ce qui peut être vu, ce qui peut être connu et ce qui peut être fait. À mesure que les armées s'appuient de plus en plus sur l'intelligence artificielle et les réseaux automatisés, le défi ne sera pas seulement de construire de meilleures armes. Il s'agira de maintenir le jugement et le contrôle humains dans un monde où les machines sont de plus en plus celles qui donnent un sens à la violence. L'avenir de la guerre dépendra de notre capacité à comprendre ces nouvelles règles constitutionnelles et à garantir que le pouvoir de décider qui vit et qui meurt reste entre les mains des humains, même si les machines font de plus en plus le travail de vision.