Sense, Sense-making and the Changing Character of Warfare

Oorlog is altijd een strijd van wilskracht geweest, een botsing waarbij menselijke leiders proberen hun vijanden te overtreffen in denken en manoeuvreren. Eeuwenlang is de mist van de oorlog een constante metgezel geweest, een mengeling van verwarring, angst en ontbrekende informatie die elke beslissing moeilijk maakt. Soldaten en commandanten vertrouwden op hun eigen ogen, oren en oordeel om door die mist heen te snijden en te beslissen wat echt is en wat een truc is. Maar in de eenentwintigste eeuw is er een stille revolutie gaande die verandert hoe legers het slagveld zien. In plaats van uitsluitend te vertrouwen op menselijke zintuigen, dragen moderne legers de taak van het zien en begrijpen over aan machines. Dichte netwerken van sensoren, satellieten en kunstmatige intelligentie verzamelen nu gegevens met snelheden die geen mens kan evenaren, en sorteren door bergen informatie om commandanten te vertellen waar ze op moeten schieten en wanneer. Deze verschuiving gaat niet alleen over het sneller nemen van beslissingen; het gaat over het veranderen van wie of wat mag beslissen wat als de waarheid telt midden in een gevecht.

Een nieuw artikel van David Galbreath, een onderzoeker aan de Universiteit van Bath, onderzoekt wat er gebeurt wanneer we machines het zware werk van de interpretatie laten doen. De studie stelt een diepgaande vraag: als een computer bepaalt wat een soldaat ziet, en die computer maakt een fout, wie is dan verantwoordelijk? Het artikel betoogt dat deze digitale systemen niet slechts instrumenten zijn, zoals een beter geweer of een snellere vrachtwagen. In plaats daarvan fungeren ze als de onzichtbare regels van een spel, die bepalen wat mogelijk is, wat zichtbaar is en wie de macht heeft. Galbreath suggereert dat wanneer deze systemen falen, ze de verborgen politieke structuren van de moderne oorlogvoering onthullen, waarmee wordt aangetoond dat de machines zelf nu actieve deelnemers aan het conflict zijn, en niet slechts passieve helpers.

Om dit te begrijpen, moet men eerst kijken naar hoe het concept van "zinverlening" (sense-making) is veranderd. In het verleden keek een radaroperator naar een scherm, zag een stipje en gebruikte zijn training om te beslissen of het een bevriende machine of een vijandige raket was. Tegenwoordig doen kunstmatige intelligentiesystemen dit sorteren automatisch. Ze scannen enorme hoeveelheden gegevens, identificeren patronen en markeren doelwitten voor menselijke controle. Deze delegatie van mentale arbeid betekent dat machines nu de realiteit definiëren die menselijke commandanten ervaren. Als de machine denkt dat een burgerauto een militaire vrachtwagen is, ziet de menselijke commandant het wellicht ook als een vrachtwagen. Het artikel wijst erop dat dit een nieuw soort gevaar creëert. De machines zijn niet onfeilbaar; ze kunnen worden misleid door elektronische interferentie, of ze kunnen fouten maken omdat ze zijn getraind op slechte data. Wanneer zij falen, zijn de resultaten niet slechts technische storingen; het zijn crises van autoriteit.

Galbreath put uit de theorie van het "mechanisch constitutionalisme" om deze verschuiving te verklaren. Dit idee suggereert dat machines geen neutrale objecten zijn, maar diep verweven zijn met de juridische en politieke orde van de samenleving. Net zoals een grondwet de regels bepaalt voor hoe een regering functioneert, bepalen digitale netwerken de regels voor hoe oorlog wordt gevoerd. Zij beslissen welke informatie doorlaat, hoe snel deze beweegt en wie deze te zien krijgt. Wanneer deze netwerken soepel werken, zijn ze onzichtbaar. Maar wanneer ze breken — wanneer een signaal wordt gehinderd, een computer wordt gehackt of een algoritme een doelwit verkeerd classificeert — worden de verborgen regels blootgelegd. Een defect in het systeem onthult dat de macht om beslissingen te nemen is overgedragen van menselijke handen naar code. Dit is een kritiek moment, omdat het laat zien dat het vermogen van een staat om oorlog te voeren volledig afhankelijk is van de gezondheid van deze digitale infrastructuren. Als het netwerk instort, stort het vermogen van de staat om waar te nemen en te handelen eveneith met hem in.

Het artikel onderzoekt praktijkvoorbeelden om te laten zien hoe dit zich afspeelt. In recente conflicten, zoals die in Oekraïne en Gaza, hebben beide zijden kunstmatige intelligentie gebruikt om doelwitten te lokaliseren en drones te besturen. Deze systemen kunnen afbeeldingen en gegevens veel sneller verwerken dan welk menselijk team dan ook. Deze snelheid gaat echter gepaard met een prijs. Het artikel merkt op dat wanneer deze systemen worden gehinderd door elektronische oorlogvoering of worden misleid door valse signalen, de hele commandoketen in verwarring kan worden gebracht. Een radar kan worden overspoeld met valse doelwitten, waardoor het voor operators onmogelijk wordt om te weten wat echt is. Een algoritme kan een onschuldig object voor een dreiging aanzien, wat leidt tot een aanval die nooit had mogen plaatsvinden. Dit zijn niet slechts fouten; dit zijn momenten waarop de "grondwet" van het slagveld wordt herschreven door de vijand. De zijde die in staat is de sensoren van de ander te verblinden of hun data te corrumperen, verkrijgt een enorm voordeel, niet door meer tanks te vernietigen, maar door de vijand onmachtig te maken om te begrijpen wat er om hen heen gebeurt.

Deze transformatie dwingt tot een heroverweging van de klassieke ideeën over oorlog, in het bijzonder die van de 19e-eeuwse militaire theoreticus Carl von Clausewitz. Clausewitz beschreef oorlog als een "duel" tussen twee tegenovergestelde willen, waarbij wrijving — de weerstand en onzekerheid van de echte wereld — zaken bemoeilijkt. Galbreath betoogt dat digitale oorlogvoering de aard van deze wrijving heeft veranderd. Het gaat niet langer alleen over menselijke vermoeidheid of slecht weer. Nu komt wrijving voort uit de machines zelf. Een computer kan aarzelen vanwege een softwarefout, of hij kan te snel handelen voor een mens om hem te stoppen. De "mist" van de oorlog is niet langer alleen een gebrek aan informatie; het kan een overdaad aan valse informatie zijn, een situatie waarin de commandant zo overtuigd is van de gegevens van de machine dat hij de fout pas ziet als het te laat is. Het duel vindt niet langer alleen plaats tussen twee generaals; het is een duel tussen twee verschillende sets sensoren en algoritmen, die elk proberen hun eigen versie van de werkelijkheid aan de ander op te leggen.

De studie belicht ook een groeiend probleem met verantwoordelijkheid. In traditionele oorlogvoering is de commandoketen duidelijk als een soldaat een fout maakt. Maar wanneer een systeem van kunstmatige intelligentie een doelwit verkeerd identificeert, wordt het erg moeilijk om te zeggen wie de schuld draagt. Was het de ingenieur die de code schreef? De commandant die het systeem vertrouwde? Of de machine zelf? Het artikel suggereert dat deze ambiguïteit gevaarlijk is. Het creëert een gat waarin niemand zich volledig in controle voelt, terwijl iedereen vertrouwt op de machine om beslissingen te nemen over leven en dood. Dit is vooral het geval wanneer systemen opereren op snelheden die te hoog zijn voor menselijke interventie. Als een machine in een fractie van een seconde besluit een wapen af te vuren, is er geen tijd voor een mens om de beslissing in twijfel te trekken. De autoriteit om te doden is gedelegeerd aan een proces dat niet op dezelfde manier moreel verantwoordelijk kan worden gehouden als een persoon.

Uiteindelijk concludeert het artikel dat we deze digitale systemen niet kunnen behandelen als eenvoudige hulpmiddelen die oorlog efficiënter maken. Ze veranderen het fundamentele karakter van oorlog; ze veranderen hoe het wordt waargenomen, georganiseerd en bestuurd. De auteur betoogt dat we moeten stoppen met het zien van machines als louter helpers en moeten beginnen ze te zien als politieke actoren die het slagveld structureren. Zij definiëren wat gezien kan worden, wat bekend kan zijn en wat gedaan kan worden. Naarmate legers steeds meer vertrouwen op kunstmatige intelligentie en geautomatiseerde netwerken, zal de uitdaging niet alleen liggen in het bouwen van betere wapens. Het zal gaan om het behouden van menselijk oordeel en controle in een wereld waar de machines steeds vaker degene zijn die de geweldshandelingen duiden. De toekomst van oorlog zal afhangen van de vraag of we deze nieuwe constitutionele regels kunnen begrijpen en ervoor kunnen zorgen dat de macht om te beslissen wie leeft en wie sterft in menselijke handen blijft, zelfs terwijl de machines steeds meer het werk van het kijken doen.