Military and Public Attitudes Toward Autonomous Weapons: Stage-Specific Drivers and Value-Based Moderation

Oorlogvoering is altijd gevormd door de instrumenten van de tijd, van het eerste stenen projectiel tot de complexe machines van de twintigste eeuw. Vandaag de dag komt er een nieuw soort instrument op: wapens die hun eigen doelen kunnen kiezen en kunnen beslissen wanneer ze toeslaan, geleid door kunstmatige intelligentie in plaats van een menselijke vinger op een trekker. Deze systemen, vaak autonome wapens genoemd, roepen een diepgaande vraag op die verder gaat dan techniek: bij welk punt wordt een machine te onafhankelijk om vertrouwd te worden met leven en dood? Het debat gaat niet alleen over de vraag of deze machines werken, maar of mensen bereid zijn hen te laten werken. Het hangt af van twee verschillende ideeën. Ten eerste is er het idee van het ontwikkelen van de technologie, wat voor velen aanvoelt als een strategische noodzaak. Ten tweede is er het idee van het daadwerkelijk inzetten ervan in een echt gevecht, waar de gevolgen onmiddellijk en onomkeerbaar zijn. Het begrijpen van het verschil tussen het ondersteunen van een nieuwe uitvinding en het ondersteunen van het gebruik ervan in de strijd is cruciaal, omdat de mensen die met de resultaten moeten leven — de soldaten op de grond en de burgers die de oorlogen financieren — deze twee stadia vaak heel anders zien.

Een team van onderzoekers in Zuid-Korea zette zich scharpe om deze verschillen in kaart te brengen door twee zeer verschillende groepen mensen naar hun opvattingen over autonome wapens te vragen. Ze ondervroegen 1.222 leden van het algemene publiek en 155 actieve militairen. Het doel was om te zien of de mensen die deze wapens daadwerkelijk zouden moeten gebruiken, hetzelfde voelden als de rest van de bevolking, en om te begrijpen welke factoren, van persoonlijke waarden tot technische kennis, die gevoelens aansturen. De onderzoekers vroegen niet simpelweg om een "ja" of "nee". In plaats daarvan braken ze de vraag af door apart te vragen naar de ontwikkeling van de technologie en de inzet ervan in gevechten. Ze keken ook naar de mate waarin mensen kennis hadden van kunstmatige intelligentie, wat zij geloofden over de ethiek van oorlog, en wat zij het meest waardeerden in de samenleving, zoals economische stabiliteit versus persoonlijke vrijheid.

De resultaten onthulden een opvallende splitsing in perspectief. Het militair personeel was enthousiaster over het idee van het ontwikkelen van autonome wapens dan het algemene publiek. Dit is logisch, aangezien soldaten nieuwe technologie vaak zien als een manier om een tactisch voordeel te behalen of hun eigen leven te beschermen. Echter, wanneer de vraag verschoof naar het daadwerkelijke gebruik van deze wapens in een echte strijd, werd de militaire groep aanzienlijk voorzichtiger dan het publiek. Terwijl het publiek relatief meer openstond voor het idee van machines die dodelijke beslissingen nemen, waren de militairen, die de mist van de oorlog en de last van verantwoordelijkheid begrijpen, veel minder bereid om die macht over te dragen. Het is alsof het leger het wapen ziet als een nuttig instrument om te bouwen, maar een harde grens trekt bij het laten overhalen van die trekker door dat instrument zonder dat er een mens vlakbij staat.

Deze voorzichtigheid onder de militairen was niet willekeurig; het was diep verbonden met hun gevoel van ethische verantwoordelijkheid. De studie toonde aan dat de sterkste factor die bepaalde of iemand deze wapens in gevechten zou accepteren, hun geloof was dat de machines de oude regels van de oorlog konden volgen. Deze regels vereisen dat een wapen het verschil kan zien tussen een soldaat en een burger, dat het gebruikte geweld evenredig is aan de dreiging, en dat elke inspanning wordt geleverd om onnodige schade te voorkomen. Wanneer mensen er vertrouwen in hadden dat een autonoom systeem aan deze strikte ethische normen kon voldoen, waren ze eerder geneigd het gebruik ervan te steunen. Maar wanneer zij twijfelden aan het vermogen van de machine om die morele onderscheiden te maken, daalde de steun scherp. Voor het leger was deze twijfel zelfs nog prominenter, wat suggerekelijk aan het feit dat zij die het dichtst bij de realiteit van het gevecht staan, zich zeer bewust zijn van de moeilijkheid om een machine te programmeren om in een fractie van een seconde morele oordelen te vellen.

Misschien wel de meest verrassende ontdekking betrof wat er gebeurt wanneer mensen meer weten over de technologie. Een algemeen aanvaarde aanname is dat als mensen begrijpen hoe kunstmatige intelligentie werkt, zij er comfortabeler mee zullen zijn. De onderzoekers vonden het tegenovergestelde waar met betrekking tot het gebruik van deze wapens. Naarmate de kennis van mensen over kunstmatige intelligentie toenam, nam hun steun voor het gebruik van autonome wapens in de strijd juist af. Dit suggereert dat een dieper begrip van de technologie niet leidt tot blind optimisme. In plaats daarvan leidt het tot een geïnformeerde scepsis. Degenen die weten hoe deze systemen werken, hoe ze leren van data en waar ze kunnen falen, zijn eerder geneigd de risico's en onzekerheden te zien die gepaard gaan met het overlaten van leven-of-doodbeslissingen aan hen. Kennis fungeert in deze context eerder als een rem dan als een versneller.

De studie toonde ook aan dat de kernwaarden van een persoon een grote rol spelen in hoe zij op deze nieuwe kennis reageren. Mensen die materiële zaken prioriteren, zoals economische stabiliteit en nationale veiligheid, hadden de neiging hun steun voor deze wapens te behouden, zelfs naarmate zij er meer over leerden. Hun focus op veiligheid en kracht leek hun ethische zorgen te overtreffen. In contrast hiermee reageerden mensen die post-materiële waarden prioriteren, zoals mensenrechten, vrijheid van meningsuiting en milieubescherming, heel anders. Naarmate hun kennis van kunstmatige intelligentie groeide, kelderde hun steun voor het gebruik van autonome wapens. Voor deze groep werden de ethische implicaties van het overdragen van dodelijke macht aan een machine prominenter naarmate zij de technologie beter begrepen. Hun waarden maakten hen gevoeliger voor de potentiële fouten en de morele kosten van automatisering.

De onderzoekers keken ook naar de specifieke taken die deze wapens zouden kunnen uitvoeren. Steun voor autonome wapens was geen algemene goedkeuring; het hing sterk af van de missie. Zowel het publiek als het leger waren meer bereid deze systemen te accepteren voor taken zoals surveillance, verkenning en informatieverzameling. Echter, de steun daalde aanzienlijk wanneer de missie directe aanvallen, het raken van hoogwaardige doelen of agressieve gevechten inhouden. Dit geeft aan dat mensen de technologie niet volledig verwerpen, maar dat zij zeer selectief zijn over waar en hoe deze wordt ingezet. Ze zijn comfortabel met machines die kijken en luisteren, maar veel minder comfortabel met machines die toeslaan.

Uiteindelijk schetst de studie een beeld van een samenleving die niet simpelweg voor of tegen autonome wapens is, maar die een complex landschap van vertrouwen, risico en ethiek navigeert. Het pad naar de inzet van deze systemen is niet alleen een kwestie van ze beter laten werken; het is een kwestie van mensen ervan overtuigen dat ze verantwoordelijk kunnen worden gebruikt. De kloof tussen de wens van het leger om de technologie te ontwikkelen en hun aarzeling om deze te gebruiken, suggereert dat de grootste hindernis niet de technische capaciteit is, maar de ethische legitimiteit. Als de mensen die met de gevolgen van oorlog moeten leven niet overtuigd kunnen worden dat deze machines de regels van menselijk conflict zullen respecteren, dan zal de technologie in het laboratorium blijven, ongeacht hoe geavanceerd deze ook wordt. De bevindingen suggereren dat de toekomst van deze wapens minder afhangt van de code geschreven door ingenieurs en meer van de morele grenzen die worden getrokken door de mensen die met de resultaten moeten leven.