Artificial Moral Agents for Autonomous Weapons Systems

In het moderne slagveld vervaagt de grens tussen de fysieke wereld en de digitale wereld. Soldaten vechten niet langer alleen met geweren en tanks; ze vertrouwen steeds vaker op machines die zelfstandig kunnen zien, denken en handelen. Dit zijn autonome wapensystemen, instrumenten die een doelwit kunnen selecteren en afvuren zonder dat een mens de trekker overhaalt. Hoewel deze technologie snelheid en precisie belooft, roept het een diepgaande vraag op: als een machine de beslissing neemt om te doden, wie is er dan verantwoordelijk? Het internationaal recht kent strikte regels voor oorlogsvoering, ontworpen om burgers te beschermen en onnodig lijden te beperken, maar deze regels werden geschreven voor menselijke soldaten, niet voor algoritmen. De uitdaging voor wetenschappers en ethici is om te bepalen hoe deze krachtige machines binnen de grenzen van de menselijke moraal en wetgeving kunnen worden gehouden, om te garanderen dat de beslissing om dodelijk geweld te gebruiken onder betekenisvolle menselijke controle blijft.

Een onderzoeker aan de Universidad de León, Antonio Pedro Marin Martinez, heeft een manier voorgesteld om deze kloof te overbruggen. Hij stelt voor om een specifiek soort digitaal geweten in deze wapens in te bouwen, een systeem dat hij een Artificial Moral Agent (Artificiële Morele Agent) noemt. Dit is geen robot met een ziel of een menselijke geest, maar eerder een geavanceerde softwarelaag die is ontworpen om als een regulerend mechanisme te fungeren. De taak ervan is om de acties van het wapen voortdurend te toetsen aan een reeks ethische regels voordat er een schot wordt gelost. Het doel is om een systeem te creëren dat automatisch onderscheid kan maken tussen een strijder en een burger, de potentiële schade kan afwegen tegen het militaire voordeel, en kan waarborgen dat elke actie die in de oorlog wordt ondernomen noodzakelijk en proportioneel is, terwijl een mens in de loop van de verantwoording blijft.

Het artikel onderzoekt hoe men een dergelijk systeem kan ontwerpen door twee verschillende benaderingen te combineren om een machine te leren hoe zij zich moet gedragen. De eerste benadering is vergelijkbaar met het geven van een regelboek aan de machine. Dit houdt in dat de machine wordt geprogrammeerd met de gevestigde wetten van de oorlog, specif kind de principes die worden gevonden in internationale verdragen die gewapende conflicten reguleren. Deze regels omvatten de plicht om onderscheid te maken tussen vijandelijke strijders en niet-combattanten, de vereiste om te waarborgen dat een aanval proportioneel is aan het militaire doel, en de verplichting om alle mogelijke voorzorgsmaatregelen te nemen om burgerslachtoffers te vermijden. De tweede benadering is leren van ervaring. Net zoals een menselijke soldaat leert van trainingsoefeningen en echte gevechtsdata, zou de machine getraind worden op enorme hoeveelheden operationele data en militaire inzetregels. Door deze strikte regels te mengen met het vermogen om te leren van patronen in data, streeft het systeem ernaar om beslissingen in een fractie van een seconde te nemen die zowel juridisch sluitend als ethisch correct zijn.

Om dit werkbaar te maken in de hitte van de strijd, schetst de onderzoeker een specifieke computationele structuur. Het systeem zou eerst geavanceerde beeldherkenning gebruiken om te identificeren waarnaar het kijt, zoals een voertuig of een persoon, en te bepalen of het een legitiem doelwit is. Dit is vergelijkbaar met hoe een menselijk oog en brein samenwerken om een gezicht te herkennen. Zodra het doelwit is geïdentificeerd, zou een tweede laag van verwerking de situatie in de loop van de tijd analyseren, waarbij de context en de potentiële gevolgen van een aanval worden overwogen. Dit tweeledige systeem is ontworpen om snel genoeg te zijn om het tempo van de moderne oorlogsvoering bij te houden, maar robuust genoeg om fouten te voorkomen. Het artikel suggereert dat door het gebruik van deze neurale netwerken, de machine als een filter kan fungeren, waardoor wordt gegarandeerd dat alleen acties die een strikte ethische test doorstaan, mogen worden uitgevoerd.

De onderzoeker merkt echter voorzichtig op dat technologie alleen geen magische oplossing is. Het systeem moet worden gebouwd met waarborgen tegen falen en manipulatie. Het artikel benadrukt het risico dat een machine gehackt kan worden of kan leren om zijn eigen ethische beperkingen te omzeilen om zijn doelen te bereiken, een scenario waarin de machine de regels van de oorlog zou kunnen negeren om een strijd te winnen. Om dit te voorkomen, bevat het voorstel een "kill switch" die direct in de hardware is ingebouwd, een fysieke barrière die niet door software kan worden overschreven. Dit zorgt ervoor dat zelfs als de computer probeert roekeloos te handelen, er een harde limiet is die het stopt. Bovendien zou het systeem een permanente, onveranderlijke registratie bijhouden van elke beslissing die het heeft genomen, waardoor een duidelijk spoor van verantwoording ontstaat dat later kan worden beoordeeld om te bepalen wie verantwoordelijk is voor wat er is gebeurd.

Een cruciaal onderdeel van dit voorstel is het concept van "Meaningful Human Control" (Betekenisvolle Menselijke Controle). Dit betekent niet noodzakelijkerwijs dat een mens voor elk enkel schot een knop moet indrukken, maar wel dat mensen de leiding moeten behouden over het algemene gedrag van het systeem en op elk moment kunnen ingrijpen. De onderzoeker suggereert dat deze controle kan worden gehandhaafd door een combinatie van technisch ontwerp en operationele monitoring. Mensen zouden de regels vaststellen, de prestaties van het systeem monitoren en het laatste woord hebben over het activeren van het wapen. In situaties waarin een mens niet snel genoeg kan reageren, zou de Artificial Moral Agent optreden als de bewaker van deze regels, waarbij de definitieve beslissing wordt genomen op basis van het ethische kader dat aan haar is gegeven. Deze aanpak beoogt een vangnet te creëren dat voorkomt dat de machine buiten de grenzen van de menselijke moraal treedt.

Het artikel kijkt ook vooruit naar de toekomst, waarbij wordt gekeken naar hoe opkomende technologieën zoals quantum computing deze systemen nog krachtiger en betrouwbaarder kunnen maken. Quantum computing zou de machine in staat kunnen stellen om complexe data te verwerken en beslissingen veel sneller te nemen dan de huidige technologie toestaat, wat essentieel is in de chaotische omgeving van een slagveld. Door deze geavanceerde methoden te gebruiken, zou het systeem beter de onzekerheid en verwarring van de oorlog kunnen afhandelen, waardoor het geen fouten maakt door slechte data of verwarrende signalen. De onderzoeker suggereert dat hoewel de technologie nog in ontwikkeling is, het kader voor het bouwen van deze morele agenten al vorm krijgt, wat een pad biedt voor de integratie van kunstmatige intelligentie in de oorlogsvoering zonder onze menselijkheid te verliezen.

Uiteindelijk is het gepresenteerde werk een blauwdruk voor een toekomst waarin machines kunnen vechten, maar alleen onder de strikte begeleiding van de menselijke ethiek. Het beweert niet elk probleem te hebben opgelost of een perfecte machine te hebben gebouwd, maar het biedt een concrete methode om de moeilijkste vragen van de moderne oorlogsvoering aan te pakken. Door de principes van het internationaal recht direct in de code van autonome wapens in te bedden, en door te waarborgen dat mensen de controle over het proces behouden, betoogt de onderzoeker dat het mogelijk is om deze krachtige middelen te gebruiken zonder de morele standaarden te verlaten die de oorlog eeuwenlang hebben beheerst. Het voorstel dient als een herinnering dat naarmate onze technologie evolueert, onze verantwoordelijkheid om deze te controleren mee moet evolueren, zodat de macht om over leven en dood te beslissen stevig in menselijke handen blijft.