💻 computer science

Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

Dit artikel pleit voor het invoeren van een institutioneel vetorecht als essentieel bestuursprincipe om de militarisering van grote redeneringsmodellen te voorkomen door onderzoekers daadwerkelijke bevoegdheid te geven om schadelijke toepassingen te blokkeren, waarbij de governance-ontwerpen door de meest kwetsbare gemeenschappen moeten worden geleid.

Oorspronkelijke auteurs: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

Gepubliceerd 2026-03-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

🚨 Het Kernprobleem: De "Lege Belofte"

Stel je voor dat je een superkrachtige robot bouwt die alles kan doen: van het regelen van verkeerslichten tot het besturen van vliegtuigen. Maar er is een groot risico: deze robot kan ook worden gebruikt om mensen te vervolgen of oorlogen te voeren.

Op dit moment zeggen onderzoekers: "We zijn ons bewust van het gevaar. We hebben een mooi etiket op de doos geplakt met de tekst: 'Gebruik dit niet voor kwaad'."

Het probleem? Dat etiket heeft geen tanden.
Het is alsof je een deur dichtdoet, maar de sleutel bij de dader laat liggen. De onderzoekers hebben geen echte macht om te zeggen: "Nee, deze robot gaat niet naar dat leger." Ze moeten het gewoon laten gebeuren omdat ze bang zijn hun geld of hun baan te verliezen. Dit noemen de auteurs "georganiseerd onverantwoordelijkheid": iedereen zegt "het is niet mijn schuld", terwijl het kwaad toch gebeurt.

🔑 De Oplossing: De "Veto-Knop"

Het paper stelt een nieuwe oplossing voor: Institutionele Vetomacht.

Stel je voor dat er in het laboratorium een rode knop zit met het opschrift "STOP".

Hoe het nu werkt: Als een leger komt en vraagt om de robot, zegt de universiteit: "Oeps, we hebben een etiket, maar we kunnen ze niet weigeren."
Hoe het moet werken: De universiteit heeft een rechterlijke macht om te zeggen: "Nee, we geven deze technologie niet aan jullie, omdat jullie hem voor gevaarlijke doeleinden gaan gebruiken."

Dit is geen willekeurige "nee". Het is een formele, beschermde macht om de verspreiding van onderzoek te blokkeren zodra er een geloofwaardig risico is dat het wordt gebruikt als wapen of voor surveillance.

🎭 Waarom "Gewone Ethiek" Faalt (De Drie Valkuilen)

De auteurs leggen uit waarom goede bedoelingen niet genoeg zijn, met drie simpele vergelijkingen:

De "Verantwoordelijkheids-Diffusie" (Het Potlood van de Paus):
Als er een lange keten is (onderzoeker -> universiteit -> financier -> bedrijf), en er gebeurt iets slechts, wijst iedereen naar de ander. "Ik heb alleen de code geschreven," "Ik heb alleen gefinancierd," "Ik heb alleen de machine gebouwd." Niemand voelt zich verantwoordelijk. Een veto-knop maakt iemand echt verantwoordelijk.
De "Slechte Selectie" (De Racer die niet remt):
Stel je een race voor. Als één coureur remt omdat hij bang is voor ongelukken, maar de anderen niet, dan wint de remmende coureur nooit. Hij wordt zelfs uit de race gegooid. Zolang er geen regels zijn die iedereen dwingen om te remmen, zullen de "slechte" coureurs (die alles voor wapens willen) winnen. Een veto maakt het remmen verplicht voor iedereen.
Het "Ethiek-Wasproces" (De Schone Laken):
Soms doen organisaties alsof ze het goed doen door een rapport te schrijven: "We hebben nagedacht over de risico's!" Maar ze veranderen niets. Het is alsof je je handen wast met water dat nog steeds vuil is. Je voelt je schoon, maar je bent het niet. Een veto dwingt je om echt te handelen, niet alleen om te schrijven.

🌍 Wie moet de Knop Drukken? (De Belangrijkste Regel)

Dit is misschien het meest revolutionaire deel van het paper.

Vandaag de dag beslissen rijke universiteiten en machtige tech-bazen in het Westen over wat er met AI gebeurt. Maar wie lijdt het meest onder deze technologie? Mensen in oorlogsgebieden, minderheidsgroepen en mensen die bewaakt worden.

De auteurs zeggen: "Die mensen moeten de sleutel hebben."
Stel je voor dat je een huis bouwt. Je vraagt niet aan de architect wat hij denkt over de ramen; je vraagt aan de mensen die er gaan wonen of ze veilig voelen.

Als een AI-systeem wordt gebruikt om een bepaalde bevolkingsgroep te vervolgen, moet die bevolkingsgroep de macht hebben om te zeggen: "Stop, dit gaat niet door."
Zonder hun stem is de "veto" slechts een instrument van de elite, niet van de slachtoffers.

🛠️ Hoe werkt dit in de praktijk? (Geen Magie, Wel Regels)

Het paper zegt niet dat we nieuwe wetten nodig hebben die de wereld veranderen. We kunnen het nu al doen met bestaande systemen:

Universiteiten: Kunnen in hun contracten met bedrijven zetten: "Wij geven onze uitvindingen alleen als jullie beloven ze niet voor wapens te gebruiken. Als jullie dat doen, halen we het contract in."
Conferenties: Kunnen eisen dat onderzoekers een "dual-use" verklaring tekenen voordat hun werk wordt gepubliceerd.
Financiers: Kunnen zeggen: "Wij geven alleen geld als de universiteit een comité heeft dat deze vetomacht heeft."
Online Repositories (zoals GitHub): Kunnen software zo instellen dat je alleen toegang krijgt als je belooft het niet voor slechte doeleinden te gebruiken.

🏁 Conclusie: De Keuze

Het paper eindigt met een duidelijke boodschap:
We hebben een keuze.

Optie A: Doorgaan met mooie praatjes, etiketten en "verantwoordelijke AI" terwijl de technologie steeds meer wordt gebruikt voor oorlog en onderdrukking.
Optie B: De macht teruggeven aan de mensen die het gevaar lopen. Een systeem creëren waarin we echt "nee" kunnen zeggen tegen wapens, en waarin die "nee" wordt gehoord en gehandhaafd.

Kort samengevat:
Ethiek zonder macht is als een paraplu zonder stof. Het ziet er mooi uit, maar je wordt toch nat. We hebben een veto-knop nodig, bediend door de mensen die het meest te verliezen hebben, om ervoor te zorgen dat AI een hulpmiddel blijft en geen wapen wordt.

Titel: DIAL E FOR ETHICAL ENFORCEMENT: INSTITUTIONAL VETO POWER AS A GOVERNANCE PRIMITIVE

Publicatie: AI for Peace Workshop bij ICLR 2026 (geaccepteerd)
Auteurs: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary.

1. Het Probleem: Het Governance-Paradox

Het paper identificeert een fundamenteel falen in de huidige AI-governance: er bestaat een breed ethisch bewustzijn en uitgebreide kennis over risico's (zoals militarisering, surveillance en misbruik), maar er ontbreekt formele autoriteit om deze schadelijke toepassingen te blokkeren.

De "Georganiseerde Irresponsibiliteit": Huidige mechanismen zoals "Model Cards" en "Responsible AI"-verklaringen fungeren als reputatiesignalen die losstaan van de besluitvormingsarchitectuur. Ze creëren een situatie waarin elke actor (onderzoekers, universiteiten, bedrijven) controle kan ontkennen terwijl schade toch optreedt.
Het Ontbrekende Primitief: De auteurs stellen dat het probleem niet ethisch, maar governance-technisch is. Er ontbreekt een "institutioneel vetorecht" (institutional veto power): een formele bevoegdheid om het gebruik of de distributie van onderzoek te stoppen wanneer er geloofwaardige risico's op wapenizing (militarisering) of schending van het internationaal recht zijn.
Formele Representatie: De auteurs formuleren dit als een logische implicatie:
- Zonder autoriteit ( $A$ ): Zelfs met ethische kennis ( $K$ ) leidt dit tot militarisering ( $M$ ). $(K \land \neg A) \Rightarrow M$ .
- Met een beschermd vetorecht ( $V$ ) en risicodetectie ( $R$ ): Dit voorkomt militarisering. $(K \land V \land R) \Rightarrow \neg M$ .
- Conclusie: De waarschijnlijkheid van militarisering bij aanwezigheid van een vetorecht is verwaarloosbaar klein vergeleken met de situatie zonder vetorecht.

2. Methodologie en Benadering

Het paper gebruikt een multidisciplinaire benadering die governance-theorie, ethiek en institutioneel ontwerp combineert:

Comparatieve Analyse: De auteurs analyseren bestaande governance-modellen in andere hoog-risicodomeinen:
- Kernnon-proliferatie: Het IAEA-systeem met inspecties en sancties.
- Biomedische ethiek: Institutional Review Boards (IRBs) die onderzoek vóór uitvoering moeten goedkeuren.
- Exportcontrole: Regimes (zoals ITAR/EAR) die de overdracht van dual-use technologieën beperken.
Kaartlegging van Veto-punten: Het paper identificeert specifieke momenten in de onderzoekslifecycle waar beslissingen worden genomen die tot militarisering leiden (financiering, publicatie, licentie, partnerschappen).
Theoretisch Model (Appendix A): Een "toy model" wordt gebruikt om wiskundig aan te tonen waarom vrijwillige ethiek faalt door:
1. Verantwoordelijkheidsdiffusie: Hoe meer actoren er zijn, hoe kleiner de individuele afdwingbaarheid.
2. Adverse Selectie: Instellingen die zich vrijwillig beperken, verliezen concurrentievoordeel ten opzichte van diegenen die dat niet doen.
3. Ethics Laundering: Documentatie van "due consideration" vervangt daadwerkelijke interventie zonder afdwingbare autoriteit.
Ontwerpprincipes: Het paper stelt concrete ontwerpprincipes voor voor een legitiem vetorecht, waaronder beperkte scope, collectieve besluitvorming, beroepsprocedures en bescherming tegen vergelding.

3. Belangrijkste Bijdragen

De paper introduceert en operationaliseert het concept van Institutioneel Vetorecht als een governance-primitief voor AI.

Definitie van Veto: Een juridisch en procedureel beschermd recht om de overdracht of inzet van onderzoek te blokkeren bij specifieke drempels (bijv. integratie in autonome wapens zonder menselijke controle, surveillance van gemarginaliseerde groepen).
Verschuiving van Macht: Het stelt dat de gemeenschappen die het meest kwetsbaar zijn voor militaire toepassingen (bijv. bevolkingsgroepen in conflictgebieden, minderheden) leiding moeten geven aan het governance-ontwerp, in plaats van slechts als adviseurs te fungeren.
Implementatiepaden: Het paper biedt vijf concrete, niet-revolutionaire wegen om vetorecht in bestaande structuren in te bouwen zonder nieuwe verdragen:
1. Universiteitscontracten: Invoegen van veto-clausules in licentieovereenkomsten (Technology Transfer Offices).
2. Conferentie-niveau: Verplichte openbaarmaking van dual-use risico's en koppelen van publicatie aan gebruiksvoorwaarden.
3. Financieringsinstanties: Voorwaarden stellen aan subsidies (bijv. NSF, DARPA) dat instellingen een veto-comité moeten hebben.
4. Repository-niveau: Machine-leesbare gebruiksbeperkingen in metadata van modellen en datasets (bijv. Hugging Face, GitHub).
5. Professionele Normen: Bindende gedragscodes voor onderzoekers die weigering van militaire financiering mogelijk maken.
Tweeledige Rol: Het vetorecht dient niet alleen om wapenizing te blokkeren, maar ook om onderzoek gericht op vrede en rechtvaardigheid actief te beschermen en te faciliteren.

4. Resultaten en Analyse

Hoewel het paper geen empirische data presenteert in de traditionele zin (zoals experimenten met AI-modellen), levert het een robuuste analytische en theoretische validatie:

Validatie van Bestaande Modellen: De analyse toont aan dat de IAEA, IRBs en exportcontroles succesvol zijn geweest omdat ze bindende autoriteit hadden op beslispunten, niet omdat onderzoekers "ethischer" werden.
Analyse van Falen: De "toy model" berekeningen tonen aan dat zonder een centraal veto-punt, de evenwichtstoestand (Nash-evenwicht) neigt naar minimale beperkingen ( $r^* \approx 0$ ) vanwege concurrentiedruk. Met een veto ( $\bar{R}$ ) wordt de beperking collectief afdwingbaar.
Identificatie van Veto-Punten: Het paper toont aan dat militarisering vaak het resultaat is van routineuze institutionele keuzes (bijv. het accepteren van DARPA-geld of het ondertekenen van een contract met een defensiebedrijf) die momenteel niet onderworpen zijn aan ethische toetsing.
Risico-analyse: Het paper adresseert bezwaren zoals "politieke kaping" en "vertraging van innovatie" door te stellen dat de risico's van onbeperkte militarisering groter zijn dan de risico's van een goed ontworpen, beperkt veto-systeem met beroepsmogelijkheden.

5. Betekenis en Impact

De betekenis van dit paper ligt in de verschuiving van het discours over AI-veiligheid:

Van Ethiek naar Governance: Het argument dat "ethiek zonder macht" nutteloos is voor het voorkomen van schadelijke toepassingen. Het paper pleit voor een verschuiving van "hoe kunnen we onderzoekers aanmoedigen om zich te beperken?" naar "hoe kunnen we beperkingen structureel rationeel maken?".
Centrering van Gemeenschappen: Het benadrukt dat governance die niet wordt geleid door de gemeenschappen die het meest worden geraakt door AI-militarisering, epistemisch beperkt en moreel ontoereikend is.
Praktische Toepasbaarheid: In tegenstelling tot veel theoretische voorstellen, biedt dit paper een "hoe"-handleiding. Het laat zien dat vetorecht niet noodzakelijkerwijs nieuwe internationale verdragen vereist, maar kan worden geïmplementeerd via bestaande contracten, licenties en grantvoorwaarden.
Noodzaak voor Verandering: De conclusie is dat de AI-gemeenschap moet kiezen tussen "performative ethics" (ethiek als show) en "afdwingbare verantwoordelijkheid". Zonder institutioneel vetorecht zullen de huidige governance-mechanismen falen om de militarisering van grote redeneringsmodellen te stoppen.

Kortom, het paper biedt een blauwdruk voor het transformeren van symbolische veiligheidsmaatregelen naar juridisch en procedureel afdwingbare governance, waarbij de focus ligt op het blokkeren van schadelijke downstream-toepassingen in plaats van het beperken van wetenschappelijke kennis zelf.