Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

"Dial E for Ethical Enforcement: Institutional Veto Power as a Governance Primitive" (ICLR 2026 में स्वीकृत) के आधार पर, यहाँ एक विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र AI में एक महत्वपूर्ण शासन विरोधाभास (governance paradox) की पहचान करता है: जबकि लार्ज रीजनिंग मॉडल्स (LRMs) और दोहरे उपयोग वाली प्रौद्योगिकियों (dual-use technologies) के सैन्यीकरण के संबंध में व्यापक नैतिक जागरूकता और जोखिम संबंधी ज्ञान मौजूद है, फिर भी हानिकारक डाउनस्ट्रीम उपयोगों को रोकने की क्षमता लगभग शून्य है।

• मुख्य मुद्दा: वर्तमान शासन तंत्र (जैसे, मॉडल कार्ड, जिम्मेदार AI वक्तव्य, प्रभाव आकलन) निर्णय लेने वाली संरचनाओं के बजाय प्रतिष्ठा संबंधी संकेतों (reputational signals) के रूप में कार्य करते हैं। वे ज्ञान ($K$) तो उत्पन्न करते हैं, लेकिन उनके पास तैनाती को रोकने का संस्थागत अधिकार ($A$) नहीं होता।
• परिणाम: यह "संगठित गैर-जिम्मेदारी" (organized irresponsibility) की ओर ले जाता है, जहाँ अभिनेता नुकसान होने देने के बावजूद नियंत्रण से इनकार कर सकते हैं। शोध पत्र का तर्क है कि हस्तांतरण या तैनाती को रोकने के औपचारिक अधिकार के बिना, नैतिक ज्ञान प्रवर्तनीय सुरक्षा उपायों (enforceable safeguards) में परिवर्तित नहीं हो सकता।
• अंतराल (The Gap): मौजूदा साहित्य सैन्यीकरण को नैतिकता द्वारा कम किए जाने वाले एक 'डाउनस्ट्रीम परिणाम' के रूप में देखता है, न कि एक वास्तुशिल्प समस्या के रूप में जिसके लिए अधिकार के पुनर्वितरण की आवश्यकता है। यहाँ एक "शासन प्रिमिटिव" (governance primitive) की कमी है: एक औपचारिक संस्थागत वीटो शक्ति (Institutional Veto Power)।

2. कार्यप्रणाली और सैद्धांतिक ढांचा (Methodology and Theoretical Framework)

यह शोध पत्र सैद्धांतिक मॉडलिंग, तुलनात्मक संस्थागत विश्लेषण और परिचालन डिजाइन को संयोजित करने वाला एक बहुआयामी पद्धतिगत दृष्टिकोण अपनाता है:

• औपचारिक तर्क मॉडलिंग (Formal Logic Modeling): लेखक वर्तमान प्रणालियों की विफलता को प्रदर्शित करने के लिए एक तार्किक ढांचे को पेश करते हैं।
  • वर्तमान स्थिति: $(K \land \neg A) \implies M$ (बिना अधिकार के ज्ञान सैन्यीकरण की ओर ले जाता है)।
  • प्रस्तावित स्थिति: $(K \land V \land R) \implies \neg M$ (ज्ञान + वीटो + जोखिम की पहचान सैन्यीकरण को रोकती है)।
    यहाँ, $V$ एक कानूनी रूप से संरक्षित वीटो का प्रतिनिधित्व करता है, और $R$ विश्वसनीय जोखिम की पहचान है। मॉडल यह प्रतिपादित करता है कि $P(M | V) \ll P(M | \neg V)$।
• तुलनात्मक शासन विश्लेषण (Comparative Governance Analysis): लेखक वीटो शक्ति की व्यवहार्यता को प्रमाणित करने के लिए उच्च-जोखिम वाले क्षेत्रों में ऐतिहासिक उदाहरणों का विश्लेषण करते हैं:
  • परमाणु अप्रसार (Nuclear Nonproliferation): IAEA के अनिवार्य निरीक्षण और प्रौद्योगिकी हस्तांतरण प्रतिबंध।
  • बायोमेडिकल नैतिकता (Biomedical Ethics): संस्थागत समीक्षा बोर्ड (IRBs) जिनके पास कार्यान्वयन से पहले अनुसंधान को रोकने का बाध्यकारी अधिकार होता है।
  • निर्यात नियंत्रण (Export Controls): तंत्र (जैसे, ITAR, EAR) जो अंतिम-उपयोग की प्रतिबद्धताओं के आधार पर दोहरे उपयोग वाली प्रौद्योगिकियों के हस्तांतरण को प्रतिबंधित करते हैं।
• टॉय मॉडल सिमुलेशन (Appendix A): शासन श्रृंखलाओं का अनुकरण करने वाला एक गणितीय मॉडल "वीटो के बिना नैतिकता" के तीन विफलता मोड को प्रदर्शित करता है:
  1. जिम्मेदारी का प्रसार (Responsibility Diffusion): जैसे-जैसे अभिनेताओं की संख्या ($n$) बढ़ती है, व्यक्तिगत प्रवर्तनीयता ($\rho$) शून्य के करीब पहुँच जाती है।
  2. प्रतिकूल चयन (Adverse Selection): एक स्वैच्छिक संयम वातावरण में, प्रतिस्पर्धी जो नैतिकता की अनदेखी करते हैं, उन्हें फंडिंग/लाभ ($\beta$) प्राप्त होता है, जो संतुलन को सैन्यीकरण की ओर ले जाता है।
  3. एथिक्स लॉन्ड्रिंग (Ethics Laundering): दस्तावेजीकरण ($D$) वास्तविक हस्तक्षेप ($I$) के बिना कथित जिम्मेदारी को बढ़ाता है, जिससे कथित और वास्तविक नुकसान रोकथाम के बीच एक अंतर पैदा होता है।
• परिचालन डिजाइन (Operational Design): शोध पत्र केवल अमूर्त नीतिगत सिफारिशों के बजाय, वीटो शक्ति को लागू करने के ठोस मार्ग प्रस्तावित करता है (विश्वविद्यालय अनुबंध, सम्मेलन नीतियां, फंडिंग शर्तें, रिपॉजिटरी गवर्नेंस, और व्यावसायिक मानदंड)।

3. मुख्य योगदान (Key Contributions)

A. शासन प्रिमिटिव के रूप में संस्थागत वीटो शक्ति

शोध पत्र संस्थागत वीटो शक्ति को मनमाने ढंग से इनकार करने के रूप में नहीं, बल्कि विशिष्ट, विश्वसनीय जोखिमों (जैसे, हथियार बनाना, हाशिए के समूहों की निगरानी) की पहचान होने पर अनुसंधान के हस्तांतरण, लाइसेंसिंग या तैनाती को रोकने के लिए एक औपचारिक, प्रक्रियात्मक रूप से संरक्षित अधिकार के रूप में परिभाषित करता है। महत्वपूर्ण रूप से, यह वीटो डाउनस्ट्रीम उपयोग पर लागू होता है, न कि स्वयं जांच या प्रकाशन पर।

B. हाशिए के समुदायों के नेतृत्व को केंद्र में रखना

एक प्राथमिक योगदान यह तर्क है कि वीटो अधिकार केवल कुलीन शैक्षणिक या नीतिगत संस्थानों के पास ही नहीं, बल्कि प्रभावित समुदायों के पास होना चाहिए।

• ज्ञानमीमांसीय न्याय (Epistemic Justice): निगरानी या सैन्य AI का सामना करने वाले समुदायों के पास नुकसान की गंभीरता के बारे में वह "स्थित ज्ञान" (situated knowledge) होता है जो बाहरी विशेषज्ञों के पास नहीं होता।
• संरचनात्मक सुधार: वीटो निकायों में तकनीकी विशेषज्ञों और नीतिशास्त्रियों के समान निर्णय लेने की शक्ति के साथ प्रभावित समुदायों के प्रतिनिधि शामिल होने चाहिए। यह शासन को "प्रतीकात्मक समावेश" से "बाध्यकारी सामुदायिक नियंत्रण" में बदल देता है।

C. परिचालन मार्ग (Operationalization Pathways)

शोध पत्र सिद्धांत से आगे बढ़कर वीटो शक्ति को मौजूदा बुनियादी ढांचे में शामिल करने के लिए पांच ठोस तंत्र प्रदान करता है:

1. विश्वविद्यालय अनुबंध संशोधन: प्रौद्योगिकी हस्तांतरण लाइसेंसों में उपयोग-प्रतिबंध खंडों और ऑडिट अधिकारों को शामिल करना।
2. सम्मेलन-स्तरीय शासन: प्रकाशित शोध पत्रों पर दोहरे उपयोग प्रकटीकरण फॉर्म की आवश्यकता और मशीन-पठनीय उपयोग शर्तों को सक्षम करना।
3. फंडिंग एजेंसी उत्तोलन (Leverage): अनुदानों को संस्थागत वीटो समितियों की स्थापना और उनके निर्णयों के अनुपालन पर आधारित करना।
4. रिपॉजिटरी-स्तरीय प्रवर्तन: उपयोग प्रतिबंधों के लिए मशीन-पठनीय मेटाडेटा और उल्लंघन के लिए स्वचालित डी-लिस्टिंग लागू करना।
5. व्यावसायिक एकजुटता: आचार संहिता स्थापित करना जो उन शोधकर्ताओं की रक्षा करती है जो सैन्य फंडिंग को अस्वीकार करते हैं।

D. वैधता के लिए डिजाइन सिद्धांत

वीटो को दमन या राजनीतिक कब्जे के उपकरण में बदलने से रोकने के लिए, लेखक सख्त डिजाइन बाधाएं प्रस्तावित करते हैं:

• क्षेत्र सीमा (Scope Limitation): वीटो केवल विशिष्ट डाउनस्ट्रीम उपयोगों पर लागू होता है, अनुसंधान जांच पर नहीं।
• पूर्व-निर्धारित सीमाएँ (Predefined Thresholds): ट्रिगर्स विशिष्ट होने चाहिए (जैसे, "मानवीय नियंत्रण की कमी वाले स्वायत्त हथियार") न कि काल्पनिक।
• सामूहिक निर्णय लेना: निर्णय बहुलवादी समितियों द्वारा लिए जाने चाहिए, न कि व्यक्तियों द्वारा।
• अपील और परिवर्तनशीलता: स्थायी सेंसरशिप को रोकने के लिए अपील तंत्र और सनसेट प्रावधान।
• प्रतिशोध-विरोधी सुरक्षा: वीटो का प्रयोग करने वालों के लिए कानूनी और करियर संबंधी सुरक्षा।

4. परिणाम और निष्कर्ष (Results and Findings)

• सैद्धांतिक सत्यापन: टॉय मॉडल प्रदर्शित करता है कि बिना एक बाध्यकारी वीटो बिंदु ($V$) के, प्रतिकूल चयन और जिम्मेदारी के प्रसार के कारण अनुसंधान पथों का संतुलन अनिवार्य रूप से सैन्यीकरण की ओर झुक जाता है।
• तुलनात्मक सफलता: परमाणु, बायोमेडिकल और निर्यात नियंत्रण व्यवस्थाओं का विश्लेषण पुष्टि करता है कि निर्णय बिंदुओं पर बाध्यकारी अधिकार (केवल दिशानिर्देशों के बजाय) ही एकमात्र तंत्र है जिसने अतीत में खतरनाक प्रौद्योगिकियों को सफलतापूर्वक नियंत्रित किया है।
• वर्तमान नैतिकता की विफलता: शोध पत्र निष्कर्ष निकालता है कि "एथिक्स लॉन्ड्रिंग" (हस्तक्षेप के बिना दस्तावेजीकरण) वर्तमान प्रणालियों की एक संरचनात्मक विशेषता है, न कि कोई त्रुटि। केवल प्रतीकात्मक सुरक्षा उपायों को प्रवर्तनीय नियमों में बदलकर ही नुकसान के संचय को रोका जा सकता है।
• व्यवहार्यता: प्रस्तावित तंत्र के लिए नए संधियों या सरकारों की आवश्यकता नहीं है; इन्हें मौजूदा विश्वविद्यालय TTOs, सम्मेलन समितियों और रिपॉजिटरी प्लेटफार्मों का पुन: उपयोग करके लागू किया जा सकता है।

5. महत्व (Significance)

• पैराडाइम शिफ्ट: यह शोध पत्र विमर्श को "संयम को कैसे प्रोत्साहित करें" (जो स्वैच्छिक अनुपालन पर निर्भर है और विफल रहता है) से बदलकर "संयम को संरचनात्मक रूप से तर्कसंगत कैसे बनाएं" (इंसेंटिव आर्किटेक्चर को बदलकर) की ओर ले जाता है।
• नैतिकता से कानून/नीति तक: यह तर्क देता है कि AI सुरक्षा को केवल तकनीकी संरेखण (alignment) द्वारा हल नहीं किया जा सकता; इसके लिए एक ऐसा शासन प्रिमिटिव चाहिए जो सैन्यीकरण को रोकने को एक कानूनी और प्रक्रियात्मक आवश्यकता के रूप में मानता हो।
• न्याय-उन्मुख शासन: प्रभावित समुदायों को वीटो शक्ति रखने का आदेश देकर, यह शोध पत्र AI विकास को सैन्यीकरण और निगरानी के तर्क से अलग करने का मार्ग प्रशस्त करता है, जो हाशिए के समुदायों को असमान रूप से नुकसान पहुँचाते हैं।
• कार्य योग्य रोडमैप: कई सैद्धांतिक शोध पत्रों के विपरीत, यह कार्य शोधकर्ताओं, संस्थानों और फंडरों के लिए प्रवर्तनीय शासन संरचनाओं को तुरंत लागू करने के लिए एक "हाउ-टू" मैनुअल प्रदान करता है।

संक्षेप में, "Dial E for Ethical Enforcement" का तर्क है कि AI का सैन्यीकरण एक शासन विफलता है, न कि एक तकनीकी अनिवार्यता। यह संस्थागत वीटो शक्ति का प्रस्ताव करता है, जिसका नेतृत्व प्रभावित समुदायों द्वारा किया जाना चाहिए और जिसे मौजूदा संस्थागत अनुबंधों और वर्कफ़्लो में शामिल किया जाना चाहिए, ताकि नैतिक ज्ञान को प्रवर्तनीय जिम्मेदारी में बदला जा सके।