Scaling, Lock-In, and Proxy Compliance: A Political Economy of Responsible AI

तकनीकी सारांश: स्केलिंग, लॉक-इन और प्रॉक्सी अनुपालन

समस्या विवरण
यह शोध पत्र जिम्मेदार एआई (Responsible AI) की एक केंद्रीय पहेली को संबोधित करता है: दृश्यमान अनुपालन (जैसे, मॉडल कार्ड, मानकीकृत मूल्यांकन, दस्तावेज़ीकरण) और अपर्याप्त वास्तविक हानि न्यूनीकरण (substantive harm mitigation) का निरंतर सह-अस्तित्व। जबकि यूरोपीय संघ के एआई अधिनियम (EU AI Act) जैसे ढांचे व्यापक दस्तावेज़ीकरण दायित्व लागू करते हैं, बार-बार होने वाली हानियाँ और जवाबदेही की कमियाँ यह संकेत देती हैं कि संगठन तर्कसंगत रूप से "प्रॉक्सी अनुपालन" (proxy compliance) चुन सकते हैं—अर्थात, वास्तविक जोखिम न्यूनीकरण में कम निवेश करते हुए जिम्मेदारी के दृश्य संकेतों का उत्पादन करना। लेखक तर्क देते हैं कि यह केवल नैतिकता ढांचों की विफलता नहीं है, बल्कि संस्थागत मापदंडों का एक संरचनात्मक परिणाम है: विशेष रूप से, वेंडर-नियंत्रित साक्ष्य सृजन, डिप्लॉयर (deployer) के स्विचिंग लागत (लॉक-इन), और सत्यापन योग्य साक्ष्य पर निर्भर प्रवर्तन तंत्रों के बीच परस्पर क्रिया।

कार्यप्रणाली (Methodology)
लेखक तीन एजेंटों वाले एक क्रमिक राजनीतिक-अर्थव्यवस्था खेल (political-economy game) को विकसित करते हैं: एक एआई वेंडर (vendor), एक डिप्लॉयर (deployer), और एक नियामक (regulator)। यह मॉडल स्थिर (static) और एकल-वेंडर है, जो स्केल और बाजार एकाग्रता को आंतरिक चर (endogenous variables) के बजाय संस्थागत पृष्ठभूमि के रूप में मानता है।

• समयरेखा (Timeline):

  1. वेंडर ऑडिटेबिलिटी ($t$) और सार्थक न्यूनीकरण ($e$) का चयन करता है।
  2. डिप्लॉयर इन विकल्पों को देखता है, अपनाने (adoption) का निर्णय लेता है, और यदि अपनाया जाता है, तो निगरानी (monitoring) का एक स्तर ($m$) चुनता है। अपनाने में स्विचिंग लागत ($s$) शामिल है, जो लॉक-इन का प्रतिनिधित्व करती है।
  3. हानि ($h$) घटित होती है। साक्ष्य उत्पन्न होता है जिसकी संभावना $p(t, m)$ है, जो ऑडिटेबिलिटी और निगरानी दोनों पर निर्भर करती है।
  4. यदि कार्रवाई योग्य साक्ष्य मिलता है, तो प्रवर्तन (enforcement) होता है।

• मुख्य तंत्र (Key Mechanisms):

  • ऑडिटेबिलिटी ($t$): यह खरीद संबंधी न्यूनतम आवश्यकताओं (procurement floors) को पूरा करने में मदद करती है लेकिन पता लगाने की संभावना को भी बढ़ाती है।
  • न्यूनीकरण ($e$): सीधे तौर पर हानि की संभावना को कम करता है।
  • लॉक-इन ($s$): डिप्लॉयर के प्रभावी उपचार/उपचार के अधिकार ($\delta_{eff}$) को कम करता है, जिससे निगरानी का प्रोत्साहन कमजोर होता है।
  • प्रवर्तन (Enforcement): सत्यापन योग्य साक्ष्य पर निर्भर करता है। वेंडर को दंड का सामना करना पड़ता है जो पता लगाने की संभावना ($p + \Delta$) के समानुपाती होता है, जहाँ $\Delta$ स्वतंत्र ऑडिट क्षमता का प्रतिनिधित्व करता है।

• साम्य अवधारणा (Equilibrium Concept): लेखक एक सबगेम-परफेक्ट साम्य (subgame-perfect equilibrium) के लिए समाधान निकालते हैं जहाँ वेंडर डिप्लॉयर की निगरानी प्रतिक्रिया का पूर्वानुमान लगाता है। डिप्लॉयर केवल तभी निगरानी करता है जब उपचार (recourse) का अपेक्षित लाभ (कम हुई हानि जोखिम) निगरानी की लागत से अधिक हो, जो स्विचिंग लागतों से गहराई से प्रभावित होता है।

मुख्य योगदान

1. प्रॉक्सी अनुपालन का औपचारिकीकरण: यह शोध पत्र "प्रॉक्सी अनुपालन" को एक ऐसे साम्य के रूप में परिभाषित करता है जहाँ वेंडर न्यूनतम दृश्यमान खरीद आधार ($t^* = \bar{t}$) को पूरा करता है, लेकिन सार्थक न्यूनीकरण ($e^*$) को सामाजिक प्रथम-सर्वश्रेष्ठ ($e_{FB}$) से काफी नीचे चुनता है। यह तब होता है जब उच्च स्विचिंग लागतें डिप्लॉयर की निगरानी को कम करती हैं, जो बदले में वेंडर के अपेक्षित प्रवर्तन जोखिम को कम करती है, जिससे सार्थक न्यूनीकरण के लिए प्रोत्साहन कम हो जाता है।
2. अंतर्जात निगरानी (Endogenous Monitoring): उन मॉडलों के विपरीत जहाँ निगरानी बाह्य (exogenous) होती है, यह ढांचा वेंडर को यह अनुमान लगाने की अनुमति देता है कि उनके न्यूनीकरण विकल्प डिप्लॉयर की निगरानी तीव्रता को कैसे प्रभावित करेंगे। उच्च न्यूनीकरण शेष हानि को कम करता है, जो विरोधाभासी रूप से डिप्लॉयर के निगरानी के प्रोत्साहन को कम कर सकता है, जिससे एक फीडबैक लूप बनता है।
3. नीतिगत उत्तोलक विश्लेषण (Policy Levers Analysis): लेखक चार विशिष्ट संस्थागत उत्तोलकों के लिए तुलनात्मक सांख्यिकी (comparative statics) प्राप्त करते हैं: स्वतंत्र ऑडिट अधिकार, पोर्टेबिलिटी (स्विचिंग लागत को कम करना), घटना रिपोर्टिंग, और परिणाम-जुड़े दायित्व (outcome-linked liability)।

परिणाम
विश्लेषण एक अद्वितीय आंतरिक साम्य (interior equilibrium) प्रदान करता है और पूर्ण न्यूनीकरण (वह कॉर्नर सॉल्यूशन जहाँ हानि समाप्त हो जाती है) की स्थितियों को स्पष्ट करता है।

• प्रस्ताव 4.4 (प्रॉक्सी अनुपालन का अस्तित्व): मजबूत स्वतंत्र पहचान ($\Delta = 0$) की अनुपस्थिति में और पर्याप्त उच्च स्विचिंग लागतों ($s$) के साथ, साम्य प्रॉक्सी अनुपालन की ओर झुक जाता है। जैसे-जैसे $s \to \infty$, $m^* \to 0$ होता है, और $e^*$ केवल आधारभूत ऑडिटेबिलिटी फ्लोर द्वारा निर्धारित स्तर तक गिर जाता है, जो अक्सर सामाजिक इष्टतम से बहुत नीचे होता है।
• प्रस्ताव 4.5 (जवाबदेही): स्वतंत्र पहचान ($\Delta$) को बढ़ाने या स्विचिंग लागत ($s$) को कम करने से साम्य न्यूनीकरण बढ़ता है। हालांकि, $\Delta$ का प्रभाव निगरानी प्रतिक्रिया द्वारा कम (attenuated) हो जाता है (जैसे-जैसे न्यूनीकरण बढ़ता है, निगरानी कम होती है), लेकिन यह सकारात्मक प्रभाव को कभी उलट नहीं पाता है।
• थ्योरम 5.1 (ऑडिट अधिकार): पर्याप्त रूप से मजबूत स्वतंत्र ऑडिट अधिकार ($\Delta$) लॉक-इन ($s$) के स्तर के बावजूद प्रॉक्सी अनुपालन को समाप्त कर सकते हैं और पूर्ण न्यूनीकरण ($e^* = e_{FB}$) प्राप्त कर सकते हैं। यह मॉडल में सबसे शक्तिशाली एकल उत्तोलक है।
• प्रस्ताव 5.2 (पोर्टेबिलिटी): स्विचिंग लागत को कम करने से डिप्लॉयर के उत्तोलन और निगरानी के प्रोत्साहन को बहाल करके न्यूनीकरण बढ़ता है।
• प्रस्ताव 5.3 (घटना रिपोर्टिंग): अनिवार्य रिपोर्टिंग एक स्वतंत्र साक्ष्य चैनल ($\mu\rho$) बनाती है जो वेंडर-नियंत्रित पहुंच का विकल्प है, जिससे ऑडिटेबिलिटी कम रहने पर भी न्यूनीकरण बढ़ता है।
• प्रस्ताव 5.4 (परिणाम-जुड़ा दायित्व): सीधे वास्तविक हानि से जुड़ा दायित्व ($\lambda_{OFO}$), सत्यापन कमजोर होने पर भी एक मजबूत प्रोत्साहन प्रदान करता है, क्योंकि यह पता लगाने की संभावना ($p(t, m)$) से स्वतंत्र रूप से न्यूनीकरण बढ़ाता है।

महत्व और दावे
शोध पत्र का दावा है कि यह एक सुलभ संस्थागत स्पष्टीकरण प्रदान करता है कि क्यों "दृश्यमान अनुपालन और सीमित न्यूनीकरण सह-अस्तित्व में रह सकते हैं।" यह तर्क देता है कि दृश्यमान जिम्मेदारी के संकेतों और हानि न्यूनीकरण के बीच का अंतर आवश्यक रूप से कार्यान्वयन की विफलता नहीं है, बल्कि एक साम्य परिणाम है जो निम्नलिखित से प्रेरित है:

1. साक्ष्य पर वेंडर का नियंत्रण: जब वेंडर सत्यापन योग्य साक्ष्य उत्पन्न करने वाले बुनियादी ढांचे (जैसे, API एक्सेस, लॉग्स) को नियंत्रित करते हैं, तो वे ऑडिटेबिलिटी को सीमित कर सकते हैं।
2. लॉक-इन: उच्च स्विचिंग लागतें डिप्लॉयर की अनुशासन बनाए रखने की क्षमता को कमजोर करती है।
3. साक्ष्य-आधारित प्रवर्तन: जब दंड पता लगाए गए साक्ष्य पर निर्भर होते न कि परिणामों पर, तो वेंडरों के पास ऑडिटेबिलिटी के सीमांत लागत के बढ़ने पर पारदर्शिता को न्यूनतम करने का प्रोत्साहन होता है।

लेखक इस बात पर जोर देते हैं कि उनका मॉडल एक बेंचमार्क है, न कि यह दावा कि कोई भी एकल शासन उपकरण पर्याप्त है। वे चेतावनी देते हैं कि ऑडिट स्वतंत्रता, रिपोर्टिंग कवरेज और विश्वसनीय प्रतिबंध इन तंत्रों को काम करने के लिए पूर्व शर्त हैं। शोध पत्र निष्कर्ष निकालता है कि जवाबदेही के लिए सत्यापन क्षमता (साक्ष्य तक स्वतंत्र पहुंच) और कार्य करने की शक्ति (डिप्लॉयर्स के लिए विश्वसनीय उपचार) दोनों की आवश्यकता है, जो यह सुझाव देता है कि इन संरचनात्मक समर्थनों के बिना प्रक्रियात्मक अनुपालन (दस्तावेज़ीकरण) संभवतः निरंतर प्रॉक्सी अनुपालन का ही परिणाम होगा।