Minimal Oversight: Uncertainty-Aware Governance for Delegated AI Systems

तकनीकी सारांश: न्यूनतम पर्यवेक्षण: प्रत्यायोजित एआई प्रणालियों के लिए अनिश्चितता-जागरूक शासन

समस्या विवरण
आधुनिक एआई प्रणालियाँ तेजी से उन प्रत्यायोजित निर्णय संरचनाओं (delegated decision structures) पर निर्भर करती हैं जहाँ विशिष्ट मॉडल, मूल्यांकनकर्ता और उपकरण पर्यवेक्षी नीतियों के तहत संचालित होते हैं। केंद्रीय डिजाइन चुनौती व्यक्तिगत मॉडल की सटीकता को अनुकूलित करने से बदलकर अनिश्चितता-जागरूक शासन (uncertainty-aware governance) के प्रबंधन की ओर स्थानांतरित हो गई है: यह निर्धारित करना कि कितनी स्वायत्तता दी जाए, साक्ष्य से विश्वास को कैसे कैलिब्रेट किया जाए, एक प्रत्यायोजित प्रणाली कितना प्रदर्शन शिखर (performance ceiling) बनाए रख सकती है, और मानव हस्तक्षेप कब आवश्यक है। ऐसी प्रणालियों में एक महत्वपूर्ण विकृति (pathology) की पहचान की गई है जिसे मास्किंग (masking) कहा जाता है, जहाँ आउटपुट गुणवत्ता को सुधारने की प्रक्रिया (जैसे, एक समीक्षक के माध्यम से) उत्पादक एजेंट की कच्ची सक्षमता (raw competence) के क्षरण को छिपा देती है, जिससे अति-प्राधिकरण (over-authorization) और विश्वास का गलत अंशांकन (trust miscalibration) होता है।

कार्यप्रणाली और सैद्धांतिक ढांचा
यह शोध पत्र सिद्धांतों पर आधारित स्वायत्तता प्रत्यायोजन के लिए एक वेरिएशनल फ्रेमवर्क, न्यूनतम पर्याप्त पर्यवेक्षण सिद्धांत (Minimum Sufficient Oversight Principle - MSO) प्रस्तावित करता है। मुख्य कार्यप्रणाली में शामिल हैं:

1. दोहरी-ट्रैक सूचना अवस्था (Dual-Track Information State): सिद्धांत किसी भी कार्य बिंदु $x$ पर दो अनुभवजन्य सफलता दरों के बीच अंतर करता है:

   • $\sigma_{raw}$: एजेंट की प्रदर्शित सक्षमता (असंशोधित परिणाम)।
   • $\sigma_{corr}$: सिस्टम की वितरित गुणवत्ता (संशोधित परिणाम)।
     मास्किंग को रोकने के लिए प्राधिकरण सख्ती से $\sigma_{raw}$ पर आधारित है।

2. वेरिएशनल ऑप्टिमाइज़ेशन (MSO): सिद्धांत एक वितरण बाधा (न्यूनतम गुणवत्ता लक्ष्य $p_{min}$) के अधीन फिशर सूचना मैनिफोल्ड (Fisher information manifold) पर शासन भार (oversight cost) को कम करता है।

   • लागत फलन (Cost Function): ओवरसाइट लागत को वर्गाकार ($\alpha^2$) रूप में मॉडल किया गया है, जो घटते प्रतिफल (diminishing returns) को दर्शाता है, जो शैनन के 'वॉटर-फिलिंग' (water-filling) के समान है।
   • समाधान: यूलर-लैग्रेंज समाधान एक वॉटर-फिलिंग आवंटन ($\alpha^*$) प्रदान करता है। प्रत्यायोजन को मध्यवर्ती सक्षमता ($\sigma \approx 0.75$) वाले बिंदुओं पर केंद्रित किया जाता है जहाँ समीक्षा-समर्थित संचालन का सीमांत प्रतिफल (marginal return) उच्चतम होता है, और बहुत कमजोर या बहुत मजबूत एजेंटों के लिए यह कम होता जाता है।

3. चैनल मॉडलिंग और क्षमता:

   • शासित प्रत्यायोजन चैनल (Governed Delegation Channel): इसे एक लागत-प्रतिबंधित, क्रिया-निर्भर डिस्क्रीट मेमोरीलेस चैनल (DMC) के रूप में परिभाषित किया गया है जहाँ समीक्षा क्रिया एक कारण नीति (causal policy) है।
   • प्रत्यायोजन क्षमता ($C_{del}$): एक प्रमेय स्थिर सिंबलवाइज समीक्षा नीतियों के लिए सूचना-सैद्धांतिक क्षमता को स्थापित करता है। यह सिद्ध करता है कि प्राप्त गुणवत्ता समीक्षा बजट और सुधारक की पकड़ दर (catch rate) द्वारा सीमित होती है।
   • प्रक्रिया एंट्रॉपी ($H(W)$): ढांचा वर्कफ़्लो जटिलता (रूटिंग, टूल कॉल, टाइमिंग) और गुणवत्ता क्षरण के बीच एक स्थानीय प्रथम-क्रम संवेदनशीलता कानून पेश करता है। अतिरिक्त जटिलता, प्राप्त गुणवत्ता पर एक "कर" (tax) के रूप में कार्य करती है।

4. स्वायत्तता समय और ड्रिफ्ट (Autonomy Time and Drift):

   • शोध पत्र प्रथम-पास सिद्धांत (first-passage theory) पर आधारित एक स्वायत्तता समय ($T^*_{auto}$) स्केलिंग लॉ व्युत्पन्न करता है। यह उस अपेक्षित अवधि का प्रतिनिधित्व करता है जो एक पाइपलाइन संचालित कर सकती है जब तक कि ड्रिफ्ट ($\mu$) और शोर (noise) के कारण गुणवत्ता लक्ष्य से नीचे न गिर जाए।
   • सिस्टम की उत्तरजीविता एक प्रभावी स्वायत्तता बफर ($B_{eff} = C_{op} - p_{min} - \lambda H(W)$) द्वारा शासित होती है। जब $B_{eff} \le 0$ होता है, तो कोई भी शासन नीति लक्ष्य को बनाए नहीं रख सकती।

प्रमुख योगदान और परिणाम

• मास्किंग इंडेक्स ($M^*$): एक नैदानिक मीट्रिक जो $M^* = \sigma_{corr} / \sigma_{raw}$ के रूप में परिभाषित है। शोध पत्र सिद्ध करता है कि जब $M^* > 1$ होता है, तो पर्यवेक्षण प्रक्रिया एजेंट की कमजोरी को छिपा रही होती है। सिमुलेशन दिखाते हैं कि मास्किंग पाइपलाइन की गहराई के साथ सुपर-मल्टीप्लिकेटिव रूप से बढ़ती है (उदाहरण के लिए, एक 5-लेयर पाइपलाइन कुल मास्किंग इंडेक्स 14.3 प्रदर्शित कर सकती है)।
• क्षमता प्रमेय (Capacity Theorems): शोध पत्र प्रत्यायोजित चैनलों के लिए एक औपचारिक क्षमता प्रमेय प्रदान करता है, यह स्थापित करता है कि यदि आवश्यक गुणवत्ता लक्ष्य परिचालन शिखर ($C_{op}$) से अधिक है, तो कोई भी नीति अनुकूलन इसे प्राप्त नहीं कर सकता; पाइपलाइन टोपोलॉजी या एजेंट क्षमता को बदलना होगा।
• शासन वस्तु के रूप में टोपोलॉजी (Topology as a Governance Object): ढांचा विश्लेषण करता है कि ग्राफ मोटिफ्स (चेन, फैन-आउट, डायमंड, मर्ज) त्रुटि प्रसार और मास्किंग को कैसे प्रभावित करते हैं। यह दर्शाता है कि "डायमंड" पैटर्न में, औसत गुणवत्ता सशर्त नाजुकता (conditional fragility) को छिपा सकती है, और चेन्स (chains) में, मास्किंग गहराई के साथ जमा होती है।
• संख्यात्मक सत्यापन: एक सहायक पायथन पैकेज (delegation-lab) का उपयोग करके, शोध पत्र सत्यापित करता है कि:
  • वॉटर-फिलिंग आवंटन यूनिफॉर्म रूटिंग की तुलना में गुणवत्ता में ~6% सुधार करता है।
  • सीमित सुधारक क्षमता के कारण होने वाली क्षमता हानि अन्य विफलता मोड पर हावी रहती है।
  • स्वायत्तता समय ड्रिफ्ट दर ($T^*_{auto} \propto 1/\mu$) के व्युत्क्रमानुपाती स्केल करता है, जिसका लॉग-लॉग ढलान -0.99 है।
  • रिकर्सिव चेन क्वालिटी फॉर्मूला सिमुलेशन के विरुद्ध अधिकतम 0.002 के अंतर के साथ आउटपुट गुणवत्ता की भविष्यवाणी करता है।

महत्व और दावे
यह शोध पत्र स्वयं को एआई अनिश्चितता, विशेषज्ञ-प्रणाली शासन और सीमित साक्ष्य के तहत नियोजन में एक योगदान के रूप में प्रस्तुत करता है। इसका प्राथमिक दावा यह नहीं है कि यह सभी एजेंट समन्वय समस्याओं को हल करता है, बल्कि यह एक गणना योग्य डिजाइन तर्क (computable design logic) प्रदान करता है।

• सिद्धांत बनाम ह्यूरिस्टिक: यह तर्क देता है कि स्वायत्तता प्रत्यायोजन को एड-हॉक रूटिंग नियमों या स्थिर सुरक्षा मार्जिन के बजाय एक वेरिएशनल और सूचना-सैद्धांतिक ढांचे द्वारा शासित किया जाना चाहिए।
• चिंताओं का पृथक्करण (Separation of Concerns): सिद्धांत $\sigma_{raw}$ और $\sigma_{corr}$ को सख्ती से अलग करके मास्किंग विकृति को हल करता है, जिससे यह पहचानने में सक्षम होता है कि स्थिर सिस्टम आउटपुट के बावजूद एजेंट कब कमजोर हो रहा है।
• कार्रवाई योग्य मेट्रिक्स: यह चिकित्सकों के लिए ठोस, गणना योग्य मात्रा प्रदान करता है: छिपी हुई विफलताओं का पता लगाने के लिए मास्किंग इंडेक्स, व्यवहार्यता निर्धारित करने के लिए क्षमता सीमा (capacity threshold), और मानव हस्तक्षेप को शेड्यूल करने के लिए स्वायत्तता समय।
• सीमित दायरा: लेखक स्पष्ट रूप से नोट करते हैं कि उनके परिणाम कठोरता की एक श्रृंखला (प्रमेय, प्रस्ताव, अनुभवजन्य नियम) में फैले हुए हैं और वर्तमान में सिंथेटिक सिमुलेशन और एक अर्ध-वास्तविक पुनर्गठित वर्कफ़्लो के माध्यम से सत्यापित हैं, न कि बड़े पैमाने पर उत्पादन तैनाती के माध्यम से। इस ढांचे को एक "सिद्धांत आधारित आधार मामला" (principled base case) के रूप में प्रस्तुत किया गया है, न कि सभी प्रत्यायोजन के सार्वभौमिक सिद्धांत के रूप में।

निष्कर्षतः, शोध पत्र का दावा है कि प्रत्यायोजित एआई स्वायत्तता सक्षमता, शासन क्षमता और वर्कफ़्लो जटिलता के बीच एक ट्रेड-ऑफ द्वारा नियंत्रित होती है। इस ट्रेड-ऑफ को गणना योग्य बनाकर, MSO ढांचा डिजाइनरों को पर्यवेक्षण कुशलतापूर्वक आवंटित करने, मास्किंग जैसी संरचनात्मक विफलताओं का पता लगाने और मानव हस्तक्षेप के सटीक समय को निर्धारित करने की अनुमति देता है।