Towards Adaptive Categories: Dimensional Governance for Agentic AI

तकनीकी सारांश: अनुकूलन योग्य श्रेणियों की ओर: एजेंटिक एआई के लिए आयामी शासन (Dimensional Governance)

समस्या विवरण
यह शोध पत्र मौजूदा एआई गवर्नेंस फ्रेमवर्क और कृत्रिम बुद्धिमत्ता (AI) की विकसित होती प्रकृति के बीच एक महत्वपूर्ण विसंगति की पहचान करता है। वर्तमान नियामक मॉडल स्थिर श्रेणीगत ढांचों (जैसे, निश्चित जोखिम स्तर, बाइनरी स्वायत्तता स्तर, या कठोर "ह्यूमन-इन-द-लूप" परिभाषाएं) पर निर्भर हैं, जिन्हें संकीर्ण और पूर्वानुमानित प्रणालियों के लिए डिज़ाइन किया गया था। जैसे-जैसे एआई स्थिर उपकरणों से एजेंटिक संस्थाओं (Agentic Entities)—जो स्व-निर्देशित शिक्षण (self-supervised learning), फाउंडेशन मॉडल्स और मल्टी-एजेंट आर्किटेक्चर द्वारा विशेषता रखते हैं—में परिवर्तित हो रहा है, ये स्थिर श्रेणियां मानव-एआई संबंधों की तरलता को पकड़ने में विफल रहती हैं।

लेखकों का तर्क है कि स्थिर वर्गीकरण दो प्राथमिक कारणों से विफल होता है:

1. संदर्भ-निर्भरता (Context-Dependence): जोखिम किसी मॉडल का अंतर्निहित गुण नहीं है, बल्कि यह इसके तैनाती के संदर्भ (deployment context) से उभरता है। एक एकल लार्ज लैंग्वेज मॉडल (LLM) निम्न-जोखिम वाली रचनात्मक सहायता से लेकर उच्च-दांव वाले नैदानिक निदान (clinical diagnosis) तक की सीमा तय कर सकता है, जिससे निश्चित जोखिम लेबल अपर्याप्त हो जाते हैं।
2. गतिशील विकास (Dynamic Evolution): स्थिर कलाकृतियों (जैसे, फार्मास्यूटिकल्स) के विपरीत, एआई सिस्टम निरंतर अपडेट, फाइन-ट्यून और संशोधित होते रहते हैं। एक प्रणाली जो एक विशिष्ट कॉन्फ़िगरेशन के तहत स्वीकृत होती है, अपडेट के बाद अलग व्यवहार कर सकती है, फिर भी श्रेणीगत ढांचे इन तीव्र परिवर्तनों को ट्रैक करने में संघर्ष करते हैं।

यह कठोरता उन नियामक अंतराल (regulatory gaps) को जन्म देती है जहाँ विकसित होते सिस्टम निगरानी से बच निकलते हैं या नवाचार को बाधित करते हैं क्योंकि वे उन्हें अनुपयुक्त बॉक्स में फिट होने के लिए मजबूर करते हैं।

कार्यप्रणाली और ढांचा (Methodology and Framework)
यह शोध पत्र आयामी शासन (Dimensional Governance) को एक सैद्धांतिक विकल्प के रूप में प्रस्तावित करता है। श्रेणियों को पूरी तरह से त्यागने के बजाय, यह ढांचा उन्हें निरंतर, अंतर्निहित आयामों पर निर्मित संदर्भ-संवेदनशील पदनामों के रूप में पुन: स्थापित करता है। इसकी कार्यप्रणाली में तीन मुख्य तंत्र शामिल हैं:

1. निरंतर मापन (Continuous Measurement): सिस्टम को निश्चित बॉक्सों में असाइन करने के बजाय विकसित होते अक्षों (axes) के साथ ट्रैक करना।
2. साक्ष्य-आधारित थ्रेशोल्ड (Evidence-Based Thresholds): इन आयामों के साथ विशिष्ट बिंदुओं को स्थापित करना जो नियामक आवश्यकताओं को ट्रिगर करते हैं।
3. अनुकूली समायोजन (Adaptive Adjustment): साक्ष्य संचित होने या संदर्भ बदलने पर थ्रेशोल्ड को संशोधित करना, जबकि एक स्थिर आयामी ढांचे को बनाए रखना।

इस ढांचे का मूल आयामी शासन के "3As" है:

• निर्णय अधिकार (Decision Authority): मानव और एआई के बीच निर्णय लेने की शक्ति के वितरण को ट्रैक करता है (पूरी तरह से सलाहकार से लेकर स्वतंत्र निर्णय अधिकारों तक)।
• प्रक्रिया स्वायत्तता (Process Autonomy): इस बात को मापता है कि एक सिस्टम मानवीय हस्तक्षेप, पर्यवेक्षण या नियंत्रण के बिना किस हद तक संचालित होता है।
• जवाबदेही विन्यास (Accountability Configuration): निर्णयों और परिणामों के लिए जिम्मेदारी के आवंटन को मैप करता है, जिसमें पारदर्शिता, चुनौती देने की क्षमता (contestability) और निवारण (redress) के तंत्र शामिल हैं।

लेखक मनोचिकित्सा, विकासात्मक मनोविज्ञान और वित्तीय क्रेडिट स्कोरिंग (जहाँ आर्थिक स्थितियों के आधार पर "क्रेडिटवर्दीनेस" के थ्रेशोल्ड को समायोजित किया जाता है) में आयामी दृष्टिकोणों से समानताएं खींचते हैं, यह प्रदर्शित करने के लिए कि श्रेणियां तब सबसे प्रभावी होती हैं जब वे मापने योग्य निरंतरता (continua) पर आधारित होती हैं।

प्रमुख योगदान
शोध पत्र का प्राथमिक योगदान स्थिर वर्गीकरण से गतिशील आयामी ट्रैकिंग की ओर वैचारिक बदलाव है। विशिष्ट योगदान शामिल हैं:

• 3As फ्रेमवर्क: मानव-एआई संबंधों को मापने के लिए अथॉरिटी (Authority), ऑटोनॉमी (Autonomy) और अकाउंटेबिलिटी (Accountability) को आधारभूत आयामों के रूप में परिभाषित करना।
• महत्वपूर्ण विश्वास थ्रेशोल्ड (Critical Trust Thresholds): उन महत्वपूर्ण बिंदुओं की पहचान करना जहाँ शासन की आवश्यकताएं महत्वपूर्ण रूप से बदल जाती हैं। पेपर चार विशिष्ट थ्रेशोल्ड की रूपरेखा तैयार करता है:
  • सत्यापन-से-प्रत्यायोजन (Verification-to-Delegation): जब मैनुअल सत्यापन अब संभव नहीं रहता, जिससे सांख्यिकीय विश्वास की ओर बदलाव आता है।
  • प्रक्रिया-से-परिणाम (Process-to-Outcome): जब आंतरिक पारदर्शिता अपर्याप्त हो जाती है, जिससे परिणाम सत्यापन पर ध्यान केंद्रित करना आवश्यक हो जाता है।
  • सूचना-से-अधिकार (Information-to-Authority): जब सिस्टम सिफारिशों से स्वायत्त निर्णय लेने की ओर संक्रमण करते हैं।
  • व्यक्तिगत-से-सामूहिक (Individual-to-Collective): जब शासन को अलग-थलग सिस्टम मॉनिटरिंग से मल्टी-एजेंट सिस्टम में नेटवर्क-स्तरीय व्यवहार सत्यापन की ओर स्थानांतरित होना चाहिए।
• मापन रणनीति (Measurement Strategy): यह प्रस्तावित करना कि हालांकि "अथॉरिटी" जैसे आयाम भौतिक गुण नहीं हैं, फिर भी उन्हें मेजरमेंट थ्योरी (जैसे जीडीपी या मुद्रास्फीति दर) का उपयोग करके संचालित किया जा सकता है। पेपर सुझाव देता है कि इन्हें निर्णय अधिकार आवंटन, ओवरराइड क्षमताओं और ऑडिट पारदर्शिता स्कोर जैसे घटकों के माध्यम से मात्रात्मक बनाया जा सकता है।
• हाइब्रिड गवर्नेंस मॉडल: यह तर्क देना कि आयामी शासन श्रेणियों को प्रतिस्थापित नहीं करता है बल्कि उन्हें बेहतर बनाता है। श्रेणियां नियामक एंकर (जैसे, ईयू एआई एक्ट रिस्क टियर्स) के रूप में कार्य करती हैं, जबकि आयामी ट्रैकिंग उन सीमाओं के भीतर आनुपातिक निरीक्षण और निरंतर अंशांकन (calibration) की अनुमति देती है।

परिणाम और निष्कर्ष
एक सैद्धांतिक टिप्पणी के रूप में, शोध पत्र कोई अनुभवजन्य प्रायोगिक परिणाम प्रस्तुत नहीं करता है। इसके बजाय, इसके "परिणाम" दृष्टांत उदाहरणों के माध्यम से ढांचे की उपयोगिता के तार्किक प्रदर्शन हैं:

• आपातकालीन डिस्पैच सिस्टम: पेपर दर्शाता है कि कैसे एक आपातकालीन डिस्पैच एआई मानव-प्रधान निर्णय लेने से वास्तविक समय की स्वायत्तता की ओर विकसित होता है। एक स्थिर मॉडल जिम्मेदारी के क्रमिक बदलाव को मिस कर देगा, जबकि आयामी शासन सिस्टम द्वारा महत्वपूर्ण विश्वास थ्रेशोल्ड को पार करने को ट्रैक करता है, जिससे पूर्व-खाली (pre-emptive) निरीक्षण समायोजन सक्षम होता है।
• वित्तीय और स्वास्थ्य सेवा अनुप्रयोग: लेखक दर्शाते हैं कि कैसे आयामी ट्रैकिंग "ड्रिफ्ट" का पता लगा सकती है, जैसे कि क्रेडिट स्कोरिंग एल्गोरिदम चुपचाप डी फैक्टो निर्णय अधिकार प्राप्त कर लेते हैं या क्लिनिकल टूल्स इतने विश्वसनीय हो जाते हैं कि मानवीय ओवरराइड दुर्लभ हो जाता है।
• जोखिम शमन (Risk Mitigation): फ्रेमवर्क को जोखिम प्रकट होने से पहले सूक्ष्म शासन परिवर्तनों का पता लगाने में सक्षम दिखाया गया है, जिससे निरीक्षण रिएक्टिव (reactive) से भविष्योन्मुखी (anticipatory) की ओर बढ़ता है।

महत्व और दावे
शोध पत्र का दावा है कि आयामी शासन एआई निरीक्षण के लिए एक नवीन बुनियादी ढांचा प्रदान करता है जो विविध हितधारकों (नियामक, प्रौद्योगिकीविद, नीतिशास्त्री, उद्योग) के बीच सहयोग को सक्षम बनाता है। इसका महत्व निम्नलिखित में निहित है:

• अनुकूलन क्षमता (Adaptability): यह सुरक्षा से समझौता किए बिना एआई क्षमताओं के साथ विकसित होने वाले नियमों के लिए एक मार्ग प्रदान करता है, जो तकनीकी प्रगति और विधायी अपडेट के बीच के अंतराल को संबोधित करता है।
• साझा भाषा (Shared Language): यह एआई गवर्नेंस चुनौतियों पर चर्चा करने के लिए एक सामान्य शब्दावली प्रदान करता है, जिससे तकनीकी विशेषज्ञों और नीति निर्माताओं के बीच समन्वय की सुविधा मिलती है।
• प्रक्रिया की पारदर्शिता के माध्यम से निश्चितता: लेखक तर्क देते हैं कि जबकि पारंपरिक विनियमन निश्चितता के माध्यम से निश्चितता प्रदान करता है, आयामी शासन प्रक्रिया की पारदर्शिता के माध्यम से निश्चितता प्रदान करता है। हितधारक केवल यह जानकर स्पष्टता प्राप्त नहीं करते कि कोई सिस्टम स्थायी रूप से "कम-जोखिम" वाला है, बल्कि मापे गए आयामों, वर्तमान थ्रेशोल्ड और उनके विकास के लिए साक्ष्य-आधारित प्रक्रिया को समझकर स्पष्टता प्राप्त करते हैं।

अंततः, शोध पत्र का मानना है कि एजेंटिक एआई के युग के लिए, अनुकूलन क्षमता वैकल्पिक नहीं बल्कि अनिवार्य है। आयामी शासन समाज को उन प्रणालियों को प्रबंधित करने के लिए तैयार करता है जो न केवल वह हैं जो वे आज हैं, बल्कि वह भी हैं जो वे बन रहे हैं।