AI Pluralism and the Worlds It Misses

तकनीकी सारांश: एआई बहुलवाद और वे दुनियाएँ जिन्हें यह चूक जाता है

समस्या विवरण
एआई बहुलवाद (AI pluralism) के वर्तमान ढांचे मुख्य रूप से मूल्य बहुलवाद (value pluralism) पर केंद्रित हैं: विविध उपयोगकर्ता प्राथमिकताओं, मूल्यों या आउटपुट का प्रतिनिधित्व करना। यह शोध पत्र तर्क देता है कि यह ढांचा अधूरा है क्योंकि एआई सिस्टम सत्तामीमांसा (ontologies) भी थोपते हैं—जो कि उन व्यावहारिक प्रतिनिधिक प्रतिबद्धताओं को परिभाषित करती हैं कि कौन सी संस्थाएं अस्तित्व में हैं, वे कैसे संबंधित हैं, क्या प्रमाण माना जाता है, और क्या एक वैध आउटपुट गिना जाता है।

पहचाना गया मुख्य विफलता मोड सत्तामीय सपाटपन (ontological flattening) है। यह तब होता है जब स्थित, विवादास्पद, ऐतिहासिक रूप से विशिष्ट और मूर्त अर्थों (जिसे "जीवन जगत" या lifeworld कहा जाता है) को प्रतिबंधित तकनीकी श्रेणियों, प्रॉक्सी (proxies), एकत्रीकरण नियमों या बेंचमार्क लक्ष्यों में बदल दिया जाता है, जिन्हें तटस्थ और चुनौती देने में कठिन माना जाता है। जबकि बहुलवादी तरीके विविध आउटपुट उत्पन्न करने या फीडबैक को एकत्रित करने में सफल हो सकते हैं, वे अक्सर निश्चित सत्तामीमांसाओं पर कार्य करते हैं जहाँ श्रेणियों की परिभाषाएं और एकत्रीकरण के नियम प्रभावित पक्षों के अधिकार क्षेत्र से बाहर रहते हैं। इसके परिणामस्वरूप "परिणाम बहुलवाद" (विविध उत्तर) "सत्तामीय एकत्ववाद" (दुनिया को परिभाषित करने का एक एकल, निश्चित तरीका) के साथ सह-अस्तित्व में रहता है।

कार्यप्रणाली
यह शोध पत्र एक व्यवस्थित समीक्षा या नए नियंत्रित प्रयोग के बजाय एक सीमित वैचारिक और गुणात्मक संश्लेषण (bounded conceptual and qualitative synthesis) का उपयोग करता है। इसकी कार्यप्रणाली के तीन प्राथमिक घटक हैं:

1. अवधारणा मानचित्रण (Concept Mapping): मूल्य बहुलवाद, बहुलवादी संरेखण (pluralistic alignment), सहभागी एआई, प्रक्रियात्मक न्याय, विज्ञान और प्रौद्योगिकी अध्ययन (STS), और जवाबदेही अनुसंधान के साहित्य का एक उद्देश्यपूर्ण सैद्धांतिक नमूनाकरण।
2. विशेषज्ञ साक्षात्कार: कानून, नैतिकता और एआई के विशेषज्ञों के साथ 11 अर्ध-संरचित गोपनीय साक्षात्कार। इनका उपयोग सांख्यिकीय अनुमान या व्यापकता के दावों के बजाय संरचनात्मक परिशोधन (जैसे, प्रक्रियात्मक अधिकार बनाम ज्ञान संबंधी समावेश के बीच अंतर करना) के लिए किया गया था।
3. मामला विश्लेषण (Case Analysis): शहरी, सार्वजनिक स्थान और दृष्टि-आधारित प्रणालियों पर केंद्रित तीन सहयोगी पांडुलिपियों का माध्यमिक विश्लेषण:
   • मामला A: प्रत्यक्ष प्राथमिकता अनुकूलन (Direct Preference Optimization - DPO) का उपयोग करके एक बहुलवादी सार्वजनिक स्थान निर्माण डेटासेट, जो समुदाय-परिभाषित मानदंडों पर आधारित है।
   • मामला B: एक सहभागी स्ट्रीटस्केप समावेशी मॉडल, जो भविष्य कहनेवाला मॉडलिंग (predictive modeling) के लिए साक्षात्कार और फोकस-ग्रुप डेटा का उपयोग करता है।
   • मामला C: मानव एनोटेशन के विरुद्ध शहरी विजन-लैंग्वेज मॉडल का विश्वसनीयता-जागरूक मूल्यांकन।

विश्लेषण एक पांच-कोड मैट्रिक्स (सत्तामीय प्रवेश बिंदु, असहमति प्रबंधन, अधिकार/उपचार, प्रॉक्सी सीमा, जीवनचक्र निरंतरता) का उपयोग करता है ताकि एआई जीवनचक्र (समस्या फ्रेमिंग, डेटा जनरेशन, लेबलिंग, प्रशिक्षण, मूल्यांकन, परिनियोजन और सेवानिवृत्ति) में सपाटपन के तंत्रों की पहचान की जा सके।

प्रमुख योगदान
यह शोध पत्र तीन विशिष्ट योगदान देता है:

1. सत्तामीय सपाटपन की परिभाषा: यह इसे एक विशिष्ट विफलता मोड के रूप में परिभाषित करता है जहाँ बहुलवादी इनपुट या आउटपुट निश्चित सत्तामीमांसाओं के साथ सह-अस्तित्व में रहते हैं। यह सपाटपन को पूर्वाग्रह, गलत वर्गीकरण, या प्रॉक्सी विफलता से अलग करता है, यह पूछकर कि क्या लेबल स्पेस स्वयं में अनुचित अधिकार है और क्या प्रभावित पक्षों के पास प्रतिनिधिक प्रतिबद्धताओं को चुनौती देने का अधिकार है।
2. परिणाम और प्रक्रियात्मक बहुलवाद के बीच अंतर:
   • परिणाम बहुलवाद (Outcome Pluralism): ऐसे सिस्टम जो विविध आउटपुट उत्पन्न करते हैं, निर्देशित करते हैं, या उनके निकट पहुँचते हैं।
   • प्रक्रियात्मक बहुलवाद (Procedural Pluralism): ऐसे सिस्टम जहाँ प्रभावित पक्षों के पास समस्या फ्रेमिंग, श्रेणियां, साक्ष्य, एकत्रीकरण, मूल्यांकन और संशोधन पर अधिकार होता है।
     शोध पत्र का तर्क है कि यदि प्रक्रियात्मक बहुलवाद अनुपस्थित है, तो परिणाम बहुलवाद अपर्याप्त है।
3. बहुलवादी जीवनच cycles शासन (Pluralistic Lifecycle Governance - PLG): बहुलवादी एआई के पांच आयामों को प्रलेखित करने के लिए एक प्रारंभिक गुणात्मक ऑडिट स्कैफोल्ड (एक प्रमाणित स्कोरिंग उपकरण नहीं):
   • सत्तामीय खुलापन (Ontological Openness): श्रेणियों, प्रॉक्सी और मेट्रिक्स को चुनौती देने की क्षमता।
   • ज्ञान संबंधी समावेश (Epistemic Inclusion): साक्ष्य के रूप में कई प्रकार के ज्ञान (जीवित अनुभव सहित) की स्वीकार्यता।
   • प्रक्रियात्मक अधिकार (Procedural Authority): भागीदारी जिसमें निर्णय लेने के अधिकार (जैसे, वीटो, रोकना, बाध्यकारी समीक्षा) शामिल हैं, न कि केवल सलाहकार इनपुट।
   • मूल्यांकन बहुलवाद (Evaluation Pluralism): असहमति, तटस्थता, अनुपस्थिति और विश्वसनीयता डेटा के विलोपन के बजाय उनका संरक्षण।
   • जीवनचक्र जवाबदेही (Lifecycle Accountability): परिनियोजन, निगरानी, संशोधन और विमुक्ति के माध्यम से बहुलवादी प्रतिबद्धताओं की निरंतरता।

परिणाम और अनुभवजन्य निष्कर्ष
तीन मामलों का विश्लेषण यह दर्शाता है कि कैसे बहुलवादी विधियाँ मॉडल के व्यवहार में सुधार कर सकती हैं, फिर भी प्रभावित पक्षों के पास प्रक्रियात्मक अधिकार होने से पहले श्रेणियों को संकुचित कर देती हैं:

• मामला A (जनरेटिव): हालांकि सामुदायिक अवधारणाओं का उपयोग किया गया था, लेकिन DPO उद्देश्य ने बहु-मानदंड निर्णयों को बहुमत मतदान के माध्यम से बाइनरी युग्म वरीयताओं (pairwise preferences) में बदल दिया। तटस्थ तुलनाओं (जो अस्पष्टता या ट्रेड-ऑफ को दर्शाती हैं) को संरक्षित किया गया था लेकिन उन्हें एक वैध स्थिति के बजाय एक अवशिष्ट लक्ष्य (residual target) के रूप में माना गया, जो "प्रक्रियात्मक संपीड़न" को दर्शाता है।
• मामला B (अनुमानित): सहभागी लेबल का उपयोग मॉडल को प्रशिक्षित करने के लिए किया गया था, लेकिन परिणामी हीटमैप्स दृश्य सौंदर्यशास्त्र को स्थित अर्थों (जैसे, सुलभता, अपनेपन की भावना) के विकल्प के रूप में प्रस्तुत करने का जोखिम उठाते हैं। शासन संरचना में समुदायों के पास मानचित्र के रिज़ॉल्यूशन को संशोधित करने या दंडात्मक उपयोग को रोकने का अधिकार नहीं था।
• मामला C (मूल्यांकन): बेंचमार्क ने विश्वसनीयता और अनुपस्थिति (abstention) की रिपोर्ट की, लेकिन आम सहमति वाले लेबल अभी भी अस्थिर अर्थ विज्ञान (semantics) को छिपा सकते थे। अध्ययन ने नोट किया कि दृश्य गुणों के करीब के आयामों को मापना मूल्यांकन आयामों की तुलना में आसान था, और नकारात्मक क्रिपेंडॉर्फ का $\alpha$ (Krippendorff's $\alpha$) व्यवस्थित असहमति को दर्शाता है जो उन आयामों को स्थिर 'ग्राउंड ट्रुथ' मानने को रोकता है।

संश्लेषण यह निष्कर्ष निकालता है कि बहुलवाद वहां सबसे नाजुक होता है जहां एक 'जीवन जगत' (lifeworld) एक तकनीकी वस्तु बन जाता है। यदि कोई सिस्टम निश्चित लेबल के साथ शुरू होता है, तो बाद की भागीदारी केवल उन लेबल के लिए मूल्यों को भरने का काम कर सकती है।

महत्व और दावे
शोध पत्र का दावा है कि एआई बहुलवाद को मूल्य बहुलवाद के साथ-साथ सत्तामीय बहुलवाद (ontological pluralism) को भी संबोधित करना चाहिए। इसका तर्क है कि वर्तमान संरेखण अनुसंधान अक्सर विषम निर्णयों को एक एकल प्रशिक्षण संकेत में एकत्रित करता है या असहमति को 'शोर' (noise) मान लेता है, जिससे दुनिया बनाने के विवादास्पद तरीकों को संरक्षित करने में विफलता होती है।

इस कार्य का महत्व "कितने आउटपुट" से हटकर "सत्तामीमांसा को कौन परिभाषित करता है" पर ध्यान केंद्रित करने में निहित है। यह प्रतिपादित करता है कि वैध अमूर्तता (abstraction) तभी संभव है जब संपीड़न (compression) को सीमित, प्रलेखित, परिवर्तनीय और आनुपातिक बनाया जाए, और जब प्रभावित पक्ष स्वयं स्कीमा को चुनौती देने के अधिकार को बनाए रखें। यह शोध पत्र एआई सिस्टम को स्कोर करने के लिए एक प्रमाणित उपकरण प्रदान करने का दावा नहीं करता है; बल्कि, यह एक ऐसा ढांचा प्रदान करता है जो बहुलवादी एआई के साक्ष्य और शासन की स्थितियों को स्पष्ट बनाता है, और यह तर्क देता है कि सत्तामीमांसा पर प्रक्रियात्मक अधिकार के बिना, बहुलवादी एआई विविधता के मुखौटे के नीचे एक एकत्ववादी विश्वदृष्टि को पुनरुत्पादित करने का जोखिम उठाता है।