Explainable and Human-Grounded AI for Decision Support Systems: The Theory of Epistemic Quasi-Partnerships

तकनीकी सारांश: निर्णय सहायता प्रणालियों के लिए व्याख्यात्मक और मानव-आधारित AI

समस्या विवरण
यह शोध पत्र निर्णय सहायता प्रणालियों (AI-DSS) के क्षेत्र में 'व्याख्यात्मक कृत्रिम बुद्धिमत्ता' (Explainable AI - XAI) के संबंध में एक महत्वपूर्ण अंतराल को संबोधित करता है। जबकि यूरोपीय संघ के AI अधिनियम (2024) जैसे नियामक ढांचे उच्च-जोखिम वाले AI सिस्टम के लिए पारदर्शिता को अनिवार्य करते हैं, वर्तमान XAI अनुसंधान इस बात को परिभाषित करने में संघर्ष कर रहा है कि विशिष्ट उपयोगकर्ताओं (डोमेन विशेषज्ञों, जिनमें मशीन लर्निंग की गहरी समझ नहीं होती) के लिए एक "पर्याप्त रूप से पारदर्शी" व्याख्या क्या है। लेखक "इनमेट्स रनिंग द असिलम" (inmates running the asylum) की समस्या की पहचान करते हैं, जहाँ व्याख्याएँ अक्सर डेवलपर्स के बजाय एंड-यूजर्स (अंतिम उपयोगकर्ताओं) के लिए डिज़ाइन की जाती हैं। इसके अलावा, मौजूदा अनुभवजन्य साहित्य विरोधाभासी परिणाम प्रस्तुत करता है: कुछ अध्ययन बताते हैं कि फीचर ग्राफ (जैसे LIME, SHAP) समझ में सुधार करते हैं, जबकि अन्य संकेत देते हैं कि वे विश्वास अंशांकन (trust calibration) या सटीकता बढ़ाने में विफल रहते हैं। तर्क दिया गया है कि मानव-आधारित व्याख्याओं के लिए वर्तमान सैद्धांतिक ढांचे अपर्याप्त हैं क्योंकि वे या तो इस अनुभवजन्य साक्ष्य को समझाने में विफल रहते हैं या अनैतिक सलाह देते हैं, जैसे कि मानवीकरण (anthropomorphism) को बढ़ावा देना।

कार्यप्रणाली
लेखक अनुभवजन्य XAI साहित्य की समीक्षा पर आधारित एक वैचारिक और सैद्धांतिक विश्लेषण का उपयोग करते हैं।

• साहित्य समीक्षा: शोध पत्र "आय भविष्यवाणी कार्य" (Income Prediction Task - IPT) और "स्विच प्रतिशत प्रतिमान" (switch percentage paradigm) का उपयोग करने वाले प्रमुख अध्ययनों के निष्कर्षों का संश्लेषण करता है, जो विश्वास अंशांकन (वह डिग्री जिस तक उपयोगकर्ता AI सिफारिशों का पालन करते हैं) को मापते हैं।
• तुलनात्मक विश्लेषण: लेखक विभिन्न व्याख्या तकनीकों की प्रभावकारिता का विश्लेषण करते हैं, जिनमें शामिल हैं:
  • फीचर ग्राफ (Feature Graphs): (LIME, SHAP) फीचर महत्व का दृश्य चित्रण।
  • मॉडल आत्मविश्वास (Model Confidence): विश्वसनीयता के प्रस्तावणात्मक कथन (जैसे, "90% आश्वस्त")।
  • काउंटरफैक्चुअल्स (Counterfactuals): पाठ-आधारित और ग्राफिकल विवरण कि परिणामों को बदलने के लिए इनपुट को कैसे बदलना होगा।
  • एंकर (Anchors): यदि-तो (if-then) नियम जो भविष्यवाणियों के लिए स्थितियाँ निर्दिष्ट करते हैं।
  • प्रोटोटाइप (Prototypes): नए उदाहरणों की प्रतिनिधि प्रशिक्षण उदाहरणों के साथ तुलना।
• सैद्धांतिक आलोचना: पत्र मानव-आधारित व्याख्याओं के तीन प्रमुख मौजूदा सिद्धांतों का मूल्यांकन करता है:
  1. मेंटल मॉडल का सिद्धांत (Theory of Mental Models - TMM): विश्वास के लिए आंतरिक तंत्र को समझना आवश्यक है।
  2. मेंटल मॉडल प्लस (TMM+): विश्वास के लिए त्रुटि सीमाओं (error boundaries) को समझना आवश्यक है।
  3. मानवीकरण का सिद्धांत (Theory of Anthropomorphism - TA): विश्वास के लिए AI को मानव जैसा मानने की आवश्यकता है।
• वैचारिक ढांचा विकास: लेखक एक नया सैद्धांतिक ढांचा प्रस्तावित करते हैं, जिसे एपिस्टेमिक क्वासी-पार्टनरशिप थ्योरी (Theory of Epistemic Quasi-Partnerships - EQP) कहा जाता है, और अनुभवजन्य साक्ष्यों के संश्लेषण और मौजूदा सिद्धांतों की आलोचना के आधार पर एक व्यावहारिक पद्धति जिसे RCC दृष्टिकोण (Reasons, Counterfactuals, Confidence) कहा जाता है, विकसित करते हैं।

प्रमुख योगदान

1. एपिस्टेमिक ओपेसिटी (Epistemic Opacity) की पहचान: लेखक तर्क देते हैं कि फीचर ग्राफ गैर-विशेषज्ञों के लिए अक्सर "एपिस्टेमिक रूप से अपारदर्शी" होते हैं क्योंकि वे एपिस्टेमिक डिस्सर्नमेंट (विश्वासों के कारणों को निर्धारित करने की क्षमता) को सुविधाजनक बनाने में विफल रहते हैं। विशेषज्ञों के लिए सहज होने के बावजूद, वे सामान्य मानवीय एपिस्टेमिक प्रथाओं के अनुरूप नहीं होते हैं।
2. मौजूदा सिद्धांतों की आलोचना:
   • TMM/TMM+: इनकी आलोचना इसलिए की गई है क्योंकि ये सहज नहीं हैं (उपयोगकर्ता दैनिक जीवन में अपारदर्शी प्रणालियों पर भरोसा करते हैं) और वैचारिक रूप से सीमित हैं, क्योंकि वे यह समझाने में विफल रहते हैं कि गैर-यांत्रिक (non-mechanistic) व्याख्याएँ (जैसे आत्मविश्वास या काउंटरफैक्चुअल्स) प्रभावी क्यों हैं।
   • TA: जबकि TA मानव जैसे स्पष्टीकरणों की सफलता की व्याख्या करता है, लेखक तर्क देते हैं कि यह नैतिक रूप से समस्याग्रस्त है क्योंकि यह संज्ञानात्मक पूर्वाग्रहों (मानवीकरण) के हेरफेर पर निर्भर करता है और मशीन एजेंसी के संबंध में श्रेणी संबंधी गलतियों (category mistakes) को जन्म देने का जोखिम उठाता है।
3. एपिस्टेमिक क्वासी-पार्टनरशिप थ्योरी (EQP): शोध पत्र मानव-मशीन संपर्क के एक नए सिद्धांत के रूप में EQP को पेश करता है। यह प्रतिपादित करता है कि AI-DSS को "एपिस्टेमिक क्वासी-पार्टनर्स" (ज्ञान संबंधी अर्ध-साझेदार) के रूप में देखा जाना चाहिए—ऐसे उपकरण जो सामाजिक जिम्मेदारी के बिना विशेषज्ञ योगदान प्रदान करते हैं। विश्वास स्थापित करने के लिए मानव की नकल करने (मानवीकरण) या आंतरिक कोड को प्रकट करने (यांत्रिक पारदर्शिता) की आवश्यकता नहीं है, बल्कि सुदृढ़ एपिस्टेमिक प्रथाओं में संलग्न होने की आवश्यकता है जो मानव तर्क के समान हैं।
4. RCC दृष्टिकोण: EQP से व्युत्पन्न, लेखक मानव-आधारित स्पष्टीकरणों के लिए एक विशिष्ट ढांचा प्रस्तावित करते हैं जिसमें तीन घटक शामिल हैं:
   • कारण (Reasons): निर्णयों के लिए प्रस्तावणात्मक औचित्य प्रदान करना (जैसे, "मैंने X चुना क्योंकि Y")।
   • काउंटरफैक्चुअल्स (Counterfactuals): मजबूती और निर्णय सीमाओं को दिखाने के लिए "क्या होगा यदि" परिदृश्यों के प्रति प्रतिक्रियाशीलता प्रदर्शित करना।
   • आत्मविश्वास (Confidence): विश्वसनीयता स्कोर को स्पष्ट रूप से बताना, आदर्श रूप से इस संबंध में कि काउंटरफैक्चुअल परिवर्तनों के तहत आत्मविश्वास कैसे बदलता है।

परिणाम और अनुभवजन्य संरेखण
यह शोध पत्र नया प्रयोगात्मक डेटा प्रस्तुत नहीं करता है, बल्कि RCC दृष्टिकोण का समर्थन करने के लिए मौजूदा अध्ययनों का संश्लेषण करता है:

• आत्मविश्वास (Confidence): अध्ययन (जैसे, Zhang et al., 2020) दिखाते हैं कि प्रस्तावणात्मक मॉडल आत्मविश्वास फीचर ग्राफ की तुलना में बेहतर विश्वास अंशांकन की सुविधा प्रदान करता है।
• काउंटरफैक्चुअल्स (Counterfactuals): अनुसंधान (जैसे, Le et al., 2022) इंगित करता है कि काउंटरफैक्चुअल विवरण, विशेष रूप से ग्राफिकल, सटीकता और विश्वास अंशांकन में सुधार करते हैं।
• एंकर बनाम फीचर ग्राफ: जबकि फीचर ग्राफ विशेषज्ञों के लिए "सिमुलेबिलिटी" (simulatability) में सहायता करते हैं (Hase & Bansal, 2020), वे अक्सर नौसिखियों के लिए सटीकता या विश्वास में सुधार करने में विफल रहते हैं। इसके विपरीत, एंकर स्पष्टीकरण (if-then नियम) और प्रोटोटाइप स्पष्टीकरण क्रमशः तार्किक तर्क (modus ponens) और आगमनात्मक तर्क (abductive reasoning) के साथ संरेखित होते हैं, जो उन्हें सामान्य एपिस्टिक प्रथाओं के लिए अधिक प्रभावी बनाता है।
• पूर्वाग्रह शमन (Bias Mitigation): विश्लेषण बताता है कि उदाहरण-आधारित और काउंटरफैक्चुअल स्पष्टीकरण 'सिस्टम 2' (तर्कसंगत) सोच को संलग्न करते हैं, जिससे फीचर ग्राफ और अलग-थलग आत्मविश्वास स्कोर से जुड़े 'एंकरिंग बायस' कम हो जाते हैं।

महत्व और दावे
लेखक दावा करते हैं कि Theory of Epistemic Quasi-Partnerships और RCC Approach मानव-आधारित स्पष्टीकरणों के विकास के लिए एक बेहतर ढांचा प्रदान करते हैं।

• व्याख्यात्मक शक्ति: EQP उस अनुभवजन्य साक्ष्य को सफलतापूर्वक समझाता है जिसे वर्तमान सिद्धांत (TMM, TMM+, TA) समझाने में विफल रहते हैं, विशेष रूप से यह कि गैर-यांत्रिक स्पष्टीकरण (आत्मविश्वास, काउंटरफैक्चुअल्स) प्रभावी क्यों हैं।
• नैतिक मार्गदर्शन: 'Theory of Anthropomorphism' के विपरीत, EQP धोखे या श्रेणी संबंधी त्रुटियों के माध्यम से उपयोगकर्ता के विश्वास में हेरफेर करने के नैतिक संकट से बचता है। यह "क्वासी-पार्टनरशिप" की वकालत करता है जो उपयोगी कल्पनाएँ (useful fictions) हैं, जो मानव और मशीन एजेंसी के बीच एक स्पष्ट अंतर बनाए रखते हुए एपिस्टेमिक विश्वास को बढ़ावा देते हैं।
• व्यावहारिक अनुप्रयोग: शोध पत्र का तर्क है कि पारदर्शिता जनादेशों (जैसे EU AI Act) का अनुपालन करने और एल्गोरिदम के प्रति अरुचि (algorithm aversion) को कम करने के लिए, डेवलपर्स को AI-DSS को इस तरह से डिजाइन करना चाहिए कि वे मानव एपिस्टिक प्रथाओं के अनुरूप कारणों, काउंटरफैक्चुअल्स और आत्मविश्वास को प्रदान करें, न कि मॉडल के आंतरिक तंत्र को गैर-विशेषज्ञों के लिए पारदर्शी बनाने का प्रयास करें।

शोध पत्र निष्कर्ष निकालता है कि RCC दृष्टिकोण विश्वास अंशांकन में सुधार के लिए एक अनुभवजन्य रूप से समर्थित विधि और मानव-AI संपर्क के लिए एक नैतिक रूप से सुदृढ़ रणनीति दोनों है।