Actionable Interpretability Must Be Defined in Terms of Symmetries

तकनीकी सारांश: क्रियात्मक व्याख्यात्मकता (Actionable Interpretability) को समरूपताओं (Symmetries) के संदर्भ में परिभाषित किया जाना चाहिए

1. समस्या का विवरण (Problem Statement)

यह शोध पत्र तर्क देता है कि व्याख्यात्मक कृत्रिम बुद्धिमत्ता (Interpretable AI) में वर्तमान अनुसंधान मौलिक रूप से अस्पष्ट (ill-posed) है। यद्यपि व्याख्यात्मकता की कई परिभाषाएँ मौजूद हैं (जैसे, किम एट अल., 2016; मिलर, 2019; डोशी-वेलेज़ और किम, 2017), वे काफी हद तक अनौपचारिक और वर्णनात्मक हैं। फलस्वरूप, क्षेत्र में निम्नलिखित का अभाव है:

1. एक औपचारिक ढांचा (formal framework) यह सत्यापित करने के लिए कि क्या कोई मॉडल व्याख्यात्मक है।
2. व्याख्यात्मक मॉडल बनाने के लिए डिजाइन सिद्धांतों (design principles) का एक समूह।

मौजूदा परिभाषाएँ यह निर्दिष्ट करने में विफल रहती हैं कि व्याख्यात्मकता को औपचारिक रूप से कैसे परखा या इंजीनियर किया जा सकता है। लेखक तर्क देते हैं कि एक कठोर आधार के बिना, प्रमुख सीमाओं की अनदेखी की जाती है, और यह क्षेत्र वांछनीय गुणों (जैसे, स्पर्सिटी/विरलता, मॉडुलैरिटी/मॉड्यूलरता) की सूचियों में विभाजित होकर रह जाता है न कि एकीकृत सिद्धांतों में।

2. कार्यप्रणाली: समरूपता-आधारित ढांचा (Methodology: The Symmetry-Based Framework)

एरलैंग प्रोग्राम (क्लेन, 1893) से प्रेरित होकर, लेखक प्रस्ताव देते हैं कि एक क्रियात्मक व्याख्यात्मकता की परिभाषा (actionable definition of interpretability) को समरूपताओं (symmetries) (संरचना-संरक्षण परिवर्तनों) के संदर्भ में तैयार किया जाना चाहिए। वे मानव उपयोगकर्ताओं और मॉडलों को औपचारिक रूप देने के लिए मार्कोव श्रेणियों (Markov categories) (विशेष रूप से श्रेणी BorelStoch) का उपयोग करते हुए एक संयोजन संबंधी संभाव्य दृष्टिकोण (compositional probabilistic view) अपनाते हैं।

कार्यप्रणाली चार विशिष्ट समरूपताओं को पेश करती है, जो संतुष्ट होने पर, एक दिए गए मानव उपयोगकर्ता $h$ के लिए व्याख्यात्मक मॉडलों की श्रेणी को परिभाषित करती हैं:

• समरूपता I: अनुमान समरूपता (Inference Equivariance)

  • परिभाषा: एक मॉडल $P_{Y|X}$ व्याख्यात्मक है यदि एक उपयोगकर्ता मॉडल की निर्णय प्रक्रिया का "अनुकरण" (simulate) कर सकता है। औपचारिक रूप से, उपयोगकर्ता के परिकल्पना स्थान $H_m$ में एक "मानसिक मॉडल" $P^{[h]}_{Y|X}$ होना चाहिए ताकि इनपुट को उपयोगकर्ता के स्थान में अनुवादित करना और भविष्यवाणी करना, मूल स्थान में भविष्यवाणी करने और आउटपुट को अनुवादित करने के समान परिणाम दे।
  • तंत्र: इसे एक कम्यूटेटिव डायग्राम (commutative diagram) द्वारा दर्शाया गया है जहाँ अनुवाद-फिर-भविष्यवाणी का पथ, भविष्यवाणी-फिर-अनुवाद के बराबर होता है।
  • सीमा: बड़े इनपुट स्थानों के लिए इसे सहज रूप से सत्यापित करना कठिन है (चुनौती C1)।

• समरूपता II: सूचना अपरिवर्तनीयता (Information Invariance)

  • परिभाषा: इस जटिलता को दूर करने के लिए, मॉडल को केवल कार्य के लिए पर्याप्त इनपुट जानकारी रखनी चाहिए, और अप्रासंगिक विवरणों को त्याग देना चाहिए।
  • तंत्र: एक सर्जेक्टिव मैप (surjective map) $P_{Z|X}$, इनपुट $X$ को एक लेटेंट वेरिएबल (latent variable) $Z$ में संकुचित करता है ताकि म्यूचुअल इंफॉर्मेशन $I(Y; X)$ मार्जिनलाइजेशन के तहत अपरिवर्तित रहे ($I(Y; X|Z) = 0$)।
  • परिणाम: यह $X$ के घातांकीय स्थान से अनुमान समरूपता के सत्यापन को एक सुलभ स्थान $Z$ में बदल देता है।

• समरूपता III: अवधारणा-पूर्णता अपरिवर्तनीयता (Concept-Closure Invariance)

  • परिभाषा: यह सुनिश्चित करने के लिए कि मॉडल के आउटपुट और मानव समझ के बीच अनुवाद "सुदृढ़" (अर्थ सुरक्षित रखता है) हो, मॉडल को उन अवधारणाओं पर कार्य करना चाहिए जो मानव अर्थशास्त्र (semantics) के साथ संरेखित हों।
  • तंत्र: फॉर्मल कॉन्सेप्ट एनालिसिस का उपयोग करते हुए, एक "अवधारणा" को वस्तुओं और वाक्यों के बीच एक संबंध के फिक्स्ड पॉइंट के रूप में परिभाषित किया गया है। एक अनुवाद $\tau_C$ तब सुदृढ़ है यदि वह अवधारणा पूर्णता (concept closure) को संरक्षित करता है (वस्तुओं, वाक्यों और उनके मैपिंग का डायग्राम कम्यूट करता है)।
  • परिणाम: यह सुनिश्चित करता है कि मॉडल द्वारा उपयोग किए जाने वाले लेटेंट वेरिएबल्स मानव-समझने योग्य अवधारणाओं के अनुरूप हों, जिससे विरोधाभासी व्याख्याओं को रोका जा सके।

• समरूपता IV: संरचनात्मक अपरिवर्तनीयता (Structural Invariance)

  • परिभाषा: मॉडल की आंतरिक संरचना उपयोगकर्ता की संज्ञानात्मक क्षमताओं (उनके "मानसिक मॉडल" परिकल्पना स्थान $H_m$) के अनुकूल होनी चाहिए।
  • तंत्र: यदि एक उपयोगकर्ता केवल रैखिक रूप से तर्क कर सकता है, तो मॉडल को रैखिक होना चाहिए। औपचारिक रूप से, संरचनात्मक गुण एक फंक्टर $F$ द्वारा संरक्षित होते हैं जो व्याख्यात्मक मॉडलों की श्रेणी को मानव मानसिक मॉडलों की श्रेणी में मैप करता है।
  • परिणाम: यह व्याख्यात्मकता को स्पष्ट रूप से उपयोगकर्ता-केंद्रित बनाता है; एक मॉडल तभी व्याख्यात्मक है जब उसकी संरचनात्मक जटिलता उपयोगकर्ता की तर्क क्षमता से मेल खाती है।

3. मुख्य योगदान (Key Contributions)

A. व्याख्यात्मक मॉडलों की औपचारिक परिभाषा
लेखक एक व्याख्यात्मक मॉडल को एक ऐसे मॉडल के रूप में परिभाषित करते हैं जो चारों समरूपताओं को संतुष्ट करता है। वे BorelStoch की एक उपश्रेणी के रूप में व्याख्यात्मक मॉडलों की श्रेणी ($I_m$) का निर्माण करते हैं।

• ऑब्जेक्ट्स (Objects): अवधारणा स्थान ($C_1, \dots, C_k$)।
• प्रक्रियाएं (Processes): अवधारणा-आधारित सशर्त संभावनाएँ, कॉपी मैप्स और डिस्कॉर्ड मैप्स।
• संयोजन (Composition): क्रमिक और समानांतर संयोजन नियम।
  यह श्रेणी किसी भी व्याख्यात्मक मॉडल के निर्माण के लिए एक "रेसिपी" (स्ट्रिंग डायग्राम के माध्यम से) के रूप में कार्य करती है।

B. अनुमान प्रकारों का बेयसियन इन्वर्जन के रूप में एकीकरण
यह शोध पत्र प्रदर्शित करता है कि इस ढांचे के तहत, व्याख्यात्मकता में उपयोग किए जाने वाले तीन महत्वपूर्ण प्रकार के अनुमान, बेयसियन इन्वर्जन (Bayesian inversion) के रूपों के रूप में एकीकृत हैं:

1. अवधारणा संरेखण (Concept Alignment): ग्राउंड-ट्रुथ अवधारणा साक्ष्य के आधार पर मापदंडों के पोस्टीरियर वितरण की गणना करके मानव अवधारणाओं को सीखना।
2. हस्तक्षेप (Interventions): बाहरी हस्तक्षेपों (जैसे, $do$-calculus या ग्राउंड-ट्रुथ ओवरराइड) के माध्यम से मॉडल की स्थिति को अपडेट करना।
3. काउंटरफैक्चुअल्स (Counterfactuals): बाह्य चरों (exogenous variables) को अलग करने के लिए मॉडल को फिर से लिखना (abduction), हस्तक्षेप करना और संशोधित मॉडल में परिणामों की भविष्यवाणी करना।

C. मौजूदा गुणों का व्युत्पन्न (Derivation of Existing Properties)
ढांचा दिखाता है कि साहित्य में अक्सर वांछनीय बताए जाने वाले गुण (स्पर्सिटी, कॉम्पैक्टनेस, फेथफुलनेस, मॉडुलैरिटी) मौलिक अभिगृय (axioms) नहीं हैं, बल्कि प्रस्तावित समरूपताओं को संतुष्ट करने के परिणाम हैं। उदाहरण के लिए:

• स्पर्सिटी और कॉम्पैक्टनेस सूचना अपरिवर्तनीयता से उत्पन्न होती हैं।
• फेथफुलनेस और संरेखण अवधारणा-पूर्णता अपरिवर्तनीयता से उत्पन्न होते हैं।
• रैखिकता या एकदिष्टता (monotonicity) की आवश्यकताएं संरचनात्मक अपरिवर्तनीयता से उत्पन्न होती हैं।

4. परिणाम और दावे (Results and Claims)

यह शोध पत्र नए प्रयोगात्मक बेंचमार्क या अनुभवजन्य परिणाम प्रस्तुत नहीं करता है। इसके बजाय, इसके "परिणाम" सैद्धांतिक और संरचनात्मक हैं:

• व्यावहारिकता (Tractability): सूचना अपरिवर्तनीयता को लागू करके, यह शोध पत्र उच्च-आयामी स्थानों में अनुमान समरूपता को सत्यापित करने की जटिलता को हल करने का दावा करता है।
• सुदृढ़ता (Soundness): अवधारणा-पूर्णता अपरिवर्तनीयता को लागू करके, यह सुदृढ़ अनुवादों (जैसे, "काला" $\to$ "noir") और असुदृढ़ अनुवादों के बीच अंतर करने के लिए एक औपचारिक मानदंड प्रदान करता है।
• उपयोगकर्ता-केंद्रितता (User-Centricity): संरचनात्मक अपरिवर्तनीयता को लागू करके, यह औपचारिक बनाता है कि व्याख्यात्मकता मॉडल का एक अंतर्निहित गुण नहीं है, बल्कि एक विशिष्ट उपयोगकर्ता के परिकल्पना स्थान और मॉडल के बीच का संबंध है।
• एकीकरण (Unification): यह पेपर विभिन्न अनुमान कार्यों (संरेखण, हस्तक्षेप, काउंटरफैक्चुअल्स) को एक एकल गणितीय ऑपरेशन (मार्कोव श्रेणी के भीतर बेयसियन इन्वर्जन) के तहत एकीकृत करने का दावा करता है।

5. महत्व और आह्वान (Significance and Call to Action)

शोध पत्र का तर्क है कि इसका महत्व गुणों के अनौपचारिक नामांकन से समरूपताओं के माध्यम से औपचारिक सत्यापन की ओर बढ़ने में निहित है।

• संदेह का खंडन: लेखक इस विचार का खंडन करते हैं कि "कोई सार्वभौमिक गणितीय परिभाषा मौजूद नहीं है" और तर्क देते हैं कि समरूपता एक सार्वभौमिक ढांचा प्रदान करती है जो गणितीय कठोरता से समझौता किए बिना उपयोगकर्ता-केंद्रितता ( $H_m$ के माध्यम से) को शामिल करती है।
• पहुंच संबंधी चिंताओं का खंडन: वे तर्क देते हैं कि हालांकि औपचारिकता (कैटेगरी थ्योरी) कठोर है, समरूपताएं सहज, उदाहरण-स्तरीय व्याख्याएं स्वीकार करती हैं जो व्यापक दर्शकों के लिए सुलभ हैं।
• भविष्य की दिशा: लेखक समुदाय से आह्वान करते हैं:
  1. मौजूदा व्याख्यात्मकता विधियों को इन चार समरूपताओं के साथ मैप करें।
  2. पहचानें कि वर्तमान कार्यों में कौन सी समरूपताएं स्पष्ट रूप से मानी गई हैं या जिनका उल्लंघन हुआ है (जैसे, यह नोट करना कि 'कॉन्सेप्ट बॉटलनेक मॉडल' अवधारणा-पूर्णता को संतुष्ट कर सकते हैं लेकिन यदि वे अनकन्स्ट्रेंड DNN का उपयोग करते हैं तो संरचनात्मक अपरिवर्तनीयता में विफल हो सकते हैं)।
  3. ऐसे नए तरीके विकसित करें जो अपने इच्छित कार्यों और उपयोगकर्ताओं के लिए स्पष्ट रूप से "समरूपता-पूर्ण" (symmetry-complete) हों।

संक्षेप में, शोध पत्र का तर्क है कि क्रियात्मक व्याख्यात्मकता एक अस्पष्ट गुण नहीं है, बल्कि एक विशिष्ट संरचनात्मक गुण है जो इस बात से परिभाषित होता है कि एक मॉडल मानव उपयोगकर्ता के सापेक्ष सूचना, अवधारणा और संरचना को कैसे संरक्षित करता है, जिसे प्रस्तावित समरूपता ढांचे का उपयोग करके औपचारिक रूप से सत्यापित और डिजाइन किया जा सकता है।