🤖 machine learning

Constraint-Anchored Attribution: Feasibility-Certified Counterfactuals and Bonferroni-PAC Sufficient Subsets for Neural CO Policies

यह शोध पत्र न्यूरल कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन पॉलिसियों के लिए एक कंस्ट्रेंट-एंकोर्ड एट्रिब्यूशन पद्धति प्रस्तुत करता है जो LP-रिलैक्सेशन ड्यूल्स के माध्यम से निर्णयों को विघटित करती है, कॉम्बिनेटोरियल फिजिबिलिटी मॉडल्स का उपयोग करके काउंटरफैक्टुअल्स को प्रमाणित करती है, और बोनफेरोनी-करेक्टेड PAC टेस्ट्स के साथ पर्याप्त स्पष्टीकरण आकारों को सीमित करती है, जो कई समस्या डोमेन में प्रॉक्सी ग्रेडिएंट्स की तुलना में काफी उच्च सटीकता प्रदर्शित करती है।

मूल लेखक: Sohaib Lafifi

प्रकाशित 2026-05-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sohaib Lafifi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट डिस्पैचर है जो डिलीवरी रूट या फैक्ट्री जॉब्स का शेड्यूल बनाता है। यह अपने काम में अविश्वसनीय रूप से कुशल है, अक्सर मानव विशेषज्ञों को भी पीछे छोड़ देता है। लेकिन यह एक "ब्लैक बॉक्स" है: आप उससे पूछते हैं, "आपने इस घर के लिए ट्रक पहले क्यों भेजा?" और वह बस इतना कहता है, "क्योंकि मेरी गणित ने ऐसा कहा।"

यह पेपर उस ब्लैक बॉक्स को खोलने का एक नया तरीका पेश करता है, जिसे कन्स्ट्रेंट-एंकरड एट्रिब्यूशन (CAX) कहा जाता है। इसे एक अनुवादक के रूप में सोचें जो रोबोट की जटिल गणित को केवल संख्याओं के बजाय नियमों की एक कहानी में बदल देता है।

यह सिस्टम तीन मुख्य उपकरणों का उपयोग करके इस प्रक्रिया को कैसे समझाता है, यहाँ दिया गया है:

1. "रूल-बुक" अनुवादक (Λ-attribution)

आमतौर पर, जब हम AI को समझाने की कोशिश करते हैं, तो हम व्यक्तिगत इनपुट्स (जैसे "घर तक की दूरी" या "पैकेज का वजन") को देखते हैं। यह पेपर तर्क देता है कि यह किसी इमारत के गिरने के लिए एक एकल ईंट को दोष देने जैसा है, जबकि वास्तव में, यह नींव या छत की विफलता थी।

इन समस्याओं में, निर्णय नियमों के परिवारों (जैसे, "ट्रक का वजन सीमा से अधिक न हो," "शाम 5 बजे के बाद न पहुँचें," "बहुत दूर न जाएँ") द्वारा संचालित होते हैं।

पुराना तरीका: हर एक संख्या को देखता है और अनुमान लगाता है कि कौन सा नियम महत्वपूर्ण था। यह अक्सर गलत हो जाता है क्योंकि कुछ संख्याएँ "ज़ोरदार" (अधिक डेटा वाली) दिखती हैं, भले ही वे निर्णय का वास्तविक कारण न हों।
नया तरीका (CAX): यह "शैडो प्राइसेस" (एक फैंसी गणितीय शब्द जिसका अर्थ है कि एक नियम समाधान को कितना दबा रहा है) को देखता है। यह पूछता है: "अभी नियमों का कौन सा परिवार सबसे अधिक तनाव में है?"
परिणाम: यह सही ढंग से पहचानता है कि निर्णय "टाइम विंडो" नियम द्वारा संचालित था, न कि केवल "दूरी" नियम द्वारा, भले ही दूरी का डेटा बहुत बड़ा था।

2. "क्या-होता-अगर" वास्तविकता की जाँच (Feasibility-Certified Counterfactuals)

AI को समझाने का एक सामान्य तरीका यह पूछना है कि "कौन सा छोटा सा बदलाव रोबोट को कुछ अलग करने के लिए प्रेरित करेगा?"

पुराने तरीकों के साथ समस्या: वे सुझाव दे सकते हैं कि, "यदि पैकेज का वजन -50 किलोग्राम होता, तो रोबोट कहीं और जाता।" वह असंभव है! आप नकारात्मक वजन नहीं रख सकते। ये "काउंटरफैक्टुअल्स" गणितीय रूप से मान्य हैं लेकिन भौतिक रूप से निरर्थक हैं।
CAX समाधान: यह एक "फिजिबिलिटी सर्टिफिकेट" का उपयोग करता है। किसी स्पष्टीकरण को स्वीकार करने से पहले, यह एक सख्त परीक्षण (एक सुरक्षा निरीक्षक की तरह) चलाता है ताकि यह सुनिश्चित हो सके कि "क्या-होता-अगर" वाला परिदृश्य वास्तव में वास्तविक दुनिया में संभव है।
उपमा: कल्पना कीजिए कि आप पूछते हैं, "आपने पुल क्यों लिया?" पुराना AI कहता है, "क्योंकि यदि आप सुरंग लेते, तो आप दुर्घटनाग्रस्त हो जाते।" CAX AI कहता है, "क्योंकि यदि आप सुरंग लेते, तो आप दुर्घटनाग्रस्त हो जाते और सुरंग वास्तव में खुली और चलाने योग्य भी है।" यह असंभव परिदृश्यों को फ़िल्टर कर देता है।

3. "न्यूनतम साक्ष्य" परीक्षण (Bonferroni-PAC Subsets)

कभी-कभी, हम जानना चाहते हैं: "रोबोट को यह निर्णय लेने के लिए कितनी न्यूनतम जानकारी की आवश्यकता थी?"

विधि: यह पेपर एक सांख्यिकीय ट्रिक (बोनफेरोनी सुधार) का उपयोग करता है ताकि नोड्स (जैसे रूट के कुछ विशिष्ट घर) का एक छोटा समूह खोजा जा सके, जिसके बारे में यदि आपको पता होता, तो रोबップ अभी भी बिल्कुल वही चुनाव करता।
परिणाम: यह सिद्ध करता है कि रोबोट को पूरे मानचित्र को देखने की आवश्यकता नहीं थी; उसे अपने निर्णय के प्रति 95% आश्वस्त होने के लिए केवल 5 स्थानों के एक छोटे, विशिष्ट क्लस्टर को देखने की आवश्यकता थी। यह स्पष्टीकरण को संक्षिप्त और केंद्रित रखता है।

बड़ा परीक्षण: क्या यह काम कर गया?

लेखकों ने तीन अलग-अलग समस्याओं पर इसका परीक्षण किया:

डिलीवरी रूट्स (CVRPTW): टाइम विंडो और वजन सीमाओं वाले ट्रक।
प्राइज कलेक्शन (OP): ईंधन समाप्त होने से पहले अधिक मूल्य वाले स्थानों पर जाना।
फैक्ट्री शेड्यूलिंग (FJSP): विभिन्न मशीनों को काम सौंपना।

निष्कर्ष:

डिलीवरी रूट्स पर: पुराना तरीका (कच्चे नंबरों को देखना) केवल 75% बार सही था। नया CAX तरीका 97% बार सही था। इसने सफलतापूर्वक उस "टाइम विंडो" नियम को पकड़ लिया जिसे पुराना तरीका मिस कर गया था।
प्राइज कलेक्शन पर: पुराना तरीका केवल 35% बार सही था। CAX बढ़कर 77% हो गया।
फैक्ट्री शेड्यूलिंग पर: दोनों तरीके पूरी तरह सहमत थे (100%)। इसने सिद्धांत की पुष्टि की: जब डेटा और नियम एक साथ अच्छी तरह से मिलते हैं, तो पुराना तरीका काम करता है, लेकिन जब वे उलझ जाते हैं, तो CAX ही एकमात्र है जो सही परिणाम देता है।

संक्षेप में

यह पेपर हमें जटिल रोबोट निर्णयों को समझाने का एक तरीका देता है:

कारणों को नियमों द्वारा समूहित करके (न कि केवल संख्याओं द्वारा)।
यह जाँचकर कि "क्या-होता-अगर" वाली कहानियाँ भौतिक रूप से संभव हैं।
न्यूनतम तथ्यों के सेट को खोजकर जिनकी निर्णय को न्यायसंगत बनाने के लिए आवश्यकता थी।

यह एक भ्रमित करने वाले गणितीय आउटपुट को एक स्पष्ट, विश्वसनीय कहानी में बदल देता है कि रोबोट ने अपना चुनाव क्यों किया, यह सुनिश्चित करता है कि स्पष्टीकरण खेल के वास्तविक नियमों में आधारित है, न कि केवल सांख्यिकीय शोर में।

तकनीकी सारांश: न्यूरल CO नीतियों के लिए बाधा-आधारित एट्रिब्यूशन (Constraint-Anchored Attribution)

समस्या विवरण

कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन (CO) के लिए न्यूरल नीतियां रूटिंग और शेड्यूलिंग समस्याओं को हल करने में तेजी से प्रभावी हो रही हैं, फिर भी उनकी निर्णय लेने की प्रक्रिया अपारदर्शी बनी हुई है। मानक एक्सप्लेनेबल एआई (XAI) विधियां, जैसे कि ग्रेडिएंट-आधारित फीचर एट्रिब्यूशन (जैसे, इंटीग्रेटेड ग्रेडिएंट्स, डीपलिफ्ट), CO डोमेन में विफल रहती हैं क्योंकि वे फीचर स्तर पर कार्य करती हैं न कि बाधा (constraint) स्तर पर। CO समस्याएं बाधाओं के परिवारों (जैसे, क्षमता, टाइम विंडो, प्रीसीडेंस) द्वारा परिभाषित होती हैं, जो अक्सर विभिन्न रैंकों के मल्टीपल फीचर टेंसरों में फैली होती हैं। फलस्वरूप, उच्च-रैंक वाले फीचर टेंसर अत्यधिक ग्रेडिएंट मास (gradient mass) संचित कर सकते हैं, भले ही वे उस बाइंडिंग कंस्ट्रेंट का प्रतिनिधित्व न करते हों जो निर्णय को संचालित कर रहा है, जिससे एट्रिब्यूशन गलत दिशा में जा सकता है।

मौजूदा CO-विशिष्ट एक्सप्लैनर्स अक्सर अनकन्स्ट्रेंड काउंटरफैक्टुअल्स (unconstrained counterfactuals) पर निर्भर करते हैं जो समस्या की व्यवहार्यता (feasibility) का उल्लंघन करते हैं (जैसे, नकारात्मक मांग या उलटे टाइम विंडोज) या न्यूरल नीतियों की ऑटोरेग्रेसिव डिकोडिंग प्रक्रिया के बजाय स्टेटिक सरोगेट मॉडल को लक्षित करते हैं। ऐसी विधियों का अभाव है जो न्यूरल CO निर्णयों को बाधा परिवारों (constraint families) के आधार पर विघटित (decompose) कर सकें और साथ ही औपचारिक व्यवहार्यता गारंटी (formal feasibility guarantees) प्रदान कर सकें।

कार्यप्रणाली: कंस्ट्रेंट-एंकोर्ड एट्रिब्यूशन (CAX)

यह शोध पत्र CAX का प्रस्ताव करता है, जो एक ढांचा है जिसमें तीन प्रिमिटिव्स (primitives) शामिल हैं जो न्यूरल स्पष्टीकरणों को अंतर्निहित अनुकूलन संरचना से जोड़ते हैं:

1. $\Lambda$ -एट्रिब्यूशन

यह विधि एक नीति के निर्णय को व्यक्तिगत फीचर्स के बजाय बाधा परिवार (constraint family) के आधार पर विघटित करती है। स्टेप $t$ पर निर्णय $a_t$ के लिए, बाधा परिवार $c_k$ के प्रति एट्रिब्यूशन की गणना इस प्रकार की जाती है:
$\Lambda_k(t) = \lambda^*_k(x) \cdot \sum_{i \in F(c_k)} \sum_j |\nabla_{x^{(i)}_j} \log \pi_\theta(a_t | s_t) \cdot x^{(i)}_j|$
यहाँ, $\lambda^*_k$ समस्या के लीनियर प्रोग्रामिंग (LP) रिलैक्सेशन से प्राप्त लैग्रेंजियन मल्टीप्लायर (डुअल वैल्यू) है, जिसे प्रति परिवार एकत्रित किया गया है। यह स्केलिंग सुनिश्चित करती है कि एट्रिब्यूशन बाधा के "बाइंडिंग प्रेशर" (binding pressure) को दर्शाता है। यह ढांचा $\lambda^*$ के अनुमान के लिए तीन बैकएंड का समर्थन करता है:

LP: LP रिलैक्सेशन से डुअल वैल्यूज।
Subgrad: एक रिलैक्स्ड सबप्रॉब्लम पर लैग्रेंजियन सबग्रेडिएंट एसेंट।
Proxy: यूनिफॉर्म वेटिंग ( $\lambda_k=1$ ), जो एक कंस्ट्रेंट-पार्टीशनेड ग्रेडिएंट $\times$ फीचर के समान है।

2. बोनफेरोनी-PAC पर्याप्त उपसमुच्चय (Bonferroni-PAC Sufficient Subset)

यह निर्धारित करने के लिए कि नीति के argmax निर्णय को बनाए रखने के लिए नोड्स का न्यूनतम सेट कौन सा है, यह विधि CO डिकोडर्स के लिए कोरिचे एट अल. के दृष्टिकोण को अनुकूलित करती है। यह सबसे छोटा उपसमुच्चय $S$ खोजने का प्रयास करती है जहाँ गॉसियन पर्टर्बेशन (Gaussian perturbations) के तहत नीति द्वारा अपने निर्णय को बनाए रखने की संभावना कम से कम $1-\epsilon$ है।

एक ग्रीडी एल्गोरिदम एट्रिब्यूशन ऑर्डरिंग का अनुसरण करता है ताकि वह सबसे छोटा $k$ खोज सके जहाँ एम्पिरिकल प्रिजर्वेशन रेट $1-\epsilon$ से अधिक हो।
एडेप्टिव क्वेरीज़ (अप टू $k_{max}$ ) में फैमिली-वाइज एरर रेट को नियंत्रित करने के लिए, होफडिंग बाउंड (Hoeffding bound) पर बोनफेरोनी करेक्शन लागू किया जाता है। इससे एक $M_{bonf}$ सैंपल साइज प्राप्त होता है जो ग्रीडी ऑर्डरिंग के साथ $(1-\delta)$ -PAC बाउंड की गारंटी देता है।

3. CSP-सर्टिफाइड काउंटरफैक्टुअल्स (CF)

मानक वाचर-स्टाइल (Wachter-style) काउंटरफैक्टुअल्स के विपरीत, जो व्यवहार्यता गारंटी के बिना पर्टर्बेशन नॉर्म्स को कम करते हैं, CAX एक कॉम्बिनेटोरियल व्यवहार्यता प्रमाण पत्र (combinatorial feasibility certificate) लागू करता है।

प्रक्रिया: एक सैंपलर argmax निर्णय को बदलने के लिए पर्टर्बेशन उत्पन्न करता है। उम्मीदवारों को पहले अंकगणितीय जांच (जैसे, फील्ड बाउंड्स) से गुजरना पड़ता है।
प्रमाणन (Certification): सर्वश्रेष्ठ उम्मीदवार को एक कंस्ट्रेंट प्रोग्रामिंग (CP) व्यवहार्यता-निर्णय मॉडल (जिसे CP-SAT के माध्यम से लागू किया गया है) के विरुद्ध सत्यापित किया जाता है।
एडजुडिकेशन सिग्नल (Adjudication Signal): वह परिवार जो CSP-सर्टिफाइड फ्लिपिंग पर्टर्बेशन में सबसे बड़ा $L_1$ मास वहन करता है, वह नीति की स्थानीय संवेदनशीलता (local sensitivity) के लिए ग्राउंड-ट्रुथ सिग्नल के रूप में कार्य करता है। यह सिग्नल पर्टर्बेशन नॉर्म्स ( $L_1, L_2, L_\infty$ ) और डायमेंशन नॉर्मलाइजेशन से स्वतंत्र है।

मुख्य योगदान

कंस्ट्रेंट-लेवल डिकंपोजिशन: CAX पहला ऐसा तरीका है जो LP-रिलैक्सेशन डुअल्स का उपयोग करके न्यूरल CO नीति निर्णयों को बाधा परिवारों के आधार पर विघटित करता है, जो फीचर-लेवल एट्रिब्यूशन में निहित गलत-रैंकिंग (mis-ranking) की समस्याओं को ठीक करता है।
व्यवहार्यता-प्रमाणित काउंटरफैक्टुअल्स: यह एक काउंटरफैक्टुअल जनरेशन प्रक्रिया पेश करता है जो CSP व्यवहार्यता-निर्णय मॉडलों के माध्यम से समस्या की बाधाओं का सख्ती से पालन करती है, जो इसे अनकन्स्ट्रेंड XAI विधियों से अलग करती है।
PAC-पर्याप्त उपसमुच्चय: यह न्यूरल CO नीतियों के लिए पर्याप्त स्पष्टीकरण उपसमुच्चयों के आकार पर एक बोनफेरोनी-सुधारित, होफडिंग-नियंत्रित बाउंड प्रदान करता है।
एम्पिरिकल एडजुडिकेशन: यह ढांचा एट्रिब्यूशन बैकएंड को मान्य करने के लिए CF-व्युत्पन्न सिग्नल का उपयोग करता है, यह प्रदर्शित करते हुए कि LP डुअल्स तब एट्रिब्यूशन सटीकता को बचाते हैं जब फीचर रैंक और बाइंडिंग कंस्ट्रेंट्स के बीच मिसअलाइनमेंट होता है।

प्रयोगात्मक परिणाम

इस ढांचे का मूल्यांकन तीन अलग-अलग CO समस्याओं पर किया गया: कैपेसिटेटेड व्हीकल रूटिंग विद टाइम विंडोज (CVRPTW), ओरिएंटियरिंग प्रॉब्लम (OP), और फ्लेक्सिबल जॉब-शॉप शेड्यूलिंग प्रॉब्लम (FJSP)।

CF सिग्नल के साथ सहमति:
- CVRPTW: LP-एंकोर्ड $\Lambda$ -एट्रिब्यूशन ने CF-व्युत्पन्न सिग्नल के साथ 96.5% मामलों में सहमति व्यक्त की ( $n_{cert}=344$ ), जो प्रॉक्सी ग्रेडिएंट (75.0%) से काफी बेहतर प्रदर्शन करता है। अंतर (+0.215) सांख्यिकीय रूप से महत्वपूर्ण था (McNemar $p \le 10^{-14}$ )।
- OP: LP-एंकोर्ड एट्रिब्यूशन ने 77.2% सहमति ( $n_{cert}=281$ ) प्राप्त की, जबकि प्रॉक्सी के लिए यह 35.2% थी (+0.420 अंतर, $p \le 10^{-14}$ )।
- FJSP: इस "रैंक-अलाइन्ड" (rank-aligned) शासन में जहाँ उच्च-मास टेंसर बाइंडिंग परिवारों से मेल खाते हैं, दोनों LP और प्रॉक्सी बैकएंड ने सभी 59 सर्टिफाइड फ्लिप्स पर 100% सहमति प्राप्त की, जो इस सैद्धांतिक भविष्यवाणी की पुष्टि करता है कि जब रैंक संरेखित होते हैं तो LP डुअल्स कोई अतिरिक्त जानकारी नहीं जोड़ते हैं।
व्यवहार्यता दरें: CSP-सर्टिफाइड काउंटरफैक्टुअल्स ने उच्च व्यवहार्यता बनाए रखी। केवल अंकगणितीय फिल्टरिंग ने ही 100% विजेताओं को पास किया, जबकि एक मैच किया हुआ अनकन्स्ट्रेंड बेसलाइन केवल 19.3% उम्मीदवारों को पास कर सका।
PAC उपसमुच्चय: CVRPTW पर, बोनफेरोनी-सुधारित PAC उपसमुच्चय प्रति स्टेप औसतन 5.0 नोड्स ( $M=70, \epsilon=\delta=0.2$ ) रहे।

महत्व और दावे

यह शोध पत्र दावा करता है कि CAX न्यूरल CO नीतियों को समझाने के लिए एक कठोर, कंस्ट्रेंट-ग्राउंडेड दृष्टिकोण प्रदान करता है। इसका प्राथमिक महत्व यह प्रदर्शित करने में है कि सटीक एट्रिब्यूशन के लिए LP डुअल्स तभी आवश्यक हैं जब फीचर टेंसर रैंक बाधा परिवार के साथ मिसअलाइन (misaligned) हों। जब वे संरेखित होते हैं, तो सरल विधियाँ पर्याप्त होती हैं; जब वे मिसअलाइन होते हैं, तो फीचर-लेवल विधियाँ विफल हो जाती हैं, और LP-एंकोर्ड विधियाँ सही कंस्ट्रेंट-लेवल सिग्नल को पुनः प्राप्त करती हैं।

इस ढांचे का दायरा सीमित है: इसके लिए केवल एक व्यवहार्यता मॉडल (जिसे यहाँ CSP के रूप में लागू किया गया है) की आवश्यकता होती है और यह एक पोस्ट-हॉक विश्लेषण टूल के रूप में कार्य करता है। यह पूर्ण उपसमुच्चय लैटिस ऑप्टिमाइज़ेशन (exact PAC-optimal subsets अभी भी एक खुला प्रश्न है) को हल करने का दावा नहीं करता है, बल्कि एक ग्रीडी ऑर्डरिंग के माध्यम से एक रूढ़िवादी (conservative), प्रमाणित बाउंड प्रदान करता है। यह कार्य CSP-सर्टिफाइड काउंटरफैक्टुअल्स का उपयोग करके एक एडजुडिकेशन सिग्नल के रूप में XAI के मूल्यांकन के लिए एक नया बेंचमार्क स्थापित करता है, जो ह्यूरिस्टिक फीचर इम्पॉर्टेंस से आगे बढ़कर कंस्ट्रेंट-आधारित वैधता की ओर बढ़ता है।