🤖 machine learning

The Role of Causality in Algorithmic Recourse

यह शोधपत्र एल्गोरिद्मिक रिकोर्स (algorithmic recourse) के लिए एक कॉज़ल परफॉर्मेटिव फ्रेमवर्क पेश करता है जो यह मॉडल करता है कि अनुशंसित क्रियाएं एक स्ट्रक्चरल कॉज़ल मॉडल के माध्यम से कैसे प्रसारित होती हैं ताकि वास्तविक योग्यता सुधार सुनिश्चित किया जा सके, जिससे रणनीतिक गेमिंग को रोका जा सके और बार-बार मॉडल रिट्रेनिंग की आवश्यकता को कम करते हुए स्थिर संतुलन प्राप्त किया जा सके।

मूल लेखक: Srikanth Avasarala, Varun Gupta, Shahin Jabbari, Saber Salehkaleybar, Juba Ziani

प्रकाशित 2026-07-31

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Srikanth Avasarala, Varun Gupta, Shahin Jabbari, Saber Salehkaleybar, Juba Ziani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं जहाँ एक अदृश्य रेफरी (एक एल्गोरिदम) यह तय करता है कि आप जीतेंगे या हारेंगे, जो आपके चरित्र के आंकड़ों (stats) पर आधारित होता है। कभी-कभी, गेम आपको बताता है, "हे, अगर तुम बस अपनी ताकत में +5 जोड़ दो, तो तुम लेवल पार कर लोगे!" यह एल्गोरिद्मिक रिसोर्स (algorithmic recourse) की दुनिया है: लोगों को सुधार करने के अपने चांस बढ़ाने के लिए एक स्पष्ट, कार्रवाई योग्य चेकलिस्ट देना जब कंप्यूटर "ना" कहता है, जैसे कि लोन या नौकरी के मामले में। लेकिन यहाँ एक पेंच है: क्या होगा अगर गेम फिक्स्ड है? क्या होगा अगर "ताकत" वाला आंकड़ा जिसे आपको बढ़ाने के लिए कहा गया है, वास्तव में केवल एक नकली नंबर है जो रेफरी को धोखा देने के लिए है, जबकि स्तर को पार करने की आपकी वास्तविक क्षमता वैसी ही रहती है? यह सिस्टम को गेम करना (gaming the system) की समस्या है।

अब, कल्पना कीजिए कि हर बार जब आप अपने आंकड़े बदलते हैं, तो रेफरी वास्तव में आपके नए रूप के अनुसार खेल के नियम बदल देता है। इसे परफॉर्मेटिव प्रेडिक्शन (performative prediction) कहा जाता है। यह एक नृत्य की तरह है जहाँ हर बार कदम उठाने पर संगीत बदल जाता है, जिससे एक स्थिर लय ढूँढना मुश्किल हो जाता है। यदि रेफरी आपके सुधार करने के प्रयासों के आधार पर नियम बदलता रहता है, तो खेल अराजक हो जाता है, और जो सलाह आपको दी गई थी वह काम करना बंद कर देती है। यह शोध पत्र कंप्यूटर विज्ञान के एक विशिष्ट कोने में गहराई से उतरता है, जहाँ गणित मानव व्यवहार से मिलता है, और यह सवाल पूछता है: हम ऐसी सलाह कैसे दें जो वास्तव में लोगों को बेहतर बनाए, न कि केवल कंप्यूटर को धोखा दे, खासकर तब जब कंप्यूटर देख रहा हो और हमारी चालों पर प्रतिक्रिया दे रहा हो?

"नकली" समाधान का जाल

उच्च-दांव वाले निर्णयों की दुनिया में—जैसे बैंक यह तय करते हैं कि किसे बंधक (mortgage) मिले या कंपनियाँ यह तय करती हैं कि किसे काम पर रखा जाए—मशीनें अक्सर निर्णय लेती हैं। जब कोई मशीन आवेदन खारिज कर देती है, तो एक "रिसोर्स" योजना मिलना मददगार होता है: आपके जीवन में उन बदलावों की एक सूची जो परिणाम को "ना" से "हाँ" में बदल दे। उदाहरण के लिए, "500 डॉलर का कर्ज चुकाएं, और आपको मंजूरी मिल जाएगी।"

लेकिन इसमें एक चालाकी भरी समस्या है। अधिकांश वर्तमान तरीके केवल मशीन के गणित को देखते हैं। वे कहते हैं, "यदि आप विशेषता X को बदलते हैं, तो मशीन का स्कोर बढ़ जाएगा।" उन्हें इस बात की परवाह नहीं है कि वह बदलाव वास्तव में आपको एक बेहतर उधारकर्ता या अधिक योग्य कर्मचारी बनाता है या नहीं। आप सिस्टम को "गेम" कर सकते हैं। कल्पना कीजिए कि आप अपने क्रेडिट स्कोर नंबर को बढ़ाने के लिए दस फर्जी क्रेडिट कार्ड खाते खोलते हैं। मशीन उच्च नंबर देखती है और कहती "हाँ!" लेकिन आप वास्तव में अधिक आर्थिक रूप योग्य नहीं हुए हैं; आपने बस कैलकुलेटर को धोखा दिया है।

जब लोग ऐसा करना शुरू करते हैं, तो मशीन भ्रमित हो जाती है। वह उच्च स्कोर वाले बहुत से लोगों को देखती है जो बिल नहीं भर पा रहे हैं। मशीन की भविष्यवाणियाँ बेकार हो जाती हैं। फिर, बैंक को नए नियमों के साथ मशीन को फिर से प्रशिक्षित (retrain) करना पड़ता है। लेकिन अब, पुरानी सलाह ("नकली कार्ड खोलें") काम नहीं करती। लक्ष्य बदल गए हैं, और सलाह टूट गई है। यह एक दुष्चक्र है जहाँ समाधान समस्या को और बदतर बना देता है।

कॉज़ल कंपास (Causal Compass)

यह शोध पत्र कॉज़ैलिटी (causality - कार्य-कारण संबंध) का उपयोग करके इस समस्या के बारे में सोचने का एक नया तरीका पेश करता है। केवल नंबरों को देखने के बजाय, लेखक पूछते हैं: "वास्तव में क्या परिणाम का कारण बनता है?"

अपने फीचर्स (जैसे आय, ऋण, शिक्षा) को पाइपों के एक नेटवर्क के रूप में सोचें। यदि आप एक पाइप में पानी डालते हैं (एक हस्तक्षेप/intervention), तो यह नेटवर्क में बहता है और अन्य पाइपों में पानी के स्तर को बदल देता है।

पुराना तरीका: "यदि आप पाइप A में पानी बढ़ाते हैं, तो मशीन सोचती है कि टैंक भर गया है।" यह इस बात को अनदेखा करता है कि पाइप A शायद पाइप B में लीक हो रहा है, जो वास्तव में महत्वपूर्ण है।
नया तरीका (कॉज़ल): "यदि आप पाइप A में पानी डालते हैं, तो यह पाइपों के माध्यम से बहता है और वास्तव में टैंक को भर देता है।"

लेखक एक मॉडल बनाते हैं जहाँ वे इन पाइपों का मानचित्र बनाते हैं (एक "स्ट्रक्चरल कॉज़ल मॉडल")। वे समझते हैं कि एक चीज़ को बदलना (जैसे नौकरी पाना) स्वाभाविक रूप से दूसरी चीज़ में बदलाव (जैसे बचत होना) ला सकता है। वे इस मानचित्र का उपयोग यह पता लगाने के लिए करते हैं कि कौन से कार्य वास्तव में एक व्यक्ति की वास्तविक योग्यताओं में सुधार करेंगे, न कि केवल उनके स्कोर में।

एल्गोरिदम का नृत्य

यहीं पर मामला जटिल हो जाता है। यह शोध पत्र पूरी स्थिति को लर्नर (Learner) (मॉडल बनाने वाला बैंक) और एजेंट्स (Agents) (लोन के लिए आवेदन करने वाले लोग) के बीच एक नृत्य के रूप में देखता है।

लर्नर एक नियम निर्धारित करता है।
एजेंट अपने फीचर्स बदलने की कोशिश करते हैं ताकि नियम पास हो सके।
कॉज़ल लिंक्स के कारण, उनके बदलाव पूरे डेटा परिदृश्य (landscape) को बदल देते हैं।
लर्नर इस नए परिदृश्य को देखता है और नियम को अपडेट करना होता है।

लेखक दिखाते हैं कि यदि आप कॉज़ल लिंक्स को अनदेखा करते हैं, तो यह नृत्य एक गड़बड़ी बन जाता है। गणित "नॉन-कॉन्वेक्स" (non-convex) हो जाता है, जो एक फैंसी तरीका है यह कहने का कि समाधान का रास्ता ऊबड़-खाबड़ और बंद रास्तों से भरा है, और मानक गणितीय उपकरण रास्ता नहीं खोज सकते। यह एक ऐसी घाटी के निचले हिस्से को खोजने जैसा है जो लगातार हिल रही है और अपना आकार बदल रही है।

हालाँकि, यह शोध पत्र सिद्ध करता है कि यदि आप कॉusal संरचना (causal structure) को ध्यान में रखते हैं, तो आप एक स्थिर समाधान (stable solution) पा सकते हैं। यह वह बिंदु है जहाँ लर्नर के नियम और एजेंटों के कार्य एक लय में स्थिर हो जाते हैं। एजेंट वास्तविक सुधार करते हैं, लर्नर का मॉडल सटीक रहता है, और कोई भी सिस्टम को धोखा नहीं दे रहा होता है।

उन्होंने क्या पाया

शोधकर्ताओं ने अपने विचारों का परीक्षण दो प्रकार के डेटा का उपयोग करके किया:

एक काल्पनिक दुनिया: उन्होंने 7 अलग-अलग फीचर्स (जैसे आयु, शिक्षा, आय) वाला एक नकली लोन डेटासेट बनाया और यह प्रोग्राम किया कि वे एक-दूसरे को कैसे प्रभावित करते हैं।
वास्तविक दुनिया का डेटा: उन्होंने ताइवान के 30,000 क्रेडिट कार्ड ग्राहकों का एक वास्तविक डेटासेट उपयोग किया।

उन्होंने स्थिर समाधान खोजने के लिए दो मुख्य रणनीतियों का उपयोग किया:

रिपीटेड रिस्क मिनिमाइजेशन (RRM): एक शिक्षक की तरह जो टेस्ट लेता है, ग्रेड देता है, लेसन प्लान को एडजस्ट करता है, फिर से टेस्ट लेता है, और तब तक दोहराता है जब तक क्लास और शिक्षक सहमत न हो जाएं।
रिपीटेड ग्रेडिएंट डिसेंट (RGD): उसी प्रक्रिया का एक थोड़ा तेज़, स्टेप-बाय-स्टेप संस्करण।

परिणाम:

अभिसरण (Convergence): अपने सिमुलेशन में, इन तरीकों ने सफलतापूर्वक एक स्थिर बिंदु खोजा जहाँ मॉडल बेतहाशा बदलना बंद हो गया। गणित ने दिखाया कि जब तक "गेमिंग" बहुत अधिक मजबूत नहीं थी (जिसे $\kappa$ नामक पैरामीटर द्वारा नियंत्रित किया जाता है), सिस्टम स्थिर हो जाएगा।
नाइव (Naive) दृष्टिकोण को हराना: जब उन्होंने अपने कॉज़ल तरीके की तुलना "नाइव" तरीके (जो कॉज़ैलिटी को अनदेखा करता है और केवल स्कोर को देखता है) से की, तो कॉज़ल तरीका बहुत बेहतर था। जैसे-जैसे एजेंटों ने सिस्टम को गेम करने की कोशिश की, नाइव तरीका बदतर होता गया, जबकि कॉज़ल तरीका मॉडल को सटीक बनाए रखता था।
बदलाव की लागत: उन्होंने विभिन्न फीचर्स को बदलने में कितनी लागत आती है, इस पर भी गौर किया। यदि "अपस्ट्रीम" फीचर्स (जैसे डिग्री प्राप्त करना) को बदलना सस्ता है, तो एजेंट वही करते हैं। यदि "डाउनस्ट्रीम" फीचर्स (जैसे पैसा बचाना) को बदलना सस्ता है, तो वे वही करते हैं। कॉज़ल मॉडल ने सही ढंग से भविष्यवाणी की कि कैसे ये लागतें अंतिम परिणाम को बदलने के लिए सिस्टम में लहरें पैदा करेंगी।

निष्कर्ष

यह शोध पत्र यह दावा नहीं करता है कि इसने दुनिया की हर समस्या को हल कर दिया है। यह गणित और कंप्यूटर सिमुलेशन के माध्यम से दिखाता है कि चीजें वास्तव में एक-दूसरे का कारण कैसे बनती हैं, इसे अनदेखा करने से टूटी हुई सलाह मिलती है। जब हम लोगों को उनके जीवन को बेहतर बनाने के लिए एक चेकलिस्ट देते हैं, तो हमें यह सुनिश्चित करना चाहिए कि वह चेकलिस्ट वास्तव में उनके जीवन को बेहतर बनाए, न कि केवल स्क्रीन पर उनके स्कोर को।

एक "कॉज़ल मैप" का उपयोग करके, हम ऐसे सिस्टम डिज़ाइन कर सकते हैं जहाँ किसी व्यक्ति को दी गई सलाह वास्तविक, स्थायी सुधार की ओर ले जाए। यह लोगों को सिस्टम को धोखा देने से रोकता है और मशीन की भविष्यवाणियों को ईमानदार बनाए रखता है। यह "गेम ऑफ गोटा" (पकड़ने के खेल) को एक साझेदारी में बदल देता है जहाँ हर कोई जीतता है: व्यक्ति को निष्पक्ष अवसर मिलता है, और बैंक को एक विश्वसनीय ग्राहक मिलता है। लेखक सुझाव देते हैं कि "बदलते लक्ष्यों" की समस्या को रोकने और AI निर्णयों को निष्पक्ष और प्रभावी बनाने के लिए यह दृष्टिकोण एक आवश्यक कदम है।

तकनीकी सारांश: एल्गोरिद्मिक रिकोर्स (Algorithmic Recourse) में कार्य-कारण (Causality) की भूमिका

समस्या विवरण (Problem Statement)

एल्गोरिद्मिक रिकोर्स का उद्देश्य उच्च-दांव वाले परिवेश (जैसे ऋण अनुमोदन) में अनुमानित परिणामों को सुधारने के लिए व्यक्तियों को कार्रवाई योग्य सिफारिशें प्रदान करना है। हालांकि, मौजूदा दृष्टिकोण केवल तैनात मॉडल के पूर्वानुमान को बदलने को अनुकूलित करते हैं, और इस बात की अनदेखी करते हैं कि क्या अनुशंसित क्रियाएं वास्तव में व्यक्ति की वास्तविक योग्यताओं में सुधार करती हैं या केवल सिस्टम को "गेम" (manipulate) करती हैं। यह मिसअलाइनमेंट रणनीतिक व्यवहार की ओर ले जा सकता है जहाँ एजेंट बेहतर स्कोर प्राप्त करने के लिए गैर-कारण विशेषताओं (non-causal features) में हेरफेर करते हैं (जैसे डमी क्रेडिट कार्ड खोलना)। इसके परिणामस्वरूप, तैनात मॉडल समय के साथ कम सटीक हो जाते हैं, जिससे बार-बार रिट्रेनिंग की आवश्यकता होती है और रिकोर्स सिफारिशें अप्रभावी हो जाती हैं क्योंकि वे "चलते हुए लक्ष्य" (moving goalposts) बन जाती हैं।

यह शोध पत्र उस विफलता मोड को संबोधित करता है जहाँ रिकोर्स नीतियां गेमिंग को प्रोत्साहित करती हैं, और इसके लिए रिकोर्स फ्रेमवर्क में स्पष्ट रूप से कार्य-कारण (causality) को शामिल किया जाता है। मुख्य चुनौती एक प्रेडिक्टिव मॉडल और एक रिकोर्स पॉलिसी को संयुक्त रूप से डिजाइन करना है जो भविष्य की शुद्धता बनाए रखते हुए सार्थक सुधार को बढ़ावा दे, और इस तथ्य को ध्यान में रखे कि अनुशंसित क्रियाएं डेटा वितरण को बदल देती हैं।

कार्यप्रणाली (Methodology)

कॉज़ल परफॉर्मेटिव फ्रेमवर्क (Causal Performative Framework)

लेखक एक स्ट्रक्चरल कॉज़ल मॉडल (SCM) का उपयोग करके एक शिक्षार्थी (learner) और रणनीतिक एजेंटों के बीच की अंतःक्रिया को औपचारिक रूप देते हैं।

विशेषता स्थान (Feature Space): एजेंटों के पास विशेषताएं $x \in \mathbb{R}^d$ और वास्तविक लेबल $y$ होते हैं।
कारण संरचना (Causal Structure): निर्भरताओं को एक निर्देशित अचक्रीय ग्राफ (Directed Acyclic Graph - DAG) $G=(V, E, \omega)$ के माध्यम से मॉडल किया जाता है। एक विशेषता पर हस्तक्षेप (intervention) ग्राफ के माध्यम से नीचे की विशेषताओं को प्रभावित करता है, जिससे डाउनस्ट्रीम विशेषताओं और वास्तविक लेबल पर प्रभाव पड़ता है।
हस्तक्षेप प्रसार (Intervention Propagation): एक हस्तक्षेप वेक्टर $a$ विशेषता परिवर्तन $\Delta x(a) = G_x^\top a$ और लेबल परिवर्तन $\Delta y(a) = G_y^\top a$ उत्पन्न करता है, जहाँ $G_x$ और $G_y$ कॉज़ल ग्राफ से प्राप्त योगदान मैट्रिक्स हैं।
एजेंट प्रतिक्रिया (Agent Response): एजेंट उपयोगिता (utility) को अधिकतम करने के लिए एक रिकोर्स क्रिया $a^*$ चुनता है: $w^\top(x + \Delta x(a)) - \frac{1}{\kappa}c(a)$ , जहाँ $c(a)$ हस्तक्षेप लागत है और $\kappa$ हस्तक्षेप की शक्ति को नियंत्रित करता है। द्विघातीय लागतों (quadratic costs) के तहत, यह एक क्लोज्ड-फॉर्म समाधान $a^* = \frac{\kappa}{2} C^{-1} G_x w$ देता है।

परफॉर्मेटिव प्रेडिक्शन फॉर्मूलेशन (Performative Prediction Formulation)

सीखने की समस्या को परफॉर्मेटिव प्रेडिक्शन के रूप में तैयार किया गया है, जहाँ मॉडल $w$ एजेंट की प्रतिक्रियाओं के माध्यम से डेटा वितरण $D_w$ को प्रभावित करता है।

उद्देश्य: शिक्षार्थी प्रेरित वितरण के तहत अपेक्षित हानि (expected loss) को न्यूनतम करने का प्रयास करता है: $\min_w \mathbb{E}_{(x,y) \sim D_w} [\ell(w^\top x, y)]$ .
गैर-उत्तलता (Non-Convexity): यहाँ तक कि उत्तल हानि कार्यों (convex loss functions) और द्विघातीय लागतों के साथ भी, परिणामी अनुकूलन समस्या आम तौर पर गैर-उत्तल (non-convex) होती है, क्योंकि मॉडल और प्रेरित वितरण के बीच फीडबैक लूप होता है।
स्थिरता बनाम इष्टतमता (Stability vs. Optimality): यह शोध पत्र परफॉर्मेटिवली स्थिर समाधानों ( $w_s$ ) को खोजने पर केंद्रित है, जिन्हें उन फिक्स्ड पॉइंट्स के रूप में परिभाषित किया गया है जहाँ $w_s$ द्वारा प्रेरित वितरण पर पुन: प्रशिक्षण करने से फिर से $w_s$ प्राप्त होता है। यह परफॉर्मेटिव रूप से इष्टतम समाधान ( $w^*$ ) से भिन्न है, लेकिन उसके करीब है।

एल्गोरिदम (Algorithms)

स्थिर समाधानों की गणना के लिए दो पुनरावृत्ति (iterative) एल्गोरिदम प्रस्तावित किए गए हैं:

रिपीटेड रिस्क मिनिमाइजेशन (RRM): प्रत्येक पुनरावृत्ति में, शिक्षार्थी एक सैंपल एकत्र करता है, कॉज़ल रिस्पॉन्स मॉडल लागू करता है ताकि एक प्रेरित डेटासेट बनाया जा सके, और इस नए डेटासेट पर एम्पेरिकल रिस्क को कम करने के लिए मॉडल को पुन: प्रशिक्षित करता है।
रिपीटेड ग्रेडिएंट डिसेंट (RGD): एक ग्रेडिएंट-आधारित सन्निकटन (approximation) जहाँ शिक्षार्थी प्रत्येक पुनरावृत्ति में प्रेरित डेटासेट के एम्पेरिकल ऑब्जेक्टिव पर एक एकल ग्रेडिएंट डिसेंट स्टेप करता है।

सैद्धांतिक गारंटी (Theoretical Guarantees)

लेखक RRM और RGD के एक स्थिर समाधान की ओर अभिसरण (convergence) के लिए स्थितियाँ स्थापित करते हैं। अभिसरण परफॉर्मेटिव संवेदनशीलता (performative sensitivity) पर निर्भर करता है, जो पैरामीटर $\kappa \Lambda$ द्वारा नियंत्रित होता है, जहाँ $\Lambda$ कॉज़ल प्रोपेगेशन मैट्रिक्स ( $G_x, G_y$ ) और लागत मैट्रिक्स ( $C$ ) पर निर्भर करता है।

यदि हस्तक्षेप शक्ति $\kappa$ , लॉस फंक्शन के स्ट्रॉन्ग कॉन्वेक्सिटी और स्मूथनेस स्थिरांकों के सापेक्ष पर्याप्त रूप से छोटी है, तो एल्गोरिदम एक स्थिर बिंदु पर अभिसरण करते हैं।
यह दिखाया गया है कि स्थिर समाधान विशिष्ट स्थितियों के तहत लगभग-इष्टतम (near-optimal, $w^*$ के करीब) होता है।

मुख्य योगदान (Key Contributions)

कॉज़ल परफॉर्मेटिव फ्रेमवर्क: एक ऐसा फ्रेमवर्क पेश करना जो रिकोर्स इंटरवेंशन को एक स्ट्रक्चरल कॉज़ल मॉडल के माध्यम से प्रसारित करता है, जो प्रत्यक्ष और अप्रत्यक्ष दोनों प्रभावों को कैप्चर करता है।
परफॉर्मेटिव प्रेडिक्शन के रूप में फॉर्मूलेशन: कॉज़ल रिकोर्स समस्या को एक परफॉर्मेटिव प्रेडिक्शन समस्या के रूप में वर्णित करना, यह प्रदर्शित करना कि रणनीतिक प्रतिक्रियाओं के कारण होने वाली गैर-उत्तलता के कारण मानक उत्तल अनुकूलन तकनीकें विफल हो जाती हैं।
एल्गोरिद्मिक समाधान: स्थिर रिकोर्स पॉलिसी की गणना के लिए औपचारिक अभिसरण गारंटी के साथ RRM और RGD एल्गोरिदम का विकास।
प्रायोगिक सत्यापन: यह प्रदर्शित करना कि नैव (naive) दृष्टिकोणों की तुलना में कॉज़ल प्रतिक्रियाओं को ध्यान में रखने से गेमिंग के प्रोत्साहन कम होते हैं और प्रेडिक्टिव प्रदर्शन में सुधार होता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने निम्नलिखित पर फ्रेमवर्क का मूल्यांकन किया:

एक ज्ञात SCM से उत्पन्न 7-आयामी अर्ध-सिंथेटिक ऋण डेटासेट।
ताइवान क्रेडिट कार्ड डेटासेट, जिसे 6 विशेषताओं में एकत्रित किया गया है और जिसका कॉज़ल ग्राफ प्रतिगमन (regression) के माध्यम से अनुमानित किया गया है।

मुख्य निष्कर्ष:

अभिसरण (Convergence): RRM और RGD दोनों स्थिर समाधानों की ओर अभिसरण करते हैं। RRM छोटे $\kappa$ के लिए तेजी से अभिसरण करता है लेकिन बड़े $\kappa$ के लिए अभिसरण करने में विफल हो सकता है (जो सैद्धांतिक सीमाओं के अनुरूप है), जबकि RGD निरंतर मोनोटोनिक गिरावट (monotonic decay) प्रदर्शित करता है।
परफॉर्मेटिव सुधार: जैसे-जैसे परफॉर्मेटिविटी पैरामीटर $\kappa$ बढ़ता है (मजबूत रणनीतिक अनुकूलन), नैव एक्सपेक्टेड रिस्क मिनिमाइजेशन (ERM) बेसलाइन और प्रस्तावित स्थिर/इष्टतम मॉडलों के बीच प्रदर्शन का अंतर बढ़ जाता है। प्रस्तावित तरीके परफॉर्मेटिव ऑब्जेक्टिव के मामले में नैव ERM की तुलना में काफी बेहतर प्रदर्शन करते हैं।
कॉज़ल प्रोपेगेशन: प्रयोग दिखाते हैं कि हस्तक्षेप लागत यह तय करती है कि एजेंट कहाँ कार्य करते हैं, लेकिन कॉज़ल ग्राफ यह तय करता है कि वे कार्य कैसे प्रसारित होते हैं। भले ही डाउनस्ट्रीम विशेषताओं की हस्तक्षेप लागत अनंत (अपरिवर्तनीय) हो, फिर भी वे ऊपर की ओर के हस्तक्षेपों के कारण महत्वपूर्ण रूप से बदल जाती हैं। यह $G_x$ को मॉडल करने की आवश्यकता को रेखांकित करता है, न कि विशेषताओं को स्वतंत्र मानने की।
मजबूती (Robustness): परिणाम विभिन्न हस्तक्षेप लागत प्रोफाइल (यूनिफॉर्म, अपस्ट्रीम-चीप, डाउनस्ट्रीम-चीप) में सुसंगत रहते हैं।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि रिकोर्स में कॉज़ल स्ट्रक्चर की अनदेखी करने से बड़े, मिसअलाइन्ड व्यवहारिक जवाब मिलते हैं जो मॉडल की सटीकता को कम करते हैं और रिकोर्स को अप्रभावी बना देते हैं। इसके विपरीत, कॉज़ल रिकोर्स ऐसे साम्यावस्था (equilibria) की ओर ले जाता है जो गेमिंग के प्रभाव को कम करता है।

लेखक इस बात पर जोर देते हैं कि उनका कार्य स्ट्रैटेजिक क्लासिफिकेशन (मजबूत मॉडल डिजाइन करना) और एल्गोरिद्मिक रिकोर्स (कार्रवाई योग्य सलाह प्रदान करना) के बीच के अंतर को पाटता है। उनका तर्क है कि रिकोर्स के वास्तव में प्रभावी और टिकाऊ होने के लिए, इसे यह ध्यान में रखना चाहिए कि हस्तक्षेप कैसे अंतर्निहित डेटा वितरण और वास्तविक लेबल को बदलते हैं, न कि केवल मॉडल के पूर्वानुमान को। प्रस्तावित फ्रेमवर्क एक स्थिर नीति की गणना करने के लिए एक गणितीय रूप से ठोस तरीका प्रदान करता है जो हेरफेर के बजाय वास्तविक सुधार को प्रोत्साहित करती है।

शोध पत्र विनम्रतापूर्वक नोट करता है कि यह एक ज्ञात स्ट्रक्चरल कॉज़ल मॉडल तक पहुंच की धारणा लेता है और सुझाव देता है कि भविष्य के कार्य को रिकोर्स पॉलिसी के साथ कॉज़ल ग्राफ को संयुक्त रूप से सीखने या ग्राफ में अनिश्चितता को संभालने पर ध्यान देना चाहिए।