🤖 AI

Interpretable Failure Analysis in Multi-Agent Reinforcement Learning Systems

यह शोध पत्र एक दो-चरणीय, ग्रेडिएंट-आधारित ढांचे को प्रस्तुत करता है जो पॉलिसी ग्रेडिएंट्स और क्रिटिक डेरिवेटिव्स के ज्यामितीय विश्लेषण के माध्यम से प्रारंभिक विफलता स्रोतों का सटीक रूप से पता लगाकर और प्रसार मार्गों का पता लगाकर मल्टी-एजेंट सुदृढीकरण शिक्षण (मल्टी-एजेंट रीइन्फोर्समेंट लर्निंग) प्रणालियों में व्याख्या योग्य विफलता विश्लेषण को सक्षम बनाता है।

मूल लेखक: Risal Shahriar Shefin, Debashis Gupta, Thai Le, Sarra Alqahtani

प्रकाशित 2026-02-24

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Risal Shahriar Shefin, Debashis Gupta, Thai Le, Sarra Alqahtani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि पाँच विशेषज्ञों की एक अग्निशमन दल (firefighters) की टीम एक जलती हुई इमारत में तेजी से घुस रही है। वे सभी एक जटिल संचार प्रणाली से जुड़े हुए हैं और एक-दूसरे की सुरक्षा पर निर्भर हैं। अचानक, इमारत ढह जाती है।

एक मानक आपातकालीन प्रतिक्रिया में, जो व्यक्ति सबसे पहले "आग!" चिल्लाता है या जो सबसे पहले लड़खड़ाता है, उसे इस आपदा के लिए दोषी ठहराया जा सकता है। लेकिन क्या होगा अगर वह व्यक्ति वास्तव में एक 'चेन रिएक्शन' (श्रृंखला अभिक्रिया) का शिकार था? क्या होगा अगर असली समस्या किसी दूसरे कमरे में एक छोटी सी चिंगारी से शुरू हुई थी, जिसने एक दीवार को गिरा दिया, जिसने फिर एक सीढ़ी को उलट दिया, और अंततः अग्निशमन कर्मी को लड़खड़ाने पर मजबूर कर दिया?

यह ठीक वही समस्या है जिसे यह शोध पत्र मल्टी-एजेंट रीइन्फोर्समेंट लर्निंग (MARL) के लिए हल करता है।

समस्या: AI में "डोमिनो इफेक्ट" (Domino Effect)

इन AI सिस्टमों में, कई "एजेंट्स" (जैसे अग्निशमन कर्मी) एक कार्य को पूरा करने के लिए मिलकर काम करते हैं। वे समन्वय करना सीखते हैं, लेकिन वे नाजुक भी होते हैं। कभी-कभी, एक एजेंट एक छोटी सी गलती करता है। क्योंकि वे आपस में बहुत मजबूती से जुड़े होते हैं, वह छोटी सी गलती टीम में लहर की तरह फैल जाती है, जिससे अन्य लोग बुरी तरह विफल हो जाते हैं।

इंजीनियरों के लिए बड़ी सिरदर्दी यह है: आग वास्तव में किसने लगाई?

गलत अलार्म (The False Alarm): अक्सर, जो एजेंट सबसे पहले विफल होता है, वही गलती करने वाला नहीं होता है। वे शायद केवल अराजकता के प्रति सबसे अधिक संवेदनशील होते हैं (जैसे वह अग्निशमन कर्मी जो डगमगाती सीढ़ी पर खड़ा है)।
छिपा हुआ अपराधी (The Hidden Culprit): त्रुटि का वास्तविक स्रोत कहीं ऊपर (upstream) हो सकता है, जो छिपा हुआ है और तब तक मुश्किल से दिखाई देता है जब तक कि वह पतन को ट्रिगर नहीं कर देता।

वर्तमान उपकरण एक स्मोक डिटेक्टर की तरह हैं जो बस यह कहता है "आग लगी है!" बिना यह बताए कि आग कहाँ शुरू हुई या धुआं कैसे फैला। यह शोध पत्र सच्चाई का पता लगाने के लिए एक "फोरेंसिक टूलकिट" बनाता है।

समाधान: एक दो-चरणीय जासूसी ढांचा (A Two-Stage Detective Framework)

लेखकों ने एक ऐसी विधि बनाई है जो एक उच्च-तकनीकी जासूस की तरह काम करती है, जो "पेशेंट ज़ीरो" (विफलता के वास्तविक स्रोत) को खोजने के लिए दो चरणों में काम करती है।

चरण 1: "सीस्मोोग्राफ" (स्थानीय पहचान)

कल्पना कीजिए कि हर एजेंट के मस्तिष्क से एक छोटा सा सीस्मोोग्राफ जुड़ा हुआ है।

यह कैसे काम करता है: सिस्टम लगातार यह जांचता है कि एक एजेंट का निर्णय लेना कितना "अस्थिर" (jittery) है। यदि एक एजेंट स्थिर अवस्था में है, तो दुनिया में एक छोटा सा बदलाव (जैसे दरवाजा खुलना) एक छोटी सी प्रतिक्रिया पैदा करता है। लेकिन यदि एक एजेंट "नाजुक" अवस्था में है, तो वही छोटा सा बदलाव एक विशाल, अराजक प्रतिक्रिया पैदा करता है।
परिणाम: सिस्टम उस पहले एजेंट को चिह्नित करता है जिसका सीस्मोोग्राफ पागल हो जाता है। यह प्रारंभिक संदिग्ध है।
दोष: ठीक उसी अग्निशमन कर्मी के उदाहरण की तरह, पहला व्यक्ति चिल्लाने वाला ही अपराधी नहीं होता। वे शायद केवल डगमगाते फर्श पर खड़े होते हैं।

चरण 2: "टाइम-ट्रैवलिंग ट्रेसबैक" (सत्यापन)

यही असली जादू है। एक बार जब चरण 1 एक संदिग्ध को चिह्नित कर देता है, तो चरण 2 पूछता है: "ठहरिए। क्या इस व्यक्ति ने समस्या पैदा की, या वे केवल डोमिनो की तरह टकरा गए?"

उपमा: कल्पना कीजिए कि आप फर्श पर कांच टूटते हुए देखते हैं। चरण 1 कहता है, "कांच टूट गया!" चरण 2 फर्श को देखता है कि क्या कोई गेंद उसकी ओर लुढ़क रही थी, या किसी ने मेज को लात मारी थी।
यह कैसे काम करता है: सिस्टम समय में पीछे जाकर "क्रिटिक" (एक न्यूरल नेटवर्क जो टीम के कार्यों का मूल्यांकन करता है) को देखता है। यह प्रभाव (influence) को मापने के लिए उन्नत गणित (ग्रेडिएंट्स और कर्वेचर) का उपयोग करता है।
- संवेदनशीलता (Sensitivity): एजेंट A के कार्य ने एजेंट B को कितना हिलाया?
- प्रवर्धन (Amplification): क्या एजेंट A के कार्य ने एजेंट B की प्रतिक्रिया को और खराब किया (त्वरित किया) या बेहतर बनाया (कम किया)?
फैसला: यदि सिस्टम देखता है कि एजेंट 3 ने एक छोटी सी हरकत की जिसने एजेंट 1 के लिए एक बड़ी आपदा में प्रवर्धन (amplify) कर दी, तो यह एजेंट 1 पर लगे शुरुआती फ्लैग को अनदेखा कर देता है और एजेंट 3 पर उंगली उठाता है। यह एक "कंटेजन ग्राफ" (Contagion Graph) बनाता है जो दिखाता है कि विफलता स्रोत से पीड़ित तक कैसे पहुंची।

यह क्यों महत्वपूर्ण है: "क्यों" और "कैसे"

इस शोध पत्र ने दो बहुत अलग दुनियाओं पर इसका परीक्षण किया:

सरल प्रसार (Simple Spread): जैसे ड्रोन्स का एक समूह जो टकराए बिना विशिष्ट स्थानों पर उतरने की कोशिश कर रहा है।
स्टारक्राफ्ट II (StarCraft II): जैसे एक रियल-टाइम स्ट्रैटेजी गेम जहाँ इकाइयों को दुश्मनों से लड़ने के लिए समन्वय करना होता है।

परिणाम:

सटीकता: सिस्टम ने 88% से 99% मामलों में वास्तविक "पेशेंट ज़ीरो" की सही पहचान की।
सुधार: उन मामलों में जहाँ पहला अलार्म एक गलत अलार्म था (डाउनस्ट्रीम-फर्स्ट समस्या), दूसरे चरण ने गलती को सुधारा और वास्तविक अपराधी को ढूंढ निकाला।
प्रमाण: उन्होंने साबित किया कि यदि आप सिस्टम को "सही" (खतरनाक) क्षण पर छेड़ते हैं, तो यह "सुरक्षित" क्षण की तुलना में बहुत तेजी से टूट जाता है। यह पुष्टि करता है कि उनका गणित वास्तव में वास्तविक कमजोरियों को माप रहा है, न कि केवल रैंडम शोर को।

बड़ी तस्वीर

इस शोध पत्र को AI टीमों के लिए सुरक्षा निरीक्षकों को एक्स-रे विजन देने के रूप में देखें।

पहले: "टीम विफल हो गई! हमें नहीं पता क्यों।"
अब: "टीम इसलिए विफल हुई क्योंकि एजेंट 3 ने दोपहर 2:00 बजे एक छोटी सी गलती की। उस त्रुट ने एजेंट 2 के माध्यम से प्रवर्धन किया, जिससे एजेंट 1 दोपहर 2:05 बजे घबरा गया। यहाँ विफलता का मानचित्र है।"

"ब्लैक बॉक्स" पहचान (केवल यह जानना कि कुछ टूट गया है) से "व्याख्यात्मक फोरेंसिक" (यह जानना कि बिल्कुल कैसे और क्यों टूटा) की ओर बढ़कर, यह ढांचा इसे सुरक्षित नौकरियों जैसे कि सेल्फ-ड्राइविंग कारों, पावर ग्रिड और मेडिकल रोबोटिक्स में AI को भरोसेमंद और तैनात करने योग्य बनाता है। यह एक भ्रमित करने वाली आपदा को एक हल होने वाली पहेली में बदल देता है।

यहाँ शोध पत्र "Interpretable Failure Analysis in Multi-Agent Reinforcement Learning Systems" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

मल्टी-एजेंट रीइन्फोर्समेंट लर्निंग (MARL) का उपयोग सुरक्षा-महत्वपूर्ण क्षेत्रों (जैसे रोबोटिक्स, पावर ग्रिड) में तेजी से बढ़ रहा है। हालाँकि, जब विफलताएँ (failures) होती हैं, तो उनके मूल कारण (root cause) का निदान करना अत्यंत कठिन होता है क्योंकि ये आपस में मजबूती से जुड़े (tightly coupled) सिस्टम होते हैं जिनमें "डोमिनो इफेक्ट" (एक के बाद एक होने वाली घटना) मौजूद होता है।

मुख्य चुनौती: वह पहला एजेंट जो पता लगाने योग्य अस्थिरता प्रदर्शित करता है, अक्सर वास्तविक स्रोत (Patient-0) नहीं होता है। इसके बजाय, एक डाउनस्ट्रीम (downstream) एजेंट पहले विफल हो सकता है क्योंकि वह व्यवधानों (perturbations) के प्रति अधिक संवेदनशील है या क्योंकि सिस्टम ऊपर की ओर (upstream) होने वाले छोटे विचलन को बढ़ा देता है।
मौजूदा विधियों की सीमाएँ:
- ग्लोबल मेट्रिक्स (Global Metrics): टीम रिवॉर्ड या समग्र सांख्यिकी को ट्रैक करने से व्यक्तिगत एजेंट की अस्थिरता और प्रसार पथ (propagation pathways) छिप जाते हैं।
- क्रेडिट असाइनमेंट (Credit Assignment): शापली वैल्यू (Shapley values) जैसी विधियाँ रिवॉर्ड में योगदान की व्याख्या करती हैं, लेकिन वे विफलता की गतिशीलता और कैस्केडिंग प्रसार को प्रकट नहीं करती हैं।
- सिंगल-एजेंट XRL: मौजूदा एक्सप्लेनेबल आरएल (XRL) उपकरण मल्टी-एजेंट सिस्टम की नॉन-स्टेशनैरिटी और जटिल अंतर्निर्भरताओं को संभालने में सक्षम नहीं हैं।
लक्ष्य: यह शोध पत्र तीन प्रश्नों के उत्तर देने का प्रयास करता है:
1. Q1: वास्तविक 'पेशेंट-0' (वह पहला एजेंट जो गैर-मजबूत अवस्था में प्रवेश करता है) कौन है?
2. Q2: गैर-हमलावर एजेंटों को पहले क्यों फ्लैग किया जाता है, और हम वास्तविक स्रोतों को बढ़ी हुई डाउनस्ट्रीम प्रभावों से कैसे अलग कर सकते हैं?
3. Q3: विफलताएं समय के साथ सीखे गए समन्वय पथों (learned coordination pathways) के माध्यम से कैसे प्रसारित होती हैं?

2. कार्यप्रणाली: एक द्वि-चरणीय ग्रेडिएंट-आधारित ढांचा (Methodology: A Two-Stage Gradient-Based Framework)

लेखक एक फॉरेंसिक ढांचे का प्रस्ताव करते हैं जो ब्लैक-बॉक्स डिटेक्शन से आगे बढ़कर व्याख्यात्मक ग्रेडिएंट-स्तरीय विश्लेषण (interpretable gradient-level analysis) की ओर बढ़ता है। यह विधि दो चरणों में कार्य करती है:

चरण 1: स्थानीय नीति अस्थिरता का पता लगाना (Local Policy Instability Detection - Patient-0 कैंडिडेट)

तंत्र (Mechanism): यह चरण एक पॉलिसी-ग्रेडिएंट कॉस्ट फंक्शन के टेलर रिमाइंडर (Taylor remainder) का विश्लेषण करके प्रत्येक एजेंट की नीति स्थिरता की निगरानी करता है।
गणितीय सूत्रीकरण (Mathematical Formulation):
- स्थानीय अवलोकनों (observations) $o_i$ के आधार पर, एक एजेंट $i$ के लिए जिसकी नीति $\pi_i$ है, एक नियत (deterministic) एक्शन-कमिटमेंट कॉस्ट $J_i$ परिभाषित की जाती है।
- टेलर प्रमेय (Taylor's theorem) का उपयोग करते हुए, यह विधि अवलोकनों के सापेक्ष कॉस्ट फंक्शन के दूसरे-क्रम के वक्रता (second-order curvature/Hessian) का अनुमान लगाने के लिए टेलर रिमाइंडर स्टैटिस्टिक ( $L^t_i$ ) की गणना करती है।
- $L^t_i(\eta_i) \approx \frac{1}{2}\eta_i^\top \nabla^2_{o_i} J_i(o_i, \tau_i) \eta_i$ ।
तर्क (Logic): इस रिमाइंडर में बड़े विचलन इंगित करते हैं कि नीति एक "गैर-मजबूत" (non-robust), उच्च-वक्रता (high-curvature) वाले क्षेत्र में है जहाँ अवलोकन में छोटे बदलाव नीति में असंगत बदलाव लाते हैं।
आउटपुट: जिस एजेंट का टेलर एरर बेसलाइन थ्रेशोल्ड को पहले पार करता है, उसे प्रारंभिक पेशेंट-0 कैंडिडेट ( $\hat{p}_{S1}$ ) घोषित किया जाता है।

चरण 2: कैस्केड स्रोत पहचान और सत्यापन (Cascade Source Identification & Validation)

तंत्र (Mechanism): यह चरण क्रिटिक (Critic) (वैल्यू फंक्शन $Q$ ) का उपयोग करके त्वरित अपस्ट्रीम प्रभाव (accelerating upstream influence) को ट्रेस करके चरण 1 के कैंडिडेट को सत्यापित या संशोधित करता है।
मुख्य अंतर्दृष्टि: यह डैम्पिंग (damping) और एक्सेलेरेटिंग (accelerating) प्रभाव के बीच अंतर करता है। एक डाउनस्ट्रीम एजेंट पहले विफल हो सकता है यदि एक अपस्ट्रीम एजेंट का एक्शन एक ऐसी स्थिति बनाता है जिसमें उच्च संवेदनशीलता और सकारात्मक वक्रता (positive curvature/amplification) हो।
गणितीय सूत्रीकरण (Mathematical Formulation):
- यह विधि जोड़े $(j \to i)$ के लिए प्रथम-क्रम संवेदनशीलता ( $G^t_{ij} = \|\partial Q_i / \partial a_j\|$ ) और दिशात्मक द्वितीय-क्रम वक्रता ( $D^t_{ij} = g^\top H g$ ) की गणना करती है।
- यदि $D^t_{ij} > 0$ है, तो प्रभाव एक्सेलेरेटिंग (विचलन को बढ़ाने वाला) है। यदि $D^t_{ij} < 0$ है, तो यह डैम्पिंग है।
ट्रेसबैक एल्गोरिदम (Traceback Algorithm):
- चरण 1 के कैंडिडेट से शुरू होकर, एल्गोरिदम एक कारण संबंधी समय विंडो (causal time window) के भीतर सबसे मजबूत एक्सेलेरेटिंग अपस्ट्रीम स्रोत ( $D > 0$ ) तक वापस जाता है।
- यह इन्फ्लुएंस स्कोर (Influence Score - $I_{j \to i}$ ) को एकत्रित करता है, जो विचलन के परिमाण को हालियापन (recency) और एक्सेलेरेटिंग वक्रता की उपस्थिति के आधार पर भारित (weight) करता है।
आउटपुट: एक सुधारा हुआ पेशेंट-0 और एक डायरेक्टेड कंटैजन ग्राफ (Directed Contagion Graph)।

आउटपुट: व्याख्यात्मक कंटैजन ग्राफ (Interpretable Contagion Graphs)

यह ढांचा एक निर्देशित ग्राफ (directed graph) उत्पन्न करता है जो निम्नलिखित को सारांशित करता है:

नोड्स (Nodes): एजेंट, जिन्हें इंस्टेबिलिटी ऑक्यूपेंसी (IO) (अस्थिरता की अवधि) द्वारा रंग दिया जाता है।
एज (Edges): निर्देशित प्रभाव पथ ( $j \to i$ $j \to i$ ) जो निम्नलिखित के साथ एनोटेट किए गए हैं:
- इन्फ्लुएंस स्कोर (IS): संचयी प्रथम-क्रम संवेदनशीलता।
- क्रिटिकल रेट (CR): एक्सेलेरेटिंग अवस्थाओं ( $D > 0$ ) की आवृत्ति।
- टाइमिंग (Timing): प्रसार विंडो।

3. मुख्य योगदान (Key Contributions)

द्वि-चरणीय पेशेंट-0 डिटेक्शन: वास्तविक विफलता स्रोतों की पहचान करने के लिए स्थानीय टेलर-एरर डिटेक्शन को अपस्ट्रीम ट्रेसबैक सत्यापन के साथ जोड़ने वाली एक नवीन विधि।
विसंगतियों की ज्यामितीय व्याख्या: "डाउनस्ट्रीम-फर्स्ट" डिटेक्शन विसंगतियों (एम्प्लीफिकेशन वाया पॉजिटिव कर्वेचर) को समझाने के लिए दिशात्मक द्वितीय-क्रम विश्लेषण का उपयोग।
व्याख्यात्मक कंटैजन ग्राफ: विफलता प्रसार का दृश्य और मात्रात्मक मानचित्र, जो प्रभाव शक्ति, प्रवर्धन आवृत्ति और समय को मापता है।
व्यापक मूल्यांकन: इसे Simple Spread (3 और 5 एजेंट) में 500+ एपिसोड और StarCraft II (SMAC) में 100 एपिसोड का उपयोग करके MADDPG और HATRPO एल्गोरिदम के साथ सत्यापित किया गया।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन पेशेंट-0 की पहचान करने और विफलता की गतिशीलता को समझाने की इसकी क्षमता पर किया गया।

पेशेंट-0 डिटेक्शन सटीकता:
- संयुक्त द्वि-चरणीय दृष्टिकोण ने 88.2% – 99.4% सटीकता प्राप्त की।
- HATRIO (एक स्मूथ ग्रेडिएंट वाला ट्रस्ट-रीजन एल्गोरिदम) ने MADDPG (जिसमें उच्च ग्रेडिएंट शोर होता है) की तुलना में लगातार बेहतर प्रदर्शन किया, जो पुष्टि करता है कि स्मूथ लैंडस्केप साफ टेलर सिग्नल प्रदान करते हैं।
- करेक्शन रेट (Correction Rate): चरण 2 ने कपलिंग स्ट्रेंथ के आधार पर 40.1% – 76.9% मामलों में "डाउनस्ट्रीम-फर्स्ट" गलत पहचानों को सफलतापूर्वक सुधारा।
प्रभाव सत्यापन (Intervention Studies):
- लेखकों ने क्रिटिकल स्टेट्स (उच्च संवेदनशीलता + एक्सेलेरेटिंग कर्वेचर) बनाम रोबस्ट स्टेट्स पर हस्तक्षेप करके "पेयर्ड कॉज़ल टेस्ट" किए।
- परिणाम: क्रिटिकल स्टेट्स पर हस्तक्षेप करने से रोबस्ट स्टेट्स की तुलना में काफी अधिक अस्थिरता (इंस्टेबिलिटी ऑक्यूपेंसी द्वारा मापी गई) देखी गई।
- मेट्रिक श्रेष्ठता: प्रस्तावित इंस्टेबिलिटी ऑक्यूपेंसी (IO) मेट्रिक ने पारंपरिक प्रदर्शन मेट्रिक्स (रिवॉर्ड/Q का AUC) से 20+ प्रतिशत अंक बेहतर प्रदर्शन किया, जो यह सिद्ध करता है कि ग्रेडिएंट ज्योमेट्री उन कमजोरियों को पकड़ लेती है जो रिवॉर्ड-आधारित विश्लेषण में अदृश्य होती हैं।
केस स्टडीज:
- हाई-इन्फ्लुएंस: दिखाया गया कि एक एक्सेलेटिंग स्टेट पर स्रोत को बाधित करने से निरंतर डाउनस्ट्रीम अस्थिरता हुई, जिसे चरण 2 द्वारा सही ढंग से ट्रेस किया गया।
- डाउनस्ट्रीम-फर्स्ट (फॉल्स पॉजिटिव): प्रदर्शित किया गया कि एक परिदृश्य जहाँ एजेंट 1 पहले विफल हुआ (चरण 1 फ्लैग), लेकिन चरण 2 ने उच्च-वक्रता वाले पथ के माध्यम से एम्प्लीफिकेशन को वास्तविक स्रोत, एजेंट 3 तक सही ढंग से ट्रेस किया।

5. महत्व और निष्कर्ष (Significance and Conclusion)

यह शोध पत्र पोस्ट-हॉक रिवॉर्ड विश्लेषण से ग्रेडिएंट-स्तरीय फॉरेंसिक की ओर बढ़ते हुए एक्सप्लेनेबल MARL (xMARL) में एक महत्वपूर्ण कदम है।

व्यावहारिक प्रभाव: यह सुरक्षा इंजीनियरों को कैस्केडिंग विफलताओं का निदान करने के लिए कार्रवाई योग्य उपकरण प्रदान करता है, जिससे न केवल यह पता चलता है कि कौन विफल हुआ, बल्कि यह भी कि विफलता क्यों और कैसे फैली।
सैद्धांतिक योगदान: यह पॉलिसी कर्वेचर, क्रिटिक डेरिवेटिव और विफलता प्रसार के बीच के संबंध को औपचारिक रूप देता है, जो "डाउनस्ट्रीम-फर्स्ट" डिटेक्शन विसंगतियों के लिए एक ज्यामितीय स्पष्टीकरण प्रदान करता है।
भावी कार्य: लेखक सिंगल-सोर्स फेलियर धारणा और कम्प्यूटेशनल ओवरहेड (Hessian-vector products) के संबंध में सीमाओं को नोट करते हैं, जो ऑनलाइन डिटेक्शन और कई एक साथ होने वाले विफलता स्रोतों को संभालने पर भविष्य के कार्य का सुझाव देते हैं।

संक्षेप में, यह ढांचा अपारदर्शी मल्टी-एजेंट विफलताओं को पारदर्शी, ज्यामितीय साक्ष्य में बदल देता है, जिससे सुरक्षा-महत्वपूर्ण प्रणालियों में अधिक विश्वसनीय MARL परिनियोजन संभव होता है।