Interpreting Emergent Extreme Events in Multi-Agent Systems

यहाँ "Interpreting Emergent Extreme Events in Multi-Agent Systems" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

LLM-संचालित मल्टी-एजेंट सिस्टम (MAS) का उपयोग जटिल मानव-समान प्रणालियों (आर्थिक, वित्तीय, सामाजिक) के अनुकरण के लिए तेजी से किया जा रहा है। हालाँकि, ये सिस्टम अक्सर उभरती हुई चरम घटनाओं (Emergent Extreme Events/Black Swans) को प्रदर्शित करते हैं—जैसे कि दुर्लभ, उच्च-प्रभाव वाली घटनाएँ जैसे कि बाजार की गिरावट (market crashes), अति-मुद्रास्फीति (hyperinflation), या सामाजिक ध्रुवीकरण।

मुख्य चुनौती "उद्भव का ब्लैक बॉक्स" (black box of emergence) है। जबकि इन घटनाओं का अनुकरण किया जा सकता है, उनकी उत्पत्ति एजेंटों और वातावरण के बीच जटिल, गैर-रैखिक अंतःक्रियाओं (non-linear interactions) के कारण अस्पष्ट रहती है। मौजूदा साहित्य इन घटनाओं के अस्तित्व की पुष्टि तो करता है, लेकिन उन्हें व्याख्यायित करने के लिए एक ढांचे (framework) का अभाव है। विशेष रूप से, तीन मौलिक प्रश्न अनुत्तरित हैं:

1. कब घटना उत्पन्न होती है? (क्या यह एक अचानक आया झटका है या एक सुप्त जोखिम?)
2. कौन इसे संचालित करता है? (कौन से विशिष्ट एजेंट इसके लिए जिम्मेदार हैं?)
3. कौन से व्यवहार इसमें योगदान देते हैं? (कौन से क्रिया पैटर्न जोखिम को ट्रिगर करते हैं?)

2. कार्यप्रणाली (Methodology)

लेखक सहकारी गेम थ्योरी (cooperative game theory) से शापली वैल्यूज (Shapley values) को अनुकूलित करके, LLM-संचालित MAS में उभरती चरम घटनाओं की व्याख्या करने के लिए पहला ढांचा प्रस्तावित करते हैं। कार्यप्रणाली के चार मुख्य चरण हैं:

A. समस्या सूत्रीकरण और एट्रिब्यूशन (Problem Formulation & Attribution)

• मॉडलिंग: MAS को समय अंतराल $T$ पर अवस्थाओं (states) और संयुक्त क्रियाओं (joint actions) के एक प्रक्षेपवक्र (trajectory) $\tau$ के रूप में मॉडल किया गया है। एक चरम घटना तब होती है जब एक जोखिम मीट्रिक $R_T(\tau)$, थ्रेशोल्ड $\rho$ से अधिक हो जाता है।
• एट्रिब्यूशन लक्ष्य: अंतिम जोखिम $R_T(\tau)$ को एजेंट $i$ द्वारा समय $t$ पर ली गई व्यक्तिगत क्रियाओं $a_{i,t}$ के योगदान में विभाजित करना।
• शापली वैल्यू का अनुकूलन:
  • सभी क्रियाओं के सेट $\Omega$ को एक गेम में "खिलाड़ियों" के रूप में माना गया है।
  • क्रियाओं के एक गठबंधन (coalition) $S$ का "मूल्य" एक काउंटरफैक्चुअल प्रक्षेपवक्र (counterfactual trajectory) के जोखिम के रूप में परिभाषित किया गया है, जहाँ क्रियाओं $S$ को संरक्षित रखा जाता है, और $\Omega \setminus S$ की क्रियाओं को "सुरक्षित" बेसलाइन क्रियाओं से बदल दिया जाता है।
  • एट्रिब्यूशन स्कोर $\phi(a_{i,t})$ को क्रियाओं के उपसमूहों के सभी संभावित क्रमों (permutations) में एक मार्जिनल योगदान के रूप में गणना किया जाता है।
  • अनुमान (Approximation): चूंकि सटीक शापली गणना NP-hard ($O(2^{|\Omega|})$) है, इसलिए लेखक क्रियाओं की संख्या के सापेक्ष रैखिक जटिलता के साथ मूल्यों का अनुमान लगाने के लिए मोंटे कार्लो सैंपलिंग (Monte Carlo Sampling) का उपयोग करते हैं, जिसे पर्याप्त सैंपल साइज पर ग्राउंड ट्रुथ के साथ उच्च कोसाइन समानता (>0.99) के साथ सत्यापित किया गया है।

B. आयामी एकत्रीकरण (Dimensional Aggregation)

एक्शन-स्तरीय स्कोर को तीन आयामों के साथ एकत्रित किया जाता है ताकि मुख्य प्रश्नों का उत्तर दिया जा सके:

1. समय ($\phi^{tm}_t$): समय $t$ पर सभी क्रियाओं के स्कोर का योग।
2. एजेंट ($\phi^{ag}_i$): एजेंट $i$ द्वारा की गई सभी क्रियाओं का स्कोर।
3. व्यवहार ($\phi^{be}_k$): एक विशिष्ट व्यवहार प्रकार $k$ के सभी उदाहरणों का स्कोर।

C. मात्रात्मक मीट्रिक (Quantitative Metrics)

इन एकत्रित स्कोर के आधार पर, लेखक घटनाओं की विशेषताओं को चित्रित करने के लिए पांच मीट्रिक डिजाइन करते हैं:

1. सापेक्ष जोखिम विलंबता ($L^{tm}$): उस समय के बीच के अंतराल को मापता है जब अधिकांश जोखिम संचित होता है और जब घटना वास्तव में घटित होती है। यह "सुप्त जोखिमों" (उच्च विलंबता) और "तत्काल झटकों" (कम विलंबता) के बीच अंतर करता है।
2. एजेंट जोखिम एकाग्रता ($G^{ag}$): यह मापने के लिए गिनी गुणांक (Gini Coefficient) का उपयोग करता है कि जोखिम कुछ एजेंटों के बीच कितना केंद्रित है।
3. जोखिम-अस्थिरता सहसंबंध ($C^{ag}$): एक एजेंट के जोखिम योगदान और समय के साथ उनके योगदान के विचरण (variance/instability) के बीच पियर्सन सहसंबंध (Pearson correlation)।
4. एजेंट जोखिम सिंक्रोनाइज़ेशन ($Z^{ag}$): दिशात्मक संरेखण (directional alignment) को मापने के लिए विकसेक मॉडल (Vicsek model) से अनुकूलित, यह मापता है कि क्या एजेंट एक साथ जोखिम बढ़ाते या घटाते हैं।
5. व्यवहार जोखिम एकाग्रता ($G^{be}$): व्यवहार प्रकारों पर लागू गिनी गुणांक, यह निर्धारित करने के लिए कि क्या जोखिम कुछ प्रमुख पैटर्न से उत्पन्न होता है।

3. मुख्य योगदान (Key Contributions)

1. चरम घटना व्याख्या के लिए पहला ढांचा: LLM-MAS में उभरती "ब्लैक स्वान" घटनाओं की व्याख्या करने के लिए एक एकीकृत दृष्टिकोण प्रस्तावित करता है, जो केवल पहचान (detection) से आगे बढ़कर कारण संबंधी एट्रिब्यूशन (causal attribution) तक जाता है।
2. शापली वैल्यूज के माध्यम से निष्ठापूर्ण एट्रिब्यूशन: MAS में शापली वैल्यूज को अनुकूलित करता है ताकि एक प्रायर-मुक्त (prior-free), निष्ठापूर्ण (faithful) एट्रिब्यूशन विधि प्रदान की जा सके, जो पिछले तरीकों (जैसे स्कोर के लिए LLMs को प्रॉम्प्ट करना) के विपरीत किसी सांख्यिकीय पूर्व ज्ञान (statistical priors) या बाहरी ज्ञान पर निर्भर नहीं करती है।
3. बहु-आयामी विश्लेषण: समय, एजेंट और व्यवहार के माध्यम से घटनाओं का विश्लेषण करने के लिए एक संरचित तरीका पेश करता है, जो पांच नवीन मात्रात्मक मीट्रिक्स द्वारा समर्थित है।
4. अनुभवजन्य अंतर्दृष्टि (Empirical Insights): MAS में चरम घटनाओं की प्रकृति के बारे में सामान्यीकरण योग्य अंतर्दृष्टि प्रदान करता है (नीचे परिणामों में देखें)।

4. प्रयोगात्मक परिणाम (Experimental Results)

ढांचे का मूल्यांकन तीन विविध परिदृश्यों में किया गया: EconAgent (मैक्रोइकॉनॉमिक), TwinMarket (वित्तीय), और SocialNetwork (ओपिनियन पोलराइजेशन), जिसमें विभिन्न LLMs (GPT-4o, Llama, Claude, Qwen, DeepSeek) का उपयोग किया गया।

A. निष्ठा सत्यापन (Faithfulness Validation)

• मीट्रिक: शीर्ष-रैंक वाले खतरनाक कार्यों को हटाने के बाद जोखिम में गिरावट।
• परिणाम: प्रस्तावित शापली-आधारित विधि ने रैंडम (Random), फेल्योर टैक्सोनॉमी (FT), फेल्योर एट्रिब्यूशन (FA), और एजेंट ट्रेसर (AT) जैसे बेसलाइन की तुलना में काफी अधिक जोखिम गिरावट (जैसे, TwinMarket में ~36-60%) प्राप्त की। यह पुष्टि करता है कि विधि जोखिम के वास्तविक चालकों की निष्ठापूर्वक पहचान करती है।

B. मीट्रिक्स से प्राप्त प्रमुख अंतर्दृष्टि (Key Insights Derived from Metrics)

1. अंतर्दृष्टि 1 (सामयिक/Temporal): चरम घटनाओं के विशिष्ट मूल होते हैं। आर्थिक प्रणालियों में, वे अक्सर प्रारंभिक सुप्त जोखिमों (उच्च $L^{tm}$) से उत्पन्न होते हैं, जबकि वित्तीय बाजार और सामाजिक नेटवर्क अक्सर तत्काल झटकों (कम $L^{tm}$) का परिणाम होते हैं।
2. अंतर्दृष्टि 2 (एजेंट एकाग्रता): चरम घटनाएं आमतौर पर एजेंटों के एक छोटे समूह द्वारा संचालित होती हैं। उच्च गिनी गुणांक ($G^{ag} > 0.4$) इंगित करते हैं कि जोखिम प्रणाली-व्यापी नहीं बल्कि महत्वपूर्ण एजेंटों में केंद्रित है।
3. अंतर्दृष्टि 3 (अस्थिरता): उच्च जोखिम योगदान वाले एजेंटों में उच्च अस्थिरता (उनके कार्यों में उच्च विचरण) देखी जाती है। जोखिम योगदान और व्यवहार संबंधी अस्थिरता के बीच एक मजबूत सकारात्मक सहसंबंध ($C^{ag} > 0.6$) है।
4. अंतर्दृष्टि 4 (सिंक्रोनाइज़ेशन): एजेंट तुल्यकालिक (synchronously) रूप से कार्य करते हैं, या तो मिलकर जोखिम बढ़ाते हैं या घटाते हैं ($Z^{ag}$ आम तौर पर उच्च होता है), जो झुंड व्यवहार (herd behavior) का सुझाव देता है।
5. अंतर्दृष्टि 5 (व्यवहार एकाग्रता): व्यवहार के कुछ सीमित पैटर्न अधिकांश जोखिम में योगदान देते हैं ($G^{be} > 0.5$), जो यह दर्शाता है कि विशिष्ट रूढ़िबद्ध क्रियाएं (जैसे अल्पकालिक व्यापार, विशिष्ट अंतःक्रिया प्रकार) प्राथमिक चालक हैं।

5. महत्व (Significance)

• सुरक्षा और शासन (Safety & Governance): यह ढांचा सिस्टम सुरक्षा के लिए कार्रवाई योग्य मार्गदर्शन प्रदान करता है। यह पहचानकर कि कौन और क्या जोखिम को संचालित करता है, नियामक या सिस्टम डिजाइनर आपदाओं को रोकने के लिए उच्च-जोखिम वाले एजेंटों को प्रतिबंधित कर सकते हैं या विशिष्ट व्यवहार पैटर्न को संशोधित कर सकते हैं।
• सैद्धांतिक प्रगति: यह जटिल सिस्टम सिमुलेशन और व्याख्यात्मकता (interpretability) के बीच के अंतर को पाटता है, जो AI सिस्टम में उभरते हुए घटनाओं को डिकोड करने के लिए एक कठोर गणितीय उपकरण (शापली वैल्यूज) प्रदान करता है।
• स्केलेबिलिटी (Scalability): हालांकि शापली गणना सैद्धांतिक रूप से महंगी है, मोंटे कार्लो सन्निकटन (approximation) इसे हजारों क्रियाओं वाले सिस्टम के लिए व्यवहार्य बनाता है, हालांकि विशाल प्रणालियों तक स्केल करना भविष्य का लक्ष्य बना हुआ है।

निष्कर्षतः, यह शोध पत्र मल्टी-एजेंट सिस्टम में उभरती चरम घटनाओं के "ब्लैक बॉक्स को खोलने" के लिए एक आधारभूत कार्यप्रणाली स्थापित करता है, जिससे उन्हें अप्रत्याशित विसंगतियों से पहचान योग्य कारणों वाले विश्लेषण योग्य घटनाओं में बदल दिया जाता है।