⚡ electrical engineering

Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions

यह शोध पत्र एक कंडीशनल वेरिएशनल ऑटोएन्कोडर और एक डिफरेंशिएबल ऑप्टिमाइज़ेशन लेयर का उपयोग करते हुए एक सुगम विधि प्रस्तावित करता है, जो यह सीखने के लिए कि एजेंट मल्टी-एजेंट इंटरैक्शन में जिम्मेदारी कैसे आवंटित करते हैं, जिसका एक संभाव्य मॉडल (प्रोबेबिलिस्टिक मॉडल) बनता है, जिससे ग्राउंड-ट्रुथ रिस्पॉन्सिबिलिटी लेबल की अनुपस्थिति के बावजूद INTERACTION ड्राइविंग डेटासेट पर सामाजिक रूप से अनुपालन योग्य व्यवहारों का विश्लेषण संभव हो पाता है।

मूल लेखक: Isaac Remy, Caleb Chang, Karen Leung

प्रकाशित 2026-04-16

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Isaac Remy, Caleb Chang, Karen Leung

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक व्यस्त सड़क पर गाड़ी चला रहे हैं। आप अपने गंतव्य तक जल्दी पहुँना चाहते हैं (आपका लक्ष्य), लेकिन तभी आप देखते हैं कि एक कार आपके सामने आ रही है। आपके पास दो विकल्प हैं: या तो आप उन्हें रास्ता देने के लिए अचानक ब्रेक लगा सकते हैं, या आप गति बढ़ा सकते हैं और उम्मीद कर सकते हैं कि वे रुक जाएँ।

सेल्फ-ड्राइविंग कारों की दुनिया में, यह तय करना कि किसे धीमा होना चाहिए और कौन चलता रह सकता है, एक बहुत बड़ी पहेली है। यह शोध पत्र एक नया तरीका पेश करता है जिससे कंप्यूटर यह सीख सकते हैं कि इंसान स्वाभाविक रूप से यह कैसे तय करते हैं कि दुर्घटना से बचने के लिए कौन "ज़िम्मेदार" है।

यहाँ उनके विचार का विवरण दिया गया है, कुछ रोज़मर्रा के उपमाओं (analogies) का उपयोग करते हुए:

1. समस्या: "दोष किसका है?" वाला खेल

पारंपरिक रूप से, इंजीनियरों ने कारों को कठोर नियम प्रोग्राम करने की कोशिश की: "यदि कोई कार पास है, तो रुक जाओ।" लेकिन इंसान रोबोट नहीं होते। कभी-कभी हम विनम्र होते हैं और किसी को रास्ता देते हैं; कभी-कभी हम आक्रामक होते हैं और चलते रहते हैं। यह स्थिति पर निर्भर करता है।

लेखकों ने महसूस किया कि कठोर नियम कोड करने के बजाय, हमें AI को ज़िम्मेदारी (responsibility) की अवधारणा सीखने के लिए प्रशिक्षित करना चाहिए।

ज़िम्मेदारी का यहाँ अर्थ यह नहीं है कि "किसने दुर्घटना का कारण बनाया।"
इसका अर्थ है: "एक ड्राइवर सभी को सुरक्षित रखने के लिए अपनी योजना को कितना बदलने के लिए तैयार है?"

यदि आप अत्यधिक ज़िम्मेदार हैं, तो आप धीमे हो सकते हैं भले ही आपको इसकी आवश्यकता न हो। यदि आप कम ज़िम्मेदार हैं (सुरक्षित और कानूनी तरीके से), तो आप अपनी गति बनाए रख सकते हैं और उम्मीद कर सकते हैं कि दूसरा व्यक्ति रास्ता दे देगा।

2. समाधान: व्यवहार के लिए एक "क्रिस्टल बॉल"

टीम ने एक विशेष AI मॉडल बनाया (एक प्रोबेबिलिस्टिक रिस्पॉन्सिबिलिटी मॉडल) जो एक क्रिस्टल बॉल की तरह काम करता है।

पुराना तरीका (डिटरमिनिस्टिक): AI दृश्य को देखता है और कहता है, "ठीक है, कार A को 2 mph धीमा होना ही चाहिए।" यह एक ही उत्तर देता है।
नया तरीका (प्रोबेबिलिस्टिक): AI दृश्य को देखता है और कहता है, "50% संभावना है कि कार A धीमी होगी, और 50% संभावना है कि कार B गति बढ़ाएगी।"

यह बेहतर क्यों है? क्योंकि मानवीय व्यवहार अव्यवस्थित और कई संभावनाओं वाला (multimodal) होता है। कभी लोग विनम्र होते हैं, तो कभी वे जल्दी में होते हैं। नया मॉडल एक साथ इन सभी संभावनाओं को पकड़ लेता है।

3. यह कैसे काम करता है: "ब्लैक बॉक्स" अनुवादक

यहाँ पेचीदा हिस्सा है: हमारे पास कारों के चलने का डेटा है (वे कहाँ गईं और कितनी तेज़ थीं), लेकिन हमारे पास ऐसा लेबल नहीं है जो कहता हो, "इस क्षण, ड्राइवर 70% ज़िम्मेदार था।" हम ड्राइवर से यह नहीं पूछ सकते, "हे, आप कितने ज़िम्मेदार थे?"

इसलिए, लेखकों ने एक कंडीशनल वेरिएशनल ऑटोएनकोडर (CVAE) का उपयोग करके एक चतुर समाधान निकाला। इसे एक अनुवादक के रूप में सोचें जिसके पास एक गुप्त भाषा है:

इनपुट: AI दृश्य को देखता है (संदर्भ)।
गुप्त भाषा (लेटेंट स्पेस): AI दृश्य को एक छिपे हुए कोड में संकुचित (compress) कर देता है। यह कोड ड्राइवरों के "मिजाज" या "इरादे" का प्रतिनिधित्व करता है।
अनुवाद: AI उस छिपे हुए कोड को हर कार के लिए एक ज़िम्मेदारी स्कोर (Responsibility Score) में अनुवादित करता है।
सुरक्षा फ़िल्टर: यह सबसे महत्वपूर्ण चरण है। AI उन ज़िम्मेदारी स्कोर को लेता है और उन्हें एक गणितीय सुरक्षा फ़िल्टर के माध्यम से चलाता है। यह फ़िल्टर पूछता है: "यदि कार A के पास यह ज़िम्मेदारी स्कोर है और कार B के पास वह स्कोर है, तो वे दुर्घटना से बचने के लिए वास्तव में किन नियंत्रणों (ब्रेक/स्टीयरिंग) का उपयोग करेंगे?"
जाँच: AI भविष्य के अनुमानित नियंत्रणों की तुलना वीडियो डेटा से वास्तविक नियंत्रणों से करता है। यदि वे मेल खाते हैं, तो AI जानता है कि उसने ज़िम्मेदारी स्कोर का सही अनुमान लगाया है!

यह एक जासूस की तरह है जो पात्रों के कार्यों को देखकर यह पता लगाने की कोशिश करता है कि कहानी में "अच्छा आदमी" कौन था। जासूस उनके विचार नहीं देख सकता, लेकिन उनके कार्यों को देखकर, वे विचारों का अनुमान लगा सकते हैं।

4. "ट्रांसफॉर्मर" का जादू

जटिल ट्रैफ़िक को संभालने के लिए जिसमें कई कारें आ और जा रही हैं, उन्होंने एक ट्रांसफॉर्मर (Transformer) का उपयोग किया (वही तकनीक जो मेरे जैसे चैटबॉट्स के पीछे है)।

एक भीड़भाड़ वाले चौराहे की कल्पना करें। कारें आती और जाती हैं।
ट्रांसफॉर्मर एक ऑर्केस्ट्रा के सुपर-ऑर्गनाइज्ड कंडक्टर की तरह है। उसे इससे फर्क नहीं पड़ता कि वायलिन (कारें) अगली पंक्ति में बैठी हैं या पिछली, वह जानता है कि हर वाद्य यंत्र दूसरे वाद्य यंत्र के साथ कैसे इंटरैक्ट करता है, भले ही नए वाद्य यंत्र बैंड में शामिल हो रहे हों।

5. परिणाम: क्या यह काम करता है?

उन्होंने वास्तविक ड्राइविंग डेटा (INTERACTION डेटासेट, जिसे ड्रोन द्वारा रिकॉर्ड किया गया था) पर इसका परीक्षण किया।

भविचार (Prediction): उनके मॉडल ने केवल यह अनुमान लगाने ("हर कोई सीधा चलता रहेगा") की तुलना में कारों के भविष्य के रास्तों का बेहतर पूर्वानुमान लगाया।
अंतर्दृष्टि (Insight): मॉडल ने सहज चीजें सीखीं। उदाहरण के लिए, यदि कोई कार किसी चौराहे पर दूसरी कार के पहले से वहां होने के बाद पहुँचती है, तो मॉडल सही ढंग से देरी से आने वाली कार को अधिक "ज़िम्मेदारी" (रास्ता देने की इच्छा) प्रदान करता है। यदि कोई कार पहले से ही चौराहे में है, तो मॉडल जानता है कि वह रास्ता देने के लिए कम ज़िम्मेदार है।

बड़ी तस्वीर

यह शोध पत्र केवल यह भविष्यवाणी करने के बारे में नहीं है कि कार आगे कहाँ जाएगी। यह सड़क के सामाजिक अनुबंध (social contract) को समझने के बारे में है।

AI को ज़िम्मेदारी को एक लचीले, प्रोबेबिलिस्टिक विचार के रूप में समझने के लिए प्रशिक्षित करके, हम ऐसी सेल्फ-ड्राइविंग कारें बना सकते हैं जो केवल नियमों का पालन नहीं करतीं, बल्कि नियमों की भावना को भी समझती हैं। वे ऐसी कारें बन जाती हैं जो बातचीत कर सकती हैं, रास्ता दे सकती हैं, और मनुष्यों के साथ इस तरह से व्यवहार कर सकती हैं जो स्वाभाविक, सुरक्षित और भरोसेमंद महसूस हो।

संक्षेप में: उन्होंने AI को यह सिखाया कि "कौन रास्ता दे रहा है?" का खेल कैसे खेला जाता है, इसे केवल एक नियम पुस्तिका लिखकर नहीं, बल्कि यह देखकर कि इंसान वास्तव में इसे कैसे खेलते हैं।

यहाँ शोध पत्र "Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या की परिभाषा (Problem Definition)

यह शोध पत्र मल्टी-एजेंट इंटरैक्टिव सेटिंग्स (जैसे कि स्वायत्त ड्राइविंग) में मानवीय व्यवहार को मॉडल करने की चुनौती को संबोधित करता है। जबकि मौजूदा विधियाँ अक्सर यह भविष्यवाणी करने पर ध्यान केंद्रित करती हैं कि एजेंट क्या करेंगे (ट्रैजेक्टरी फोरकास्टिंग), यह कार्य इस बात पर केंद्रित है कि वे साझा सुरक्षा बाधाओं (जैसे कि टकराव से बचना) को पूरा करने के लिए अपने वांछित पथों से क्यों विचलित होते हैं।

मुख्य अवधारणा (Core Concept): जिम्मेदारी (Responsibility) को इस डिग्री के रूप में परिभाषित किया गया है कि एक एजेंट साझा सुरक्षा बाधाओं को संतुष्ट करने के लिए अपनी वांछित नियंत्रण नीति (control policy) से विचलित होने के लिए कितना इच्छुक है।
अंतराल (The Gap): पिछले कार्यों ने जिम्मेदारी को दृश्य संदर्भ (scene context) से एक एकल जिम्मेदारी मान तक एक नियत (deterministic) मैपिंग के रूप में मॉडल किया था। हालाँकि, मानवीय अंतःक्रियाएँ स्वाभाविक रूप से बहुविध (multimodal) होती हैं (उदाहरण के लिए, एक 'नियर-मिस' परिदृश्य में, या तो एजेंट यील्ड कर सकता है, या दोनों थोड़ा यील्ड कर सकते हैं)। एक नियत मॉडल इस अनिश्चितता और वैध सामाजिक अंतःक्रियाओं की विविधता को पकड़ने में विफल रहता है।
चुनौती (The Challenge): वास्तविक दुनिया के डेटासेट में "जिम्मेदारी" के लिए कोई ग्राउंड-ट्रूथ लेबल नहीं होते हैं। मॉडल को केवल देखे गए एजेंट स्टेट्स और कंट्रोल्स का उपयोग करके जिम्मेदारी आवंटन के वितरण को अप्रत्यक्ष रूप से सीखना होगा।

2. कार्यप्रणाली (Methodology)

लेखक एक प्रोबेबिलिस्टिक रिस्पॉन्सिबिलिटी मॉडल प्रस्तावित करते हैं जो दृश्य संदर्भ पर आधारित जिम्मेदारी आवंटन के वितरण को सीखता है। यह ढांचा कंट्रोल बैरियर फंक्शन्स (CBFs), कंडीशनल वेरिएशनल ऑटोएनकोडर्स (CVAEs), और ट्रांसफार्मर आर्किटेक्चर को एकीकृत करता है।

A. सैद्धांतिक आधार: रिस्पॉन्सिबिलिटी सेफ्टी फिल्टर (Theoretical Foundation: Responsibility Safety Filter)

यह विधि सुरक्षा सुनिश्चित करने के लिए कंट्रोल बैरियर फंक्शन्स (CBFs) पर आधारित है।

मानक CBF: यह सुनिश्चित करता है कि एक एकल एजेंट वांछित नियंत्रण से विचलन को कम करके एक सुरक्षित सेट के भीतर रहे।
मल्टी-एजेंट विस्तार: लेखक इसे $N$ $N$ एजेंटों के लिए एक संयुक्त अनुकूलन समस्या (Problem 2) को तैयार करके विस्तारित करते हैं।
- उद्देश्य (Objective): सभी एजेंटों के लिए वांछित नियंत्रणों से विचलन के भारित योग (weighted sum) को कम करना।
- रिस्पॉन्सिबिलिटी वेक्टर ( $\gamma$ ): एक वेक्टर जहाँ प्रत्येक तत्व $\gamma_i$ एजेंट $i$ के लिए विचलन की "लागत" को दर्शाता है। उच्च $\gamma_i$ का अर्थ है कि एजेंट विचलित होने के लिए कम इच्छुक है (कम जिम्मेदार), जबकि निम्न $\gamma_i$ का अर्थ है उच्च यील्ड करने की इच्छा (अधिक जिम्मेदार)।
- बाधा (Constraint): अनुकूलन एक सेट के अधीन है जो सभी एजेंट जोड़ों के बीच टकराव को रोकने के लिए युग्मवार (pairwise) CBF बाधाओं को सुनिश्चित करता है।

B. लर्निंग आर्किटेक्चर: रिस्पॉन्सिबिलिटी CVAE (Learning Architecture: Responsibility CVAE)

चूंकि ग्राउंड-ट्रूथ $\gamma$ अवलोकित नहीं है, इसलिए लेखक एक कंडीशनल वेरिएशनल ऑटोएन्कोडर (CVAE) का उपयोग करते हैं जो दृश्य संदर्भ $s$ पर आधारित $\gamma$ के वितरण $p(\gamma | s)$ को सीखता है।

लेटेंट वेरिएबल ( $z$ ): एक गॉसियन लेटेंट वेरिएबल मानवीय अंतःक्रिया की बहुविध अनिश्चितता को कैप्चर करता है।
डिकोडर संरचना (Decoder Structure):
1. लेटेंट से रिस्पॉन्सिबिलिटी: लेटेंट $z$ को जिम्मेदारी वेक्टर $\gamma = g_\phi(z)$ उत्पन्न करने के लिए न्यूरल नेटवर्क परतों के माध्यम से पारित किया जाता है।
2. डिफरेंशिएबल ऑप्टिमाइज़ेशन लेयर: उत्पन्न $\gamma$ को रिस्पॉन्सिबल मल्टी-एजेंट CBF सेफ्टी फिल्टर (ऊपर परिभाषित अनुकूलन समस्या) में फीड किया जाता है। यह लेयर डिफरेंशिएबल है, जिससे ग्रेडिएंट्स न्यूरल नेटवर्क में वापस प्रवाहित हो सकते हैं।
3. आउटपुट: फ़िल्टर अनुमानित कंट्रोल इनपुट्स $\hat{u}$ उत्पन्न करता है।
ट्रेनिंग ऑब्जेक्टिव: मॉडल एविडेंस लोअर बाउंड (ELBO) को कम करता है, जो प्रभावी रूप से $\gamma$ वितरणों को ऐसे उत्पन्न करने के लिए सीखता है ताकि परिणामी सुरक्षा-फिल्टर्ड कंट्रोल्स $\hat{u}$ , डेटासेट में देखे गए कंट्रोल्स $u$ से मेल खा सकें।

C. सीक्वेंस मॉडलिंग: ट्रांसफार्मर-आधारित CVAE (Sequence Modeling: Transformer-Based CVAE)

एजेंटों की परिवर्तनशील संख्या वाले जटिल, गतिशील दृश्यों को संभालने के लिए, लेखक एजेंटफॉर्मर (AgentFormer) आर्किटेक्चर को अनुकूलित करते हैं:

इनपुट: एजेंटों के पिछले स्टेट्स (स्थिति, वेग, प्रकार) का एक अनुक्रम और वर्तमान कंट्रोल।
मैकेनिज्म: एजेंटों के दृश्य में आने या जाने को संभालने और एजेंटों के क्रम की परवाह किए बिना उनके बीच संबंधों को सीखने के लिए सेल्फ-अटेंशन और मास्किंग का उपयोग करता है (परम्यूटेशन इनवेरिएंस)।
आउटपुट: अंतःक्रिया के इतिहास पर आधारित, वर्तमान समय चरण के लिए जिम्मेदारी आवंटन का एक वितरण।

3. मुख्य योगदान (Key Contributions)

प्रोबेबिलिस्टिक फॉर्मुलेशन: जिम्मेदारी को एक पॉइंट एस्टीमेट के बजाय एक प्रोबेबिलिटी डिस्ट्रीब्यूशन के रूप में प्रस्तुत करने वाला पहला फॉर्मुलेशन, जो मानवीय अंतःक्रियाओं की बहुविध प्रकृति को कैप्चर करता है।
ऑप्टिमाइज़ेशन के माध्यम से अप्रत्यक्ष लर्निंग: एक नवीन आर्किटेक्चर जो एक डिफरेंशिएबल ऑप्टिमाइज़ेशन लेयर (CBF सेफ्टी फिल्टर) के माध्यम से बैकप्रोपैगेट करके अनऑब्जर्व्ड रिस्पॉन्सिबिलिटी वेरिएबल्स को सीखता है, जिससे लेबल किए गए जिम्मेदारी डेटा की आवश्यकता समाप्त हो जाती है।
स्केलेबल ट्रांसफार्मर मॉडल: एक सीक्वेंस-टू-सीक्वेंस रिस्पॉन्सिबिलिटी मॉडल जो विषम एजेंटों की परिवर्तनशील संख्या और जटिल अंतःक्रिया इतिहास को संभालने में सक्षम है।
व्याख्यात्मकता (Interpretability): मॉडल एक गणितीय रूप से ठोस, मात्रात्मक माप प्रदान करता है कि टकराव की स्थिति में "कौन जिम्मेदार है", जो सरल ट्रैजेक्टरी प्रेडिक्शन से परे अंतर्दृष्टि प्रदान करता है।

4. प्रायोगिक परिणाम (Experimental Results)

विधि का मूल्यांकन सिंथेटिक डेटा और वास्तविक दुनिया के INTERACTION ड्राइविंग डेटासेट दोनों पर किया गया।

सिंथेटिक डेटा:
- मॉडल ने जिम्मेदारी आवंटन के बाइमॉडल (bimodal) ग्राउंड-ट्रूथ वितरण को सफलतापूर्वक पुनर्गठित किया।
- इसने प्रदर्शित किया कि एक गॉसियन लेटेंट स्पेस अंतःक्रिया के दो अलग-अलग मोड (जैसे एजेंट A यील्ड करता है बनाम एजेंट B यील्ड करता है) को प्रभावी ढंग से कैप्चर कर सकता है।
INTERACTION डेटासेट (वास्तविक दुनिया की ड्राइविंग):
- ट्रैजेक्टरी प्रेडिक्शन: रिस्पॉन्सिबिलिटी-प्रेरित ट्रैजेक्टरीज ने मजबूत प्रेडिक्टिव प्रदर्शन (कम एवरेज डिस्प्लेसमेंट एरर और मिस रेट) प्राप्त किया, जो उन बेसलाइन्स से काफी बेहतर है जो केवल वांछित कंट्रोल्स का पालन करते हैं या बिना सेफ्टी फिल्टर के सीधे कंट्रोल्स की भविष्यवाणी करते हैं।
- एब्लेशन स्टडीज (Ablation Studies): लेखकों ने $\gamma$ के लिए विभिन्न एक्टिवेशन फंक्शन का परीक्षण किया। उन्होंने पाया कि वे मॉडल जो नकारात्मक मानों की अनुमति देते हैं (जैसे tanh या clip at -β), उन मॉडलों की तुलना में बेहतर प्रदर्शन करते हैं जो $[0, 1]$ तक सीमित हैं, क्योंकि वास्तविक दुनिया के एजेंट कभी-कभी बाधाओं के बावजूद आक्रामक रूप से अपने लक्ष्य का पीछा करते हुए "नेगेटिव रिस्पॉन्सिबिलिटी" प्रदर्शित करते हैं।
- गुणात्मक अंतर्दृष्टि (Qualitative Insights):
  - मॉडल ने सही ढंग से पहचाना कि चौराहे पर बाद में पहुँचने वाले एजेंट (ग्रीन कार) को चौराहे में पहले से मौजूद एजेंट (रेड कार) की तुलना में कम जिम्मेदारी मान (उच्च यील्ड करने की इच्छा) रखनी चाहिए।
  - इसने बाइमॉडल व्यवहारों को कैप्चर किया: कुछ परिदृश्यों में, मॉडल ने एक ऐसा वितरण अनुमानित किया जहाँ ग्रीन कार या तो गति बढ़ा सकती है या धीमा हो सकती है, जो मानवीय निर्णय लेने की अस्पष्टता को दर्शाता है।

5. महत्व और भविष्य का कार्य (Significance and Future Work)

महत्व: यह कार्य प्रतिमान को "एजेंट कहाँ जाते हैं इसकी भविष्यवाणी करने" से बदलकर "एजेंट सुरक्षा के लिए कैसे समझौता (negotiate) करते हैं इसे समझने" की ओर ले जाता है। जिम्मेदारी को मात्रात्मक बनाकर, स्वायत्त सिस्टम अधिक सामाजिक रूप से अनुपालनकारी (socially compliant) और विश्वसनीय बन सकते हैं, क्योंकि वे न केवल ट्रैजेक्टरी, बल्कि मानव ड्राइवरों के इरादे और यील्ड करने की इच्छा का भी अनुमान लगा सकते हैं।
सीमाएँ: वास्तविक दुनिया का डेटासेट निरंतर-वेग (constant-velocity) परिदृश्यों की ओर झुका हुआ था, जिससे सीखे गए जिम्मेदारी परिणामों की विविधता सीमित हो गई। वर्तमान एजेंट चयन डायनेमिक रीचेबिलिटी के बजाय दूरी-आधारित ह्यूरिस्टिक्स पर निर्भर है।
भविष्य की दिशाएँ:
- जटिल सड़क ज्यामिति और विजुअल कॉन्टेक्स्ट (साइन, लाइट) को शामिल करना।
- प्रासंगिक एजेंटों को अधिक सटीक रूप से फिल्टर करने के लिए रीचेबिलिटी-आधारित तरीकों का उपयोग करना।
- काउंटरफैक्चुअल विश्लेषण (जैसे, "क्या होता यदि दूसरा एजेंट अधिक जिम्मेदार होता?") को लागू करना ताकि रोबोट और स्वायत्त वाहनों के लिए पॉलिसी डिज़ाइन में सुधार किया जा सके।