तकनीकी सारांश: SPHINX – पहले व्याख्या करें, फिर अन्वेषण करें

समस्या विवरण

स्वायत्त वाहनों (AVs) के सुरक्षित परिनियोजन के लिए मानक डेटासेट में दुर्लभ लेकिन विनाशकारी होने वाले 'लॉन्ग-टेल', सुरक्षा-महत्वपूर्ण 'एज केसेस' (edge cases) के विरुद्ध कठोर सत्यापन की आवश्यकता होती है। हालांकि सिमुलेशन-आधारित मूल्यांकन AV विकास में केंद्रीय है, वर्तमान प्रतिकूल परिदृश्य जनरेशन (adversarial scenario generation) विधियों को एक मौलिक सीमा का सामना करना पड़ता है: सिमेंटिक मिसअलाइनमेंट (semantic misalignment)।

ChatScene और LLM-Attacker जैसे मौजूदा दृष्टिकोण विविध ड्राइविंग परिदृश्य उत्पन्न करने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) या विजन-लैंग्वेज मॉडल्स (VLMs) के पूर्व ज्ञान पर निर्भर करते हैं। हालाँकि, ये विधियाँ सामान्य ट्रैफिक प्रायर्स (generic traffic priors) या परिणाम-स्तर के फीडबैक (जैसे, टक्कर का होना) के आधार पर परिदृश्य उत्पन्न करती हैं। शोध पत्र का तर्क है कि केवल विविधता उपयोगिता की गारंटी नहीं देती है; एक परिदृश्य विफलता (उच्च लॉस) उत्पन्न कर सकता है, लेकिन वह नीति (policy) की कमजोरी के विशिष्ट अंतर्निहित तंत्र को प्रकट नहीं कर पाता है। उदाहरण के लिए, दो परिदृश्य जो टक्कर का कारण बनते हैं, वे अलग-अलग विफलताओं को उजागर कर सकते हैं (जैसे, देरी से पहचान बनाम अप्रासंगिक संरचनाओं पर ध्यान केंद्रित करना), फिर भी परिणाम-आधारित जनरेटरों के बीच अंतर करना उनके लिए संभव नहीं है। फलस्वरूप, ऐसे डेटा पर पुन: प्रशिक्षण करने से संकीर्ण मामलों में प्रदर्शन तो सुधर सकता है, लेकिन यह मूल निर्णय लेने वाले दोषों को ठीक नहीं कर पाता है।

कार्यप्रणाली: SPHINX फ्रेमवर्क

लेखक SPHINX प्रस्तावित करते हैं, जो एक क्लोज्ड-लूप फ्रेमवर्क है जो इस सिद्धांत द्वारा निर्देशित है: "पहले व्याख्या करें, फिर अन्वेषण करें" (First Explain, Then Explore)। सामान्य प्रायर्स पर आधारित जनरेशन के बजाय, SPHINX परिदृश्य संश्लेषण को सीधे AV मॉडल की आंतरिक निर्णय प्रक्रिया से निकाले गए पॉलिसी-ग्राउंडेड विफलता साक्ष्य (policy-grounded failure evidence) पर आधारित करता है।

यह फ्रेमवर्क चार क्रमिक चरणों के माध्यम से कार्य करता है:

1. पॉलिसी-ग्राउंडेड विफलता साक्ष्य निष्कर्षण

वर्तमान नीति $\pi_\theta$ के रोलआउट से, SPHINX एक प्रति-फ्रेम साक्ष्य डिस्क्रिप्टर $z_t$ निकालता है जिसमें चार पूरक अक्ष (axes) शामिल हैं:

• कॉन्सेप्ट-लेवल विजुअल ग्राउंडिंग ($\bar{M}_t$): एक व्याख्या योग्य AI (XAI) पद्धति (जैसे, CRAFT) का उपयोग करके, सिस्टम नीति के हिडन रिप्रेजेंटेशन को शीर्ष-$K$ विजुअल कॉन्सेप्ट्स (जैसे, फुटपाथ, सामने आती कारें) में विभाजित करता है और मॉडल कहाँ ध्यान केंद्रित करता है, यह पहचानने के लिए एट्रिब्यूशन मैप्स उत्पन्न करता है।
• सिमेंटिक ग्राउंडिंग मिसमैच ($\Gamma_t$): यह मीट्रिक कार्य-प्रासंगिक क्षेत्रों (जैसे, सड़क बनाम आकाश या इमारतें) के बाहर गिरने वाले एट्रिब्यूशन मास के अंश को मापता है, जो यह दर्शाता है कि क्या मॉडल अप्रासंगिक सामग्री पर ध्यान दे रहा है।
• प्रेडिक्टिव अनसर्टेन्टी ($U_t$): सिस्टम स्टोकैस्टिक फॉरवर्ड पासेज (जैसे, MC-dropout) का उपयोग करके कंट्रोल आउटपुट (स्टीयरिंग, थ्रॉटल, ब्रेकिंग) के लिए चैनल-वाइज प्रेडिक्टिव डिस्ट्रीब्यूशन का अनुमान लगाता है। उच्च एंट्रॉपी अनिश्चितता को दर्शाती है।
• टेम्पोरल कंट्रोल इंस्टेबिलिटी ($\Delta_t$): यह ऑसिलेशन, हिचकिचाहट या देर से प्रतिक्रिया का पता लगाने के लिए कंट्रोल सीक्वेंस के फाइनाइट डिफरेंस को मापता है।

इन संकेतों को एक फेलियर सैलिएंस स्कोर ($\rho_t$) में संलयित (fuse) किया जाता है ताकि विश्लेषण के लिए फ्रेम को प्राथमिकता दी जा सके।

2. मल्टीमॉडल टेम्पोरल क्रिटीक

उच्च-सैलिएंस वाले फ्रेम को टेम्पोरल विंडोज़ में समूहीकृत किया जाता है। एक VLM-आधारित क्रिटीक इन विंडोज़ का विश्लेषण करता है ताकि एक संरचित निदान (diagnosis) प्रस्तुत किया जा सके। क्रिटीक निम्नलिखित आउटपुट देता है:

• एक व्यवहार लेबल (जैसे, Reasonable, Hesitant, Unreasonable)।
• एक संरचित तर्क ($r_i$) जो विफलता तंत्र, प्रमुख विजुअल साक्ष्य, टेम्पोरल कंट्रोल पैटर्न और इंटरेक्शन की गंभीरता का विवरण देता है।
  इसके परिणामस्वरूप एक संक्षिप्त फेलियर डिस्क्रिप्टर ($\chi_i$) प्राप्त होता है जो अगले चरण के लिए कंडीशनिंग सिग्नल के रूप में कार्य करता है।

3. फेलियर-कंडीशनड सिनेरियो जनरेशन

एक LLM-आधारित प्लानर विफलता डिस्क्रिप्टर $\chi_i$ का उपयोग करके एक संरचित परिदृश्य योजना (सड़क विन्यास, एक्टर प्लेसमेंट, इंटरेक्शन टाइमिंग) प्रस्तावित करता है। एक नियतात्मक कंपाइलर (deterministic compiler) इस योजना को एक निष्पादन योग्य सिम्युलेटर स्क्रिप्ट (जैसे, Scenic/CARLA) में अनुवादित करता है।
महत्वपूर्ण रूप से, जनरेशन को निम्नलिखित द्वारा बाधित किया जाता है:

• व्यवहार्यता (Feasibility): परिदृश्य निष्पादन योग्य, भौतिक रूप से संभव और यातायात नियमों के अनुरूप होना चाहिए।
• विश्वसनीयता (Fidelity): जनरेट किया गया परिदृश्य $\chi_i$ में निदान किए गए विशिष्ट विफलता मोड को पुनरुत्पादित (reproduce) करना चाहिए (जैसे, यदि निदान "देरी से ब्रेकिंग" था, तो नया परिदृश्य जल्दी ब्रेकिंग की आवश्यकताओं पर जोर देना चाहिए)।
  सिस्टम यह सुनिश्चित करने के लिए एक वैलिडेट-एंड-रिपेयर लूप का उपयोग करता है कि जनरेट किए गए परिदृश्य केवल लॉस को अधिकतम करने के बजाय निदान की गई कमजोरी के साथ संरेखित हों।

4. क्लोज्ड-लूप पॉलिसी रिट्रेनिंग

सत्यापित परिदृश्यों को नए रोलआउट उत्पन्न करने के लिए निष्पादित किया जाता है, जिन्हें प्रशिक्षण डेटासेट में जोड़ा जाता है। AV नीति को उसके नेटिव प्रोटोकॉल (जैसे, बिहेवियर क्लोनिंग, इमिटेशन लर्निंग, या RL) का उपयोग करके पुन: प्रशिक्षित किया जाता है। इस अपडेटेड नीति का फिर से मूल्यांकन किया जाता है, जिससे नए साक्ष्य और विफलता डिस्क्रिप्टर उत्पन्न होते हैं, जिससे सुधार का चक्र पूरा होता है।

मुख्य योगदान

शोध पत्र तीन प्राथमिक योगदानों की पहचान करता है:

1. मॉडल-ग्राउंडेड फ्रेमवर्क: यह एक ऐसा फ्रेमवर्क पेश करता है जो जेनेरिक प्रायर्स के बजाय आंतरिक नीति साक्ष्य (कॉन्सेप्ट्स, अनसर्टेन्टी, टेम्पोरल पैटर्न) पर परिदृश्य संश्लेषण को आधारित करता है, जो फाउंडेशन मॉडल्स और विशिष्ट AV विफलताओं के बीच सिमेंटिक मिसअलाइनमेंट को संबोधित करता है।
2. यूनिफाइड फेलियर एनालिसिस पाइपलाइन: यह AV व्यवहार के संरचित, व्याख्या योग्य डायग्नोस्टिक्स उत्पन्न करने के लिए कॉन्सेप्ट-आधारित स्पष्टीकरण, अनसर्टेन्टी एस्टीमेशन और VLM-आधारित मल्टीमॉडल क्रिटीक को संयोजित करने वाली एक पाइपलाइन विकसित करता है।
3. पूर्ण क्लोज्ड-लूप सिस्टम: यह एक ऐसा सिस्टम प्रस्तावित करता है जहाँ विफलता-आधारित परिदृश्यों को प्रोग्रामेटिक रूप से स्थापित किया जाता है और रिट्रेनिंग के लिए उपयोग किया जाता है, जिससे लक्षित मजबूती (robustness) में सुधार होता है।

प्रयोगात्मक परिणाम

इस फ्रेमवर्क का मूल्यांकन चार विविध AV आर्किटेक्चर पर किया गया: DAVE-2 (एंड-टू-एंड CNN), MILE (BEV-आधारित इमिटेशन लर्निंग), TransFuser (ट्रांसफॉर्मर-आधारित मल्टी-मोडल), और RAP-ResNet (रोबस्ट प्लानिंग)।

• प्रदर्शन लाभ: SPHINX ने सभी मॉडल्स और परिदृश्य प्रकारों (जैसे, कट-इन, अचानक ब्रेक, गलत दिशा से आने वाला ड्राइवर) में बेसलाइन्स (ChatScene और LLM-Attacker) को लगातार पछाड़ दिया। रिट्रेनिंग के बाद SPHINX की सफलता दर अक्सर 85–99% तक पहुँच गई, जबकि बेसलाइन्स अक्सर 70% से नीचे रहे।
• सामान्यीकरण (Generalization): सुधार सरल और जटिल दोनों परिदृश्यों में देखे गए, जो इंगित करते हैं कि SPHINX केवल संकीर्ण मामलों के लिए ओवरफिट नहीं होता है, बल्कि व्यापक विफलता वितरण पर मजबूती में सुधार करता है।
• व्याख्या की सत्यता (Explanation Faithfulness): गुणात्मक और कारण संबंधी एब्लेशन अध्ययनों (स्पेशियल मास्किंग) ने पुष्टि की कि निकाले गए अटेंशन मैप्स और कॉन्सेप्ट हीटमैप्स निर्णय के लिए कारण संबंधी रूप से प्रासंगिक हैं। उच्च-अटेंशन क्षेत्रों को मास्क करने से स्टीयरिंग ट्रेजेक्टरीज काफी बदल गईं, जबकि कम-अटेंशन क्षेत्रों को मास्क करने का न्यूनतम प्रभाव पड़ा।
• विफलता सुधार: केस स्टडीज ने दिखाया कि SPHINX ने विशिष्ट विफलता मोड (जैसे, "हिचकिचाहट और देरी से बचाव प्रतिक्रिया") को लक्षित प्रशिक्षण डेटा में सफलतापूर्वक परिवर्तित किया। रिट्रेनिंग के बाद, पॉलिसियों ने जल्दी धीमा होना, नियंत्रित स्टीयरिंग और बैकग्राउंड संरचनाओं के बजाय सुरक्षा-महत्वपूर्ण एक्टर्स पर ध्यान केंद्रित करना प्रदर्शित किया।

महत्व और दावे

शोध पत्र का दावा है कि SPHINX स्वायत्त वाहनों की सुरक्षा में पैसिव डायग्नोस्टिक टूल्स से एक्टिव जेनेरेटिव कंपोनेंट्स की ओर एक बदलाव का प्रतिनिधित्व करता है। इसका महत्व इस प्रकार है:

• लक्षित मजबूती (Targeted Robustness): व्याख्या योग्य विफलता साक्ष्य में जनरेशन को ग्राउंड करके, SPHINX यह सुनिश्चित करता है कि जनरेट किए गए परिदृश्य परीक्षण की जा रही नीति की विशिष्ट कमजोरियों को सीधे संबोधित करें, न कि केवल संयोग या जेनेरिक विविधता पर निर्भर रहें।
• आर्किटेक्चर एगोस्टिक (Architecture Agnostic): यह फ्रेमवर्क मॉड्यूलर और "प्लग-एंड-प्ले" है, जो बिना किसी आर्किटेक्चरल धारणा के क्लासिकल CNN, हाइब्रिड मॉडल्स और आधुनिक ट्रांसफॉर्मर-आधारित सिस्टम पर प्रभावी ढंग से काम करता है।
• व्याख्यात्मकता (Interpretability): यह एक नीति के विफल होने का व्याख्या योग्य विवरण प्रदान करता है (जैसे, "अनिश्चितता" या "मल्टी-फ्रेम इनकंसिस्टेंसी") और इस व्याख्या का उपयोग परिदृश्य स्थान के अन्वेषण को संचालित करने के लिए करता है।

लेखक निष्कर्ष निकालते हैं कि यह "पहले व्याख्या करें, फिर अन्वेषण करें" प्रतिमान लक्षित रिट्रेनिंग के लिए एक संरचित मार्ग प्रदान करता है, जो अंततः लॉन्ग-टेल एज केसेस के विरुद्ध स्वायत्त प्रणालियों की मजबूती को बढ़ाता है। भविष्य के कार्य को जटिल मल्टी-एजेंट शहरी वातावरण में स्केल करने और ऑनलाइन सुरक्षा निगरानी के लिए रियल-टाइम व्याख्यात्मकता को एकीकृत करने पर केंद्रित बताया गया है।