TrafficAlign: Aligning Large Language Models for Traffic Scenario Generation

तकनीकी सारांश: TrafficAlign

समस्या विवरण

यद्यपि स्वायत्त ड्राइविंग (AD) प्रणालियों के परीक्षण के लिए यातायात परिदृश्यों (traffic scenarios) को उत्पन्न करने हेतु बड़े भाषा मॉडल (LLMs) का अन्वेषण किया गया है, वर्तमान दृष्टिकोण महत्वपूर्ण सीमाओं का सामना करते हैं। पूर्व-प्रशिक्षित (Pretrained) LLMs में अक्सर पर्याप्त डोमेन-विशिष्ट ज्ञान की कमी होती है, जिससे ऐसे सजातीय (homogeneous) परिदृश्य उत्पन्न होते हैं जो वास्तविक दुनिया के यातायात वितरण के साथ संरेखित होने में विफल रहते हैं, विशेष रूप से विशिष्ट भौगोलिक संदर्भों (जैसे, बड़े शहर बनाम पहाड़ी क्षेत्र) में। मौजूदा तरीके जो मैनुअल प्राकृतिक भाषा विवरणों पर निर्भर करते हैं, श्रम-साध्य हैं और स्केलेबल नहीं हैं, जबकि ChatScene जैसे स्वचालित दृष्टिकोण, जो सीधे LLMs को प्रॉम्प्ट करते हैं, सूक्ष्म और स्थान-विशिष्ट यातायात विशेषताओं को पकड़ने में संघर्ष करते हैं। फलस्वरूप, एक ऐसे स्वचालित ढांचे की आवश्यकता है जो वास्तविक, क्षेत्र-विशिष्ट यातायात परिदृश्यों को संश्लेषित कर सके और AD मॉडल के बेहतर परीक्षण और प्रशिक्षण के लिए LLMs को वास्तविक दुनिया के यातायात वितरणों के साथ संरेखित कर सके।

कार्यप्रणाली (Methodology)

यह शोध पत्र TrafficAlign का प्रस्ताव करता है, जो ड्राइविंग वीडियो से प्राप्त वास्तविक दुनिया के यातायात परिदृश्यों के साथ LLMs को संश्लेषित, सत्यापित और संरेखित करने के लिए डिज़ाइन किया गया एक स्वचालित ढांचा है। यह पाइपलाइन तीन प्राथमिक चरणों से मिलकर बनी है:

1. डेटा संश्लेषण (Data Synthesis)

TrafficAlign लक्षित क्षेत्रों के अंतर्निहित यातायात वितरण को कैप्चर करने के लिए प्राथमिक डेटा स्रोत के रूप में वास्तविक दुनिया के ड्राइविंग वीडियो का उपयोग करता है।

• वीडियो संग्रह: सिस्टम विभिन्न भौगोलिक क्षेत्रों को कवर करने वाले विविध ड्राइविंग वीडियो (जैसे, YouTube से) से फ्रेम सैंपल करता है, जिसमें महानगरीय क्षेत्र, राष्ट्रीय उद्यान, छोटे शहर और अंतर्राष्ट्रीय स्थान शामिल हैं।
• परिदृश्य निष्कर्षण (Scenario Extraction): चुनिंदा वीडियो फ्रेम का विश्लेषण करने के लिए एक मल्टीमॉडल LLM (विशेष रूप से GPT-4.1 nano) का उपयोग किया जाता है। एक कंपोजिशनल प्रॉम्प्ट रणनीति (जिसमें रोल-प्लेइंग, चेन-ऑफ-थॉट रीजनिंग और फ्यू-शॉट लर्निंग शामिल है) का उपयोग करते हुए, LLM यातायात परिदृश्य के प्राकृतिक भाषा विवरण उत्पन्न करता है। ये विवरण सड़क नेटवर्क, पर्यावरणीय संदर्भ (मौसम, समय), और सभी अभिनेताओं (ego vehicle, NPCs, पैदल यात्री) के व्यवहार/स्थिति को कवर करते हैं।

2. डेटा सत्यापन (Data Validation)

संश्लेषित डेटा की गुणवत्ता और वैधता सुनिश्चित करने के लिए, TrafficAlign एक कठोर सत्यापन लूप का उपयोग करता है:

• DSL अनुवाद: प्राकृतिक भाषा विवरणों को एक औपचारिक, डोमेन-विशिष्ट भाषा (DSL) प्रतिनिधित्व में अनुवादित किया जाता है। यह रूपांतरण एक विशिष्ट व्याकरण द्वारा निर्देशित, एक यातायात विशेषज्ञ (GPT-5) के रूप में कार्य करने वाले LLM द्वारा किया जाता है।
• सिंटैक्टिक और सिमेंटिक चेकिंग: सिस्टम यह सुनिश्चित करने के लिए सिंटैक्टिक जांच करता है कि DSL सुव्यवस्थित है। इसके बाद, यह सत्यापित करने के लिए सिमेंटिक सत्यापन करता है कि आवश्यक गुण (जैसे, समय, मौसम, अभिनेता व्यवहार) मौजूद हैं।
• स्व-सुधार (Self-Refinement): यदि कोई परिदृश्य चिकित्सकीय रूप से अपूर्ण लेकिन सुधार योग्य पाया जाता है, तो सिस्टम प्रॉम्प्ट में डायग्नोस्टिक संदेश जोड़ता है और परिदृश्य निष्कर्त्ता (scenario extractor) से विवरण को पुन: उत्पन्न करने का अनुरोध करता है। अप्रासंगिक फ्रेम (जैसे, शीर्षक या स्क्रीन) को हटा दिया जाता है।

3. LLM संरेखण (LLM Alignment)

सत्यापित होने के बाद, संश्लेषित परिदृश्य विवरणों का उपयोग LLM को वास्तविक दुनिया के यातायात वितरणों के साथ संरेखित करने के लिए किया जाता है।

• फाइन-ट्यूनिंग (Fine-Tuning): ढांचा एक जनरेटर मॉडल (Llama-3.2-3B-Instruct) पर प्रमाणित परिदृश्य विवरणों का उपयोग करके मानक सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) करता है।
• पैरामीटर-कुशल ट्यूनिंग (Parameter-Efficient Tuning): यह प्रक्रिया अटेंशन और MLP लेयर्स पर लागू लो-रैंक एडैप्टेशन (LoRA) का उपयोग करके मॉडल को कुशलतापूर्वक अनुकूलित करती है।
• आउटपुट: परिणामी संरेखित LLM को लक्षित क्षेत्र के वास्तविक दुनिया के यातायात वितरणों के साथ सांख्यिकीय रूप से सुसंगत यातायात परिदृश्य विवरण उत्पन्न करने के लिए प्रॉम्प्ट किया जा सकता है।

मुख्य योगदान

1. फ्रेमवर्क प्रस्ताव: TrafficAlign का परिचय, जो वास्तविक दुनिया के वीडियो से यातायात परिदृश्यों को संश्लेषित करने, DSL अनुवाद के माध्यम से उन्हें सत्यापित करने और इन वितरणों के साथ LLMs को संरेखित करने वाला एक स्वचालित पाइपलाइन है।
2. परीक्षण प्रभावशीलता: यह प्रदर्शन करना कि TrafficAlign द्वारा उत्पन्न परिदृश्य, अत्याधुनिक बेसलाइनों की तुलना में स्वायत्त ड्राइविंग मॉडल के स्ट्रेस-टेस्टिंग में काफी अधिक प्रभावी हैं।
3. प्रशिक्षण सुधार: यह प्रमाण कि TrafficAlign-जनित परिदृश्यों पर ड्राइविंग मॉडल को फाइन-ट्यून करने से उनकी सुरक्षा और मजबूती में महत्वपूर्ण वृद्धि होती है।
4. क्षेत्रीय संरेखण: एक गुणात्मक अध्ययन जो दिखाता है कि ढांचा भौगोलिक रूप से विविध क्षेत्रों में यातायात वितरणों को सफलतापूर्वक कैप्चर और रीप्लिकेट करता है।

प्रयोगात्मक परिणाम

लेखकों ने SafeBench प्लेटफॉर्म और CARLA सिम्युलेटर के भीतर तीन स्वायत्त ड्राइविंग मॉडल (PPO, SAC, TD3) का उपयोग करके पांच बेसलाइनों (ChatScene, एडवर्सरी-आधारित विधियों और नियम-आधारित विधियों सहित) और पांच अन-अलाइन्ड (unaligned) LLM बेसलाइनों के विरुद्ध TrafficAlign का मूल्यांकन किया।

• परीक्षण प्रभावशीलता: TrafficAlign-जनित परिदृश्यों ने सबसे मजबूत बेसलाइन (ChatScene) की तुलना में तीन ड्राइविंग मॉडल पर औसतन 10.8% अधिक टकराव (collisions) प्रकट किए। समग्र स्कोर के संदर्भ में, TrafficAlign ने 5.0% से 35.6% तक सापेक्ष कमी दिखाई, जो इंगित करता है कि यह अधिक चुनौतीपूर्ण और सुरक्षा-महत्वपूर्ण परिदृश्य उत्पन्न करता है।
• प्रशिक्षण सुधार: जब ड्राइविंग मॉडल को TrafficAlign-जनित परिदृश्यों पर फाइन-ट्यून किया गया, तो मूल, प्री-फाइन-ट्यून्ड मॉडलों की तुलना में टकराव की दर में 36.1% की कमी आई। यह सुधार ChatScene बेसलाइन से परिदृश्यों के साथ फाइन-ट्यूनिंग की तुलना में बेहतर था, जिसने टकराव की दरों में कम कमी दिखाई।
• वितरण संरेखण (Distribution Alignment): परिदृश्य एम्बेडिंग्स के UMAP विज़ुअलाइज़ेशन का उपयोग करके गुणात्मक विश्लेषण ने प्रदर्शित किया कि TrafficAlign-जनित परिदृश्य वास्तविक दुनिया के क्लस्टर्स के साथ काफी हद तक सह-स्थित (co-locate) और ओवरलैप होते हैं। इसके विपरीत, अन-अलाइन्ड LLM बेसलाइन न्यूनतम ओवरलैप के साथ स्पष्ट, विस्थापित क्लस्टर बनाते हैं।

महत्व और दावे

शोध पत्र का दावा है कि TrafficAlign सामान्य LLM ज्ञान और विशिष्ट, वास्तविक दुनिया के यातायात वितरणों के बीच महत्वपूर्ण अंतर को संबोधित करता है। वीडियो से परिदृश्यों को स्वचालित रूप से निकालने और सत्यापन लूप के माध्यम से LLMs को संरेखित करके, यह ढांचा सक्षम बनाता है:

• अधिक कठोर परीक्षण: विविध, क्षेत्र-विशिष्ट परिदृश्य उत्पन्न करने की क्षमता जो वर्तमान विधियों की तुलना में AD मॉडल में सुरक्षा कमजोरियों को अधिक प्रभावी ढंग से उजागर करती है।
• लक्षित मॉडल सुधार: इन वास्तविक परिदृश्यों का उपयोग करके AD मॉडल को फाइन-ट्यून करने की क्षमता, जिसके परिणामस्वरूप टकराव की दरों में पर्याप्त कमी और समग्र ड्राइविंग प्रदर्शन में सुधार होता है।
• स्केलेबिलिटी: श्रम-साध्य मैनुअल परिदृश्य डिजाइन से हटकर एक स्वचालित, डेटा-संचालित दृष्टिकोण की ओर बढ़ना जो विभिन्न भौगोलिक संदर्भों के अनुकूल हो सकता है।

लेखक निष्कर्ष निकालते हैं कि TrafficAlign यातायात-सुरक्षा परिदृश्य बेंचमार्क के स्वचालित निर्माण को सुगम बनाता है, जो स्वायत्त ड्राइविंग प्रणालियों के निरंतर परीक्षण और लक्षित सुधार के लिए एक मार्ग प्रदान करता है।