🤖 AI

Mixture of Horizons in Action Chunking

यह शोध पत्र 'मिक्सचर ऑफ होराइजन्स' (MoH) का प्रस्ताव करता है, जो एक प्लग-एंड-प्ले रणनीति है जो एक्शन चंक्स को विभिन्न क्षितिजों (horizons) वाले खंडों में पुनर्व्यवस्थित करती है ताकि दीर्घकालिक दूरदर्शिता और अल्पकालिक सटीकता को एक साथ अनुकूलित किया जा सके, जिससे विजन-लैंग्वेज-एक्शन मॉडलों में निहित अंतर्निहित ट्रेड-ऑफ पर विजय प्राप्त की जा सके और गतिशील अनुमान क्षमताओं के साथ अत्याधुनिक प्रदर्शन प्राप्त किया जा सके।

मूल लेखक: Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

प्रकाशित 2026-06-01

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य समस्या: "ज़ूम लेंस" की दुविधा (The "Zoom Lens" Dilemma)

कल्पना कीजिए कि आप कार चला रहे हैं। सुरक्षित रूप से गाड़ी चलाने के लिए, आपको एक ही समय में दो चीजों की आवश्यकता होती है:

दीर्घकालिक दूरदर्शिता (Long-term foresight): आपको सड़क में आगे की ओर देखना होगा ताकि आप देख सकें कि मोड़ आने वाला है और आप जल्दी मुड़ना शुरू कर सकें।
अल्पकालिक सटीकता (Short-term precision): आपको डैशबोर्ड और अपने बंपर के ठीक सामने वाली सड़क को करीब से देखना होगा ताकि आप किसी गड्ढे या गिलहरी से टकराने से बच सकें।

यह शोध पत्र तर्क देता है कि वर्तमान रोबोटिक मस्तिष्क (जिन्हें विज़न-लैंग्वेज-एक्शन मॉडल कहा जाता है) एक साथ दोनों काम करने में कठिनाई महसूस करते हैं। उन्हें एक "ज़ूम लेवल" चुनने के लिए मजबूर किया जाता है (जिसे लेखक होराइजन/क्षितिज (Horizon) कहते हैं):

यदि वे ज़ूम आउट करते हैं (Long Horizon): वे जटिल, बहु-चरणीय कार्यों (जैसे "रसोई में जाओ, फ्रिज खोलो, और दूध निकालो") की योजना बनाने में बहुत अच्छे होते हैं। लेकिन, वे छोटी, तत्काल गतिविधियों के साथ अनाड़ी हो जाते हैं। वे चीजों से टकरा सकते हैं क्योंकि वे विवरणों को करीब से नहीं देख रहे होते हैं।
यदि वे ज़ूम इन करते हैं (Short Horizon): वे तत्काल गतिविधियों के साथ बहुत सटीक होते हैं। लेकिन, वे बड़ी तस्वीर को लेकर भ्रमित हो जाते हैं। वे शायद दूध तो उठा लें लेकिन पहले फ्रिज खोलना भूल जाएं, या चरणों के एक लंबे क्रम में खो जाएं।

पहले, इंजीनियरों को पूरे रोबोट के लिए एक ही ज़ूम लेवल चुनना पड़ता था। यदि उन्होंने गलत वाला चुना, तो रोबोट कुछ कार्यों में विफल हो जाता था।

समाधान: "मिक्सचर ऑफ होराइजन्स" (MoH)

लेखक एक चतुर समाधान प्रस्तावित करते हैं जिसे मिक्सचर ऑफ होराइजन्स (Mixture of Horizons - MoH) कहा जाता है। रोबोट को केवल एक ही ज़ूम लेवल चुनने के लिए मजबूर करने के बजाय, वे रोबोट को एक ही समय में कई ज़ूम लेवल्स का उपयोग करने की अनुमति देते हैं।

इसे तीन विशेषज्ञों की एक टीम की तरह समझें जो रोबोट के पास खड़े हैं, सभी एक ही दृश्य को देख रहे हैं लेकिन अलग-अलग लेंस के साथ:

विशेषज्ञ A 10 कदम आगे देख रहा है (अल्पकालिक)।
विशेषज्ञ B 20 कदम आगे देख रहा है (मध्यम-कालिक)।
विशेषज्ञ C 30 कदम आगे देख रहा है (दीर्घकालिक)।

रोबोट का मस्तिष्क ("एक्शन ट्रांसफार्मर") एक साथ तीनों विशेषज्ञों से सलाह मांगता है। फिर, एक छोटा, स्मार्ट "गेटकीपर" (एक सरल लीनियर लेयर) तीनों की बात सुनता है और निर्णय लेता है: "इस विशिष्ट क्षण के लिए, स्टीयरिंग घुमाने के लिए विशेषज्ञ A की सलाह सबसे अच्छी है, लेकिन यह जानने के लिए कि आगे कहाँ गाड़ी चलानी है, विशेषज्ञ C की सलाह सबसे अच्छी है।"

रोबोट फिर इन मतों को एक एकल, सटीक क्रिया (action) में मिला देता है।

यह व्यवहार में कैसे काम करता है

समानांतर प्रसंस्करण (Parallel Processing): रोबोट को तीन अलग-अलग दिमाग चलाने की आवश्यकता नहीं है। यह एक ही दिमाग चलाता है जो तीनों "ज़ूम लेवल्स" को बिल्कुल एक ही समय में प्रोसेस करता है। यह बहुत तेज़ है और रोबोट को धीमा नहीं करता है।
गेटकीपर (The Gatekeeper): यह एक छोटा, हल्का घटक है (केवल 2,000 अतिरिक्त पैरामीटर्स) जो सलाह को मिलाना सीखता है। यह सीख जाता है कि "लंबे, घुमावदार रास्ते" के लिए, इसे दीर्घकालिक विशेषज्ञ पर अधिक भरोसा करना चाहिए। "तंग जगह" के लिए, इसे अल्पकालिक विशेषज्ञ पर अधिक भरोसा करना चाहिए।
डायनामिक इन्फरेंस (Dynamic Inference - "स्व-सुधार" विशेषता):
- यह पेपर एक शानदार तकनीक पेश करता है जहाँ रोबंतु यह जाँचता है कि क्या सभी विशेषज्ञ सहमत हैं।
- यदि विशेषज्ञ अगले 10 कदमों पर सहमत हैं, तो रोबोट आत्मविश्वास के साथ उन सभी 10 कदमों को एक साथ पूरा करता है (तेजी से चलते हुए)।
- यदि विशेषज्ञ असहमत होने लगते हैं (शायद रोबोट किसी कठिन निर्णय बिंदु के करीब पहुँच रहा है), तो रोबोट जल्दी रुक जाता है, पुनर्मूल्यांकन करता है, और फिर से योजना बनाता है।
- उपमा: कल्पना कीजिए कि आप जंगल में चल रहे हैं। यदि रास्ता सीधा और साफ है, तो आप लंबे कदम उठाते हैं। यदि आप किसी मोड़ या झाड़ियों से टकराते हैं, तो आप रुक जाते हैं, चारों ओर देखते हैं, और छोटे, सावधान कदम उठाते हैं। रोबोट यह स्वचालित रूप से करता है, जिससे वह तेज़ और सुरक्षित दोनों बनता है।

परिणाम: यह क्यों महत्वपूर्ण है

लेखकों ने तौलिया मोड़ने, दूध डालने और ब्लॉक रखने जैसे कार्यों के लिए रोबोट का परीक्षण किया।

हर चीज़ में बेहतर: रोबोट लघु, सटीक कार्यों (जैसे दूध गिराए बिना डालना) और लंबे, जटिल कार्यों (जैसे पेन को दराज में रखना और उसे बंद करना) दोनों में बेहतर हो गया।
कोई समझौता नहीं (No Trade-off): इसने "ज़ूम लेंस" की दुविधा को हल कर दिया। रोबोट को अब योजना बनाने के लिए सटीकता का, या सटीकता के लिए योजना बनाने का त्याग करने की आवश्यकता नहीं थी।
गति: क्योंकि रोबोट आत्मविश्वास होने पर लंबे कदम उठा सकता है, इसलिए इसने बिना अधिक गलतियाँ किए पिछले तरीकों की तुलना में 2.5 गुना तेजी से कार्य पूरे किए।
प्लग-एंड-प्ले: इस पद्धति को किसी भी मौजूदा रोबोटिक मस्तिष्क में बिना पूरे सिस्टम को फिर से बनाए बिना जोड़ा जा सकता है।

सारांश

यह पेपर रोबोट को "मल्टी-लेंस" दृष्टि देने का एक तरीका पेश करता है। उन्हें बड़ी तस्वीर देखने या सूक्ष्म विवरण देखने में से किसी एक को चुनने के लिए मजबूर करने के बजाय, रोबोट दोनों का एक साथ उपयोग करता है। एक स्मार्ट "मिक्सर" इन दृश्यों को मिलाता है ताकि ऐसे निर्णय लिए जा सकें जो भविष्योन्मुखी (forward-thinking) और सटीक दोनों हों, जिससे रोबोट वास्तविक दुनिया में तेज़ और स्मार्ट तरीके से चल सके।

तकनीकी सारांश: एक्शन चंकिंग में हॉरिज़न्स का मिश्रण (Mixture of Horizons in Action Chunking)

1. समस्या विवरण (Problem Statement)

विज़न-लैंग्वेज-एक्शन (VLA) मॉडलों ने विज़ुअल ऑब्जर्वेशन और लैंग्वेज इंस्ट्रक्शन के आधार पर भविष्य के एक्शन सीक्वेंस (एक्शन चंक्स) की भविष्यवाणी करके जटिल रोबोटिक कार्यों को निष्पादित करने में उल्लेखनीय क्षमता प्रदर्शित की है। इन मॉडलों में एक महत्वपूर्ण डिज़ाइन विकल्प एक्शन चंक की लंबाई, या हॉरिजन ( $H$ ) है।

यह शोध पत्र एक एकल, निश्चित हॉरिजन चुनने में निहित अंतर्नि臓 ट्रेड-ऑफ (trade-off) की पहचान करता है:

लॉन्ग हॉरिज़न्स (Long Horizons): ये दीर्घकालिक योजना (long-term planning) और दूरदर्शिता में सुधार करते हैं, जिससे विस्तारित ट्राजेक्टरी वाले कार्यों (जैसे मल्टी-स्टेप मैनिपुलेशन) पर बेहतर प्रदर्शन मिलता है। हालांकि, वे अक्सर सूक्ष्म स्थानीय नियंत्रण (fine-grained local control) और तत्काल मोटर सटीकता को कम कर देते हैं।
शॉर्ट हॉरिज़न्स (Short Horizons): ये सटीक, उच्च-आवृत्ति (high-frequency) नियंत्रण सक्षम करते हैं और शॉर्ट-हॉरिजन कार्यों पर उच्च सफलता दर प्रदान करते हैं। हालांकि, इनमें जटिल, लॉन्ग-हॉरिजन प्लानिंग के लिए आवश्यक वैश्विक संदर्भ (global context) की कमी होती है।

मौजूदा दृष्टिकोण आमतौर पर एक हेयुरिस्टिक (heuristic) के आधार पर चुने गए एक निश्चित हॉरिजन पर निर्भर करते हैं, जो सामान्यीकरण (generalization) पर एक बाधा उत्पन्न करता है। एक एकल हॉरिजन एक साथ दीर्घकालिक दूरदर्शिता और अल्पकालिक सटीकता दोनों को अनुकूलित नहीं कर सकता, जिससे विविध कार्य समूहों (task suites) के बीच मॉडल की अनुकूलन क्षमता सीमित हो जाती है।

2. कार्यप्रणाली: हॉरिज़न्स का मिश्रण (Methodology: Mixture of Horizons - MoH)

इस ट्रेड-ऑफ को कम करने के लिए, लेखक Mixture of Horizons (MoH) का प्रस्ताव करते हैं, जो एक प्लग-एंड-प्ले रणनीति है जो एक ही मॉडल के भीतर कई एक्शन हॉरिज़न्स को एकीकृत करती है।

मुख्य आर्किटेक्चर (Core Architecture)

MoH एक मानक एक्शन चंक (लंबाई $H$ ) को विभिन्न हॉरिज़न्स $\mathcal{H} = \{h_1, \dots, h_N\}$ (जहाँ $h_N = H$ ) के साथ कई खंडों में पुनर्गठित करता है।

समानांतर प्रसंस्करण (Parallel Processing): मॉडल इन ट्रंकेटेड चंक्स को एक साझा एक्शन ट्रांसफार्मर (shared action transformer) का उपयोग करके समानांतर में प्रोसेस करता है। कम्प्यूटेशनल दक्षता सुनिश्चित करने के लिए, चंक्स को लंबाई $H$ तक पैड किया जाता है और हॉरिजन-विशिष्ट अटेंशन मास्क के साथ प्रोसेस किया जाता है जो $k > h$ वाले पदों को अमान्य कर देता है। विज़न-लैंग्वेज मॉडल (VLM) बैकबोन को केवल एक बार कंप्यूट किया जाता है, और हल्का एक्शन ट्रांसफार्मर नगण्य ओवरहेड के साथ समानांतर हॉरिज़न्स को संभालता है।
गेटेड फ्यूजन (Gated Fusion): एक हल्का लीनियर गेटिंग हेड (केवल ~2k पैरामीटर जोड़ता है) विभिन्न हॉरिज़न्स के प्रेडिक्शंस को फ्यूज करता है। प्रत्येक टाइमस्टेप $k$ के लिए, गेट वैध हॉरिज़न्स ( $k \le h$ ) के लिए वेट्स $\alpha_{t,k,h}$ की गणना करता है और एक अंतिम फ्यूज्ड प्रेडिक्शन उत्पन्न करता है:
$\hat{a}_{t,k} = \sum_{h \in \mathcal{H}: k \le h} \alpha_{t,k,h} \hat{a}^{(h)}_{t,k}$
ट्रेनिंग ऑब्जेक्टिव (Training Objective): कुल लॉस (loss) फ्यूज्ड प्रेडिक्शंस पर लॉस ( $L_{mix}$ ), व्यक्तिगत हॉरिजन प्रेडिक्शंस के लॉस के योग ( $L_{ind}$ ), और एक बैलेंस लॉस ( $L_{bal}$ ) को जोड़ता है। बैलेंस लॉस, जो मिक्सचर-ऑफ-एक्सपर्ट्स लिटरेचर से प्रेरित है, गेटिंग नेटवर्क को सभी हॉरिज़न्स का समान रूप से उपयोग करने के लिए प्रोत्साहित करता है, जिससे मॉडल को किसी एक पसंदीदा हॉरिजन की ओर ढहने (collapse) से रोका जा सके।

क्रॉस-हॉरिजन कंसेंसस के माध्यम से डायनेमिक इन्फरेंस (Dynamic Inference via Cross-Horizon Consensus)

MoH एक डायनेमिक इन्फरेंस स्कीम को सक्षम करता है जो प्रेडिक्शन कॉन्फिडेंस के आधार पर निष्पादन लंबाई (execution length) को अनुकूलित करता है:

मैकेनिज्म (Mechanism): प्रत्येक टाइमस्टेप पर, मॉडल विभिन्न हॉरिज़न्स से प्राप्त प्रेडिक्शंस को "वोटर्स" के रूप में मानता है। यह फ्यूज्ड एक्शन और हॉरिजन-विशिष्ट एक्शन के बीच असहमति (जैसे, $\ell_1$ डिस्टेंस) की गणना करता है।
सेल्फ-ट्रंकेशन (Self-Truncation): सिस्टम एक्शन चंक के एक प्रीफिक्स को तब तक निष्पादित करता है जब तक कि असहमति डेटा-डिपेंडेंट थ्रेशोल्ड (पहले $n$ स्टेप्स से प्राप्त) से नीचे रहती है और पर्याप्त संख्या में हॉरिज़न्स सक्रिय रहते हैं।
लाभ (Benefit): यह रोबोट को सुचारू, कम जोखिम वाले मोशन (उच्च कंसेंसस) के दौरान लंबे एक्शन सीक्वेंस निष्पादित करने और महत्वपूर्ण निर्णय बिंदुओं या सूक्ष्म मैनिपुलेशन (कम कंसेंसस) के दौरान अधिक बार रीप्लान करने की अनुमति देता है, जिससे स्थिरता और थ्रूपुट दोनों में सुधार होता है।

3. प्रमुख योगदान (Key Contributions)

व्यवस्थित विश्लेषण (Systematic Analysis): यह शोध पत्र एक व्यवस्थित अध्ययन प्रदान करता है जो VLA एक्शन चंकिंग में दीर्घकालिक दूरदर्शिता और अल्पकालिक सटीकता के बीच मौलिक ट्रेड-ऑफ को प्रकट करता है, यह प्रदर्शित करते हुए कि निश्चित हॉरिजन विभिन्न प्रकार के कार्यों के लिए उप-इष्टतम (suboptimal) प्रदर्शन की ओर ले जाते हैं।
MoH रणनीति (MoH Strategy): यह कई हॉरिज़न्स को फ्यूज करने के लिए एक यूनिवर्सल, लो-ओवरहेड विधि पेश करता है। MoH फ्लो-मैचिंग पॉलिसी (जैसे $\pi_0, \pi_0.5$ ) और वन-स्टेप रिग्रेशन/क्लासिफिकेशन पॉलिसी दोनों के साथ संगत है, जिसके लिए न्यूनतम आर्किटेक्चरल बदलावों की आवश्यकता होती है।
डायनेमिक इन्फरेंस (Dynamic Inference): लेखक एक कंसेंसस-आधारित डायनेमिक इन्फरेंस मैकेनिज्म प्रस्तावित करते हैं जो निष्पादन स्थिरता और दक्षता में सुधार करता है, जो बेसलाइन्स की तुलना में $2.5\times$ अधिक थ्रूपुट प्राप्त करते हुए सफलता दर को बनाए रखता है या सुधारता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने कई बेंचमार्क पर फ्लो-बेस्ड मॉडल्स ( $\pi_0, \pi_0.5, \text{StarVLA}$ ) और एक रिग्रेशन-बेस्ड मॉडल ( $\pi_{reg}$ ) पर MoH का मूल्यांकन किया:

LIBERO बेंचमार्क: MoH ने सभी चार टास्क सूट्स (Spatial, Object, Goal, Long) में लगातार प्रदर्शन में सुधार किया। विशेष रूप से, MoH के साथ $\pi_0.5$ ने केवल 30k इटरेशन के बाद 99% औसत सफलता दर प्राप्त की, जो इस बेंचमार्क पर एक नया स्टेट-ऑफ-द-आर्ट स्थापित करता है। इसने प्रभावी रूप से ट्रेड-ऑफ को कम किया, शॉर्ट-हॉरिजन प्रदर्शन से समझौता किए बिना लॉन्ग-हॉरिजन कार्यों (जैसे $\pi_0$ के लिए Long suite पर +3.2%) में सुधार किया।
RoboTwin 2.0: MoH ने "ईजी" (इन-डोमेन) और "हार्ड" (डोमेन-रैंडमाइज्ड) दोनों सेटिंग्स में सफलता दर में सुधार किया, जो बढ़ी हुई मजबूती और सामान्यीकरण को प्रदर्शित करता है।
RoboCasa: कम संतृप्त (less saturated), विविध घरेलू वातावरणों में, MoH ने बेसलाइन GR00T मॉडल पर निरंतर लाभ (औसत +3.4%) दिया।
रियल-वर्ल्ड प्रयोग (Real-World Experiments): एक 7-DoF मैनिपुलेटर पर तैनात, MoH ने शॉर्ट-हॉरिजन ऑब्जेक्ट प्लेसमेंट से लेकर लॉन्ग-हॉरिजन ड्रॉर क्लोजिंग और फाइन-ग्रेन्ड डिफॉर्मेबल मैनिपुलेशन (तौलिया फोल्डिंग) तक के कार्यों में निरंतर लाभ दिखाया।
एब्लेशन स्टडीज (Ablation Studies):
- हॉरिजन डेंसिटी (Horizon Density): एक मध्यम घनत्व वाला हॉरिज़न्स का सेट (जैसे, स्ट्राइड $d=3$ ) इष्टतम प्रदर्शन प्रदान करता है, जो लाभ और कम्प्यूटेशनल लागत के बीच संतुलन बनाता है।
- विविधता बनाम एन्सेम्बल (Diversity vs. Ensemble): लाभ हॉरिजन विविधता के कारण थे, न कि एक जेनेरिक एन्सेम्बल प्रभाव के कारण; समान हॉरिज़न्स का उपयोग करने से नगण्य सुधार हुआ।
- गेटिंग (Gating): लर्नबल गेटेड फ्यूजन ने सरल यूनिफॉर्म एवरेजिंग से बेहतर प्रदर्शन किया, और बैलेंस लॉस गेट कोलैप्स को रोकने के लिए महत्वपूर्ण था।

5. महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि MoH वर्तमान VLA आर्किटेक्चर की एक महत्वपूर्ण सीमा का एक सिद्धांतिक समाधान प्रदान करता है: दीर्घकालिक योजना और अल्पकालिक नियंत्रण शुद्धता (control fidelity) दोनों को एक साथ अनुकूलित करने में असमर्थता।

प्लग-एंड-प्ले दक्षता (Plug-and-Play Efficiency): यह विधि कम्प्यूटेशनल रूप से कुशल है, जो हल्के वजन वाले एक्शन ट्रांसफार्मर और साझा पैरामीटर्स के उपयोग के कारण न्यूनतम प्रशिक्षण और इन्फरेंस ओवरहेड पेश करती है।
सामान्यीकरण क्षमता (Generalizability): MoH किसी विशिष्ट पॉलिसी टाइप (फ्लो-मैचिंग या रिग्रेशन) या बैकबोन से बंधा नहीं है, जो इसे व्यापक रूप से VLA समुदाय के लिए लागू करने योग्य बनाता है।
डायनेमिक अनुकूलनशीलता (Dynamic Adaptability): क्रॉस-हॉरिजन कंसेंसस को सक्षम करके, MoH एडेप्टिव क्लोज्ड-लूप कंट्रोल की सुविधा देता है, जिससे रोबोट को कार्य की अनिश्चितता और जटिलता के आधार पर अपने प्लानिंग हॉरिजन को गतिशील रूप से समायोजित करने की अनुमति मिलती है।

लेखक इस बात पर जोर देते हैं कि जबकि MoH एक्शन प्रेडिक्शन और निष्पादन स्थिरता में महत्वपूर्ण सुधार करता है, यह सीधे तौर पर विज़ुअल परसेप्शन या इंस्ट्रक्शन फॉलोइंग की सीमाओं को संबोधित नहीं करता है, जो VLA मॉडल्स के लिए अलग चुनौतियाँ बनी हुई हैं। यह कार्य MoH को अधिक मजबूत और स्केलेबल एम्बॉडीड AI सिस्टम की ओर एक मौलिक कदम के रूप में स्थापित करता है।