🤖 AI

AttenA+: Rectifying Action Inequality in Robotic Foundation Models

AttenA+ एक प्लग-एंड-प्ले फ्रेमवर्क है जो प्रशिक्षण के दौरान गतिज रूप से महत्वपूर्ण, कम-वेग वाले खंडों को प्राथमिकता देने के लिए वेग-संचालित एक्शन अटेंशन (velocity-driven action attention) पेश करके रोबोटिक फाउंडेशन मॉडल्स को उन्नत करता है, जिससे बिना किसी अतिरिक्त पैरामीटर या संरचनात्मक संशोधनों के जटिल हेरफेर कार्यों पर प्रदर्शन में उल्लेखनीय सुधार होता है।

मूल लेखक: Daojie Peng, Fulong Ma, Jiahang Cao, Qiang Zhang, Xupeng Xie, Jian Guo, Ping Luo, Andrew F. Luo, Boyu Zhou, Jun Ma

प्रकाशित 2026-05-14

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Daojie Peng, Fulong Ma, Jiahang Cao, Qiang Zhang, Xupeng Xie, Jian Guo, Ping Luo, Andrew F. Luo, Boyu Zhou, Jun Ma

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक नाजुक काम करना सिखा रहे हैं, जैसे कि एक नाजुक अंडे को उठाना और उसे एक कटोरे में रखना।

वर्तमान में, अधिकांश रोबोट "मस्तिष्क" (जिन्हें फाउंडेशन मॉडल्स कहा जाता है) को एक ऐसे तरीके से प्रशिक्षित किया जाता है जो रोबोट द्वारा किए जाने वाले प्रत्येक आंदोलन को समान रूप से महत्वपूर्ण मानता है। यह एक संगीत शिक्षक की तरह है जो अपने छात्र के वार्म-अप स्केल्स को उतना ही ध्यान देता है जितना कि उसके सबसे कठिन, उच्च-गति वाले सोलो को। रोबोट खाली स्थान में अपने हाथ को तेजी से चलाने (वार्म-अप) को उतना ही महत्व देता है जितना कि अंडे को धीरे से नीचे रखने (सोलो) को।

समस्या क्या है? रोबोट अपने मस्तिष्क की शक्ति उन आसान, तेज़ आंदोलनों पर बर्बाद करता है और इसलिए धीरे-धीरे सटीक आंदोलनों को ठीक से नहीं सीख पाता है। यही कारण है कि रोबोट अक्सर कार्य के बिल्कुल अंतिम क्षण में विफल हो जाते हैं—वे अंडे को कटोरे तक तो ले जा सकते हैं, लेकिन वे उसे गिरा देते हैं क्योंकि उन्होंने "धीमे और स्थिर" वाले हिस्से का पर्याप्त अभ्यास नहीं किया था।

एटेनए+ (AttenA+): द "स्पीड-सेंसिटिव" टीचर

इस शोध पत्र के लेखक, AttenA+, एक सरल लेकिन शक्तिशाली समाधान प्रस्तावित करते हैं: रोबोट को तब अधिक ध्यान देने के लिए सिखाएं जब वह धीरे चल रहा हो।

यह कैसे काम करता है, इसके कुछ उदाहरण यहाँ दिए गए हैं:

1. सीखने का "ट्रैफिक लाइट" सिस्टम

रोबोट के प्रशिक्षण डेटा को एक लंबे हाईवे की तरह समझें।

उच्च गति (तेज ट्रैफिक): जब रोबोट तेजी से चल रहा होता है (जैसे खाली हाईवे पर गाड़ी चलाना), तो छोटी गलतियाँ मायने नहीं रखतीं। यदि वह थोड़ा सा भटक भी जाए, तो भी ठीक है। पुराने प्रशिक्षण तरीके में, रोबोट इन तेज़ क्षणों को भी धीमी गति वाले क्षणों की तरह ही गहराई से पढ़ता था।
कम गति (धीमा ट्रैफिक): जब रोबोट धीमा हो जाता है (जैसे स्टॉप साइन या पैदल यात्री के पास पहुँचते समय), तो हर मिलीमीटर मायने रखता है। यहाँ एक छोटी सी त्रुटि भी दुर्घटना का कारण बन सकती है।

AttenA+ रोबोट के सीखने के लिए एक स्मार्ट ट्रैफिक लाइट सिस्टम की तरह काम करता है। यह रोबोट की गति को देखता है और कहता है: "हे, तुम तेज़ चल रहे हो? यह आसान है, इसे बस ऊपर से देख लो। लेकिन देखो, तुम अभी बहुत धीरे चल रहे हो! यह वह महत्वपूर्ण क्षण है जहाँ तुम अंडा गिरा सकते हो। आइए, इस हिस्से को 10 गुना अधिक ध्यान से और गहराई से पढ़ें।"

2. "प्लग-एंड-प्ले" लेंस

AttenA+ की सबसे अच्छी बातों में से एक यह है कि इसके लिए रोबोट के मस्तिष्क को फिर से बनाने की आवश्यकता नहीं है।

कल्पना कीजिए कि आपके पास एक हाई-एंड कैमरा है। बेहतर फोटो लेने के लिए आपको नया कैमरा खरीदने की ज़रूरत नहीं है; आपको बस एक विशेष लेंस फिल्टर लगाने की आवश्यकता है।
AttenA+ वही फिल्टर है। इसे लगभग किसी भी मौजूदा रोबोट मॉडल (चाहे वह "डिस्क्रिमिनेटिव" मॉडल हो जो अगले कदम की भविष्यवाणी करता है, या "जेनरेटिव" मॉडल जो एक पूरा प्लान बनाता है) के साथ जोड़ा जा सकता है, बिना मूल हार्डवेयर या सॉफ्टवेयर को बदले। यह बस रोबोट द्वारा सीखे जाने वाले पाठों के भार (वेट्स) को बदल देता है।

3. परिणाम: "अच्छे" से "बेहतरीन" तक

शोधकर्ताओं ने दो प्रमुख रोबोट "परीक्षा बोर्डों" (LIBERO और RoboTwin नामक डेटासेट) पर और लैब में एक वास्तविक रोबोट आर्म पर इसका परीक्षण किया।

परीक्षा के परिणाम: AttenA+ से पहले, सर्वश्रेष्ठ रोबोट मॉडल इन परीक्षणों में लगभग 97% से 98% अंक प्राप्त कर रहे थे। AttenA+ के साथ, वे 98.6% और कठिन परीक्षणों पर 92.4% तक पहुँच गए।
वास्तविक दुनिया: जब उन्होंने इसे एक वास्तविक फ्रैंका (Franka) रोबोट आर्म पर आजमाया, तो रोबोट कठिन हिस्सों में बहुत बेहतर हो गया। उदाहरण के लिए, कई वस्तुओं को हिलाने वाले कार्य में, सफलता दर 90% से बढ़कर 98% हो गई।

कमी (सीमाएं)

लेखक ईमानदार हैं कि यह "स्पीड-सेंसिंग" तकनीक कहाँ काम नहीं कर सकती:

तेज़ होना कभी-कभी महत्वपूर्ण होता है: यह तरीका यह मान लेता है कि "धीमा = महत्वपूर्ण"। लेकिन क्या होगा यदि कार्य एक बेसबॉल पकड़ना हो? इस मामले में, तेज़ गति वाला हिस्सा ही महत्वपूर्ण होगा। AttenA+ भ्रमित हो सकता है क्योंकि यह प्राथमिकता देने के लिए धीमी गति वाले आंदोलनों की तलाश करता है।
यह केवल गति को देखता है: रोबोट वर्तमान में केवल यह देखता है कि वह कितनी तेजी से चल रहा है। वह अभी तक यह "महसूस" नहीं कर सकता कि वह कितना दबाव (फोर्स) डाल रहा है या कितना घुमाव (टॉर्क) दे रहा है, जो कुछ कार्यों के लिए महत्वपूर्ण हो सकता है।

मुख्य निष्कर्ष

AttenA+ रोबोट को प्रशिक्षित करने का एक नया तरीका है जो सभी आंदोलनों को समान मानने से रोकता है। यह समझते हुए कि धीमी गति का अर्थ आमतौर पर "यह कठिन हिस्सा है" होता है, रोबोट अपनी सीखने की ऊर्जा ठीक वहीं केंद्रित करता है जहाँ इसकी सबसे अधिक आवश्यकता होती है। यह दृष्टिकोण में एक सरल बदलाव है जो रोबोटों को उन नाजुक और सटीक कार्यों में काफी अधिक विश्वसनीय बनाता है जिन्होंने उन्हें अब तक पीछे रखा हुआ था।

तकनीकी सारांश: रोबोटिक फाउंडेशन मॉडल्स में AttenA+ द्वारा एक्शन इनइक्वेलिटी (Action Inequality) का सुधार

1. समस्या विवरण: "फ्लैट" ट्रेनिंग बायस (The "Flat" Training Bias)

वर्तमान रोबोटिक फाउंडेशन मॉडल्स, जिनमें विजन-लैंग्वेज-एक्शन (VLA) और वर्ल्ड-एक्शन मॉडल्स (WAM) शामिल हैं, एंड-टू-एंड कंट्रोल में महत्वपूर्ण सफलता प्राप्त कर चुके हैं। हालांकि, लेखक उनके प्रशिक्षण प्रतिमानों (training paradigms) में एक मौलिक मिसअलाइनमेंट की पहचान करते हैं: टेम्पोरल होमोजेनिटी (Temporal Homogeneity)।

भाषा मॉडलिंग (language modeling) से विरासत में मिले ये मॉडल सभी एक्शन टाइमस्टेप्स को अनुकूलन (optimization) के दौरान समान रूप से सूचनात्मक मानते हैं, और भौतिक संदर्भ (physical context) की परवाह किए बिना समान लॉस वेट (loss weights) आवंटित करते हैं। पेपर का तर्क है कि यह रोबोटिक मैनिपुलेशन के लिए भौतिक रूप से गलत है। वास्तविक दुनिया के प्रक्षेपवक्र (trajectories) स्वाभाविक रूप से विषम (heterogeneous) होते हैं:

उच्च-वेग खंड (High-velocity segments): ये अक्सर ट्रांज़िशनल मोशन को दर्शाते हैं (जैसे मुक्त स्थान में घूमता हुआ हाथ) जो त्रुटि-सहनशील (error-tolerant) होते हैं और कार्य की सफलता के लिए कम महत्वपूर्ण होते हैं।
निम्न-वेग खंड (Low-velocity segments): ये सटीकता-मांगने वाली अंतःक्रियाओं (जैसे पकड़ना, संरेखण, प्लेसमेंट) के अनुरूप होते हैं जहाँ मामूली भविष्यवाणी त्रुटियां भी विनाशकारी विफलता का कारण बन सकती हैं।

यूनिफॉर्म वेटिंग लागू करके, मॉडल मामूली ट्रांज़िशन पर अपनी रिप्रजेंटेशनल क्षमता बर्बाद करते हैं जबकि उन महत्वपूर्ण, धीमी गति वाले चरणों को कम अनुकूलित (under-optimize) करते हैं जो सफलता निर्धारित करते हैं। यह "फ्लैट" प्रतिमान वर्तमान स्टेट-ऑफ-द-आर्ट (SOTA) मॉडल्स की प्रदर्शन सीमा को सीमित करता है, विशेष रूप से जटिल, लॉन्ग-होरिजन कार्यों के लिए जिनमें अंतिम-सेमी-सेंटिमीटर सटीकता की आवश्यकता होती है।

2. कार्यप्रणाली: AttenA+ फ्रेमवर्क

इसे संबोधित करने के लिए, लेखक AttenA+ प्रस्तावित करते हैं, जो एक आर्किटेक्चर-अज्ञेय (architecture-agnostic), प्लग-एंड-प्ले फ्रेमवर्क है जो वेलोसिटी-ड्रिवन एक्शन अटेंशन पेश करता है। मुख्य अंतर्दृष्टि यह है कि एंड-इफ़ेक्टर (end-effector) का वेग (velocity) सटीकता की मांग के लिए एक प्राकृतिक, अनसुपरवाइज्ड प्रॉक्सी के रूप में कार्य करता है: कम वेग का अर्थ है उच्च क्रिटिकैलिटी (criticality)।

2.1 एक्शन इनइक्वेलिटी का परिमाणीकरण (Quantifying Action Inequality)

यह विधि प्रत्येक टाइमस्टेप $t$ पर ग्राउंड-ट्रुथ एक्शन के तात्कालिक वेग परिमाण ( $v_t$ ) को औपचारिक रूप देती है:
$v_t = \|a^{gt}_t\|_2$
जहाँ $a^{gt}_t$ एक्शन वेक्टर (आमतौर पर जॉइंट वेलोसिटी या एंड-इफ़ेक्टर वेलोसिटी) का प्रतिनिधित्व करता है। यह मीट्रिक सिस्टम को अतिरिक्त सुपरविजन के बिना "काइनेमैटिकली क्रिटिकल" (kinematically critical) खंडों की पहचान करने की अनुमति देता है।

2.2 वेलोसिटी-फील्ड अटेंशन मैकेनिज्म

AttenA+ इनवर्स वेलोसिटी फील्ड के आधार पर ट्रेनिंग ऑब्जेक्टिव को रीवेट (reweight) करता है। प्रक्रिया में शामिल हैं:

वेट कंस्ट्रक्शन: एक मैपिंग फंक्शन $F_A$ $F_{A}$ वेलोसिटी $v_t$ $v_{t}$ को अटेंशन वेट $w_t$ $w_{t}$ में परिवर्तित करता है। पेपर चार रणनीतियों का अन्वेषण करता है:
- इनवर्स ( $1/v_t$ )
- इनवर्स स्क्वेयर्ड ( $1/v_t^2$ )
- एक्सपोनेंशियल डिके ( $e^{-\alpha v_t}$ )
- लॉगरिदमिक ( $1/\log(1+v_t)$ )
  ये फंक्शन कम-वेग (धीमे) एक्शन को उच्च वेट और उच्च-वेग एक्शन को कम वेट प्रदान करते हैं।
रेगुलराइजेशन: प्रशिक्षण स्थिरता सुनिश्चित करने और लगभग स्थिर टाइमस्टेप्स द्वारा ग्रेडिएंट डोमिनेंस को रोकने के लिए, विधि निम्नलिखित का उपयोग करती है:
- वेट क्लिपिंग (Weight Clipping): वेट को $[1/clip_{max}, clip_{max}]$ रेंज में सीमित करना।
- लॉस नॉर्मलाइजेशन (Loss Normalization): यह सुनिश्चित करना कि औसत वेट स्टैंडर्ड बेसलाइन्स के साथ सुसंगत रहे।
पैराडाइम-अग्नोस्टिक इंटीग्रेशन: फ्रेमवर्क विभिन्न मॉडल प्रकारों के लिए लॉस फंक्शन को अनुकूलित करता है:
- डिस्क्रिमिनेटिव मॉडल्स (जैसे, OpenVLA): मानक रिग्रेशन लॉस (L1/L2) को वेलोसिटी वेट $w_t$ के साथ संशोधित करता है।
- जेनरेटिव/फ्लो मैचिंग मॉडल्स (जैसे, $\pi_0$ , $\pi_{0.5}$ ): हाई-क्रिटिकैलिटी सेगमेंट्स के लिए सटीक फ्लो फील्ड्स सीखने को प्राथमिकता देने के लिए फ्लो-मैचिंग ऑब्जेक्टिव को रीवेट करता है।
- डिफ्यूजन पॉलिसीज़ (Diffusion Policies): डिनोइजिंग ऑब्जेक्टिव पर समान वेटिंग लागू करता है।

महत्वपूर्ण रूप से, AttenA+ के लिए मॉडल बैकबोन में कोई संरचनात्मक संशोधन आवश्यक नहीं है और यह कोई अतिरिक्त पैरामीटर पेश नहीं करता है।

3. मुख्य योगदान

एक्शन इनइक्वेलिटी का औपचारिक रूप देना: पेपर रोबोटिक प्रक्षेपवक्रों में अंतर्निहित असमानता की पहचान करता है और उसे औपचारिक रूप देता है, जिससे वर्तमान फाउंडेशन मॉडल्स के उस बायस को उजागर किया गया है जो सभी क्रियाओं को समान रूप से व्यवहार करता है, भले ही उनकी भौतिक महत्ता भिन्न हो।
AttenA+ फ्रेमवर्क: एक यूनिवर्सल, प्लग-एंड-प्ले ऑप्टिमाइजेशन फ्रेमवर्क पेश करता है जो फिजिकल प्रायर (physical prior) के रूप में इनवर्स वेलोसिटी फील्ड का उपयोग करके ट्राजेक्टरी लर्निंग को रीवेट करता है, जिससे मॉडल का फोकस काइनेमैटिकली डिमांडिंग चरणों के साथ संरेखित होता है।
परफॉरमेंस वैलिडेशन: यह प्रदर्शित करता है कि एक्शन सीक्वेंस के आंतरिक स्ट्रक्चरल प्रायर्स को खोजना, स्टैंडर्ड स्केलिंग लॉज़ के एक कुशल, फिजिक्स-अवेयर कॉम्प्लीमेंट के रूप में कार्य करता है, जो मौजूदा मॉडल्स की परफॉरमेंस सीलिंग को महत्वपूर्ण रूप से बढ़ाता है।

4. प्रयोगात्मक परिणाम

लेखकों ने सिमुलेशन बेंचमार्क और वास्तविक हार्डवेयर दोनों पर AttenA+ का मूल्यांकन किया।

4.1 सिमुलेशन बेंचमार्क

LIBERO बेंचमार्क: OpenVLA-OFT के साथ एकीकृत, AttenA+ ने 98.6% की औसत सफलता दर हासिल की, जो बेसलाइन OpenVLA-OFT (97.1%) से 1.5% अधिक है। इसने सभी टास्क कैटेगरी में निरंतर लाभ दिखाया, जिसमें लॉन्ग-होरिजन कार्यों पर 2.1% का उल्लेखनीय सुधार देखा गया।
RoboTwin 2.0 बेंचमार्क: Fast-WAM के साथ एकीकृत, AttenA+ ने 92.4% की नई SOTA औसत सफलता दर प्राप्त की, जो बेसलाइन Fast-WAM से 0.6% और पिछले सर्वश्रेष्ठ LingBot-VA से 0.3% बेहतर है, और इसके लिए किसी एम्बोडीड प्री-ट्रेनिंग की आवश्यकता नहीं थी।
जनरैलिटी (Generality): विधि को डिस्क्रिमिनेटिव (OpenVLA) और जेनरेटिव ( $\pi_{0.5}$ ) दोनों मॉडल्स पर मान्य किया गया, जो इसकी पैराडाइम-अग्नोस्टिक प्रकृति की पुष्टि करता है।

4.2 वास्तविक दुनिया के प्रयोग

हार्डवेयर: प्रयोग एक Franka Emika Panda मैनिपुलेटर पर किए गए।
टास्क: चार कार्यों का परीक्षण किया गया: दराज बंद करना, बाउल में क्यूब रखना, मल्टी-ऑब्जेक्ट मैनिपुलेशन, और लॉन्ग-होरिजन सीक्वेंशियल टास्क।
परिणाम: AttenA+ ने औसत सफलता दर को 92.5% से बढ़ाकर 97.0% कर दिया। सबसे महत्वपूर्ण लाभ जटिल मल्टी-ऑब्जेक्ट और लॉन्ग-होरिजन कार्यों में देखे गए, जहाँ प्रिसिजन-क्रिटिकल मोशन अधिक होते हैं।

4.3 एब्लेशन स्टडीज (Ablation Studies)

वेटिंग स्ट्रैटेजीज़: किसी भी एक स्ट्रैटेजी ने सभी कार्यों पर प्रभुत्व नहीं जमाया, जिससे पता चलता है कि टास्क-विशिष्ट मोशन पैटर्न के लिए अलग-अलग वेटिंग फंक्शन की आवश्यकता होती है (जैसे, स्पेशियल कार्यों के लिए इनवर्स स्क्वेयर्ड सबसे अच्छा काम करता था, जबकि लॉन्ग-होरिजन कार्यों के लिए एक्सपोनेंशियल डिके मजबूत था)।
क्लिपिंग थ्रेशोल्ड: $clip_{max}$ का थ्रेशोल्ड 2.0 या 3.0 इष्टतम परिणाम देता है। 1.0 का थ्रेशोल्ड (यूनिफॉर्म वेटिंग) बेसलाइन पर वापस ले जाता है, जबकि 5.0 नॉइज़ी लो-वेलोसिटी एक्शन्स पर अत्यधिक जोर देने के कारण अस्थिरता पैदा करता है।

5. महत्व और सीमाएं

महत्व:
पेपर का तर्क है कि AttenA+ एक्शन सीक्वेंस के फिजिकल स्ट्रक्चर का सम्मान करके, रोबोटिक कंट्रोल को बेहतर बनाने का एक अत्यधिक कुशल मार्ग प्रदान करता है। यह डेटा और मॉडल स्केलिंग के लिए एक फिजिक्स-अवेयर कॉम्प्लीमेंट प्रदान करता है, जो यह दर्शाता है कि सरल, इंटरप्रिटेबल प्रायर्स (वेलोसिटी) मौजूदा फाउंडेशन मॉडल्स की मजबूती और सटीकता को महत्वपूर्ण रूप से बढ़ा सकते हैं।

सीमाएं:
लेखक दो प्राथमिक सीमाओं को स्वीकार करते हैं:

ह्यूरिस्टिक धारणा (Heuristic Assumption): विधि इस ह्यूरिस्टिक पर निर्भर करती है कि क्रिटिकल स्टेप्स स्वाभाविक रूप से धीमे होते हैं। यह उन डायनेमिक कार्यों में सामान्य नहीं हो सकता है जहाँ क्रिटिकल एक्शन्स तेज़ और बैलिस्टिक होते हैं (जैसे, हाई-स्पीड ग्रैस्पिंग या टेबल टेनिस)।
सिंगल-मोडल इनपुट: मैकेनिज्म वर्तमान में केवल वेलोसिटी जानकारी का उपयोग करता है, अन्य फिजिकल क्यूज़ (जैसे फोर्स या टॉर्क) को अनदेखा करता है जो एक्शन इम्पोर्टेंस का संकेत भी दे सकते हैं।

भावी कार्य:
लेखक फिक्स्ड ह्यूरिस्टिक्स से आगे बढ़कर फिजिकली ग्राउंडेड, लर्नबल अटेंशन मैकेनिज्म की ओर बढ़ने का सुझाव देते हैं जो मल्टी-मोडल फिजिकल सिग्नल (फोर्स, टॉर्क) को एकीकृत करते हैं और टास्क सेमेंटिक्स के अनुसार गतिशील रूप से अनुकूलित होते हैं।