💻 computer science

ATHENA: Accelerated Multi-Task Heterogeneous Influence Functions for Robot Data Curation

यह शोध पत्र ATHENA का प्रस्ताव करता है, जो एक स्केलेबल इन्फ्लुएंस फंक्शन फ्रेमवर्क है जो क्रोनेकर संरचनाओं (Kronecker structures) और रैंक-r सन्निकटन (rank-r approximations) का लाभ उठाकर बिलियन-पैरामीटर मल्टीटास्क विजन-लैंग्वेज-एक्शन मॉडल्स के लिए डेटा क्यूरेशन को त्वरित करता है, जिससे काफी कम प्रदर्शनों (demonstrations) के साथ पूर्ण-डेटा प्रदर्शन से मेल खाते हुए महत्वपूर्ण गति प्राप्त होती है।

मूल लेखक: Tao Xu, Jiaxin Wang, Runhao Zhang, Jiayi Guan, Xianchao Zeng, Weixi Song, Xinyu Zhou, Zhetao Chen, Guang Chen, Yong-Lu Li

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tao Xu, Jiaxin Wang, Runhao Zhang, Jiayi Guan, Xianchao Zeng, Weixi Song, Xinyu Zhou, Zhetao Chen, Guang Chen, Yong-Lu Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुपर-इंटेलिजेंट रोबोट को सौ अलग-अलग काम करना सिखाने की कोशिश कर रहे हैं, जैसे कटोरे सजाना, फल उठाना, या लिफाफे पर स्टैम्प लगाना। आपके पास मानव प्रदर्शनों के वीडियो का एक विशाल पुस्तकालय है।

समस्या क्या है? पुस्तकालय बहुत बड़ा है, और हर वीडियो मददगार नहीं है। कुछ वीडियो बेहतरीन मूव्स दिखाते हैं, जबकि कुछ में गलतियाँ या अप्रासंगिक क्रियाएं होती हैं। यदि आप केवल रोबोट को सभी वीडियो खिला देते हैं, तो वह भ्रमित हो जाएगा, समय बर्बाद करेगा, और शायद बुरी आदतें भी सीख लेगा। लेकिन यदि आप सभी वीडियो को खुद देखकर सबसे "अच्छे" वीडियो चुनने की कोशिश करते हैं, तो इसमें बहुत समय लगेगा।

यहीं ATHENA काम आता है। ATHENA को एक सुपर-स्मार्ट, अल्ट्रा-फास्ट लाइब्रेरियन के रूप में सोचें जो आपके रोबोट के लिए एक आदर्श प्रशिक्षण पुस्तकालय तैयार करने में आपकी मदद करता है।

यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ दिया गया है:

1. समस्या: बहुत अधिक डेटा, बहुत धीमा

अतीत में, यह पता लगाने की कोशिश करना कि कौन सा विशिष्ट वीडियो रोबोट को सबसे अधिक सीखने में मदद करता था, समुद्र तट पर रेत के हर कण को गिनने जैसा था ताकि सबसे अच्छा रेत का महल बनाया जा सके।

पैमाना (The Scale): आधुनिक रोबोट मस्तिष्क (जिन्हें VLA मॉडल कहा जाता है) विशाल होते हैं, जिनमें अरबों "न्यूरॉन्स" (पैरामीटर्स) होते हैं।
रुकावट (The Bottleneck): पारंपरिक तरीकों में रोबोट के दिमाग को बार-बार फिर से प्रशिक्षित करना पड़ता था, जिसमें एक बार में एक वीडियो हटाकर यह देखना होता था कि रोबोट बेहतर हुआ या बदतर। अरबों पैरामीटर्स के साथ, यह गणनात्मक रूप से असंभव है—इसमें हजारों साल लग सकते हैं।
मल्टीटास्क का उलझाव (The Multitask Mess): यदि आपके पास 50 अलग-अलग कार्य हैं, तो एक साधारण "सबसे अच्छा वीडियो चुनें" वाला दृष्टिकोण उन वीडियो को चुन सकता है जो एक कार्य (जैसे कटोरे सजाना) के लिए तो बेहतरीन हैं, लेकिन अन्य कार्यों के लिए बेकार या हानिकारक भी हो सकते हैं। यह एक ऐसे शेफ को काम पर रखने जैसा है जो सुशी बनाने में तो माहिर है लेकिन ब्रेड बनाने में बहुत बुरा है, और फिर आप उसे दोनों चीजें एक साथ सिखाने की कोशिश कर रहे हैं।

2. समाधान: ATHENA की दो सुपरपावर्स

ATHENA इन समस्याओं को दो तरकीबों से हल करता है:

तरकीब A: "शॉर्टकट" (त्वरित गणना)

अरबों पैरामीटर वाले पूरे मस्तिष्क पर भारी गणित करने के बजाय, ATHENA एक चतुर गणितीय शॉर्टकट का उपयोग करता है।

उपमा: कल्पना कीजिए कि आप एक विशाल जहाज का वजन मापने की कोशिश कर रहे हैं। एक सामान्य तरीका होगा जिसमें आपको लकड़ी के हर एक तख्ते को व्यक्तिगत रूप से तौलना होगा। ATHENA, हालांकि, यह समझ जाता है कि जहाज एक विशिष्ट, दोहराव वाले पैटर्न (जैसे समान ईंटों का ढेर) में बना है। कुछ प्रतिनिधि ईंटों को तौलकर, यह एक फॉर्मूले का उपयोग करके तुरंत कुल वजन जान लेता है।
परिणाम: यह शॉर्टकट गणना को 313 गुना तेज़ बनाता है। जिस काम में कंप्यूटर के हफ्तों का समय लगता था, वह अब कुछ घंटों में हो जाता है।

तरकीब B: "संतुलित जज" (मल्टीटास्क इंटरेक्शन)

एक बार जब ATHENA तेजी से स्कोर की गणना कर सकता है, तो उसे यह तय करना होता है कि किन वीडियो को रखना है।

उपमा: कल्पना कीजिए कि 50 अलग-अलग श्रेणियों (गायन, नृत्य, करतब दिखाना आदि) के साथ एक टैलेंट शो चल रहा है। एक बुरा जज केवल बेहतरीन गायकों को चुन सकता है क्योंकि उनकी आवाज तेज है, जिससे करतब दिखाने वाले पीछे छूट जाते हैं। ATHENA एक निष्पक्ष निर्माता की तरह काम करता है। वह प्रत्येक वीडियो के लिए दो प्रश्न पूछता है:
1. "यह वीडियो उस विशिष्ट कार्य के लिए कितना मददगार है जिससे यह संबंधित है?" (लोकल इन्फ्लुएंस)
2. "यह वीडियो अन्य 49 कार्यों के लिए कितना मददगार है?" (ग्लोबल इन्फ्लुएंस)
परिणाम: यह एक संतुलित पुस्तकालय बनाता है जहाँ रोबोट थोड़ा-थोड़ा सब कुछ सीखता है, यह सुनिश्चित करता है कि वह किसी एक चीज़ में मास्टर और बाकी सब में असफल न बन जाए।

3. परिणाम: कम डेटा, बेहतर प्रदर्शन

शोधकर्ताओं ने ATHENA का परीक्षण दो तरीकों से किया:

सिमुलेशन में (वीडियो गेम): उन्होंने एक रोबोट सिम्युलेटर का उपयोग किया जिसमें 50 अलग-अलग कार्य और 2,500 घंटों का वीडियो डेटा था।
- दावा: ATHENA केवल 50% डेटा (आधे वीडियो) का उपयोग करके भी वही (या बेहतर) परिणाम प्राप्त करने में सक्षम था, जो 100% डेटा के साथ प्रशिक्षण से मिलते।
- रूपक: यह उस छात्र की तरह है जिसने केवल आधी पाठ्यपुस्तक पढ़ी लेकिन पूरी किताब पढ़ने वाले छात्र से बेहतर ग्रेड प्राप्त किया, क्योंकि उसने सही पन्ने पढ़े थे।
असली रोबोट पर (वास्तविक दुनिया): उन्होंने वास्तविक रोबोट भुजाओं का उपयोग करके छह वास्तविक दुनिया के कार्यों (जैसे फल उठाना या बोर्ड पोंछना) पर परीक्षण किया।
- दावा: केवल 66.7% डेटा का उपयोग करके, ATHENA ने वास्तविक रोबोट्स को उस स्थिति से अधिक बार सफल होने में मदद की, जब वे या तो पूरे डेटा का उपयोग करते या प्रत्येक कार्य को अलग से प्रशिक्षित करने की कोशिश करते।
- रूपक: यह एक कोच की तरह है जो ट्रेनिंग कैंप से उबाऊ और दोहराव वाले अभ्यास को हटा देता है, जिससे केवल उच्च-प्रभाव वाले व्यायाम बचते हैं, जिसके परिणामस्वरूप टीम वास्तविक खेल में बेहतर प्रदर्शन करती है।

सारांश

ATHENA एक ऐसा टूल है जो रोबोट डेवलपर्स को खराब डेटा पर समय और पैसा बर्बाद करने से रोकने में मदद करता है। गणितीय शॉर्टकट का उपयोग करके प्रक्रिया को तेज करने और विभिन्न कार्यों को संतुलित करने के लिए एक "निष्पक्ष जज" प्रणाली का उपयोग करके, यह रोबोट को प्रदर्शनों के एक छोटे, उच्च-गुणवत्ता वाले सेट का उपयोग करके तेजी से और बेहतर तरीके से सीखने की अनुमति देता है।

मुख्य बात: रोबोट को स्मार्ट बनाने के लिए आपको अधिक डेटा की आवश्यकता नहीं है; आपको बेहतर डेटा की आवश्यकता है, और ATHENA वह टूल है जो इसे ढूंढता है।

तकनीकी सारांश: ATHENA

समस्या विवरण (Problem Statement)

रोबोट इमिटेशन लर्निंग के क्षेत्र में, विजन-लैंग्वेज-एक्शन (VLA) मॉडल्स ने बड़े पैमाने पर प्रदर्शनों (demonstrations) पर प्रशिक्षित होने पर महत्वपूर्ण क्षमता प्रदर्शित की है। हालांकि, इन मॉडल्स का प्रदर्शन केवल स्केल के बजाय डेटा की गुणवत्ता पर अत्यधिक निर्भर करता है। फाइन-ट्यूनिंग के लिए प्रदर्शन डेटा को बिना सोचे-समझे स्केल करना अक्सर अत्यधिक लागत का कारण बनता है और सीमित प्रदर्शन लाभ या यहाँ तक कि गिरावट भी लाता है।

यह कार्य जिस केंद्रीय चुनौती को संबोधित करता है वह बिलियन-पैरामीटर, मल्टीटास्क VLA मॉडल्स के लिए उच्च-गुणवत्ता वाले प्रदर्शन उपसमुच्चयों (subsets) का कुशल क्यूरेशन (curation) है। इस पैमाने पर लागू होने पर मौजूदा डेटा वैल्यूएशन विधियाँ दो प्राथमिक बाधाओं का सामना करती हैं:

कंप्यूटेशनल स्केलेबिलिटी (Computational Scalability): पारंपरिक इन्फ्लुएंस फंक्शन विधियों के लिए प्रति-सैंपल ग्रेडिएंट गणना ($O(DP) $) और डेंस हेसियन इनवर्जन ($ O(NP^2 + P^3) $) की आवश्यकता होती है, जहाँ$ D $मापदंडों की संख्या है,$ P $प्रोजेक्शन डायमेंशन है, और$ N$ सैंपल्स की संख्या है। ये लागतें बिलियन-पैरामीटर मॉडल्स के लिए अव्यवहार्य हैं।
मल्टीटास्क असंतुलन (Multitask Imbalance): मल्टीटास्क सेटिंग्स में सिंगल-टास्क इन्फ्लुएंस एट्रिब्यूशन को सहज रूप से विस्तारित करने से अक्सर ऐसी 'ग्रीडी सिलेक्शन' (greedy selection) होती है जो उन कार्यों (tasks) का पक्ष लेती है जिनमें मजबूत ग्रेडिएंट सिग्नल होते हैं, जिससे 50 से अधिक संयुक्त रूप से प्रशिक्षित कार्यों के बीच डेटा क्यूरेशन असंतुलित हो जाता है।

कार्यप्रणाली: ATHENA फ्रेमवर्क (Methodology: The ATHENA Framework)

लेखक ATHENA (Accelerated Multi-Task Heterogeneous Influence Functions) प्रस्तावित करते हैं, जो एक ऐसा फ्रेमवर्क है जिसे बिलियन-पैरामीटर VLA मॉडल्स के लिए इन्फ्लुएंस फंक्शन गणना को स्केल करने और संतुलित मल्टीटास्क क्यूरेशन सुनिश्चित करने के लिए डिज़ाइन किया गया है।

1. त्वरित इन्फ्लुएंस एस्टीमेशन (Accelerated Influence Estimation)

ATHENA दो प्रमुख तकनीकी नवाचारों के माध्यम से कंप्यूटेशनल बाधाओं को दूर करता है:

क्रोनिकर कंप्रेस्ड ग्रेडिएंट फीचरियराइजेशन (Kronecker Compressed Gradient Featurization): पूर्ण पैरामीटर ग्रेडिएंट्स ($O(DP)$) को भौतिक रूप देने के बजाय, ATHENA लीनियर-लेयर ग्रेडिएंट्स की क्रोनिकर संरचना का लाभ उठाता है। एक्टिवेशन ( $x$ ) और बैकप्रोपैगेटेड एरर ( $\delta$ ) फैक्टर्स को अलग-अलग प्रोजेक्ट करके, यह फ्रेमवर्क प्रति लेयर प्रोजेक्शन लागत को $O(DP) $से घटाकर$ O(\sqrt{DP})$ कर देता है। यह बिलियन-पैरामीटर मॉडल्स के लिए पूर्ण ग्रेडिएंट्स को स्टोर करने की मेमोरी बाधा से बचाता है।
रैंक- $r$ रैंडम ट्रंकेटेड एप्रोक्सिमेशन (RTA): डेंस प्रोजेक्टेड हेसियन मैट्रिक्स ( $G^\top G + \lambda I$ ) को इनवर्ट करने की $O(NP^2 + P^3)$ लागत से बचने के लिए, ATHENA अपने अग्रणी रैंडमाइज्ड स्पेक्ट्रल कंपोनेंट्स ( $G \approx U_r \Sigma_r V_r^\top$ ) का उपयोग करके कंप्रेस्ड ग्रेडिएंट मैट्रिक्स $G$ का अनुमान लगाता है। यह प्रमुख डेटा-डिपेंडेंट लागत को $O(NP^2)$ से घटाकर $O(NPr) $कर देता है, जहाँ$ r \ll P$ है।

2. मल्टीटास्क इन्फ्लुएंस इंटरैक्शन (MII)

विषम कार्यों (heterogeneous tasks) के बीच असंतुलित क्यूरेशन को रोकने के लिए, ATHENA एक मल्टीटास्क इन्फ्लुएंस इंटरैक्शन तंत्र पेश करता है। यह एक प्रदर्शन $i$ (जो कार्य $c(i)$ से संबंधित है) के प्रभाव को दो घटकों में विभाजित करता है:

लोकल इन्फ्लुएंस ( $\hat{\Psi}^{c(i)}_{\pi\text{-inf}}$ ): अपने स्वयं के कार्य के मूल्यांकन रोलआउट्स पर उस प्रदर्शन का प्रभाव।
क्रॉस-टास्क इन्फ्लुएंस ( $\hat{\Psi}^{\text{all-}c(i)}_{\pi\text{-inf}}$ ): अन्य कार्यों के रोलआउट्स पर उस प्रदर्शन का प्रभाव।

अंतिम क्यूरेशन स्कोर ( $f^{MII}_i$ ) इन दो घटकों से प्राप्त नॉर्मलाइज्ड यूटिलिटीज के गुणनफल के रूप में तैयार किया जाता है। यह सुनिश्चित करता है कि चयनित उपसमुच्चय स्थानीय रूप से महत्वपूर्ण उदाहरणों को सुरक्षित रखते हुए क्रॉस-टास्क इंटरैक्शन को भी ध्यान में रखता है, जिससे सभी 50 कार्यों में ROI (रिटर्न ऑन इन्वेस्टमेंट) संतुलित रहता है।

मुख्य परिणाम (Key Results)

लेखकों ने RoboTwin 2.0 सिमुलेशन बेंचमार्क (50 कार्य, 9.34 घंटे का डेटा) और छह वास्तविक-रोबोट ALOHA कार्यों (6.90 घंटे का डेटा) पर ATHENA का मूल्यांकन किया।

कंप्यूटेशनल दक्षता (Computational Efficiency): ATHENA अन-ऑप्टिमाइज्ड बेसलाइन की तुलना में इन्फ्लुएंस गणना में 313.4× स्पीडअप प्राप्त करता है, जिससे 50-टास्क, 560k-स्टेप परिदृश्य के लिए समय ~8,054 GPU-घंटों से घटकर ~25.7 GPU-घंटे रह जाता है।
सिमुलेशन प्रदर्शन (RoboTwin 2.0): केवल 50% प्रदर्शनों का उपयोग करके, ATHENA ने क्लीन इवैल्यूएशन के तहत फुल-डेटा जॉइंट फाइन-ट्यूनिंग के प्रदर्शन के बराबर (43.36% बनाम 43.42% सफलता दर) प्रदर्शन किया और रैंडमाइज्ड इवैल्यूएशन के तहत इससे बेहतर (17.30% बनाम 15.44%) प्रदर्शन किया। इसके परिणामस्वरूप फुल-डेटा ट्रेनिंग की तुलना में 50 कार्यों में संचयी 45.0-पॉइंट का सुधार हुआ।
वास्तविक-रोबोट प्रदर्शन (Real-Robot Performance): छह वास्तविक-रोबोट कार्यों पर, ATHENA ने केवल 66.7% डेटा का उपयोग करके 68.0% औसत सफलता दर प्राप्त की। इसने फुल-डेटा जॉइंट फाइन-ट्यूनिंग बेसलाइन (60.0%) को पछाड़ दिया और सिंगल-टास्क फाइन-ट्यूनिंग बेसलाइन्स (46.7%) से काफी बेहतर प्रदर्शन किया।
ट्रांसफरेबिलिटी (Transferability): $\pi_0$ मॉडल पर जनरेट किए गए क्यूरेटेड सबसेट्स ने $\pi_{0.5}$ मॉडल के प्रदर्शन को काफी हद तक बढ़ाया, जो दर्शाता है कि हाई-इन्फ्लुएंस प्रदर्शन VLA मॉडल वेरिएंट्स के बीच सामान्यीकृत (generalize) होते हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि ATHENA बिलियन-पैरामीटर मल्टीटास्क VLA फाइन-ट्यूनिंग में डेटा क्यूरेशन के लिए एक सिद्धांतगत और स्केलेबल समाधान प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

स्केलेबिलिटी: यह क्रोनिकर स्ट्रक्चर और रैंडम ट्रंकेशन का लाभ उठाकर बिलियन-पैरामीटर मॉडल्स पर काम करने में सक्षम पहला इन्फ्लुएंस फंक्शन फ्रेमवर्क है, जो पिछली अत्यधिक कंप्यूटेशनल लागतों को दूर करता है।
मल्टीटास्क बैलेंस: यह एक नवीन एट्रिब्यूशन नियम पेश करता है जो विविध कार्यों के बीच डेटा क्यूरेशन को संतुलित करता है, जिससे पिछले तरीकों की 'ग्रीडी सिलेक्शन' की कमियों से बचा जा सकता है।
उच्च ROI: फ्रेमवर्क यह प्रदर्शित करता है कि उच्च-गुणवत्ता वाला डेटा क्यूरेशन, बहुत कम प्रदर्शनों का उपयोग करते हुए, फुल-डेटा ट्रेनिंग के बराबर या उससे बेहतर प्रदर्शन दे सकता है, जिससे बड़े पैमाने के रोबोट पॉलिसियों को फाइन-ट्यून करने से जुड़ी कंप्यूटेशनल और स्टोरेज लागत कम हो जाती है।

लेखक इन विधियों को प्रीट्रेनिंग डेटा क्यूरेशन तक विस्तारित करने और इन्फ्लुएंस एस्टीमेशन के लिए वास्तविक-रोबोट रोलआउट एकत्र करने की उच्च लागत के संबंध में सीमाओं को नोट करते हैं, और इन्हें भविष्य के कार्य के रूप में पहचानते हैं।