💻 computer science

ConTrack: Constrained Hand Motion Tracking with Adaptive Trade-off Control

ConTrack एक सुदृढीकरण शिक्षण (reinforcement learning) ढांचा है जो ऑब्जेक्ट ट्रैकिंग को एक बाधा के रूप में मानकर और उच्च सफलता दर एवं पोज़ सटीकता प्राप्त करने के लिए अनुकूली ट्रेड-ऑफ नियंत्रण (adaptive trade-off control) और मिड-ट्रैजेक्टरी रीसेट का उपयोग करके, प्रदर्शित जॉइंट मोशन और कॉन्टैक्ट टाइमिंग को सुरक्षित रखते हुए दीर्घ-क्षितिज (long-horizon), संपर्क-समृद्ध (contact-rich) डेक्सट्रस मैनिपुलेशन में सुधार करता है।

मूल लेखक: Yutong Liang, Quanquan Peng, Ri-Zhao Qiu, Xiaolong Wang

प्रकाशित 2026-06-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yutong Liang, Quanquan Peng, Ri-Zhao Qiu, Xiaolong Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोटिक हाथ को एक जटिल जादू का खेल करना सिखाने की कोशिश कर रहे हैं, जैसे कि गेंद से जुग्लिंग करना या चाबी घुमाना, और इसके लिए आप एक इंसान द्वारा किए जा रहे काम का वीडियो देख रहे हैं। यह उस मुख्य चुनौती का केंद्र है जिसे यह शोध पत्र संबोधित करता है: आप एक रोबोट को इंसान के हाथ की गतिविधियों की नकल करने के लिए कैसे तैयार करते हैं जब रोबोट का हाथ अलग आकार का हो और उसकी गति भी अलग हो?

लेखक अपने समाधान को ConTrack कहते हैं। यह कैसे काम करता है, यहाँ सरल अवधारणाओं और उपमाओं में दिया गया है।

समस्या: गति का "अनकैनी वैली" (Uncanny Valley)

जब आप किसी इंसान को जुग्लिंग करते हुए देखते हैं, तो उनकी उंगलियां एक बहुत ही विशिष्ट, सुचारू तरीके से चलती हैं। यदि आप एक रोबोटिक हाथ को ठीक उसी वीडियो फ्रेम-दर-फ्रेम का पालन करने के लिए मजबूर करते हैं, तो दो चीजें होती हैं:

रोबोट टूट जाता है: रोबोट की उंगलियां वस्तु से इस तरह टकरा सकती हैं जो भौतिकी के अनुसार असंभव है (जैसे कि एक उंगली का ठोस गेंद के आर-पार निकल जाना)।
रोबोट हार मान लेता है: टूटने से बचने के लिए, रोबोट इंसान के हाथ का अनुसरण करना छोड़ देता है और केवल गेंद को हवा में रखने पर ध्यान केंद्रित करता है, जिससे वह इंसान की गति की "शैली" (style) खो देता है।

मौजूदा तरीकों में आमतौर पर एक मानव इंजीनियर को रोबोट के "व्यक्तित्व" (कि वह इंसान जैसा दिखने पर कितना ध्यान दे बनाम वास्तव में कार्य को सफलतापूर्वक पूरा करने पर कितना ध्यान दे) को मैन्युअल रूप से ट्यून करने की आवश्यकता होती है। यह हर एक गाने के लिए रेडियो को हाथ से ट्यून करने की कोशिश करने जैसा है; यह धीमा, थकाऊ है और अक्सर गाना बदलने पर खराब हो जाता है।

समाधान: ConTrack

ConTrack एक स्मार्ट प्रशिक्षण प्रणाली है जो रोबोट को दो प्रतिस्पर्धी लक्ष्यों के बीच स्वचालित रूप से संतुलन बनाना सिखाती है:

लक्ष्य (कार्य): वस्तु को वहां चलते रहने देना जहां उसे जाना चाहिए (जैसे, गेंद को हवा में रहना चाहिए)।
शैली (Fidelity): उंगलियों को इंसान के वीडियो की तरह जितना संभव हो सके उतना चलाना।

यहाँ तीन "गुप्त सामग्रियां" दी गई हैं जो ConTrack को काम करने में मदद करती हैं:

1. "स्मार्ट वॉल्यूम नॉब" (अनुकूली समझौता - Adaptive Trade-off)

कल्पना कीजिए कि आप कार चला रहे हैं। कभी-कभी सड़क चिकनी होती है, और आप तेज़ चल सकते हैं (शैली पर ध्यान दें)। कभी-कभी गड्ढा आता है, और आपको धीरे चलना चाहिए और सावधानी से स्टीयरिंग करना चाहिए (कार्य पर ध्यान दें)।

पुराना तरीका: आप यात्रा की शुरुआत में एक बार स्टीयरिंग संवेदनशीलता सेट कर देते हैं। यदि सड़क बदलती है, तो आप दुर्घटनाग्रस्त हो जाते हैं या बहुत धीरे चलते हैं।
ConTrack का तरीका: इसमें एक "स्मार्ट वॉल्यूम नॉब" है जो वास्तविक समय में स्वचालित रूप से समायोजन करता है।
- यदि रोबोट वस्तु को गिराने वाला है (कार्य विफल हो रहा है), तो नॉब "कार्य सफलता" (Task Success) के वॉल्यूम को बढ़ा देता है और रोबोट को बताता है: "इंसान जैसा दिखने की चिंता छोड़ो; बस वस्तु को बचाओ!"
- यदि रोबोट अच्छा कर रहा है, तो नॉब "शैली" (Style) के वॉल्यूम को बढ़ाता है और कहता है: "बहुत बढ़िया, अब अपनी उंगलियों को बिल्कुल वैसे ही हिलाने की कोशिश करो जैसे इंसान ने किया था।"
- जादू: रोबोट बिना किसी इंसान द्वारा हर विशिष्ट ट्रिक के लिए बताए, खुद ही यह समायोजन करना सीख जाता है।

2. "प्रैक्टिस जंप-स्टार्ट" (मिड-ट्रैजेक्टरी रिसेट - Mid-Trajectory Reset)

एक लंबे, जटिल नृत्य को सीखना कठिन होता है यदि आपको हमेशा पहले कदम से ही शुरुआत करनी पड़े। यदि आप कदम 50 पर विफल होते हैं, तो आपको आमतौर पर कदम 1 पर वापस जाना पड़ता है और फिर से प्रयास करना पड़ता है। यह अक्षम है।

समस्या: रोबोट प्रशिक्षण में, यदि आप रोबोट को बस वीडियो के कदम 50 पर ले जाते हैं, तो रोबोट एक भौतिक रूप से असंभव स्थिति में हो सकता है (जैसे कि मेज के अंदर तैरता हुआ हाथ)।
ConTrack की तरकीब: यह "सुरक्षित जंप-स्टार्ट" का एक पुस्तकालय (Library) रखता है।
- जैसे-जैसे रोबोट अभ्यास करता है, वह दुनिया की सटीक स्थिति (हाथ और वस्तु कहाँ हैं) को सहेज लेता है जब भी वह किसी कठिन बिंदु तक सफलतापूर्वक पहुँचता है।
- बाद में, शुरुआत से शुरू करने के बजाय, सिस्टम इस लाइब्रेरी से एक "सुरक्षित जंप-स्टार्ट" चुनता है। यह एक डांस टीचर की तरह है जो कहता है, "तुम अंत में स्पिन करना जानते हो? चलो वहीं से शुरू करने का अभ्यास करते हैं, ताकि तुम उस बदलाव (transition) में महारत हासिल कर सको।"
- महत्वपूर्ण बात यह है कि यह केवल उन्हीं जंप-स्टार्ट्स को चुनता है जिन्हें रोबोट ने पहले ही सिद्ध किया है कि वह वहां तक पहुँच सकता है, यह सुनिश्चित करते हुए कि रोबोट कभी भी "टूटी हुई" स्थिति में शुरुआत न करे।

3. "घोस्ट टच" (कॉन्टैक्ट प्रायर्स - Contact Priors)

जब कोई इंसान किसी वस्तु को नियंत्रित करता है, तो उनकी उंगलियां विशिष्ट स्थानों पर विशिष्ट समय पर स्पर्श करती हैं।

ConTrack मानव वीडियो का उपयोग करके एक "घोस्ट टच" मैप बनाता है। यह रोबोट को बताता है: "जब इंसान का अंगूठा गेंद को छूता है, तो तुम्हारा अंगूठा भी गेंद को छूना चाहिए।"
यह रोबोट को यह समझने में मदद करता है कि वस्तु को कैसे पकड़ना है, न कि केवल यह कि वस्तु कहाँ है। यह रोबोट को उसकी उंगलियों के लिए अदृश्य गाइड रेल का एक सेट देने जैसा है।

उन्होंने क्या सिद्ध किया?

शोधकर्ताओं ने कंप्यूटर सिमुलेशन में तीन प्रकार के कार्यों के साथ इस प्रणाली का परीक्षण किया:

दो-हाथों वाली अंतःक्रियाएं (जैसे हथौड़ा चलाना या बोतल पकड़ना)।
आर्टिकुलेटेड ऑब्जेक्ट्स (ऐसी चीजें जिनमें हिलने वाले भाग होते हैं, जैसे मिक्सर या ढक्कन वाला बॉक्स)।
इन-हैंड मैनिपुलेशन (एक हाथ के अंदर रिंग या क्यूब को घुमाना)।

परिणाम:

बेहतर सफलता: पिछले तरीकों की तुलना में रोबोट ने कार्य अधिक बार पूरे किए।
बेहतर सटीकता: वस्तु उस पथ के करीब रही जिसका इंसान ने पालन किया था।
बेहतर शैली: रोबोट की उंगलियां अभी भी इंसान की तरह ही दिखती और चलती थीं, भले ही उसे वस्तु को सुरक्षित रखने के लिए छोटे समायोजन करने पड़े हों।
वास्तविक दुनिया का परीक्षण: उन्होंने सीखी गई गतिविधियों को दो हाथों और हाथों वाले वास्तविक रोबोट पर सफलतापूर्वक स्थानांतरित किया, जिससे सिद्ध हुआ कि कंप्यूटर के ये तरीके भौतिक धातु पर वास्तव में काम करते हैं।

सारांश

ConTrack एक ऐसी प्रणाली है जो रोबोट को एक लचीले कोच की तरह काम करके मानव हाथ की गतिविधियों की नकल करना सिखाती है। रोबोट को "इंसान जैसा दिखने" और "काम करने" के बीच चुनने के लिए मजबूर करने के बजाय, यह स्थिति की आवश्यकता के अनुसार दोनों के बीच स्वचालित रूप से स्विच करती है। यह लंबे, जटिल करतबों को तेजी से सीखने के लिए स्मार्ट अभ्यास तकनीकों का भी उपयोग करती है, जिसके परिणामस्वरूप रोबोट सफलता और शैली दोनों के साथ कुशलता से वस्तुओं को संभाल सकते हैं।

तकनीकी सारांश: ConTrack

समस्या विवरण (Problem Statement)

मानवीय प्रदर्शनों (human demonstrations) को कुशल रोबोटिक हेरफेर (dexterous robot manipulation) में स्थानांतरित करना एक "काइनेमैटिक गैप" (kinematic gap) के कारण बाधित होता है, जो मानव हाथों और रोबोट एंड-इफेक्टर्स के बीच रूपात्मक (morphological) और क्रियान्वयन (actuation) संबंधी अंतरों से उत्पन्न होता है। जबकि मौजूदा विधियाँ उच्च-स्तरीय इरादे (high-level intent) या मोटे तौर पर गति (coarse motion) को रिटारगेट कर सकती हैं, वे दीर्घ-क्षितिज, संपर्क-समृद्ध अनुक्रमों (long-horizon, contact-rich sequences) के लिए संघर्ष करती हैं जहाँ सटीक संपर्क समय और वस्तु के प्रक्षेप पथ (trajectories) महत्वपूर्ण होते हैं।

मुख्य चुनौती कार्य सफलता (वस्तुओं को लक्षित प्रक्षेप पथों पर रखना) और मोशन फिडेलिटी (प्रदर्शित जॉइंट मोशन और संपर्क पैटर्न को संरक्षित करना) के बीच का संतुलन है। मौजूदा दृष्टिकोण अक्सर निश्चित भार (fixed weights) वाले हस्तनिर्मित रिवॉर्ड फंक्शन पर निर्भर करते हैं। ये निश्चित मिश्रण नाजुक (brittle) होते हैं: उन्हें प्रत्येक अनुक्रम के लिए ट्यूनिंग की आवश्यकता होती है, वे तब विफल हो जाते हैं जब इंटरेक्शन बजट सीमित होता है, और वे तब अनुकूलित नहीं हो सकते जब कोई संदर्भ गति (reference motion) रोबोट स्वरूप के लिए भौतिक रूप से अव्यवहार्य हो।

कार्यप्रणाली (Methodology)

लेखक ConTrack का प्रस्ताव करते हैं, जो एक सुदृढीकरण शिक्षण (Reinforcement Learning - RL) ढांचा है जो ऑब्जेक्ट ट्रैकिंग को एक भारित रिवॉर्ड घटक के बजाय एक प्रतिबंध (constraint) के रूप में मानता है। यह सिस्टम को कार्य आवश्यकताओं का सख्ती से पालन करते हुए मोशन फिडेलिटी के लिए शेष नियंत्रण अधिकार आवंटित करने की अनुमति देता है। यह ढांचा तीन प्राथमिक घटकों से बना है:

1. ऑनलाइन एडेप्टिव टास्क-स्टाइल मिक्सिंग (Dual-Variable Control)

निश्चित रिवॉर्ड वेट्स के बजाय, ConTrack इस समस्या को एक कंस्ट्रेंड मार्कोव डिसीजन प्रोसेस (CMDP) के रूप में तैयार करता है। यह न्यूनतम कार्य सफलता थ्रेशोल्ड ( $J_g \ge \alpha J_g^\star$ ) के अधीन स्टाइल फिडेलिटी ( $J_s$ ) को अधिकतम करता है।

तंत्र (Mechanism): एक स्केलर डुअल वेरिएबल $\lambda$ को वर्तमान रनिंग एवरेज टास्क रिटर्न ( $\hat{J}_g$ ) और एक रनिंग मैक्सिमम अनुमान ( $J_g^\star$ ) के अनुपात के आधार पर ऑनलाइन अपडेट किया जाता है।
अनुकूलन (Adaptation): यदि कार्य प्रदर्शन लक्ष्य अनुपात $\alpha$ से नीचे गिर जाता है, तो $\lambda$ बढ़ जाता है, जिससे टास्क ट्रैकिंग की ओर अनुकूलन दबाव स्थानांतरित हो जाता है। यदि प्रदर्शन थ्रेशोल्ड से अधिक हो जाता है, तो $\lambda$ कम हो जाता है, जिससे पॉलिसी को स्टाइल फिडेलिटी को प्राथमिकता देने की अनुमति मिलती है। यह गतिशील समायोजन बिना किसी मैनुअल प्रति-अनुक्रम ट्यूनिंग के होता है।

2. एडेप्टिव मिड-ट्रैजेक्टरी रिसेट लाइब्रेरी (Adaptive Mid-Trajectory Reset Library)

दीर्घ-क्षितिज ट्रैकिंग अक्षम हो जाती है जब प्रशिक्षण हमेशा प्रारंभिक फ्रेम से शुरू होता है, क्योंकि शुरुआती विफलताएं रोलआउट वितरण (rollout distribution) पर हावी हो जाती हैं।

पॉलिसी-रीचेबल स्टेट्स: मानक मिड-ट्रैजेक्टरी रिसेट के विपरीत (जो संदर्भ अवस्थाओं की नकल करते हैं, जो संपर्क-समृद्ध परिदृश्यों में भौतिक रूप से असंगत हो सकते हैं), ConTrack पॉलिसी-रीचेबल रोलआउट से एकत्र किए गए सिम्युलेटर स्टेट्स की एक लाइब्रेरी बनाए रखता है।
डायनेमिक सैंपलिंग: लाइब्रेरी को ऑनलाइन रिफ्रेश किया जाता है। जब कोई रोलआउट किसी विशिष्ट फ्रेम $k$ से पहले के मुकाबले अधिक निरंतरता लंबाई (continuation length) प्राप्त करता है, तो $k$ पर स्थित अवस्था को अपडेट कर दिया जाता है।
डिफिकल्टी-अवेयर सैंपलिंग: रिसेट फ्रेम को "सर्वाइवल रेशियो" (एक विशिष्ट फ्रेम से सफल निरंतरता की औसत लंबाई बनाम शेष क्षितिज) के आधार पर सैंपल किया जाता है। यह प्रशिक्षण को विशेष रूप से उन खंडों पर केंद्रित करता है जहाँ पॉलिसी वर्तमान में विफल होती है, जिससे पॉलिसी के बेहतर होने के साथ प्रशिक्षण का फोकस पीछे की ओर खिसकता जाता है।

3. कॉन्टैक्ट प्रायर्स (Contact Priors)

स्टाइल ऑब्जेक्टिव को आधार देने के लिए, ढांचा संदर्भ संपर्क एनोटेशन को सहायक प्रायर्स के रूप में शामिल करता है।

स्टाइल रिवॉर्ड: स्टाइल रिवॉर्ड में कॉन्टैक्ट इवेंट ओवरलैप (बाइनरी कॉन्टैक्ट इवेंट्स का मिलान) और कॉन्टैक्ट पॉइंट डिस्टेंस (विशिष्ट हैंड लिंक्स पर सिम्युलेटेड और एनोटेटेड कॉन्टैक्ट पॉइंट्स के बीच की दूरी को कम करना) के पद शामिल हैं।
भूमिका: ये प्रायर्स यह सुनिश्चित करते हैं कि भले ही रोबोट भौतिकी को संतुष्ट करने के लिए संदर्भ जॉइंट प्रक्षेप पथ से विचलित हो जाए, वह प्रदर्शित इंटरेक्शन पैटर्न (जैसे, कौन से लिंक्स वस्तु को छूते हैं) को बनाए रखे।

मुख्य योगदान (Key Contributions)

ऑनलाइन एडेप्टिव मिक्सिंग: एक डुअल-वेरिएबल अपडेट तंत्र जो स्वचालित रूप से टास्क ट्रैकिंग और मोशन स्टाइल को संतुलित करता है, जिससे विविध क्लिप्स के लिए मैनुअल रिवॉर्ड ट्यूनिंग की आवश्यकता समाप्त हो जाती है।
एडेप्टिव रिसेट लाइब्रेरी: पॉलिसी-रीचेबल सिम्युलेटर स्टेट्स का पुन: उपयोग करके दीर्घ-क्षितिज लर्निंग को स्थिर करने की एक विधि, जो कच्चे संदर्भ डेटा में भौतिक विसंगतियों से बचती है।
कंस्ट्रेंड फ्रेमवर्क: एक एकीकृत दृष्टिकोण जो भौतिक रूप से अव्यवहार्य संदर्भ गतियों को निष्पादनीय रोबोटिक प्रक्षेप पथों में बदल देता है, जिसे बढ़ते संपर्क जटिलता वाले तीन बेंचमार्क पर सत्यापित किया गया है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन डेटासेट्स पर ConTrack का मूल्यांकन किया: GRAB (द्वि-हस्त कठोर-वस्तु इंटरेक्शन), ARCTIC (द्वि-हस्त आर्टिकुलेटेड ऑब्जेक्ट्स), और DexterHand (सिंगल-हैंड इन-हैंड रोटेशन)।

प्रदर्शन: एक निश्चित प्रशिक्षण बजट (5,000 PPO अपडेट्स) के तहत, ConTrack ने सफलता दर (क्लिप के अंत तक प्रगति के रूप में मापा गया) और ऑब्जेक्ट पोज सटीकता में बेसलाइन्स (ManipTrans, DexMachina, SPIDER) को काफी पीछे छोड़ दिया।
फिडेलिटी: उच्च कार्य सफलता बनाए रखते हुए, ConTrack ने उन तरीकों की तुलना में बेहतर जॉइंट और कॉन्टैक्ट फिडेलिटी को संरक्षित किया जो केवल टास्क सफलता को प्राथमिकता देते थे।
एब्लेशन (Ablations):
- एडेप्टिव मिक्सिंग (फिक्स्ड वेट्स का उपयोग करके) को हटाने से कम प्रगति और कम कॉन्टैक्ट फिडेलिटी हुई, जो डायनेमिक ट्रेड-ऑफ कंट्रोल की आवश्यकता की पुष्टि करती है।
- एडेप्टिव रिसेट लाइब्रेरी (फिक्स्ड स्टार्ट-फ्रेम रिसेट का उपयोग करके) को हटाने से प्रगति में काफी कमी आई, जो विफलता सीमाओं पर सीखने पर ध्यान केंद्रित करने के महत्व को उजागर करती है।
- कॉन्टैक्ट प्रायर्स को हटाने से कॉन्टैक्ट सटीकता में गिरावट आई, जो कॉन्टैक्ट डायनेमिक्स को हल करने में उनकी भूमिका को प्रदर्शित करती है।
रियल-वर्ल्ड वैलिडेशन: लेखकों ने एक वास्तविक द्वि-हस्त xArm7 + xHand प्लेटफॉर्म पर सीखे गए प्रक्षेप पथों की व्यवहार्यता का प्रदर्शन किया, जिसमें टूल उपयोग और ऑब्जेक्ट रोटेशन जैसे कार्यों को सफलतापूर्वक निष्पादित किया गया।

महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि ConTrack कुशल हेरफेर (dexterous manipulation) में एक महत्वपूर्ण बाधा को संबोधित करता है: वर्तमान प्रणालियों की मानव प्रदर्शनों को रोबोट में मजबूती से स्थानांतरित करने में असमर्थता, जब संपर्क शेड्यूल्स जटिल हों और काइनेमैटिक गैप मौजूद हों।

स्केलेबिलिटी: एक बाधा (constraint) के रूप में कार्य सफलता को मानकर और ऑनलाइन अनुकूलन का उपयोग करके, यह ढांचा प्रति-अनुक्रम रिवॉर्ड इंजीनियरिंग की आवश्यकता के बिना विविध ट्रैकिंग डेटा के साथ स्केल करता है।
मजबूती (Robustness): एडेप्टिव रिसेट लाइब्रेरी दीर्घ-क्षितिज कार्यों को सीखने में सक्षम बनाती है जो संपर्क-समृद्ध वातावरण में "कर्स ऑफ होराइजन" के कारण अन्यथा कठिन होते।
व्यावहारिकता: सिस्टम सिम-टू-रियल गैप को सफलतापूर्वक पाटता है, जो मानव प्रदर्शन के "स्टाइल" को बनाए रखते हुए निष्पादनीय प्रक्षेप पथ उत्पन्न करता है।

लेखक सीमाओं का उल्लेख करते हैं, जिसमें कॉन्टैक्ट एनोटेशन की गुणवत्ता पर निर्भरता और यह तथ्य शामिल है कि कंस्ट्रेंड फॉर्मूलेशन नॉर्मलाइजेशन के लिए रनिंग मैक्सिममम का उपयोग करता है, जो स्थिर स्केलिंग तो प्रदान करता है लेकिन सभी सैद्धांतिक किनारों (edge cases) में सख्त बाधा संतुष्टि की गारंटी नहीं देता है। हालांकि, प्रयोगात्मक परिणाम बताते हैं कि यह दृष्टिकोण व्यावहारिक तैनाती के लिए अत्यधिक प्रभावी है।