← नवीनतम पेपर
💻 computer science

DexImit: Learning Bimanual Dexterous Manipulation from Monocular Human Videos

DexImit एक स्वचालित फ्रेमवर्क है जो पुनर्निर्माण (reconstruction), अपघटन (decomposition), प्रक्षेपवक्र संश्लेषण (trajectory synthesis) और संवर्धन (augmentation) के चार-चरणीय पाइपलाइन के माध्यम से एकल कैमरा (monocular) मानव हेरफेर वीडियो को बड़े पैमाने पर, भौतिक रूप से विश्वसनीय रोबोट प्रशिक्षण डेटा में परिवर्तित करके मनुष्यों और रोबोटों के बीच एम्बॉडिमेंट गैप (embodiment gap) को पाटता है।

मूल लेखक: Juncheng Mu, Sizhe Yang, Yiming Bao, Hojin Bae, Tianming Wei, Linning Xu, Boyi Li, Huazhe Xu, Jiangmiao Pang

प्रकाशित 2026-02-11
📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

मूल लेखक: Juncheng Mu, Sizhe Yang, Yiming Bao, Hojin Bae, Tianming Wei, Linning Xu, Boyi Li, Huazhe Xu, Jiangmiao Pang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को सैंडविच बनाना सिखाना चाहते हैं, लेकिन एक बड़ी समस्या है: आपके पास इसके लिए कोई "रोबोट मैनुअल" नहीं है। आप आसानी से एक रोबोट को बैठकर यह नहीं सिखा सकते कि चाकू कैसे पकड़ना है या जैम कैसे फैलाना है, क्योंकि रोबोट के पास इंसानी हाथ नहीं होते, और वे दुनिया को हमारे तरह "देख" नहीं पाते।

यह पेपर DexImit पेश करता है, जो एक चतुर सिस्टम है जो इस समस्या को हल करता है। यह YouTube वीडियो को रोबोट के लिए "ट्रेनिंग मैनुअल" में बदलकर काम करता है।

यह कैसे काम करता है, इसे कुछ सरल उपमाओं के माध्यम से समझाया गया है:

1. "यूनिवर्सल ट्रांसलेटर" (अंतर को पाटना)

कल्पना कीजिए कि आप एक पेशेवर बैले डांसर को नृत्य करना सिखाने की कोशिश कर रहे हैं, लेकिन आप केवल एक ऐसी किताब का उपयोग कर सकते हैं जो उस भाषा में लिखी गई है जिसे वह नहीं समझती। भले ही वह एक छलांग के विचार को समझती हो, लेकिन उसे यह नहीं पता होगा कि उसे अपनी विशिष्ट मांसपेशियों को वास्तव में कैसे हिलाना है।

रोबोटिक्स में, इसे "एम्बॉडिमेंट गैप" (Embodiment Gap) कहा जाता है। एक मानव हाथ में त्वचा, कोमल जोड़ और एक विशिष्ट आकार होता है; एक रोबोटिक हाथ धातु, मोटर और प्लास्टिक से बना होता है। DexImit एक हाई-टेक अनुवादक की तरह कार्य करता है। यह एक मानव का वीडियो देखता है, मानव की त्वचा और दिखावट को "हटा" देता है, और उन गतिविधियों को सटीक गणितीय निर्देशांकों (coordinates) और "धातु-अनुकूल" गतियों में बदल देता है जिन्हें एक रोबोट वास्तव में कर सकता है।

2. चार-चरणीय रेसिपी (द पाइपलाइन)

एक बिखरे हुए वीडियो को सटीक रोबोट डेटा में बदलने के लिए, DexImit चार-चरणीय प्रक्रिया का पालन करता है:

  • चरण 1: 3D एक्स-रे (पुनर्निर्माण/Reconstruction): सिस्टम एक सपाट, 2D वीडियो को देखता है और 3D दुनिया की कल्पना करता है। यह एक कॉफी मग की फोटो देखने और अपने मन में उसके वजन, ऊंचाई और गहराई को महसूस करने में सक्षम होने जैसा है। यह पता लगाता है कि हाथ ठीक कहाँ है और वस्तु 3D स्पेस में कहाँ है।
  • चरण 2: कोरियोग्राफर (शेड्यूलिंग): यदि वीडियो में कोई पेय बनाते हुए दिखाया गया है (पानी डालना, फिर बर्फ डालना, फिर मिलाना), तो सिस्टम इसे केवल एक लंबा धुंधला दृश्य नहीं देखता। यह एक फिल्म निर्देशक की तरह कार्य करता है, वीडियो को "दृश्यों" (उप-कार्यों) में तोड़ता है और यह तय करता है कि कब बाएं हाथ को हिलना चाहिए बनाम दाएं हाथ को।
  • चरण 3: ग्रिप एक्सपर्ट (एक्शन जनरेशन): आप रोबोट के हाथ को बस वहां नहीं ले जा सकते जहां मानव हाथ था; आपको यह सुनिश्चित करना होगा कि रोबोट वस्तु को वास्तव में बिना गिराए पकड़े। DexImit "पकड़ के भौतिक विज्ञान" (physics of the grip) की गणना करता है ताकि यह सुनिश्चित हो सके कि रोबोट की उंगलियां वस्तु के चारों ओर इस तरह से लिपटी हों कि वह स्थिर रहे और फिसले नहीं।
  • चरण 4: "क्या होगा अगर?" ट्रेनर (ऑगमेंटेशन): यदि रोबोट केवल एक विशिष्ट स्थान पर कप उठाने के लिए सीखता है, तो वह विफल हो जाएगा यदि कप एक इंच बाईं ओर खिसक जाए। DexImit "डिजिटल ट्रेनिंग व्हील्स" का उपयोग करता है। यह सफल गतिविधि को लेता है और कहता है, "ठीक है, अब इसे फिर से करो, लेकिन कप थोड़ा बड़ा है, रोशनी थोड़ी कम है, और कैमरा थोड़ा झुका हुआ है।" यह रोबोट को अविश्वसनीय रूप से मजबूत बनाता है।

3. यह एक बड़ी बात क्यों है? ("सब कुछ का पुस्तकालय")

DexImit से पहले, एक रोबोट को एक जटिल कार्य (जैसे सेब काटना या कपों को एक के ऊपर एक रखना) सिखाने के लिए महंगे, धीमे और थकाऊ मैनुअल प्रोग्रामिंग या "टेलीऑपरेशन" (जहाँ एक इंसान एक उपकरण पहनकर रोबोट को नियंत्रित करता है) की आवश्यकता होती थी।

DexImit खेल बदल देता है क्योंकि यह पूरे इंटरनेट को एक क्लासरूम में बदल देता है। चूंकि इंटरनेट पर इंसानों द्वारा चीजें करने के अरबों वीडियो मौजूद हैं, DexImit सैद्धांतिक रूप से दुनिया को "देख" सकता है और लगभग किसी भी शारीरिक कार्य को सीख सकता है, जिससे एक साधारण वीडियो क्लिप एक रोबोट के लिए मास्टरक्लास में बदल जाती है।

एक वाक्य में सारांश:

DexImit एक डिजिटल पुल की तरह है जो स्क्रीन पर इंसानों को चीजें करते हुए देखता है और उन बिखरी हुई, जैविक गतिविधियों को सटीक, भौतिक निर्देशों में अनुवादित करता है जिन्हें एक धातु का रोबोट पूरी तरह से फॉलो कर सके।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →