🤖 machine learning

DemoDiffusion: One-Shot Human Imitation using pre-trained Diffusion Policy

डेमोडिफ्यूजन (DemoDiffusion) एक वन-शॉट इमिटेशन लर्निंग विधि है जो रोबोटों को विविध हेरफेर कार्यों (manipulation tasks) को करने में सक्षम बनाती है, जो एक एकल मानव प्रदर्शन से एक मोटा प्रक्षेपवक्र (rough trajectory) प्राप्त करने के लिए किनेमैटिक रिटारगेटिंग का लाभ उठाती है और इसे रोबोट के संभावित कार्यों के साथ संरेखण सुनिश्चित करने के लिए एक प्री-ट्रेन्ड डिफ्यूजन पॉलिसी के साथ परिष्कृत करती है, जिससे बिना किसी कार्य-विशिष्ट प्रशिक्षण या युग्मित डेटा (paired data) की आवश्यकता के बेसलाइन दृष्टिकोणों की तुलना में काफी उच्च सफलता दर प्राप्त होती है।

मूल लेखक: Sungjae Park, Homanga Bharadhwaj, Shubham Tulsiani

प्रकाशित 2026-03-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sungjae Park, Homanga Bharadhwaj, Shubham Tulsiani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को लैपटॉप बंद करना सिखाना चाहते हैं, लेकिन आपके पास इसे प्रोग्राम करने के लिए हफ्तों बिताने या रोबोट द्वारा इसे करने के सैकड़ों घंटों के वीडियो रिकॉर्ड करने का समय नहीं है। इसके बजाय, आप बस एक बार अपने हाथों से उसे यह करते हुए दिखाना चाहते हैं।

यही वह समस्या है जिसे DemoDiffusion हल करता है। यह एक नई विधि है जो रोबोट को किसी भी विशेष प्रशिक्षण के बिना, किसी इंसान द्वारा किए गए कार्य के एक एकल वीडियो से जटिल कार्य सीखने में सक्षम बनाती है।

यह कैसे काम करता है, यहाँ कुछ रोजमर्रा के उदाहरणों के साथ समझाया गया है:

समस्या: रोबोट की गति का "अनकैनी वैली" (Uncanny Valley)

यदि आप केवल रोबोट को "मेरे हाथ की गतिविधियों की हुबहू नकल करने" के लिए कहते हैं, तो वह आमतौर पर विफल हो जाता है।

उदाहरण: कल्पना कीजिए कि आप एक छोटे बच्चे (रोबोट) को आपके उंगलियों के सटीक आंदोलनों की नकल करवाकर जूते के फीते बांधना सिखा रहे हैं। बच्चे के हाथ अलग आकार के होते हैं, ताकत अलग होती है, और वह फीतों के भौतिक विज्ञान (physics) को नहीं समझता। यदि वे आपके हाथों की बिल्कुल नकल करने की कोशिश करेंगे, तो वे संभवतः फीतों में फंस जाएंगे या जूते को खराब कर देंगे।
वास्तविकता: रोबोट और इंसानों के शरीर अलग होते हैं (embodiment)। एक मानव हाथ एक विशिष्ट तरीके से हिलने पर रोबोट का हाथ मेज से टकरा सकता है या किसी वस्तु को गिरा सकता है।

समाधान: "स्मार्ट एडिटर" दृष्टिकोण

लेखकों ने DemoDiffusion नामक एक प्रणाली बनाई है जो एक "स्मार्ट एडिटर" की तरह काम करती है। यह इंसान के "रफ ड्राफ्ट" को लेता है और उसे एक "परफेक्ट फाइनल कट" में पॉलिश करता है जिसे रोबोट वास्तव में निष्पादित कर सके।

यह दो मुख्य चरणों में होता है:

चरण 1: रफ ड्राफ्ट (काइनेमैटिक रिटारगेटिंग - Kinematic Retargeting)

सबसे पहले, सिस्टम मानव वीडियो को देखता है और मानव के हाथ को रोबोट के हाथ से जोड़ने (map करने) की कोशिश करता है।

उदाहरण: इसे एक ऐसे अनुवादक की तरह समझें जो दो भाषाएं बोलता है लेकिन एकदम सटीक नहीं है। वह आपकी बात सुनता है "लैपटॉप बंद करो" और इसे अनुवादित करता है "रोबोट, हाथ को X, Y, Z निर्देशांकों (coordinates) पर ले जाओ।"
परिणाम: यह रोबोट को एक रफ रास्ता देता है जिसका वह पालन कर सके। यह एक GPS रूट की तरह है जो आपको सही मोहल्ले तक तो पहुँचा देता है लेकिन शायद आपको दीवार के बीच से गाड़ी चलाने के लिए कह सकता है। यह गति के विचार को पकड़ता है, लेकिन यह रोबोट द्वारा स्वयं निष्पादित करने के लिए सुरक्षित या सटीक नहीं है।

चरण 2: स्मार्ट एडिटर (डिफ्यूजन पॉलिसी - Diffusion Policy)

यहीं असली जादू होता है। सिस्टम एक पूर्व-प्रशिक्षित "जनरलिस्ट AI" (एक रोबोट मस्तिष्क जिसने पहले ही लाखों वीडियो देखे हैं जिनमें रोबोट विभिन्न प्रकार के कार्य कर रहे हैं) का उपयोग करता है।

उदाहरण: कल्पना कीजिए कि आपके पास एक पेंटिंग का एक रफ स्केच है (चरण 1 से प्राप्त रोबोट का पथ)। आप इसे एक मास्टर कलाकार (डिफ्यूजन पॉलिसी) को सौंप देते हैं जो ठीक जानता है कि पेंट कैसे व्यवहार करता है, कैनवास पर रोशनी कैसे पड़ती है, और एक "अच्छी" पेंटिंग कैसी दिखती है।
प्रक्रिया: मास्टर कलाकार उस स्केच को फेंकता नहीं है। इसके बजाय, वह स्केच को देखता है, उसमें थोड़ा सा "शोर" (confusion/noise) जोड़ता है, और फिर उसे डिनोइज़ (denoise) करता है। वह रेखाओं को धीरे से ठीक करता है, परिप्रेक्ष्य (perspective) को सुधारता है, और स्ट्रोक को सुचारू बनाता है जब तक कि पेंटिंग ऐसी न दिखने लगे जैसी कोई इंसान वास्तव में पेंट कर सकता है।
रोबोट के संदर्भ में: AI रफ पथ को लेता है, उसमें कुछ यादृच्छिक "जिटर" (jitter) जोड़ता है, और फिर अपने विशाल भौतिक ज्ञान का उपयोग करके पथ को "साफ" करता है। यह सुनिश्चित करता है कि रोबोट टकराए नहीं, वस्तु पर अपनी पकड़ बनाए रखे, और सुचारू रूप से चले, जबकि वह अभी भी इंसान द्वारा किए गए कार्य के सामान्य आकार का पालन करता है।

यह एक बड़ी बात क्यों है?

वन-शॉट लर्निंग (One-Shot Learning): आपको रोबोट को केवल एक बार दिखाने की आवश्यकता है। रोबोट को घंटों अभ्यास करने की आवश्यकता नहीं है।
"रोबोट-ओनली" डेटा की आवश्यकता नहीं: आमतौर पर, रोबोट को सिखाने के लिए, आपको उस विशिष्ट कार्य को करने वाले अन्य रोबोटों के डेटा की आवश्यकता होती है। DemoDiffusion इसे छोड़ देता है। यह एक सामान्य रोबोट मस्तिष्क का उपयोग करता जो पहले से ही जानता है कि कैसे हिलना है, और बस आपके मानव वीडियो के आधार पर इसे ट्यून करता है।
यह वास्तविक दुनिया में काम करता है: अपने परीक्षणों में, उन्होंने 8 अलग-अलग कार्य (जैसे मेज पोंछना, माइक्रोवेव बंद करना, या टेडी बियर उठाना) आजमाए।
- "रफ ड्राफ्ट" विधि (केवल इंसान की नकल करना) केवल 52.5% बार सफल रही।
- "जनरलिस्ट रोबोट" (आपके वीडियो के बिना शुरू से करने की कोशिश करना) केवल 13.8% बार सफल रहा।
- DemoDiffusion (स्मार्ट एडिटर) 83.8% बार सफल रहा।

निष्कर्ष

DemoDiffusion को एक सहयोगी डांस पार्टनर के रूप में सोचें।

आप (इंसान) नृत्य की लय और सामान्य शैली प्रदान करते हैं।
AI (डिफ्यूजन पॉलिसी) मांसपेशियों की स्मृति (muscle memory) और बिना गिरे कैसे हिलना है, इसका ज्ञान प्रदान करता है।
मिलकर, वे एक ऐसा प्रदर्शन बनाते हैं जो आपके मूल विचार के प्रति वफादार है लेकिन रोबोट के शरीर के लिए पूरी तरह से अनुकूलित है।

इसका अर्थ यह है कि भविष्य में, आपको रोबोट को प्रोग्राम करने के लिए रोबोटिक्स इंजीनियर होने की आवश्यकता नहीं होगी। आप बस एक वस्तु उठा सकेंगे और उसे दिखा सकेंगे कि क्या करना है, और रोबोट बाकी सब खुद समझ लेगा।

यहाँ "DemoDiffusion: pre-trained Diffusion Policy का उपयोग करके One-Shot Human Imitation" शोध पत्र का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र अनस्ट्रक्चर्ड मानव वातावरण में रोबोटिक मैनिपुलेशन सिस्टम को तैनात करने की चुनौती को संबोधित करता है। जबकि "जनरलिस्ट" पॉलिसियाँ (बड़े पैमाने के डेटासेट पर प्रशिक्षित) विविध कार्य कर सकती हैं, वे अक्सर नए वातावरण या अनदेखे कार्यों के लिए जीरो-शॉट (zero-shot) तैनाती के दौरान विफल हो जाती हैं।

वर्तमान सीमाएँ:
- फाइन-ट्यूनिंग (Fine-tuning): जनरलिस्ट पॉलिसियों को अनुकूलित करने के लिए आमतौर पर कार्य-विशिष्ट रोबोटिक प्रदर्शनों (demonstrations) को एकत्र करने की आवश्यकता होती है, जो समय लेने वाला है और इसमें विशेषज्ञ टेलीऑपरेशन की आवश्यकता होती है।
- काइनेमैटिक रिटारगेटिंग (Kinematic Retargeting): मानव हाथ की मुद्राओं (poses) को सीधे रोबोट एंड-इफेक्टर्स में मैप करना (ओपन-लूप) अस्थिर होता है क्योंकि इसमें एम्बॉडमेंट (embodiment) का अंतर (मानव बनाम रोबोट की शारीरिक संरचना) और क्लोज्ड-लूप फीडबैक की कमी होती है।
- ऑनलाइन सुदृढीकरण शिक्षण (Online Reinforcement Learning - RL): वे विधियाँ जो ऑनलाइन RL के माध्यम से मानव प्रदर्शनों से सीखती हैं, उन्हें घंटों के इंटरैक्शन और रीसेट की आवश्यकता होती है, जिससे वे सुरक्षा-महत्वपूर्ण या वास्तविक दुनिया की तैनाती के लिए अव्यवहारिक हो जाती हैं।
लक्ष्य: एक रोब-ट को कार्य-विशिष्ट प्रशिक्षण, युग्मित मानव-रोबोट डेटा, या ऑनलाइन इंटरैक्शन के बिना, एकल मानव प्रदर्शन (single human demonstration) का अनुकरण करके एक मैनिपुलेशन कार्य करने में सक्षम बनाना।

2. कार्यप्रणाली: DemoDiffusion

DemoDiffusion एक ऐसा ढांचा (framework) है जो मानव गति से प्राप्त एक मोटे प्रक्षेपवक्र (rough trajectory) को परिष्कृत करने के लिए एक पूर्व-प्रशिक्षित जनरलिस्ट डिफ्यूजन पॉलिसी को एक 'प्रायर' (prior) के रूप में उपयोग करता है। यह विधि दो मुख्य चरणों में कार्य करती है:

A. काइनेमैटिक रिटारगेटिंग (आरंभिकरण/Initialization)

निष्कर्षण (Extraction): सिस्टम एक पूर्व-प्रशिक्षित मोनोक्यूलर हैंड पोज़ एस्टिमेटर का उपयोग करके एकल मानव प्रदर्शन वीडियो (RGBD या मल्टी-व्यू) से 3D हैंड पोज़ प्रक्षेपवक्र $\{h_t\}$ निकालता है।
मैपिंग (Mapping): एक ज्यामितीय मैपिंग फंक्शन $f_{retarget}$ $f_{r e t a r g e t}$ मानव हाथ की मुद्राओं को एक प्रारंभिक ओपन-लूप रोबोट एंड-इफेक्टर प्रक्षेपवक्र $\{\hat{a}_t\}$ ${a^t}$ में परिवर्तित करता है।
- ग्रिपर्स के लिए, यह अंगूठे और उंगली के बीच की दूरी के आधार पर ग्रैस्प विड्थ (grasp width) का अनुमान लगाता है।
- डेक्सट्रस (dexterous) हाथों के लिए, यह फिंगरटिप स्थितियों से मिलान करने के लिए इनवर्स काइनेमैटिक्स (IK) का उपयोग करता है।
सीमा (Limitation): यह प्रक्षेपवक्र एक "मोटा" (rough) आरंभिक बिंदु है। एम्बॉडमेंट के अंतर और पर्यावरणीय फीडबैक की कमी के कारण, यह अक्सर रोबोट द्वारा सीधे निष्पादित करने के लिए उप-इष्टतम या अव्यवहारिक होता है।

B. क्लोज्ड-लूप डीनॉइजिंग (परिष्करण/Refinement)

मुख्य नवाचार एक पूर्व-प्रशिक्षित डिफ्यूजन पॉलिसी $\bar{\pi}_\theta$ का उपयोग करके रिटारगेटेड प्रक्षेपवक्रम को परिष्कृत करना है।

नॉइज़ इंजेक्शन (Noise Injection): मानक जेनरेशन (जैसा कि सामान्य डिफ्यूजन में होता है) के विपरीत, DemoDiffusion एक मध्यवर्ती डिफ्यूजन स्टेप $s^*$ $s^{*}$ ( $0 < s^* < S$ $0 < s^{*} < S$ ) पर शुरू होता है।
- रिटारगेटेड प्रक्षेपवक्रम $\hat{a}_t$ को एक नॉइज़ी इंटरमीडिएट स्टेट बनाने के लिए गॉसियन नॉइज़ के साथ विक्षेपित किया जाता है: $\tilde{a}^{(s^*)}_t = \sqrt{\alpha_{s^*}}\hat{a}_t + \sqrt{1-\alpha_{s^*}}\epsilon_t$ ।
इटरेटिव डीनॉइजिंग (Iterative Denoising): पूर्व-प्रशिक्षित डिफ्यूजन पॉलिसी $s^*$ $s^{*}$ से $0$ तक रिवर्स डिफ्यूजन स्टेप्स करती है।
- कंडीशनिंग (Conditioning): प्रत्येक चरण में, पॉलिसी रोबोट के वर्तमान ऑब्जर्वेशन ( $o_{\le t}$ ) और कार्य विवरण ( $T$ ) पर आधारित (conditioned) होती है।
- तंत्र (Mechanism): पॉलिसी पुनरावृत्ति के साथ शोर (noise) को हटाती है, जो प्रभावी रूप से मानव-व्युत्पन्न "मोटे" प्रक्षेपवक्रम को संभावित रोबोट क्रियाओं (plausible robot actions) के मैनिफोल्ड पर प्रोजेक्ट करती है।
क्लोज्ड-लूप निष्पादन (Closed-Loop Execution): यह प्रक्रिया क्लोज्ड-लूप मोड में निष्पादित की जाती है। रोबोट डीनॉइजिंग प्रक्रिया के दौरान त्रुटियों (जैसे, वस्तु का फिसलना, अवरोध, या प्रारंभिक मुद्रा का गलत संरेखण) को ठीक करने के लिए वास्तविक समय के कैमरा ऑब्जर्वेशन का उपयोग करता है।

मुख्य हाइपरपैरामीटर: डिफ्यूजन स्टेप $s^*$ मानव प्रदर्शन के प्रति निष्ठा (कम $s^*$ ) और रोबोट पॉलिसी के वितरण के प्रति पालन (उच्च $s^*$ ) के बीच संतुलन को नियंत्रित करता है।

3. मुख्य योगदान (Key Contributions)

बिना प्रशिक्षण के वन-शॉट इमिटेशन: यह विधि रोबोटिक प्रदर्शन एकत्र किए बिना या पॉलिसी को फाइन-ट्यून किए बिना, केवल एक मानव वीडियो से रोबोट को नए कार्य सीखने में सक्षम बनाती है।
एम्बॉडमेंट गैप को पाटना: एक पूर्व-प्रशिक्षित डिफ्यूजन पॉलिसी को प्रायर के रूप में उपयोग करके, यह विधि काइनेमैटिक रिटारगेटिंग से उत्पन्न होने वाली संरचनात्मक त्रुटियों को ठीक करती है, जिससे क्रियाएं विशिष्ट रोबोट के लिए भौतिक रूप से व्यवहार्य सुनिश्चित होती हैं।
क्लोज्ड-लूप अनुकूलन: ओपन-लूप रिटारगेटिंग के विपरीत, DemoDiffusion वास्तविक समय के संवेदी फीडबैक को शामिल करता है, जो इसे दृश्य विविधताओं और शोर के प्रति मजबूत बनाता है।
जीरो-शॉट जनरलाइजेशन: सिस्टम उन कार्यों को भी कर सकता है जहाँ पूर्व-प्रशिक्षित जनरलिस्ट पॉलिसी पूरी तरह विफल हो जाती है, बशर्ते कि मानव प्रदर्शन उपलब्ध हो।

4. प्रयोगात्मक परिणाम (Experimental Results)

A. सिमुलेशन (डेक्सट्रस ग्रैस्पिंग)

सेटअप: विभिन्न आकारों (छोटा, मध्यम, बड़ा) की वस्तुओं को पकड़ने के लिए 16-DOF Allegro हैंड पर Objaverse डेटासेट का उपयोग करके परीक्षण किया गया।
बेसलाइन्स (Baselines): ओपन-लूप काइनेमैटिक रिटारगेटिंग बनाम बेस प्री-ट्रेंड डिफ्यूजन पॉलिसी।
परिणाम:
- DemoDiffusion: 31.0% औसत सफलता दर प्राप्त की।
- Kinematic Retargeting: 1.6% (एम्बॉडमेंट मिसमैच के कारण विफल)।
- Base Policy: 26.5% (विशिष्ट ऑब्जेक्ट कॉन्फ़िगरेशन के साथ संघर्ष किया)।
- निष्कर्ष: DemoDiffusion ने बेसलाइन्स को काफी पीछे छोड़ दिया, विशेष रूप से छोटी वस्तुओं पर जहाँ सटीकता महत्वपूर्ण है।

B. वास्तविक दुनिया का मैनिपुलेशन (Real-World Manipulation)

सेटअप: Franka Emika Panda आर्म और Robotiq ग्रिपर के साथ। 8 विविध कार्यों (जैसे, लैपटॉप बंद करना, मेज पोंछना, माइक्रोवेव बंद करना, भालू को उठाना) पर मूल्यांकन किया गया।
बेसलाइन्स:
- Pi-0: एक अत्याधुनिक पूर्व-प्रशिक्षित फ्लो-मैचिंग पॉलिसी (Physical Intelligence)।
  - Kinematic Retargeting: सीधा ओपन-लूप निष्पादन।
परिणाम (औसत सफलता दर):
- DemoDiffusion: 83.8%
- Kinematic Retargeting: 52.5%
- Pi-0 (Base Policy): 13.8%
मुख्य अवलोकन:
- DemoDiffusion उन कार्यों में सफल रहा जहाँ बेस पॉलिसी (Pi-0) पूरी तरह विफल रही (जैसे, "Wipe Table" जहाँ Pi-0 0% और DemoDiffusion 100% रहा)।
- इसने उन कार्यों में काइनेमैटिक रिटारगेटिंग से बेहतर प्रदर्शन किया जिनमें सटीक संपर्क बनाए रखने की आवश्यकता थी (जैसे, "Shut Laptop": 60% बनाम 10%)।
- मजबूती (Robustness): विधि तब भी प्रभावी रही जब 3D हैंड की-पॉइंट्स शोर युक्त थे (5 सेमी तक विस्थापित) या जब सरल रिटारगेटिंग लॉजिक (केवल अंगूठा-तर्जनी) का उपयोग किया गया था।

5. महत्व और भविष्य का कार्य (Significance and Future Work)

महत्व: DemoDiffusion यह प्रदर्शित करता है कि पूर्व-प्रशिक्षित जनरलिस्ट पॉलिसियाँ मानव इरादे (intent) को समझने के लिए शक्तिशाली "प्रायर्स" के रूप में कार्य कर सकती हैं, जो महंगे डेटा संग्रह या ऑनलाइन प्रशिक्षण के बिना मानव प्रदर्शन और रोबोट निष्पादन के बीच के अंतर को पाटती हैं। यह मानव-केंद्रित वातावरण में रोबोटों के लिए एक व्यावहारिक परिनियोजन तंत्र प्रदान करता है।
सीमाएँ:
- यह मान लेता है कि रोबोट को मानव रणनीति की नकल करनी चाहिए (यदि भौतिक बाधाओं के कारण अलग रणनीति की आवश्यकता है तो यह काम नहीं कर सकता)।
- यह कार्य की मनमानी विविधताओं के लिए पुन: प्रयोज्य नीति (reusable policy) उत्पन्न नहीं करता है (यह प्रति कार्य वन-शॉट है)।
- यह 3D हैंड पोज़ एस्टीमेशन की गुणवत्ता पर निर्भर करता है; हालांकि यह शोर के प्रति मजबूत है, अत्यधिक त्रुटियां प्रदर्शन को खराब कर सकती हैं।
- यह मानव और रोबोट की गति के बीच टेम्पोरल अलाइनमेंट (temporal alignment) को मानता है।
भविष्य की दिशाएँ: टेम्पोरल मिसअलाइनमेंट को संभालने के लिए विधि का विस्तार करना और ऑनलाइन RL के लिए एक अन्वेषण रणनीति (exploration strategy) के रूप में इसके उपयोग की खोज करना।

निष्कर्षतः, DemoDiffusion सर्वव्यापी रोबोट परिनियोजन (ubiquitous robot deployment) की ओर एक महत्वपूर्ण कदम है, जो गैर-विशेषज्ञ उपयोगकर्ताओं को केवल एक बार दिखाकर रोबोट को नए मैनिपुलेशन कौशल सिखाने में सक्षम बनाता है, जबकि पूर्व-प्रशिक्षित AI मॉडल के सुरक्षा और व्यवहार्यता के लाभों का उपयोग करता है।