← नवीनतम पेपर
🤖 AI

FlowHOI: Flow-based Semantics-Grounded Generation of Hand-Object Interactions for Dexterous Robot Manipulation

FlowHOI एक दो-चरणीय फ्लो-मैचिंग फ्रेमवर्क है जो ग्रैस्पिंग (पकड़ने) को मैनिपुलेशन (हेरफेर) से अलग करके, 3D गॉसियन स्प्लेटिंग दृश्य पुनर्निर्माणों का लाभ उठाकर, और एगोजेंटिक (स्व-केंद्रित) वीडियो से प्राप्त एक बड़े पैमाने के HOI प्रायर (prior) का उपयोग करके, डिफ्यूजन-आधारित बेसलाइन की तुलना में बेहतर सटीकता, भौतिक सिमुलेशन सफलता और अनुमान गति प्राप्त करते हुए, कुशल रोबोट मैनिपुलेशन के लिए अर्थपूर्ण रूप से सुदृढ़ और सामयिक रूप से सुसंगत हैंड-ऑब्जेक्ट इंटरेक्शन अनुक्रम उत्पन्न करता है।

मूल लेखक: Huajian Zeng, Lingyun Chen, Jiaqi Yang, Yuantai Zhang, Fan Shi, Peidong Liu, Xingxing Zuo

प्रकाशित 2026-02-17
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Huajian Zeng, Lingyun Chen, Jiaqi Yang, Yuantai Zhang, Fan Shi, Peidong Liu, Xingxing Zuo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को कॉफी बनाना सिखा रहे हैं। आप केवल रोबोट के हाथ को बिंदु A से बिंदु B तक ले जाना नहीं चाहते; आप चाहते हैं कि वह मग को पकड़े (grasp), पानी को बिना गिराए पोर (pour) करे, और उसे धीरे से कोस्टर पर रखे (place)

वर्तमान रोबोट अक्सर इसमें संघर्ष करते हैं। वे अपने हाथ को सुचारू रूप से हिला सकते हैं, लेकिन मग गिरा सकते हैं, या वे "कॉफी पोर करें" शब्दों को समझ सकते हैं लेकिन यह समझने में विफल हो सकते हैं कि उनकी उंगलियों को हैंडल के चारों ओर कैसे मुड़ना चाहिए।

यह पेपर FlowHOI को पेश करता है, जो एक नया AI सिस्टम है जिसे रोबोट के हाथों के लिए "कोरियोग्राफर" (choreographer) के रूप में डिज़ाइन किया गया है। यह केवल रोबोट को यह नहीं बताता कि कहाँ जाना है; यह एक विस्तृत, भौतिक रूप से यथार्थवादी स्क्रिप्ट तैयार करता है कि हाथों को वस्तुओं को ठीक से कैसे छूना, पकड़ना और हिलाना चाहिए।

यहाँ बताया गया है कि यह कैसे काम करता है, कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग करते हुए:

1. समस्या: "भोंडा डांसर" (The Clumsy Dancer)

वर्तमान रोबट AI को एक ऐसे डांसर के रूप में सोचें जो कदम तो जानता है लेकिन अपने ही पैरों में उलझकर गिर जाता है। वे अपने हाथों (end-effectors) को वीडियो या कमांड के आधार पर हिला सकते हैं, लेकिन वे वास्तव में संपर्क (contact) को नहीं समझते हैं। वे नहीं जानते कि यदि वे कप को बहुत जोर से दबाते हैं, तो वह पलट जाएगा, या उन्हें स्पंज को पकड़ने के लिए उसे बिल्कुल सही तरीके से दबाने की आवश्यकता है।

2. समाधान: FlowHOI (द स्मार्ट कोरियोग्राफर)

FlowHOI एक मास्टर कोरियोग्राफर की तरह है जो संगीत शुरू होने से पहले ही एक परफेक्ट डांस स्क्रिप्ट लिख देता है। यह तीन चीजें इनपुट के रूप में लेता है:

  • आप क्या देखते हैं: दृश्य का एक वीडियो (जैसे रोबोट की आँखों से देखना)।
  • आप क्या कहते हैं: एक टेक्स्ट कमांड (जैसे, "लाल मग उठाओ")।
  • स्टेज: कमरे का एक 3D मैप (ताकि रोबोट को पता चले कि मेज और दीवारें कहाँ हैं)।

फिर यह एक हैंड-ऑब्जेक्ट इंटरैक्शन (HOI) अनुक्रम आउटपुट करता है। यह एक विस्तृत टाइमलाइन है जो दिखाती है कि उंगलियों को कैसे हिलना चाहिए, उन्हें वस्तु को कहाँ छूना चाहिए, और वस्तु को प्रतिक्रिया में कैसे हिलना चाहिए।

3. सीक्रेट सॉस: दो-चरणीय "फ्लो" (Two-Stage "Flow")

लेखकों ने महसूस किया कि सब कुछ एक साथ करने की कोशिश करना बहुत कठिन है। इसलिए, उन्होंने इस काम को दो अलग-अलग चरणों में विभाजित किया, जैसे कि एक दो-अंकों वाला नाटक:

  • अंक 1: "ग्रैस्प" (ज्यामिति पर ध्यान - Geometry Focus)

    • उपमा: इसे ताले और चाबी के रूप में सोचें। रोबोट पहले वस्तु के भौतिक आकार को समझता है और यह पता लगाता है कि उसकी उंगलियां उसके चारों ओर कैसे फिट होंगी। वह एक पल के लिए कार्य के "अर्थ" को अनदेखा कर देता है और केवल इस पर ध्यान केंद्रित करता है कि "मैं इसे बिना गिराए कैसे पकड़ूँ?"
    • जादू: उन्होंने इस हिस्से को मनुष्यों द्वारा किए जाने वाले कार्यों (जैसे जार खोलना या फोन पकड़ना) के वीडियो के एक विशाल पुस्तकालय पर प्रशिक्षित किया है। यह रोबोट को स्वाभाविक रूप से चीजों को पकड़ने का "मसल मेमोरी" (muscle memory) देता है।
  • अंक 2: "मैनिपुलेशन" (अर्थ विज्ञान पर ध्यान - Semantics Focus)

    • उपमा: अब जब रोबोट ने वस्तु को पकड़ लिया है, तो उसे जानना होगा कि क्या करना है। यदि कमांड "पोर" (pour) है, तो रोबोट मग को झुकाना जानता है। यदि कमांड "ढक्कन पेंच की तरह घुमाना" (screw on the lid) है, तो वह घुमाना जानता है।
    • जादू: यह चरण भाषा कमांड और 3D कमरे के लेआउट को देखता है ताकि यह सुनिश्चित हो सके कि क्रिया तर्कसंगत है। यह सुनिश्चित करता है कि रोबोट उस कप में पानी न डालने की कोशिश करे जो पहले से ही भरा हुआ है या मेज के गलत तरफ है।

4. "डिफ्यूजन" नहीं बल्कि "फ्लो" क्यों?

अधिकांश आधुनिक AI "डिफ्यूजन" (Diffusion) नामक विधि का उपयोग करते हैं, जो धुंध को धीरे-धीरे उड़ाकर साफ करने जैसा है। इसमें बहुत समय (सेकंडों में) लगता है और कई चरणों की आवश्यकता होती है।

FlowHOI फ्लो मैचिंग (Flow Matching) का उपयोग करता है।

  • उपमा: एक नदी की कल्पना करें। धुंध को उड़ाने के बजाय, FlowHOI धारा को खोजता है और पानी (रोबोट की गति) को शुरुआत के बिंदु से अंत के बिंदु तक एक सीधी, सुचारू रेखा में स्वाभाविक रूप से बहने देता है।
  • परिणाम: यह पिछले तरीकों की तुलना में 40 गुना तेज़ है। जबकि अन्य रोबोट 6 सेकंड तक "सोच" रहे होते हैं, FlowHOI ने 0.16 सेकंड में गति उत्पन्न कर ली होती है। यह गति वास्तविक समय के रोबोट नियंत्रण के लिए महत्वपूर्ण है।

5. "रियलिटी चेक" (भौतिक सिमुलेशन - Physics Simulation)

एक सुंदर एनीमेशन बनाना आसान है; इसे वास्तविक दुनिया में काम कराना कठिन है।

  • लेखकों ने एक भौतिक सिम्युलेटर (एक उन्नत वीडियो गेम इंजन की तरह) में अपने सिस्टम का परीक्षण किया।
  • उन्होंने पाया कि FlowHOI की गतियाँ अगली सबसे अच्छी विधि की तुलना में 1.7 गुना अधिक सफल होने की संभावना रखती हैं।
  • उन्होंने वास्तविक रोबोटों (Franka Panda आर्म्स और कुशल हाथों के साथ) पर भी इसका परीक्षण किया। रोबोटों ने तरल पदार्थ डालने, कंटेनर को झुकाने और ड्रेसिंग की बोतलों को दबाने जैसे कार्यों को सफलतापूर्वक पूरा किया, जिससे साबित हुआ कि "कोरियोग्राफी" वास्तविक जीवन में काम करती है।

सारांश

FlowHOI एक ऐसा सिस्टम है जो रोबोट को यह सिखाता है कि उनके हाथ दुनिया को कैसे छूते हैं। पकड़ने (grabbing - भौतिकी) और करने (doing - अर्थ) के कार्य को अलग करके, और एक धीमे "डिफ्यूजन" विधि के बजाय एक तेज़ "फ्लो" विधि का उपयोग करके, यह रोबोट को मानवीय निपुणता और गति के साथ जटिल, नाजुक कार्य करने की अनुमति देता है।

यह एक ऐसे रोबोट के बीच का अंतर है जो अंधे होकर अपना हाथ हिलाता है और एक ऐसे रोबोट के बीच जो वास्तव में जानता है कि कॉफी का कप कैसे पकड़ा जाता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →