🤖 AI

PATCH: Action-Chunk-Conditioned Latent Patch Innovation Monitoring for Robot Manipulation

यह शोधपत्र PATCH को प्रस्तुत करता है, जो एक एक्शन-चंक-कंडीशन्ड लेटेंट पैच इनोवेशन मॉनिटर है, जो गतिशील वातावरण में रोबोटिक हेरफेर की मजबूती को बढ़ाने के लिए कार्य-प्रासंगिक निष्पादन जोखिमों को सौम्य दृश्य विविधताओं से अलग करता है ताकि स्थानीयकृत हस्तक्षेप और नीति पुनरारंभ को ट्रिगर किया जा सके।

मूल लेखक: Yanan Zhou, Ranpeng Qiu, Yincong Chen, Jiajie Cui, Weiming Zhi

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yanan Zhou, Ranpeng Qiu, Yincong Chen, Jiajie Cui, Weiming Zhi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोटिक आर्म को तौलिया तह करना या कप को शेल्फ पर रखना सिखा रहे हैं। जब सब कुछ एकदम सही होता है, तो यह रोबोट इसमें बहुत माहिर होता है। लेकिन क्या होता है जब कोई पास से गुजरता है, एक बिल्ली मेज पर कूद जाती है, या कैमरे के सामने कागज का एक टुकड़ा उड़कर आता है?

पुराने रोबोट सिस्टम मामूली बदलाव से भी घबरा जाते हैं। अगर कैमरा कुछ नया देखता है, तो रोबोट सोच सकता है, "ओह नहीं, मैं असफल हो रहा हूँ!" और सब कुछ रोक सकता है, भले ही वह नई वस्तु हानिरहित हो। या, वह किसी वास्तविक समस्या को अनदेखा कर सकता है क्योंकि वह अपनी ही गतिविधियों पर बहुत अधिक केंद्रित है।

यह पेपर PATCH को पेश करता है, जो रोबोट के लिए एक नया "स्मार्ट वॉचडॉग" (सतर्क प्रहरी) है। इसका काम यह पता लगाना है कि रोबोट को ठीक कब रुकना चाहिए और मदद मांगनी चाहिए, और कब उसे बस अपना काम जारी रखना चाहिए।

यहाँ बताया गया है कि PATCH कैसे काम करता है, सरल उपमाओं का उपयोग करके:

1. "भविष्य का पथ" मानचित्र (द प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर)

कल्पना कीजिए कि आप कार चला रहे हैं। आप इस बात की चिंता नहीं करते कि आपके बाईं ओर 100 फीट दूर एक पेड़ पर एक पक्षी बैठा है; आपको केवल अपने सामने की सड़क की परवाह है।

PATCH भी ऐसा ही करता है। यह रोबोट के "एक्शन चंक" (अगले कुछ सेकंड की नियोजित गतिविधि) को देखता है और कैमरे के दृश्य में एक आभासी सुरंग या "कॉरिडोर" बनाता है। यह सुरंग दिखाती है कि रोबोट का हाथ आगे कहाँ जाने वाला है।

जादू: यदि कोई बदलाव इस सुरंग के बाहर होता है (जैसे दीवार पर एक नया पोस्टर), तो PATCH उसे अनदेखा कर देता है। इसे केवल सुरंग के अंदर होने वाले बदलावों की परवाह है।

2. "सेल्फ-मोशन" (स्व-गति) फ़िल्टर

जब आप अपना हाथ हिलाते हैं, तो आपके आस-पास की दुनिया भी हिलती हुई दिखती है, भले ही वास्तव में आपका हाथ हिल रहा हो। रोबोट भी इससे भ्रमित हो जाते हैं।

PATCH के पास एक विशेष फ़िल्टर है जो कहता है, "रुको, वह धुंधलापन सिर्फ मेरे अपने हाथ की गति है, कोई नई वस्तु नहीं।" यह चित्र से रोबोट की अपनी गतिविधियों को घटा देता है।

जादू: यदि रोबोट अपने ग्रिपर को हिलाता है और चित्र बदल जाता है, तो PATCH समझ जाता है कि यह सामान्य है। उसे केवल तभी संदेह होता है जब कुछ ऐसा बदलता है जिसे रोबोट ने स्वयं नहीं किया।

3. "पर्सिस्टेंस" (निरंतरता) की जाँच (पलक झपकने पर घबराएं नहीं)

कभी-कभी, एक छाया तेजी से गुजर जाती है, या एक हाथ एक पल के लिए कैमरे के सामने लहराता है। एक मूर्ख अलार्म तुरंत बज उठेगा।

PATCH धैर्यवान है। वह यह देखने के लिए इंतजार करता है कि क्या वह अजीब वस्तु वहाँ बनी रहती है। यह कुछ सेकंड तक सबूत इकट्ठा करता है।

जादू: यदि एक बिल्ली तेजी से निकल जाती है (क्षणिक), तो PATCH कहता है, "बस एक क्षणिक गड़बड़ी, काम जारी रखें।" लेकिन यदि एक बॉक्स रोबोट के रास्ते में फंस जाता है और वहीं रहता है (स्थायी), तो PATCH कहता है, "ठीक है, यह एक वास्तविक समस्या है। रुक जाओ!"

4. "रूटर" (ट्रैफिक कंट्रोलर)

एक बार जब PATCH तय कर लेता है कि वास्तव में कोई समस्या है, तो वह केवल रोबोट को बंद नहीं करता है। वह एक रूटर को संकेत भेजता है।

रूटर का काम: यह समस्या को देखता है और सबसे अच्छा समाधान तय करता है।
- क्या रोबोट इसे खुद ठीक कर सकता है? (स्व-रिकवरी)
- क्या पास में कोई दूसरा रोबोट है जो उस समस्या तक पहुँच सकता है? (सहकर्मी रोबोट की मदद)
- क्या हमें इंसान की मदद की जरूरत है? (मानवीय मदद)
सबसे अच्छी बात: एक बार जब समस्या हल हो जाती है (जैसे, बॉक्स को हटा दिया जाता है), तो रूटर रोबोट को ठीक उसी जगह से फिर से शुरू करने के लिए कहता है जहाँ से उसने छोड़ा था। यह पूरे कार्य को शुरू से फिर से शुरू नहीं करता है।

यह पहले की तुलना में बेहतर क्यों है?

पेपर ने वास्तविक रोबोटों का उपयोग करके अन्य तरीकों के मुकाबले PATCH का परीक्षण किया।

पुराने तरीके एक स्मोक डिटेक्टर की तरह थे जो ब्रेड टोस्ट होने पर भी बज उठता है (बहुत संवेदनशील) या एक गार्ड की तरह जो गलत दीवार की ओर देख रहा है इसलिए आग को अनदेखा कर देता है (बहुत अंधा)।
PATCH एक ऐसे सुरक्षा गार्ड की तरह है जो जानता है कि रोबोट कहाँ जा रहा है। यह फर्श की धूल (अप्रासंगिक बदलावों) और रोबोट के अपने लहराते हाथ (स्व-गति) को अनदेखा करता है, लेकिन यह तुरंत रास्ते में आए बॉक्स को पहचान लेता है और मदद के लिए पुकारता है।

परिणाम: प्रयोगों में, PATCH ने अन्य प्रणालियों की तुलना में बहुत कम गलतियाँ (फॉल्स अलार्म) कीं। इसने रोबोट को मामूली विकर्षणों के बावजूद काम जारी रखने दिया लेकिन वास्तविक बाधा आने पर सफलतापूर्वक रुकने और रिकवर करने में मदद की, जिससे कार्य पूरा करने की सफलता दर में काफी वृद्धि हुई।

संक्षेप में: PATCH रोबोटों को "बैकग्राउंड शोर" और "वास्तविक परेशानी" के बीच अंतर करने की क्षमता देता है, जिससे उन्हें अव्यवस्थित, अप्रत्याशित वास्तविक दुनिया के वातावरण में अधिक सुरक्षित और स्वतंत्र रूप से काम करने की अनुमति मिलती है।

तकनीकी सारांश: PATCH – एक्शन-चंक-कंडीशनड लेटेंट पैच इनोवेशन मॉनिटरिंग

समस्या विवरण

लर्निंग-आधारित रोबोटिक मैनिपुलेशन पॉलिसी, विशेष रूप से वे जो एक्शन चंकिंग (जैसे, एक्शन चंकिंग विद ट्रांसफॉर्मर्स) का उपयोग करती हैं, निरंतर और सूक्ष्म नियंत्रण अनुक्रम उत्पन्न करने में काफी उन्नत हुई हैं। हालाँकि, खुले और गतिशील वर्कस्पेस में इन पॉलिसी को तैनात करना नाजुक बना हुआ है। मौजूदा रनटाइम मॉनिटर्स अक्सर वैश्विक अवलोकन विसंगतियों (global observation anomalies), पॉलिसी अनिश्चितता, या फ्रेम-स्तरीय दृश्य परिवर्तनों पर निर्भर करते हैं। ये दृष्टिकोण कार्य-प्रासंगिक निष्पादन जोखिमों (जैसे, एक बाधा जो नियोजित गति को रोक रही है) और सौम्य दृश्य विविधताओं (जैसे, अप्रासंगिक स्थिर क्लटर, क्षणिक अवरोध, या रोबोट के तत्काल पथ के बाहर के व्यवधान) के बीच अंतर करने में संघर्ष करते हैं।

वर्तमान विधियाँ गैर-महत्वपूर्ण दृश्य परिवर्तनों पर गलत अलार्म (false alarms) ट्रिगर करती हैं या उन निरंतर बाधाओं का पता लगाने में विफल रहती हैं जो उस विशिष्ट क्षेत्र में स्थित हैं जिसका रोबोट उपयोग करने का इरादा रखता है। मुख्य चुनौती एक ऐसी निगरानी प्रणाली विकसित करना है जो यह निर्धारित कर सके कि दृश्य विकास न केवल सक्रिय एक्शन चंक के लिए असामान्य है, बल्कि उस क्षेत्र तक भी सीमित है जिसका पॉलिसी उपयोग करेगी, न कि केवल असामान्य अवलोकनों को वैश्विक स्तर पर पहचानने के बारे में है।

वर्तमान विधियाँ अक्सर गैर-महत्वपूर्ण दृश्य परिवर्तनों पर गलत अलार्म ट्रिगर करती हैं या उन निरंतर बाधाओं का पता लगाने में विफल रहती हैं जो उस विशिष्ट क्षेत्र में स्थित हैं जिसका रोबोट उपयोग करने का इरादा रखता है। मुख्य चुनौती एक ऐसी निगरानी प्रणाली विकसित करना है जो यह निर्धारित कर सके कि दृश्य विकास न केवल सक्रिय एक्शन चंक के लिए असामान्य है, बल्कि उस क्षेत्र तक भी सीमित है जिसका पॉलिसी उपयोग करेगी, न कि केवल असामान्य अवलोकनों को वैश्विक स्तर पर पहचानने के बारे में है।

कार्यप्रणाली: PATCH ढांचा

यह शोध पत्र PATCH (एक्शन-चंक-कंडीशनड लेटेंट पैच इनोवेशन मॉनिटर) पेश करता है, जो डिप्लॉयमेंट-टाइम इंटरवेंशन (तैनाती-समय हस्तक्षेप) के लिए डिज़ाइन किया गया एक सिस्टम है। PATCH, एक सक्रिय एक्शन चंक के आधार पर एक "प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर" (प्रक्षेपित निष्पादन गलियारा) को परिभाषित करके और इस विशिष्ट क्षेत्र के भीतर निरंतर बाहरी विचलन की निगरानी करके कार्य करता है।

1. समस्या सूत्रीकरण

प्रत्येक कंट्रोल स्टेप $t$ पर, मॉनिटर सक्रिय पॉलिसी आइडेंटिटी $\pi_t$ , एक्शन चंक $U_t$ , और सेंसर डेटा (टॉप-व्यू और रिस्ट-व्यू इमेज, जॉइंट स्टेट, और एफर्ट) प्राप्त करता है। लक्ष्य यह है कि हस्तक्षेप केवल तभी ट्रिगर हो जब प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर (वह इमेज क्षेत्र जो निकट-अवधि की गति से प्रभावित है) में निरंतर बाहरी लेटेंट इनोवेशन मौजूद हो, जिसे सामान्य रोबोट-कंडीशनड निष्पादन द्वारा स्पष्ट नहीं किया जा सकता है।

2. मुख्य घटक

PATCH मॉनिटर चार एकीकृत घटकों से बना है:

रोबोट-कंडीशनड लेटेंट डायनेमिक्स:
फ्रोजन डेंस विजुअल एनकोडर्स का उपयोग करते हुए, सिस्टम टॉप-व्यू और रिस्ट-व्यू इमेज को लेटेंट फील्ड्स में एनकोड करता है। एक हल्का स्पैटियल ConvNet हालिया बिलीफ हिस्ट्री, रिस्ट कॉन्टेक्स्ट, रोबोट स्टेट और सक्रिय एक्शन चंक को देखते हुए अपेक्षित टॉप-व्यू लेटेंट स्टेट ( $\mu_t, \sigma_t$ ) की भविष्यवाणी करता है। यह भविष्यवाणी "सामान्य" विकास के लिए एक बेसलाइन स्थापित करती है। इनोवेशन को इस भविष्यवाणी के विरुद्ध देखे गए लेटेंट स्टेट के नेगेटिव लॉग-लाइक्लीहुड के रूप में स्कोर किया जाता है।
सेल्फ-मोशन फ़िल्टरिंग:
रोबोट की अपनी गतिविधियों (हाथ की गति, ग्रिपर की गति, संपर्क, या वस्तु पकड़ना) को गलत अलार्म ट्रिगर करने से रोकने के लिए, PATCH एक सेल्फ-मोशन सपोर्ट मैप ( $S_t$ ) की गणना करता है। यह मैप रोबोट की ज्यामिति और टूल-सेंटर-ऑफ-पॉइंट (TCP) स्वीप को टॉप-व्यू इमेज में प्रोजेक्ट करता है। देखे गए इनोवेशन को $S_t$ द्वारा फ़िल्टर किया जाता है, जिससे यह सुनिश्चित होता है कि रोबोट के अपने निष्पादन द्वारा स्पष्ट परिवर्तनों को दबा दिया जाए।
प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर:
सक्रिय एक्शन चंक को एक अपेक्षित रोबोट ट्रेजेक्टरी में डिकोड किया जाता है और एक TCP पाथ में मैप किया जाता है। इस पाथ को निष्पादन सहनशीलता (execution tolerance) के लिए फैलाया जाता है और लेटेंट पैच ग्रिड के साथ संरेखित किया जाता है ताकि प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर ( $P_t$ ) बनाया जा सके। यह निगरानी को केवल उस विशिष्ट क्षेत्र तक सीमित करता है जो आगामी कार्य के लिए प्रासंगिक है।
बिलीफ मेमोरी और एविडेंस एक्यूमुलेशन:
एक बिलीफ मेमोरी मॉड्यूल स्थिर संदर्भ बनाए रखने के लिए देखा गया लेटेंट रिटेन करता है जब इनोवेशन कम होता है या स्वयं-स्पष्ट होता है, लेकिन जब बाहरी इनोवेशन सक्रिय होता है तो बिलीफ को अनुमानित सामान्य लेटंड्स से भर देता है। यह सुनिश्चित करता है कि निरंतर बाहरी वस्तुएं नया "नॉर्मल" न बन जाएं।
सिस्टम स्थानीयकृत एविडेंस स्कोर ( $\rho_t$ ) उत्पन्न करने के लिए बाहरी इनोवेशन एविडेंस को प्रोजेक्टेड कॉरिडोर के साथ इंटरसेक्ट करता है। क्षणिक परिवर्तनों को दबाने के लिए टेम्पोरल एक्यूमुलेशन और हिस्टेरेसिस (लैचिंग) लागू किए जाते हैं। केवल कॉरिडोर के भीतर निरंतर इनोवेशन ही एक स्ट्रक्चर्ड इंटरवेंशन सिग्नल ( $I_t$ ) उत्पन्न करता है।

3. PATCH-Router इंटरवेंशन इंटरफेस

इंटरवेंशन सिग्नल $I_t$ को PATCH-Router को भेजा जाता है, जो इंटरवेंशन टाइमस्केल (कंट्रोल लूप से धीमा) पर कार्य करता है। राउटर हस्तक्षेप मोड चुनने के लिए ट्रिगर, स्थानीयकृत एविडेंस रीजन, एविडेंस स्कोर और सक्रिय पॉलिसी कॉन्टेक्स्ट का उपयोग करता है:

होल्ड (Hold): ग्रैस्प और पॉलिसी स्टेट को सुरक्षित रखता है।
सेल्फ-रिकवरी (Self-Recovery): एक रिकवरी स्किल निष्पादित करता है यदि वह संरक्षित अवस्था को बदले बिना स्थानीयकृत क्षेत्र को संबोधित करती है।
पियर-रोबोट इंटरवेंशन (Peer-Robot Intervention): कंट्रोल को दूसरे रोबोट को रूट करता है यदि कार्य करने वाले रोबोट को रुकना पड़ता है और एक पियर (साथी रोबोट) बाधा तक पहुँच सकता है।
ह्यूमन इंटरवेंशन (Human Intervention): मानव सहायता का अनुरोध करता है यदि कोई स्वचालित रिकवरी संभव नहीं है।

महत्वपूर्ण रूप से, मूल पॉलिसी का पुनरुद्धार (resumption) केवल तब ट्रिगर होता है जब सक्रिय क्षेत्र में स्थानीयकृत एविडेंस क्लियर हो जाता है, न कि किसी निश्चित टाइमआउट द्वारा।

मुख्य योगदान

एक्शन-चंक-कंडीशनड मॉनिटरिंग का सूत्रीकरण: यह पेपर एक ऐसी निगरानी पद्धति प्रस्तावित करता है जो सक्रिय पॉलिसी के प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर के भीतर विशेष रूप से निरंतर बाहरी विचलन का पता लगाती है, जो वैश्विक अवलोकन परिवर्तन या पॉलिसी अनिश्चितता से आगे बढ़ती है।
PATCH मॉनिटर: एक लेटेंट पैच मॉनिटर जो कॉरिडोर के भीतर विजुअल इवोल्यूशन की भविष्यवाणी करता है, सेल्फ-मोशन-प्रेरित परिवर्तनों को कम करता है, और निरंतर अस्पष्ट अवशेषों (residuals) को डिप्लॉयमेंट-टाइम इंटरवेंशन सिग्नल्स में संचित करता है।
रियल-रोबोट इवैल्यूएशन: वास्तविक रोबोट रोलआउट डेटा पर व्यापक मूल्यांकन, जिसमें घटक एब्लेशन और बाधाओं की उपस्थिति में मॉनिटर-ड्रिवन इंटरवेंशन और पॉलिसी रिसम्पशन के लिए PATCH-Router का प्रदर्शन शामिल है।

प्रयोगात्मक परिणाम

लेखकों ने टॉवल फोल्डिंग और कप-टू-रैक प्लेसमेंट जैसे कार्यों के लिए दो AgileX Piper आर्म्स वाले वास्तविक रोबोट प्लेटफॉर्म पर PATCH का मूल्यांकन किया।

ऑफलाइन बेंचमार्क (एक्शन-कॉरिडोर ट्रिगर):
- बेसलाइन्स: PCA-kmeans (ग्लोबल OOD), RND-A (एक्शन-कंडीशनड प्रेडिक्शन एरर), FIPER-स्टाइल (स्केलर फेलियर प्रेडिक्शन), और DINO-Latent Innovation (डेंस पैच चेंज) के विरुद्ध तुलना की गई।
- प्रदर्शन: PATCH ने उच्चतम बैलेंस्ड एक्यूरेसी (0.96) और निरंतर बाधाओं पर ट्रू पॉजिटिव रेट (TPR $_{C4}$ = 0.97) प्राप्त किया, जबकि अप्रासंगिक स्थिर परिवर्तनों (FPR $_{C2}$ = 0.04) और क्षणिक बाधाओं (FPR $_{C3}$ = 0.07) पर अत्यंत कम फॉल्स पॉजिटिव रेट बनाए रखा।
- एब्लेशन: प्रोजेक्टेड कॉरिडोर या सेल्फ-मोशन फ़िल्टरिंग को हटाने से क्षणिक और अप्रासंगिक परिवर्तनों पर गलत अलार्म काफी बढ़ गए, जो चयनात्मक हस्तक्षेप के लिए इन घटकों की आवश्यकता की पुष्टि करते हैं।
ऑनलाइन रियल-रोबोट डिप्लॉयमेंट:
- वर्कस्पेस डिस्टर्बेंस (जैसे, पथ में बाधाओं का आना, रैक का गिरना) के साथ क्लोज्ड-लूप प्रयोगों में, PATCH ने FIPER-स्टाइल और VLM-आधारित मॉनिटर्स की तुलना में बेहतर प्रदर्शन किया।
- टास्क कंप्लीशन: PATCH ने 85% टास्क कंप्लीशन रेट हासिल किया, जो FIPER-स्टाइल (30%) और VLM मॉनिटर्स (15%) से काफी बेहतर है।
- रिसम्पशन (Resumption): PATCH ने 90% सटीकता के साथ सही ढंग से एविडेंस क्लीयरेंस की पहचान की और मूल पॉलिसी को फिर से शुरू किया, जबकि अन्य मॉनिटर्स निरंतर ब्लॉकेज और क्लियर स्टेट के बीच अंतर करने में संघर्ष करते रहे।

महत्व और दावे

यह पेपर दावा करता है कि PATCH रोबोटिक मैनिपुलेशन में रनटाइम मॉनिटरिंग के लिए एक अधिक स्थिर और संदर्भ-प्रासंगिक तंत्र प्रदान करता है। सक्रिय एक्शन चंक का उपयोग करके प्रोजेक्टेड एक्जीक्यूशन कॉरिडोर को परिभाषित करके, सिस्टम प्रभावी रूप से कार्य-प्रासंगिक जोखिमों को सौम्य विजुअल नॉइज़ से अलग करता है।

लेखक इस बात पर जोर देते हैं कि एक्शन चंक स्थानीयकृत रनटाइम मॉनिटरिंग के लिए उपयोगी धारणा संरचना (perceptual structure) प्रदान करते हैं। यह सिस्टम एक ऐसा इंटरवेंशन-ड्रिवन रिकवरी की अनुमति देता है जहाँ रोबोट रुक सकता है, किसी साथी या मानव को कार्य सौंप सकता है, और मूल पॉलिसी को फिर से शुरू कर सकता है जब विशिष्ट स्थानीयकृत व्यवधान हल हो जाता है, बजाय इसके कि पूरे कार्य को रीसेट किया जाए।

सीमाएँ: लेखक नोट करते हैं कि PATCH वर्तमान में फिक्स्ड कैमरा व्यूपॉइंट से देखे गए कैलिब्रेटेड वर्कस्पेस को मानता है। यह बड़े व्यूपॉइंट परिवर्तनों, कैमरा मोशन, गंभीर अवरोध (occlusion), और अनस्ट्रक्चर्ड मोबाइल ऑपरेशंस के प्रति मजबूती को सीमित करता है जहाँ वर्कस्पेस अलाइनमेंट शिफ्ट हो सकता है। भविष्य के कार्य के लिए विधि को चलते हुए प्लेटफॉर्म पर विस्तारित करने हेतु ऑनलाइन कैलिब्रेशन की आवश्यकता होगी।