🤖 AI

FOCA: Future-Oriented Conditioning for Data-Efficient Vision-Language-Action Adaptation

विज़न-लैंग्वेज-एक्शन मॉडल्स में फ्यू-शॉट परिदृश्यों के दौरान प्रदर्शन में होने वाली तीव्र गिरावट को संबोधित करने के लिए, यह शोध पत्र FOCA पेश करता है, जो एक भविष्योन्मुखी कंडीशनिंग फ्रेमवर्क है जो सिम्युलेटेड और वास्तविक रोबोट दोनों पर अत्याधुनिक डेटा-कुशल अनुकूलन प्राप्त करने के लिए लेटेंट-स्पेस फ्यूचर प्रेडिक्शन और गोल अलाइनमेंट का लाभ उठाता है।

मूल लेखक: Duc Minh Nguyen, Nghiem Tuong Diep, Binh Gia Nguyen, Trong-Bao Ho, Doanh Le, Tan Q. Nguyen, Thien-Loc Ha, Nhiem Tran, Bao Thach, Nhat X. Tran, Tuan A. Tran, Artur Habuda, Philip Lund Møller, Tran Nguy

प्रकाशित 2026-06-23

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Duc Minh Nguyen, Nghiem Tuong Diep, Binh Gia Nguyen, Trong-Bao Ho, Doanh Le, Tan Q. Nguyen, Thien-Loc Ha, Nhiem Tran, Bao Thach, Nhat X. Tran, Tuan A. Tran, Artur Habuda, Philip Lund Møller, Tran Nguyen Le, Daniel Sonntag, Matthias Niepert, Khoa D. Doan, Vu Duong, Hung Ngo, Minh N. Vu, Duy M. H. Nguyen, An Thai Le, Ngo Anh Vien

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को सैंडविच बनाना सिखाने की कोशिश कर रहे हैं। अतीत में, रोबोट को यह काम अच्छी तरह से करने के लिए सक्षम बनाने के लिए, आपको खुद सैंडविच बनाने का सैकड़ों बार वीडियो बनाना पड़ता था, जिसमें आपकी हर एक हरकत दिखाई जाती थी। यह महंगा और धीमा था।

यह शोध पत्र FOCA (फ्यूचर-ओरिएंटेड कंडिशनिंग) नामक एक नई विधि पेश करता है जो रोबोट को बहुत कम उदाहरणों का उपयोग करके इन कार्यों को बहुत तेज़ी से सीखने में मदद करती है। यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ समझाया गया है:

समस्या: "अंधा" रोबोट

वर्तमान रोबोट उन छात्रों की तरह हैं जो निर्देशों के एक विशिष्ट सेट को याद करने में बहुत अच्छे हैं लेकिन वे जो वे कर रहे हैं उसकी कहानी समझने में बहुत खराब हैं।

पुराना तरीका: यदि आप रोबोट को कप उठाने का वीडियो दिखाते हैं, तो रोबोट बस सीखता है "हाथ को कप की ओर ले जाओ, पकड़ो।" यदि आप कप को थोड़ा सा हिला देते हैं या रोशनी बदल जाती है, तो रोबोट भ्रमित हो जाता है।
तनाव परीक्षण (Stress Test): लेखकों ने बहुत कम उदाहरणों (केवल 10 से 30 वीडियो) के साथ शीर्ष-स्तरीय रोबोट का परीक्षण किया। रोबोट बुरी तरह विफल रहे। उन्होंने महसूस किया कि केवल रोबोट को "क्या करना है" दिखाना ही काफी नहीं है; रोबोट को यह समझने की भी आवश्यकता है कि "यह कहाँ जा रहा है।"

समाधान: FOCA (एक "क्रिस्टल बॉल" दृष्टिकोण)

FOCA भविष्य देखने के लिए रोबोट को एक "क्रिस्टल बॉल" देकर यह तरीका बदल देता है, लेकिन किसी जादुई तरीके से नहीं। यह दो विशिष्ट तरकीबों का उपयोग करता है:

1. स्पष्ट भविष्यवाणी (द "स्पॉटलाइट")

पूरी भविष्य की दुनिया को अनुमान लगाने की कोशिश करने के बजाय (जो कि पेड़ के हर एक पत्ते को चित्रित करने जैसा है), FOCA केवल महत्वपूर्ण हिस्सों पर एक स्पॉटलाइट डालता है।

उपमा: कल्पना करें कि आप टेनिस खेलना सीख रहे हैं। आकाश या बादलों के रंग को याद करने के बजाय, आप केवल गेंद और रैकेट पर ध्यान केंद्रित करते हैं।
यह कैसे काम करता है: FOCA रोबोट को बताता है, "बैकग्राउंड को अनदेखा करो। कप और अपने हाथ को देखो। अब, कल्पना करो कि 5 सेकंड में वह कप कैसा दिखेगा जब आपने उसे सफलतापूर्वक उठा लिया होगा।" यह रोबोट को रोबोट और वस्तु के बीच की विशिष्ट बातचीत को सीखने के लिए मजबूर करता है।

2. अंतर्निहित संरेखण (द "कम्पास")

यह दूसरी तरकीब है। भले ही रोबोट भविष्य की सटीक भविष्यवाणी न कर सके, फिर भी वह सफलता के एहसास को पहचानना सीख सकता है।

उपमा: एक हाइकर (पगडंडी पर चलने वाले) के बारे में सोचें जो पहाड़ की चोटी तक पहुँचने की कोशिश कर रहा है। उन्हें रास्ते के हर पत्थर के सटीक आकार को जानने की आवश्यकता नहीं है। उन्हें बस एक कम्पास की आवश्यकता है जो चोटी की ओर इशारा करे। यदि वे ऐसा दृश्य देखते हैं जो चोटी जैसा दिखता है, तो वे जानते हैं कि वे सही रास्ते पर हैं।
यह कैसे काम करता है: FOCA रोबोट को अपने वर्तमान दृश्य को एक "लक्ष्य दृश्य" (कार्य पूरा होने की एक तस्वीर) के साथ मिलाने के लिए सिखाता है। वह सीखता है: "यदि मेरा वर्तमान दृश्य इस भविष्य की तस्वीर जैसा दिखता है, तो मैं अच्छा काम कर रहा हूँ।" यह रोबोट को हर एक कदम की गणना किए बिना दीर्घकालिक लक्ष्य को समझने में मदद करता है।

सुपरपावर: "नकली" वीडियो से सीखना

सबसे शानदार हिस्सों में से एक यह है कि FOCA सिंथेटिक वीडियो (कंप्यूटर द्वारा बनाए गए वीडियो, वास्तविक कैमरों द्वारा नहीं) से सीख सकता है, बिना यह जाने कि रोबोट के हाथ की वास्तविक हरकतें क्या हैं।

उपमा: कल्पना करें कि आप कार चलाना सीखना चाहते हैं। आमतौर पर, आपको एक असली कार और एक प्रशिक्षक की आवश्यकता होती है। लेकिन FOCA के साथ, आप ड्राइविंग का एक वीडियो गेम सिमुलेशन देख सकते हैं। भले ही वह गेम आपको यह न बताए कि स्टीयरिंग व्हील को ठीक से कैसे घुमाना है, FOCA आपको वास्तविक जीवन के लक्ष्यों के साथ गेम के भविष्य के दृश्यों की तुलना करके ड्राइविंग की अवधारणा सीखने में मदद करता है।
यह क्यों मायने रखता है: इसका मतलब है कि हम रोबोट को प्रशिक्षित करने के लिए हजारों "नकली" अभ्यास वीडियो बना सकते हैं, और फिर वास्तविक दुनिया के डेटा के एक बहुत छोटे हिस्से का उपयोग करके इसे फाइन-ट्यून कर सकते हैं।

परिणाम: एक बड़ी छलांग

लेखकों ने कई अलग-अलग रोबोटों और कार्यों (जैसे टोकरी में सूप डालना, माइक्रोवेव चालू करना, या जूतों के फीते बांधना) पर इसका परीक्षण किया।

आंकड़े: जब केवल बहुत कम उदाहरण (जैसे 20 वीडियो) दिए गए, तो FOCA ने रोबोटों को 95.7% समय सफल होने में मदद की।
तुलना: FOCA के बिना, समान संख्या में उदाहरणों का उपयोग करने वाले रोबोट केवल 70-80% बार सफल हुए।
वास्तविक दुनिया: उन्होंने लैब में वास्तविक रोबोटों पर भी इसका परीक्षण किया, और रोबोट अपने कार्यों में काफी बेहतर हो गए, कुछ कठिन कार्यों पर उनकी सफलता दर दोगुनी हो गई।

सारांश

संक्षेप में, FOCA रोबोट को केवल "हाथ यहाँ लाओ" को याद करने के बजाय "यह कार्य कहाँ जा रहा है?" को समझना सिखाता है। भविष्य के परिणाम पर ध्यान केंद्रित करके और महत्वपूर्ण वस्तुओं पर "स्पॉटलाइट" का उपयोग करके, रोबोट बहुत कम उदाहरणों के साथ जटिल कार्य सीख सकते हैं, जिससे उन्हें प्रशिक्षित करना बहुत तेज़ और सस्ता हो जाता है।

तकनीकी सारांश: FOCA – डेटा-कुशल विजन-लैंग्वेज-एक्शन अनुकूलन के लिए भविष्य-उन्मुख अनुकूलन (Future-Oriented Conditioning)

समस्या विवरण (Problem Statement)
विज़न-लैंग्वेज-एक्शन (VLA) मॉडलों ने बड़े पैमाने पर मल्टीमॉडल प्री-ट्रेनिंग के माध्यम से प्रभावशाली सामान्यीकरण (generalization) क्षमताएं प्रदर्शित की हैं। हालाँकि, कार्य अनुकूलन (task adaptation), विशेष रूप से फ्यू-शॉट इमिटेशन लर्निंग (few-shot imitation learning) की स्थितियों में, उनकी प्रभावशीलता सीमित बनी हुई है। लेखक एक महत्वपूर्ण अंतराल की पहचान करते हैं: जबकि आधुनिक VLA मॉडलों का मूल्यांकन पर्याप्त प्रदर्शन बजट (demonstration budgets) के साथ किया जाता है, वास्तविक दुनिया में तैनाती में अक्सर कम डेटा (जैसे, 10-30 प्रदर्शन) और निरंतर वितरण बदलाव (distribution shifts) शामिल होते हैं। व्यवस्थित स्ट्रेस टेस्ट दर्शाते हैं कि अत्याधुनिक VLA मॉडल प्रदर्शन में भारी गिरावट का शिकार होते हैं जब अनुकूलन डेटा को कम कर दिया जाता है। मुख्य सीमा केवल एक्शन-लेबल वाले प्रक्षेप पथों (trajectories) की मात्रा नहीं है, बल्कि मानक बिहेवियरल क्लोनिंग (behavioral cloning) द्वारा प्रदान किया जाने वाला अपर्याप्त लर्निंग सिग्नल है, जो प्रदर्शनों को स्वतंत्र (अवलोकन, क्रिया) युग्मों के रूप में मानता है और भविष्य के अवलोकनों में निहित दीर्घ-क्षितिज संरचना (long-horizon structure) का स्पष्ट रूप से लाभ नहीं उठाता है।

कार्यप्रणाली: FOCA फ्रेमवर्क (Methodology: FOCA Framework)
लेखक FOCA (फ्यूचर-ओरिएंटेड कंडीशनिंग) प्रस्तावित करते हैं, जो एक प्लग-एंड-प्ले फ्रेमवर्क है जिसे प्री-ट्रेंड डिफ्यूजन-आधारित VLA पॉलिसियों (जैसे $\pi_0$ और GR00T-N1.5) को लेटेंट स्पेस (latent space) में भविष्य-उन्मुख लर्निंग सिग्नल्स के साथ बढ़ाने के लिए डिज़ाइन किया गया है। पिछले दृष्टिकोणों के विपरीत जो पिक्सेल-स्तरीय भविष्य के फ्रेम की भविष्यवाणी करते हैं, FOCA पूरी तरह से एम्बेडिंग स्पेस में संचालित होता है ताकि सघन दृश्य पुनर्निर्माण (dense scene reconstruction) की कम्प्यूटेशनल लागत और अतिरेक (redundancy) से बचा जा सके।

FOCA दो प्रकार के सहायक टोकन (auxiliary tokens) पेश करता है जिन्हें विजन-लैंग्वेज इनपुट के साथ संयुक्त रूप से प्रोसेस किया जाता है:

स्पष्ट भविष्य लेटेंट भविष्यवाणी ( $r^{exp}_t$ ):
- उद्देश्य: कार्य-आधारित इंटरेक्शन क्षेत्रों (जैसे, रोबोट ग्रिपर और निर्देश में उल्लिखित विशिष्ट वस्तुएं) के भविष्य के लेटेंट एम्बेडिंग्स की भविष्यवाणी करना।
- तंत्र: मॉडल विजन-लैंग्वेज संदर्भ को सारांशित करने के लिए टोकन के एक छोटे सेट का उपयोग करता है। एक हल्का हेड इन टोकन के आधार पर भविष्य के रीजन एम्बेडिंग्स की भविष्यवाणी करता है। लक्ष्य (target) को एक फ्रोजन विजन एनकोडर का उपयोग करके, प्रासंगिक वस्तुओं के बाउंडिंग बॉक्स तक सीमित रखते हुए, वास्तविक भविष्य के फ्रेमों से प्राप्त किया जाता है।
- लाभ: यह क्रिया जनरेशन (action generation) के लिए एक सीधा, डेटा-कुशल सिग्नल प्रदान करता है, जिससे मॉडल को यह अनुमान लगाने के लिए मजबूर किया जाता है कि विशिष्ट इंटरैक्शन कैसे विकसित होते हैं।
निहित भविष्य संरेखण ( $r^{imp}_t$ ):
- उद्देश्य: वर्तमान कार्य-आधारित इंटरेक्शन टोकन को उसी एपिसोड में बाद में लिए गए भविष्य के लक्ष्य अवलोकनों के साथ संरेखित करना, और अन्य कार्यों के एम्बेडिंग्स के विरुद्ध इनका कंट्रास्ट करना।
- तंत्र: यह उद्देश्य एक InfoNCE-शैली के कंट्रास्टिव लॉस (contrastive loss) का उपयोग करता है। यह वर्तमान स्थिति के प्रतिनिधित्व को भविष्य की लक्ष्य अवस्थाओं के साथ संरेखित करता है और गलत कार्यों के प्रतिनिधित्व को दूर धकेलता है।
- लाभ: यह मॉडल को प्रतिनिधित्व स्थान में दीर्घ-क्षितिज कार्य संरचना और लक्ष्य पहुंच (goal reachability) को सीधे एनकोड करने के लिए प्रोत्साहित करता है। महत्वपूर्ण रूप से, इस उद्देश्य के लिए एक्शन लेबल की आवश्यकता नहीं होती है, जो वीडियो वर्ल्ड मॉडल्स (जैसे, DreamGen) द्वारा उत्पन्न सिंथेटिक वीडियो के साथ एक्शन-मुक्त सह-प्रशिक्षण (action-free co-training) को सक्षम बनाता है।

प्रशिक्षण रणनीति (Training Strategy)
फ्रेमवर्क तीन उद्देश्यों का सह-प्रशिक्षण (co-trains) करता है: क्रिया जनरेशन के लिए मानक फ्लो-मैचिंग लॉस ( $L_{fm}$ ), स्पष्ट भविष्यवाणी लॉस ( $L_{exp}$ ), और निहित संरेखण लॉस ( $L_{imp}$ )।

टोकन आइसोलेशन (Token Isolation): कार्यात्मक विसंयोजन (functional disentanglement) सुनिश्चित करने के लिए, लेखक VLM अटेंशन लेयर्स के भीतर एक संरचित टोकन-आइसोलेशन मास्क का उपयोग करते हैं, जो स्पष्ट और निहित टोकनों के बीच प्रत्यक्ष सूचना विनिमय को रोकता है, जबकि दोनों को साझा विजन और लैंग्वेज टोकन पर ध्यान केंद्रित करने की अनुमति देता है।
एक्शन-मुक्त अनुकूलन (Action-Free Adaptation): वीडियो वर्ल्ड मॉडल्स से सिंथेटिक रोलआउट के लिए, फ्रेमवर्क केवल $L_{exp}$ और $L_{imp}$ को ऑप्टिमाइज़ करता है, जिससे छद्म-एक्शन (pseudo-actions) या इनवर्स डायनेमिक्स मॉडलिंग की आवश्यकता समाप्त हो जाती है।

प्रमुख योगदान (Key Contributions)

व्यवस्थित स्ट्रेस टेस्टिंग: पेपर अत्यधिक सीमित प्रदर्शन बजट (10-30 प्रक्षेप पथ) के तहत अत्याधुनिक VLA मॉडलों का कठोर मूल्यांकन प्रदान करता है, जो प्रदर्शन में भारी गिरावट को उजागर करता है और अधिक डेटा-कुशल अनुकूलन तंत्र की आवश्यकता को रेखांकित करता है।
भविष्य-उन्मुख अनुकूलन (Future-Oriented Conditioning): FOCA का परिचय, जो लेटेंट स्पेस में स्पष्ट और निहित भविष्य-कंडीशनिंग उद्देश्यों के साथ VLA अनुकूलन को बढ़ाता है। यह दृष्टिकोण सघन पिक्सेल भविष्यवाणी के बजाय कार्य-आधारित इंटरेक्शन टोकन पर ध्यान केंद्रित करता है और स्वाभाविक रूप से सिंथेटिक वीडियो से एक्शन-मुक्त सहायक पर्यवेक्षण (auxiliary supervision) का समर्थन करता है।
अनुभवजन्य सत्यापन (Empirical Validation): 9 सिम्युलेटेड बेंचमार्क, एक सिम्युलेटेड ह्यूमनॉइड और 3 रियल-रोबोट सेटअप (एक द्विपक्षीय (bimanual) अलोहा आर्म सहित) पर व्यापक प्रयोग लगातार मजबूत VLA बेसलाइन और पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT) विधियों में सुधार प्रदर्शित करते हैं।

प्रायोगिक परिणाम (Experimental Results)

फ्यू-शॉट प्रदर्शन: LIBERO बेंचमार्क पर, FOCA केवल 20 प्रदर्शनों के साथ 95.7% सफलता दर प्राप्त करता है, जो बेसलाइन से काफी बेहतर है। 10% डेटा रिजीम में, यह मानक $\pi_0$ की तुलना में सफलता दर में 7-12% का सुधार करता है और PEFT विधियों (LoRA, DoRA) को पछाड़ देता है जो लगभग 78% पर स्थिर हो जाते हैं।
रियल-रोबोट लाभ: रियल-रोबोट कार्यों पर, FOCA 26% तक पूर्ण लाभ (absolute gains) प्रदान करता है। उदाहरण के लिए, एक सिम्युलेटेड ह्यूमनॉइड पर, यह "प्लेस पार्ट्स" कार्य पर सफलता को 58% से बढ़ाकर 84% कर देता है। अलोहा रोबोट पर, यह सीमित डेटा के तहत "ओपन बैग" पर सफलता को दोगुना कर देता है और "टाई शूलेस" कार्य पर 95% तक पहुँच जाता है।
सिंथेटिक डेटा का उपयोग: FOCA वीडियो वर्ल्ड मॉडल्स से सिंथेटिक वीडियो का प्रभावी ढंग से लाभ उठाता है। DreamGen-जनरेटेड रोलआउट्स के साथ जुड़ने पर, FOCA 100% वास्तविक डेटा के साथ प्रशिक्षित $\pi_0$ के प्रदर्शन को भी पीछे छोड़ देता है, जो भंगुर (brittle) छद्म-एक्शन अनुमान पर निर्भर हुए बिना दोषपूर्ण सिंथेटिक रोलआउट के प्रति मजबूती प्रदर्शित करता है।
सामान्यीकरण (Generalization): यह विधि विभिन्न VLA आर्किटेक्चर ( $\pi_0$ और GR00T-N1.5) और रोबोटिक एम्बॉडमेंट्स में सामान्य होती है, जो $\pi_0$ पर 4.4-12% और GR00T-N1.5 पर 7.2-10.4% का निरंतर लाभ देती है।

महत्व और दावे (Significance and Claims)
पेपर का तर्क है कि फ्यू-शॉट VLA अनुकूलन मॉडल क्षमता के बजाय प्रति प्रदर्शन निकाले गए पर्यवेक्षण सिग्नल (supervision signal) की गुणवत्ता से सीमित है। पिक्सेल-स्तरीय भविष्यवाणी से हटकर लेटेंट-स्पेस, भविष्य-उन्मुख कंडीशनिंग की ओर शिफ्ट होकर, FOCA समृद्ध लर्निंग सिग्नल निकालता है जो दीर्घ-क्षितिज निर्णय लेने में सुधार करता है। लेखक दावा करते हैं कि यह दृष्टिकोण फ्यू-शॉट VLA अनुकूलन में एक नया स्टेट-ऑफ-द-आर्ट स्थापित करता है, जो डेटा की कमी के प्रति मजबूत और बिना एक्शन लेबल के सिंथेटिक डेटा को एकीकृत करने में सक्षम स्केलेबल रोबोटिक अनुकूलन के लिए एक आशाजनक मार्ग प्रदान करता है। यह कार्य सुझाव देता है कि भविष्य-कंडीशन्ड रिप्रेजेंटेशन लर्निंग, जनरललिस्ट रोबोटों को नए कार्यों और वातावरणों में कुशलतापूर्वक अनुकूल होने में सक्षम बनाने के लिए एक महत्वपूर्ण घटक है।