Rethinking Visual-Language-Action Model Scaling: Alignment, Mixture, and Regularization
यह शोध पत्र विजन-लैंग्वेज-एक्शन (VLA) मॉडल स्केलिंग का एक व्यवस्थित अध्ययन प्रस्तुत करता है, जो यह प्रकट करता है कि अंधाधुंध डेटा पूलिंग से नकारात्मक स्थानांतरण (negative transfer) हो सकता है और यह प्रदर्शित करता है कि सफल क्रॉस-एम्बॉडिमेंट स्केलिंग के लिए मानक नियमितीकरण तकनीकों के बजाय एकीकृत एक्शन रिप्रजेंटेशन की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक "यूनिवर्सल रोबोट शेफ" को खाना बनाना सिखाने की कोशिश कर रहे हैं। आपके पास विभिन्न शेफों के हजारों वीडियो हैं: कुछ पेशेवर किचन चाकू का उपयोग करते हैं, कुछ छोटे पेयरिंग चाकू का, कुछ विशाल औद्योगिक रसोई में काम करते हैं, और अन्य तंग घरेलू रसोई में।
आप सोच सकते हैं, "अगर मैं बस रोबोट को मिलने वाले हर एक वीडियो को दिखा दूँ, तो वह एक मास्टर शेफ बन जाएगा!"
यह शोध पत्र, "Rethinking Visual-Language-Action Model Scaling," मूल रूप से कहता है: "रुकिए! यह इतना सरल नहीं है। यदि आप सब कुछ बस एक ब्लेंडर में डाल देंगे, तो आपको एक मास्टर शेफ के बजाय एक गड़बड़ (मेस) मिल सकती है।"
शोधकर्ताओं ने यह जांचा कि "VLA" मॉडल (ऐसे दिमाग जो देख सकते हैं, भाषा समझ सकते हैं और रोबोटिक भुजाओं को हिला सकते हैं) को विशाल मात्रा में डेटा का उपयोग करके कैसे स्मार्ट बनाया जाए। उन्होंने यहाँ क्या खोजा, इसे तीन बड़े विचारों के माध्यम से समझाया गया है:
1. "गति की भाषा" (भौतिक संरेखण - Physical Alignment)
कल्पना कीजिए कि आप किसी व्यक्ति को नृत्य करना सिखा रहे हैं। यदि आप उनसे कहते हैं, "अपने हाथ को निर्देशांक X=5, Y=10 पर ले जाएं," तो वे भ्रमित हो सकते हैं क्योंकि उनकी बाहें उस व्यक्ति की तुलना में अलग लंबाई की हो सकती हैं जिसका वीडियो आप देख रहे हैं। लेकिन यदि आप कहते हैं, "अपने हाथ को अभी जहाँ है, वहां से 5 इंच आगे ले जाएं," तो वे इसे आसानी से कर सकते हैं, चाहे उनकी ऊंचाई कुछ भी हो।
शोधकर्ताओं ने पाया कि रोबोट बहुत बेहतर सीखते हैं जब हम "सापेक्ष" (Relative) निर्देशों का उपयोग करते हैं (यहाँ से इतना आगे बढ़ें) बजाय "निरपेक्ष" (Absolute) निर्देशों के (कमरे में इस विशिष्ट स्थान पर जाएँ)। यह एक डांसर को "एक कदम आगे बढ़ें" सिखाने जैसा है, न कि "फर्श पर ठीक उस टाइल पर जाएँ।"
2. "बहुत सारे रसोइया" की समस्या (एम्बॉडमेंट मिश्रण - Embodiment Mixture)
AI की दुनिया में, एक नियम है जिसे "स्केलिंग" कहा जाता है: अधिक डेटा = अधिक बुद्धिमत्ता। लेकिन शोधकर्ताओं ने रोबोटिक्स में एक "ग्लिच" (खराबी) पाया।
कल्पना कीजिए कि आप कार चलाने वाले लोगों, साइकिल चलाने वाले लोगों और नाव चलाने वाले लोगों के वीडियो देखकर ड्राइविंग सीखने की कोशिश कर रहे हैं। यदि आप उन्हें बिना किसी अंतर के एक साथ देखते हैं, तो आप अपनी कार में "पैडल" मारने या अपने साइकिल के पहिये को "स्टीयर" करने की कोशिश कर सकते हैं।
अध्ययन ने दिखाया कि विभिन्न रोबोटों के डेटा को बिना सोचे-समझे मिलाने से वास्तव में मॉडल का प्रदर्शन खराब हो गया। अधिक "प्रकार" के रोबोट जोड़ना (जैसे कि आपके कार चलाने के पाठ में नाव चलाने वालों को शामिल करना) वास्तव में रोबोट के दिमाग को भ्रमित कर देता है। यह स्पष्ट है कि अधिक डेटा हमेशा बेहतर नहीं होता यदि डेटा बहुत अधिक "शोर भरा" (noisy) या भिन्न हो।
3. "अत्यधिक जटिल प्रशिक्षण" का मिथक (रेगुलराइजेशन - Regularization)
AI को प्रशिक्षित करते समय, वैज्ञानिक अक्सर दिमाग को मजबूत बनाने के लिए "ट्रिक्स" का उपयोग करते हैं—जैसे जानबूझकर रोबोट की दृष्टि को धुंधला करना या उसे कुछ संवेदनाओं को "भूलने" के लिए मजबूर करना (इसे ड्रॉपआउट कहा जाता है)। यह एक फुटबॉल खिलाड़ी के बारिश में या भारी वजन के साथ अभ्यास करने जैसा है ताकि वास्तविक खेल के लिए तैयार हो सके।
हालाँकि, शोधकर्ताओं ने पाया कि इन बड़े पैमाने के रोबोट दिमागों के लिए, ये अतिरिक्त ट्रिक्स वास्तव में ज्यादा मदद नहीं करते थे। विशाल डेटासेट की "प्राकृतिक अराजकता" पहले से ही रोबोट को मजबूत बनाने के लिए पर्याप्त थी। यह पता चला है कि कभी-कभी एक जटिल प्रशिक्षण की तुलना में एक सरल प्रशिक्षण दिनचर्या बेहतर होती है।
4. "निष्पक्ष जज" प्रोटोकॉल (ब्लाइंड इवैल्यूएशन - Blind Evaluation)
अंत में, उन्हें एहसास हुआ कि इंसान पक्षपाती होते हैं। यदि किसी वैज्ञानिक को पता है कि "मॉडल A" नया, फैंसी संस्करण है, तो वे अवचेतन रूप से उसके लिए उत्साह दिखा सकते हैं या वास्तविक दुनिया के परीक्षण के दौरान उसकी "मदद" कर सकते हैं।
इसे ठीक करने के लिए, उन्होंने रोबोटों के लिए एक "ब्लाइंड टेस्ट" बनाया। रोबोट का संचालन करने वाला व्यक्ति यह नहीं जानता कि किस "दिमाग" का परीक्षण किया जा रहा है। यह एक खाद्य समीक्षक द्वारा व्यंजन चखने जैसा है बिना यह जाने कि इसे मिशेलिन-स्टार शेफ ने बनाया है या किसी छात्र ने—यह सुनिश्चित करता है कि परिणाम ईमानदार और निष्पक्ष हों।
मुख्य निष्कर्ष (The Bottom Line)
यदि आप एक "गॉड-मोड" रोबोट दिमाग बनाना चाहते हैं, तो केवल अपने पास मौजूद हर वीडियो को कंप्यूटर में न डालें। आपको चाहिए:
- सही भाषा बोलें (सापेक्ष गतिविधियों का उपयोग करें)।
- सावधान रहें कि पार्टी में किसे आमंत्रित किया जाए (बहुत अधिक विरोधाभासी डेटा को न मिलाएं)।
- इसे सरल रखें (प्रशिक्षण को बहुत जटिल न बनाएं)।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।