The Compression Gap: Why Discrete Tokenization Limits Vision-Language-Action Model Scaling

यहाँ टकुया शिबा के शोध पत्र "The Compression Gap: Why Discrete Tokenization Limits Vision-Language-Action Model Scaling" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

विज़न-लैंग्वेज-एक्शन (VLA) मॉडल के स्केलिंग में, एक प्रचलित धारणा यह है कि विज़न एनकोडर को अपग्रेड करने से (जैसे, ResNet से SigLIP में बदलना) विज़न-लैंग्वेज मॉडलिंग के रुझानों की तरह, डाउनस्ट्रीम रोबोटिक मैनिपुलेशन प्रदर्शन में स्वतः सुधार होगा।

हालाँकि, यह शोध पत्र उस धारणा को चुनौती देता है, विशेष रूप से उन मॉडलों के लिए जो क्रियाओं (actions) को डिस्क्रीट टोकन (discrete tokens) के रूप में दर्शाते हैं (जैसे, Ordered Action Tokenization - OAT)। लेखक तर्क देते हैं कि समृद्ध दृश्य प्रतिनिधित्व (richer visual representation) का लाभ अक्सर क्रिया प्रतिनिधित्व पद्धति (action representation method) द्वारा ही बाधित हो जाता है। वे एक घटना की पहचान करते हैं जिसे "कंप्रेशन गैप" (Compression Gap) कहा जाता है, जहाँ विज़ुओमोटर पाइपलाइन में सूचना का बॉटलनेक (information bottleneck) यह निर्धारित करता है कि एनकोडर अपग्रेड कार्य की सफलता तक पहुँच पाएगा या नहीं।

2. सैद्धांतिक ढांचा: कंप्रेशन गैप (Theoretical Framework: The Compression Gap)

लेखक इन्फॉर्मेशन बॉटलनेक (Information Bottleneck) सिद्धांत और डेटा प्रोसेसिंग इनइक्वैलिटी (Data Processing Inequality) का उपयोग करके समस्या को औपचारिक रूप देते हैं।

• पाइपलाइन: $O \to Z \to A$ (अवलोकन $\to$ प्रतिनिधित्व $\to$ क्रिया)।
• प्रतिबंध: श्रृंखला में म्यूचुअल इंफॉर्मेशन $I(O; A)$ सबसे तंग बॉटलनेक द्वारा सीमित होती है: $I(O; A) \leq \min(I(O; Z), I(Z; A))$।

यह शोध पत्र दो मार्गों के बीच अंतर स्पष्ट करता है:

1. सतत मार्ग (Continuous Pathway - जैसे, Diffusion Policy):
   • क्रियाओं को डिनोइजिंग प्रक्रिया के माध्यम से निरंतर वेक्टर (continuous vectors) के रूप में अनुमानित किया जाता है।
   • बॉटलनेक: विज़न एनकोडर ($I(O; Z)$)।
   • परिणाम: एनकोडर को अपग्रेड करने से बॉटलनेक चौड़ा हो जाता है, जिससे क्रिया तक अधिक सूचना प्रवाहित होती है, जो सीधे प्रदर्शन में सुधार करती है।
2. डिस्क्रीट मार्ग (Discrete Pathway - जैसे, OAT):
   • क्रियाओं को एक कोडबुक (जैसे, Finite Scalar Quantization - FSQ) के माध्यम से डिस्क्रीट टोकन के एक परिमित अनुक्रम में संकुचित किया जाता है।
   • बॉटलनेक: कोडबुक क्षमता ($I(Z; T) \leq \log_2 |V|^{H_l}$)।
   • परिणाम: कोडबुक सूचना प्रवाह पर एक कठोर ऊपरी सीमा लगा देता है (जैसे, OAT के लिए $\approx 80$ बिट्स)। भले ही एनकोडर एक समृद्ध प्रतिनिधित्व ($Z$) प्रदान करे, अतिरिक्त सूचना को क्वांटिज़ेशन चरण में हटा दिया जाता है। इसलिए, एनकोडर अपग्रेड से मिलने वाला लाभ घटिया या शून्य हो जाता है।

3. कार्यप्रणाली (Methodology)

लेखकों ने फ्रैंका एमिका पांडा (Franka Emika Panda) रोबोट का उपयोग करके LIBERO-10 बेंचमार्क पर एक नियंत्रित फैक्टोरियल प्रयोग (factorial experiment) किया। उन्होंने अवलोकन पाइपलाइन और पॉलिसी बैकबोन आर्किटेक्चर को स्थिर रखते हुए, तीन प्रमुख चरों को बदलकर क्रिया प्रतिनिधित्व के प्रभाव को अलग किया:

• क्रिया प्रतिनिधित्व (Action Representation):
  • डिस्क्रीट (Discrete): एक निश्चित FSQ कोडबुक ($|V|=1000$) के साथ ऑर्डर्ड एक्शन टोकनाइजेशन (OAT)।
  • सतत (Continuous): DDIM शेड्यूलर के साथ डिफ्यूजन पॉलिसी (DP)।
• विज़न एनकोडर (Vision Encoder):
  • कमजोर (Weak): ResNet-18 (64-dim फीचर्स)।
  • मजबूत (Strong): SigLIP (1152-dim सिमेंटिक फीचर्स)।
  • विस्तारित ग्रेडिएंट: SigLIP 2 और DINOv2 ViT-L/14 का भी परीक्षण किया गया।
• मॉडल का आकार (Model Size):
  • M (मध्यम): 4-लेयर ट्रांसफार्मर।
  • L (बड़ा): 6-लेयर ट्रांसफार्मर (क्षमता संबंधी विसंगतियों को खारिज करने के लिए)।

पूरक प्रयोग (Supplementary Experiments):

• एनकोडर गुणवत्ता ग्रेडिएंट: यह देखने के लिए कि क्या प्रभाव निरंतर है, चार एनकोडर्स का परीक्षण किया गया।
• कोडबुक आकार भिन्नता: यह परीक्षण करने के लिए कि क्या बॉटलनेक को ढीला करने से एनकोडर संवेदनशीलता बहाल होती है, OAT कोडबुक क्षमता को व्यवस्थित रूप से बढ़ाया गया ($|V| = 1000, 1920, 4375$)।

4. मुख्य परिणाम (Key Results)

A. विज़न एनकोडर संवेदनशीलता (The Compression Gap)

• डिफ्यूजन पॉलिसी (सतत): ResNet-18 से SigLIP में अपग्रेड करने से भारी प्रदर्शन लाभ हुआ।
  • आकार M: $36.4\% \to 57.6\%$ (+21.2%)।
  • आकार L: $44.0\% \to 70.0\%$ (+26.0%)।
• OAT (डिस्क्रीट): उसी अपग्रेड से काफी कम लाभ प्राप्त हुआ।
  • आकार M: $53.8\% \to 57.4\%$ (+3.6%)।
  • आकार L: $48.0\% \to 58.4\%$ (+10.4%)।
• निष्कर्ष: डिस्क्रीट मार्ग में, एनकोडर अपग्रेड प्रभावी रूप से कोडबुक बॉटलनेक द्वारा "ब्लॉक" हो जाता है।

B. एनकोडर गुणवत्ता ग्रेडिएंट (Encoder Quality Gradient)

• डिफ्यूजन पॉलिसी: सफलता दर ने एनकोडर की गुणवत्ता का मोनोटोनिकली (एकदिशीय रूप से) अनुसरण किया। जैसे-जैसे एनकोडर की गुणवत्ता बढ़ी (ResNet $\to$ SigLIP $\to$ SigLIP 2 $\to$ DINOv2), प्रदर्शन लगातार बढ़ता गया।
• OAT: सफलता दर बिना किसी स्पष्ट रुझान के स्थिर (flat) रही और उतार-चढ़ाव करती रही, चाहे एनकोडर की प्रतिनिधित्व शक्ति कुछ भी हो।
• क्रॉसओवर: कम एनकोडर गुणवत्ता (ResNet) पर, OAT ने DP को पछाड़ दिया। उच्च एनकोडर गुणवत्ता (DINOv2) पर, DP ने OAT से ~12.8 अंक अधिक प्रदर्शन किया, जो दर्शाता है कि डिस्क्रीट विधियाँ उच्च-गुणवत्ता वाले अपस्ट्रीम फीचर्स का लाभ नहीं उठा सकती हैं।

C. कोडबुक आकार (Causal Evidence)

• जब OAT कोडबुक क्षमता बढ़ाई गई (बॉटलनेक को ढीला किया गया), तो ResNet और SigLIP के बीच का प्रदर्शन अंतर काफी बढ़ गया।
• $|V|=1920$ पर, SigLIP ने उच्च प्रदर्शन बनाए रखा जबकि ResNet तेजी से गिरा, जिससे वह वास्तविक गुणवत्ता अंतर उजागर हुआ जो पहले तंग $|V|=1000$ बॉटलनेक द्वारा छिपा हुआ था।
• यह इस बात का कारणत्मक प्रमाण (causal evidence) प्रदान करता है कि कोडबुक क्षमता ही मुख्य बाधा है, न कि स्वयं टोकनाइज़र आर्किटेक्चर।

5. मुख्य योगदान (Key Contributions)

1. कंप्रेशन गैप की पहचान: यह शोध पत्र डिस्क्रीट टोकनाइजेशन (OAT) के आधार पर स्केलिंग व्यवहार में संरचनात्मक विचलन को परिभाषित करता है।
2. अनुभवजन्य सत्यापन: कठोर फैक्टोरियल प्रयोगों के माध्यम से, लेखक प्रदर्शित करते हैं कि डिस्क्रीट टोकनाइजेशन सूचना प्रवाह को सीमित करके VLA मॉडलों की स्केलेबिलिटी को मौलिक रूप से सीमित करता है, जिससे महंगे एनकोडर अपग्रेड अप्रभावी हो जाते हैं।
3. कोडबुक भिन्नता के माध्यम से कारणत्मक प्रमाण: कोडबुक आकार को बदलकर, लेखक सिद्ध करते हैं कि डिस्क्रीट मॉडलों में एनकोडर संवेदनशीलता की कमी सूचना संपीड़न का सीधा परिणाम है, न कि पॉलिसी बैकबोन की विफलता।
4. मल्टीमॉडल स्केलिंग से जुड़ाव: निष्कर्ष हाल के प्रीट्रेनिंग अध्ययनों (Tong et al., 2026) के अनुरूप हैं, जो दिखाते हैं कि VAE-आधारित (लॉसी) प्रतिनिधित्व संतृप्त हो जाते हैं जबकि सिमेंटिक एनकोडर स्केल होते रहते हैं।

6. महत्व और निहितार्थ (Significance and Implications)

• स्केलिंग रणनीति: फिजिकल AI के लिए, केवल मॉडल का आकार या डेटा बढ़ाना पर्याप्त नहीं है। शोधकर्ताओं को पहले सूचना बॉटलनेक्स को पहचानना और हटाना होगा। यदि क्रिया प्रतिनिधित्व डिस्क्रीट है, तो कोडबुक क्षमता का विस्तार करने तक विज़न एनकोडर को अपग्रेड करना संसाधनों की बर्बादी है।
• भविवी आर्किटेक्चर: यह शोध पत्र सुझाव देता है कि जबकि डिस्क्रीट टोकन भाषा संरेखण (language alignment) के लिए उपयोगी हैं, वे उच्च-फिडेलिटी मैनिपुलेशन स्केलिंग के लिए इष्टतम नहीं हैं। भविष्य के कार्यों को अनुकूली कोडबुक (adaptive codebooks) या हाइब्रिड आर्किटेक्चर तलाशने चाहिए जो डिस्क्रीट रीजनिंग को निरंतर क्रिया डिकोडिंग के साथ जोड़ते हैं।
• एनकोडर अनुकूलन: एक बार जब डिस्क्रीट बॉटलनेक हट जाता है, तो विज़न एनकोडर नया बॉटलनेक बन जाता है। इसका तात्पर्य है कि सामान्य सिमेंटिक समझ के बजाय रोबोटिक मैनिपुलेशन (संपर्क ज्यामिति, अफोर्डेंस) के लिए विशेष रूप से अनुकूलित विज़न एनकोडर्स की आवश्यकता है।

संक्षेप में, यह शोध पत्र तर्क देता है कि डिस्क्रीट टोकनाइजेशन एक "कंप्रेशन गैप" बनाता है जो अपस्ट्रीम विजुअल सुधारों को डाउनस्ट्रीम रोबोटिक प्रदर्शन से अलग कर देता है, जो मौलिक रूप से यह बदल देता है कि VLA मॉडलों को कैसे स्केल किया जाना चाहिए।