🤖 machine learning

{\Omega}-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling

यह शोध पत्र $\Omega$ -QVLA को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त पोस्ट-क्वांटाइजेशन फ्रेमवर्क है जो कंपोजिट SVD-Hadamard रोटेशन को प्रति-चरण (per-step) DiT एक्टिवेशन स्केलिंग के साथ जोड़कर संपूर्ण विजन-लैंग्वेज-एक्शन मॉडल्स के लिए सुदृढ़ W4A4 यूनिफॉर्म क्वांटाइजेशन को सक्षम बनाता है, जिससे बेंचमार्क और वास्तविक दुनिया के हेरफेर (manipulation) कार्यों दोनों पर अत्याधुनिक कार्य सफलता दर और महत्वपूर्ण मेमोरी कमी प्राप्त होती है।

मूल लेखक: Xinyu Wang, Mingze Li, Sicheng Lyu, Dongxiu Liu, Kaicheng Yang, Ziyu Zhao, Yufei Cui, Xiao-Wen Chang, Peng Lu

प्रकाशित 2026-05-28

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinyu Wang, Mingze Li, Sicheng Lyu, Dongxiu Liu, Kaicheng Yang, Ziyu Zhao, Yufei Cui, Xiao-Wen Chang, Peng Lu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक शानदार, अरबों डॉलर का रोबोटिक मस्तिष्क है। यह मस्तिष्क एक "विज़न-लैंग्वेज-एक्शन" (VLA) मॉडल है। यह कैमरों के माध्यम से दुनिया को देख सकता है, जटिल मौखिक निर्देशों को समझ सकता है, और यह समझ सकता है कि किसी कार्य को करने के लिए अपने रोबोटिक हाथों को बिल्कुल कैसे चलाना है।

समस्या क्या है? यह मस्तिष्क बहुत विशाल है। यह एक विशाल, हाई-एंड मूवी थिएटर को एक छोटे, बैटरी से चलने वाले हैंडहेल्ड गेम कंसोल पर चलाने की कोशिश करने जैसा है। यह बहुत अधिक मेमोरी लेता है और वास्तविक रोबोटों पर चलाने के लिए बहुत धीमा है।

इसे ठीक करने के लिए, वैज्ञानिक आमतौर पर इस मस्तिष्क को "छोटा" करने की कोशिश करते हैं, यानी इसके नंबरों को कंप्रेस (एक प्रक्रिया जिसे क्वांटाइजेशन कहा जाता है) करते हैं। इसे एक हाई-डेफिनिशन 4K मूवी को लो-रेज़ोल्यूशन MP4 में बदलने जैसा समझें ताकि स्पेस बचाया जा सके।

बड़ी समस्या:
इन रोबोटिक मस्तिष्कों को सिकोड़ने के पिछले प्रयासों में एक बड़ी खामी थी। वे "सोचने" वाले हिस्से (लैंग्वेज मॉडल) को तो कंप्रेस कर देते थे, लेकिन "चलने" वाले हिस्से (एक्शन हेड) को पूरी, उच्च-गुणवत्ता वाले रेज़ोल्यूशन पर ही छोड़ देते थे। ऐसा क्यों था? क्योंकि सभी का मानना था कि "चलने" वाला हिस्सा बहुत नाजुक है। उन्हें लगा कि यदि वे इसे बहुत अधिक कंप्रेस करेंगे, तो रोबोट हिलने-डुलने, झटके लेने या चीजें गिराने लगेगा क्योंकि नंबर बहुत "धुंधले" हो जाएंगे।

समाधान: Ω-QVLA
यह पेपर Ω-QVLA नामक एक नई विधि पेश करता है। यह पहला टूल है जो सफलतापूर्वक रोबोट के सोचने और चलने, दोनों हिस्सों को एक ही छोटे आकार (जिसे W4A4 कहा जाता है) में बिना रोबोट के खराब हुए सिकोड़ने में सफल रहा है।

उन्होंने इसे दो रचनात्मक तरीकों का उपयोग करके किया है:

1. "स्पिनिंग शफल" (कंपोजिट रोटेशन)

कल्पना कीजिए कि आपके पास ताश की एक गड्डी है जिसमें कुछ कार्ड अविश्वसनीय रूप से भारी (आउटलायर्स) हैं और बाकी हल्के हैं। यदि आप उन्हें एक छोटे बॉक्स में पैक करने की कोशिश करते हैं, तो भारी कार्ड दूसरों को कुचल देंगे और बॉक्स टूट जाएगा।

रोबोटिक मस्तिष्क में, कुछ डेटा चैनल "भारी" (जिनमें बहुत बड़े नंबर होते हैं) हैं जबकि अन्य "हल्के" हैं।

पुराना तरीका: बस उन सभी को एक साथ कुचल दें। भारी कार्ड बॉक्स को तोड़ देते हैं।
Ω-QVLA का तरीका: वे एक विशेष "शफल" (SVD और हेडामार्ड रोटेशन नामक गणित का मिश्रण) का उपयोग करते हैं। कल्पना कीजिए कि आप ताश की गड्डी को घुमा रहे हैं और शफल कर रहे हैं ताकि भारी कार्डों का वजन पूरी गड्डी में समान रूप से फैल जाए। अब, कोई भी एकल कार्ड इतना भारी नहीं है कि वह बॉक्स को तोड़ सके। यह उन्हें सूचना के "आकार" को खोए बिना डेटा को बहुत अधिक आक्रामक रूप से कंप्रेस करने की अनुमति देता है।

2. "स्टेप-बाय-स्टेप वॉल्यूम कंट्रोल" (पर-स्टेप स्केलिंग)

रोबोट का "चलने" वाला हिस्सा एक वीडियो एडिटर की तरह काम करता है जो फ्रेम-दर-फ्रेम वीडियो को स्मूथ करता है (जिसे डिनोइजिंग कहा जाता है)।

समस्या: डेटा का "वॉल्यूम" (या तीव्रता) पहले फ्रेम से आखिरी फ्रेम तक बहुत अधिक बदलती रहती है। यदि आप पूरे वीडियो के लिए एक निश्चित वॉल्यूम स्तर सेट करते हैं, तो शुरुआत बहुत धीमी हो सकती है, और अंत बहुत तेज़ या विकृत हो सकता है।
Ω-QVLA का तरीका: उन्होंने एक "डायनेमिक वॉल्यूम कंट्रोल" बनाया है जो वीडियो के हर एक स्टेप के लिए संवेदनशीलता (सेंसिटिविटी) को एडजस्ट करता है। एक स्थिर सेटिंग का उपयोग करने के बजाय, सिस्टम प्रत्येक विशिष्ट क्षण पर डेटा को सुनता है और उसके अनुसार कंप्रेशन स्केल को एडजस्ट करता है। यह रोबोट को भ्रमित होने से रोकता है जब डेटा बहुत तेज़ या बहुत धीमा होता है।

परिणाम

टीम ने LIBERO नामक सिमुलेशन और वास्तविक दुनिया के रोबोटिक हाथों का उपयोग करके दो प्रसिद्ध रोबोटिक मस्तिष्क (Pi 0.5 और GR00T N1.5) पर इसका परीक्षण किया।

सिमुलेशन में: कंप्रेस किए गए रोबोटों ने विशाल, अन-कंप्रेस्ड रोबोटों के समान ही प्रदर्शन किया। वास्तव में, एक टेस्ट में, छोटा कंप्रेस्ड रोबोट मूल से भी बेहतर काम कर रहा था!
वास्तविक दुनिया में: जब उन्होंने कंप्रेस किए गए रोबोट को कप उठाने, तौलिये मोड़ने और ब्लॉक हिलाने के लिए एक वास्तविक मेज पर रखा, तो वह सुचारू रूप से और सटीकता से चला।
प्रतियोगिता: अन्य तरीकों ने (जैसे QuantVLA) जो इसे करने की कोशिश की, उन्होंने रोबोटों को झटकेदार बना दिया और वे कार्यों में विफल रहे। Ω-QVLA ने उन्हें स्मूथ रखा।
बचाया गया स्पेस: उन्होंने मेमोरी की आवश्यकता को 71% कम कर दिया। यह एक 4GB मूवी फ़ाइल को 1GB फ़ाइल में बदलने जैसा है बिना कहानी खोए।

निष्कर्ष

यह पेपर यह साबित करता है कि रोबोट के मस्तिष्क का "चलने" वाला हिस्सा इतना नाजुक नहीं है कि उसे कंप्रेस न किया जा सके। भारी डेटा को फैलाने के लिए एक स्मार्ट "शफल" और बदलते वॉल्यूम को संभालने के लिए "स्टेप-बाय-स्टेप" एडजस्टमेंट का उपयोग करके, वे इन विशाल रोबोटिक मस्तिष्कों को एक ऐसे आकार में सिकोड़ सकते हैं जो एक वास्तविक रोबोट पर फिट हो सके, जिससे वे तेज़, सस्ते और वास्तविक दुनिया के लिए तैयार हो जाते हैं।

तकनीकी सारांश: Ω-QVLA

समस्या विवरण

विज़न-लैंग्वेज-एक्शन (VLA) मॉडल धारणा (perception), तर्क (reasoning) और नियंत्रण (control) को एक एकल नीति (policy) में एकीकृत करते हैं, जो आमतौर पर एक बड़े लैंग्वेज मॉडल (LLM) बैकबोन और एक डिफ्यूजन-आधारित एक्शन हेड (DiT) का उपयोग करते हैं। हालांकि ये सामान्यवादी रोबोट नियंत्रण के लिए आशाजनक हैं, लेकिन अपने बहु-अरब पैरामीटर काउंट और मेमोरी आवश्यकताओं के कारण इन्हें ऑन-डिवाइस तैनात करना अत्यधिक महंगा है।

मौजूदा पोस्ट-ट्रेनिंग क्वांटाइजेशन (PTQ) प्रयास VLA मॉडलों के लिए पूर्ण समाधान प्रदान करने में विफल रहे हैं। पिछला कार्य आमतौर पर LLM बैकबोन को संकुचित करता है जबकि DiT एक्शन हेड को फुल प्रिसिजन (FP16) पर छोड़ देता है या मिश्रित-प्रिसिजन (mixed-precision) योजनाओं का उपयोग करता है। यह हिचकिचाहट इस विश्वास से उत्पन्न होती है कि DiT एक्शन हेड स्वाभाविक रूप से यूनिफॉर्म लो-बिट क्वांटाइजेशन के प्रति बहुत संवेदनशील है। भाषा निर्माण के विपरीत, जहाँ क्वांटाइजेशन त्रुटियाँ अदृश्य हो सकती हैं, एक्शन हेड में त्रुटियाँ निरंतर नियंत्रण संकेतों (continuous control signals) को उत्पन्न करती हैं जो सीधे भौतिक एक्चुएटर्स के साथ इंटरफेस करती हैं। एक क्लोज्ड-लूप सेटिंग में, क्वांटाइजेशन-प्रेरित गड़बड़ी संपर्क बलों (contact forces) और भौतिक गतिकी (physical dynamics) द्वारा प्रवर्धित की जाती है, जिससे संचयी त्रुटि प्रसार (cumulative error propagation) और कार्य विफलता होती है। फलस्वरूप, किसी भी पिछले तरीके ने VLA मॉडल के पूर्ण DiT एक्शन हेड को यूनिफॉर्म लो-बिट प्रिसिजन तक सफलतापूर्वक क्वांटाइज नहीं किया है।

कार्यप्रणाली: Ω-QVLA

लेखक Ω-QVLA प्रस्तावित करते हैं, जो पहला ट्रेनिंग-फ्री PTQ फ्रेमवर्क है जो एक VLA मॉडल के भाषा बैकबोन और संपूर्ण DiT एक्शन हेड दोनों को यूनिफॉर्म W4A4 (4-बिट वेट्स, 4-बिट एक्टिवेशन्स) प्रिसिजन तक संकुचित करने में सक्षम है। यह फ्रेमवर्क दो मुख्य नवाचारों के माध्यम से मिश्रित-प्रिसिजन आवंटन की आवश्यकता को समाप्त करता है:

1. कम्पोजिट SVD·Hadamard रोटेशन

चैनल-स्तरीय ऊर्जा असंतुलन और एक्टिवेशन आउटलेर्स को संबोधित करने के लिए, लेखक क्वांटाइजेशन से पहले लागू होने वाली एक दो-स्तरीय रोटेशन रणनीति पेश करते हैं:

SVD रोटेशन: वेट मैट्रिक्स $W = U\Sigma V^\top$ पर एक सिंगुलर वैल्यू डिकम्पोजिशन (SVD) की गणना की जाती है। रोटेशन मैट्रिक्स $R_{SVD} = U$ को वेट्स की रो-वाइज (row-wise) ऊर्जा को समान करने के लिए लागू किया जाता है। यह वेट स्पेस को इस प्रकार रूपांतरित करता है कि प्रत्येक रो की ऊर्जा सीधे सिंगुलर स्पेक्ट्रम द्वारा नियंत्रित होती है, जिससे कोऑर्डिनेट-प्रेरित ऊर्जा एकाग्रता समाप्त हो जाती है।
Hadamard रोटेशन: चूंकि SVD रोटेशन केवल वेट्स से व्युत्पन्न होता है, इसलिए यह एक्टिवेशन स्पेस में एकरूपता की गारंटी नहीं देता है। इसे संबोधित करने के लिए, लेखक SVD रोटेशन को एक नॉर्मलाइज्ड हैडामार्ड मैट्रिक्स $H$ के साथ संयोजित करते हैं। कम्पोजिट रोटेशन $R = R_{SVD} \cdot H$ एक यूनिफॉर्म मिक्सिंग मैट्रिक्स के रूप में कार्य करता है जो किसी भी प्रमुख चैनल की ऊर्जा को सभी आउटपुट चैनलों में समान रूप से पुनर्वितरित करता है।
ब्लॉक-वाइज कार्यान्वयन: एक सघन (dense) $C_{in} \times C_{in}$ रोटेशन मैट्रिक्स के कम्प्यूटेशनल और मेमोरी ओवरहेड से बचने के लिए, यह विधि ब्लॉक्स में रोटेशन का अनुमान लगाती है। चैनलों को वेट कॉलम नॉर्म्स के आधार पर जिग-जैग परम्यूटेशन के माध्यम से पुनर्व्यवस्थित किया जाता है ताकि उच्च-नॉर्म और निम्न-नॉर्म चैनलों को ब्लॉक्स में समान रूप से वितरित किया जा सके, जिससे एक ही विभाजन के भीतर आउटलेयर एकाग्रता को रोका जा सके।

2. प्रति-स्टेप (Per-step) DiT एक्टिवेशन स्केलिंग

मानक स्टैटिक स्केलिंग DiT मॉडलों के लिए इष्टतम नहीं है क्योंकि मल्टी-स्टेप डिनोइजिंग प्रक्रिया के दौरान एक्टिवेशन मैग्नीट्यूड महत्वपूर्ण रूप से उतार-चढ़ाव करते हैं।

डायनेमिक रेंज ड्रिफ्ट: लेखक देखते हैं कि डिनोइजिंग स्टेप्स के दौरान एक्टिवेशन सांख्यिकी (statistics) में ड्रिफ्ट होता है, विशेष रूप से उन लेयर्स में जो टाइम-कंडीशन्ड इनपुट्स प्राप्त करती हैं (जैसे AdaLayerNorm के बाद QKV प्रोजेक्शन)।
प्रति-स्टेप कैलिब्रेशन: एक एकल स्टैटिक स्केल के बजाय, Ω-QVLA एक प्री-कंप्यूटेड, प्रति-स्टेप, प्रति-लेयर और प्रति-चैनल स्केल टेबल का उपयोग करता है। यह टेबल कैलिब्रेशन ट्रेजेक्टरीज से प्राप्त की जाती है और डायनेमिक-रेंज ड्रिफ्ट को अवशोषित करने के लिए इन्फरेंस के दौरान रिट्रीव की जाती है। यह क्वांटाइज़र को प्रत्येक विशिष्ट टाइमस्टेप पर बदलते एक्टिवेशन रेंज के अनुकूल होने की अनुमति देता है।

मुख्य योगदान

एकीकृत W4A4 क्वांटाइजेशन: Ω-QVLA संपूर्ण VLA स्टैक (LLM बैकबोन + DiT एक्शन हेड) को यूनिफॉर्म W4A4 तक क्वांटाइज करने वाला पहला ट्रेनिंग-फ्री फ्रेमवर्क है, जो इस धारणा को चुनौती देता है कि एक्शन हेड यूनिफॉर्म लो-बिट क्वांटाइजेशन में जीवित नहीं रह सकता है।
कम्पोजिट रोटेशन मैकेनिज्म: एक कम्पोजिट SVD·Hadamard रोटेशन का परिचय जो एक साथ प्रति-चैनल वेट ऊर्जा को समान करता है और अवशेष (residual) एक्टिवेशन आउटलेर्स को फैलाता है, जो अकेले SVD या हैडामार्ड ट्रांसफॉर्मेशन की सीमाओं को संबोधित करता है।
प्रति-स्टेप कैलिब्रेशन: DiT मॉडलों के लिए विशेष रूप से विकसित एक प्रति-स्टेप एक्टिवेशन स्केलिंग मैकेनिज्म जो टाइमस्टेप-डिपेंडेंट डायनेमिक-रेंज ड्रिफ्ट को संभालता है, जो इटरेटिव डिनोइजिंग प्रक्रियाओं में स्थिरता बनाए रखने के लिए महत्वपूर्ण है।

प्रयोगात्मक परिणाम

फ्रेमवर्क का मूल्यांकन दो अत्याधुनिक VLA नीतियों: Pi 0.5 और GR00T N1.5 का उपयोग करके LIBERO बेंचमार्क पर किया गया।

सिमुलेशन प्रदर्शन:
- Pi 0.5: W4A4 क्वांटाइजेशन के तहत 98.0% औसत टास्क सक्सेस रेट प्राप्त किया, जो इसके FP16 रेफरेंस (97.1%) से थोड़ा अधिक है।
- GR00T N1.5: 87.8% का औसत सक्सेस रेट प्राप्त किया, जो इसके FP16 रेफरेंस (87.0%) के बराबर है।
- तुलना: ये परिणाम पिछले W4A4 फुल-क्वांटाइजेशन बेसलाइन्स (जैसे, SmoothQuant, DuQuant, QuantVLA) को काफी पीछे छोड़ देते हैं, जो अक्सर DiT अटेंशन लेयर्स को क्वांटाइज करने पर प्रदर्शन बनाए रखने में विफल रहे। उदाहरण के लिए, Pi 0.5 पर, QuantVLA ने केवल 82.0% सफलता प्राप्त की, जबकि Ω-QVLA ने 98.0% तक पहुँच प्राप्त की।
- मेमोरी दक्षता: फ्रेमवर्क ने FP16 की तुलना में स्टैटिक मेमोरी फुटप्रिंट को 71.3% कम कर दिया, जिसमें नगण्य मेटाडेटा ओवरहेड (~ Pi 0.5 के लिए 90 MB) शामिल है।
रियल-वर्ल्ड मैनिपुलेशन:
- प्रयोग एक ड्यूल-आर्म ARX R5 प्लेटफॉर्म पर पांच बाइमैनुअल मैनिपुलेशन कार्यों (जैसे, Pick Cup, Fold Towel) पर किए गए।
- प्रदर्शन: Ω-QVLA ने 51.0 का औसत प्रोग्रेस स्कोर प्राप्त किया, जो FP16 बेसलाइन (49.6) से बेहतर है। इसके विपरीत, बेसलाइन QuantVLA 25.0 पर गिर गया।
- गुणात्मक विश्लेषण: रियल-वर्ल्ड टेस्ट ने पुष्टि की कि Ω-QVLA सुचारू, सटीक मैनिपुलेशन ट्रेजेक्टरीज उत्पन्न करता है। बेसलाइन विधियों ने एंड-इफेक्टर मूवमेंट में झटके (jerky movements) और एक्शन डायमेंशन में बार-बार स्पाइक्स प्रदर्शित किए, जिससे लंबे हॉरिजन के दौरान कार्य विफलता हुई।

महत्व और दावे

यह पेपर इस प्रचलित विश्वास को पलटने का दावा करता है कि DiT एक्शन हेड यूनिफॉर्मली क्वांटाइज होने के लिए बहुत संवेदनशील है। चैनल-स्तरीय ऊर्जा असंतुलन और डिनोइजिंग-स्टेप डायनेमिक-रेंज ड्रिफ्ट के स्रोतों को सीधे संबोधित करके, लेखक प्रदर्शित करते हैं कि उच्च-प्रदर्शन वाले VLA परिनियोजन के लिए एक एकीकृत W4A4 प्रिसिजन पर्याप्त है।

लेखक इस बात पर जोर देते हैं कि उनके दृष्टिकोण के लिए कोई रिट्रेनिंग आवश्यक नहीं है और यह मिश्रित-प्रिसिजन आवंटन की जटिलता को समाप्त करता है। परिणाम बताते हैं कि प्रभावी VLA संपीड़न के लिए समग्र, एक्शन-अवेयर ऑप्टिमाइजेशन की आवश्यकता होती है न कि भाषा-केंद्रित क्वांटाइजेशन तकनीकों के सीधे हस्तांतरण की। हालांकि वर्तमान मूल्यांकन DiT-आधारित बैकबोन और विशिष्ट बेंचमार्क तक सीमित है, यह कार्य ऑन-डिवाइस रोबोट नियंत्रण के लिए एक नया बेसलाइन स्थापित करता है, जिससे सख्त मेमोरी और लेटेंसी बाधाओं वाले हार्डवेयर पर बड़े पैमाने की VLA नीतियों की तैनाती संभव होती है।