The Multilingual Quantization Tax: Structural Collapse and Typological Fragility in Edge SLMs
यह शोध पत्र प्रकट करता है कि 4-बिट वेट क्वांटाइजेशन (weight quantization), जो एज डिप्लॉयमेंट के लिए आवश्यक है, छोटे भाषा मॉडलों (Small Language Models) में गंभीर और टाइपोलॉजिकल रूप से असमान प्रदर्शन गिरावट उत्पन्न करता है, जिससे कम-संसाधन वाले और गैर-लैटिन लिपियों में रिप्रजेंटेशनल कोलैप्स (representational collapse) होता है और विविध भाषाओं के बीच गहरे प्री-ट्रेनिंग असमानताओं को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक सुपर-स्मार्ट रोबोट मित्र है जो दर्जनों भाषाएं बोल सकता है और कठिन पहेलियों को हल कर सकता है। इस रोबोट को फोन या स्मार्टवॉच जैसे छोटे, बैटरी से चलने वाले उपकरण पर चलाने के लिए, इंजीनियरों को इसके मस्तिष्क को सिकोड़ना पड़ता है। वे ऐसा रोबोट की यादों को एक छोटे से डिब्बे में दबाकर करते हैं, जिसे "क्वांटाइजेशन" (quantization) कहा जाता है। इसे एक विशाल पुस्तकालय को एक अकेले बैकपैक में पैक करने की तरह समझें; इसे फिट करने के लिए आपको कुछ विवरणों को त्यागना होगा। आमतौर पर, वैज्ञानिक यह जांचते हैं कि क्या रोबोट अभी भी काम कर रहा है या नहीं, इसके लिए वे अंग्रेजी में सरल प्रश्न पूछते हैं। लेकिन क्या होगा यदि रोबोट अन्य भाषाएं बोलना भूल जाए, या यदि उससे उस भाषा में गणित की समस्या हल करने के लिए कहा जाए जिसे वह जानता है? यह वह बड़ा सवाल है जो शोधकर्ता पूछ रहे हैं: जब हम इन AI मस्तिष्कों को छोटे गैजेट्स पर फिट होने के लिए सिकोड़ते हैं, तो क्या वे पूरी दुनिया को समझने की अपनी क्षमता खो देते हैं, या केवल अंग्रेजी वाले हिस्से को?
एक शोधकर्ता ने दो सबसे स्मार्ट उपलब्ध छोटे AI मॉडल—Gemma 4 और Qwen 3.5—को बहुत ही कम 4-बिट आकार तक सिकोड़कर परीक्षण करने का निर्णय लिया। उन्होंने केवल अंग्रेजी में प्रश्न नहीं पूछे; उन्होंने उन्हें आठ अलग-अलग भाषाओं में चुनौती दी, जिसमें चीनी और रूसी जैसी सामान्य भाषाओं से लेकर स्वाहिली और योरूबा जैसी कम सामान्य भाषाएं शामिल थीं। उन्होंने सोचने के विभिन्न प्रकारों का भी परीक्षण किया, साधारण स्मृति खेलों से लेकर जटिल तर्क प puzzles तक।
उन्होंने जो पाया वह कुछ हद तक यह खोजने जैसा था कि बैकपैक ने केवल कुछ किताबें ही नहीं खो दीं; बल्कि इसने कुछ देशों के लिए आवश्यक विशिष्ट मानचित्र भी खो दिए। शोधकर्ता इसे "क्वांटाइजेशन टैक्स" (Quantization Tax) कहते हैं। उम्मीद के विपरीत, रोबoret का अंग्रेजी बोलने वाला हिस्सा सुरक्षित नहीं था; इसे महत्वपूर्ण गिरावट का सामना करना पड़ा, जो अन्य भाषाओं में देखी गई गिरावट के बराबर थी। रोबोट के मस्तिष्क में "डबल डिसोसिएशन" (double dissociations) थे, जिसका अर्थ है कि वह अरबी को अच्छी तरह से संभाल सकता है लेकिन हिंदी में बुरी तरह विफल हो सकता है, या इसके विपरीत, यह पूरी तरह से इस बात पर निर्भर करता है कि रोबोट को मूल रूप से कैसे प्रशिक्षित किया गया था।
आश्चर्यजनक रूप से, रोबोट की "होम लैंग्वेज"—वह भाषा जिस पर उसे सबसे अधिक प्रशिक्षित किया गया था—भी सुरक्षित नहीं थी। यहाँ तक कि जिन भाषाओं को रोबोट सबसे अच्छी तरह जानता था, जैसे एक मॉडल के लिए अंग्रेजी और दूसरे के लिए चीनी, उनकी तीक्ष्णता भी कम हो गई। वास्तव में, शोधकर्ता ने पाया कि जिस भाषा को एक मॉडल सबसे अच्छी तरह जानता था (Gemma के लिए अंग्रेजी), उसके प्रदर्शन में गिरावट की दर कम सामान्य भाषाओं पर उसके प्रदर्शन के बहुत समान थी। शोधकर्ता का सुझाव है कि सबसे जटिल, बहु-चरणीय तर्क पहेलियों पर सबसे अधिक प्रभाव पड़ा, जबकि सरल, सामान्य ज्ञान वाले स्मृति कार्य आश्चर्यजनक रूप से मजबूत रहे। ऐसा लगता है कि वे सूक्ष्म, महत्वपूर्ण मार्ग जिनका उपयोग रोबोट किसी स्थानीय भाषा के प्रश्न को अपने आंतरिक "अंग्रेजी सोच कोर" में अनुवाद करने के लिए करता है, मस्तिष्क के सिकुड़ने पर टूट जाते हैं।
अध्ययन ने इस विचार को भी खारिज कर दिया कि रोबोट केवल रैंडम अनुमानों के साथ भाग्यशाली हो रहा था। कुछ मामलों में, सिकुड़ने के बाद रोबोट का प्रदर्शन वास्तव में थोड़ा बेहतर होता हुआ प्रतीत हुआ, लेकिन शोधकर्ता ने दिखाया कि यह केवल सांख्यिकीय शोर (statistical noise) था—जैसे कि संयोग से तीन बार सिक्का उछालने पर 'हेड्स' आना, न कि इसलिए कि सिक्का जादुई है। उन्होंने पाया कि जिन भाषाओं के लिए प्रशिक्षण डेटा में बहुत कम उदाहरण थे, रोबोट का मस्तिष्क बस सिकुड़न में जीवित नहीं रह सका, और रैंडम अनुमान के स्तर से नीचे गिर गया।
संक्षेप में, यह पेपर सुझाव देता है कि जबकि इन AI मॉडलों को छोटे उपकरणों पर चलाने के लिए सिकोड़ना आवश्यक है, यह एक "बहुभाषी टैक्स" (multilingual tax) बनाता है जो अनुचित और असमान है। यह केवल रोबोट को थोड़ा धीमा नहीं बनाता; यह विशिष्ट भाषाओं और जटिल तर्क को समझने की इसकी क्षमता को पूरी तरह से तोड़ सकता है। शोधकर्ता का तर्क है कि हम केवल औसत स्कोर को देखकर यह नहीं कह सकते कि "यह काम करता है।" इसके बजाय, हमें यह समझने की आवश्यकता है कि कई भाषाओं और कठिन कार्यों के लिए, इन मॉडलों को सिकोड़ने की वर्तमान विधि उन्हें पीछे छोड़ सकती है, और हमें इन डिजिटल मस्तिष्कों को पैक करने के नए तरीके खोजने की आवश्यकता है जो उनके ज्ञान के सबसे नाजुक हिस्सों को कुचल न दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।