Quantization Inflates Reasoning: Token Inflation as a Hidden Cost of Low-Bit Reasoning Models
यह शोध पत्र प्रकट करता है कि रीजनिंग मॉडल्स का लो-बिट क्वांटाइजेशन, सटीकता को बनाए रखते हुए भी, अक्सर मध्यवर्ती चरणों और पुनरावृत्ति के माध्यम से चेन्स ऑफ थॉट (chains of thought) की लंबाई बढ़ाकर एक छिपी हुई लागत उत्पन्न करता है, जिससे अपेक्षित इन्फरेंस स्पीडअप (inference speedup) निष्प्रभावी हो जाता है और सटीकता मेट्रिक्स के साथ टोकन उपयोग की रिपोर्ट करना आवश्यक हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बेहद बुद्धिमान और तेज़ सोचने वाला सहायक (एक लार्ज लैंग्वेज मॉडल) है जो जटिल पहेलियों को सुलझाने के लिए अंतिम उत्तर देने से पहले एक लंबा, चरण-दर-चरण "विचार प्रक्रिया" (thought process) लिखता है। इसी तरह आधुनिक AI "तर्क" (reasoning) करता है।
इस सहायक को चलाने के लिए सस्ता और तेज़ बनाने के लिए, इंजीनियर अक्सर एक तकनीक का उपयोग करते हैं जिसे क्वांटाइजेशन (Quantization) कहा जाता है। इसे एक हाई-डेफिनिशन मूवी को छोटे फ़ाइल आकार में कंप्रेस करने की तरह समझें। आप बहुत कम विवरण खो देते हैं, लेकिन फ़ाइल बहुत छोटी हो जाती है और तेज़ी से लोड होती है। आमतौर पर, यह बहुत अच्छा काम करता है: मूवी अभी भी अच्छी दिखती है, और यह तेज़ी से चलती है।
हालाँकि, यह शोध पत्र एक अजीब गड़बड़ी की खोज करता है जब वे इस "कंप्रेशन" को एक ऐसे AI पर लागू करते है जो तर्क (reasoning) कर रहा है।
छिपा हुआ खर्च: "बहुत अधिक सोचना"
शोधकर्ताओं ने पाया कि जब उन्होंने AI के मस्तिष्क को कंप्रेस किया (लो-बिट क्वांटाइजेशन का उपयोग करके), तो AI केवल थोड़ा धीमा या कम सटीक नहीं हुआ। इसके बजाय, वह ज़रूरत से ज़्यादा सोचने (overthinking) लगा।
उपमा (Analogy):
कल्पना कीजिए कि एक छात्र गणित की परीक्षा दे रहा है।
- फुल-प्रिसिजन मॉडल (मूल मॉडल): छात्र प्रश्न पढ़ता है, स्पष्ट रूप से सोचता है, तीन चरण लिखता है, और सही उत्तर प्राप्त करता है। कुल समय: 5 मिनट।
- कंप्रेस्ड मॉडल (क्वांटाइज्ड मॉडल): छात्र अभी भी सही उत्तर पाने के लिए पर्याप्त स्मार्ट है, लेकिन क्योंकि उसका मस्तिष्क "कंप्रेस्ड" है, वह भ्रमित हो जाता है। वह पहला चरण लिखता है, फिर उस पर संदेह करता है, उसे फिर से लिखता है, जाँच करता है, फिर से संदेह करता है, और उसे तीसरी बार लिखता है। वह अंततः सही उत्तर प्राप्त कर लेता है, लेकिन इसमें उसे 15 मिनट लग गए।
भले ही छात्र ने सही ग्रेड (सटीकता) प्राप्त किया, लेकिन उसने तीन गुना अधिक समय (कंप्यूट लागत) बर्बाद कर दिया।
शोध पत्र के मुख्य निष्कर्ष
- सटीकता एक झूठ है (दक्षता के लिए): यदि आप केवल इस बात को देखते हैं कि AI ने सही उत्तर दिया या नहीं, तो कंप्रेस्ड मॉडल ठीक दिखता है। लेकिन यदि आप देखते हैं कि वहां तक पहुँचने के लिए उसने कितना सोचा, तो वह वास्तव में बहुत खराब है। शोध पत्र इसे "टोकन इन्फ्लेशन" (Token Inflation) कहता है। AI अपनी विचार प्रक्रिया में ज़रूरत से ज़्यादा "सोचने वाले टोकन" (शब्द) उत्पन्न करता है।
- "ओवरथिंकिंग" दोहराव वाली है: शोध पत्रों ने विश्लेषण किया कि क्यों AI इतना अधिक समय ले रहा था। वह केवल गहराई से नहीं सोच रहा था; वह गोल-गोल घूमकर सोच रहा था। कंप्रेस्ड AI कुछ ऐसा कह सकता था जैसे, "रुको, मुझे इसकी जाँच करने दो," या "मुझे इसे सत्यापित करने दो," और फिर वही विचार बिल्कुल दोहरा देता था जो उसने अभी सोचा था। वह आत्म-संदेह के लूप में फंस गया था।
- यह आपको धीमा कर देता है: क्योंकि AI बहुत सारे अतिरिक्त "सोचने वाले" शब्द बना रहा है, इसलिए उपयोगकर्ता को अंतिम उत्तर के लिए अधिक प्रतीक्षा करनी पड़ती है। भले ही कंप्यूटर चिप तकनीकी रूप से प्रत्येक शब्द को तेज़ी से प्रोसेस कर रहा हो, लेकिन अतिरिक्त शब्दों की भारी मात्रा इस गति वृद्धि (speed boost) को रद्द कर देती है। यह फेरारी चलाने जैसा है, लेकिन आप ट्रैफ़िक में फंसे हुए हैं क्योंकि आप गोल-गोल घूम रहे हैं।
- बड़े मॉडल भी अछूते नहीं हैं: यह छोटे और बड़े दोनों प्रकार के AI मॉडलों में होता है, हालांकि छोटे मॉडल बहुत जल्दी भ्रमित हो जाते हैं।
क्या हम इसे ठीक कर सकते हैं?
शोधकर्ताओं ने AI को ओवरथिंकिंग करने से रोकने के लिए कुछ तरीके आज़माए:
- इसे "छोटा रहने" के लिए कहना (प्रॉम्प्टिंग): उन्होंने AI को यह बताने की कोशिश की, "इतना अधिक मत सोचो।" इसने उत्तर को छोटा तो किया, लेकिन इसने AI को कम बुद्धिमान भी बना दिया। यह एक समझौता था: छोटे विचार, लेकिन गलत उत्तर।
- ट्रेनिंग डेटा बदलना: उन्होंने कंप्रेस्ड AI को सामान्य टेक्स्ट के बजाय अच्छे गणितीय तर्क के उदाहरणों का उपयोग करके सिखाने की कोशिश की। इससे थोड़ी मदद मिली, लेकिन पर्याप्त नहीं।
- सबसे अच्छा समाधान (री-ट्रेनिंग): सबसे प्रभावी सुधार यह था कि AI को विशेष रूप से कंप्रेस्ड अवस्था में ही री-ट्रेन किया जाए। यह एक छात्र को आँखों पर पट्टी बांधकर परीक्षा देने के लिए सिखाने जैसा है, ताकि वह शुरू से ही भ्रम के बीच रास्ता बनाना सीख सके। इस पद्धति (जिसे क्वांटाइजेशन-अवेयर ट्रेनिंग कहा जाता है) ने AI को एक साथ तेज़, सटीक और संक्षिप्त बनाए रखने में सफलता प्राप्त की।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि हम अब AI के प्रदर्शन को केवल इस आधार पर नहीं माप सकते कि "क्या इसने सही उत्तर दिया?" तर्क करने वाले मॉडलों के लिए, हमें यह भी मापना होगा कि "वहाँ तक पहुँचने के लिए इसने कितना सोचा?"
यदि हम इस "सोचने की लागत" को अनदेखा करते हैं, तो हमें लग सकता है कि हमने अपने AI को कंप्रेस करके पैसे बचा लिए हैं, जबकि वास्तव में हम अधिक समय और कंप्यूटिंग पावर का भुगतान कर रहे होंगे क्योंकि AI ओवरथिंकिंग के लूप में फंसा हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।