Compress and Forget: bitsandbytes Quantization Amplifies Proactive Interference in LLMs
यह शोधपत्र प्रदर्शित करता है कि bitsandbytes के माध्यम से 4-बिट क्वांटाइजेशन बड़े भाषा मॉडलों (large language models) में सक्रिय हस्तक्षेप (proactive interference) को महत्वपूर्ण रूप से बढ़ाता है, जिससे ट्रांसफॉर्मर बैकबोन के भीतर समान-कुंजी घुसपैठ त्रुटियों (same-key intrusion errors) के बढ़ने के कारण, बार-बार ओवरराइट किए गए अर्थपूर्ण रूप से समान मानों के लिए पुनर्प्राप्ति सटीकता (retrieval accuracy) में उल्लेखनीय गिरावट आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल) की कल्पना एक बहुत ही चौकस सहायक के रूप में करें जो बातचीत कर सकता है, विवरण याद रख सकता है, और नई जानकारी आने पर अपने ज्ञान को अपडेट कर सकता है। वास्तविक दुनिया में, इन सहायकों से अक्सर बदलते तथ्यों को ट्रैक करने के लिए कहा जाता है: जैसे कि एक मीटिंग का समय जो दो बजे से बदलकर तीन और फिर चार बजे हो जाता है, या किसी उपयोगकर्ता की पसंद जो एक लंबी बातचीत के दौरान विकसित होती है। इन प्रणालियों के उपयोगी होने के लिए, उन्हें न केवल नवीनतम अपडेट को याद रखना चाहिए, बल्कि पुराने, अब गलत हो चुके संस्करणों को अनदेखा भी करना चाहिए। हालांकि, शोधकर्ताओं ने इस तरह से अपडेट संभालने के तरीके में एक विशिष्ट कमजोरी की खोज की है। जब किसी जानकारी को कई बार ओवरराइट (overwrite) किया जाता है, तो मॉडल की सबसे हालिया संस्करण को पुनः प्राप्त करने की क्षमता कम होने लगती है। यह वर्तमान उत्तर को पुराने, हटा दिए गए संस्करणों में से एक के साथ भ्रमित करने लगता है। यह घटना, जिसे 'प्रोएक्टिव इंटरफेरेंस' (proactive interference) कहा जाता है, एक दस्तावेजीकृत विफलता मोड है जहाँ पिछले अपडेटों का संचय वर्तमान सत्य को याद रखने में कठिनाई पैदा करता है, जो मानव वर्किंग मेमोरी में पाई जाने वाली एक समान संघर्ष को दर्शाता है।
जैसे-जैसे ये मॉडल अनुसंधान प्रयोगशालाओं से निकलकर रोजमर्रा के अनुप्रयोगों में जा रहे हैं, डेवलपर्स के सामने एक व्यावहारिक चुनौती है: उन्हें मानक हार्डवेयर पर कुशलतापूर्वक कैसे चलाया जाए। मेमोरी बचाने और प्रोसेसिंग को तेज करने के लिए, उद्योग ने व्यापक रूप से 'पोस्ट-ट्रेनिंग क्वांटाइजेशन' (post-training quantization) नामक एक तकनीक को अपनाया है। यह प्रक्रिया मॉडल के आंतरिक नंबरों को कंप्रेस करती है, जिससे उनकी सटीकता उच्च-फिडेलिटी प्रारूप से एक बहुत छोटे, कम सटीक संस्करण में बदल जाती है। एक सामान्य धारणा उभरी है कि यह संपीड़न सुरक्षित है, जिससे समग्र प्रदर्शन में केवल नगण्य हानि होती है। धारणा यह है कि हालांकि नंबर थोड़े कम सटीक हैं, लेकिन मॉडल की मूल बुद्धिमत्ता बरकरार रहती है। लेकिन इस धारणा का कभी इस विशिष्ट, नाजुक कार्य के विरुद्ध परीक्षण नहीं किया गया था जिसमें बार-बार बदलने वाली जानकारी को ट्रैक किया जाता है।
शोधकर्ताओं की एक टीम ने इस धारणा का सीधे परीक्षण करने के लिए हाथ मिलाया। उन्होंने तीन अलग-अलग, लोकप्रिय ओपन-सोर्स भाषा मॉडलों को लिया और उन्हें प्रोएक्टिव इंटरफेरेंस को मापने के लिए डिज़ाइन किए गए एक कठोर मेमोरी टेस्ट से गुजारा। इस परीक्षण में, उन्हें एक ऐसे पात्र (character) के सामने रखा गया जिसके गुणों, जैसे कि पसंदीदा रंग या व्यवसाय, को बार-बार अपडेट किया गया। अपडेट की संख्या केवल एक से लेकर नब्बे-छह (96) तक थी। अंतिम अपडेट के बाद, मॉडलों को केवल सबसे हालिया मान (value) को याद करने के लिए कहा गया। शोधकर्ताओं ने प्रत्येक मॉडल पर यही परीक्षण तीन अलग-अलग सटीकता स्तरों का उपयोग करके किया: मूल उच्च-फिडेलिटी संस्करण, एक कंप्रेस्ड आठ-बिट संस्करण, और एक अत्यधिक कंप्रेस्ड चार-बिट संस्करण। उन्होंने कार्य को बिल्कुल समान रखा, केवल मॉडल के आंतरिक नंबरों की सटीकता को बदला।
परिणामों ने एक स्पष्ट और चिंताजनक पैटर्न का खुलासा किया। जबकि मॉडल अपने मूल उच्च-फिडेलिटी सेटिंग्स का उपयोग करते समय लगभग पूरी तरह से सटीक थे, अत्यधिक कंप्रेस्ड चार-बिट संस्करणों को उच्च संख्या में अपडेट होने पर काफी संघर्ष करना पड़ा। परीक्षण किए गए एक मॉडल में, उच्च संख्या में अपडेट होने पर, उच्च-फिडेलिटी संस्करण में अस्सी-एक प्रतिशत से गिरकर चार-बिट संस्करण में केवल अड़सठ प्रतिशत सटीकता रह गई। यह कोई मामूली उतार-चढ़ाव नहीं था; सांख्यिकीय विश्लेषण ने पुष्टि की कि यह गिरावट वास्तविक थी और सभी तीन अलग-अलग मॉडलों में सुसंगत थी। शोधकर्ताओं ने पाया कि कंप्रेस्ड मॉडल केवल रैंडम गलतियाँ नहीं कर रहे थे। इसके बजाय, वे विशेष रूप से वर्तमान उत्तर को एक पुराने, ओवरराइट किए गए मान के साथ भ्रमित कर रहे थे। जब मॉडल विफल हुआ, तो उसने लगभग हमेशा एक ऐसा मान चुना जो बातचीत में पहले सत्य था लेकिन अब सही नहीं था।
महत्वपूर्ण रूप से, अध्ययन ने दिखाया कि यह समस्या सामान्य शोर या बुद्धिमत्ता की सरल हानि के कारण नहीं थी। जब शोधकर्ताओं ने मॉडलों का संख्यात्मक मानों (numeric values) के साथ परीक्षण किया, जैसे कि स्टॉक की कीमतें या तापमान, जहाँ नंबरों के अर्थ समान नहीं थे, तो चार-बिट कंप्रेशन का लगभग कोई नकारात्मक प्रभाव नहीं पड़ा। मॉडलों ने संख्यात्मक अपडेट को उच्च-फिडेलिटी संस्करणों की तरह ही अच्छी तरह से संभाला। यह अंतर महत्वपूर्ण है क्योंकि यह सिद्ध करता है कि कंप्रेशन मॉडल को हर क्षेत्र में "मूर्ख" नहीं बनाता है। इसके बजाय, यह विशेष रूप से उन चीजों के बीच की रेखाओं को धुंधला कर देता है जो अर्थ संबंधी रूप से समान (semantically similar) हैं, जिससे मॉडल के लिए समान अवधारणाओं को अलग रखना कठिन हो जाता है जब उन्हें बार-बार अपडेट किया जाता है।
शोधकर्ताओं ने यह भी जांचा कि मॉडल में यह विफलता कहाँ हुई। उन्होंने पाया कि समस्या मॉडल के मुख्य भाग (main body) में उत्पन्न हुई, जो जानकारी को संसाधित करने और रखने के लिए जिम्मेदार है, न कि उस अंतिम परत (final layer) में जो उत्तर उत्पन्न करती है। यह सुझाव देता है कि कंप्रेशन प्रक्रिया स्वयं मॉडल के समान विचारों को दर्शाने के तरीके को बदल रही है, जिससे वे इस तरह ओवरलैप होते हैं जिससे भ्रम पैदा होता है। इसके अलावा, अध्ययन ने इस विचार को चुनौती दी कि मध्यम स्तर का कंप्रेशन, आठ बिट का उपयोग करना, पूरी तरह से सुरक्षित था। हालांकि आठ-बिट कंप्रेशन चार-बिट संस्करण की तुलना में बेहतर प्रदर्शन करता था, शोधकर्ताओं ने पाया कि परीक्षण किए गए तीन में से दो मॉडलों में इसने अभी भी एक छोटा लेकिन मापने योग्य दंड (penalty) दिया। यह इंगित करता है कि "सुरक्षित" कहे जाने वाले कंप्रेशन स्तर भी पूरी तरह से जोखिम मुक्त नहीं हैं।
ये निष्कर्ष सुझाव देते हैं कि संसाधनों को बचाने के लिए भाषा मॉडलों को कंप्रेस करने का व्यापक अभ्यास विकसित सूचना को ट्रैक करने वाले अनुप्रयोगों के लिए एक छिपी हुई लागत ला सकता है। एक चैटबॉट जो लंबी बातचीत प्रबंधित कर रहा है या एक प्रणाली जो उपयोगकर्ता की बदलती प्राथमिकताओं को ट्रैक कर रही है, उसके लिए मानक बेंचमार्क जो उच्च समग्र सटीकता दिखाते हैं, एक विशिष्ट भेद्यता (vulnerability) को छिपा सकते हैं। मॉडल सामान्य परीक्षणों में पूरी तरह से काम करते हुए दिखाई दे सकते हैं, लेकिन अपडेट की एक धारा के सामने, जहाँ वर्तमान को याद रखने के लिए अतीत को भूलना आवश्यक है, कंप्रेस्ड संस्करण लड़खड़ाने की अधिक संभावना रखते हैं। अध्ययन निष्कर्ष निकालता है कि जबकि कंप्रेशन परिनियोजन (deployment) के लिए एक शक्तिशाली उपकरण है, यह तटस्थ नहीं है; यह चुनिंदा रूप से उस तंत्र को नष्ट करता है जो इन मॉडलों को समान विचारों के बीच भ्रम का प्रतिरोध करने की अनुमति देता है, एक ऐसी खामी जिसे केवल लक्षित परीक्षण ही प्रकट कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।