The Asymmetric Harms of LLM Compression
यह शोध पत्र प्रकट करता है कि मानक समग्र मेट्रिक्स (aggregate metrics) एलएलएम (LLM) संपीड़न के विषम नुकसानों को पकड़ने में विफल रहते हैं, जो असमान रूप से हेड नॉलेज रिटेंशन (head knowledge retention) को कम करते हैं, नव-खोई गई जानकारी के प्रति उच्च आत्मविश्वास बनाए रखते हैं, और जनसांख्यिकीय उपसमूहों के बीच सामाजिक पूर्वाग्रहों में विपरीत बदलावों को छिपाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) आज के सबसे उन्नत आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के शक्तिशाली कंप्यूटर प्रोग्राम हैं, जो कहानियाँ लिखने, जटिल प्रश्नों के उत्तर देने और समस्याओं को हल करने में सक्षम हैं। इन विशाल प्रोग्रामों को स्मार्टफोन या लैपटॉप जैसे रोजमर्रा के उपकरणों पर उपयोगी बनाने के लिए, इंजीनियर अक्सर उन्हें सिकोड़ देते हैं, जिसे 'कंप्रेशन' (compression) कहा जाता है। यह स्थान बचाने और कंप्यूटर की सोचने की गति को तेज करने के लिए किया जाता है, ठीक वैसे ही जैसे यात्रा के लिए एक भारी सूटकेस को अधिक सघनता से पैक किया जाता है। वर्षों से, यह जांचने का मानक तरीका कि यह सिकुड़ने की प्रक्रिया सफल रही या नहीं, प्रोग्राम के समग्र स्कोर को देखना था। यदि संकुचित (compressed) संस्करण अभी भी अधिकांश प्रश्नों के सही उत्तर देता था और स्वाभाविक लगता था, तो इसे उपयोग के लिए सुरक्षित माना जाता था। हालाँकि, यह दृष्टिकोण मॉडल को एक एकल, समान इकाई के रूप में मानता है, यह मानकर कि यदि औसत प्रदर्शन अच्छा है, तो इसके भीतर सब कुछ ठीक से काम कर रहा है।
शोधकर्ताओं की एक टीम ने इन औसत स्कोर से कहीं अधिक गहराई से देखने का निर्णय लिया। वे जानना चाहते थे कि क्या इन मॉडलों को सिकोड़ने की प्रक्रिया कुछ विशिष्ट, असमान समस्याओं को छिपा देती है जो खतरनाक या अनुचित हो सकती हैं। उन्होंने तीन अलग-अलग लार्ज लैंग्वेज मॉडल्स की जांच की और उन्हें कंप्रेस करने के ग्यारह अलग-अलग तरीकों के विरुद्ध परखा। केवल यह जांचने के बजाय कि मॉडल सही उत्तर दे रहा है या नहीं, उन्होंने इस बात की जांच की कि मॉडल द्वारा जाने गए विशिष्ट तथ्यों के साथ क्या होता है, गलत होने पर मॉडल कितना आश्वस्त रहता है, और क्या मॉडल लोगों के विभिन्न समूहों के साथ अलग तरह से व्यवहार करता है। उनका कार्य प्रकट करता है कि कंप्रेशन केवल मॉडल को हर चीज़ में थोड़ा खराब नहीं बनाता है; इसके बजाय, यह एक अजीब, असमान परिदृश्य बनाता है जहाँ कुछ ज्ञान लुप्त हो जाता है जबकि मॉडल खतरनाक रूप रूप से आत्मविश्वासी बना रहता है, और जहाँ छिपे हुए पूर्वाग्रह उन तरीकों से बदल सकते हैं जिन्हें औसत स्कोर पूरी तरह से अनदेखा कर देता है।
शोधकर्ताओं ने सबसे पहले यह पूछकर शुरुआत की कि कंप्रेशन मॉडल की विभिन्न प्रकार के तथ्यों की स्मृति को कैसे प्रभावित करता है। वास्तविक दुनिया में, कुछ तथ्य सामान्य ज्ञान होते हैं, जैसे किसी देश की राजधानी, जबकि अन्य दुर्लभ होते हैं, जैसे किसी छोटे, अल्पज्ञात शहर की जनसंख्या। टीम ने पाया कि जब एक मॉडल को कंप्रेस किया जाता है, तो वह इन दुर्लभ तथ्यों को सामान्य तथ्यों की तुलना में अधिक बार नहीं खोता है, जैसा कि अपेक्षित है। इसके बजाय, इसके विपरीत एक सूक्ष्म तरीका होता है। जबकि मॉडल अभी भी दुर्लभ तथ्यों की तुलना में सामान्य तथ्यों के बारे में प्रश्नों के उत्तर अधिक बार सही देता है, वह वास्तव में उन सामान्य तथ्यों को याद रखने की अपनी क्षमता का एक बड़ा अनुपात खो देता है। दुर्लभ तथ्य, आश्चर्यजनक रूप से, सामान्य तथ्यों की तुलना में अपनी मूल सटीकता को बेहतर तरीके से बनाए रखते हैं। इसका अर्थ यह है कि प्रदर्शन को मापने का मानक तरीका, जो सही उत्तरों की कुल संख्या को देखता है, इस तथ्य को छिपा देता है कि मॉडल की सुस्थापित जानकारी पर पकड़ कमजोर हो रही है।
इससे भी अधिक चिंताजनक यह है कि जब मॉडल कुछ भूल जाता है तो क्या होता है। शोधकर्ताओं ने पाया कि जब एक संकुचित मॉडल उस ज्ञान को खो देता है जो उसके पास पहले था, तो वह अक्सर यह महसूस नहीं कर पाता कि वह भूल गया है। अनिश्चित होने या यह स्वीकार करने के बजाय कि वह उत्तर नहीं जानता, मॉडल अक्सर अपने नए, गलत उत्तर के प्रति बहुत आत्मविश्वासी बना रहता है। कई मामलों में, कंप्रेशन के कारण मॉडल के उस प्रश्न पर विफल होने के बाद भी जिसे वह पहले सही उत्तर देता था, मॉडल अभी भी उच्च स्तर की निश्चितता के साथ बोलता है। यह अति-आत्मविश्वास (overconfidence) सभी प्रकार के कंप्रेशन या सभी मॉडलों में सुसंगत नहीं है, लेकिन यह एक बार-बार होने वाला और परेशान करने वाला पैटर्न है। यह सुझाव देता है कि एक संकुचित मॉडल एक सही उत्तर की तरह ही अधिकार के साथ गलत उत्तर दे सकता है, जिससे उपयोगकर्ता के लिए यह पहचानना कठिन हो जाता है कि मशीन गलती कर रही है।
अध्ययन ने यह भी देखा कि कंप्रेशन निष्पक्षता और पूर्वाग्रह को कैसे प्रभावित करता है, विशेष रूप से यह कि मॉडल लिंग या अन्य विशेषताओं के आधार पर लोगों के विभिन्न समूहों के साथ कैसा व्यवहार करता है। शोधकर्ताओं ने पाया कि समग्र पूर्वाग्रह स्कोर को देखना भ्रामक हो सकता है। एक संकुचित मॉडल में समग्र पूर्वाग्रह स्कोर में लगभग कोई बदलाव नहीं दिख सकता है, जिससे पर्यवेक्षकों को विश्वास हो सकता है कि वह अभी भी निष्पक्ष है। हालाँकि, जब उन्होंने विशिष्ट समूहों पर बारीकी से नज़र डाली, तो उन्होंने पाया कि मॉडल की प्राथमिकताएँ अलग-अलग लोगों के लिए विपरीत दिशाओं में नाटकीय रूप से बदल रही थीं। उदाहरण के लिए, एक मॉडल एक समूह के प्रति काफी अधिक पक्षपाती हो सकता है जबकि साथ ही दूसरे समूह के प्रति कम पक्षपाती हो सकता है, और ये दोनों परिवर्तन एक-दूसरे को संतुलित कर देते हैं। इसका अर्थ यह है कि एक मॉडल कागज़ पर पूरी तरह संतुलित दिखाई दे सकता है जबकि वास्तव में वह विशिष्ट व्यक्तियों या समुदायों के लिए बहुत अधिक हानिकारक हो सकता है।
ये निष्कर्ष इस विचार को चुनौती देते हैं कि एक संदित (compressed) मॉडल मूल के केवल एक छोटे, तेज़ संस्करण के रूप में होता है। शोध से पता चलता है कि इन मॉडलों को सिकोड़ने की प्रक्रिया असममित परिवर्तन पैदा करती है जिन्हें मानक परीक्षण नहीं पकड़ पाते। मॉडल केवल समान रूप से खराब नहीं होते; वे सामान्य ज्ञान पर अपनी पकड़ खो देते हैं जबकि दुर्लभ तथ्यों को थामे रखते हैं, वे आत्मविश्वासी होकर गलत होते हैं, और स्थिर औसत स्कोर के पीछे गहरे, असमान पूर्वाग्रहों को छिपाते हैं। लेखक निष्कर्ष निकालते हैं कि इन संकुचित मॉडलों को वास्तविक दुनिया में तैनात करने से पहले, उनका बहुत अधिक विस्तृत, सूक्ष्म जाँच के साथ परीक्षण किया जाना चाहिए। औसत प्रदर्शन पर निर्भर रहना अब पर्याप्त नहीं है, क्योंकि यह चिकित्सकों को उन विशिष्ट, असमान नुकसानों के प्रति अंधा बना देता है जो कंप्रेशन पेश करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।