Target-Aware Calibration Data Selection for Preserving Uncertainty in Quantized Language Models
यह शोध पत्र डाउट-प्रिजर्विंग क्वांटाइजेशन (DPQ) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो विशिष्ट परिनियोजन लक्ष्यों (deployment targets) के आधार पर कैलिब्रेशन डेटा का चयन करता है ताकि क्वांटाइज्ड लैंग्वेज मॉडल्स में कॉन्फिडेंस और एब्स्टेंशन जैसे अनिश्चितता व्यवहारों को बेहतर ढंग से संरक्षित किया जा सके, यह प्रदर्शित करते हुए कि इष्टतम डेटा चयन वांछित संरक्षण लक्ष्य पर निर्भर करता है न कि किसी निश्चित रेसिपी का पालन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) कई आधुनिक आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के इंजन हैं, जो टेक्स्ट जेनरेट करने, सवालों के जवाब देने और उन समस्याओं को हल करने में सक्षम हैं जो कभी मशीनों की पहुंच से बाहर लगती थीं। स्मार्टफोन या लैपटॉप जैसे रोजमर्रा के उपकरणों पर इन विशाल प्रणालियों को चलाने के लिए, इंजीनियर अक्सर 'क्वांटाइजेशन' (quantization) नामक तकनीक का उपयोग करते हैं। यह प्रक्रिया मॉडल के मेमोरी फुटप्रिंट को सरल बनाकर छोटा कर देती है, ठीक वैसे ही जैसे एक हाई-रिज़ॉल्यूशन फोटो को एक छोटी फ़ाइल में कंप्रेस करना ताकि वह तेज़ी से लोड हो सके। वर्षों तक, इस संपीड़न (compression) की सफलता का निर्णय लगभग पूरी तरह से इस बात से किया जाता था कि क्या मॉडल अभी भी सही उत्तर दे रहा है। यदि एक मॉडल, जो कभी जानता था कि ऑस्ट्रेलिया की राजधानी कैनबरा है, सिकुड़ने के बाद भी कैनबरा ही बताता है, तो इसे एक सफलता माना जाता था। हालाँकि, यह संकीर्ण ध्यान इस बात की अनदेखी करता है कि ये मॉडल कैसे काम करते हैं: उनके आत्मविश्वास (confidence) पर। एक मॉडल केवल उत्तर नहीं देता; वह यह भी गणना करता है कि उस उत्तर के बारे में वह कितना आश्वस्त है। यह आंतरिक निश्चितता सुरक्षा और विश्वसनीयता के लिए महत्वपूर्ण है, विशेष रूप से जब मॉडल को यह तय करने की आवश्यकता हो कि सवाल का जवाब देना है या यह स्वीकार करना है कि वह नहीं जानता।
येल यूनिवर्सिटी और ऑक्सफोर्ड यूनिवर्सिटी सहित विभिन्न संस्थानों के शोधकर्ताओं की एक टीम ने खोजा है कि इन मॉडल्स को छोटा करने का मानक तरीका अक्सर उनके इस आंतरिक आत्मविश्वास के बोध को तोड़ देता है, भले ही अंतिम उत्तर सही रहे। उन्होंने पाया कि जबकि एक कंप्रेस्ड मॉडल अभी भी सही शहर चुन सकता है, वह अपने चुनाव के बारे में अत्यधिक आत्मविश्वासी या अजीब तरह से अनिश्चित हो सकता है, एक ऐसा बदलाव जो डाउनस्ट्रीम सिस्टम को खतरनाक गलतियाँ करने के लिए मजबूर कर सकता है। इसे ठीक करने के लिए, शोधकर्ताओं ने कंप्रेशन के लिए मॉडल को तैयार करने हेतु उपयोग किए जाने वाले विशिष्ट डेटा को चुनने के लिए एक नई विधि विकसित की। उनका काम दिखाता है कि हर स्थिति के लिए उपयोग करने के लिए डेटा का कोई एक एकल "परफेक्ट" सेट नहीं होता है। इसके बजाय, डेटा को सावधानीपूर्वक इस आधार पर चुना जाना चाहिए कि उपयोगकर्ता को किस प्रकार के व्यवहार को सुरक्षित रखने की आवश्यकता है, चाहे वह अनुत्तरित प्रश्नों को पहचानने की क्षमता हो या विषयों की एक विस्तृत श्रृंखला में उत्तरों की सामान्य विश्वसनीयता हो।
समस्या का मूल कारण यह है कि ये मॉडल्स अनिश्चितता को कैसे संभालते हैं। वास्तविक दुनिया में, एक सहायक मॉडल को यह पता होना चाहिए कि कब चुप रहना है। यदि कोई उपयोगकर्ता ऐसा प्रश्न पूछता है जिसका कोई तथ्यात्मक उत्तर नहीं है, तो मॉडल को अनुमान लगाने के बजाय अस्पष्टता को पहचानना चाहिए और उत्तर देने से बचना चाहिए, न कि गलत तथ्य को आत्मविश्वास के साथ प्रस्तुत करना चाहिए। इस बात को पहचानने की क्षमता कि मॉडल किसी प्रश्न का उत्तर दे सकता है या नहीं, 'आंसरैबिलिटी' (answerability) के रूप में जानी जाती है। शोधकर्ताओं ने देखा कि मानक कंप्रेशन तकनीकें अक्सर इस नाजुक सीमा को बिगाड़ देती हैं। एक मॉडल किसी ऐसे प्रश्न को देख सकता है जिसका वह उत्तर नहीं दे सकता, और जहाँ पूर्ण-आकार वाला संस्करण झिझकता, वहीं कंप्रेस्ड संस्करण अचानक एक गलत उत्तर में अत्यधिक आत्मविश्वासी हो सकता है। ऐसा इसलिए होता है क्योंकि कंप्रेशन प्रक्रिया छोटी त्रुटियों को उत्पन्न करती है जो संचित होती रहती हैं, जिससे मॉडल के आंतरिक स्कोर उस दहलीज (threshold) के पार चले जाते हैं जहाँ वह बोलने का निर्णय लेता है।
इसे हल करने के लिए, शोधकर्ताओं ने प्रशिक्षण डेटा के चयन को एक सामान्य चरण के रूप में नहीं, बल्कि एक लक्षित अंशांकन (calibration) कार्य के रूप में माना। उन्होंने महसूस किया कि अलग-अलग लक्ष्यों के लिए अलग-अलग डेटा की आवश्यकता होती है। यदि लक्ष्य मॉडल की अनुत्तरित प्रश्नों का पता लगाने की क्षमता को बनाए रखना है, तो मॉडल को तैयार करने के लिए उपयोग किए जाने वाले डेटा में ऐसे उदाहरण भरे होने चाहिए जो अनिश्चितता के बिल्कुल किनारे पर स्थित हों—ऐसे प्रश्न जिनका उत्तर देना कठिन हो या जहाँ मॉडल स्वाभाविक रूप से अनिश्चित हो। यदि लक्ष्य विभिन्न प्रकार के प्रश्नों पर सामान्य विश्वसनीयता बनाए रखना है, तो डेटा अधिक संतुलित होना चाहिए, जिसमें उन कठिन 'एज केसेस' को मानक, सीधे उदाहरणों के साथ मिलाया गया हो। शोधकर्ताओं ने आठ अलग-अलग लैंग्वेज मॉडल्स और नौ अलग-अलग बेंचमार्क पर इस विचार का परीक्षण किया, और अपने दृष्टिकोण की तुलना बाईस अन्य विधियों से की। उन्होंने पाया कि जब उन्होंने विशेष रूप से संदेह और अनिश्चितता के उच्च स्तर वाले डेटा का चयन किया, तो कंप्रेस्ड मॉडल्स उपयुक्त होने पर "मुझे नहीं पता" कहने की अपनी क्षमता को बनाए रखने में कहीं बेहतर थे।
अध्ययन ने एक आश्चर्यजनक ट्रेड-ऑफ (trade-off) भी उजागर किया। वह विशिष्ट रेसिपी जो अनुत्तरित प्रश्नों को पहचानने की क्षमता को बनाए रखने के लिए सबसे अच्छी थी, वह नहीं थी जो मानक बहुविकल्पीय परीक्षणों पर सामान्य सटीकता बनाए रखने के लिए सबसे अच्छी थी। एक विधि जिसने कठिन, अनिश्चित उदाहरणों पर भारी ध्यान केंद्रित किया, वह मॉडल की निर्णय सीमाओं (decision boundaries) की रक्षा करने में उत्कृष्ट रही, जिससे यह सुनिश्चित हुआ कि वह उन प्रश्नों का आत्मविश्वास से उत्तर न दे जिन्हें उसे नहीं देना चाहिए। हालाँकि, व्यापक कार्यों के लिए जहाँ मॉडल से अधिकांश प्रश्नों के उत्तर देने की अपेक्षा की जाती है, डेटा का एक हल्का मिश्रण, या यहाँ तक कि सामान्य आत्मविश्वास स्तरों के लिए चुना गया डेटा, बेहतर प्रदर्शन करता है। यह निष्कर्ष उस लंबे समय से चली आ रही धारणा को चुनौती देता है कि मॉडल को कंप्रेशन के लिए तैयार करने का एक एकल, सार्व적인 सर्वोत्तम तरीका होता है। इसके बजाय, शोधकर्ताओं ने दिखाया कि "सर्वश्रेष्ठ" डेटा पूरी तरह से इस बात पर निर्भर करता है कि मॉडल का वास्तविक दुनिया में उपयोग किस लिए किया जाएगा।
शोधकर्ताओं ने एक नया ढांचा पेश किया जिसे वे 'डाउट-प्रिजर्विंग क्वांटाइजेशन' (Doubt-Preserving Quantization) कहते हैं। यह विधि पहले मूल, पूर्ण-आकार वाले मॉडल से संभावित प्रश्नों के एक बड़े पूल को स्कोर करने के लिए कहती है। फिर यह उन विशिष्ट प्रश्नों की पहचान करती है जहाँ मॉडल सबसे अधिक अनिश्चित है या जहाँ शीर्ष दो उत्तरों के बीच का अंतर बहुत कम है। इन "उच्च-संदेह" (high-doubt) वाले उदाहरणों को मानक, जेनेरिक उदाहरणों के साथ मिलाकर कंप्रेशन प्रक्रिया के लिए एक कस्टम डेटासेट बनाया जाता है। इस अनुकूलित मिश्रण को कंप्रेशन एल्गोरिदम में फीड करके, परिणामी छोटा मॉडल मूल मॉडल के सूक्ष्म आत्मविश्वास के बोध को बनाए रखता है। अध्ययन ने प्रदर्शित किया कि यह दृष्टिकोण आत्मविश्वास में होने वाली उन त्रुटियों को काफी कम करता है जो आमतौर पर कंप्रेस्ड मॉडल्स में देखी जाती हैं, विशेष रूप से उन परिदृश्यों में जहाँ यह जानना कि कब रुकना है, अत्यंत महत्वपूर्ण है।
यह कार्य इस बारे में हमारी सोच में एक मौलिक बदलाव का सुझाव देता है कि हम आर्टिफिशियल इंटेलिजेंस को छोटा और तेज़ कैसे बनाते हैं। केवल यह जांचना पर्याप्त नहीं है कि क्या मॉडल अभी भी सही उत्तर दे रहा है; हमें यह भी सुनिश्चित करना होगा कि क्या वह अभी भी जानता है कि वह अपने उत्तर के बारे में कितना आश्वस्त है। शोधकर्ताओं ने दिखाया कि कंप्रेशन के लिए उपयोग किए जाने वाले डेटा को सावधानीपूर्वक क्यूरेट करके, हम उन व्यवहारों को संरक्षित कर सकते हैं जो उन्हें सुरक्षित और विश्वसनीय बनाते हैं। चाहे मॉडल को एक सतर्क चिकित्सा सहायक के रूप में कार्य करना हो जो निदान पर अनुमान लगाने से इनकार करता है, या एक सामान्य चैटबॉट के रूप में जो विभिन्न प्रकार के प्रश्नों के उत्तर देता है, इसे तैयार करने के लिए उपयोग किए जाने वाले डेटा को उस विशिष्ट उद्देश्य को ध्यान में रखकर चुना जाना चाहिए। 'एक-आकार-सभी-के-लिए-उपयुक्त' (one-size-fits-all) कंप्रेशन का युग समाप्त हो गया है; भविष्य लक्षित अंशांकन (targeted calibration) में निहित है जो कार्य की विशिष्ट अनिश्चितताओं का सम्मान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।