Improved Confidence Estimates for Black-Box Large Language Models
यह शोधपत्र एक कम-ओवरहेड विधि प्रस्तावित करता है जो मौजूदा कॉन्फिडेंस स्कोर और एक लक्षित डेटासेट से समान प्रश्नों की शुद्धता का उपयोग करके प्रतिक्रिया की शुद्धता का अनुमान लगाने के लिए सरल क्लासिफायर को प्रशिक्षित करके ब्लैक-बॉक्स लार्ज लैंग्वेज मॉडल्स के लिए अनिश्चितता परिमाणीकरण (अनसर्टेन्टी क्वांटिफिकेशन) में सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) लेखन, कोडिंग और प्रश्नों के उत्तर देने के लिए शक्तिशाली उपकरण बन गए हैं, फिर भी वे एक छिपा हुआ जोखिम रखते हैं: वे कभी-कभी पूर्ण निश्चितता के साथ तथ्य गढ़ देते हैं। यह घटना, जिसे अक्सर 'हैलुसिनेशन' (hallucination) कहा जाता है, स्वास्थ्य सेवा या वैज्ञानिक अनुसंधान जैसे उच्च-दांव वाले क्षेत्रों में इन प्रणालियों का उपयोग करने में एक महत्वपूर्ण बाधा उत्पन्न करती है, जहाँ एक गलत उत्तर के गंभीर परिणाम हो सकते हैं। इसे हल करने के लिए, शोधकर्ताओं ने लंबे समय से ऐसे सिस्टम बनाने की कोशिश की है जो हमें यह बता सकें कि किसी विशिष्ट उत्तर पर हमें कितना भरोसा करना चाहिए। इसका लक्ष्य प्रत्येक प्रतिक्रिया के लिए एक ऐसा स्कोर असाइन करना है जो उसकी विश्वसनीयता को दर्शाता हो। वर्तमान में, ये स्कोर उत्पन्न करने के लिए कई विधियाँ मौजूद हैं, जिनमें मॉडल से स्वयं के आत्मविश्वास को रेट करने से लेकर इस बात का विश्लेषण करना शामिल है कि अलग-अलग तरीकों से एक ही प्रश्न पूछे जाने पर उसके उत्तरों में कितना बदलाव आता है। हालाँकि, ये मौजूदा स्कोर अक्सर अलग-थलग होकर काम करते हैं, और हर नए प्रश्न को ऐसे देखते हैं जैसे कि मॉडल ने उसे पहले कभी नहीं देखा हो, बिना यह देखे कि मॉडल ने पिछले समान प्रश्नों पर कैसा प्रदर्शन किया है।
लेयर 6 एआई (Layer 6 AI) और टीडी इंश्योरेंस (TD Insurance) के शोधकर्ताओं की एक टीम ने एक अलग दृष्टिकोण प्रस्तावित किया है जो आत्मविश्वास को मॉडल के एक स्थिर गुण के रूप में नहीं, बल्कि एक पैटर्न के रूप में देखता है जिसे सीखा जा सकता है। उनका तर्क है कि जबकि मौजूदा विधियाँ बिना किसी पूर्व डेटा के कच्चे अनिश्चितता स्कोर (uncertainty scores) उत्पन्न करती हैं, वास्तविक दुनिया के अनुप्रयोगों में लगभग हमेशा प्रश्नों और उत्तरों का एक डेटासेट शामिल होता है जिसे पहले ही शुद्धता के लिए जांचा जा चुका होता है। शोधकर्ताओं ने महसूस किया कि यह लेबल किया गया डेटा एक विशाल, अनछुआ संसाधन है। अनिश्चितता को शून्य से मापने का एक नया तरीका खोजने के बजाय, उन्होंने एक सरल प्रणाली बनाई जो मौजूदा स्कोर को और इस जानकारी के साथ जोड़ती है कि मॉडल ने अतीत में समान प्रश्नों पर कैसे उत्तर दिया था। एक मानक कंप्यूटर प्रोग्राम को इन इनपुट्स और उत्तरों की वास्तविक शुद्धता के बीच के संबंध को पहचानने के लिए प्रशिक्षित करके, उन्होंने एक नई विधि बनाई जो अकेले मूल स्कोर की तुलना में लगातार बेहतर प्रदर्शन करती है।
उनके कार्य का मुख्य हिस्सा एक दो-चरणीय प्रक्रिया है जो इस तरह की नकल करती है जैसे कोई मानव विशेषज्ञ किसी नए दावे को सत्यापित करता है। पहले, सिस्टम एक नया प्रश्न और लार्ज लैंग्वेज मॉडल द्वारा दिया गया उत्तर लेता है। फिर, यह उन मानक अनिश्चितता स्कोर की गणना करता है जो मॉडल या अन्य उपकरण सामान्य रूप से उत्पन्न करते हैं। इसके बाद, सिस्टम पिछले उत्तर दिए गए प्रश्नों के एक संदर्भ पुस्तकालय (reference library) में देखता है ताकि उन प्रश्नों को खोजा जा सके जो नए प्रश्न के सबसे समान हैं। यह जाँचता है कि मॉडल ने अतीत में उन समान प्रश्नों को सही बताया था या गलत, और यह मापता है कि वे वर्तमान प्रश्न के कितने करीब हैं। ये विवरण—मानक स्कोर, समान प्रश्नों का इतिहास, और उन पर मॉडल का पिछला प्रदर्शन—एक सरल क्लासिफायर (classifier) में डाले जाते हैं। यह क्लासिफायर यह अनुमान लगाने के लिए सीखता है कि नया उत्तर सही है या नहीं, जो प्रभावी रूप से कच्चे अनिश्चितता संकेतों को सत्य की एक कैलिब्रेटेड संभावना (calibrated probability) में बदल देता है।
शोधकर्ताओं ने विभिन्न आकार के लैंग्वेज मॉडल्स का उपयोग करते हुए, कॉमन सेंस रीजनिंग, वैज्ञानिक तथ्यों और सामान्य ज्ञान के प्रश्नों के बेंचमार्क सहित कई अलग-अलग डेटासेट्स पर इस पद्धति का परीक्षण किया। उन्होंने अपने नए सिस्टम की तुलना सर्वोत्तम मौजूदा विधियों से की, जिसमें मॉडल से अपने आत्मविश्वास के बारे में बोलने के लिए कहना और निरंतरता की जांच के लिए एक उत्तर के कई संस्करण उत्पन्न करना शामिल है। परिणामों ने दिखाया कि उनका दृष्टिकोण लगातार शुद्धता के अधिक सटीक भविष्यवाणियां प्रदान करता है। लगभग हर परीक्षण में, नया तरीका मूल स्कोर की तुलना में सही और गलत उत्तरों के बीच अंतर करने में बेहतर था। इसके अलावा, सिस्टम ने अच्छी तरह से कैलिब्रेटेड संभावनाएँ भी प्रदान कीं, जिसका अर्थ है कि जब इसने भविष्यवाणी की कि किसी उत्तर के सही होने की 80 प्रतिशत संभावना है, तो वह लगभग 80 प्रतिशत बार सही था। यह कैलिब्रेशन निर्णय लेने के लिए महत्वपूर्ण है, क्योंकि यह उपयोगकर्ताओं को सिस्टम द्वारा प्रदान किए गए नंबरों पर भरोसा करने की अनुमति देता है।
सबसे महत्वपूर्ण निष्कर्षों में से एक यह था कि यह विधि तब भी अच्छी तरह काम करती है जब यह बहुत कम अतिरिक्त जानकारी पर निर्भर करती है। कुछ परीक्षणों में, सिस्टम ने मॉडल के केवल एक उत्तर और समान प्रश्नों के इतिहास का उपयोग किया, बिना मॉडल को उत्तर के कई संस्करण उत्पन्न करने की आवश्यकता के। इसने कम्प्यूटेशनल लागत को कम रखा, जिससे यह विधि वास्तविक दुनिया के उपयोग के लिए व्यावहारिक बन गई जहाँ गति और दक्षता मायने रखती है। शोधकर्ताओं ने यह भी पाया कि इन संकेतों को संयोजित करने का सबसे अच्छा तरीका कार्य के विशिष्ट प्रकार पर निर्भर करता है, जो यह सुझाव देता है कि एक लचीला दृष्टिकोण जो विभिन्न प्रकार के प्रश्नों के अनुकूल हो सकता है, 'वन-साइज़-फिट्स-ऑल' समाधान से बेहतर है। आत्मविश्वास अनुमान को एक निश्चित गणना के बजाय सीखने की समस्या के रूप में मानकर, टीम ने प्रदर्शित किया कि मौजूदा डेटा का उपयोग बिना उनके आंतरिक कामकाज तक पहुँच या महंगे पुन: प्रशिक्षण के, लार्ज लैंग्वेज मॉडल्स की सुरक्षा और विश्वसनीयता में सुधार करने के लिए किया जा सकता है।
अध्ययन यह निष्कर्ष निकालता है कि हालांकि वर्तमान उपकरणों द्वारा उत्पन्न प्रारंभिक अनिश्चितता स्कोर उपयोगी हैं, लेकिन वे विश्वसनीयता के अंतिम शब्द नहीं हैं। यह जानकर कि मॉडल समान प्रकार के प्रश्नों पर लगातार प्रदर्शन करते हैं, एक सुपरवाइज्ड लर्निंग फ्रेमवर्क इन स्कोर को बहुत अधिक भरोसेमंद अनुमानों में परिष्कृत कर सकता है। यह अच्छे अनिश्चितता मेट्रिक्स की आवश्यकता को प्रतिस्थापित नहीं करता है, बल्कि उन्हें बेहतर बनाता है, कच्चे डेटा को कार्रवाई योग्य अंतर्दृष्टि में बदल देता है। यह कार्य सुझाव देता है कि सुरक्षित आर्टिफिशियल इंटेलिजेंस का मार्ग केवल बेहतर मॉडल बनाने में नहीं है, बल्कि उन उत्तरों को समझने और व्याख्या करने के बेहतर तरीके बनाने में भी है जो वे मॉडल देते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।