Uncertainty Quantification for Language Models: A Suite of Black-Box, White-Box, LLM Judge, and Ensemble Scorers
यह शोध पत्र UQLM को प्रस्तुत करता है, जो एक बहुमुखी पायथन टूलकिट और ट्यूनेबल एन्सेम्बल फ्रेमवर्क है जो बड़े भाषा मॉडलों (LLMs) में मतिभ्रम (hallucinations) का पता लगाने के लिए मानकीकृत कॉन्फिडेंस स्कोर प्रदान करने हेतु ब्लैक-बॉक्स, व्हाइट-बॉक्स और LLM-as-a-Judge अनिश्चितता मात्रा निर्धारण तकनीकों को एकीकृत करता है, जो विभिन्न बेंचमार्क पर मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन कभी-कभी अति-आत्मविश्वासी रोबोट सहायक है। आप उससे सवाल पूछते हैं, और वह आपको ऐसे उत्तर देता है जो एकदम सटीक लगते हैं। लेकिन कभी-कभी, वह पूरी तरह से मनगढ़ंत बातें बना लेता है—इसे "हैलुसिनेशन" (hallucination) कहा जाता है। स्वास्थ्य सेवा या वित्त जैसे उच्च-जोखिम वाले कामों में, एक मनगढ़ंत तथ्य केवल एक गलती नहीं है; यह खतरनाक है।
यह शोध पत्र एक "ट्रुथ-ओ-मीटर" (truth-o-meter) टूलकिट पेश करता है जिसे यह समझने में मदद करने के लिए डिज़ाइन किया गया है कि आपका रोबोट सहायक कब आपसे झूठ बोल रहा है, बिना किसी संदर्भ पुस्तक को पहले से चेक किए (एक "क्लोज्ड-बुक" सेटिंग)।
यहाँ इस शोध पत्र का ढांचा दिया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है:
1. "सत्य के जासूसों" के तीन प्रकार
लेखकों ने यह जांचने के लिए कि क्या कोई उत्तर वास्तविक है, विभिन्न तरीकों का एक समूह बनाया है। इन्हें तीन अलग-अलग प्रकार के जासूसों के रूप में सोचें:
"ग्रुप थिंक" जासूस (ब्लैक-बॉक्स UQ):
कल्पना कीजिए कि आप रोबोट से वही सवाल 15 बार पूछते हैं। यदि रोबोट आत्मविश्वासी है और उसे उत्तर पता है, तो वह हर बार लगभग एक ही उत्तर देगा, बस उसे कहने का तरीका थोड़ा अलग होगा। यदि रोबोट मनगढ़ंत बातें कर रहा है, तो उसके उत्तर हर बार पूरी तरह से अलग होंगे—हर बार अलग कहानियाँ।- शोध पत्र का दृष्टिकोण: वे यह मापने के लिए गणित का उपयोग करते हैं कि ये 15 उत्तर एक-दूसरे के कितने समान हैं। यदि वे सभी बहुत समान हैं, तो "कॉन्फिडेंस स्कोर" (विश्वास स्कोर) अधिक है। यदि वे अराजक हैं, तो स्कोर कम है। वे इस समानता को मापने के लिए विभिन्न तरीकों का उपयोग करते हैं, जैसे यह देखना कि क्या वाक्य एक-दूसरे का खंडन करते हैं (एक तथ्य-जांचकर्ता की तरह) या उनके अर्थ में कितना ओवरलैप है।
"आंतरिक संवाद" जासूस (व्हाइट-बॉक्स UQ):
कल्पना कीजिए कि रोबोट शब्द-दर-शब्द उत्तर लिख रहा है। जैसे-जैसे वह प्रत्येक शब्द चुनता है, उसके पास एक सूक्ष्म "अंतर्ज्ञान" (संभावना) होता है कि वह शब्द सही है या नहीं।- शोध पत्र का दृष्टिकोण: यदि रोबोट प्रत्येक शब्द को चुनते समय बहुत आश्वस्त है, तो उसके आंतरिक "अंतर्ज्ञान" के स्कोर उच्च होते हैं, और उत्तर संभवतः सत्य है। यदि रोब "हिचकिचा" रहा है और कम आत्मविश्वास वाले शब्द चुन रहा है, तो उत्तर संभवतः एक मनगढ़ंत बात (hallucination) है। इसके लिए रोबोट के आंतरिक "विचारों" (टोकन प्रोबेबिलिटी) तक पहुंच की आवश्यकता होती है।
"पीयर रिव्यू" जासूस (LLM-एज़-अ-जज):
कल्पना कीजिए कि एक दूसरा, समान रूप से बुद्धिमान रोबोट पहले रोबोट के उत्तर को पढ़ रहा है और उसे ग्रेड दे रहा है।- शोध पत्र का दृष्टिकोण: वे प्रश्न और उत्तर को दूसरे AI को देते हैं और पूछते हैं, "आप कितने आश्वस्त हैं कि यह सही है?" दूसरा AI 0 से 100 के बीच एक स्कोर देता है, जिसे फिर 0-से-1 के कॉन्फिडेंस स्कोर में बदल दिया जाता है। दिलचस्प बात यह है कि शोध पत्र ने पाया कि सबसे अच्छा "जज" आमतौर पर वह रोबोट होता है जो उन विशिष्ट प्रकार के प्रश्नों के उत्तर देने में भी बहुत अच्छा होता है।
2. "मिक्स-एंड-मैच" सुपर-टीम (द एनसेम्बल)
इस शोध पत्र का सबसे बड़ा नवाचार यह समझना है कि कोई भी एकल जासूस पूर्ण नहीं है। कभी-कभी "ग्रुप थिंक" जासूस सही होता है; अन्य समय में, "पीयर रिव्यू" जासूस बेहतर होता है।
इसलिए, उन्होंने एक ट्यूनेबल एनसेम्बल (Tunable Ensemble) बनाया है। इसे एक कोच के रूप में सोचें जो प्रत्येक जासूस की राय के वजन (weight) को समायोजित कर सकता है।
- यदि आप गणित के प्रश्न पूछ रहे हैं, तो कोच "आंतरिक संवाद" जासूस की बात अधिक सुन सकता है।
- यदि आप इतिहास के प्रश्न पूछ रहे हैं, तो कोच "पीयर रिव्यू" जासूस की बात अधिक सुन सकता है।
- यह कैसे काम करता है: आप सिस्टम को उन प्रश्नों के कुछ उदाहरण देते हैं जिनके सही उत्तर आपको पहले से पता हैं। सिस्टम यह "सीखता" है कि आपकी विशिष्ट आवश्यकताओं के लिए सभी जासूसों के स्कोर को सबसे सटीक परिणाम प्राप्त करने के लिए कैसे मिलाया जाए।
3. परिणाम: यह क्यों मायने रखता है
लेखकों ने चार अलग-अलग AI मॉडलों को छह अलग-अलग प्रकार के प्रश्नों (जैसे गणित की समस्याएं, बहुविकल्पीय सामान्य ज्ञान और खुले तथ्यों) पर परखा।
- टीम की जीत: "मिक्स-एंड-मैच" सुपर-टीम लगभग हमेशा अकेले काम करने वाले किसी भी एकल जासूस से बेहतर रही।
- फिल्टरिंग काम करती है: उन्होंने दिखाया कि यदि आप इन स्कोर का उपयोग कम-आत्मविश्वास वाले उत्तरों को रोकने के लिए करते हैं, तो शेष उत्तर बहुत अधिक सटीक होते हैं। उदाहरण के लिए, यदि उन्होंने स्कोर के आधार पर निचले 40% उत्तरों को ब्लॉक कर दिया, तो शेष उत्तरों की सटीकता काफी बढ़ गई।
- घटता हुआ प्रतिफल (Diminishing Returns): उन्होंने पाया कि रोबोट से 15 अलग-अलग उत्तर मांगना अच्छा है, लेकिन 30 या 50 उत्तर मांगना बहुत अधिक मदद नहीं करता है। यह 15 दोस्तों से सलाह लेने जैसा है; 50 दोस्तों से पूछने में बहुत अधिक समय लगता है बिना बहुत बेहतर सलाह दिए।
4. टूलकिट: uqlm
इसे किसी के लिए भी उपयोग करना आसान बनाने के लिए, लेखकों ने uqlm नामक एक मुफ्त सॉफ्टवेयर पैकेज जारी किया है। यह एक पहले से निर्मित टूलबॉक्स की तरह है जो डेवलपर्स को इन विभिन्न "जासूसों" और "कोच" (एनसेम्बल) को जोड़ने की अनुमति देता है, बिना गणित को शून्य से बनाए।
निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि AI के झूठ पकड़ने के लिए कोई "एक-आकार-सभी-के-लिए-उपयुक्त" (one-size-fits-all) समाधान नहीं है। सबसे अच्छा दृष्टिकोण एक लचीली प्रणाली का उपयोग करना है जो विभिन्न तरीकों को जोड़ती है और उन्हें उन प्रकार के प्रश्नों के लिए विशेष रूप से ट्यून करती है जो आप पूछ रहे हैं। यह सुनिश्चित करने में मदद करता है कि जब कोई AI बोलता है, तो हम जानते हैं कि हम उस पर कितना भरोसा कर सकते हैं।
शोध पत्र से महत्वपूर्ण नोट: लेखक चेतावनी देते हैं कि एक उच्च कॉन्फिडेंस स्कोर यह गारंटी नहीं देता है कि उत्तर वास्तविक दुनिया में सत्य है; इसका केवल यह अर्थ है कि AI अपने उत्तर के बारे में निश्चित है। इसलिए, चिकित्सा या कानून जैसे महत्वपूर्ण क्षेत्रों में, मनुष्यों को अभी भी काम की दोबारा जांच करनी चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।