On Verbalized Confidence Scores for LLMs
यह शोध पत्र कॉन्फिडेंस स्कोर के माध्यम से अपनी अनिश्चितता को व्यक्त करने में लार्ज लैंग्वेज मॉडल्स की विश्वसनीयता की जांच करता है, यह प्रदर्शित करते हुए कि हालांकि प्रभावशीलता प्रॉम्प्टिंग रणनीति के अनुसार भिन्न होती है, विशिष्ट विधियाँ कम ओवरहेड के साथ अच्छी तरह से कैलिब्रेटेड, मॉडल-अज्ञेय अनिश्चितता परिमाणीकरण प्रदान कर सकती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, सुशिक्षित मित्र से सलाह मांग रहे हैं। कभी-कभी वे अपने उत्तर के बारे में पूरी तरह आश्वस्त होते हैं, और कभी-कभी वे सिर्फ अनुमान लगा रहे होते हैं। आज के बड़े भाषा मॉडल्स (LLMs) के साथ समस्या यह है कि वे अक्सर गलत होने पर भी बहुत आत्मविश्वास के साथ बात करते हैं। वे उस मित्र की तरह हैं जो कभी नहीं कहता, "मुझे यकीन नहीं है," भले ही उन्हें पता न हो कि वे किस बारे में बात कर रहे हैं।
यह शोध पत्र, "On Verbalized Confidence Scores for LLMs," एक सरल विचार की जांच करता है: क्या होगा अगर हम AI से बस यह पूछ लें कि वह कितना आश्वस्त है?
AI के आंतरिक कोड को देखने या यह देखने के लिए इसे सौ बार चलाने के बजाय कि क्या यह एक ही उत्तर देता है, शोधकर्ताओं ने बस AI को अपने उत्तर के साथ एक "कॉन्फिडेंस स्कोर" (आत्मविश्वास का अंक) जोड़ने के लिए कहा, जैसे कि कहना, "उत्तर X है, और मैं 85% आश्वस्त हूँ।"
यहाँ उनके निष्कर्षों का रोजमर्रा के उदाहरणों का उपयोग करके विवरण दिया गया है:
1. लक्ष्य: एक "ट्रस्ट मीटर" (विश्वास मापने का यंत्र)
शोधकर्ता यह देखना चाहते थे कि क्या यह "ट्रस्ट मीटर" (कॉन्फिडेंस स्कोर) वास्तव में काम करता है। वे एक ऐसा सिस्टम चाहते थे जो:
- ईमानदार हो: यदि AI कहता है कि वह 90% आश्वस्त है, तो उसे 90% बार सही होना चाहिए।
- लचीला हो: यह काम करे चाहे आप कोई भी सवाल पूछें या किसी भी AI मॉडल का उपयोग करें।
- तेज हो: स्कोर प्राप्त करने के लिए अतिरिक्त समय या कंप्यूटिंग पावर की आवश्यकता नहीं होनी चाहिए।
2. प्रयोग: "पूछने के विभिन्न तरीकों" का परीक्षण करना
टीम ने महसूस किया कि आप AI से कैसे पूछते हैं, यह बहुत मायने रखता है। यह एक बच्चे से उसके अनुमान के बारे में पूछने जैसा है।
- यदि आप पूछते हैं, "फ्रांस की राजधानी क्या है? अनुमान लगाओ!" तो वे शायद सिर्फ "पेरिस" कहेंगे और आश्वस्त महसूस करेंगे।
- यदि आप पूछते हैं, "फ्रांस की राजधानी क्या है? अनुमान लगाओ, और मुझे बताओ कि तुम 0 से 100 के पैमाने पर कितने आश्वस्त हो," तो वे शायद अधिक गहराई से सोचेंगे।
शोधकर्ताओं ने 17 अलग-अलग तरीकों से प्रश्न पूछकर (प्रॉम्प्ट्स), 11 अलग-अलग AI मॉडल्स और 10 अलग-अलग प्रकार के प्रश्नों (जैसे विज्ञान के सामान्य ज्ञान, तर्क पहेलियाँ और सामान्य समझ) पर परीक्षण किया।
3. बड़ी खोज: यह AI के "मस्तिष्क के आकार" पर निर्भर करता है
सबसे दिलचस्प खोज यह है कि ईमानदार उत्तर पाने का सबसे अच्छा तरीका इस बात पर निर्भर करता है कि AI मॉडल कितना "बुद्धिमान" (या बड़ा) है।
"छोटे" AI मॉडल्स के लिए (नौसिखिए):
इन्हें उन छात्रों के रूप में सोचें जो अभी सीख रहे हैं। यदि आप उन्हें एक जटिल, फैंसी प्रॉम्प्ट देते हैं जिसमें बहुत सारे उदाहरण और निर्देश हों, तो वे भ्रमित हो जाते हैं और मनगढ़ंत बातें बनाने लगते हैं।- पेपर का निष्कर्ष: सरल प्रॉम्प्ट सबसे अच्छा काम करते हैं। केवल उनसे सरलता से पूछना, "आप कितने आश्वस्त हैं?" कई नियमों की लंबी सूची देने से बेहतर काम करता है।
"बड़े" AI मॉडल्स के लिए (विशेषज्ञ):
इन्हें पीएचडी स्नातकों के रूप में सोचें। उनके पास बहुत ज्ञान है लेकिन वे अति-आत्मविश्वासी हो सकते हैं। यदि आप उनसे बस सरल प्रश्न पूछते हैं, तो वे गलत होने पर भी 100% आत्मविश्वास के साथ अनुमान लगा सकते हैं।- पेपर का निष्कर्ष: उन्हें एक अधिक जटिल "धक्के" (nudge) की आवश्यकता होती है। शोधकर्ताओं ने पाया कि कई तकनीकों को संयोजित करने से—जैसे उन्हें उत्तर देने के कुछ उदाहरण देना, उन्हें अपने तर्क समझाने के लिए कहना, और उन्हें स्पष्ट रूप से कार्य की कठिनाई पर विचार करने के लिए कहना—वे बहुत अधिक ईमानदार बन गए।
- परिणाम: सही जटिल प्रॉम्प्ट के साथ, बड़े मॉडल ऐसे कॉन्फिडेंस स्कोर उत्पन्न कर सके जो उनकी वास्तविक सफलता दर के लगभग 7% के भीतर सटीक थे। यह केवल अनुमान लगाने की तुलना में एक बड़ा सुधार है।
4. "कॉम्बो" प्रॉम्प्ट
शोधकर्ताओं ने बड़े मॉडल्स के लिए एक "सुपर-प्रॉम्प्ट" (जिसे combo कहा गया) बनाया। यह AI को एक चेकलिस्ट देने जैसा था:
- प्रश्न के बारे में सोचें।
- विचार करें कि यह कितना कठिन है।
- अपने स्वयं के ज्ञान को देखें।
- अपना सर्वश्रेष्ठ अनुमान दें।
- एक प्रायिकता स्कोर (0.0 से 1.0) दें।
जब उन्होंने इस "कॉम्बो" प्रॉम्प्ट का उपयोग किया, तो बड़े मॉडल यह स्वीकार करने में बहुत बेहतर हो गए कि वे कब अनिश्चित हैं।
5. इसका क्या अर्थ है (शोध पत्र के अनुसार)
शोध पत्र निष्कर्ष निकालता है कि AI को अपनी "कन्फिडेंस" बोलने के लिए कहना एक बहुत ही आशाजनक उपकरण है। यह है:
- सरल: आपको AI के मस्तिष्क के अंदर देखने की आवश्यकता नहीं है।
- तेज: इसे उत्पन्न करने के लिए केवल कुछ अतिरिक्त शब्दों की आवश्यकता होती है।
- प्रभावी: यदि आप जानते हैं कि सही प्रश्न कैसे पूछना है, तो AI आपको बता सकता है कि वह कब अनुमान लगा रहा है और कब वह उत्तर जानता है।
हालाँकि, एक पेच है: आप किसी भी AI से किसी भी तरह से सवाल नहीं पूछ सकते। आपको प्रश्न को अनुकूलित (tailor) करना होगा। यदि आप एक छोटे AI को जटिल प्रश्न देते हैं, तो वह विफल हो जाएगा। यदि आप एक बड़े AI से सरल प्रश्न पूछते हैं, तो वह आत्मविश्वास के साथ झूठ बोल सकता है। लेकिन प्रॉम्प्ट के सही "नुस्खे" के साथ, हम इन मॉडल्स को बहुत अधिक भरोसेमंद बना सकते हैं।
संक्षेप में: AI बता सकता है कि वह कितना आश्वस्त है, लेकिन सच्चा उत्तर पाने के लिए आपको इसे सही तरीके से पूछना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।