Asking Is Not Enough: Protocol Sensitivity in LLM Confidence Calibration
यह शोध पत्र प्रदर्शित करता है कि LLM आत्मविश्वास अंशांकन (confidence calibration) माप प्रोटोकॉल—विशेष रूप से कंडिशनिंग कॉन्टेक्स्ट, टोकन-प्रोबेबिलिटी रीडआउट और उत्तर चयन—के प्रति अत्यधिक संवेदनशील है, जो यह प्रकट करता है कि मौखिक रूप से व्यक्त किया गया आत्मविश्वास अक्सर शुद्धता के बजाय उत्तर की संभाव्यता को दर्शाता है और विश्वसनीय मूल्यांकन के लिए मानकीकृत रिपोर्टिंग चेकलिस्ट अपनाने का आग्रह करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि एक लार्ज लैंग्वेज मॉडल (LLM) अपने उत्तरों के बारे में कितना आश्वस्त है। आपके पास पूछने के दो तरीके हैं:
- "फुसफुसाहट" (The Whisper): आप मॉडल को ज़ोर से एक संख्या बोलने के लिए कहते हैं, जैसे "मैं 85% आश्वस्त हूँ।" (इसे वर्बलाइज्ड कॉन्फिडेंस कहा जाता है)।
- "आंतरिक एकालाप" (The Internal Monologue): आप मॉडल के मस्तिष्क के भीतर के गणित को देखते हैं कि उसे प्रत्येक शब्द के आने की कितनी संभावना लगी। (यह टोकन प्रोबेबिलिटी है)।
लंबे समय तक, शोधकर्ताओं ने सोचा कि ये दोनों तरीके एक ही वस्तु को दो थोड़े अलग कोणों से देखने जैसे हैं। उन्होंने माना कि यदि आप तुलना करते हैं, तो आपको मॉडल के "आत्म-ज्ञान" की एक स्थिर और विश्वसनीय तस्वीर मिलेगी।
यह पेपर कहता है: रुकिए। कैमरा पकड़ने के तरीके के आधार पर तस्वीर पूरी तरह बदल जाती है।
लेखक तर्क देते हैं कि इन दोनों संकेतों की तुलना करना किसी पहाड़ की फोटो लेने जैसा नहीं है, बल्कि एक इमारत की ऊंचाई मापने की कोशिश करने जैसा है जबकि आप एक ट्रैम्पोलिन पर खड़े हों। परिणाम पूरी तरह से इस पर निर्भर करता है कि आप कहाँ खड़े हैं, आप किस पर खड़े हैं, और आप कौन सा रूलर (पैमाना) उपयोग कर रहे हैं।
यहाँ उनके निष्कर्षों का सरल उपमाओं के साथ विवरण दिया गया है:
1. "आप कहाँ खड़े हैं" वाली समस्या (कंडीशनिंग कॉन्टेक्स्ट)
यह सबसे बड़ा आश्चर्य है। कल्पना कीजिए कि आप एक छात्र से पूछते हैं, "आप कितने आश्वस्त हैं कि पेरिस फ्रांस की राजधानी है?"
- परिदृश्य A: आप उनसे यह सवाल तब पूछते हैं जब वे बस अपनी डेस्क पर बैठे होते हैं।
- परिदृश्य B: आप उनसे यह सवाल तब पूछते हैं जब वे पेरिस के बारे में एक लंबा निबंध लिख चुके होते हैं।
पेपर में पाया गया कि यदि आप मॉडल के आंतरिक गणित (टोकन प्रोबेबिलिटी) को बोलने से पहले (परिदृश्य A) बनाम मॉडल को आत्मविश्वास स्कोर देने के लिए प्रेरित करने के बाद (परिदृश्य B) मापते हैं, तो परिणाम पलट जाते हैं।
- एक सेटअप में, मॉडल पूरी तरह से कैलिब्रेटेड (कैलिब्रेटेड) लगता है (उसका बोला गया आत्मविश्वास उसके आंतरिक गणित से मेल खाता है)।
- दूसरे सेटअप में, मॉडल बहुत अधिक आत्मविश्वासी या कम आत्मविश्वासी दिखाई देता है।
निष्कर्ष: "संदर्भ" (मॉडल ने अभी-अभी क्या पढ़ा या क्या किया है) गणित को इतना बदल देता है कि वह निष्कर्ष को उलट सकता है। यह एक छाया को मापने जैसा है: छाया की लंबाई पूरी तरह से इस पर निर्भर करती है कि सूरज कहाँ है, न कि केवल वस्तु पर।
2. "हम किस उत्तर की बात कर रहे हैं?" वाली समस्या (आंसर प्रोवेनेंस)
कभी-कभी मॉडल अपना उत्तर खुद बनाता है, और कभी-कभी आप उसे एक उत्तर देते हैं और पूछते हैं, "आप कितने आश्वस्त हैं कि यह सही है?"
- स्व-जनित (Self-Generated): मॉडल स्वयं उत्तर सोचता है।
- प्रदान किया गया (Supplied): आप मॉडल को एक सही उत्तर देते हैं और उससे आत्मविश्वास पूछते हैं।
पेपर में पाया गया कि जब आप मॉडल को एक तर्कसंगत लेकिन गलत उत्तर देते हैं (एक ऐसा उत्तर जो स्मार्ट लगता है लेकिन तथ्यात्मक रूप से गलत है), तो मॉडल इसे एक सही उत्तर के समान ही उच्च आत्मविश्वास स्कोर देता है।
- उपमा: एक मौसम विज्ञानी की कल्पना करें। यदि आप उन्हें एक नकली मौसम मानचित्र दिखाते हैं जो बहुत वास्तविक दिखता है, तो वे कह सकते हैं, "मुझे 90% यकीन है कि यह सटीक है," भले ही वह गलत हो। वे इस बात का निर्णय नहीं ले रहे हैं कि क्या सत्य है, बल्कि वे इस बात का निर्णय ले रहे हैं कि वह कहानी कितनी तर्कसंगत लगती है।
3. "कौन सा रूलर" वाली समस्या (टोकन रीडआउट)
आंतरिक गणित की गणना करते समय, क्या आप उत्तर के पहले शब्द की संभावना देखते हैं, या पूरे वाक्य की औसत संभावना देखते हैं?
- पेपर ने पाया कि इस सूक्ष्म विवरण को बदलने से (जैसे इंच के रूलर से सेंटीमीटर के रूलर पर स्विच करना) परिणाम इतने बदल जाते हैं कि कई मामलों में निष्कर्ष का संकेत ही बदल जाता है। यह एक छोटा तकनीकी बदलाव है, लेकिन यह बहुत मायने रखता है।
4. "कौन सा कैलकुलेटर" वाली समस्या (एस्टिमेटर चॉइस)
शोधकर्ता "कैलिब्रेशन एरर" की गणना करने के लिए विभिन्न गणितीय सूत्रों (एस्टिमेटर्स) का उपयोग करते हैं।
- अच्छी खबर: कैलकुलेटर (फॉर्मूला) बदलने से परिणामों में बहुत अधिक बदलाव नहीं आया।
- बुरी खबर: आपने कहाँ खड़े थे (कॉन्टेक्स्ट) या आप क्या माप रहे हैं (उत्तर का स्रोत) बदलने से परिणाम बहुत बड़े पैमाने पर बदल गए।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि न तो बोला गया आत्मविश्वास ("मैं 90% आश्वस्त हूँ") और न ही आंतरिक गणित मॉडल के मन के बारे में कोई प्रत्यक्ष, अपरिवर्तनीय सत्य है।
इसके बजाय, वे व्यवहार संबंधी माप (Behavioral Measurements) हैं। वे एक विशिष्ट स्थिति में एक विशिष्ट प्रश्न के प्रति व्यक्ति की प्रतिक्रिया की तरह हैं। यदि आप स्थिति (प्रॉम्प्ट, संदर्भ, उत्तर का स्रोत) बदलते हैं, तो प्रतिक्रिया बदल जाती है।
"चेकलिस्ट" की उपमा:
लेखक सुझाव देते हैं कि यदि आप रिपोर्ट करना चाहते हैं कि एक AI कितना आश्वस्त है, तो आप केवल यह नहीं कह सकते, "हमारा मॉडल 90% कैलिब्रेटेड है।" यह यह कहने जैसा है कि "इमारत 100 फीट ऊँची है" बिना यह बताए कि आपने इसे बेसमेंट से मापा है या छत से।
आपको "प्रोटोकॉल" रिपोर्ट करना चाहिए:
- उत्तर किसने लिखा? (क्या मॉडल ने इसे लिखा, या आपने इसे दिया?)
- आप कहाँ खड़े थे? (क्या आपने गणित को मॉडल के बोलने से पहले मापा या बाद में?)
- आपने गणित को कैसे पढ़ा? (क्या आपने पहले शब्द को देखा या पूरे वाक्य को?)
सारांश:
उस एकल संख्या पर भरोसा न करें जो दावा करती है कि एक AI कितना "निश्चित" है। वह संख्या नाजुक है। यह पूरी तरह से इस पर निर्भर करती है कि आप कौन सा खेल खेल रहे हैं। यदि आप नियम बदलते हैं, तो स्कोर बदल जाता है। इसलिए, हमें इन नंबरों को कैसे मापते और रिपोर्ट करते हैं, इसके बारे में बहुत सावधान रहने की आवश्यकता है, खासकर यदि हम महत्वपूर्ण निर्णयों के लिए इनका उपयोग करना चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।