LLMs as Implicit Imputers: Uncertainty Should Scale with Missing Information
यह शोध पत्र तर्क देता है कि एक अंतर्निहित इम्प्यूटर (imputer) के रूप में कार्य करने वाले लार्ज लैंग्वेज मॉडल्स को लुप्त सूचना के साथ अनिश्चितता का पैमाना प्रदर्शित करना चाहिए, यह पाते हुए कि जबकि सैंपलिंग-आधारित आत्मविश्वास संदर्भ क्षरण (context degradation) को दर्शाने में विफल रहता है, रिस्पॉन्स एंट्रॉपी (response entropy) लुप्तता को प्रभावी ढंग से ट्रैक करती है और सटीकता का बेहतर पूर्वानुमान लगाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। आमतौर पर, आपके पास सबूतों की एक पूरी फाइल (संदर्भ/context) होती है जो आपको अपराधी को खोजने में मदद करती है। लेकिन कभी-कभी, वह फाइल टुकड़ों में कट जाती है, और आपके पास केवल कागज के कुछ टुकड़े ही बचते हैं।
यह पेपर एक सरल लेकिन महत्वपूर्ण प्रश्न पूछता है: जब आपका जासूस (एक AI भाषा मॉडल) लापता सबूतों के साथ काम कर रहा होता है, तो क्या उसे पता होता है कि वह कितना अनिश्चित है?
लेखक तर्क देते हैं कि AI को एक "सांख्यिकीय जासूस" (statistical detective) की तरह व्यवहार करना चाहिए जो यह स्वीकार करता है, "मैं यहाँ अनुमान लगा रहा हूँ क्योंकि मेरे पास पर्याप्त सुराग नहीं हैं।" इसके बजाय, उन्होंने पाया कि वर्तमान AI अक्सर अति-आत्मविश्वासी जासूसों की तरह व्यवहार करते हैं जो बेतहाशा अनुमान लगाते हैं लेकिन दावा करते हैं कि वे 100% निश्चित हैं।
यहाँ उनकी खोजों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. मुख्य विचार: "लापता सुराग" परीक्षण
शोधकर्ताओं ने AI को एक मल्टीपल इम्प्यूटर (Multiple Imputer) की तरह माना। सांख्यिकी में, जब डेटा गायब होता है, तो विशेषज्ञ केवल एक उत्तर नहीं देते; वे कई संभावित परिदृश्य उत्पन्न करते हैं ताकि यह देखा जा सके कि उत्तर में कितना बदलाव आ सकता है।
- परीक्षण: उन्होंने प्रश्नों को लिया और पृष्ठभूमि की जानकारी (संदर्भ) को धीरे-धीरे तब तक नष्ट किया जब तक कि AI के पास पढ़ने के लिए प्रश्न के अलावा कुछ नहीं बचा।
- नियम: जैसे-जैसे सुराग गायब होते हैं, AI की "अनिश्चितता" (uncertainty) बढ़नी चाहिए। यदि उसके पास कोई सुराग नहीं है, तो उसे बहुत अनिश्चित होना चाहिए। यदि उसके पास सभी सुराग हैं, तो उसे बहुत निश्चित होना चाहिए।
2. अनिश्चितता को मापने के दो तरीके
शोधकर्ताओं ने दो तरीकों से देखा कि AI कितना अनिश्चित था जब उन्होंने एक ही प्रश्न को लगातार 10 बार पूछा:
- "ऊंची आवाज" (विश्वास/Confidence): यह मापता है कि AI कितनी बार हर बार वही उत्तर देता है। यदि वह 10 में से 10 बार "डेनवर ब्रोंकोस" कहता है, तो वह बहुत आत्मविश्वासी लगता है।
- "भीड़ की चर्चा" (एन्ट्रॉपी/Entropy): यह मापता है कि उत्तर कितने अलग हैं। यदि AI एक बार "डेनवर ब्रोंकोस" कहता है, एक बार "न्यू इंग्लैंड" कहता है, एक बार "द पैट्रियट्स" कहता है, और सात बार "मुझे नहीं पता" कहता है, तो वहां बहुत अधिक "चर्चा" या विविधता है। यह उच्च एन्ट्रॉपी है।
3. बड़ी खोज: "ऊंची आवाज" एक झूठी है
अध्ययन ने "ऊंची आवाज" (विश्वास/Confidence) के साथ एक बड़ी समस्या पाई:
- क्या हुआ: भले ही AI के पास शून्य संदर्भ (कोई सुराग नहीं) था, फिर भी वह अक्सर 10 में से 10 बार लगातार एक ही गलत उत्तर देता था। वह अविश्वसनीय रूप से आत्मविश्वासी लग रहा था, भले ही वह पूरी तरह से अपने प्रशिक्षण से याद की गई चीजों के आधार पर अनुमान लगा रहा था।
- उपमा: एक ऐसे छात्र की कल्पना करें जो परीक्षा दे रहा है जिसने पाठ्यपुस्तक भुला दी है। वह हर सवाल के लिए "C" का अनुमान लगाता है। वह बहुत सुसंगत है (उच्च विश्वास), लेकिन वह 100% गलत है। AI बिल्कुल यही कर रहा था।
4. विजेता: "भीड़ की चर्चा" (एन्ट्रॉपी/Entropy)
"भीड़ की चर्चा" (एन्ट्रॉपी) बहुत बेहतर व्यवहार करती है:
- क्या हुआ: जैसे-जैसे शोधकर्ताओं ने संदर्भ हटाया, AI के उत्तर बिखरने लगे। "डेनवर ब्रोंकोस" 10 बार कहने के बजाय, वह "डेनवर", "ब्रोंकोस", "द टीम", "मुझे नहीं पता" आदि कहने लगा।
- उपमा: यह एक कमरे में जासूसों के एक समूह की तरह है। जब उनके पास सारा सबूत होता है, तो वे सभी एक ही संदिग्ध की ओर इशारा करते हैं। जब आप सबूत छीन लेते हैं, तो वे अलग-अलग दिशाओं में इशारा करने लगते हैं। वे जितने अधिक भ्रमित होते हैं, उतना ही अधिक वे अलग-अलग दिशाओं में इशारा करते हैं।
- परिणाम: जैसे-जैसे AI की सटीकता कम हुई, "भीड़ की चर्चा" (एन्ट्रॉपी) ठीक उसी तरह बढ़ी। यह भ्रम का एक वास्तविक संकेत था।
5. "रेज़ोल्यूशन रेशियो" (सुरागों ने कितनी मदद की?)
लेखकों ने एक सरल स्कोर बनाया जिसे रेज़ोल्यूशन रेशियो (Resolution Ratio) कहा जाता है।
- इसे एक बल्ब के डिमर स्विच की तरह समझें।
- कोई संदर्भ नहीं (बंद): कमरा अंधेरा है (उच्च अनिश्चितता)।
- पूर्ण संदर्भ (चालू): कमरा उज्ज्वल है (कम अनिश्चितता)।
- स्कोर: यह मापता है कि "प्रकाश" (संदर्भ) ने "अंधेरे" (अनिश्चितता) को कितना कम किया। उन्होंने पाया कि पूर्ण संदर्भ ने लगभग 80% अनिश्चितता को हल कर दिया, जो कि समझ में आता है।
पेपर के दावों का सारांश
- समस्या: वर्तमान AI मॉडल अक्सर "अनुचित इम्प्यूटर" (improper imputers) होते हैं। जब उनके पास जानकारी की कमी होती है, तो वे अपनी अनिश्चितता को दबा देते हैं और एक एकल, आत्मविश्वासी, लेकिन अक्सर गलत उत्तर देते हैं।
- समाधान: हमें इस बात पर ध्यान देना चाहिए कि AI के उत्तर कितने विविध (एन्ट्रॉपी) हैं, न कि इस पर कि वह कितनी बार एक ही उत्तर दोहराता है (विश्वास/Confidence)।
- प्रमाण: जब संदर्भ हटाया गया, तो AI की सटीकता गिर गई, लेकिन उसका "विश्वास" (Confidence) उच्च बना रहा (हमें झूठ बोल रहा था)। उसकी "एन्ट्रॉपी" (विविधता) बढ़ गई, जो भ्रम का सही संकेत दे रही थी।
- निष्कर्ष: यदि आप जानना चाहते हैं कि क्या AI जानकारी की कमी के कारण अनुमान लगा रहा है, तो यह न पूछें कि वह कितना आत्मविश्वासी सुनाई देता है। इसके बजाय पूछें: "यदि मैं आपसे 10 बार पूछूँ, तो क्या आप मुझे 10 अलग-अलग उत्तर देंगे?" यदि हाँ, तो वह जानता है कि वह अनिश्चित है। यदि वह 10 बार एक ही गलत उत्तर देता है, तो वह अति-आत्मविश्वासी है।
पेपर निष्कर्ष निकालता है कि जब AI बिना जानकारी के काम कर रहा हो, तो यह बताने के लिए कि वह अंधेरे में तीर चला रहा है, एन्ट्रॉपी उन मानक "विश्वास" स्कोर की तुलना में बहुत बेहतर "ब्लैक बॉक्स" उपकरण है जिन्हें हम आमतौर पर देखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।