Large Language Models Are Overconfident in Their Own Responses
यह शोध पत्र प्रकट करता है कि चैट टेम्पलेट्स एक "स्वामित्व पूर्वाग्रह" (ownership bias) के माध्यम से इंस्ट्रक्शन-ट्यून्ड एलएलएम (LLMs) के अति-आत्मविश्वास को बढ़ा देते हैं जहाँ मॉडल समान उपयोगकर्ता-प्रदान किए गए आउटपुट की तुलना में अपने स्वयं के आउटपुट पर अधिक भरोसा करते हैं, और मॉडल के उत्तरों को उपयोगकर्ता इनपुट के रूप में फ्रेम करने की एक रिट्रेनिंग-मुक्त अनुमान रणनीति का प्रस्ताव करता है जो अंशांकन (calibration) में महत्वपूर्ण सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) की व्याख्या दी गई है।
बड़ी समस्या: अति-आत्मविश्वासी AI
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, पढ़ाकू छात्र (एक AI) से एक सवाल पूछते हैं। यदि छात्र उत्तर सही देता है, तो उसे कहना चाहिए, "मुझे इस बारे में काफी यकीन है।" यदि वह गलत होता है, तो उसे कहना चाहिए, "मैं इतना पक्का नहीं हूँ।"
हालाँकि, शोधकर्ताओं ने पाया कि आधुनिक AI चैटबॉट्स इसमें बहुत खराब हैं। वे अति-आत्मविश्वासी (overconfident) हैं। जब वे गलत होते हैं, तब भी वे ऐसे व्यवहार करते हैं जैसे कि वे 100% निश्चित हों। यह एक ऐसे छात्र की तरह है जो गणित का सवाल गलत करता है लेकिन पूरे गंभीर चेहरे के साथ दावा करता है कि उसे अपने उत्तर पर पूरा भरोसा है। यह खतरनाक है क्योंकि यदि आप एक ऐसे आत्मविश्वासी AI पर भरोसा करते हैं जो वास्तव में गलत है, तो आप गलत निर्णय ले सकते हैं।
जाँच: ऐसा क्यों हो रहा है?
शोधकर्ता जानना चाहते थे कि ये AI चैटबॉट्स इतने अति-आत्मविश्वासी क्यों हैं। उन्हें संदेह था कि इसके पीछे दो मुख्य कारण हैं:
- प्रशिक्षण (Training): AI को एक सहायक बनाने की प्रक्रिया (जिसे "इंस्ट्रक्शन ट्यूनिंग" कहा जाता है)।
- बातचीत की शैली (Conversation Style): उनके साथ बात करने का विशिष्ट तरीका (वह "चैट टेम्पलेट" जहाँ एक व्यक्ति "यूज़र" है और दूसरा "असिस्टेंट")।
निष्कर्ष:
उन्होंने पाया कि दोनों ही दोषी हैं, लेकिन अलग-अलग तरीकों से।
- प्रशिक्षण मुख्य विलेन है। यह AI को एक "सब कुछ जानने वाले" सहायक के रूप में सिखाता है, जिससे वह यह आंकने की अपनी क्षमता खो देता है कि वह वास्तव में कितना निश्चित है।
- चैट की शैली इसे और भी बदतर बना देती है। शोधकर्ताओं ने एक विशिष्ट विचित्रता पाई: AI उन उत्तरों में बहुत अधिक आत्मविश्वासी होता है जो वह स्वयं बनाता है, बजाय उन बिल्कुल समान उत्तरों के जो किसी इंसान (या "यूज़र" भूमिका) द्वारा दिए गए हों।
"ओनरशिप बायस" (स्वामित्व का पूर्वाग्रह) का उदाहरण
AI को एक रसोई में शेफ (रसोइया) की तरह समझें।
- परिदृश्य A: शेफ एक भोजन बनाता है और उसे आपको परोसता है। जब आप पूछते हैं, "क्या यह अच्छा है?" तो शेफ कहता है, "बिल्कुल! यह एकदम सही है!" (भले ही खाना जला हुआ हो)।
- परिदृश्य B: आप (ग्राहक) बिल्कुल वही भोजन बनाते हैं और उसे मेज पर रखते हैं। आप शेफ से पूछते हैं, "क्या यह अच्छा है?" शेफ उसे निष्पक्ष रूप से देखता है और कहता है, "हम्म, यह वास्तव में थोड़ा नमकीन है।"
शोधकर्ता इसे "ओनरशिप बायस" (Ownership Bias) कहते हैं। AI अपने खुद के "पकाए हुए" (अपने द्वारा लिखे गए टेक्स्ट) पर बहुत अधिक भरोसा करता है। वह मान लेता है, "अगर मैंने यह उत्तर लिखा है, तो मैं सही ही होऊँगा।" यह अंधा विश्वास उसे अति-आत्मविश्वासी बनाता है।
सरल समाधान: "दिखावा करें कि यूज़र ने यह कहा था"
इस शोध पत्र का सबसे रोमांचक हिस्सा इसका समाधान है। शोधकर्ताओं को AI को फिर से प्रशिक्षित करने या उसका दिमाग बदलने की आवश्यकता नहीं थी। उन्होंने बस बातचीत के दौरान सवाल पूछने का तरीका बदल दिया।
ट्रिक (तरीका):
AI को यह उत्तर देने देने के बजाय कि "आपका उत्तर क्या है और फिर वह खुद से पूछे, "मैं अपने उत्तर के बारे में कितना आश्वस्त हूँ?", शोधकर्ताओं ने AI को यह दिखाने के लिए कहा कि उत्तर यूज़र द्वारा प्रदान किया गया था।
- पुराना तरीका: AI कहता है "राजधानी पेरिस है।" -> AI खुद से पूछता है, "मैं अपने उत्तर के बारे में कितना आश्वस्त हूँ?" -> AI कहता है "100%!" (अति-आत्मविश्वासी)।
- नया तरीका: यूज़र कहता है "राजधानी पेरिस है।" -> AI पूछता है, "मैं इस बात के बारे में कितना आश्वस्त हूँ कि यह उत्तर सही है?" -> AI कहता है "70%।" (बहुत अधिक ईमानदार)।
उत्तर को इस तरह पेश करके कि वह यूज़र द्वारा दिया गया है, AI अपना "ओनरशिप बायस" छोड़ देता है। वह एक गर्वित शेफ की तरह व्यवहार करना बंद कर देता है और एक निष्पक्ष जज की तरह काम करने लगता है।
परिणाम
जब उन्होंने इस सरल ट्रिक को छह अलग-अलग लोकप्रिय AI मॉडल्स पर आजमाया:
- AI अपने आत्मविश्वास के बारे में काफी अधिक ईमानदार हो गया।
- इसने अपने अति-आत्मविश्वास को 26% तक कम कर दिया।
- इसने "चैटी" (बातूनी) AI मॉडल्स को पुराने, कच्चे "बेस" मॉडल्स (जो स्वाभाविक रूप से खुद को आंकने में बेहतर थे लेकिन निर्देशों का पालन करने में कमजोर थे) के लगभग उतना ही विश्वसनीय बना दिया।
सारांश
यह शोध पत्र दिखाता है कि AI चैटबॉट्स अति-आत्मविश्वासी हैं क्योंकि वे अपने स्वयं के उत्तरों पर बहुत अधिक गर्व करते हैं। केवल AI को यह विश्वास दिलाकर कि उत्तर उसके अपने बजाय यूज़र की ओर से आया है, हम इसे इस बारे में बहुत अधिक ईमानदार बना सकते हैं कि वह क्या जानता है और क्या नहीं, और इसके लिए हमें AI को फिर से बनाने की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।