Verbal Confidence Saturation in 3-9B Open-Weight Instruction-Tuned LLMs: A Pre-Registered Psychometric Validity Screen
यह अध्ययन प्रदर्शित करता है कि 3-9B पैरामीटर रेंज वाले इंस्ट्रक्शन-ट्यून्ड ओपन-वेट एलएलएम (LLMs) मौखिक आत्मविश्वास के साइकोमेट्रिक वैधता परीक्षणों में विफल रहते हैं, जो अत्यधिक सीलिंग इफेक्ट्स और मौखिक निश्चितता एवं वास्तविक सटीकता या टोकन-स्तरीय लॉग-प्रोबेबिलिटीज के बीच सहसंबंध की कमी को दर्शाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"अति-आत्मविश्वासी छात्र" की समस्या: आपकी AI आपको अपनी निश्चितता के बारे में झूठ क्यों बोल रही है
कल्पना कीजिए कि आप छात्रों की एक कक्षा का मूल्यांकन कर रहे एक शिक्षक हैं। आप उनसे कठिन ट्रिविया (सामान्य ज्ञान) के प्रश्नों की एक श्रृंखला पूछते हैं। प्रत्येक उत्तर के बाद, आप उनसे पूछते हैं: "1 से 100 के पैमाने पर, आप इस बात को लेकर कितने आश्वस्त हैं कि आप सही हैं?"
आप उम्मीद करते हैं कि कुछ छात्र कहेंगे, "मैं 90% आश्वस्त हूँ," और अन्य कहेंगे, "मैं केवल 20% आश्वस्त हूँ, मैं बस अंदाज़ा लगा रहा हूँ।" यह आपको यह देखने की अनुमति देता है कि वास्तव में किसे विषय का ज्ञान है और कौन अंधेरे में तीर चला रहा है।
यह शोध पत्र "छात्रों" (छोटे AI मॉडल्स) के एक समूह के बारे में है जिनकी एक बहुत ही अजीब आदत है: सवाल चाहे कितना भी कठिन क्यों न हो, वे सभी चिल्लाकर कहते हैं, "मैं 100% आश्वस्त हूँ!"
मुख्य खोज: "टूटा हुआ थर्मामीटर"
शोधकर्ता, जॉन-पॉल कैसीओली (Jon-Paul Cacioli) ने सात अलग-अलग छोटे AI मॉडल्स (छात्रों) का परीक्षण किया। वह यह देखना चाहते थे कि क्या उनके "कॉन्फिडेंस स्कोर" (निश्चितता स्कोर) का वास्तव में कोई अर्थ है। विज्ञान में, यदि कोई उपकरण "गर्म" और "ठंडे" स्थिति के बीच अंतर नहीं कर सकता, तो हम उसे अमान्य (invalid) कहते हैं।
परिणाम चौंकाने वाले थे:
- सीलिंग इफेक्ट (टूटा हुआ थर्मामीटर): शोधकर्ता द्वारा परीक्षण किए गए लगभग हर मॉडल ने 95% या उससे अधिक का कॉन्फिडेंस स्कोर दिया, चाहे उन्होंने उत्तर सही दिया हो या गलत। यह एक ऐसे थर्मामीटर की तरह है जो हमेशा "100 डिग्री" ही पढ़ता है। इससे कोई फर्क नहीं पड़ता कि आप फ्रीजर में हैं या सौना (sauna) में; थर्मामीटर बस "गर्म!" कहता है। यह स्कोर यह बताने के लिए बेकार है कि AI वास्तव में सही है या नहीं।
- "मल्टीपल चॉइस" आपदा: शोधकर्ता ने इसे ठीक करने के लिए AI को आत्मविश्वास व्यक्त करने का एक अलग तरीका देने की कोशिश की (जैसे कि बहुविकल्पीय पैमाना: कोई संभावना नहीं, शायद, लगभग निश्चित)। मदद करने के बजाय, इसने वास्तव में AI के दिमाग को खराब कर दिया। मॉडल नए तरीके से उत्तर देने के कारण इतने भ्रमित हो गए कि उन्होंने ट्रिविया प्रश्नों के सही उत्तर देना ही बंद कर दिया।
- "बहुत अधिक सोचने" का विरोधाभास: एक विशिष्ट मॉडल में जो बोलने से पहले "सोचता" है (एक रीजनिंग मॉडल), शोधकर्ता ने पाया कि AI जितना अधिक समय "सोचने" में बिताता था, वह उतना ही कम आश्वस्त सुनाई देता था। यह एक ऐसे छात्र की तरह है जो अंत में "मैं 100% आश्वस्त हूँ!" कहने से पहले पाँच मिनट तक बुदबुदाता और हिचकिचाता है।
यह क्यों मायने रखता है? ("सुरक्षा" की समस्या)
आप सोच सकते हैं, "तो क्या हुआ? अगर AI हमेशा आत्मविश्वासी है, तो बस उसके उत्तर को देखें।"
लेकिन वास्तविक दुनिया में, हम महत्वपूर्ण चीजों के लिए AI का उपयोग करना चाहते हैं—जैसे चिकित्सा सलाह, कानूनी शोध, या कार चलाना। उन मामलों में, हमें चाहिए कि AI कहे: "मुझे नहीं पता, मैं निश्चित नहीं हूँ, कृपया किसी इंसान से पूछें।"
यदि एक AI को हमेशा 100% आत्मविश्वासी दिखने के लिए प्रोग्राम किया गया है, तो वह कभी भी "पीछे नहीं हटेगा" या मदद नहीं मांगेगा। वह आत्मविश्वास के साथ कार को खाई में ले जाएगा या आत्मविश्वास के साथ आपको दवा की गलत खुराक देगा।
निष्कर्ष (The Takeaway)
शोध पत्र निष्कर्ष निकालता है कि छोटे AI मॉडल्स वर्तमान में "मौखिक झूठे" (verbal liars) हैं। वे वास्तव में अपने डिजिटल "मस्तिष्क" के भीतर गहराई में जानते होंगे कि वे गलत हैं, लेकिन जब आप उनसे पूछते हैं कि वे कैसा महसूस कर रहे हैं, तो वे उस अनिश्चितता को आपसे संवाद नहीं कर पाते। वे अत्यधिक अति-आत्मविश्वास के एक लूप में फंसे हुए हैं।
सबक: इससे पहले कि हम किसी बड़े निर्णय के आधार पर AI के "आत्मविश्वास" पर भरोसा करें, हमें यह सुनिश्चित करना होगा कि उसके पास वास्तव में एक काम करने वाला "अनिश्चितता सेंसर" (uncertainty sensor) है—और अभी के लिए, इन मॉडल्स के लिए वह सेंसर टूटा हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।