When LLMs Agree, Are They Right? Auditing Self-Consistency and Cross-Model Agreement as Confidence Signals
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए कॉन्फिडेंस सिग्नल के रूप में सेल्फ-कंसिस्टेंसी और क्रॉस-मॉडल एग्रीमेंट के उपयोग की विश्वसनीयता को चुनौती देता है, जो एक बड़े पैमाने के अध्ययन के माध्यम से यह प्रदर्शित करता है कि हालांकि एग्रीमेंट एक सकारात्मक लेकिन कमजोर भविष्यवक्ता है, फिर भी यह अक्सर फ्रंटियर मॉडल्स में अति-आत्मविश्वास (ओवर-कॉन्फिडेंस) की ओर ले जाता है जहाँ उच्च एग्रीमेंट बार-बार होने वाली त्रुटियों के साथ मेल खाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप सबसे अच्छे AI मस्तिष्क को खोजने के लिए एक विशाल टैलेंट शो चला रहे हैं। आपके पास जजों का एक पैनल (AI मॉडल) है और आप उनसे दस लाख पेचीदा सवाल पूछते हैं। यहाँ हर कोई एक बड़ा नियम मानता है: "यदि सभी जज एक उत्तर पर सहमत होते हैं, तो वह सही होना चाहिए।" यह सामान्य ज्ञान जैसा लगता है, है ना? अगर दस लोग कहते हैं कि आसमान हरा है, तो शायद हम सब एक अजीब फिल्टर देख रहे हैं? लेकिन अगर सौ लोग कहते हैं, तो यह सच होने की संभावना अधिक है!
यह पेपर एक जासूसी कहानी की तरह है जो पर्दे के पीछे जाकर यह जांचता है कि क्या वह नियम वास्तव में काम करता है। लेखक, काइहुआ डिंग (Kaihua Ding) ने 53 अलग-अलग "रनर" (AI परीक्षण चलाने वाले लोग) के साथ एक बड़ा प्रयोग चलाया और उनसे उपलब्ध सबसे कठिन गणित और विज्ञान के सवालों (जिन्हें GPQA डायमंड और AIME कहा जाता है) के 265,000 उत्तरों को जेनरेट करने के लिए कहा।
यहाँ एक मोड़ है जिसे यह पेपर उजागर करता है: सहमति का मतलब सही होना नहीं है।
"इको चैंबर" (Echo Chamber) का जाल
AI मॉडल्स को उन छात्रों के समूह की तरह समझें जिन्होंने एक ही थोड़े दोषपूर्ण टेक्स्टबुक से पढ़ाई की है। यदि उन्होंने एक सवाल के लिए एक ही गलत उत्तर को रट लिया है, तो वे सभी एक ही गलत उत्तर पर हाथ उठाएंगे और सहमत होंगे। वे इसलिए सहमत नहीं हो रहे हैं क्योंकि वे बुद्धिमान हैं; वे इसलिए सहमत हो रहे हैं क्योंकि उनके बीच एक साझा पूर्वाग्रह (bias) या एक "रटा हुआ ह्यूरिस्टिक" (memorized heuristic) है।
पेपर ने पाया कि जब AI मॉडल खुद के साथ (या एक-दूसरे के साथ) सहमत होते हैं, तो यह अक्सर केवल एक साझा गलती को दोहराना होता है, न कि सत्य का संकेत।
"अति-आत्मविश्वासी" (Over-Confident) मेधावी छात्र
सबसे आश्चर्यजनक खोज "फ्रंटियर" मॉडल्स के बारे में है—सबसे स्मार्ट, सबसे उन्नत AI संस्करण। आप सोच सकते हैं कि सबसे स्मार्ट मॉडल सबसे विश्वसनीय होगा। पेपर दिखाता है कि इस विशिष्ट सेटअप में इसके विपरीत सच है।
- निष्कर्ष: सबसे उन्नत मॉडल (gpt-4.1) 89% बार खुद के साथ सहमत था (एक बहुत उच्च आत्मविश्वास स्कोर)। लेकिन जब वह सहमत था, तो वह केवल 48% बार सही था।
- उपमा: एक ऐसे छात्र की कल्पना करें जो अपने उत्तर के बारे में इतना आश्वस्त है कि वह 100% आत्मविश्वास के साथ चिल्लाकर जवाब देता है, लेकिन वास्तव में वह आधे समय गलत होता है। पेपर इसे "ओवर-कॉन्फिडेंट" कहता है। वास्तव में, यह सुपर-स्मार्ट मॉडल एक थोड़े कम उन्नत "मिड-टियर" मॉडल की तुलना में यह संकेत देने में अधिक खराब था कि वह कब सही है।
- प्रमाण: अध्ययन ने इसे एक सांख्यिकीय लिंक (जिसे कोरिलेशन कहा जाता है) का उपयोग करके मापा जो "सहमति" और "सत्यता" के बीच था। सबसे स्मार्ट मॉडल के लिए, यह लिंक बहुत कमजोर (लगता है 0.20 के आसपास) था, जिसका अर्थ है कि उसका उच्च आत्मविश्वास विश्वास के संकेत के रूप में लगभग बेकार था।
क्या "चेन-ऑफ-थॉट" (Chain-of-Thought) मदद करता है?
कुछ लोग सोचते हैं कि यदि आप AI को "अपना काम दिखाने" (एक विधि जिसे चेन-ऑफ-थॉट कहा जाता है) के लिए कहते हैं, तो वह अधिक ईमानदार होगा।
- परिणाम: हाँ, AI को अपना काम दिखाने के लिए कहने से यह थोड़ा अधिक सटीक हुआ (यह अधिक सवालों के सही उत्तर दे पाया)।
- पेंच: हालाँकि, इसने "सहमति के संकेत" को बहुत बेहतर नहीं बनाया। AI अभी भी यह बताने में सक्षम नहीं था कि वह कब सही था, सिर्फ इस आधार पर कि वह खुद के साथ कितना सहमत था। यह एक ऐसे छात्र की तरह है जो एक लंबा, विस्तृत विवरण लिखता है लेकिन फिर भी अंतिम उत्तर गलत देता है, और आप केवल यह देखकर अंतर नहीं कर सकते कि उसने इसे कितनी सफाई से लिखा है।
"साझा पूर्वाग्रह" (Shared Bias) का रहस्य
शोधकर्ताओं ने यह भी जांचा कि क्या विभिन्न AI परिवार (जैसे GPT और Claude) एक ही तरह की गलतियाँ करते हैं।
- खोज: उन्होंने पाया कि जब विभिन्न AI मॉडल एक सवाल गलत करते थे, तो वे अक्सर बिल्कुल एक ही गलत उत्तर चुनते थे।
- उपमा: यह दो अलग-अलग स्कूलों के दो अलग-अलग छात्रों की तरह है जो गणित की समस्या को गलत करते हैं क्योंकि दोनों ने कक्षा में एक विशिष्ट, गलत ट्रिक सीखी थी। यह सुझाव देता है कि जब AI एक गलत उत्तर पर सहमत होते हैं, तो यह कोई इत्तेफाक नहीं है; यह उनके प्रशिक्षण में निहित एक साझा पूर्वाग्रह है।
तो, क्या हमें सहमति का उपयोग करना बंद कर देना चाहिए?
बिल्कुल नहीं। पेपर यह नहीं कहता कि "सहमति पर भरोसा न करें।" यह कहता है, "इसका सावधानी से उपयोग करें, और अपनी सीमाओं को जानें।"
- बजट बनाने के लिए अच्छा है: सहमति यह तय करने के लिए बेहतरीन है कि कितनी कंप्यूटर शक्ति खर्च करनी है। यदि मॉडल सभी अनिश्चित हैं (कम सहमति), तो आप बेहतर उत्तर पाने के लिए अधिक समय या पैसा खर्च करना चाह सकते हैं।
- भरोसा करने के लिए बुरा है: आपको कभी भी सहमति को स्टैंडअलोन "मुझे विश्वास करो" बटन के रूप में उपयोग नहीं करना चाहिए। यदि एक सुपर-स्मार्ट मॉडल कहता है, "मैं 90% सुनिश्चित हूँ," और वह खुद के साथ सहमत है, तो भी आप पक्का नहीं हो सकते कि वह सही है। वास्तव में, पेपर सुझाव देता है कि आत्मविश्वास के आधार पर कठिन सवालों को "सबसे स्मार्ट" मॉडल को भेजना एक बुरा विचार है क्योंकि वह मॉडल सबसे अधिक अति-आत्मविश्वासी है।
निष्कर्ष
पेपर निष्कर्ष निकालता है कि स्व-संगति (self-consistency/agreement) एक "कंडीशनल प्रॉक्सी" (conditional proxy) है। यह कुछ स्थितियों में (जैसे मिड-लेवल मॉडल्स के साथ) एक सहायक संकेत है, लेकिन यह सत्य की गारंटी नहीं है।
- क्या सिद्ध है: इन विशिष्ट परीक्षणों में, उच्च सहमति का अर्थ अक्सर उच्च आत्मविश्वास लेकिन कम सटीकता था, विशेष रूप से सबसे उन्नत मॉडल्स के लिए।
- क्या सुझाव दिया गया है: "ओवर-कॉन्फिडेंस" इन मॉडल्स को प्रशिक्षित करने के तरीके का एक साइड इफेक्ट हो सकता है, और साझा त्रुटियां इसलिए होती हैं क्योंकि विभिन्न मॉडल्स समान डेटा से सीखते हैं।
- क्या अज्ञात है: पेपर नोट करता है कि ये परिणाम परीक्षण किए गए मॉडल्स और सवालों के लिए विशिष्ट हैं। हम नहीं जानते कि क्या यह हर प्रकार के AI या हर प्रकार के सवाल के साथ होता है, लेकिन चेतावनी स्पष्ट है: यह मान लेने की गलती न करें कि सिर्फ इसलिए कि सभी सहमत हैं, वे सही हैं। कभी-कभी, वे बस सभी एक ही गलत नक्शे को देख रहे होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।