Domain-level metacognitive monitoring in frontier LLMs: A 33-model atlas
यह अध्ययन 33 फ्रंटियर एलएलएम (LLMs) के माध्यम से 1,500 एमएमएलयू (MMLU) मदों का विश्लेषण करता है ताकि यह प्रकट किया जा सके कि समग्र मेटाकॉग्निटिव मॉनिटरिंग स्कोर महत्वपूर्ण, स्थिर डोमेन-स्तरीय विविधताओं को छिपा देते हैं, जिसमें प्रयुक्त ज्ञान (applied knowledge) की निगरानी करना औपचारिक तर्क या प्राकृतिक विज्ञान की तुलना में विश्वसनीय रूप से आसान है, जिससे मॉडल परिनियोजन से पहले डोमेन-विशिष्ट स्क्रीनिंग के उपयोग का समर्थन मिलता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप विभिन्न प्रकार की समस्याओं को हल करने में मदद करने के लिए विशेषज्ञों की एक टीम को काम पर रख रहे हैं: कुछ कानूनी अनुबंध (legal contracts), कुछ गणितीय प्रमाण (math proofs), कुछ इतिहास के प्रश्न और कुछ चिकित्सा निदान (medical diagnoses)।
अतीत में, यह आंकने के लिए कि कोई सहायक यह जानने में कितना अच्छा था कि उसे उत्तर नहीं पता, हम उन्हें उनके सभी काम के लिए एक एकल "कॉन्फिडेंस स्कोर" (आत्मविश्वास स्कोर) देते थे। यदि वे कहते, "मैं 80% आश्वस्त हूँ," तो हम इसे सब कुछ के लिए एक सामान्य नियम मान लेते थे।
यह पेपर तर्क देता है कि वह एकल स्कोर एक झूठ है। यह ऐसा ही है जैसे किसी शेफ को "खाना पकाने में अच्छा" कहना, बिना यह जाने कि वह बेकिंग में उस्ताद है लेकिन पानी उबालना भी नहीं जानता।
यहाँ सरल विवरण दिया गया है जो लेखक, जॉन-पॉल कासिओली (Jon-Paul Cacioli) ने 1,500 प्रश्नों पर 33 अलग-अलग AI मॉडल का परीक्षण करके खोजा है।
1. "स्विस चीज़" (Swiss Cheese) प्रभाव
मुख्य निष्कर्ष यह है कि एक AI की अपनी जानकारी को परखने की क्षमता असमान (patchy) है।
- अच्छी खबर: जब प्रश्न व्यावहारिक/पेशेवर ज्ञान (जैसे कानून, चिकित्सा या लेखांकन) के बारे में थे, तो AI इस बात को जानने में उत्कृष्ट थे कि वे कब सही या गलत थे। वे एक आत्मविश्वासी विशेषज्ञ की तरह थे जो जानते हैं कि उन्होंने कहाँ गलती की है।
- बुरी खबर: जब प्रश्न औपचारिक तर्क (Formal Reasoning) (तर्क पहेलियाँ, गणितीय प्रमाण) या प्राकृतिक विज्ञान के बारे में थे, तो वही AI खुद को परखने में बेहद खराब हो गए। वे बेतरतीब ढंग से अनुमान लगाने लगे और दावा करने लगे कि वे 90% आश्वस्त हैं, भले ही वे गलत थे।
उपमा: एक छात्र की कल्पना करें जिसे इतिहास की परीक्षा में A+ मिलता है और उसे पता है कि उसने कौन से तथ्य याद किए हैं। लेकिन जब वह एक तर्क पहेली (logic puzzle) की परीक्षा देता है, तो वह बेतरतीब ढंग से अनुमान लगाता है और फिर भी दावा करता है, "मुझे 100% यकीन है कि यह सही है!" यह पेपर दिखाता है कि हर परीक्षण किए गए AI में यह "स्विस चीज़" पैटर्न था: कुछ क्षेत्रों में मजबूत, कुछ में कमजोर।
2. "पारिवारिक समानता" परीक्षण (The "Family Resemblance" Test)
लेखक ने विभिन्न "AI परिवारों" (जैसे एंथ्रोपिक परिवार, गूगल परिवार, आदि) को देखने के लिए अलग-अलग मॉडलों का अध्ययन किया कि क्या उनके भाई-बहन एक जैसे दिखते हैं।
- एंथ्रोपिक परिवार (The Anthropic Family): ये मॉडल बहुत सुसंगत थे। यदि एक मॉडल आत्म-जांच (self-checking) में अच्छा था, तो अन्य भी थे। आत्म-विश्वास के संबंध में उनका "व्यक्तित्व" समान था।
- गूगल जेम्मा परिवार (The Google Gemma Family): यह एक आश्चर्य था। पुराने मॉडल (Gemma 3) आत्म-जांच में बहुत खराब थे—वे एक ऐसे छात्र की तरह थे जिसे कभी नहीं पता चलता था कि वह गलत था। लेकिन नया मॉडल (Gemma 4) एक बड़ी छलांग लेकर आया। वह अचानक बहुत अच्छा हो गया कि उसे क्या पता है। यह एक ऐसे छात्र की तरह है जो वर्षों तक हर परीक्षा में फेल होता रहा, फिर अचानक उसे एक ट्यूटर मिला और उसने अगली परीक्षा में उत्कृष्ट प्रदर्शन किया।
- ओपनएआई परिवार (The OpenAI Family): यह समूह पूरी तरह से बिखरा हुआ था। एक मॉडल बेहतरीन था, दूसरा बहुत खराब था, और तीसरा बस भ्रमित था। कोई सुसंगत "पारिवारिक व्यक्तित्व" नहीं था।
3. "आवाज़" मायने रखती है (प्रोप फॉर्मेट - The Probe Format)
यह एक महत्वपूर्ण खोज है कि हम AI से उसके आत्मविश्वास के बारे में कैसे पूछते हैं।
- बाइनरी टेस्ट (The Binary Test): पिछले अध्ययनों में, शोधकर्ताओं ने AI से एक सरल "हाँ/नहीं" प्रश्न पूछा था: "क्या आप इस उत्तर को रखना चाहते हैं या इसे फेंक देना चाहते हैं?" कुछ मॉडल इस परीक्षण में पूरी तरह से विफल रहे। वे ऐसे लग रहे थे जैसे उनमें बिल्कुल भी आत्म-जागरूकता नहीं है।
- स्केल टेस्ट (The Scale Test): इस पेपर में, शोधकर्ताओं ने AI से यह दिखाने के लिए 0 से 100 तक एक संख्या देने को कहा कि वे कितने आश्वस्त हैं।
- परिणाम: जो मॉडल "हाँ/नहीं" परीक्षण में विफल रहे, वे संख्या पूछने पर अचानक बिल्कुल सामान्य दिखने लगे। ऐसा लगता है कि कुछ मॉडल केवल "ना" नहीं कह पाते, लेकिन वे "मैं 40% आश्वस्त हूँ" कह सकते हैं।
- सबक: आप यह नहीं कह सकते कि एक मॉडल "टूटा हुआ" है सिर्फ इसलिए क्योंकि वह एक विशेष प्रकार के परीक्षण में विफल रहता है। हो सकता है कि वह उस विशिष्ट तरीके से बोलने में बुरा हो।
4. "उच्च विचलन" का जाल (The "High Variance" Trap)
एक मॉडल (GPT-oss-120B) बहुत दिलचस्प था। इसने आत्मविश्वास के बड़े स्तर दिए (कुछ 10%, कुछ 90%)। आप सोच सकते हैं, "वाह, यह बहुत अधिक अनिश्चितता व्यक्त कर रहा है!"
लेकिन पेपर ने पाया कि इसकी अनिश्चितता बेकार थी। यह बेतरतीब ढंग से अनुमान लगा रहा था और गलत होने पर भी उच्च आत्मविश्वास का दावा कर रहा था।
उपमा: एक मौसम विज्ञान की कल्पना करें जो धूप वाले दिन कहता है "बारिश की 10% संभावना है" और दूसरे धूप वाले दिन भी कहता है "90% संभावना है।" वे बहुत अभिव्यंजक हैं, लेकिन उनके पूर्वानुमानों का वास्तविकता से शून्य संबंध है। उच्च आत्मविश्वास भिन्नता (high confidence variation) का अर्थ अच्छी आत्म-जागरूकता नहीं है; इसका मतलब है कि मॉडल शोर मचा रहा है और भ्रमित है।
5. आपके लिए इसका क्या अर्थ है (द "स्क्रीनिंग" नियम)
पेपर उन लोगों के लिए एक व्यावहारिक नियम के साथ समाप्त होता है जो इन AI का उपयोग कर रहे हैं:
औसत (Average) पर भरोसा न करें।
यदि आप कानूनी अनुबंधों में मदद करने के लिए एक सिस्टम बना रहे हैं, तो आपको एक ऐसा मॉडल चुनना चाहिए जो "व्यावहारिक/पेशेवर" आत्मविश्वास पर उच्च स्कोर करता हो, भले ही उसका समग्र औसत स्कोर औसत दर्जे का हो।
यदि आप गणित की समस्याओं के लिए एक सिस्टम बना रहे हैं, तो आपको बहुत सावधान रहना चाहिए, क्योंकि भले ही सबसे "स्मार्ट" मॉडल भी उस विशिष्ट क्षेत्र में यह जानने में संघर्ष करते हैं कि वे कब गलत हैं।
मुख्य बात (The Bottom Line):
एक AI का "आत्मविश्वास" एक एकल संख्या नहीं है। यह पहाड़ों और घाटियों वाला एक मानचित्र है। कुछ क्षेत्र भरोसेमंद हैं; अन्य खतरनाक हैं। किसी विशिष्ट क्षेत्र में निर्णय लेने के लिए AI को छोड़ने से पहले, आपको उस विशिष्ट क्षेत्र के लिए उसके "मानचित्र" की जांच करनी होगी, न कि केवल उसकी समग्र प्रतिष्ठा की।
यह पेपर क्या नहीं कहता
- यह नहीं कहता कि ये मॉडल अभी वास्तविक दुनिया के चिकित्सा या कानूनी उपयोग के लिए तैयार हैं। यह केवल यह कहता है कि अब हमारे पास उन्हें उपयोग करने से पहले परीक्षण करने का एक बेहतर तरीका है।
- यह नहीं बताता कि मॉडल गणित की तुलना में कानून में बेहतर क्यों हैं। यह केवल पुष्टि करता है कि अंतर मौजूद है।
- यह यह दावा नहीं करता कि ये "डोमेन" (जैसे "सामाजिक" या "विज्ञान") पूर्ण वैज्ञानिक श्रेणियां हैं। लेखक स्वीकार करते हैं कि वे केवल परीक्षण के लिए व्यावहारिक समूह हैं, न कि गहरे मनोवैज्ञानिक सत्य।
संक्षेप में: औसत को देखना बंद करें। प्रोफाइल को देखें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।