तकनीकी सारांश: लार्ज लैंग्वेज मॉडल्स में आत्मविश्वास का कम्प्यूटेशनल आधार

समस्या विवरण

विश्वसनीय आत्मविश्वास—यह संभावना कि मॉडल का अपना उत्तर सही है—लार्ज लैंग्वेज मॉडल्स (LLMs) के भरोसेमंद परिनियोजन (deployment) के लिए एक पूर्व शर्त है। जबकि मौजूदा साहित्य ने भविष्यवाणात्मक सटीकता (कि वे शुद्धता के साथ कितनी अच्छी तरह सहसंबंधित हैं) और अंशांकन (calibration) (कि रिपोर्ट की गई संभावनाएँ अनुभवजन्य आवृत्तियों से कितनी अच्छी तरह मेल खाती हैं) के आधार पर कॉन्फिडेंस सिग्नल का व्यापक मूल्यांकन किया है, एक मौलिक प्रश्न अनसुलझा रह गया है: कॉन्फिडेंस सिग्नल स्वयं कम्प्यूटेशनल रूप से क्या दर्शाता है?

मौजूदा सिग्नल, जैसे कि उत्तर-टोकन प्रोबेबिलिटी या मौखिक रिपोर्ट, अक्सर शुद्धता के अनुभवजन्य भविष्यवक्ता के रूप में माने जाते हैं। हालाँकि, यह स्पष्ट नहीं है कि क्या ये सिग्नल केवल 'ह्यूरिस्टिक प्रिफरेंस स्कोर' (heuristic preference scores) हैं जो साक्ष्य को गैर-बेयसियन (non-Bayesian) तरीके से संयोजित करते हैं, या क्या वे एक लेटेंट डिसीजन वेरिएबल (latent decision variable) के मोनोटोनिक रीडआउट (monotonic readout) के रूप में कार्य करते हैं। कम्प्यूटेशनल न्यूरोसाइंस में, एक लेटेंट डिसीजन वेरिएबल साक्ष्य का एक शोरयुक्त (noisy) आंतरिक प्रतिनिधित्व होता है, जो एक नॉर्मेटिव प्रोसेस मॉडल के तहत, शुद्धता की पश्चातवर्ती संभावना (posterior probability of correctness) यानी सांख्यिकीय निर्णय आत्मविश्वास (SDC) की गणना करने के लिए पर्याप्त होता है। एक ह्यूरिस्टिक स्कोर और एक नॉर्मेटिव रीडआउट के बीच अंतर करना मॉडल के आत्मविश्वास की आंतरिक कार्यप्रणाली को समझने के लिए महत्वपूर्ण है।

कार्यप्रणाली

लेखक यह परीक्षण करने के लिए कि क्या मल्टीमॉडल LLMs में 'आंसर लॉजिट्स' (answer logits) एक लेटेंट डिसीसन वेरिएबल के रीडआउट के रूप में व्यवहार करते हैं, सांख्यिकीय निर्णय आत्मविश्वास (SDC) के ढांचे का उपयोग करते हैं, जो कम्प्यूटेशनल न्यूरोसाइंस से एक नॉर्मेटिव मॉडल है। अध्ययन आंसर-लॉगिट डिफरेंस (LD = $\ell_A - \ell_B$) को संभावित रीडआउट के रूप में केंद्रित करता है।

इसका परीक्षण करने के लिए, लेखक तीन विशिष्ट निर्णय व्यवस्थाओं (decision regimes) में चार गुणात्मक हस्ताक्षरों (signatures) का मूल्यांकन करते हैं जो SDC फ्रेमवर्क द्वारा अनुमानित हैं:

1. साइकोमेट्रिक फंक्शन (Psychometric Function): चुनाव की संभावना, हस्ताक्षित उद्दीपन शक्ति (signed stimulus strength) के साथ मोनोटोनिक रूप से बढ़नी चाहिए।
2. साइन वाले साक्ष्य का एन्कोडिंग (Signed Evidence Encoding): हस्ताकृत (signed) LD, हस्ताकृत उद्दीपन शक्ति के साथ मोनोटोनिक रूप से बदलना चाहिए।
3. ट्रायल-विशिष्ट आत्मविश्वास (फिक्स्ड-स्ट्रेंथ प्रेडिक्शन): एक निश्चित वस्तुनिष्ठ उद्दीपन शक्ति पर, LD का परिमाण ($|LD|$) शुद्धता की भविष्यवाणी करना चाहिए। यह परीक्षण करता है कि क्या LD में ट्रायल-दर-ट्रायल उतार-चढ़ाव केवल वस्तुनिष्ठ कठिनाई में परिवर्तन के बजाय आंतरिक शोर (internal noise) को दर्शाते हैं।
4. फोल्डेड-X पैटर्न (Folded-X Pattern): जैसे-जैसे उद्दीपन शक्ति बढ़ती है, $|LD|$ सही ट्रायल्स पर बढ़ना चाहिए लेकिन गलत ट्रायल्स पर कम होना चाहिए। यह ज्यामितीय हस्ताक्षर इसलिए उत्पन्न होता है क्योंकि उच्च-शक्ति वाले एरर (errors) केवल तभी होते हैं जब शोर लेटेंट डिसीजन वेरिएबल को निर्णय सीमा (decision boundary) के पार धकेल देता है।

प्रायोगिक सेटअप:

• मॉडल्स: तीन मल्टीमॉडल नॉन-रीज़निंग मॉडल्स (Qwen2.5-VL 7B, Gemma 3 12B, Gemma 4 12B) और एक मल्टीमॉडल रीजनिंग मॉडल (Gemini Flash 3)।
• टास्क:
  • परसेप्चुअल डिस्क्रिमिनेशन (Perceptual Discrimination): तीन सिंथेटिक विजुअल टास्क (कंट्रास्ट, ऑब्जेक्ट साइज, शेप कैटेगराइजेशन) जहाँ उद्दीपन शक्ति को प्रयोगात्मक रूप से नियंत्रित किया गया है। नियतिवादी (deterministic) मॉडल्स में ट्रायल-दर-ट्रयाल भिन्नता उत्पन्न करने के लिए, लेखकों ने प्रत्येक स्ट्रेंथ लेवल पर कई उद्दीपन उदाहरण बनाए, जिसमें कार्य-अप्रासंगिक ("नुइसेंस") विशेषताओं (जैसे स्थानिक जिटर, डॉट रियलाइजेशन) को रैंडमाइज किया गया।
  • मेमोरी-आधारित निर्णय: विश्व ज्ञान प्राप्त करने के लिए एक सिटी-पॉपुलेशन तुलना कार्य।
  • जटिल विजुअल रीजनिंग: CLEVR टास्क (काउंट इक्वैलिटी, ऑब्जेक्ट अस्तित्व) जिसमें पैरामेट्रिक गौसियन ब्लर का उपयोग किया गया।
• व्यवहार संबंधी सत्यापन (Behavioral Validation): एक एब्स्टेंशन (abstention) टास्क आयोजित किया गया जहाँ मॉडल्स को निर्देश दिया गया कि यदि उनका आंतरिक आत्मविश्वास (LD से प्राप्त) 60% से कम शुद्धता की संभावना बताता है, तो वे उत्तर देने से बचें।

मुख्य परिणाम

1. पर्सेप्चुअल टास्क में साक्ष्य एन्कोडिंग और लेटेंट वेरिएबल सिग्नेचर

तीनों पर्सेप्चुअल टास्क में, मॉडल्स ने सभी चार SDC हस्ताक्षरों को पूरा किया:

• साइकोमेट्रिक और साइन्ड एन्कोडिंग: चॉइस प्रोबेबिलिटी और हस्ताकृत LD, उद्दीपन शक्ति के साथ मोनोटोनिक रूप से बदले, जिससे पुष्टि हुई कि मॉडल्स कार्य-प्रासंगिक साक्ष्य को एनकोड करते हैं।
• फिक्स्ड-स्ट्रेंथ प्रेडिक्शन: यहाँ तक कि जब वस्तुनिष्ठ उद्दीपन कठिनाई स्थिर रखी गई थी, तब भी बड़े $|LD|$ने शुद्धता की भविष्यवाणी की (उदाहरण के लिए, कंट्रास्ट टास्क में,$|LD|$ को स्टिमुलस-स्ट्रेंथ मॉडल में जोड़ने से AUROC 0.864 से बढ़कर 0.907 हो गया)। यह प्रदर्शित करता है कि LD वस्तुनिष्ठ कठिनाई के अलावा ट्रायल-विशिष्ट निर्णय साक्ष्य भी वहन करता है।
• फोल्डेड-X पैटर्न: शुद्धता और उद्दीपन शक्ति के बीच की अंतःक्रिया ने विशिष्ट फोल्डेड-X ज्यामिति उत्पन्न की। सही ट्रायल्स पर, $|LD|$उद्दीपन शक्ति के साथ बढ़ा; गलत ट्रायल्स पर,$|LD|$ कम हुआ। यह Qwen, Gemma 3 और Gemma 4 में देखा गया, जिसमें केवल एक मामूली अपवाद (कंट्रास्ट टास्क पर Gemma 3 ने इनवर्टेड ब्रांच के बजाय फ्लैट ब्रांच दिखाई, हालांकि स्ट्रेंथ-विदिन प्रेडिक्शन मजबूत बना रहा) था।

2. मेमोरी और रीजनिंग में सामान्यीकरण

• मेमोरी-आधारित निर्णय: सिटी-पॉपुलेशन टास्क में, रिट्रीव्ड नॉलेज में उच्च शोर के कारण साइकोमेट्रिक फंक्शन उथला (shallow) था। हालाँकि, लेटेंट डिसीजन सिग्नेचर बने रहे: $|LD|$ ने फिक्स्ड पॉपुलेशन-एविडेंस बिन्स के भीतर शुद्धता की भविष्यवाणी की, और फोल्डेड-X पैटर्न मौजूद था (और Gemma 3 में और भी शार्प था)। यह इंगित करता है कि LD, भले ही वस्तुनिष्ठ उद्दीपन अक्ष मॉडल के आंतरिक साक्ष्य का एक शोरयुक्त प्रॉक्सी हो, फिर भी लेटेंट निर्णय साक्ष्य के रीडआउट के रूप में कार्य करता है।
• जटिल विजुअल रीजनिंग (CLEVR): गौसियन ब्लर वाले CLEVR टास्क में, पहले दो सिग्नेचर (जो हस्ताकृत साक्ष्य अक्ष पर निर्भर करते हैं) सीधे लागू नहीं थे क्योंकि ब्लर जानकारी को कम करता है न कि किसी विशिष्ट उत्तर का पक्ष लेता है। हालाँकि, तीसरा सिग्चर बना रहा: $|LD|$ ने ब्लर स्ट्रेंथ और सीन कंट्रोल्स के परे शुद्धता की भविष्यवाणी की। फोल्डेड-X पैटर्न नहीं देखा गया; एरर ब्रान्चेस नेगेटिव होने के बजाय फ्लैट या पॉजिटिव थे। लेखक इसका श्रेय जटिल रीजनिंग के लिए किसी ज्ञात नॉर्मेटिव प्रोसेस मॉडल की कमी को देते हैं, जो विशिष्ट ज्यामितीय भविष्यवाणी को प्राप्त करने में असमर्थ है।

3. व्यवहार संबंधी परिणाम

एब्स्टेंशन टास्क में, मॉडल्स ने LD सिग्नल के आधार पर कम-आत्मविश्वास वाले उत्तरों को चुनिंदा रूप से रोका।

• मॉडल्स ने 87.7% ट्रायल्स पर परहेज किया, केवल उच्च-आत्मविश्वास वाले रिस्पॉन्स दिए।
• कमिटेड ट्रायल्स पर शुद्धता 92.2% के बेसलाइन से बढ़कर 99.95% हो गई।
• एब्स्टेंशन पॉलिसी ने वस्तुनिष्ठ उद्तिम शक्ति की तुलना में आंतरिक LD सिग्नल को बेहतर ढंग से ट्रैक किया, और परिणामी व्यवहार $|LD|$ के एक आइडियलाइज्ड थ्रेशोल्ड के करीब था।

महत्व और दावे

यह पेपर मल्टीमॉडल LLMs में कॉन्फिडेंस के बारे में एक कम्प्यूटेशनल अकाउंट प्रदान करता है, जो केवल इस अनुभवजन्य अवलोकन से आगे बढ़ता है कि कॉन्फिडेंस सिग्नल शुद्धता की भविष्यवाणी करते हैं।

• लेटेंट डिसीजन वेरिएबल रीडआउट: प्राथमिक दावा यह है कि उन सेटिंग्स में जहाँ एक नॉर्मेटिव प्रोसेस मॉडल निर्दिष्ट किया जा सकता है (सरल पर्सेप्चुअल और मेमोरी-आधारित कार्य), उत्तर लॉजिट्स केवल ह्यूरिस्टिक प्रिफरेंस स्कोर के रूप में नहीं, बल्कि एक लेटेंट डिसीजन वेरिएबल के मोनोटोनिक रीडआउट के रूप में व्यवहार करते हैं। यह वेरिएबल, सिद्धांत रूप में, वर्तमान विकल्प के सही होने की पश्चातवर्ती संभावना (posterior probability) की गणना करने के लिए पर्याप्त है।
• एकीकृत ढांचा (Unifying Framework): यह अध्ययन जैविक और कृत्रिम बुद्धिमत्ता (AI) दोनों में कॉन्फिडेंस का अध्ययन करने के लिए एक एकीकृत कम्प्यूटेशनल ढांचे के रूप में 'सांख्यिकीय निर्णय आत्मविश्वास' (SDC) को स्थापित करता है। यह उन स्थितियों को रेखांकित करता है जिनमें उत्तर लॉजिट्स नॉर्मेटिव रीडआउट के रूप में कार्य करते हैं बनाम ह्यूरिस्टिक स्कोर के रूप में।
• सीमाएं और बाउंड्रीज: लेखक विनम्रतापूर्वक नोट करते हैं कि जटिल रीजनिंग कार्यों (CLEVR) में फोल्डेड-X पैटर्न की अनुपस्थिति का अर्थ अनिवार्य रूप से SDC की विफलता नहीं है। इसके बजाय, यह फ्रेमवर्क की वर्तमान सीमा को उजागर करता है: जटिल रीजनिंग के लिए एक स्पष्ट नॉर्मेटिव प्रोसेस मॉडल के बिना, विशिष्ट ज्यामितीय हस्ताक्षरों को प्राप्त और परीक्षण नहीं किया जा सकता है। परिणाम बताते हैं कि जबकि LD जटिल कार्यों में शुद्धता के बारे में ट्रायल-विशिष्ट जानकारी रखता है, इसका एक नॉर्मेटिव लेटेंट वेरिएबल के रूप में स्टेटस तब तक अनसुलझा रहता है जब तक कि उपयुक्त प्रोसेस मॉडल विकसित नहीं किए जाते।

संक्षेप में, यह कार्य प्रदर्शित करता है कि सरल और मेमोरी-आधारित निर्णयों के लिए, LLMs में कॉन्फिडेंस सिग्नल जैविक प्रणालियों में पाए जाने वाले लेटेंट डिसीजन वेरिएबल्स के संरचनात्मक रूप से समरूप (isomorphic) हैं, जो मॉडल कॉन्फिडेंस की व्याख्या करने के लिए एक कठोर आधार प्रदान करता है।