Precision, Physics, and Confabulation: Softmax Temperature as an Analog of Dopaminergic Precision-Weighting in LLM Hallucination

तकनीकी सारांश: परिशुद्धता, भौतिकी और भ्रम (Precision, Physics, and Confabulation)

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर "भ्रम" (hallucinations) उत्पन्न करते हैं—अर्थात, ऐसे मनगढ़ंत तथ्य जिन्हें सही उत्तरों की तरह ही प्रवाहपूर्ण और आत्मविश्वासी स्वर में प्रस्तुत किया जाता है। यह घटना कम्प्यूटेशनल साइकियाट्री (computational psychiatry) में वर्णित मनोविकृति (psychosis) की एक मुख्य विशेषता का प्रतिबिंब है: असामान्य परिशुद्धता-भारण (aberrant precision-weighting)। फ्री एनर्जी प्रिंसिपल (Free Energy Principle) और प्रेडिक्टिव कोडिंग फ्रेमवर्क के तहत, धारणा (perception) एक बेयसियन अनुमान (Bayesian inference) प्रक्रिया है जहाँ मस्तिष्क अपने संबंधित परिशुद्धता (precision - व्युत्क्रम विचरण/inverse variance) के आधार पर पूर्व विश्वासों (prior beliefs) और संवेदी साक्ष्य (sensory evidence) को जोड़ता है। मनोविकृति के बारे में यह सिद्धांत दिया जाता है कि डोपामाइन, संवेदी साक्ष्य की तुलना में 'प्रायर्स' (priors) या शोर (noise) को अत्यधिक परिशुद्धता प्रदान करता है, जिससे आत्मविश्वासी लेकिन गलत निष्कर्ष निकलते हैं (भ्रम)।

जबकि इन दोनों क्षेत्रों की गणितीय मशीनरी समान है—LLM का सॉफ्टमैक्स टेम्परेचर ($T$) बेयसियन अनुमान में परिशुद्धता पैरामीटर का व्युत्क्रम है—इससे पहले कोई भी कार्य सीधे तौर पर यह परीक्षण नहीं कर पाया है कि क्या $T$ में हेरफेर करना LLMs में असामान्य परिशुद्धता-भारण के गुणात्मक हस्ताक्षरों को पुनरुत्पादित करता है जैसा कि कम्प्यूटेशनल साइकियाट्री में भविष्यवाणी की गई है। विशेष रूप से, क्या कम तापमान (उच्च परिशुद्धता) LLMs को आत्मविश्वासी, निराधार तथ्य बनाने के लिए प्रेरित करता है, जबकि उच्च तापमान (निम्न परिशुद्धता) अधिक ईमानदार, संशयपूर्ण त्रुटियों को जन्म देता है?

कार्यप्रणाली (Methodology)
लेखक ने 25 चिकित्सा प्रश्नों और पूर्व MedRAG अध्ययनों से प्राप्त 5,025 दस्तावेजों के एक निश्चित संग्रह पर LLaMA 3.2 (3B) का उपयोग करके एक पायलट अध्ययन संचालित किया। प्रायोगिक डिजाइन ने दो चरों (variables) में हेरफेर किया:

1. स्थिति (Condition): एक "बेस" (अग्राउंडेड/बिना आधार वाला) स्थिति जो केवल पैरामेट्रिक प्रायर्स पर निर्भर करती है, और एक "RAG" (रिट्रीवल-ऑगमेंटेड जनरेशन) स्थिति जहाँ मॉडल को रिट्रीव किए गए साक्ष्यों (जो "संवेदी साक्ष्य" शब्द के रूप में कार्य करते हैं) पर आधारित किया गया था।
2. तापमान ($T$): तीन सैंपलिंग तापमानों का परीक्षण किया गया: $T=0.0$ (लगभग नियत/उच्च परिशुद्धता), $T=0.7$ (मानक/मध्यम), और $T=1.3$ (विस्तृत/निम्न परिशुद्धता)।

अध्ययन में कुल 150 संयोजनों ($3 \text{ temps} \times 2 \text{ conditions} \times 25 \text{ questions}$) का मूल्यांकन किया गया।

• सटीकता (Accuracy): 95% विल्सन स्कोर कॉन्फिडेंस इंटरवल के साथ गोल्ड-कीवर्ड मानदंड का उपयोग करके मापी गई।
• आत्मविश्वास का हस्ताक्षर (Hedging/संशय): गलत उत्तरों के लिए, लेखक ने एक निश्चित 15-शब्दों के हेज लेक्सिकन (जैसे, "may," "might," "suggests," "uncertain") की उपस्थिति की गणना की।
• सांख्यिकीय विश्लेषण: तापमान समूहों के बीच गलत और सही उत्तरों के हेज काउंट की तुलना करने के लिए गैर-पैरामीट्रिक मैन-व्हिटनी यू (Mann-Whitney U) परीक्षणों का उपयोग किया गया।

मुख्य योगदान

1. औपचारिक पत्राचार (Formal Correspondence): शोध पत्र स्पष्ट रूप से कम्प्यूटेशनल साइकियाट्री में डोपामिनर्जिक परिशुद्धता-भारण, सांख्यिकीय यांत्रिकी में व्युत्क्रम तापमान और LLMs में सॉफ्टमैक्स तापमान पैरामीटर के बीच संबंध को स्थापित करता है, जो $precision \propto 1/T$ को दर्शाता है।
2. परिचालित परिकल्पना (Operationalized Hypothesis): यह इस गणितीय पत्राचार को एक परीक्षण योग्य परिकल्पना में अनुवादित करता है: कि कम तापमान अनग्राउंडेड स्थितियों में "आत्मविश्वासी निर्माण" (कम हेजिंग वाले गलत उत्तर) को प्रेरित करेगा, जिसे रिट्रीवल ग्राउंडिंग (RAG) द्वारा कम किया जाना चाहिए।
3. पायलट डेटा की ईमानदार रिपोर्टिंग: लेखक जैविक दावे और सटीक गणितीय पत्राचार के बीच अंतर स्पष्ट करता है, और सांख्यिकीय शक्ति (statistical power) तथा नमूना आकार (sample size) के संबंध में उचित सावधानियों के साथ परिणाम प्रस्तुत करता है।

परिणाम

• H1 (RAG तापमान संवेदनशीलता को हटाता है): बेस (अनग्राउंडेड) स्थिति में, सटीकता विभिन्न तापमानों में गैर-एकदिष्ट (non-monotonically) रूप से भिन्न हुई ( $T=0.0$ पर 0.72, $T=0.7$ पर 0.64, $T=1.3$ पर 0.68), हालांकि उनके कॉन्फिडेंस इंटरवल काफी ओवरलैप हुए। इसके विपरीत, RAG (ग्राउंडेड) सटीकता सभी तापमानों पर 1.000 पर पूरी तरह स्थिर थी। यह सैद्धांतिक भविष्यवाणी का समर्थन करता है कि रिट्रीवल (साक्ष्य) उच्च-परिशुद्धता साक्ष्य के रूप में कार्य करता है, जो प्रायर की परिशुद्धता सेटिंग के प्रभाव को ओवरराइड कर देता है।
• H2 (आत्मविश्वासी निर्माण का हस्ताक्षर): बेस स्थिति में, $T=0.0$ पर गलत उत्तरों में हेज शब्दों की संख्या काफी कम थी (औसत = 0.14) तुलनात्मक रूप से $T=0.7/1.3$ पर गलत उत्तरों के (औसत = 0.89)। यह उच्च तापमान पर हेजिंग में छह गुना वृद्धि को दर्शाता है। हालाँकि, $T=0.0$ पर गलत उत्तरों के छोटे नमूना आकार ($n=7$) के कारण, यह अंतर सांख्यिकीय रूप से महत्वपूर्ण नहीं था ($p=0.16$)।
• H3 (विशिष्टता नियंत्रण): जब यही विश्लेषण सही उत्तरों पर लागू किया गया, तो तापमान और हेजिंग के बीच कोई संबंध नहीं पाया गया ($p=0.90$)। यह पृथक्करण (dissociation) बताता है कि प्रभाव मॉडल के आउटपुट के सामान्य शैलीगत बदलाव के बजाय त्रुटियों (भ्रम) के सृजन के प्रति विशिष्ट है।

महत्व और दावे
शोध पत्र यह निष्कर्ष निकालता है कि हालांकि यह पायलट अध्ययन भ्रम (hallucination) के असामान्य-परिशुद्धता खाते की पुष्टि करने के लिए अपर्याप्त शक्ति (underpowered) वाला है, फिर भी देखे गए पैटर्न सिद्धांत के साथ गुणात्मक रूप से सुसंगत हैं।

• सॉफ्टमैक्स तापमान और डोपामिनर्जिक परिशुद्धता के बीच का गणितीय पत्राचार सटीक है।
• सिद्धांत द्वारा अनुमानित गुणात्मक पैटर्न (कम तापमान पर आत्मविश्वासी निर्माण, उच्च तापमान पर ईमानदार अनिश्चितता) विशेष रूप से गलत उत्तरों में दिखाई दिया और सही उत्तरों में अनुपस्थित रहा।
• RAG परिणाम मजबूती से प्रदर्शित करते हैं कि ग्राउंडिंग एक उच्च-परिशुद्धता साक्ष्य शब्द के रूप में कार्य करता है, जो मॉडल की आंतरिक परिशुद्धता सेटिंग्स के बावजूद सटीकता को स्थिर करता है।

लेखक स्पष्ट रूप से कहता है कि वे यह दावा नहीं कर रहे हैं कि LLMs के पास जैविक डोपामाइन है या वे यांत्रिक रूप से बेयसियन अनुमान लागू करते हैं। इसके बजाय, वे प्रस्तावित करते हैं कि साझा गणित भ्रम को समझने के लिए एक सटीक, परीक्षण योग्य ढांचा प्रदान करता है। इस कार्य का प्राथमिक मूल्य विशिष्ट, मिथ्याकरण योग्य (falsifiable) भविष्यवाणियों की पहचान करना और यह उजागर करना है कि "साक्ष्य परिशुद्धता द्वारा प्रायर परिशुद्धता को ओवरराइड करने" और RAG बेंचमार्क के सरल सीलिंग प्रभावों के बीच अंतर करने के लिए बड़े, पर्याप्त शक्ति वाले अध्ययनों की आवश्यकता है।