🤖 machine learning

Thermodynamic Signatures of Reasoning: Free-Energy and Spectral-Form-Factor Diagnostics for Hallucination Detection in Large Language Models

यह शोध पत्र फ्री-एनर्जी सिग्नेचर (Fes) को प्रस्तुत करता है, जो एक नवीन स्पेक्ट्रल डिस्क्रिप्टर है जो अटेंशन-व्युत्पन्न ग्राफ लैपलेसियन्स को हैमिल्टोनियन्स के रूप में मानता है ताकि थर्मोडायनामिक और रैंडम-मैट्रिक्स-थ्योरी मेट्रिक्स निकाले जा सकें, जिससे एक ट्रेनिंग-मुक्त हैलुसिनेशन डिटेक्टर सक्षम होता है जो मौजूदा स्पेक्ट्रल बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करता है और यह भी प्रकट करता है कि हैलुसिनेशन, सही तर्क के विग्नर-डायसन पैटर्न से भिन्न, पॉइसन-जैसे स्पेक्ट्रल सांख्यिकी प्रदर्शित करते हैं।

मूल लेखक: Salim Khazem

प्रकाशित 2026-06-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Salim Khazem

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन कभी-कभी ज़रूरत से ज़्यादा आत्मविश्वासी रोबोट है जो कहानियाँ लिखता है, सवालों के जवाब देता है और गणित की समस्याएँ हल करता है। कभी-कभी, यह रोबोट मनगढ़ंत बातें बनाता है (हैलुसिनेशन/भ्रम पैदा करना) भले ही वह पूरी तरह से आश्वस्त होकर बोल रहा हो।

"थर्मोडायनामिक सिग्नेचर ऑफ रीजनिंग" (Thermodynamic Signatures of Reasoning) नामक शोध पत्र इस बात का एक नया तरीका प्रस्तावित करता है कि रोबोट के झूठ बोलने को कैसे पकड़ा जाए। रोबोट को खुद का स्पष्टीकरण देने के लिए कहने या डेटाबेस के साथ उसके तथ्यों की जाँच करने के बजाय, लेखक इस बात पर ध्यान देते हैं कि रोबंतु सोचने के दौरान कौन सा "आंतरिक संगीत" (internal music) बजा रहा है।

यहाँ उनके तरीके का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. रोबोट की "मस्तिष्क तरंगें" (अटेंशन मैप)

जब रोबोट एक वाक्य पढ़ता है, तो वह तय करता है कि किन शब्दों पर ध्यान देना महत्वपूर्ण है। वह शब्दों के बीच संबंधों का एक विशाल जाल बनाता है।

शोध पत्र का दृष्टिकोण: लेखक इस जाल को एक गणितीय आकार में बदलते हैं जिसे लैपलेसियन (Laplacian) कहा जाता है। इसे एक स्थलाकृतिक मानचित्र (topographic map) की तरह समझें, जहाँ शिखर (peaks) और घाटियाँ (valleys) यह दर्शाती हैं कि रोबोट विभिन्न विचारों को कितनी मजबूती से जोड़ता है।

2. पुराना तरीका बनाम नया तरीका

पुराना तरीका (पिछले तरीके): पिछले शोधकर्ता इस पर्वत मानचित्र को देखते थे और केवल ऊपरी 3 उच्चतम शिखरों को चुन लेते थे या एक एकल "औसत ऊँचाई" की गणना करते थे। वे बाकी के मानचित्र को फेंक देते थे।
- उपमा: यह एक पूरी सिम्फनी (symphony) को केवल सबसे तेज़ ड्रम बीट सुनकर समझाने की कोशिश करने जैसा है। आप धुन, सामंजस्य और लय को खो देते हैं।
नया तरीका (FES - फ्री-एनर्जी सिग्नेचर): लेखक पूरे पर्वत के आकार को देखते हैं। वे मानचित्र को एक भौतिक वस्तु की तरह मानते हैं और पूछते हैं: "यदि यह एक वास्तविक पर्वत होता, तो तापमान बढ़ाने या घटाने पर यह कैसा व्यवहार करता?"

3. "थर्मोडायनामिक" परीक्षण (मस्तिष्क को गर्म और ठंडा करना)

लेखक रोबोट के सोचने के पैटर्न का विश्लेषण करने के लिए भौतिकी (ऊष्मागतिकी/thermodynamics) की अवधारणाओं का उपयोग करते हैं। वे कल्पना करते हैं कि रोबोट के अटेंशन मैप पर अलग-अलग "तापमान" लागू किए जा रहे हैं:

फ्री एनर्जी और हीट कैपेसिटी: वे जाँचते हैं कि तापमान बदलने पर रोबोट के संबंध कैसे "पिघलते" या "जमते" हैं।
- खोज: जब रोबोट सच बोल रहा होता है, तो उसके आंतरिक संबंध एक अराजक, अच्छी तरह से मिश्रित प्रणाली (जैसे उबलते पानी का बर्तन जहाँ बुलबुले बेतरतीब ढंग से परस्पर क्रिया करते हैं) की तरह व्यवहार करते हैं।
- झूठ: जब रोबोट भ्रम (hallucinating) पैदा कर रहा होता है, तो उसके संबंध एक कठोर, टूटी हुई प्रणाली (जैसे दरारों वाला बर्फ, या एक ऐसी प्रणाली जहाँ हिस्से एक-दूसरे से बात नहीं करते) की तरह व्यवहार करते हैं।

4. "स्पेक्ट्रल फॉर्म फैक्टर" (गूँज परीक्षण)

यह सबसे तकनीकी हिस्सा है, लेकिन यहाँ इसका सरल संस्करण है:

लेखक रोबोट के पर्वत मानचित्र में शिखरों के बीच के "अंतराल" (spacing) को देखते हैं।
सत्यपूर्ण तर्क (Truthful Reasoning): शिखर एक विशिष्ट, अराजक पैटर्न (जिसे विग्नर-डायसन (Wigner-Dyson) सांख्यिकी कहा जाता है) में फैले होते हैं। यह एक कमरे में स्वतंत्र रूप से घूमती भीड़ की तरह है; वे स्वाभाविक रूप से एक-दूसरे से टकराने से बचते हैं, जिससे एक विशिष्ट लय बनती है।
भ्रम (Hallucination): शिखर यादृच्छिक (random) या उबाऊ, अनुमानित तरीके से (जिसे पॉइसन (Poisson) सांख्यिकी कहा जाता है) फैले होते हैं। यह कठोर, अलग-थलग लाइनों में खड़े लोगों की भीड़ की तरह है; वे आपस में क्रिया नहीं करते हैं।

5. परिणाम: झूठ पकड़ना

लेखकों ने एक सरल "झूठ पकड़ने वाला यंत्र" (प्रोब) बनाया है जो बस इन भौतिक पैटर्न को देखता है।

यह कैसे काम करता है: उन्होंने रोबोट को दोबारा प्रशिक्षित नहीं किया। उन्होंने बस सवालों के जवाब देते समय रोबोट की मौजूदा "मस्तिष्क तरंगों" को देखा।
स्कोर: उन्होंने पाया कि यह नया तरीका "शीर्ष शिखरों" को देखने वाले पिछले सर्वोत्तम तरीके की तुलना में झूठ पकड़ने में बहुत बेहतर है।
- इसने पिछले सर्वोत्तम तरीके की तुलना में पहचान सटीकता में 6.5 अंक का सुधार किया।
- यह 6 अलग-अलग प्रकार के रोबोट्स (LLMs) और 6 अलग-अलग प्रकार के कार्यों (विवरण से लेकर गणित तक) में काम कर सका।

6. "अनसुपरवाइज्ड" (Unsupervised) ट्रिक

सबसे अच्छी बात? वे बिना किसी उदाहरण के झूठ का पता लगा सकते हैं।

वे बस यह जाँचते हैं: "क्या रोबोट की सोच अराजक, स्वस्थ 'विग्नर-डायसन' लय की तरह सुनाई देती है?"
यदि लय बहुत शांत या बहुत कठोर (पॉइसन जैसी) है, तो वे इसे संभावित भ्रम (hallucination) के रूप में चिह्नित करते हैं।
नोट: यह "बिना प्रशिक्षण वाला" संस्करण अच्छा है, लेकिन उस संस्करण की तुलना में थोड़ा कम सटीक है जिसे थोड़े से प्रशिक्षण डेटा की आवश्यकता होती है।

सारांश

शोध पत्र का दावा है कि सत्यपूर्ण तर्क अराजक, स्वस्थ भौतिकी की तरह सुनाई देता है, जबकि भ्रम (hallucinations) टूटी हुई, कठोर भौतिकी की तरह सुनाई देते हैं। रोबोट के आंतरिक संबंधों के "तापमान" और "लय" को मापकर, हम उसे बिना प्रशिक्षित किए या उसे फिर से सिखाए झूठ बोलते हुए पकड़ सकते हैं।

शोध पत्र यह दावा नहीं करता है:

यह दावा नहीं करता कि यह हर एक प्रकार के AI मॉडल पर काम करता है (केवल उन्हीं पर जहाँ आप आंतरिक "अटेंशन" डेटा देख सकते हैं)।
यह दावा नहीं करता कि यह रोबोट को ठीक करता है; यह केवल झूठ को पकड़ने का दावा करता है।
यह दावा नहीं करता कि यह पूर्ण है; यह अभी भी कुछ गलतियाँ करता है, विशेष रूप से बहुत छोटे उत्तरों या बहुत लंबे, जटिल गणितीय प्रश्नों पर।

तकनीकी सारांश: तर्क करने के ऊष्मागतिक हस्ताक्षर (Thermodynamic Signatures of Reasoning)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) में मतिभ्रम (Hallucination) तैनाती के लिए एक महत्वपूर्ण बाधा बना हुआ है। जबकि हाल के कार्यों ने यह पहचाना है कि अटेंशन-व्युत्पन्न ग्राफ लैपलेसियन (graph Laplacians) का स्पेक्ट्रम तर्क की गुणवत्ता के संबंध में संकेत रखता है, मौजूदा स्पेक्ट्रल डायग्नोस्टिक्स सीमित हैं। पूर्ववर्ती विधियाँ आमतौर पर उच्च-रिज़ॉल्यूशन वाले लैपलेसियन स्पेक्ट्रम को केवल कुछ शीर्ष- $K$ आइगेनवैल्यूज़ या हाथ से चुने गए स्केलर (जैसे, फिएडलर वैल्यू, स्पेक्ट्रल एंट्रॉपी) का उपयोग करके संक्षिप्त करती हैं। लेखक तर्क देते हैं कि यह दृष्टिकोण महत्वपूर्ण संरचनात्मक जानकारी को त्याग देता है, जिससे "सिग्नल टेबल पर ही रह जाता है।" लक्ष्य एक ऐसी पहचान तंत्र विकसित करना है जो प्रशिक्षण-मुक्त (या न्यूनतम अंशांकन/कैलिब्रेशन की आवश्यकता वाली) हो, एक एकल अनुमान पास (inference pass) पर कार्य करे, और अंतर्निहित LLM को पुन: प्रशिक्षित किए बिना अटेंशन मैप्स के स्पेक्ट्रल स्ट्रक्चर का पूर्ण उपयोग करे।

कार्यप्रणाली: फ्री-एनर्जी सिग्नेचर (FES)

यह शोध पत्र फ्री-एनर्जी सिग्नेचर (FES) प्रस्तावित करता है, जो एक स्पेक्ट्रल डिस्क्रिप्टर है जो प्रत्येक परत के अटेंशन लैपलेसियन को एक काल्पनिक क्वांटम सिस्टम के लिए हैमिल्टोनियन (Hamiltonian) के रूप में मानता है। यह विधि स्पेक्ट्रम से थर्मोडायनामिक पोटेंशियल और रैंडम मैट्रिक्स थ्योरी (RMT) सांख्यिकी निकालती है।

1. अटेंशन लैपलेसियन का निर्माण

$L$ परतों और $H$ अटेंशन हेड्स वाले एक फ्रोजन (frozen) LLM के लिए, परत $\ell$ पर पोस्ट-सॉफ्टमैक्स अटेंशन मैट्रिक्स $A^{(\ell,h)}$ को सममित (symmetrized) किया जाता है और हेड्स पर मीन-पूल किया जाता है ताकि $\tilde{A}^{(\ell)}$ प्राप्त हो सके। कॉम्बिनेटोरियल ग्राफ लैपलेसियन का निर्माण इस प्रकार किया जाता है:
$L^{(\ell)} = D^{(\ell)} - \tilde{A}^{(\ell)}$
जहाँ $D^{(\ell)}$ डिग्री मैट्रिक्स है। $L^{(\ell)}$ के आइगेनवैल्यूज़ $\{\lambda_k\}$ अनुभवजन्य स्पेक्ट्रल मेज़र (empirical spectral measure) बनाते हैं।

2. थर्मोडायनामिक फंक्शनल्स

स्पेक्ट्रम का विश्लेषण एक इनवर्स टेम्परेचर पैरामीटर $\beta$ का उपयोग करके साम्यावस्था ऊष्मागतिकी (equilibrium thermodynamics) के लेंस से किया जाता है। प्रत्येक परत के लिए निम्नलिखित पोटेंशियल की गणना की जाती है:

पार्टीशन फंक्शन ( $Z$ ): $Z(\beta) = \text{Tr}(e^{-\beta L}) = \sum e^{-\beta \lambda_k}$ ।
फ्री एनर्जी ( $F$ ): $F(\beta) = -\frac{1}{\beta} \log Z(\beta)$ ।
स्पेक्ट्रल एंट्रॉपी ( $S$ ): बोल्ट्ज़मैन वितरण $p_k = e^{-\beta \lambda_k}/Z(\beta)$ के माध्यम से गणना की जाती है।
हीट कैपेसिटी ( $C$ ): $C(\beta) = \beta^2 \text{Var}_p[\lambda]$ ।

इन फंक्शनल्स का मूल्यांकन $m$ इनवर्स टेम्परेचर के एक लॉगरिदमिक ग्रिड पर किया जाता है, जो स्पेक्ट्रम का एक मल्टीस्केल दृश्य प्रदान करता है (उच्च $\beta$ पर छोटे आइगेनवैल्यूज़ पर ध्यान केंद्रित करता है और निम्न $\beta$ पर बल्क का औसत लेता है)।

3. स्पेक्ट्रल फॉर्म फैक्टर (SFF) और RMT

लेवल-स्पेसिंग सहसंबंधों (level-spacing correlations) को पकड़ने के लिए, विधि स्पेक्ट्रल फॉर्म फैक्टर (SFF) की गणना करती है:
$g(t) = \frac{1}{n^2} \left| \sum_k e^{-it \hat{\lambda}_k} \right|^2$
जहाँ $\hat{\lambda}_k$ अनफोल्डेड आइगेनवैल्यूज़ (यूनिट मीन लोकल डेंसिटी में मैप किए गए) हैं। SFF का विश्लेषण रैंडम मैट्रिक्स थ्योरी भविष्यवाणियों के विरुद्ध किया जाता है:

विग्नर-डायसन (GOE): विशिष्ट "डिप-रैम्प-प्लेटो" संरचना, जो अराजक (chaotic), अच्छी तरह से मिश्रित प्रणालियों का संकेत देती है।
पॉइसन (Poisson): सुचारू मोनोटोनिक क्षय, जो इंटीग्रेबल या लोकलाइज्ड प्रणालियों का संकेत देता है।

4. FES डिस्क्रिप्टर और डिटेक्टर्स

प्रत्येक परत का डिस्क्रिप्टर $\Phi^{(\ell)}$ $\beta$ और $t$ के ग्रिड पर थर्मोडायनामिक फंक्शनल्स और SFF को संयोजित (concatenate) करता है। सभी परतों को संयोजित करने से अंतिम फीचर वेक्टर $\Phi(x)$ प्राप्त होता है।
दो डिटेक्शन रणनीतियाँ स्थापित की गई हैं:

सुपरवाइज्ड प्रोब: एक छोटा लेबल किया गया कैलिब्रेशन सेट पर प्रशिक्षित हल्का लॉजिस्टिक रिग्रेशन।
अनसुपरवाइज्ड RMT-डेविएशन स्कोर: एक लेबल-मुक्त स्कोर $D(x)$ जो अनुभवजन्य SFF और आकार-मैच किए गए GOE संदर्भ वक्र के बीच $L_2$ दूरी को मापता है।

मुख्य योगदान

1. सैद्धांतिक परिणाम

शोध पत्र तीन औपचारिक प्रमाण प्रदान करता है:

लिप्सचिट्ज स्थिरता (Lipschitz Stability): सिद्ध किया गया है कि FES अटेंशन लैपलेसियन के ऑपरेटर-नॉर्म परटर्बेशन के तहत लिप्सचिट्ज स्थिर है, जो संख्यात्मक शोर और छोटे अटेंशन परटर्बेशन के प्रति मजबूती सुनिश्चित करता है।
अभिव्यक्ति क्षमता (Expressiveness): पार्टीशन फंक्शन, स्पेक्ट्रल मेज़र का लैपलेस ट्रांसफॉर्म है। लेखक सिद्ध करते हैं कि एक आदर्श सटीक-ट्रांसफॉर्म सीमा में, पार्टीशन फंक्शन स्पेक्ट्रम की पहचान करता है (सभी मोमेंट्स को पुनः प्राप्त करता है)। व्यवहार में, परिमित-ग्रिड FES कॉम्पैक्ट सारांशों (जैसे शीर्ष- $K$ आइगेनवैल्यूज़) पर एक मल्टीस्केल संवर्धन प्रदान करता है, जो ग्रिड घनत्व द्वारा नियंत्रित सटीकता के साथ मोमेंट-व्युत्पन्न फंक्शनल्स का अनुमान लगाता है।
फाइनाइट-सैंपल PAC बाउंड: अनसुपरवाइज्ड RMT-डेविएशन डिटेक्टर के AUROC के लिए एक बाउंड व्युत्पन्न किया गया है, जो दिखाता है कि वैध और मतिभ्रम (hallucinated) तर्क के बीच स्पेक्ट्रल फॉर्म फैक्टर्स में एक मापने योग्य अंतर एक गैर-रिक्त प्रदर्शन गारंटी के लिए पर्याप्त है।

2. अनुभवजन्य निष्कर्ष (Empirical Findings)

तर्क के स्पेक्ट्रल हस्ताक्षर: शोध पत्र पहला प्रमाण प्रस्तुत करता है कि LLM अटेंशन स्पेक्ट्रा वैध तर्क के दौरान विग्नर-डायसन सांख्यिकी (GOE-जैसी) और मतिभ्रम के दौरान पॉइसन-जैसी सांख्यिकी प्रदर्शित करते हैं। इसे माध्य लेवल-स्पेसिंग अनुपात $\langle r \rangle$ के माध्यम से मापा जाता है, जो वैध जनरेशन के लिए लगभग 0.536 और मतिभ्रम के लिए 0.386 के करीब है।
प्रदर्शन: छह ओपन-वेट LLMs (7B–14B) और छह बेंचमार्क (TruthfulQA, HaluEval, GSM8K, और MATH-500 सहित) पर, FES अटेंशन-स्पेक्ट्रल बेसलाइन्स में उच्चतम समग्र AUROC प्राप्त करता है।
- यह LAPEIG (शीर्ष- $K$ आइगेनवैल्यूज़) की तुलना में +6.5 AUROC पॉइंट्स बेहतर है।
- यह GOR-4 (हाथ से चुने गए स्पेक्ट्रल स्केलर) की तुलना में +2.4 AUROC पॉइंट्स बेहतर है।
लेबल दक्षता: सुपरवाइज्ड प्रोब प्रति कार्य केवल कुछ सौ लेबल किए गए उदाहरणों के साथ लगभग-एसिम्प्टोटिक प्रदर्शन तक पहुँच जाता है।
क्रॉस-आर्किटेक्चर ट्रांसफर: Llama-3-8B पर प्रशिक्षित प्रोब अन्य आर्किटेक्चर (Mistral, Qwen, Gemma, Phi-3) में प्रभावी रूप से स्थानांतरित होता है, जिसका औसत AUROC > 0.82 है।

महत्व और दावे

शोध पत्र का दावा है कि FES एक प्रशिक्षण-मुक्त, सिंगल-सैंपल डायग्नोस्टिक प्रदान करता है जो कच्चे आइगेनवैल्यूज़ या कॉम्पैक्ट स्पेक्ट्रल सारांशों से परे तथ्यात्मक संकेतों को कैप्चर करता है। अटेंशन मैप्स को थर्मोडायनामिक्स और RMT के माध्यम से पुनर्गठित करके, यह विधि:

मल्टीस्केल जानकारी बनाए रखती है: उन विधियों के विपरीत जो स्पेक्ट्रम को काट देती हैं, FES कई पैमानों पर पूरे स्पेक्ट्रम के आकार को कैप्चर करता है।
सैद्धांतिक आधार प्रदान करता है: यह मतिभ्रम का पता लगाने को रैंडम मैट्रिक्स के मूलभूत गुणों (लेवल रिपल्शन बनाम इंटीग्रेबिलिटी) से जोड़ता है, जो "स्वस्थ" बनाम "टूटे हुए" तर्क की एक भौतिक व्याख्या प्रदान करता है।
परिचालन दक्षता: इसके लिए अंतर्निहित LLM में किसी अपडेट की आवश्यकता नहीं होती है और यह नगण्य कम्प्यूटेशनल ओवरहेड (512 टोकन के अनुक्रमों के लिए A6000 पर लगभग 0.4s प्रति सैंपल) जोड़ता है।

लेखक सीमाओं का भी उल्लेख करते हैं, जिसमें सघन आइगेन-डीकंपोजिशन (eigendecomposition) की $O(n^3)$ लागत (बहुत लंबे संदर्भों के लिए सन्निकटन/approximations की आवश्यकता) और अटेंशन वेट्स तक व्हाइट-बॉक्स एक्सेस की आवश्यकता शामिल है। वे यह भी स्वीकार करते हैं कि अनसुपरवाइज्ड डेविएशन स्कोर का चिह्न कार्य के आधार पर बदल सकता है (जैसे गणितीय तर्क बनाम ओपन-एंडेड QA), जिसके लिए अनसुपरवाइज्ड मोड के लिए प्रति-कार्य अंशांकन की आवश्यकता होती है। हालांकि, सुपरवाइज्ड प्रोब इन विविधताओं के बावजूद मजबूत रहता है।