HyperLens: Quantifying Cognitive Effort in LLMs with Fine-grained Confidence Trajectory

तकनीकी सारांश: HyperLens

समस्या विवरण

यद्यपि लार्ज लैंग्वेज मॉडल्स (LLMs) मजबूत प्रदर्शन प्रदर्शित करते हैं, उनकी आंतरिक अनुमान संबंधी गतिशीलता (inference dynamics) मौजूदा विश्लेषण उपकरणों के सीमित रिज़ॉल्यूशन के कारण अभी भी कम समझ में आती है। वर्तमान प्रोबिंग विधियाँ, जैसे कि Logit Lens और Tuned Lens, अक्सर सरल कार्यों (जैसे, ज्ञान पुनर्प्राप्ति) के लिए आवश्यक संज्ञानात्मक प्रक्रियाओं और जटिल कार्यों (जैसे, कठिन गणित या कोडिंग) के बीच अंतर करने में विफल रहती हैं। ये विधियाँ आमतौर पर स्थिर प्रोजेक्शन या बाहरी सीखे हुए एडेप्टर (learned adapters) पर निर्भर करती हैं, जिन्हें लेखक "मायोपिक" (निकटदृष्टि दोष वाले) या "पक्षपाती" पर्यवेक्षक बताते हैं। फलस्वरूप, वे कार्य की कठिनाई के बावजूद अविभेद्य आत्मविश्वास प्रक्षेपवक्र (confidence trajectories) उत्पन्न करती हैं, जो इस अंतर्ज्ञान को प्रमाणित करने में विफल रहती हैं कि जटिल कार्यों के लिए समाधान पर अभिसरण (convergence) करने से पहले एक लंबे, कम-आत्मविश्वास वाले "संघर्ष" चरण (struggle phase) की आवश्यकता होती है।

कार्यप्रणाली: HyperLens

लेखक HyperLens का प्रस्ताव करते हैं, जो एक उच्च-रिज़ॉल्यूशन प्रोब है जिसे LLMs के सूक्ष्म आत्मविश्वास प्रक्षेपवक्रों को ट्रैक करने और अनुमान के दौरान उनके संज्ञानात्मक प्रयास (cognitive effort) को मापने के लिए डिज़ाइन किया गया है। यह कार्यप्रणाली तीन मुख्य घटकों पर आधारित है:

1. अंतर्निहित स्व-आवर्धन तंत्र (Intrinsic Self-Magnification Mechanism)

पेपर ट्रांसफॉर्मर आर्किटेक्चर के एक अंतर्निहित गुण की पहचान करता है: गहरे स्तर (deeper layers) स्वाभाविक रूप से स्तर-वार आत्मविश्वास में होने वाले छोटे परिवर्तनों को आवर्धित (magnify) करते हैं। पिछली विधियों के विपरीत, जो अंतिम अनएम्बेडिंग लेयर (focal depth $m=0$) का उपयोग करके हिडन स्टेट्स को सीधे डिकोड करती हैं, HyperLens हिडन स्टेट को वोकैबुलरी स्पेस में प्रोजेक्ट करने से पहले भविष्य की परतों ($m$ परतें) के एक अनुक्रम के माध्यम से प्रसारित करता है।

• फोकल डेप्थ ($m$): प्रोजेक्शन के लिए उपयोग की जाने वाली भविष्य की परतों की संख्या।
• सैद्धांतिक आधार: लेखक सिद्ध करते हैं कि $m$ को बढ़ाने से रिफाइनमेंट लेयर्स (ट्रांसफॉर्मर के बाद के चरण जहाँ लेटेंट स्टेट्स को आउटपुट के रूप में डिकोड किया जाता है) में देखा गया आत्मविश्वास सख्ती से आवर्धित होता है। यह आवर्धन कार्य की अंतर्निहित कठिनाई द्वारा सीमित होता है, जिससे आसान और कठिन कार्य अपने प्रक्षेपवक्रों में स्पष्ट रूप से अलग हो पाते हैं।

2. उच्च-रिज़ॉल्यूशन प्रोबिंग

HyperLens एक डिकोडिंग फंक्शन $D_m$ का उपयोग करता है जो मॉडल की अंतिम $m$ परतों को अनएम्बेडिंग प्रोजेक्शन के साथ संयोजित करता है। एक "उचित" फोकल डेप्थ चुनकर (जो न तो शोर के लिए बहुत छोटा हो और न ही सभी संकेतों को निश्चितता के लिए संतृप्त करने के लिए बहुत बड़ा हो), प्रोब विशिष्ट आत्मविश्वास प्रक्षेपवक्र प्रकट करता है:

• आसान कार्य: तीव्र आत्मविश्वास अभिसरण (convergence) प्रदर्शित करते हैं।
• कठिन कार्य: एक लंबे समय तक निम्न-आत्मविश्वास की स्थिति बनाए रखते हैं, जो एक "संघर्ष" चरण को दर्शाता है।

3. मात्रात्मक मीट्रिक: रिफाइनमेंट एरिया ($\Omega$)

संज्ञानात्मक प्रयास को मापने के लिए, लेखक रिफाइनमेंट एरिया ($\Omega$) को रिफाइनमेंट लेयर्स के भीतर आवर्धित आत्मविश्वास प्रक्षेपवक्र के ऊपर के क्षेत्र के रूप में परिभाषित करते हैं:
$$\Omega = \sum_{k \ge i_0} (1 - C^{(m)}_k)$$
जहाँ $i_0$ रिफाइनमेंट लेयर्स की स्वचालित रूप से निर्धारित शुरुआत है, और $C^{(m)}_k$ फोकल डेप्थ $m$ के साथ लेयर $k$ पर आत्मविश्वास है। एक उच्च $\Omega$ संचयी अनिश्चितता और, इस प्रकार, आउटपुट उत्पन्न करने के लिए आवश्यक उच्च संज्ञानात्मक प्रयास को दर्शाता है।

मुख्य योगदान

1. HyperLens प्रोब: एक अभिनव, उच्च-रिज़ॉल्यूशन प्रोबिंग विधि जो ट्रांसफॉर्मर के स्व-आवर्धन तंत्र का लाभ उठाकर मॉडल के संज्ञानात्मक प्रयास को विज़ुअलाइज़ और मात्रात्मक रूप से मापती है, और आसानी से और कठिन कार्यों के आत्मविश्वास प्रक्षेपवक्रों को सफलतापूर्वक अलग करती है।
2. सैद्धांतिक लक्षण वर्णन (Theoretical Characterization): ट्रांसफॉर्मर के अंतर्निहित स्व-आवर्धन तंत्र का एक औपचारिक प्रमाण, जो यह प्रदर्शित करता है कि फोकल डेप्थ बढ़ाने से आत्मविश्वास सख्ती से आवर्धित होता है, जिससे अनुमान संबंधी गतिशीलता का एक उच्च-रिज़ॉल्यूशन दृश्य सुनिश्चित होता है।
3. SFT का यांत्रिक निदान (Mechanistic Diagnosis): इन-डोमेन कार्यों पर "ब्लाइंड कॉन्फिडेंस" (अंध विश्वास) घटना को प्रकट करने के लिए HyperLens का अनुप्रयोग। लेखक दिखाते हैं कि सरल SFT, मॉडल को आवश्यक निम्न-आत्मविश्वास वाले संघर्ष चरण को छोड़ने के कारण, इन-डोमेन कार्यों पर संज्ञानात्मक प्रयास को कम करके प्रदर्शन में गिरावट का कारण बनता है।

प्रयोगात्मक परिणाम

लेखकों ने गणित, कोडिंग, लॉजिक और सामान्य QA को कवर करने वाले 8 डेटासेट्स और 8 LLMs (Llama3, Deepseek और विभिन्न Qwen साइज सहित) पर HyperLens का मूल्यांकन किया।

• आवर्धन का सत्यापन: प्रयोगों ने पुष्टि की कि फोकल डेप्थ ($m$) बढ़ाने से आत्मविश्वास प्रक्षेपवक्रम सख्ती से आवर्धित होता है। पर्याप्त $m$ (जैसे, $m=5$) के साथ, आसान और कठिन कार्यों के प्रक्षेपवक्र स्पष्ट रूप से अलग हो गए, जबकि $m=0$ (Logit Lens) पर वे अविभेद्य थे।
• संज्ञानात्मक प्रयास सहसंबंध: रिफाइनमेंट एरिया ($\Omega$) ने लगातार कार्य की कठिनाई के साथ सहसंबंध दिखाया। कठिन कार्यों (जैसे, AIME, APPS) ने आसान कार्यों (जैसे, MATH Level 1-2, CoNaLa) की तुलना में काफी उच्च $\Omega$ मान प्रदर्शित किए।
• सिमेंटिक इवोल्यूशन: HyperLens ने मध्यवर्ती परतों में बोधगम्य, उच्च-स्तरीय सिमेंटिक टोकन (जैसे, "मुझे यकीन नहीं है," "मैं जानना चाहता हूँ") को सफलतापूर्वक डिकोड किया, जो एक "सोचने के चरण" को प्रकट करता है जिसे मानक Logit Lens बाहरी एडेप्टर के बिना पकड़ने में विफल रहा।
• SFT के दुष्प्रभाव:
  • प्रदर्शन में गिरावट: सरल SFT ने दोनों Llama3-8B और Qwen2.5-7B के लिए इन-डोमेन कार्यों पर महत्वपूर्ण सटीकता गिरावट की।
  • ब्लाइंड कॉन्फिडेंस: HyperLens ने विज़ुअलाइज़ किया कि SFT मॉडल लेयर अनुक्रम में बहुत पहले ही उच्च आत्मविश्वास तक पहुँच जाते हैं, जिससे संघर्ष चरण बाईपास हो जाता है।
  • मात्रात्मक बदलाव: अधिकांश मॉडलों के लिए, SFT ने रिफाइनमेंट एरिया ($\Omega$) को कम कर दिया, जो कम संज्ञानात्मक प्रयास को दर्शाता है। विशेष रूप से, उन मामलों में जहाँ $\Omega$ बढ़ता हुआ प्रतीत हुआ (जैसे, Math/Code पर Qwen2.5-7B), विस्तृत विश्लेषण ने दिखाया कि मॉडल व्याख्यात्मक "फिलर" टोकन को छोड़ते हुए उच्च-घनत्व वाले कोर टोकन (सूत्र/कोड) आउटपुट कर रहा था, जिससे प्रति-टोकन मेट्रिक्स के बावजूद प्रभावी रूप से कुल प्रयास ($\hat{\Omega}$) कम हो गया।

महत्व और दावे

यह पेपर दावा करता है कि मॉडल के आंतरिक रहस्यों को देखने के लिए सबसे प्रभावी प्रोब स्वयं मॉडल ही है। ट्रांसफॉर्मर के अपने भविष्य के परतों को एक प्राकृतिक, ज़ीरो-शॉट एडेप्टर के रूप में उपयोग करके, HyperLens उन संकेतों को हल करता है जो उच्च-आयामी लेटेंट स्पेस में अन्यथा खो जाते हैं।

लेखक पारदर्शिता और व्याख्यात्मकता (interpretability) को बढ़ाने के लिए इस कार्य को अधिक विश्वसनीय और मजबूत AI सिस्टमों की दिशा में एक कदम के रूप में देखते हैं। विशेष रूप से, वे तर्क देते हैं कि "संज्ञानात्मक प्रयास" के प्रक्षेपवक्र को समझना यह समझने के लिए एक यांत्रिक स्पष्टीकरण प्रदान करता है कि मानक SFT प्रदर्शन को क्यों कम कर सकता है: यह मॉडल्स को तर्क प्रक्रिया को शॉर्टकट करने के लिए प्रशिक्षित करता है, जिसके परिणामस्वरूप वास्तविक समस्या-समाधान के बजाय "ब्लाइंड कॉन्फिडेंस" प्राप्त होता है। पेपर निष्कर्ष निकालता है कि भविष्य के स्व-व्याख्या अनुसंधान के लिए ट्रांसफॉर्मर आर्किटेक्चर के भीतर ऐसे अंतर्निहित गुणों को उजागर करना एक व्यवहार्य मार्ग है।