💬 NLP

Attention-Aligned Reasoning for Large Language Models

यह शोध पत्र ATAR को पेश करता है, जो एक नवीन तर्क पद्धति (reasoning method) है जो LLM के ध्यान (attention) को निर्देशित करती है ताकि महत्वपूर्ण जानकारी को लंबी तर्क श्रृंखलाओं में दबने से रोका जा सके, जिससे कई बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है और गैर-तर्क (non-reasoning) मॉडलों को समान आकार के तर्क मॉडलों से बेहतर प्रदर्शन करने में सक्षम बनाया जाता है।

मूल लेखक: Hongxiang Zhang, Yuan Tian, Tianyi Zhang

प्रकाशित 2026-03-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hongxiang Zhang, Yuan Tian, Tianyi Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही जटिल पहेली को हल करने की कोशिश कर रहे हैं, जैसे कि 1,000 टुकड़ों वाला एक विशाल जिग्सॉ पज़ल, जबकि आप एक ऐसे कमरे में बैठे हैं जो लगातार बड़ा होता जा रहा है।

समस्या: "बीच में खो जाना"
जब लार्ज लैंग्वेज मॉडल्स (LLMs) कठिन समस्याओं को हल करने की कोशिश करते हैं, तो वे आमतौर पर खुद से कदम-दर-कदम बात करते हैं, जिससे एक लंबी "चेन ऑफ थॉट" (सोचने की श्रृंखला) बनती है। इसे एक लंबी कहानी की तरह समझें जो वे लिख रहे हैं।

समस्या यह है कि जैसे-जैसे कहानी लंबी होती जाती है, मॉडल शुरुआत को भूलने लगता है। यह एक 50 पन्नों के रहस्यमयी उपन्यास को पढ़ने जैसा है जहाँ पेज 1 के सुराग पेज 2 से 49 के नीचे दब जाते हैं। जब तक मॉडल अंत तक पहुँचता है, वह मूल प्रश्न को भूल सकता है या किसी ऐसे महत्वपूर्ण विवरण का ट्रैक खो सकता है जिसे उसने स्टेप 3 में समझा था। इसे "अटेंशन ड्रिफ्ट" (ध्यान का भटकना) कहा जाता है। मॉडल अगला शब्द टाइप करने में इतना केंद्रित हो जाता है कि वह पूरी तस्वीर को अनदेखा कर देता है।

समाधान: ATAR (सोचने के लिए "GPS")
इस शोध पत्र के लेखकों ने एक नई विधि बनाई है जिसे ATAR (अटेंशन-अलाइन्ड रीजनिंग) कहा जाता है।

ATAR को मॉडल के मस्तिष्क के लिए एक GPS नेविगेशन सिस्टम की तरह समझें।

ग्लोबल ऑब्जेक्टिव (गंतव्य): यह वह मूल प्रश्न है जो आपने पूछा है (जैसे, "मार्क 12 कारों के लिए कितना भुगतान करता है?")। एक सामान्य बातचीत में, यह आपके GPS पर "गंतव्य" है।
लोकल ऑब्जेक्टिव (अगला मोड़): यह वह विशिष्ट चरण है जिस पर मॉडल अभी काम कर रहा है (जैसे, "टैक्स की गणना करें")। यह आपके GPS पर "अगला मोड़" है।

ATAT कैसे काम करता है:
अधिकांश मॉडल बस आगे बढ़ते रहते हैं, इस उम्मीद में कि वे कोई मोड़ नहीं चूकेंगे। हालाँकि, ATAR एक ही समय में दो चीजों की जाँच करता है:

"मैं कहाँ जा रहा हूँ?" (मूल प्रश्न)।
"मैं अभी कहाँ हूँ?" (वर्तमान चरण)।

यह मॉडल को गंतव्य पर नज़र रखने के साथ-साथ अगले मोड़ को भी देखने के लिए मजबूर करता है। यह योजना (plan) और क्रिया (action) को आपस में मिला (interleave) कर ऐसा करता है। पूरी योजना शुरू में लिखने और फिर उसे भूल जाने के बजाय, ATAT कहता है: "प्लान स्टेप 1: लागत की गणना करें। एक्शन 1: गणित करें। प्लान स्टेप 2: टैक्स की गणना करें। एक्शन 2: गणित करें।"

"डायनामिक" विशेषता: वॉल्यूम नॉब
यहाँ चतुराई भरा हिस्सा है। ATAR केवल मॉडल को लगातार टोकता नहीं है; यह मॉडल के आत्मविश्वास को सुनता है।

कॉन्फिडेंट मोड (आत्मविश्वास मोड): यदि मॉडल अपने उत्तर के प्रति आश्वस्त है (जैसे "2 + 2 = 4"), तो ATAR "टोकने" की आवाज़ को कम कर देता है। यह मॉडल को स्वाभाविक रूप से बहने देता है।
अनसर्टेन मोड (अनिश्चित मोड): यदि मॉडल लड़खड़ाने लगता है या अनिश्चित सुनाई देता है (जैसे "रुको, क्या टैक्स 10% है या 12%?"), तो ATAT वॉल्यूम को बढ़ा देता है। यह मॉडल का ध्यान खींचता है और उसे मूल प्रश्न और वर्तमान योजना की ओर वापस मोड़ देता है ताकि वह रास्ते से न भटके।

यह एक बड़ी बात क्यों है

"सामान्य" मॉडल्स के लिए यह एक सुपरपावर है: आमतौर पर, कठिन समस्याओं को हल करने के लिए आपको एक विशाल, महंगे, विशेष रूप से प्रशिक्षित "रीजनिंग मॉडल" (जैसे एक जीनियस छात्र जिसने वर्षों तक पढ़ाई की हो) की आवश्यकता होती है। ATAT एक मानक, "नॉन-रीजनिंग" मॉडल (जैसे एक स्मार्ट हाई स्कूलर) को उन जीनियस मॉडल्स के समान या उनसे बेहतर प्रदर्शन करने की अनुमति देता है। यह एक साधारण छात्र को एक परफेक्ट स्टडी गाइड और एक फोकस कोच देने जैसा है।
यह समय और पैसा बचाता है: उन "जीनियस" मॉडल्स को प्रशिक्षित करने में लाखों डॉलर लगते हैं और इसमें बहुत समय लगता है। ATAT एक सॉफ्टवेयर ट्रिक है; इसके लिए मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। आप बस मॉडल के सोचने के तरीके को बदलते हैं, न कि उसके निर्माण को।
यह हर जगह काम करता है: पेपर ने गणित, तर्क पहेलियों और सामान्य ज्ञान के प्रश्नों पर इसका परीक्षण किया। यह पिछले सभी सर्वोत्तम तरीकों (जैसे "ट्री ऑफ थॉट्स", जो एक भूलभुलैया के हर रास्ते को एक साथ खोजने जैसा है) से बेहतर रहा।

संक्षेप में
ATAR एक रोबोट के दिमाग के लिए एक स्मार्ट टूर गाइड की तरह है। रोबोट को एक लंबे गलियारे में भटकने और यह भूल जाने देने के बजाय कि वह कहाँ से शुरू हुआ था, गाइड लगातार फुसफुसाता रहता है, "याद रखें, हम किचन (उत्तर) तक जाने की कोशिश कर रहे हैं, और अभी हम सिर्फ फ्रिज खोल रहे हैं (वर्तमान चरण)।" यह रोबोट को ट्रैक पर रखता है, उसे भटकने से रोकता है, और उसे बिना पीएचडी के भी सबसे कठिन पहेलियों को हल करने में मदद करता है।

यहाँ शोध पत्र "Attention-Aligned Reasoning for Large Language Models" (ATAR) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर जटिल, बहु-चरणीय तर्क कार्यों (multi-step reasoning tasks) में संघर्ष करते हैं। हालांकि वे लंबे तर्क श्रृंखलाओं (जैसे, Chain-of-Thought) को उत्पन्न करने की प्रवृत्ति रखते हैं, लेकिन ये विस्तारित संदर्भ (extended contexts) दो महत्वपूर्ण समस्याओं की ओर ले जाते हैं:

संदर्भ विरलीकरण ("Lost in the Middle"): जैसे-जैसे तर्क श्रृंखला बढ़ती है, महत्वपूर्ण मध्यवर्ती चरण और मूल प्रॉम्प्ट संदर्भ में दब जाते हैं, जिससे मॉडल का उन पर अपर्याप्त ध्यान जाता है।
अटेंशन सिंक और ड्रिफ्ट (Attention Sink & Drift): LLMs शुरुआती टोकन (जिसे "attention sink" कहा जाता है) और स्थिर प्रीअम्बल्स (preambles) पर ध्यान केंद्रित करने की ओर पक्षपाती होते हैं। यह मॉडल को बाद में उत्पन्न होने वाले गतिशील, कार्य-विशिष्ट बाधाओं (task-specific constraints) पर पर्याप्त ध्यान केंद्रित करने से रोकता है, जिससे मॉडल मूल इरादे से भटक जाता है या मध्यवर्ती बाधाओं को अनदेखा कर देता है।

मौजूदा अटेंशन स्टीयरिंग विधियाँ (जैसे, SPA, PASTA) इसे कम करने का प्रयास करती हैं, लेकिन वे सीमाओं से ग्रस्त हैं: वे अक्सर महत्वपूर्ण टोकन के स्थिर मानव चयन पर निर्भर करती हैं (जो संदर्भ बदलने पर विफल हो जाता है) या एक निश्चित स्टीयरिंग स्ट्रेंथ लागू करती हैं जो या तो ड्रिफ्ट को रोकने के लिए बहुत कमजोर होती है या सहज तर्क को बाधित करने के लिए बहुत अधिक होती है।

2. कार्यप्रणाली: ATAR (Methodology: ATAR)

लेखक ATAR (ATtention-Aligned Reasoning) का प्रस्ताव करते हैं, जो एक प्रशिक्षण-मुक्त (training-free) विधि है जो तर्क श्रृंखला की अंतर्निहित संरचना का लाभ उठाकर ध्यान (attention) को गतिशील रूप से निर्देशित करती है।

मुख्य तंत्र (Core Mechanism)

ATAR तर्क प्रक्षेपवक्र (reasoning trajectory $\tau$ ) के भीतर योजना चरणों ( $s_t$ ) और क्रिया चरणों ( $a_t$ ) को आपस में जोड़ता है।

वैश्विक उद्देश्य (Global Objective): मूल उपयोगकर्ता प्रश्न ( $Q$ )।
स्थानीय उद्देश्य (Local Objective): वर्तमान योजना चरण ( $s_t$ ), जो तत्काल उप-लक्ष्य (sub-goal) को परिभाषित करता है।

यह विधि पीढ़ी के दौरान इन दोनों उद्देश्यों को संतुलित करने के लिए मॉडल के ध्यान को स्पष्ट रूप से निर्देशित करती है:

क्रिया पीढ़ी (Action Generation): जब क्रिया ( $a_t$ ) उत्पन्न की जा रही हो, तो मॉडल वैश्विक उद्देश्य ( $Q$ ) और स्थानीय उद्देश्य ( $s_t$ ) दोनों पर ध्यान केंद्रित करता है।
$a_t = f(H_0 \oplus \tau_{t-1} \oplus s_t, \{Q, s_t\})$
योजना पीढ़ी (Plan Generation): जब अगला योजना चरण ( $s_t$ ) उत्पन्न किया जा रहा हो, तो मॉडल मूल प्रश्न के प्रति वफादार रहने के लिए मुख्य रूप से वैश्विक उद्देश्य ( $Q$ ) पर ध्यान केंद्रित करता है।
$s_t = f(H_0 \oplus \tau_{t-1}, \{Q\})$

गतिशील अटेंशन स्टीयरिंग (Dynamic Attention Steering)

एक प्रमुख नवाचार प्रत्येक चरण में मॉडल के आत्मविश्वास (confidence) के आधार पर स्टीयरिंग स्ट्रेंथ ( $\omega_j$ ) का गतिशील समायोजन है।

कॉन्फिडेंस मेट्रिक (Confidence Metric): लेखक प्रत्येक चरण के लिए टोकन संभावनाओं ( $P_j$ ) के हरात्मक माध्य (harmonic mean) का उपयोग करते हैं। हरात्मक माध्य को इसलिए चुना गया है क्योंकि यह कम-संभावना वाले टोकन (अनिश्चितता) के प्रति अत्यधिक संवेदनशील है, यह सुनिश्चित करता है कि एक भी अनिश्चित भविष्यवाणी एक मजबूत सुधार को ट्रिगर करे।
$\text{conf}(P_j) = \frac{m}{\sum_{k=1}^m \frac{1}{p_{j,k}}}$
गतिशील शक्ति (Dynamic Strength): स्टीयरिंग स्ट्रेंथ $\omega_j$ $ω_{j}$ , आत्मविश्वास के व्युत्क्रमानुपाती (inversely proportional) है।
$\omega_j = \omega \cdot \frac{\sum_{k=1}^m \frac{1}{p_{j,k}}}{m}$
- उच्च अनिश्चितता: यदि मॉडल अनिश्चित है (कम आत्मविश्वास), तो वैश्विक/स्थानीय उद्देश्यों के साथ ध्यान को पुनर्गठित करने के लिए स्टीयरिंग स्ट्रेंथ बढ़ जाती है।
- उच्च आत्मविश्वास: यदि मॉडल आत्मविश्वासी है, तो स्वाभाविक और सहज पीढ़ी की अनुमति देने के लिए स्टीयरिंग को कम कर दिया जाता है।

इसका कार्यान्वयन लॉग प्रोबेबिलिटी (log probability) को संशोधित करने के लिए एक हल्के बैकएंड के रूप में सिलेक्टिव प्रॉम्प्ट एंकरिंग (SPA) का उपयोग करता है, हालांकि लेखक इसे PASTA जैसे अन्य बैकएंड के साथ संगत दिखाते हैं।

3. प्रमुख योगदान (Key Contributions)

नया तर्क ढांचा (Novel Reasoning Framework): ATAR एक संरचित "प्लान-देन-एक्ट" (Plan-then-Act) इंटरलीविंग तंत्र पेश करता है जो ध्यान को निर्देशित करने के लिए वैश्विक और स्थानीय उद्देश्यों को स्पष्ट रूप से परिभाषित करता है।
गतिशील स्टीयरिंग (Dynamic Steering): स्थिर विधियों के विपरीत, ATAR वास्तविक समय के मॉडल आत्मविश्वास के आधार पर अटेंशन स्टीयरिंग की तीव्रता को अनुकूलित करता है, जिससे ओवर-करेक्शन को रोका जा सके और अनिश्चित चरणों के दौरान ड्रिफ्ट को संबोधित किया जा सके।
प्रशिक्षण-मुक्त दक्षता (Training-Free Efficiency): ATAR के लिए किसी पैरामीटर अपडेट या सुदृढीकरण शिक्षण (Reinforcement Learning - RL) की आवश्यकता नहीं है। यह शुद्ध रूप से इन्फरेंस समय पर प्रॉम्प्ट इंजीनियरिंग और अटेंशन हेरफेर के माध्यम से संचालित होता है।
अंतराल को पाटना (Bridging the Gap): यह मानक "गैर-तर्क" (non-reasoning) मॉडल्स को समान आकार के विशेष "तर्क" मॉडल्स (जैसे, RL-बढ़ाए गए मॉडल) के बराबर या बेहतर प्रदर्शन प्राप्त करने में सक्षम बनाता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने छह बेस LLMs (3B से 30B पैरामीटर्स तक) का उपयोग करके छह बेंचमार्क (GSM8K, AQuA, MATH-500, StrategyQA, T4D, और BIG-Bench Hard) पर ATAR का मूल्यांकन किया।

प्रदर्शन लाभ (Performance Gains): ATAR ने लगातार SOTA बेसलाइन्स (CoT, Plan-and-Solve+, Re-Reading, Tree-of-Thought) को पछाड़ दिया।
- बेसलाइन्स पर 15.39% तक पूर्ण सुधार (absolute improvement) प्राप्त किया।
- गणितीय तर्क (MATH-500 पर 8.4% तक) और सामान्य ज्ञान तर्क (T4D पर 12% तक) में महत्वपूर्ण लाभ दिखाया।
तर्क मॉडल्स के साथ तुलना (Comparison with Reasoning Models): गैर-तर्क मॉडल्स (जैसे, Llama-3.1-8B, Phi-4) पर लागू होने पर, ATAR ने उन्हें अधिकांश बेंचमार्क में उनके RL-उन्नत "तर्क" समकक्षों (जैसे, Phi-4-reasoning, Qwen3-30B-A3B-Thinking) के बराबर या उनसे बेहतर प्रदर्शन करने में सक्षम बनाया।
मजबूती (Robustness):
- लंबाई (Length): ATAR लंबी तर्क श्रृंखलाओं के विस्तार के बावजूद उच्च सटीकता बनाए रखता है, जबकि बेसलाइन्स लंबे संदर्भों के साथ काफी गिर जाते हैं।
- जटिलता (Complexity): यह विधि जटिल कार्यों के लिए लंबी तर्क श्रृंखलाओं के निर्माण को प्रोत्साहित करती है, जो उच्च सफलता दर के साथ सह-संबंधित है।
एब्लेशन अध्ययन (Ablation Studies):
- अटेंशन स्टीयरिंग को हटाने से प्रदर्शन में काफी गिरावट आई, जिससे सिद्ध हुआ कि केवल संरचना ही पर्याप्त नहीं है।
- गतिशील तंत्र को हटाने (स्थिर स्टीयरिंग का उपयोग करना) से भी कम प्रदर्शन हुआ, जिससे पुष्टि हुई कि कॉन्फिडेंस-आधारित अनुकूलन आवश्यक है।
- विधि विभिन्न अटेंशन स्टीयरिंग बैकएंड (SPA और PASTA) में सामान्यीकृत हुई।

5. महत्व और निष्कर्ष (Significance and Conclusion)

ATAR वर्तमान LLM तर्क की एक मौलिक सीमा को संबोधित करता है: लंबी पीढ़ी के दौरान प्रासंगिक संदर्भ पर ध्यान बनाए रखने में असमर्थता। वैश्विक लक्ष्य और स्थानीय उप-लक्ष्यों के बीच ध्यान को गतिशील रूप से संरेखित करके, ATAR महंगे सुदृढीकरण शिक्षण (RL) प्रशिक्षण पाइपलाइनों के लिए एक कम्प्यूटेशनल रूप से कुशल विकल्प प्रदान करता है।

मुख्य बातें:

दक्षता: यह फाइन-ट्यूनिंग या विशाल RL डेटासेट की लागत के बिना उच्च तर्क प्रदर्शन प्राप्त करता है।
स्केलेबिलिटी: यह विभिन्न मॉडल आकारों (3B से 30B) और आर्किटेक्चर पर प्रभावी ढंग से काम करता है।
विश्वसनीयता: यह "अटेंशन ड्रिफ्ट" को कम करता है, जिससे LLMs बिना किसी आर्किटेक्चरल बदलाव के जटिल, बहु-चरणीय कार्यों के लिए अधिक विश्वसनीय बनते हैं।

शोध पत्र निष्कर्ष निकालता है कि गतिशील अटेंशन अलाइनमेंट के लिए तर्क श्रृंखलाओं की अंतर्निहित संरचना का लाभ उठाना अधिक विश्वसनीय और सक्षम LLMs बनाने की दिशा में एक महत्वपूर्ण कदम है।