💬 NLP

Self-Guided Test-Time Training for Long-Context LLMs

यह शोध पत्र सेल्फ-गाइडेड टेस्ट-टाइम ट्रेनिंग (S-TTT) का प्रस्ताव करता है, जो एक ऐसी विधि है जो मॉडल द्वारा स्वयं पहचाने गए साक्ष्य स्पैन (evidence spans) पर केवल मॉडल मापदंडों को चुनिчески अनुकूलित करके लॉन्ग-कॉन्टेक्स्ट LLM के प्रदर्शन में सुधार करती है, जिससे अप्रासंगिक संदर्भ पर प्रशिक्षण से जुड़े शोर और लागत से बचा जा सकता है।

मूल लेखक: Xinyu Zhu, Zhe Xu, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Kaushik Rangadurai, Hua Zhi, Frank Shyu, Sandeep Pandey, Luke Simon, Yu Meng, Xi Liu

प्रकाशित 2026-07-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinyu Zhu, Zhe Xu, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Kaushik Rangadurai, Hua Zhi, Frank Shyu, Sandeep Pandey, Luke Simon, Yu Meng, Xi Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपको अभी-अभी 128,000 किताबों वाला एक पुस्तकालय सौंपा गया है, और कोई आपसे एक विशिष्ट प्रश्न पूछता है: "चालीसवीं शेल्फ पर रखी किताब के तीसरे अध्याय में बिल्ली का नाम क्या था?"

यदि आप उस एक वाक्य को खोजने के लिए हर किताब को शुरू से अंत तक पढ़ने की कोशिश करेंगे, तो आप थक जाएंगे, और शायद अंत तक पहुँचते-पहुँचते आप उत्तर भी भूल जाएंगे। यह बिल्कुल वही समस्या है जिसका सामना लार्ज लैंग्वेज मॉडल्स (LLMs) को "लॉन्ग-कॉन्टेक्स्ट" (long-context) कार्यों के साथ करना पड़ता है। भले ही आधुनिक AI बहुत बड़ी मात्रा में टेक्स्ट को "पढ़" सकता है, लेकिन केवल उसे अधिक टेक्स्ट देने का मतलब यह नहीं है कि वह स्मार्ट हो जाएगा। वास्तव में, जैसे-जैसे टेक्स्ट लंबा होता जाता है, AI अक्सर "बेवकूफ" होता जाता है, और ढेर सारे अप्रासंगिक शोर के बीच उस एक छोटे से सबूत को खोजने में संघर्ष करता है जिसकी उसे आवश्यकता होती है।

कुछ समय के लिए, शोधकर्ताओं ने सोचा कि इसका समाधान टेस्ट-टाइम ट्रेनिंग (TTT) है। इसे ऐसे समझें जैसे AI को सवाल का जवाब देने से ठीक पहले एक त्वरित "क्रैश कोर्स" देना। केवल लाइब्रेरी को पढ़ने के बजाय, AI कुछ पन्नों का अध्ययन करता है, अपने मस्तिष्क को अपडेट करता है, और फिर उत्तर देता है।

लेकिन यहाँ एक पेच है: AI को क्या पढ़ना चाहिए?

शोध यह खुलासा करते हैं कि यह बहुत मायने रखता है।

"रैंडम" (Random) दृष्टिकोण: यदि आप AI को लाइब्रेरी के 8 रैंडम पन्ने पढ़ने के लिए कहते हैं, तो यह अक्सर स्थिति को और बिगाड़ देता है। यह ऐसा ही है जैसे किसी को "ब्रेड कैसे बनाएं" के बारे में एक पन्ना पढ़ने के लिए कहना जब सवाल "अंतरिक्ष यात्रा" के बारेारे में हो। AI शोर से भ्रमित हो जाता है। LongBench-v2 नामक बेंचमार्क पर किए गए प्रयोगों में, इस रैंडम दृष्टिकोण ने छोटे टेक्स्ट के लिए AI की सटीकता को 46.7% से घटाकर 43.6% कर दिया, और लंबे टेक्स्ट के साथ इसने बहुत कम मदद की।
"ओरेकल" (Oracle) दृष्टिकोण: यदि कोई सुपर-स्मार्ट इंसान (या एक परफेक्ट AI) उस सटीक पन्नों की ओर इशारा कर सके जिन्हें AI को अध्ययन करना चाहिए, तो परिणाम अद्भुत होते हैं। सटीकता बढ़कर 45.9% हो गई। लेकिन, ज़ाहिर है, आप वास्तविक दुनिया में हर सवाल के लिए एक सुपर-स्मार्ट इंसान को सही पन्ने दिखाने के लिए नहीं रख सकते। यह बहुत महंगा और धीमा है।

इसलिए, शोधकर्ताओं ने पूछा: क्या AI खुद के लिए सही पन्ने चुन सकता है?

यहाँ आता है सेल्फ-गाइडेड टीटीटी (S-TTT)।

S-TTT को एक चतुर लाइब्रेरियन के रूप में समझें जो अध्ययन शुरू करने से पहले सवाल को जानता है। यह दो सरल चरणों में कैसे काम करता है:

द स्काउट (The Scout): कुछ भी सीखने की कोशिश करने से पहले, AI प्रश्न और पूरी लाइब्रेरी को पढ़ता है, और फिर कहता है, "हे, मुझे लगता है कि टेक्स्ट के ये विशिष्ट 8 हिस्से वे हैं जो मुझे उत्तर देने में मदद करेंगे।" वह उन्हें मार्क कर देता है।
द स्टडी सेशन (The Study Session): इसके बाद AI केवल उन मार्क किए गए हिस्सों पर एक त्वरित "क्रैश कोर्स" (ट्रेनिंग) लेता है। वह उस विशिष्ट साक्ष्य पर ध्यान केंद्रित करने के लिए अपने मस्तिष्क को अपडेट करता है।
द आंसर (The Answer): अंत में, AI पूरी लाइब्रेरी का उपयोग करके प्रश्न का उत्तर देता है, लेकिन अब उसका मस्तिष्क सही हिस्सों पर केंद्रित होता है।

क्या यह वास्तव में काम करता है?
शोध पत्र दिखाते हैं कि हाँ, यह काम करता है। दो कठिन टेस्ट्स (LongBench-v2 और LongBench-Pro) पर, यह विधि लगातार "रैंडम स्टडी" दृष्टिकोण से बेहतर रही।

LongBench-v2 टेस्ट पर Qwen3-4B मॉडल के लिए (64k टोकन से कम के टेक्स्ट के साथ), S-TTT ने सटीकता को 47.7% तक पहुँचा दिया, जो रैंडम मेथड (43.6%) से बेहतर था और बिना किसी अतिरिक्त पढ़ाई के बेस मॉडल (46.7%) से भी बेहतर था।
Llama-3.1-8B मॉडल के लिए, इसने उसी श्रेणी में सटीकता को 36.9% से बढ़ाकर 38.4% कर दिया।
सुधार सबसे लंबे टेक्स्ट (64k–128k टोकन) में और भी अधिक स्पष्ट था, जहाँ "शोर" सबसे भारी होता है। यहाँ, Qwen के लिए S-TTT ने 35.3% प्राप्त किया, जबकि रैंडम स्टडी केवल 34.2% तक ही पहुँच पाई।

लेखकों ने यह भी जांचा कि क्या यह केवल एक इत्तेफाक था या यह बहुत धीमा था। उन्होंने पाया कि हालांकि S-TTT शुरू में थोड़ा अतिरिक्त समय लेता है (क्योंकि AI को पहले "स्काउट" करना पड़ता है), लेकिन जब टेक्स्ट वास्तव में लंबा (64k टोकन से अधिक) हो जाता है, तो यह पूरी लाइब्रेरी का अध्ययन करने की तुलना में तेज़ हो जाता है। यह सुई खोजने के लिए मैराथन दौड़ने और सुई जहाँ है, बस वहाँ तक पैदल चलने के बीच के अंतर जैसा है।

यह पेपर क्या कहता है कि यह क्या नहीं है?
यह पेपर इस बारे में बहुत स्पष्ट है कि क्या काम नहीं करता है। यह स्पष्ट रूप से इस विचार को खारिज करता है कि "कोई भी पढ़ाई अच्छी पढ़ाई है।" उन्होंने दिखाया कि रैंडम पन्ने पढ़ना अक्सर हानिकारक होता है। उन्होंने यह भी परीक्षण किया कि क्या AI अध्ययन के लिए "सबसे कठिन" या "सबसे भ्रमित करने वाले" पन्ने चुन सकता है (परप्लेक्सिटी जैसे गणितीय स्कोर का उपयोग करके), लेकिन यह वास्तविक रूप से प्रश्न पढ़ने और प्रासंगिक पन्ने चुनने जितना प्रभावी नहीं था। "सबसे कठिन" पन्ने अक्सर अजीब फॉर्मेटिंग या दुर्लभ शब्द थे, न कि वास्तविक उत्तर।

वे कितने आश्वस्त हैं?
लेखक इन परिणामों को लेकर आश्वस्त हैं क्योंकि उन्होंने वास्तविक मॉडल्स का उपयोग करके वास्तविक बेंचमार्क पर इन्हें सीधे मापा है। उन्होंने केवल सिमुलेशन नहीं किया; उन्होंने टेस्ट चलाए। हालाँकि, वे इसे एक "जादुई समाधान" के बजाय एक "उम्मीद जगाने वाली विधि" और "सरल समाधान" के रूप में पेश करते हैं। वे सुझाव देते हैं कि लंबे कार्यों में AI को बेहतर बनाने की कुंजी केवल AI को बड़ा बनाना नहीं है, बल्कि उसे जवाब देने से ठीक पहले यह सिखाना है कि उसे किस चीज़ पर ध्यान देना है।

संक्षेप में: यदि आप चाहते हैं कि एक AI एक विशाल लाइब्रेरी में रहस्य सुलझाए, तो उसे हर किताब को बेतरतीब ढंग से पढ़ने के लिए न कहें। पहले उसे यह समझने दें कि कौन सी किताबें मायने रखती हैं, फिर उन्हें पढ़ने दें, और फिर मामला सुलझाने दें। यही Self-Guided TTT की शक्ति है।

तकनीकी सारांश: लॉन्ग-कॉन्टेक्स्ट LLMs के लिए सेल्फ-गाइडेड टेस्ट-टाइम ट्रेनिंग (S-TTT)

समस्या विवरण (Problem Statement)

जबकि आधुनिक लार्ज लैंग्वेज मॉडल्स (LLMs) सैकड़ों हज़ार टोकन तक की कॉन्टेक्स्ट विंडो का समर्थन करते हैं, केवल विंडो का आकार बढ़ाने से प्रभावी उपयोग की गारंटी नहीं मिलती है। जैसे-जैसे कॉन्टेक्स्ट की लंबाई बढ़ती है, मॉडल की सटीकता अक्सर कम हो जाती है क्योंकि मॉडल विशाल मात्रा में अप्रासंगिक जानकारी के बीच एक विशिष्ट प्रश्न के लिए सबसे प्रासंगिक साक्ष्य (evidence) को पहचानने और बनाए रखने में संघर्ष करते हैं।

टेस्ट-टाइम ट्रेनिंग (TTT) एक संभावित समाधान के रूप में उभरा है, जो टेस्ट इनपुट को एक प्रशिक्षण उदाहरण के रूप में मानकर इंस्टेंस-विशिष्ट प्रदर्शन के लिए मॉडल वेट्स (weights) को अनुकूलित करता है। हालाँकि, लॉन्ग कॉन्टेक्स्ट पर TTT लागू करना एक महत्वपूर्ण बाधा का सामना करता है: प्रशिक्षण डेटा की गुणवत्ता।

फुल-कॉन्टेक्स्ट अडैप्टेशन (Full-context adaptation) कम्प्यूटेशनल रूप से अत्यधिक खर्चीला है और अडैप्टेशन प्रक्रिया को डिस्ट्रैक्टर्स (distractors) से अभिभूत कर देता है।
रैंडम स्पैन सैंपलिंग (Random span sampling) कम्प्यूटेशनल लागत को तो कम करती है लेकिन अक्सर प्रासंगिक साक्ष्य को पकड़ने में विफल रहती है, जिससे मॉडल शोर (noise) के अनुकूल हो सकता है और बेस मॉडल की तुलना में प्रदर्शन में गिरावट आ सकती है।

LongBench-v2 पर प्रारंभिक विश्लेषण ने दिखाया कि रैंडमली सैंपल किए गए स्पैन पर TTT प्रदर्शन को नुकसान पहुँचा सकता है (सटीकता को 40.4% से घटाकर 38.9% करना), जबकि "ओरेकल" स्पैन (एक बाहरी मॉडल द्वारा ग्राउंड-ट्रुथ नॉलेज के साथ एनोटेट किए गए) पर TTT पर्याप्त लाभ प्रदान करता है (45.9%)। यह इंगित करता है कि लॉन्ग कॉन्टेक्स्ट में TTT की सफलता के लिए सिग्नल-टू-नॉइज़ रेशियो (signal-to-noise ratio) ही मुख्य निर्धारक है।

कार्यप्रणाली: सेल्फ-गाइडेड TTT (S-TTT)

बाहरी ओरेकल पर निर्भर किए बिना प्रशिक्षण डेटा की गुणवत्ता की बाधा को दूर करने के लिए, लेखक सेल्फ-गाइडेड TTT (S-TTT) का प्रस्ताव करते हैं। यह फ्रेमवर्क अडैप्टेशन से पहले उच्च-गुणवत्ता वाले ट्रेनिंग स्पैन की पहचान करने के लिए स्वयं LLM का उपयोग करता है। यह प्रक्रिया दो चरणों में विभाजित है:

चरण 1: मॉडल-गाइडेड स्पैन सिलेक्शन (Model-Guided Span Selection)
बेस मॉडल पूरे कॉन्टेक्स्ट और विशिष्ट प्रश्न को पढ़ता है। इसे कॉन्टेक्स्ट से ऐसे वर्बेटिम (verbatim), निरंतर स्पैन (contiguous spans) की पहचान करने और उन्हें वापस करने के लिए प्रॉम्प्ट किया जाता है जो उत्तर का समर्थन करने के लिए सबसे अधिक संभावित हैं। यह चयन इंस्टेंस-विशिष्ट ट्रेनिंग डेटा बनाने के लिए मॉडल के अपने प्रासंगिकता निर्णय (relevance judgment) पर निर्भर करता है। यदि मॉडल वैध स्पैन की पहचान करने में विफल रहता है, तो सिस्टम रैंडम सैंपलिंग पर वापस चला जाता है।
चरण 2: चयनित स्पैन पर टेस्ट-टाइम ट्रेनिंग (Test-Time Training on Selected Spans)
बेस मॉडल ( $\theta$ ) से एक फ्रेश कॉपी के पैरामीटर्स ( $\theta'$ ) को इनिशियलाइज़ किया जाता है। मॉडल केवल चरण 1 में पहचाने गए चयनित स्पैन पर नेक्स्ट-टोकन प्रेडिक्शन ट्रेनिंग से गुजरता है। ट्रेनिंग ऑब्जेक्टिव इन स्पैन के भीतर के टोकन के नेगेटिव लॉग-लाइक्लिहुड (negative log-likelihood) को कम करता है:
$\mathcal{L}_{TTT}(\theta') = -\sum_{i=s_j}^{e_j} \log p_{\theta'}(x_i | x_{<i})$
मॉडल निश्चित संख्या में अडैप्टेशन स्टेप्स (जैसे, LoRA का उपयोग करके 16 स्टेप्स) के लिए चयनित स्पैन के माध्यम से चक्रित (cycle) होता है।

अनुमान (Inference): अडैप्टेशन के बाद, अपडेटेड मॉडल मूल पूर्ण कॉन्टेक्स्ट और प्रश्न के आधार पर अंतिम उत्तर जेनरेट करता है। चयनित स्पैन यह निर्धारित करते हैं कि अडैप्टेशन के दौरान मॉडल क्या सीखता है, लेकिन वे जनरेशन के दौरान इनपुट को प्रतिस्थापित नहीं करते हैं, जिससे यह सुनिश्चित होता है कि कोई उपयोगी जानकारी छोड़ी न जाए।

प्रमुख योगदान (Key Contributions)

एक महत्वपूर्ण बाधा की पहचान: लेखकों ने अनुभवजन्य रूप से प्रदर्शित किया है कि लॉन्ग-कॉन्टेक्स्ट TTT के लिए, प्रशिक्षण टोकन की गुणवत्ता स्वयं अडैप्टेशन मैकेनिज्म से अधिक महत्वपूर्ण है। शोर वाले, अप्रासंगिक कॉन्टेक्स्ट पर अडैप्ट करना प्रदर्शन को कम कर सकता है, जबकि उच्च-गुणवत्ता वाले साक्ष्य स्पैन महत्वपूर्ण लाभ प्रदान करते हैं।
S-TTT का प्रस्ताव: एक सरल, प्रभावी फ्रेमवर्क जहाँ LLM स्वयं अपने टेस्ट-टाइम डेटा सेलेक्टर के रूप में कार्य करता है। यह फुल-कॉन्टेक्स्ट ट्रेनिंग की उच्च कम्प्यूटेशनल लागत और रैंडम सैंपलिंग के गंभीर शोर से बचता है।
व्यापक मूल्यांकन: Qwen3-4B-Thinking और Llama-3.1-8B-Instruct मॉडल्स का उपयोग करके दो चुनौतीपूर्ण बेंचमार्क्स (LongBench-v2 और LongBench-Pro) पर विस्तृत प्रयोग।

प्रयोगात्मक परिणाम (Experimental Results)

पेपर का मूल्यांकन कई बेसलाइन्स के विरुद्ध किया गया है, जिसमें बेस मॉडल, LongLLMLingua (प्रॉम्प्ट कम्प्रेशन), qTTT (फ्रोज़न KV के साथ रैंडम स्पैन TTT), QRHead Span TTT, रैंडम स्पैन TTT, और फुल कॉन्टेक्स्ट TTT शामिल हैं।

प्रदर्शन लाभ: S-TTT दोनों बेंचमार्क्स और कॉन्टेक्स्ट लेंथ (64k–128k) में बेस मॉडल की तुलना में लगातार सटीकता में सुधार करता है।
- LongBench-v2 (Qwen3-4B) पर, S-TTT ने <64k बकेट में 47.7% सटीकता (बनाम 46.7% बेस) और 64k–128k बकेट में 35.3% (बनाम 30.7% बेस) प्राप्त की।
- LongBench-Pro पर, S-TTT ने 64k–128k बकेट में 42.0% तक पहुँच प्राप्त की, जो सभी अन्य TTT बेसलाइन्स से बेहतर है।
बेसलाइन्स के साथ तुलना:
- रैंडम स्पैन TTT अक्सर बेस मॉडल से कम प्रदर्शन करता है या असंगत लाभ दिखाता है।
- फुल कॉन्टेक्ट TTT हर सेटिंग में S-TTT से नीचे रहा।
- QRHead Span TTT छोटे कॉन्टेक्स्ट में प्रतिस्पर्धी था लेकिन लंबे कॉन्टेक्स्ट में पीछे रह गया, जो बताता है कि जैसे-जैसे कॉन्टेक्स्ट बढ़ता है, अटेंशन-आधारित स्कोर कम स्थिर होते जाते हैं।
दक्षता (Efficiency): हालांकि S-TTT एनोटेशन स्टेप के कारण छोटे कॉन्टेक्स्ट के लिए डायरेक्ट इन्फरेंस की तुलना में अधिक लेटेंसी लेता है, लेकिन यह लंबे कॉन्टेक्स्ट लेंथ (64k+) पर फुल कॉन्टेक्स्ट TTT और रैंडम स्पैन TTT की तुलना में अधिक कुशल हो जाता है। ऐसा इसलिए है क्योंकि मॉडल-एनोटेटेड स्पैन रैंडम सैंपलिंग (~0.50C) की तुलना में अधिक लोकलाइज्ड (औसत प्रभावी ट्रेनिंग विंडो ~0.37C–0.39C) होते हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि लॉन्ग-कॉन्टेक्स्ट TTT की प्रभावशीलता टेस्ट-टाइम ट्रेनिंग टोकन की गुणवत्ता पर महत्वपूर्ण रूप से निर्भर करती है। कैसे अडैप्ट करना है के बजाय किस पर अडैप्ट करना है पर ध्यान केंद्रित करके, S-TTT एक सरल लेकिन मजबूत समाधान प्रदान करता है।

लेखक इस बात पर जोर देते हैं कि S-TTT:

मॉडल आर्किटेक्चर या अंतिम डिकोडिंग प्रक्रिया में बदलाव की आवश्यकता नहीं करता है।
जटिल हस्तक्षेपों से बचता है जो अक्सर आधुनिक इन्फरेंस इंजनों में अव्यवहारिक होते हैं।
यह प्रदर्शित करता है कि मॉडल-एनोटेटेड स्पैन, इंट्रिन्सिक मेट्रिक्स (जैसे पर्प्लेक्सिटी या एंट्रॉपी) या रैंडम सैंपलिंग की तुलना में अधिक विश्वसनीय अडैप्टेशन सिग्नल प्रदान करते हैं, विशेष रूप से लंबे, शोर वाले कॉन्टेक्स्ट में।

यह कार्य निष्कर्ष निकालता है कि ट्रेनिंग-टोकन सिलेक्शन, TTT के साथ लॉन्ग-कॉन्टेक्स्ट कार्यों को हल करने के लिए एक आशाजनक दिशा है, जो बड़े पैमाने पर कम्प्यूटेशनल व्यवहार्यता बनाए रखते हुए मौजूदा तरीकों की तुलना में निरंतर सुधार प्रदान करता है।