💬 NLP

Adaptive Multi-Step Lookahead Decoding for Diffusion Language Models

यह शोध पत्र AdaLook का प्रस्ताव करता है, जो मास्कड डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक एडेप्टिव मल्टी-स्टेप लुकअहेड फ्रेमवर्क है, जो मौजूदा वन-स्टेप लुकअहेड विधियों की तुलना में बेहतर सटीकता-दक्षता संतुलन प्राप्त करने के लिए कैंडिडेट-स्कोर वेरिएंस के आधार पर रोलआउट डेप्थ को गतिशील रूप से समायोजित करता है और शाखाओं का विस्तार करता है।

मूल लेखक: Yingqian Cui, Wei Deng, Lantao Mei, Hang Li, Charu C. Aggarwal, Hui Liu, Yue Xing

प्रकाशित 2026-07-20

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yingqian Cui, Wei Deng, Lantao Mei, Hang Li, Charu C. Aggarwal, Hui Liu, Yue Xing

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल जिग्सॉ पहेली (jigsaw puzzle) को हल करने की कोशिश कर रहे हैं, लेकिन ऊपर बाईं ओर के कोने से एक-एक करके टुकड़े रखने के बजाय, आपके पास मददगारों की एक जादुई टीम है जो पूरी तस्वीर को एक साथ देख सकती है। यह डिफ्यूजन लैंग्वेज मॉडल्स (Diffusion Language Models) की दुनिया है, जो कंप्यूटर के लिखने का एक नया तरीका है। पुराने मॉडल्स के विपरीत, जो डोमिनोज़ की एक सख्त रेखा की तरह शब्द-दर-शब्द लिखते हैं, ये मॉडल्स "रहस्यमयी बक्सों" (मास्क्ड टोकन) से भरे एक खाली पन्ने से शुरुआत करते हैं और धीरे-धीरे उन बक्सों के अंदर के शब्दों को एक साथ प्रकट करते हैं। यह अपने मन में पूरे वाक्य को एक साथ बनते हुए देखने वाली एक सुपरपावर की तरह है।

हालाँकि, इसमें एक पेच है। क्योंकि कंप्यूटर एक ही समय में सब कुछ देख रहा है, इसलिए वह कभी-कभी भ्रमित हो जाता है कि अगला शब्द कब प्रकट करना है। यदि वह बहुत जल्दी गलत शब्द चुन लेता है, तो पूरा वाक्य निरर्थक होकर बिखर सकता है। इसे ठीक करने के लिए, बुद्धिमान शोधकर्ताओं ने लुकअहेड (Lookahead) नामक एक तरकीब ईजाद की। इसे शतरंज के खिलाड़ी की तरह समझें जो केवल एक मोहरा नहीं चलता; बल्कि वह रुकता है और कल्पना करता है, "अगर मैं यहाँ चलता हूँ, तो आगे क्या होगा?" यह उन्हें सबसे अच्छा कदम चुनने में मदद करता है। लेकिन समस्या यह है कि वर्तमान के अधिकांश तरीके केवल एक कदम आगे देखते हैं। यह शतरंज में अगले कदम को देखने जैसा है, लेकिन बाकी खेल को पूरी तरह अनदेखा कर देना। कभी-कभी, वह एक कदम बहुत अच्छा दिखता है, लेकिन तीन चालों बाद वह एक जाल में बदल जाता है।

यहीं पर एक नया अध्ययन आता है, जो एक स्मार्ट तरीका खेलने का प्रस्ताव देता है। यिंगकियान कुई (Yingqian Cui) और वेई डेंग (Wei Deng) के नेतृत्व में शोधकर्ताओं ने देखा कि केवल अधिक आगे देखना (जैसे एक के बजाय दस चालें देखना) हमेशा काम नहीं करता है। क्यों? क्योंकि कभी-कभी आपको बहुत आगे देखना पड़ता है, और कभी-कभी आपको इसकी आवश्यकता नहीं होती। यह कार चलाने जैसा है: एक सीधी हाईवे पर, आपको दस मील आगे देखने की ज़रूरत नहीं है, लेकिन एक धुंधले, घुमावदार पहाड़ी रास्ते में, आपको निश्चित रूप से इसकी आवश्यकता होती है। यदि आप हमेशा दस मील आगे देखते हैं, तो आप समय और ईंधन बर्बाद करते हैं; यदि आप केवल एक कदम देखते हैं, तो आप दुर्घटनाग्रस्त हो सकते हैं। पेपर सुझाव देता है कि एक ऐसा सिस्टम जो अनुकूल रूप से (adaptively) यह तय कर सके कि कितनी दूर तक देखना है, जिससे ऊर्जा भी बचे और गलतियाँ भी न हों।

"एक-कदम" वाली सोच के साथ समस्या

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस हैं। आपके पास संदिग्धों (संभावित शब्दों) की एक सूची है और आपको तय करना है कि अगला शब्द प्रकट करने के लिए किसे चुनना है। पुराना तरीका, जिसे लुकअहेड (Lookahead) कहा जाता है, एक एकल गवाह से पूछने जैसा है, "यदि मैं इस संदिग्ध को गिरफ्तार करता हूँ, तो क्या अगली एक घंटे में मामला बेहतर दिखेगा?" यदि उत्तर 'हाँ' है, तो आप गिरफ्तारी कर लेते हैं। यह सरल मामलों में अच्छा काम करता है। लेकिन जटिल रहस्यों के लिए, गवाह कह सकता है, "हाँ, अभी उसे गिरफ्तार करना अच्छा लग रहा है," बिना यह समझे कि दो घंटे में, आपको एहसास होगा कि आपने गलत व्यक्ति को गिरफ्तार कर लिया है और असली अपराधी भाग गया है।

शोधकर्ताओं ने पाया कि केवल इस "एक-घंटे" वाली जाँच पर टिके रहने से कंप्यूटर अक्सर बंद रास्तों (dead ends) में फंस जाता है। यह एक ऐसा शब्द चुन लेता है जो तुरंत सुरक्षित लगता है लेकिन बाद में वाक्य को बिगाड़ देता है। दूसरी ओर, यदि आप हमेशा बहुत आगे देखने की कोशिश करते हैं—जैसे एक भी शब्द लिखने से पहले पूरी कहानी का सिम्युलेशन करना—तो आप सुस्त पड़ जाते हैं। कंप्यूटर "क्या होगा अगर" के बारे में सोचने में इतना समय बिता देता है कि वह लिखना ही बंद कर देता है। यह उस ड्राइवर की तरह है जो हर चौराहे पर रुककर अगले 50 मील के लिए हर संभावित मार्ग की कल्पना करता है; वे कभी भी अपने गंतव्य तक नहीं पहुँच पाते।

समाधान: "स्मार्ट स्काउट" (AdaLook)

यह पेपर AdaLook (Adaptive Lookahead) नामक एक नया फ्रेमवर्क पेश करता है। एक जिद्दी जासूस होने के बजाय जो हमेशा एक घंटा आगे देखता है, या एक डरे हुए व्यक्ति के बजाय जो 50 साल आगे देखता है, AdaLook एक स्मार्ट स्काउट (Smart Scout) है।

यहाँ बताया गया है कि हाइकर (पहाड़ी यात्री) के रूप में स्काउट धुंध भरे पहाड़ में रास्ता कैसे बनाता है:

धुंध की जाँच करना (वेरिएंस/Variance): धुंध में अगला कदम उठाने से पहले, स्काउट संभावित रास्तों के समूह की जाँच करता है। क्या सभी रास्ते काफी समान दिख रहे हैं? यदि सभी इस बात पर सहमत हैं कि रास्ता साफ है, तो हाइकर बस चलता रहता है। लेकिन यदि रास्ते भ्रमित करने वाले हैं—कुछ सुरक्षित दिख रहे हैं, कुछ खतरनाक—तो स्काउट समझ जाता है, "हमें और गहराई से देखना होगा!" यह एडेप्टिव रोलआउट (Adaptive Rollout) है। कंप्यूटर केवल तभी अतिरिक्त ऊर्जा खर्च करता है जब वर्तमान विकल्प वास्तव में भ्रमित करने वाले हों।
टीम का विभाजन (ब्रांच एक्सपेंशन/Branch Expansion): कभी-कभी, धुंध इतनी घनी होती है कि थोड़ा और आगे देखना भी पर्याप्त नहीं होता। स्काउट कह सकता है, "ठीक है, चलिए एक छोटी टीम को पथ A पर और दूसरी टीम को पथ B पर भेजते हैं।" यह डायनेमिक ब्रांच एक्सपेंशन (Dynamic Branch Expansion) है। यदि पथ A अचानक साफ हो जाता है और सुरक्षित दिखता है, तो स्काउट उस पर समय बर्बाद करना बंद कर देता है और अपनी टीम का ध्यान पथ B पर केंद्रित करता है, जो अभी भी धुंधला है। यदि दोनों पथ अभी भी धुंधले हैं, तो स्काउट सबसे आशाजनक पथ को और अधिक विस्तार से खोजने के लिए चुनता है, लेकिन अन्य को बैकअप के रूप में रखता है।
"रुकने" का संकेत: सबसे अच्छी बात यह है कि स्काउट जानता है कि कब रुकना है। यदि रास्ते साफ हो जाते हैं और हाइकर आश्वस्त होता है, तो स्काउट कहता है, "बहुत अच्छा, और आगे देखने की आवश्यकता नहीं है!" यह कंप्यूटर को अनावश्यक गणित करने से रोकता है। यह उस छात्र के बीच का अंतर है जो केवल तभी पढ़ाई करता है जब वह भ्रमित होता है, बनाम वह छात्र जो सामग्री समझ में आए या न आए, हर दिन पूरी पाठ्यपुस्तक पढ़ता है।

उन्होंने क्या पाया

शोधकर्ताओं ने इस "स्मार्ट स्काउट" का परीक्षण कुछ बहुत कठिन पहेलियों पर किया, जिसमें गणित की समस्याएं (जैसे MATH500 डेटासेट) और सामान्य ज्ञान के प्रश्न (जैसे MMLU) शामिल थे। उन्होंने इसकी तुलना पुराने "एक-कदम" वाले तरीकों और कुछ अन्य तेज़ तरीकों से की।

परिणाम बताते हैं कि AdaLook गति और सटीकता की दौड़ में स्पष्ट विजेता है।

बेहतर संतुलन: सबसे कठिन पहेलियों पर, नए तरीके ने पुराने तरीकों की तुलना में कम "कदमों" (कंप्यूटेशनल चेक्स) का उपयोग करते हुए अधिक सही उत्तर प्राप्त किए। उदाहरण के लिए, MATH500 टेस्ट पर, AdaLook के अनुकूलित संस्करण ने लगभग 43.6% सटीकता प्राप्त की, जबकि पुराने सर्वश्रेष्ठ तरीके (ETE) ने केवल 42.6% तक ही पहुँच पाई।
स्मार्ट दक्षता: पेपर दिखाता है कि सुधार केवल "स्मार्ट" होने के बारे में नहीं है; यह कुशल (efficient) होने के बारे में है। पुराने तरीके या तो बहुत आगे देखकर समय बर्बाद करते थे या बहुत कम देखकर गलतियाँ करते थे। AdaLook ने सही संतुलन खोज लिया।
यह हर चीज़ के लिए जादू नहीं है: दिलचस्प बात यह है कि पेपर नोट करता है कि यह अतिरिक्त "सोच" सबसे कठिन कार्यों (जैसे जटिल गणित या तर्क) पर सबसे अधिक मदद करती है। आसान कार्यों पर, अंतर कम होता है क्योंकि रास्ता पहले से ही साफ होता है, और आपको यह जानने के लिए बहुत गहराई से देखने की आवश्यकता नहीं होती कि कहाँ जाना है।

निष्कर्ष

यह पेपर यह दावा नहीं करता है कि इसने AI लेखन के रहस्य को हमेशा के लिए सुलझा लिया है। इसके बजाय, यह एक चतुर नया उपकरण प्रदान करता है: AI के लिए यह तय करने का एक तरीका कि कार्य करने से पहले कितना सोचना है। कंप्यूटर को आसान समस्याओं पर बहुत अधिक सोचने और कठिन समस्याओं पर कम सोचने से रोककर, AdaLook इन मॉडल्स को बेहतर टेक्स्ट तेज़ी से लिखने में मदद करता है। यह हमें याद दिलाता है कि AI की दुनिया में, कभी-कभी सबसे स्मार्ट चाल सबसे दूर तक देखना नहीं, बल्कि बस इतना देखना है कि कब गहराई से देखना है।

तकनीकी सारांश: डिफ्यूजन लैंग्वेज मॉडल्स के लिए एडेप्टिव मल्टी-स्टेप लुकअहेड डिकोडिंग

समस्या विवरण

मास्क्ड डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) मास्क किए गए टोकन के पुनरावृत्त परिशोधन (iterative refinement) के माध्यम से समानांतर टेक्स्ट जनरेशन को सक्षम करके ऑटोरिग्रेसिव (AR) मॉडल्स का एक आशाजनक विकल्प प्रदान करते हैं। हालाँकि, DLMs के लिए इन्फरेंस प्रक्रिया में कोई निर्धारित डिकोडिंग क्रम नहीं होता है, जिससे डिकोडिंग रणनीतियों के लिए एक बड़ा डिज़ाइन स्पेस बन जाता है। जबकि हाल के तरीकों ने सटीकता-दक्षता ट्रेड-ऑफ (accuracy-efficiency trade-off) को बेहतर बनाने के लिए लुकअहेड तंत्र पेश किए हैं, वे मुख्य रूप से उथले एक-चरणीय लुकअहेड (shallow one-step lookahead) पर निर्भर करते हैं।

लेखक मौजूदा दृष्टिकोणों की दो महत्वपूर्ण सीमाओं की पहचान करते हैं:

उप-इष्टतम दीर्घ-क्षितिज योजना (Suboptimal Long-Horizon Planning): एक-चरणीय लुकअहेड तत्काल सूचना लाभ (immediate information gain) के लिए अनुकूलित होता है। हालाँकि, एक टोकन जो तत्काल आत्मविश्वास को अधिकतम करता है, वह सर्वोत्तम भविष्य के प्रक्षेपवक्र (future trajectory) की ओर नहीं ले जा सकता है, जिससे डिकोडर स्थानीय रूपally अनुकूल लेकिन वैश्विक रूप से उप-इष्टतम प्रतिबद्धताओं में फंस सकता है।
नाइव डीप रोलआउट की अप्रभाविता (Ineffectiveness of Naive Deep Rollout): केवल लुकअहेड गहराई को बढ़ाने (नाइव मल्टी-स्टेप रोलआउट) से आनुपातिक प्रदर्शन लाभ के बिना महत्वपूर्ण कम्प्यूटेशनल ओवरहेड उत्पन्न होता है। ऐसा इसलिए है क्योंकि:
- विषमता (Heterogeneity): इष्टतम रोलआउट गहराई विभिन्न उदाहरणों और डिकोडिंग चरणों में काफी भिन्न होती है। एक निश्चित-गहराई वाला रोलआउट उन उदाहरणों पर गणना बर्बाद करता है जिन्हें गहरे अन्वेषण की आवश्यकता नहीं होती है।
- डायनेमिक ब्रांचिंग का अभाव (Lack of Dynamic Branching): निश्चित-गहराई वाले रोलआउट प्रति परिकल्पना (hypothesis) एक एकल फॉरवर्ड प्रक्षेपवक्र का पालन करते हैं। उनमें यह आकलन करने के तंत्र की कमी है कि क्या मध्यवर्ती अवस्थाओं को और अधिक ब्रांचिंग की आवश्यकता है, जिससे डकोडर को अनिश्चितता बनी रहने पर वैकल्पिक पथों को गतिशील रूप से खोजने से रोका जाता है।

कार्यप्रणाली: AdaLook

इन सीमाओं को संबोधित करने के लिए, लेखक AdaLook (एडेप्टिव लुकअहेड डिकोडिंग) प्रस्तावित करते हैं, जो डिकोडिंग अवस्था के आधार पर रोलआउट गहराई को गतिशील रूप से निर्धारित करता है और ब्रांच विस्तार को सक्षम करता है। AdaLook, Fu et al. (2025) द्वारा पेश की गई 'एक्सप्लोर-देन-एक्सप्लॉइट' (Explore-then-Exploit - ETE) रणनीति पर आधारित है।

यह फ्रेमवर्क दो मुख्य घटकों से बना है:

1. एडेप्टिव रोलआउट निरंतरता (Adaptive Rollout Continuation)

एक निश्चित-गहराई वाले रोलआउट के बजाय, AdaLook $k$ उम्मीदवार डिकोडिंग प्रक्षेपवक्रों का एक सेट बनाए रखता है। एक अतिरिक्त रोलआउट चरण शुरू करने से पहले, सिस्टम संचयी उम्मीदवार स्कोर के विचरण (variance of the cumulative candidate scores) का मूल्यांकन करता है।

तंत्र: यदि स्कोर का विचरण एक पूर्व-निर्धारित थ्रेशोल्ड $\tau$ से नीचे गिर जाता है, तो उम्मीदवारों को अपर्याप्त रूप से विभेदक माना जाता है, और डिकोडर अधिक जानकारी एकत्र करने के लिए अगले रोलआउट चरण की ओर बढ़ता है।
समाप्ति: रोलआउट तब रुक जाता है जब विचरण $\tau$ से अधिक हो जाता है (जो एक स्पष्ट सर्वश्रेष्ठ उम्मीदवार का संकेत देता है) या जब अधिकतम गहराई $T_{max}$ तक पहुँच जाती है। यह सुनिश्चित करता है कि गणना केवल तभी खर्च की जाए जब उम्मीदवारों के बीच अंतर करने के लिए आवश्यक हो।

2. डायनेमिक ब्रांच एक्सपेंशन (Dynamic Branch Expansion)

यह घटक मध्यवर्ती अवस्थाओं की विषमता को संबोधित करता है। प्रत्येक रोलआउट चरण के बाद, प्रत्येक ब्रांच का स्वतंत्र रूप से मूल ETE ट्रिगरिंग स्थितियों (डिकोडिंग फ्रंटियर पर कम आत्मविश्वास) के विरुद्ध मूल्यांकन किया जाता है।

केस 1 (स्थिर/Stable): यदि कोई भी ब्रांच और विस्तार की आवश्यकता नहीं रखती है, तो सिस्टम स्कोर के विचलित होने या बजट समाप्त होने तक एडेप्टिव रोलआउट निरंतरता जारी रखता है।
केस 2 (सभी अनिश्चित/All Uncertain): यदि सभी ब्रांच अनिश्चित रहती हैं, तो डिकोडर उच्चतम-स्कोरिंग परिकल्पना का चयन करता है (फ्रंटियर कॉन्फिडेंस को शामिल करते हुए) और इस मध्यवर्ती अवस्था से लुकअहेड प्रक्रिया को पुनः ट्रिगर (re-trigger) करता है। यह डिकोडर को एक निश्चित रैखिक पथ का पालन करने के बजाय नए प्रक्षेपव्यों में गतिशील रूप से ब्रांच करने की अनुमति देता है।
केस 3 (मिश्रित/Mixed): यदि केवल कुछ ही ब्रांच को विस्तार की आवश्यकता है, तो सिस्टम स्थिर ब्रांचों को हटा (prune) देता है और केवल अनिश्चित ब्रांचों पर रोलआउट जारी रखता है। यह उन प्रक्षेपवक्यों को प्राथमिकता देता है जो स्थिर शासन (regimes) में परिवर्तित हो गए हैं, जबकि बार-बार अनिश्चित ब्रांचों पर घटते रिटर्न से बचता है।

स्कोरिंग फंक्शन (Scoring Function):
रोलआउट गहराई $R$ पर एक उम्मीदवार प्रक्षेपवक्र $j$ के लिए संचयी स्कोर $\tilde{s}^{(R)}(j)$ सभी चरणों में विश्वास लाभ (confidence gains) को संचित करता है:
$\tilde{s}^{(R)}(j) = \alpha \log c_t^j(x_t) + \log \left( \sum_{r=1}^{R} \sum_{i \in T_r^j} c_{t+r}^i(x_{t+r;j}) \right)$
जहाँ $T_r^j$ उन स्थितियों का प्रतिनिधित्व करता है जो चरण $r$ पर उच्च-विश्वास (high-confidence) प्राप्त करती हैं।

प्रमुख योगदान

सीमाओं की पहचान: पेपर यह प्रदर्शित करता है कि कम्प्यूटेशनल ओवरहेड और विषम डिकोडिंग अवस्थाओं के कारण नाइव लुकअहेड गहराई का विस्तार अप्रभावी है।
एडेप्टिव फ्रेमवर्क: AdaLook स्कोर विचरण के आधार पर गतिशील रूप से रोलआउट गहराई निर्धारित करने के लिए एक तंत्र पेश करता है, जिससे अनावश्यक गहरे रोलआउट से बचा जा सके।
डायनेमिक ब्रांचिंग: फ्रेमवर्क डिकोडर को सूचनात्मक मध्यवर्ती अवस्थाओं से लुकअहेड को पुनः ट्रिगर करने में सक्षम बनाता है, जिससे अनिश्चितता बने रहने पर वैकल्पिक डिकोडिंग पथों के लचीले अन्वेषण की अनुमति मिलती है।
दक्षता: यह डिज़ाइन चयनित अवस्था से कॉन्फिडेंस प्रेडिक्शन को कैश (cache) करके अगले लुकअहेड राउंड के लिए प्रारंभिक पास के रूप में उपयोग करके रेडंडेंट मॉडल फॉरवर्ड पास से बचता है।

प्रयोगात्मक परिणाम

लेखकों ने LLaDA-8B-Instruct और Dream-v0-Instruct-7B मॉडल्स का उपयोग करके चार बेंचमार्क (MMLU, GSM8K, MATH500, BBH) पर AdaLook का मूल्यांकन किया।

सटीकता-दक्षता ट्रेड-ऑफ (Accuracy-Efficiency Trade-off): AdaLook बेसलाइन ETE (वन-स्टेप लुकअहेड) और Fast-dLLM (कॉन्फिडेंस-अवेयर पैरेलल डिकोडिंग) की तुलना में लगातार एक बेहतर ट्रेड-ऑफ प्राप्त करता है।
- MATH500 पर, AdaLook (Optimized) ने समान डिकोडिंग स्टेप काउंट (~45 स्टेप्स) पर ETE (Optimized) की तुलना में लगभग 4.5% अधिक सटीकता प्राप्त की।
- सुधार चुनौतीपूर्ण रीजनिंग कार्यों (MATH, BBH) पर सबसे अधिक स्पष्ट है जहाँ दीर्घ-क्षितिज योजना (long-horizon planning) फायदेमंद होती है। GSM8K जैसे सरल कार्यों पर लाभ मामूली है।
अधिकतम सटीकता: AdaLook कठिन बेंचमार्क (जैसे MATH पर 43.6% बनाम ETE के लिए 42.6%) पर उच्च अधिकतम प्राप्त करने योग्य सटीकता प्राप्त करता है, जो बताता है कि यह उच्च-गुणवत्ता वाले रीजनिंग प्रक्षेपवक्र खोजने में मदद करता है।
सामान्यीकरण (Generalization): यह विधि विभिन्न मॉडल बैकबोन (LLaDA और Dream) में सामान्य होती है।

महत्व और दावे

पेपर का दावा है कि AdaLook, डिफ्यूजन लैंग्वेज मॉडल्स में तत्काल सूचना लाभ और दीर्घ-क्षितिज योजना के बीच के अंतर को पाटता है। निश्चित-गहराई वाले डीप रोलआउट की लागत उठाए बिना, उथले एक-चरणीय लुकअहेड से आगे बढ़कर, AdaLook डिकोडर को निम्नलिखित सक्षम बनाता है:

अधिक सूचनात्मक डिकोडिंग प्रक्षेपवक्र खोजना।
वर्तमान अनिश्चितता के आधार पर कम्प्यूटेशनल संसाधनों को अनुकूल रूप से आवंटित करना।
विशेष रूप से जटिल तर्क (reasoning) की आवश्यकता वाले परिदृश्यों में जनरेशन की गुणवत्ता और दक्षता को एक साथ सुधारना।

लेखक इस बात पर जोर देते हैं कि उनका कार्य केवल जनरेशन प्रदर्शन वृद्धि के बजाय, विशेष रूप से सटीकता-डिकोडिंग स्टेप्स ट्रेड-ऑफ को लक्षित करते हुए, Fu et al. (2025) के दक्षता-उन्मुख लुकअहेड फ्रेमवर्क पर आधारित है।