🤖 machine learning

Task-Aware Calibration: Provably Optimal Decoding in LLMs

यह शोध पत्र "टास्क कैलिब्रेशन" (task calibration) प्रस्तुत करता है, जो एक ऐसा प्रतिमान (paradigm) है जो एक कार्य-विशिष्ट लेटेंट स्पेस (task-specific latent space) के भीतर भविष्य कहनेवाला वितरण (predictive distributions) को कैलिब्रेट करके LLM डिकोडिंग को अनुकूलित करता है, जिससे यह प्रमाणित रूप से न्यूनतम बेयस जोखिम (Minimum Bayes Risk) प्राप्त करता है और विविध अनुप्रयोगों में जनरेशन की गुणवत्ता में सुधार करता है।

मूल लेखक: Tim Tomov, Dominik Fuchsgruber, Rajeev Verma, Stephan Günnemann

प्रकाशित 2026-05-12

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tim Tomov, Dominik Fuchsgruber, Rajeev Verma, Stephan Günnemann

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान लाइब्रेरियन (लार्ज लैंग्वेज मॉडल, या LLM) है। जब आप उस लाइब्रेरियन से कोई सवाल पूछते हैं, तो वह केवल एक उत्तर नहीं देता; वह अपने दिमाग में संभावित उत्तरों की एक पूरी सूची बनाता है, जिसमें प्रत्येक के साथ एक निश्चित स्तर का आत्मविश्वास जुड़ा होता है। उदाहरण के लिए, यदि आप पूछते हैं, "यह टेक्स्ट कितना हानिकारक है?", तो लाइब्रेरियन सोच सकता है:

"यह 5 है" (बहुत हानिकारक) – 40% आत्मविश्वास
"यह 4 है" (हानिकारक) – 30% आत्मविश्वास
"यह 3 है" (तटस्थ) – 30% आत्मविश्वास

समस्या: "अति-आत्मविश्वासी" लाइब्रेरियन
यह शोध पत्र तर्क देता है कि हालांकि यह लाइब्रेरियन बुद्धिमान है, लेकिन यह अक्सर मिसकैलिब्रेटेड (miscalibrated) होता है। इसका मतलब है कि उनके आंतरिक आत्मविश्वास स्कोर वास्तविकता से मेल नहीं खाते। वे गलत उत्तर के बारे में बहुत अधिक आश्वस्त हो सकते हैं या सही उत्तर के बारे में पर्याप्त आश्वस्त नहीं हो सकते।

आमतौर पर, लाइब्रेरियन के आत्मविश्वास को ठीक करने की कोशिश करना असंभव है क्योंकि उनके "उत्तर" शब्दों के अनंत संयोजन होते हैं। यह एक शब्दकोश को कैलिब्रेट करने की कोशिश करने जैसा है जहाँ हर संभावित वाक्य एक अलग प्रविष्टि (entry) है। यह पेपर कहता है कि इसे सीधे ठीक करना बहुत जटिल है।

समाधान: "अनुवादक" (टास्क कैलिब्रेशन)
लेखकों का बड़ा विचार शब्दों को देखने के बजाय उनके पीछे के अर्थ को देखना है। वे इसे "लेटेंट स्पेस" (latent space) कहते हैं।

इसे इस तरह सोचें:

अव्यवस्थित इनपुट: लाइब्रेरियन कहता है, "ओह, वह टेक्स्ट निश्चित रूप से एक आपदा है, मैं इसे ठोस पांच में से पांच दूंगा।"
अनुवादक: एक विशेष उपकरण ("टास्क कैलिब्रेशन मैप") उस लंबे वाक्य को एक सरल संख्या में अनुवादित करता है: 5।
स्वच्छ आउटपुट: अब, लाखों वाक्यों को कैलिब्रेट करने के बजाय, हमें केवल 1 से 5 तक की संख्याओं को कैलिब्रेट करने की आवश्यकता है।

यह पेपर टास्क कैलिब्रेशन (Task Calibration) नामक एक विधि पेश करता है। यह लाइब्रेरियन के अव्यवस्थित, अति-आत्मविश्वासी शब्दों के विश्वासों को लेता है और उन्हें सरल अर्थों (जैसे संख्याएं, श्रेणियां, या हाँ/नहीं निर्णय) के ऊपर एक स्वच्छ, सटीक संभाव्यता वितरण (probability distribution) में अनुवादित करता है।

रणनीति: "पहले कैलिब्रेट करें, फिर निर्णय लें"
एक बार जब लाइब्रेरियन के विश्वासों को अनुवादित और ठीक (कैलिब्रेट) कर दिया जाता है, तो पेपर एक विशिष्ट तरीका सुझाता है जिससे अंतिम उत्तर चुना जा सके, जिसे मिनिमम बेयस रिस्क (Minimum Bayes Risk - MBR) डिकोडिंग कहा जाता है।

पुराना तरीका: लाइब्रेरियन वह उत्तर चुनता है जिसके बारे में वह सबसे अधिक आश्वस्त महसूस करता है (जैसे, "मुझे लगता है कि यह 4 है")।
नया तरीका (MBR): लाइब्रेरियन पूरे सुधारे हुए वितरण को देखता है और पूछता है, "यदि मुझे एक संख्या चुननी है, तो कौन सी संख्या औसतन सबसे कम गलतियाँ करेगी?"

उपमा: मौसम पूर्वानुमानकर्ता (Weather Forecaster)
कल्पना कीजिए कि एक मौसम पूर्वानुमानकर्ता जो बारिश की भविष्यवाणी करने में बुरा है।

अनकैलिब्रेटेड (Uncalibrated): वे कहते हैं, "बारिश की 90% संभावना है," लेकिन जब वे ऐसा कहते हैं तो केवल 50% समय ही बारिश होती है। वे अति-आत्मविश्वासी हैं।
टास्क कैलिब्रेशन: आप महसूस करते हैं कि आपके विशिष्ट कार्य के लिए (यह तय करने के लिए कि क्या छाता साथ ले जाना है), आपको हर बादल के निर्माण को ठीक करने की आवश्यकता नहीं है। आपको बस उनके "बारिश बनाम नो रेन" की संभावना को ठीक करने की आवश्यकता है। आप एक "अनुवादक" लागू करते हैं जो उनके 90% को एक वास्तविक 50% में समायोजित करता है।
इष्टतम निर्णय (Optimal Decision): अब, इस सुधारे हुए 50% के उपयोग के साथ, आप निर्णय लेते हैं: "चूंकि यह एक सिक्के के उछाल (coin flip) जैसा है, इसलिए मैं सुरक्षा के लिए छाता साथ ले जाऊंगा।" यह निर्णय गणितीय रूप से सिद्ध है कि सुधारे हुए जानकारी के आधार पर सबसे अच्छा विकल्प है।

उन्होंने क्या पाया?
लेखकों ने कई अलग-अलग कार्यों पर इसका परीक्षण किया, जैसे:

रेटिंग: किसी टेक्स्ट के कितने मददगार होने पर 1 से 5 तक का स्कोर देना।
वर्गीकरण (Classification): यह तय करना कि कंप्यूटर को एक टूल को कॉल करना चाहिए या अधिक जानकारी मांगनी चाहिए।
हाँ/नहीं: यह तय करना कि मॉडल को प्रश्न का उत्तर देना चाहिए या यह स्वीकार करना चाहिए कि वह नहीं जानता।

परिणाम:

बेहतर उत्तर: मॉडल के विश्वासों को एक स्वच्छ प्रारूप में "अनुवादित" करके और फिर सबसे अच्छा उत्तर चुनकर, मॉडल ने मानक तरीकों की तुलना में लगातार कम गलतियाँ कीं और उच्च गुणवत्ता वाले उत्तर दिए।
एक नया पैमाना (TCE): उन्होंने एक नया तरीका भी बनाया जिससे यह मापा जा सके कि एक विशिष्ट कार्य के लिए मॉडल कितना "टूटा हुआ" है, जिसे टास्क कैलिब्रेशन एरर (Task Calibration Error - TCE) कहा जाता है। पुराने पैमानों के विपरीत जो केवल सामान्य आत्मविश्वास को मापते हैं, TCE बिल्कुल यह मापता है कि मॉडल की गलत कैलिब्रेशन के कारण कितनी अतिरिक्त "पीड़ा" (गलतियाँ) होती है। उन्होंने पाया कि TCE एक बेहतरीन भविष्यवक्ता है कि सुधार के बाद मॉडल में कितना बेहतर प्रदर्शन होगा।

संक्षेप में
यह पेपर कहता है: "भाषा के अनंत अराजक स्वरूप को सीधे ठीक करने की कोशिश न करें। इसके बजाय, मॉडल के आउटपुट को एक सरल, कार्य-विशिष्ट प्रारूप (जैसे स्कोर या श्रेणी) में अनुवादित करें, उस सरल प्रारूप में आत्मविश्वास को ठीक करें, और फिर वह उत्तर चुनें जो त्रुटियों को कम करता है। यह AI को अधिक विश्वसनीय और सटीक बनाता है।"

तकनीकी सारांश: टास्क-अवेयर कैलिब्रेशन: LLMs में प्रूवेबली ऑप्टिमल डिकोडिंग

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) सभी संभावित टोकन अनुक्रमों के स्पेस $V^\infty$ पर एक प्रेडिक्टिव डिस्ट्रीब्यूशन $p(Y|X)$ से सैंपलिंग करके आउटपुट जेनरेट करते हैं। हालांकि मॉडल्स को वास्तविक डेटा-जनरेटिंग डिस्ट्रीब्यूशन $p^*(Y|X)$ को एप्रोक्सिमेट करने के लिए प्रशिक्षित किया जाता है, वे अक्सर मिसकैलिब्रेशन और सिस्टमैटिक बायस प्रदर्शित करते हैं। फलस्वरूप, अनकैलिब्रेटेड डिस्ट्रीब्यूशन $p$ पर आधारित "सर्वश्रेष्ठ" आउटपुट चुनने वाली डिकोडिंग रणनीतियां अक्सर वास्तविक डिस्ट्रीब्यूशन $p^*$ के विरुद्ध मूल्यांकन किए जाने पर उप-इष्टतम (suboptimal) निर्णय लेती हैं।

फ्री-फॉर्म लैंग्वेज के अनंत स्पेस पर सीधे कैलिब्रेशन करना कम्प्यूटेशनल रूप से अव्यवहारिक है क्योंकि $V^\infty$ की कॉम्बिनेटोरियल विशालता अत्यधिक है। इसके अलावा, सिंटैक्टिक रूप से भिन्न स्ट्रिंग्स अक्सर समान अर्थ व्यक्त करती हैं, जिससे सीक्वेंस-लेवल कैलिब्रेशन अंतर्निहित टास्क सेमेंटिक्स को कैप्चर करने के लिए अपर्याप्त हो जाता है। मुख्य चुनौती मॉडल के प्रेडिक्टिव डिस्ट्रीब्यूशन को वास्तविक डिस्ट्रीब्यूशन के साथ इस तरह संरेखित करना है जो कम्प्यूटेशनल रूप से व्यवहार्य और विशिष्ट डाउनस्ट्रीम टास्क के लिए अर्थपूर्ण हो।

2. कार्यप्रणाली (Methodology)

टास्क-अवेयर लेटेंट स्पेस एब्स्ट्रैक्शन (Task-Aware Latent Space Abstraction)

प्रस्तावित फ्रेमवर्क फ्री-फॉर्म स्ट्रिंग्स से टास्क-डिपेंडेंट लेटेंट स्पेस $\mathcal{L}$ में आउटपुट स्पेस को एब्स्ट्रैक्ट करके भाषा कैलिब्रेशन की अव्यवहारिकता को संबोधित करता है। एक दिए गए टास्क $T$ के लिए, एक मैपिंग फंक्शन $g_T: V^\infty \to \mathcal{L}$ फ्री-फॉर्म रिस्पॉन्स $Y$ को डिस्क्रीट लेटेंट रिप्रेजेंटेशन $\ell \in \mathcal{L}$ में बदल देता है।

उदाहरण: रेटिंग टास्क में, टेक्स्ट जैसे "Very harmful, so five" को पूर्णांक $5 \in \{1, \dots, 5\}$ में मैप किया जाता है। टूल-यूज़ परिदृश्यों में, फ्री-फॉर्म टेक्स्ट एक डिस्क्रीट सेट $\{\text{call tool}, \text{request info}, \text{abstain}\}$ में मैप होता है।
लेटेंट डिस्ट्रीब्यूशन: LLM के प्रेडिक्टिव डिस्ट्रीब्यूशन को रिस्पॉन्स के मोंटे कार्लो सैंपलिंग को लागू करके और $g_T$ का उपयोग करके $\mathcal{L}$ पर एक कैटेगोरिकल डिस्ट्रीब्यूशन $\hat{p}(X)$ में पुश फॉरवर्ड किया जाता है।

टास्क कैलिब्रेशन (Task Calibration)

पेपर टास्क कैलिब्रेशन को मॉडल के लेटेंट डिस्ट्रीब्यूशन $\hat{p}(X)$ और वास्तविक कंडीशनल लेटेंट डिस्ट्रीब्यूशन $p^*(\mathcal{L}|X)$ के बीच संरेखण के रूप में परिभाषित करता है।

परिभाषा: एक डिस्ट्रीब्यूशन टास्क-कैलिब्रेटेड है यदि, किसी भी प्रेडिक्टेड लेटेंट डिस्ट्रीब्यूशन $q$ के लिए, अपेक्षित वास्तविक लेटेंट आउटकम $q$ के बराबर हो: $\mathbb{E}[g_T(Y) | \hat{p}(X)=q] = q$ ।
कैलिब्रेशन मैप: चूंकि LLMs आम तौर पर टास्क-कैलिब्रेटेड नहीं होते हैं, इसलिए लेखक एक कैलिब्रेशन मैप $f^*_{g_T}: \Delta^{C-1} \to \Delta^{C-1}$ पेश करते हैं जो अनकैलिब्रेटेड बिलीफ $q$ को कैलिब्रेटेड बिलीफ $f^*_{g_T}(q)$ में बदल देता है। यह मैप एक कैलिब्रेशन डेटासेट पर नेगेटिव लॉग-लाइक्लीहुड (NLL) को मिनिमाइज करके सीखा जाता है, जो प्रभावी रूप से ऑप्टिमल कंडीशनल एक्सपेक्टेशन को एप्रोक्सिमेट करता है।

ऑप्टिमल डिकोडिंग स्ट्रैटेजी (Optimal Decoding Strategy)

पेपर एक निर्णय-सैद्धांतिक परिणाम का लाभ उठाते हुए ऑप्टिमल डिकोडिंग स्ट्रैटेजी स्थापित करता है:

रीकैलिब्रेशन: सीखे गए मैप $f_\phi \approx f^*_{g_T}$ का उपयोग करके LLM के लेटेंट डिस्ट्रीब्यूशन $\hat{p}(X)$ को ट्रांसफॉर्म करें।
मिनिमम बेयस रिस्क (MBR) डिकोडिंग: वह एक्शन $\ell$ चुनें जो रीकैलिब्रेटेड डिस्ट्रीब्यूशन के तहत अपेक्षित लॉस को मिनिमाइज करता है:
$\delta_{\text{MBR}}(q) = \arg \min_{\ell \in \mathcal{L}} \mathbb{E}_{\ell' \sim q} [d_T(\ell', \ell)]$
जहाँ $d_T$ टास्क-विशिष्ट लॉस फंक्शन है।

थ्योरिटिकल गारंटी: थ्योरम 3.4 सिद्ध करता है कि किसी भी टास्क-डिपेंडेंट लॉस फंक्शन के लिए, कैलिब्रेटेड डिस्ट्रीब्यूशन पर MBR डिकोडिंग करना उन सभी निर्णय नियमों के बीच इष्टतम रणनीति है जो केवल मॉडल के लेटेंट बिलीव्स पर निर्भर करते हैं। यह इस बात पर निर्भर नहीं करता कि विशिष्ट लॉस फंक्शन क्या है।

टास्क कैलिब्रेशन एरर (TCE)

मिसकैलिब्रेशन के प्रभाव को मापने के लिए, लेखक टास्क कैलिब्रेशन एरर (TCE) पेश करते हैं।

परिभाषा: TCE अनकैलिब्रेटेड डिस्ट्रीब्यूशन पर ऑप्टिमली एक्ट करने बनाम टास्क-कैलिब्रेटेड डिस्ट्रीशन पर ऑप्टिमली एक्ट करने से होने वाले अपेक्षित अतिरिक्त लॉस को मापता है।
डिकम्पोजिशन: यह प्रेडिक्टेड और ट्रू डिस्ट्रीब्यूशन के बीच के डायवर्जेंस को एक कैलिब्रेशन टर्म (TCE) और एक इर्रिड्यूसिबल रिफाइनमेंट टर्म में विभाजित करता है।
उपयोगिता: ECE जैसे स्टैंडर्ड मेट्रिक्स के विपरीत, TCE सीधे टास्क लॉस के संदर्भ में परिभाषित है, जो इसे कैलिब्रेशन के माध्यम से प्राप्त होने वाले परफॉरमेंस गेन्स का एक सार्थक प्रेडिक्टर बनाता है।

3. मुख्य योगदान (Key Contributions)

टास्क कैलिब्रेशन पैराडाइम: एक नया फ्रेमवर्क जो कैलिब्रेशन को टोकन सीक्वेंस के कठिन स्पेस से हटाकर एक विशिष्ट टास्क द्वारा प्रेरित प्रबंधनीय, अर्थपूर्ण लेटेंट स्पेस $\mathcal{L}$ में स्थानांतरित करता है।
प्रूवेबली ऑप्टिमल डिकोडिंग: एक थ्योरिटिकल प्रूफ (थ्योरम 3.4) कि "पहले कैलिब्रेट करें, फिर ऑप्टिमली एक्ट करें" (लेटेंट बिलीव्स को कैलिब्रेट करना और फिर MBR डिकोडिंग करना) की रणनीति वास्तविक डेटा डिस्ट्रीब्यूशन के सापेक्ष अपेक्षित लॉस को मिनिमाइज करती है।
टास्क कैलिब्रेशन एरर (TCE): एक नया मेट्रिक जो टास्क लॉस के संदर्भ में अतिरिक्त टास्क लॉस को क्वांटिफाई करता है। लेखक दिखाते हैं कि TCE, डाउनस्ट्रीम परफॉरमेंस गेन्स के साथ मजबूती से सह-संबंधित है, जबकि पारंपरिक मेट्रिक्स जैसे ECE नहीं।
एम्पिरिकल वैलिडेशन: विभिन्न मॉडल्स (Gemma 3, Qwen 3) और विविध टास्क (ऑर्डिनल रिग्रेशन, क्लासिफिकेशन, आंसर-ऑर-एब्स्टेन, ओपन-सेट प्रेडिक्शन) पर व्यापक प्रयोगों के माध्यम से निरंतर सुधार दिखाया गया है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने अपने फ्रेमवर्क का मूल्यांकन विभिन्न इंस्ट्रक्शन-ट्यून्ड मॉडल्स का उपयोग करके कई डेटासेट्स (HelpSteer, STSB, MMLU, When2Call, SimpleQA, TriviaQA, MAQA) पर किया।

डिकोडिंग परफॉरमेंस: प्रस्तावित विधि (टास्क कैलिब्रेशन + MBR) ने लगातार सभी टास्क और मॉडल्स में सर्वश्रेष्ठ प्रदर्शन किया, जिसने ग्रीडी (Greedy), बीम सर्च (Beam Search), कॉन्ट्रास्टिव डिकोडिंग (Contrastive Decoding) और अनकैलिब्रेटेड डिस्ट्रीब्यूशन पर MBR सहित बेसलाइन्स को पीछे छोड़ दिया।
- उदाहरण: MMLU बेंचमार्क पर, टास्क कैलिब्रेशन ने Qwen3-30B-A3B मॉडल के लिए एक्यूरेसी को ~78% (अनकैलिब्रेटेड MBR) से बढ़ाकर ~88% कर दिया।
एब्लेशन स्टडीज:
- कैलिब्रेशन मेथड्स: डिरिचलेट कैलिब्रेशन (प्लेट स्केलिंग का एक सामान्यीकरण) को सबसे प्रभावी कैलिब्रेशन मैप पाया गया, जिसने टेम्परेचर स्केलिंग और डिसीजन कैलिब्रेशन बेसलाइन्स से लगातार बेहतर प्रदर्शन किया।
- MBR बनाम MAP: उन लॉस फंक्शन्स के लिए जहाँ मैक्सिमम प्रोबेबिलिटी (MAP) एक्शन, MBR एक्शन से भिन्न होता है (जैसे ऑर्डिनल रिग्रेशन में L1 लॉस), कैलिब्रेटेड बिलीव्स पर MBR डिकोडिंग ने केवल सबसे संभावित क्लास चुनने की तुलना में काफी बेहतर प्रदर्शन किया। यह पुष्टि करता है कि लाभ केवल क्लासिफायर सीखने से नहीं, बल्कि डिस्ट्रीब्यूशन (कैलिब्रेशन) को ठीक करने से आता है।
कैलिब्रेशन मैप्स एनालिसिस: सीखे गए मैप्स ओवरकॉन्फिडेंस को प्रभावी ढंग से कम करने में सफल रहे। उदाहरण के लिए, बाइनरी "आंसर-ऑर-एब्स्टेन" टास्क में, मैप्स ने "आंसर" एक्शन के लिए प्रोबेबिलिटी को तब तक कम रखा जब तक कि अनकैलिब्रेटेड कॉन्फिडेंस बहुत अधिक न हो, जो एसिमेट्रिक BAS लॉस के अनुरूप है।
TCE कोरिलेशन: फिगर 3b दर्शाता है कि TCE और रीकैलिब्रेशन से प्राप्त वास्तविक लॉस रिडक्शन के बीच एक मजबूत सकारात्मक सहसंबंध है। इसके विपरीत, ECE ने कोई महत्वपूर्ण सहसंबंध नहीं दिखाया, जो TCE को टास्क-विशिष्ट मिसकैलिब्रेशन का आकलन करने के लिए एक बेहतर मेट्रिक के रूप में प्रमाणित करता है।

5. महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि टास्क कैलिब्रेशन एक विशिष्ट टास्क के संदर्भ में मॉडल के प्रेडिक्टिव डिस्ट्रीब्यूशन और वास्तविक डेटा डिस्ट्रीब्यूशन के बीच के अंतर को पाटकर अधिक विश्वसनीय मॉडल निर्णय सक्षम बनाता है।

ऑप्टिमलिटी: प्राथमिक थ्योरिटिकल दावा यह है कि MBR डिकोडिंग, टास्क-कैलिब्रेटेड लेटेंट डिस्ट्रीब्यूशन पर, अपेक्षित लॉस को मिनिमाइज करने के लिए इष्टतम रणनीति है, बशर्ते निर्णय केवल मॉडल के लेटेंट बिलीव्स पर आधारित हो।
प्रैक्टिकैलिटी: यह कार्य प्रदर्शित करता है कि जटिल फ्री-फॉर्म जनरेशन समस्याओं को लेटेंट मैपिंग के माध्यम से प्रभावी ढंग से डिस्क्रीट डिसीजन प्रॉब्लम्स में बदला जा सकता है, जिससे कैलिब्रेशन व्यवहार्य और अत्यधिक प्रभावी हो जाता है।
मेट्रिक एडवांसमेंट: TCE को पेश करके, पेपर एक ऐसा टूल प्रदान करता है जो जेनेरिक अनसर्टेन्टी मेट्रिक्स से आगे बढ़कर, जो अक्सर टास्क परफॉरमेंस के साथ सह-संबंधित नहीं होते, टास्क-विशिष्ट मिसकैलिब्रेशन के संभावित लाभों का अनुमान लगाने में मदद करता है।
सीमाएं: लेखक विनम्रतापूर्वक नोट करते हैं कि उनकी ऑप्टिमलिटी गारंटी केवल $\hat{p}(X)$ पर आधारित रणनीतियों के लिए लागू होती है। वे स्वीकार करते हैं कि टास्क कैलिब्रेशन औसत निर्णय की गुणवत्ता में सुधार करता है लेकिन प्रति-इंस्टेंस (per-instance) इष्टतमता की गारंटी नहीं देता है। इसके अतिरिक्त, इस दृष्टिकोण के लिए एक डिस्क्रीट लेटेंट सपोर्ट की आवश्यकता होती जो साझा किया गया हो, जो बिना डीकम्पोजिशन के सभी ओपन-एंडेड सेटिंग्स पर लागू नहीं हो सकता है।

संक्षेप में, यह पेपर स्थापित करता है कि LLM आउटपुट को टास्क-अवेयर लेटेंट लेंस के माध्यम से देखने और इस स्पेस में डिस्ट्रीबशनल कैलिब्रेशन लागू करने से प्रूवेबली ऑप्टिमल डिकोडिंग संभव है, जिससे व्यापक रेंज के एप्लिकेशन्स में जनरेशन क्वालिटी में महत्वपूर्ण सुधार होता है।