💬 NLP

Exploring More to Solve More: Boosting Diversity in Text Diffusion Models via Entropy-Based Guidance

यह शोध पत्र सेमेंटिक-अवेयर कर्नल एंट्रॉपी (SAKE) को प्रस्तुत करता है, जो एक नवीन प्रशिक्षण-मुक्त मार्गदर्शन विधि है जो टेक्स्ट डिफ्यूजन मॉडल में फिडेलिटी और डाइवर्सिटी को गतिशील रूप से संतुलित करने के लिए एक कर्नल ग्राम मैट्रिक्स पर ऑर्डर-2 रेनी एंट्रॉपी का लाभ उठाती है, जिससे यह कोड और गणितीय पीढ़ी जैसे तर्क-गहन कार्यों पर मौजूदा बेसलाइनों से बेहतर प्रदर्शन करता है।

मूल लेखक: Jingwei Zhang, Haoyu Lei, Zijin Feng, Jiacheng Sun, Farzan Farnia

प्रकाशित 2026-08-04

📖 10 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jingwei Zhang, Haoyu Lei, Zijin Feng, Jiacheng Sun, Farzan Farnia

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को कहानी लिखना, गणित की समस्या हल करना या वीडियो गेम का कोड बनाना सिखाने की कोशिश कर रहे हैं। लंबे समय तक, यह करने का सबसे अच्छा तरीका यह था कि रोबोट को एक बार में एक शब्द लिखने के लिए बनाया जाए, जैसे कि एक इंसान कीबोर्ड पर टाइप करता है। लेकिन इसमें एक पेंच है: एक बार जब रोबोट एक शब्द चुन लेता है, तो वह उसी के साथ फंस जाता है। यदि वह शुरुआत में एक छोटी सी गलती करता है, तो पूरी कहानी बकवास में बदल सकती है, और वह इसे ठीक करने के लिए आसानी से पीछे नहीं जा सकता। हाल ही में, वैज्ञानिकों ने एक नए प्रकार का रोबोट मस्तिष्क बनाया जिसे "डिफ्यूजन मॉडल" (Diffusion Model) कहा जाता है। शब्द-दर-शब्द टाइप करने के बजाय, यह रोबोट गड़बड़ी से भरे एक पूरे पन्ने से शुरुआत करता है और धीरे-धीरे उसे एक साथ साफ करता है। यह एक ऐसी पेंटिंग को देखने जैसा है जो धीरे-धीरे स्पष्ट मास्टरपीस बनती जाती है क्योंकि कलाकार गंदगी को पोंछ रहा होता है। यह तरीका बहुत अच्छा है क्योंकि यह एक बार में पूरी तस्वीर को देख सकता है, लेकिन इसमें एक पेचीदा समस्या है: यह अक्सर एक ही ढर्रे में फंस जाता है। यह बार-बार एक ही उबाऊ वाक्य लिखता रह सकता है, या यह अलग दिखने की कोशिश में इतना भ्रमित हो सकता है कि कहानी बिखर जाती है। बड़ा सवाल वैज्ञानिकों के लिए यह है: हम इस रोबोट को रचनात्मक कैसे बनाएं और उसे नए विचारों को खोजने के लिए कैसे प्रेरित करें बिना उसकी समझ बनाए रखने की क्षमता खोए?

यह शोध पत्र एक चतुर नई तकनीक पेश करता है जिसे SAKE (सेमेंटिक-अवेयर कर्नल एंट्रॉपी) कहा जाता है, ताकि इन "डिफ्यूजन" रोबोटों को अधिक रचनात्मक रूप से सोचने में मदद मिल सके। शोधकर्ताओं ने पाया कि इन रोबोटों को अधिक विविध बनाने का सामान्य तरीका—सिर्फ एक "तापमान" (temperature) वाले नॉब को घुमाकर उन्हें अधिक रैंडम बनाना—एक उबाऊ कहानी को ठीक करने के लिए उस पर मुट्ठी भर कंफेटी (रंगीन कागज के टुकड़े) फेंकने जैसा है। यह कुछ विविधता तो जोड़ सकता है, लेकिन यह गुणवत्ता को खराब कर देता है, जिससे कहानी रैंडम शोर (noise) जैसी लगने लगती है। इसके बजाय, लेखक एक स्मार्ट गाइड प्रस्तावित करते हैं जो एक "जिज्ञासु खोजकर्ता" (curious explorer) की तरह काम करता है। यह गाइड जांच करता है कि क्या रोबोट एक ऐसा शब्द चुनने वाला है जो उसके द्वारा पहले लिखे गए शब्दों के बहुत समान है। यदि रोबोट दोहराव वाले विचारों के लूप में फंस रहा है, तो गाइड उसे धीरे से एक अलग, लेकिन अभी भी समझदारी भरे रास्ते की ओर धकेलता है। यदि रोबोट पहले से ही रचनात्मक हो रहा है, तो गाइड पीछे हट जाता है और उसे स्वतंत्र छोड़ देता है।

टीम ने इन कठिन चुनौतियों पर इस पद्धति का परीक्षण किया, जैसे कंप्यूटर कोड लिखना और जटिल गणित की समस्याओं को हल करना। उन्होंने पाया कि उनके नए गाइड ने पुराने तरीकों की तुलना में बहुत अधिक विविध सही उत्तर उत्पन्न करने में मदद की। उदाहरण के लिए, कोड लिखने के लिए पूछे जाने पर, SAKE का उपयोग करने वाले रोबोट ने 32 प्रयासों में से 55.8% बार सही उत्तर दिया, जबकि मानक विधि केवल 41.1% बार ही सही थी। गणित में भी सुधार समान था। शोध पत्र सुझाव देता है कि इस "एंट्रॉपी-आधारित मार्गदर्शन" का उपयोग करके, हम AI को अपनी काम की गुणवत्ता से समझौता किए बिना अधिक संभावनाओं को तलाशने में मदद कर सकते है, जिससे रचनात्मक होने और सही होने के बीच के संतुलन को प्रभावी ढंग से हल किया जा सकता है।

समस्या: रोबोट का "उबाऊ लूप"

यह समझने के लिए कि यह क्यों महत्वपूर्ण है, आइए देखें कि ये AI मॉडल आमतौर पर कैसे काम करते हैं। कल्पना कीजिए कि आप एक खेल खेल रहे हैं जहाँ आपको एक गुप्त शब्द का अनुमान लगाना है। यदि आप सुरक्षित खेल रहे हैं, तो आप सबसे पहले सबसे सामान्य शब्दों का अनुमान लगा सकते हैं। लेकिन यदि आप जीतना चाहते हैं, तो आपको अलग-अलग अनुमान लगाने की आवश्यकता है। AI टेक्स्ट जनरेशन की दुनिया में, "टेम्परेचर स्केलिंग" नामक एक सामान्य उपकरण है। इसे रैंडमनेस के लिए एक "वॉल्यूम नॉब" की तरह समझें। यदि आप नॉब को कम (कम तापमान) करते हैं, तो AI सुरक्षित खेलता है और सबसे संभावित शब्द चुनता है, जिससे अक्सर दोहराव वाला, उबाऊ टेक्स्ट मिलता है। यदि आप नॉब को बहुत ऊपर (उच्च तापमान) करते हैं, तो AI अनियंत्रित हो जाता है और रैंडम शब्द चुनता है। यह विविधता तो पैदा करता है, लेकिन यह एक अस्त-व्यस्त विविधता है। यह रेडियो पर वॉल्यूम को बहुत अधिक बढ़ाने जैसा है ताकि एक नया स्टेशन सुना जा सके; आप कुछ अलग तो सुन सकते हैं, लेकिन आप बहुत सारा स्टैटिक और शोर भी सुनते हैं, और संगीत पहचानने योग्य नहीं रह जाता।

शोधकर्ता तर्क देते हैं कि कोडिंग या गणित जैसे जटिल कार्यों के लिए, हमें केवल अधिक विविधता की आवश्यकता नहीं है; हमें बेहतर विविधता की आवश्यकता है। हमें AI को तर्क के विभिन्न रास्तों (जैसे पहेली को हल करने के विभिन्न तरीकों को आज़माना) को तलाशने की आवश्यकता है बिना बकवास में गिरे। पुराने तरीके या तो AI को बहुत सुरक्षित रखते थे (उबाऊ) या बहुत जंगली (बर्बाद)।

समाधान: "जिज्ञासु खोजकर्ता" गाइड

इस पेपर के लेखकों, जिंगवेई झांग और उनकी टीम ने AI को निर्देशित करने का एक नया तरीका निकाला जिसे सेमेंटिक-अवेयर कर्नल एंट्रॉपी (SAKE) कहा जाता है। केवल "रैंडमनेस" के नॉब को बढ़ाने के बजाय, SAKE एक स्मार्ट कोच की तरह काम करता है जो AI के बगल में खड़ा है।

यह सरल शब्दों में इस प्रकार काम करता है:

कोच मैप की जांच करता है: जैसे ही AI टेक्स्ट जेनरेट कर रहा होता है, SAKE उन शब्दों को देखता है जिन्हें उसने पहले ही चुन लिया है और उन शब्दों को भी जिन पर वह अगला विचार कर रहा है। यह देखने के लिए कि विचार कितने समान हैं, यह एक विशेष "मैप" (जिसे कर्नल ग्राम मैट्रिक्स कहा जाता है) का उपयोग करता है।
"विकर्षक" बल (Repulsive Force): यदि AI एक ऐसा शब्द चुनने वाला है जो उसके द्वारा पहले कहे गए शब्दों के बहुत समान है (जैसे, "कुत्ता भागा" कहना और फिर फिर से "कुत्ता भागा" कहना), तो कोच को एक "विकर्षक बल" महसूस होता है। यह AI को उस दोहराव वाले चुनाव से दूर धकेलता है और उसे एक अलग, लेकिन संबंधित विचार को आज़माने के लिए प्रोत्साहित करता है।
गतिशील समायोजन (Dynamic Adjustment): खास बात यह है कि यह कोच स्मार्ट है। यदि AI पहले से ही रचनात्मक हो रहा है और विविध शब्द चुन रहा है, तो कोच आराम करता है और AI को उसके स्वाभाविक आत्मविश्वास के साथ आगे बढ़ने देता है। यह केवल तभी हस्तक्षेप करता है जब AI एक लूप में फंसने लगता है।

पेपर में इसे समस्या को "लीनियराइज" (linearizing) करने के रूप में वर्णित किया गया है। हर एक शब्द के लिए सटीक उत्तर की गणना करने के बजाय (जिसमें बहुत समय लगेगा), AI अपने दिमाग में विचारों के "आकार" (एम्बेडिंग स्पेस) को देखता है और सही दिशा में एक त्वरित धक्का (push) की गणना करता है। यह प्रक्रिया को वास्तविक समय में उपयोगी बनाने के लिए पर्याप्त तेज़ बनाता है।

उन्होंने क्या पाया: बेहतर परिणाम, कम शोर

टीम ने यह देखने के लिए कि क्या यह वास्तव में काम करता है, कई बेंचमार्क पर अपने नए गाइड का परीक्षण किया। उन्होंने SAKE की तुलना मानक "टेम्परेचर" विधि और "डिस्क्रीट क्लासिफायर-फ्री गाइडेंस" (D-CFG) नामक एक अन्य लोकप्रिय विधि से की।

कोड जनरेशन: जब कंप्यूटर कोड लिखने (HumanEval और MBPP परीक्षणों का उपयोग करके) के लिए कहा गया, तो SAKE वाले AI ने कई प्रयासों में सही समाधान खोजने में बहुत बेहतर प्रदर्शन किया। HumanEval परीक्षण के लिए, सफलता दर मानक विधि के 41.1% से बढ़कर SAKE के साथ 55.8% हो गई। MBPP के लिए, यह 48.2% से बढ़कर 56.1% हो गई।
गणितीय तर्क (Math Reasoning): GSM8K गणित परीक्षण पर, SAKE का उपयोग करने वाले AI ने 75.1% का सेल्फ-कंसिस्टेंसी स्कोर प्राप्त किया, जो मानक मॉडल के 71.5% से बेहतर था।
"पारेटो फ्रंटियर" (Pareto Frontier): शोधकर्ताओं ने गुणवत्ता और विविधता के बीच संतुलन को भी देखा। उन्होंने पाया कि जबकि तापमान बढ़ाने से AI अधिक विविध हुआ, इससे टेक्स्ट की गुणवत्ता (इसे कम सुसंगत बनाकर) को नुकसान पहुँचा। हालाँकि, SAKE ने इस "फ्रंटियर" को बाहर की ओर धकेलने में सफलता पाई। इसका मतलब है कि AI अपनी गुणवत्ता खोए बिना अधिक विविध हो सकता था। यह ऐसा था जैसे यह पता लगाना कि आप अपनी पसंद की चीज़ का आनंद भी ले सकते हैं और उसे हासिल भी कर सकते हैं।

एक दिलचस्प खोज "मोड कोलैप्स" (mode collapse) के बारे में थी। यह तब होता है जब एक AI कुछ ही उत्तरों के लूप में फंस जाता है। पेपर दिखाता है कि कम तापमान पर (जहाँ AI आमतौर पर बहुत सुरक्षित रहता है), मानक तरीके जल्दी ही फंस जाते हैं। हालाँकि, SAKE ने AI को खोजने के लिए मजबूर किया, जिससे इसकी प्रदर्शन क्षमता में काफी सुधार हुआ, भले ही "रैंडमनेस" सेटिंग कम थी।

ट्रेड-ऑफ: गति बनाम बुद्धिमत्ता

बेशक, कुछ भी मुफ्त नहीं आता। पेपर स्वीकार करता है कि SAKE को मानक विधियों की तुलना में थोड़े अधिक कंप्यूटिंग पावर की आवश्यकता होती है क्योंकि "कोच" को शब्दों की समानता की जांच करने के लिए अतिरिक्त गणना करनी पड़ती है। हालाँकि, टीम ने पाया कि यह धीमापन बहुत कम था। AI अभी भी अनगाइडेड वर्शन की लगभग 93% गति से टेक्स्ट जेनरेट कर रहा था। इसके विपरीत, D-CFG नामक एक अन्य विधि बहुत धीमी थी, जो लगभग 67% की गति तक गिर गई। यह सुझाव देता है कि SAKE एक व्यावहारिक उपकरण है जो चीजों को बहुत अधिक धीमा नहीं करता है।

यह क्यों महत्वपूर्ण है

पेपर निष्कर्ष निकालता है कि विविधता केवल चीजों को अलग दिखाने के बारे में नहीं है; यह मजबूती (robustness) के बारे में है। गणित की समस्या हल करने या कोड लिखने जैसे जटिल कार्यों में, समस्या के बारे में अलग-अलग तरीकों से सोचने से सही उत्तर खोजने की संभावना बढ़ जाती है। SAKE का उपयोग करके, हम AI मॉडल को इन विभिन्न रास्तों को तलाशने में मदद कर सकते हैं बिना उन्हें अराजक और निरर्थक जनरेटर में बदले।

लेखक सुझाव देते हैं कि यह विधि भविष्य में हमारे द्वारा AI के उपयोग के लिए गेम-चेंजर हो सकती है, विशेष रूप से उन कार्यों के लिए जिनमें गहरी सोच और रचनात्मकता की आवश्यकता होती है। वे दिखाते हैं कि AI के मन में विचारों के "आकार" को समझकर, हम इसे स्मार्ट और रचनात्मक दोनों होने के लिए निर्देशित कर सकते हैं, जिससे गुणवत्ता और विविधता के बीच के पुराने संघर्ष को हल किया जा सकता है। हालांकि पेपर यह दावा नहीं करता है कि इसने AI की हर समस्या को हल कर दिया है, लेकिन इसके परिणाम बताते हैं कि यह "एंट्रॉपी-आधारित मार्गदर्शन" टेक्स्ट-जेनरेटिंग AI को अधिक विश्वसनीय और बहुमुखी बनाने की दिशा में एक महत्वपूर्ण कदम है।

तकनीकी सारांश: अधिक समाधान खोजने के लिए एंट्रॉपी-आधारित मार्गदर्शन के माध्यम से अन्वेषण करना

समस्या विवरण

जबकि डिफ्यूजन मॉडल्स ने उच्च-गुणवत्ता वाले जनरेशन और नियंत्रणीय मार्गदर्शन तंत्रों के माध्यम से निरंतर डोमेन (जैसे इमेज सिंथेसिस) में क्रांति ला दी है, इस नियंत्रण क्षमता को टेक्स्ट की असतत (discrete), अनुक्रमिक प्रकृति तक विस्तारित करना एक महत्वपूर्ण चुनौती बनी हुई है। डिस्क्रीट डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) के लिए वर्तमान सैंपलिंग रणनीतियाँ और मार्गदर्शन विधियाँ, जैसे कि टेम्परेचर स्केलिंग और डिस्क्रीट क्लासिफायर-फ्री गाइडेंस (D-CFG), मुख्य रूप से टोकन संभावनाओं (likelihoods) को समायोजित करती हैं, लेकिन व्यापक अर्थपूर्ण परिदृश्य (semantic landscape) को कैप्चर नहीं करती हैं।

इन मौजूदा विधियों के दो मुख्य सीमाएँ हैं:

अर्थपूर्ण संरचना का अभाव: असतत स्थानों (discrete spaces) में, लॉजिट्स (logits) अर्थपूर्ण समानता के बजाय मॉडल के आत्मविश्वास को दर्शाते हैं। फलस्वरूप, टेम्परेचर स्केलिंग जैसी विधियाँ विविधता उत्पन्न करने के लिए गैर-अर्थपूर्ण वितरण को सपाट करने (यानी रैंडम नॉइज़ इंजेक्ट करने) पर निर्भर करती हैं, जो अक्सर फिडेलिटी (fidelity) को कम कर देती है।
सहसंबंधों की गणनात्मक जटिलता: निरंतर स्थानों में प्रभावी मार्गदर्शन, स्कोर फंक्शन को डिफरिएबल एनर्जी फंक्शन्स के माध्यम से संशोधित करता है। असतत स्थानों में, कैटेगोरिकल पोस्टीरियर को संशोधित करने के लिए $V^L$ अनुक्रमों पर पुन: सामान्यीकरण (re-normalization) की आवश्यकता होती है (जहाँ $V$ वोकैबुलरी का आकार है और $L$ अनुक्रम की लंबाई है), जो गणनात्मक रूप से अव्यवहार्य (intractable) है। हालिया अनुमान लागत को कम करने के लिए टोकन स्वतंत्रता (token independence) को मानते हैं, लेकिन ऐसे गुणनखंड (factorizations) जटिल क्रॉस-टोकन सहसंबंधों की अनदेखी करते हैं जो सुसंगत अर्थपूर्ण संरचना के लिए आवश्यक हैं।

इसके अलावा, जटिल तर्क कार्यों (जैसे कोड और गणित) में, चेन-ऑफ-थॉट्स (CoT) में विविधता मजबूती (robustness) के लिए एक पूर्व शर्त है। वर्तमान विधियाँ अक्सर संभाव्यता वितरण को एक एकल, संभावित रूप से त्रुटिपूर्ण तर्क पथ पर ढहने (collapse) से रोकने में विफल रहती हैं क्योंकि उनमें टेक्स्ट मैनिफोल्ड को संरचनात्मक रूप से एक्सप्लोर करने के लिए तंत्र की कमी होती है।

कार्यप्रणाली: सिमेंटिक-अवेयर कर्नल एंट्रॉपी (SAKE)

लेखक सिमेंटिक-अवेयर कर्नल एंट्रॉपी (SAKE) का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री गाइडेंस विधि है जिसे फिडेलिटी बनाए रखते हुए अनुक्रमिक अर्थपूर्ण विविधता को अधिकतम करने के लिए डिज़ाइन किया गया है। यह कार्यप्रणाली तीन प्रमुख चरणों में आगे बढ़ती है:

1. सैद्धांतिक ढांचा

लेखक टेक्स्ट डिफ्यूजन गाइडेंस के लिए एक एकीकृत ढांचा स्थापित करते हैं। वे एक गाइडेड डिस्ट्रीब्यूशन $P_\gamma$ को परिभाषित करते हैं जो एक गाइडेंस सिग्नल $\psi$ और स्केलर $\gamma$ द्वारा पैरामीटराइज्ड है। प्रपोजिशन 4.1 के माध्यम से, वे प्रदर्शित करते हैं कि शैनन एंट्रॉपी में परिवर्तन बेस मॉडल के लॉग-संभाव्यता और गाइडेंस सिग्नल के बीच नेगेटिव कोवेरिएंस (negative covariance) द्वारा नियंत्रित होता है। इसका तात्पर्य यह है कि विविधता (एंट्रॉपी) बढ़ाने के लिए, जब मॉडल अर्थपूर्ण रूप से रेडंडेंट (redundant) हो, तो गाइडेंस सिग्नल को बेस लॉजिट्स का विरोध करना चाहिए।

2. एम्बेडिंग-स्पेस लीनियराइजेशन के माध्यम से कुशल गणना

डिस्क्रीट डाइवर्सिटी गैप्स के ब्रूट-फोर्स मूल्यांकन (जो $L \times |V|$ के रूप में स्केल करता है) से बचने के लिए, SAKE टोकन एम्बेडिंग्स के ऊपर एक निरंतर डाइवर्सिटी फंक्शन के फर्स्ट-ऑर्डर टेलर एक्सपेंशन का उपयोग करके डाइवर्सिटी फंक्शन को लीनियराइज करता है।

डिस्क्रीट ट्रांजिशन का मूल्यांकन करने के बजाय, यह विधि टोकन एम्बेडिंग्स पर एक निरंतर डाइवर्सिटी फंक्शन $\tilde{D}$ के प्रथम-क्रम टेलर विस्तार का उपयोग करके डाइवर्सिटी पोटेंशियल का अनुमान लगाती है।
गाइडेंस सिग्नल को इस डाइवर्सिटी फंक्शन के ग्रेडिएंट के प्रोजेक्शन के रूप में प्राप्त किया जाता है जो वोकैबुलरी एम्बेडिंग मैट्रिक्स पर आधारित है। यह कम्प्यूटेशनल जटिलता को एक सिंगल बैकवर्ड पास तक कम कर देता है, जिससे यह रियल-टाइम इन्फरेंस के लिए व्यवहार्य हो जाता है।

3. SAKE ऑब्जेक्टिव

इस पद्धति का मूल एक कर्नल ग्राम मैट्रिक्स की ऑर्डर-2 रेनी एंट्रॉपी (Rényi entropy) को अधिकतम करना है जो अर्थपूर्ण समानता और सापेक्ष टोकन स्थितियों दोनों को कैप्चर करता है।

सिमेंटिक कर्नल: टोकन एम्बेडिंग्स के बीच समानता को मापता है ( $K_{ij} = \exp(-\|h_i - h_j\|^2 / 2\sigma^2)$ )।
अटेंशन कर्नल: पोजीशनल प्रासंगिकता को मापता है ( $K^{attn}_{ij} = \exp(-\|i - j\|^2 / 2\sigma^2_{attn})$ )।
डाइवर्सिटी सिग्नल: विधि एक डाइवर्सिटी फंक्शन $\tilde{D}_\kappa$ को परिभाषित करती है जो इन कर्नल्स के नॉर्मलाइज्ड हैडामार्ड प्रोडक्ट (Hadamard product) की एंट्रॉपी को अधिकतम करता है। परिणामी ग्रेडिएंट 'वेटेड रिपल्सिव फोर्सेज' (weighted repulsive forces) के सेट के रूप में कार्य करता है, जो वर्तमान टोकन एम्बेडिंग को अर्थपूर्ण रूप से समान और पोजीशनल रूप से प्रासंगिक संदर्भ टोकन से दूर धकेलता है।

अंतिम गाइडेंस सिग्नल को बेस लॉजिट्स में जोड़ा जाता है, जो डायनामिक रूप से सैंपलिंग डिस्ट्रीब्यूशन को एडजस्ट करता है: मोड कोलैप्स के दौरान एक्सप्लोरेशन को प्रोत्साहित करने के लिए इसे फ्लैट करता है और जब अंतर्निहित विविधता पहले से ही उच्च हो, तो सुसंगतता सुनिश्चित करने के लिए इसे शार्प (sharp) करता है।

मुख्य योगदान

सामान्य डाइवर्सिटी फ्रेमवर्क: एक कुशल कम्प्यूटेशनल फ्रेमवर्क जो टोकन-इंडिपेंडेंस धारणाओं को ओवरकम करने के लिए सीक्वेंस-लेवल सिमेंटिक जानकारी को एकीकृत करता है।
SAKE ऑब्जेक्टिव: एक ट्रैकेबल ऑब्जेक्टिव जो एक कर्नल ग्राम मैट्रिक्स की रेनी एंट्रॉपी को स्पष्ट रूप से मैक्सिमाइज करके सीक्वेंस सिमेंटिक डाइवर्सिटी को मॉडल करता है, जो क्रॉस-टोकन इंटरैक्शन को कैप्चर करता है।
एडाप्टिव मॉड्यूलेशन: एक तंत्र जो एक एडाप्टिव डिस्ट्रीब्यूशन मॉड्यूलेटर के रूप में कार्य करता है, जो जेनरेशन की वर्तमान स्थिति के आधार पर एक्सप्लोरेशन (एंट्रॉपी वृद्धि) और एक्सप्लोइटेशन (एंट्रॉपी कमी) के बीच डायनामिकली स्विच करता है, जो स्टैटिक टेम्परेचर स्केलिंग से भिन्न है।

अनुभवजन्य परिणाम (Empirical Results)

लेखक LLaDA-8B-base मॉडल का उपयोग करके सिंथेटिक सेटिंग्स और मानक LLM बेंचमार्क (HumanEval, MBPP, GSM8K) पर SAKE का मूल्यांकन करते हैं।

पारेटो फ्रंटियर (Pareto Frontier): डाइवर्सिटी-क्वालिटी ट्रेड-ऑफ प्रयोगों (गौसियन मिक्सचर, अरिथमेटिक सीरीज़, स्टोरी कंटीन्यूएशन, और ब्रेनस्टॉर्मिंग) में, SAKE लगातार टेम्परेचर स्केलिंग और D-CFG की तुलना में पारेटो फ्रंटियर को बाहर की ओर शिफ्ट करता है। यह समान गुणवत्ता स्तरों के लिए उच्च विविधता प्राप्त करता है, जबकि टेम्परेचर स्केलिंग एक सख्त ट्रेड-ऑफ को मजबूर करता है जहाँ डाइवर्सिटी लाभों की कीमत पर महत्वपूर्ण गुणवत्ता में गिरावट आती है।
तर्क कार्य (Reasoning Tasks):
- HumanEval: Pass@32 41.1 (Base) से बढ़कर 55.8 (SAKE) हो गया, जो D-CFG (41.2) से बेहतर है।
- MBPP: Pass@32 48.2 (Base) से बढ़कर 56.1 (SAKE) हो गया।
- GSM8K: सेल्फ-कंसिस्टेंसी एक्यूरेसी 71.5 (Base) से बढ़कर 75.1 (SAKE) हो गई।
दक्षता (Efficiency): SAKE नगण्य इन्फरेंस लेटेंसी पेश करता है, जो अनगाइडेड बेसलाइन के लगभग 93% थ्रूपुट को बनाए रखता है। इसके विपरीत, D-CFG कम्प्यूटेशनल पेनल्टी के कारण ~33% की गति में कमी का सामना करता है।
गुणात्मक विश्लेषण: ब्रेनस्टॉर्मिंग कार्यों में, SAKE सफलतापूर्वक सिमेंटिक कंटेंट (विषय, क्रिया, सेटिंग में बदलाव) को विविध बनाता है, बिना रिपीटिटिव सिंटैक्टिक टेम्पलेट्स में ढह जाए, जो कि बेसलाइन का एक फेल्योर मोड है।

महत्व और दावे

पेपर का दावा है कि SAKE डिस्क्रीट डिफ्यूजन मॉडल्स के लिए क्वालिटी-डाइवर्सिटी मैनिफोल्ड को पार करने के लिए एक बेहतर रणनीति प्रदान करता है। एम्बेडिंग स्पेस की अंतर्निहित सिमेंटिक ज्योमेट्री का लाभ उठाकर, SAKE सक्षम बनाता है:

मजबूत तर्क (Robust Reasoning): जटिल तर्क कार्यों में बेहतर प्रदर्शन, जो विविध और प्रशंसनीय तर्क पथ उत्पन्न करके त्रुटिपूर्ण चेन-ऑफ-थॉट पर समय से पहले अभिसरण (convergence) को रोकता है।
ट्रेनिंग-फ्री एडैप्टेशन: अंडरलाइंग डिफ्यूजन मॉडल को फिर से प्रशिक्षित किए बिना डाइवर्सिटी और टास्क सक्सेस को बढ़ाने की क्षमता।
स्केलेबिलिटी: एक लाइटवेट गाइडेंस मैकेनिज्म जो लंबे अनुक्रमों के लिए प्रभावी ढंग से स्केल करता है, जो पिछले डिस्क्रीट गाइडेंस मेथड्स की कम्प्यूटेशनल बाधाओं को संबोधित करता है।

लेखक निष्कर्ष निकालते हैं कि चेन-ऑफ-थॉट्स में विविधता केवल विविधता का स्रोत नहीं है, बल्कि नियत (deterministic) कार्यों में मजबूती के लिए एक पूर्व शर्त है, और SAKE एंट्रॉपी-आधारित मार्गदर्शन के माध्यम से इस सिद्धांत को प्रभावी ढंग से संचालित करता है।