9931 पेपर
यह सर्वेक्षण डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) का एक व्यापक अवलोकन प्रदान करता है, जो उनके विकास, मूलभूत सिद्धांतों, अत्याधुनिक तकनीकों, अनुमान अनुकूलन (inference optimizations), मल्टीमॉडल विस्तार और व्यावहारिक अनुप्रयोगों का विवरण देते हुए वर्तमान चुनौतियों को संबोधित करता है और ऑटोरिग्रेसिव प्रतिमानों के एक आशाजनक विकल्प के रूप में भविष्य के अनुसंधान दिशाओं को रेखांकित करता है।
यह शोध पत्र DocHop-QA प्रस्तुत करता है, जो PubMed लेखों से प्राप्त 11,000 से अधिक इंस्टेंस का एक बड़े पैमाने का बेंचमार्क है, जो एक नवीन LLM-संचालित जनरेशन पाइपलाइन और एक व्यापक कार्य-संचालित मूल्यांकन ढांचे के माध्यम से मल्टीमॉडल, मल्टी-डॉक्यूमेंट, मल्टी-हॉप वैज्ञानिक तर्क का मूल्यांकन करता है।
यह अध्ययन PEM-Rel-8K डेटासेट प्रस्तुत करता है और प्रदर्शित करता है कि इस बहु-विषयक संसाधन पर बड़े भाषा मॉडलों को फाइन-ट्यून करने से बायोमेडिसिन, भौतिकी और इंजीनियरिंग में अनुसंधान विषय ऑन्टोलॉजी उत्पन्न करने की उनकी क्षमता में महत्वपूर्ण सुधार होता है, जो ज़ीरो-शॉट और चेन-ऑफ-थॉट प्रॉम्प्टिंग दृष्टिकोणों से बेहतर प्रदर्शन करता है।
यह शोध पत्र CoT-Space को प्रस्तुत करता है, जो एक सैद्धांतिक ढांचा है जो चेन-ऑफ-थॉट (Chain-of-Thought) तर्क को एक निरंतर अर्थपूर्ण स्थान (continuous semantic space) के भीतर एक अनुकूलन प्रक्रिया के रूप में मॉडल करता है ताकि अंडरफिटिंग और ओवरफिटिंग के बीच एक ट्रेड-ऑफ के रूप में इष्टतम तर्क लंबाई के अभिसरण (convergence) की व्याख्या की जा सके, जिससे सुदृढीकरण शिक्षण (Reinforcement Learning) के माध्यम से टेस्ट-टाइम स्केलिंग के लिए एक सिद्धांतपूर्ण आधार प्रदान किया जा सके।
यह शोध पत्र एलएलएम (LLM) बेंचमार्किंग में शास्त्रीय अनुमान और प्रॉम्प्ट निर्भरता की सीमाओं को संबोधित करने के लिए एम्बेडिंग-स्पेस क्लस्टरिंग के साथ एक सुधारात्मक बेयसियन पदानुक्रमित मॉडल प्रस्तावित करता है, जिससे अधिक मजबूत प्रदर्शन मेट्रिक्स प्राप्त होते हैं और सीमित-डेटा सेटिंग्स में त्रुटियों में महत्वपूर्ण कमी आती है।
यह शोधपत्र ट्रांसफॉर्मर-आधारित लार्ज लैंग्वेज मॉडल्स के लिए लोकल एक्सप्लेनेबिलिटी (स्थानीय व्याख्यात्मकता) और मैकेनिस्टिक इंटरप्रिटेबिलिटी (यांत्रिक व्याख्यात्मकता) दृष्टिकोणों की समीक्षा करता है, विश्वास निहितार्थों का आकलन करने के लिए स्वास्थ्य सेवा और स्वायत्त ड्राइविंग में उनके अनुप्रयोग पर प्रयोगात्मक अध्ययन प्रस्तुत करता है, और मानव-संरेखित, विश्वसनीय स्पष्टीकरण उत्पन्न करने के लिए भविष्य की चुनौतियों और अवसरों को रेखांकित करता है।
यह शोध पत्र SSA का प्रस्ताव देता है, जो एक ऐसा प्रशिक्षण ढांचा है जो उनके आउटपुट को फीचर स्पेस में संरेखित करके स्पार्स और फुल अटेंशन के बीच प्रदर्शन के अंतर को पाटता है, जिससे कम जटिलता और बेहतर लॉन्ग-कॉन्टेक्स्ट क्षमताओं के साथ अत्याधुनिक परिणाम प्राप्त होते हैं।
ReTreVal एक प्रशिक्षण-मुक्त (training-free) ढांचा है जो एडेप्टिव ट्री एक्सप्लोरेशन, टाइप्ड-फेलियर बैकट्रैकिंग और विफलता के संदर्भ को बनाए रखने के लिए सेल्फ-रीराइटिंग मेमोरी का उपयोग करके लार्ज लैंग्वेज मॉडल्स को इन्फरेंस के दौरान विभिन्न समस्याओं के माध्यम से सीखने में सक्षम बनाता है, जिससे बिना किसी फाइन-ट्यूनिंग के जटिल तर्क संबंधी कार्यों पर प्रदर्शन में उल्लेखनीय वृद्धि होती है।
यह शोध पत्र डायनेमिक थिंकिंग-टोकन सिलेक्शन (DynTS) का प्रस्ताव करता है, जो एक ऐसी विधि है जो रीजनिंग ट्रेसेस में निर्णय-महत्वपूर्ण टोकन के केवल की-वैल्यू (Key-Value) कैश स्टेट्स को पहचानने और बनाए रखने तथा अनावश्यक प्रविष्टियों को हटाने के माध्यम से लार्ज रीजनिंग मॉडल्स की दक्षता को बढ़ाती है।
यह शोध पत्र OdysseyArena को प्रस्तुत करता है, जो 120 मानकीकृत कार्यों और अत्यधिक तनाव परीक्षणों से बना एक नवीन बेंचमार्क है जिसे बड़े भाषा मॉडलों की दीर्घकालिक (long-horizon), सक्रिय और आगमनात्मक (inductive) अंतःक्रियाओं को करने की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो यह प्रकट करता है कि अत्याधुनिक मॉडल भी जटिल वातावरणों में अंतर्निहित संक्रमण नियमों (latent transition laws) को स्वायत्त रूप से खोजने में संघर्ष करते हैं।