23845 पेपर
यह शोधपत्र SelfJudge का प्रस्ताव करता है, जो एक स्व-पर्यवेक्षित (self-supervised) विधि है जो सिमेंटिक संरक्षण (semantic preservation) के आधार पर स्पेकुलेटिव डिकोडिंग उम्मीदवारों को सत्यापित करने के लिए स्वयं लक्षित मॉडल का उपयोग करके जज वर्िफायर को प्रशिक्षित करती है, जिससे मानव एनोटेशन या ग्राउंड ट्रुथ पर निर्भर किए बिना तेज़ और अधिक सामान्यीकरण योग्य LLM इन्फरेंस सक्षम होता है।
EAGer एक प्रशिक्षण-मुक्त, एंट्रॉपी-जागरूक इन्फरेंस-टाइम स्केलिंग विधि है जो केवल उच्च-अनिश्चितता वाले टोकन पर ही रीजनिंग पथों को ब्रांच करके कंप्यूटेशनल संसाधनों को गतिशील रूप से आवंटित करती है, जिससे टोकन के उपयोग को 64% तक कम किया जा सकता है और जटिल रीजनिंग बेंचमार्क पर Pass@k प्रदर्शन में महत्वपूर्ण सुधार किया जा सकता है।
यह शोध पत्र ORBIT को प्रस्तुत करता है, जो एक रूब्रिक-आधारित वृद्धिशील प्रशिक्षण ढांचा (incremental training framework) है जो खुले-अंत वाले चिकित्सा संवादों पर बड़े भाषा मॉडलों (large language models) को प्रभावी ढंग से संरेखित करने के लिए गतिशील रूप से जनरेट किए गए, केस-कंडीशन्ड रूब्रिक्स का लाभ उठाता है, जिससे पारंपरिक रिवॉर्ड मॉडलिंग की कमियों से बचते हुए न्यूनतम प्रशिक्षण डेटा के साथ अत्याधुनिक प्रदर्शन प्राप्त होता है।
यह शोध पत्र SynthTools का परिचय देता है, जो एक पूर्णतः LLM-आधारित ढांचा है जो स्वचालित रूप से विविध सिंथेटिक टूल वातावरण और कार्यों को उत्पन्न, सत्यापित और स्केल करता है, यह प्रदर्शित करते हुए कि इस सिंथेटिक डेटा पर एजेंटों को प्रशिक्षित करने से वास्तविक दुनिया के बेंचमार्क पर उनके टूल-उपयोग प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र पहला सैद्धांतिक ढांचा और एल्गोरिदम प्रस्तुत करता है जो संपूर्ण स्टेट स्पेस (state space) पर न्यूरॉन्स के लिए गारंटीकृत इष्टतम कंपोजिशनल स्पष्टीकरणों की गणना करता है, यह प्रकट करते हुए कि पिछले बीम-सर्च (beam-search) परिणाम 10-40% तक उप-इष्टतम (suboptimal) हैं और साथ ही एक अधिक लचीला और कुशल विकल्प भी प्रदान करता है।
यह सर्वेक्षण मशीन लर्निंग में डिफ्यूजन विधियों और ऑप्टिमल ट्रांसपोर्ट के बीच गणितीय संबंधों की खोज करता है, जो यह प्रदर्शित करता है कि कैसे समय के साथ विकसित होने वाले संभाव्यता वितरणों (प्रोबेबिलिटी डिस्ट्रीब्यूशन) को मॉडल करने के लिए उनका साझा लैग्रेंजियन ढांचा (लैग्रेंजियन फ्रेमवर्क), जनरेटिव एआई सैंपलिंग और न्यूरल नेटवर्क अनुकूलन से लेकर लार्ज लैंग्वेज मॉडल डायनेमिक्स के विश्लेषण तक के अनुप्रयोगों को एकीकृत करता है।
यह शोधपत्र फ्यू-शॉट ट्रांसपोर्टेबिलिटी (few-shot transportability) के लिए एक रूपरेखा प्रस्तुत करता है जो स्रोत डोमेन से सीखे गए कॉज़ल मैकेनिज्म (causal mechanisms) को संयोजित करके ज़ीरो-शॉट या फ्यू-शॉट भविष्यवाणी सक्षम करने के लिए मॉड्यूल और सर्किट ट्रांसपोर्टेबिलिटी को परिभाषित करता है, जो सैद्धांतिक त्रुटि गारंटी और न्यूनतम डेटा के साथ लक्ष्य कार्यों के अनुकूल होने के लिए एक ग्रेडिएंट-आधारित विधि प्रदान करता है।
यह शोधपत्र तर्क देता है कि विजन ट्रांसफॉर्मर (Vision Transformers) स्वाभाविक रूप से मेंटल रोटेशन जैसे गैर-समाधान योग्य स्थानिक तर्क कार्यों में विफल रहते हैं क्योंकि उनकी निरंतर-गहराई वाली वास्तुकला (constant-depth architecture) जटिलता वर्ग द्वारा कम्प्यूटेशनल रूप से सीमित है, जो जैसे गैर-समाधान योग्य समूहों की बीजगणितीय संरचना को संरक्षित करने के लिए आवश्यक -पूर्ण वर्ड प्रॉब्लम (Word Problem) को हल करने के लिए अपर्याप्त है।
यह शोध पत्र प्रदर्शित करता है कि DeepSeek-V3 LLM में वाक्यात्मक (syntactic) और अर्थगत (semantic) जानकारी आंशिक रूप से रैखिक रूप से एनकोडेड है और परतों (layers) में विभेदात्मक रूप से वितरित है, जैसा कि औसत प्रतिनिधित्व सेंट्रॉइड्स (averaged representation centroids) के घटाव के माध्यम से इन संकेतों को अलग करने की क्षमता से सिद्ध होता है।
यह शोध पत्र यह तर्क देता है कि मानक "ग्लोबल टोकन परप्लेक्सिटी" मीट्रिक मौलिक मोडैलिटी अंतरों के कारण जनरेटिव स्पोकन लैंग्वेज मॉडल्स के मूल्यांकन के लिए अपर्याप्त है, और वैकल्पिक लाइकलीहुड- और जनरेटिव-आधारित मीट्रिक्स का प्रस्ताव करता है जो मानव रेटिंग के साथ बेहतर सहसंबंध रखते हैं और मॉडल्स एवं मानव भाषण के बीच के प्रदर्शन अंतराल को कम दर्शाते हैं।