26464 पेपर
यह शोध पत्र विश्वास-स्थान गतिकी (belief-space dynamics) में स्वीकार्य लर्निंग-रेट स्टेप्स के लिए एक क्लोज्ड-फॉर्म अपर बाउंड व्युत्पन्न करता है, जहाँ अपडेट को संभाव्यता सिम्प्लेक्स (probability simplex) पर प्रोजेक्टेड फॉरवर्ड स्टेप्स के रूप में मॉडल किया गया है, और स्वीकार्यता को नेचुरल KL/ब्रेगमैन ज्यामिति (natural KL/Bregman geometry) में कॉन्ट्रैक्टिविटी के रूप में परिभाषित किया गया है।
यह शोध पत्र ग्रेडिएंट एक्सट्रैपोलेशन-आधारित पॉलिसी ऑप्टिमाइज़ेशन (GXPO) का प्रस्ताव करता है, जो GRPO-शैली के रीजनिंग RL के लिए एक प्लग-कम्पैटिबल विधि है, जो बिना किसी नए रोलआउट की आवश्यकता के, केवल तीन बैकवर्ड पास का उपयोग करके महंगे मल्टी-स्टेप लुकअहेड्स का अनुमान लगाता है ताकि pass@1 प्रदर्शन और प्रशिक्षण दक्षता में महत्वपूर्ण सुधार किया जा सके।
यह शोध पत्र 'वेब्लिका' (Weblica) का परिचय देता है, जो एक ऐसा फ्रेमवर्क है जो स्केलेबल और पुनरुत्पादक (reproducible) वेब वातावरण बनाने के लिए HTTP-स्तरीय कैशिंग और LLM-आधारित संश्लेषण (synthesis) का लाभ उठाता है, जिससे वेब्लिका-8B मॉडल को प्रशिक्षित करना सक्षम होता है जो विजुअल वेब नेविगेशन कार्यों में मौजूदा ओपन-वेट बेसलाइनों से बेहतर प्रदर्शन करता है।
यह शोधपत्र Louver को प्रस्तुत करता है, जो एक नवीन, हार्डवेयर-अनुकूलित इंडेक्स है जो स्पार्स अटेंशन (sparse attention) को हाफस्पेस रेंज सर्चिंग समस्या के रूप में पुनर्गठित करता है ताकि KV कैश रिट्रीवल में शून्य फॉल्स नेगेटिव (false negatives) की गारंटी दी जा सके, जिससे मौजूदा स्पार्स और डेंस अटेंशन विधियों की तुलना में बेहतर सटीकता और रनटाइम दक्षता प्राप्त की जा सके।
यह शोध पत्र मोंगे इनसेप्शन डिस्टेंस (MIND) का प्रस्ताव करता है, जो एक जनरेटिव मॉडल मूल्यांकन मीट्रिक है जो मानक फ्रैच इनसेप्शन डिस्टेंस (FID) की तुलना में बेहतर सैंपल दक्षता, गणनात्मक गति और एडवरसेरियल हमलों के विरुद्ध मजबूती प्राप्त करने के लिए स्लाइसड वासरस्टीन डिस्टेंस का लाभ उठाता है।
LookWhen एक कुशल वीडियो रिकग्निशन फ्रेमवर्क है जो केवल सबसे सूचनात्मक टोकन की पहचान करने और उन्हें प्रोसेस करने के लिए एक शैलो सेलेक्टर (shallow selector) का उपयोग करता है, जिससे यह कब, कहाँ और क्या कंप्यूट करना है, यह सीखकर मौजूदा मॉडलों की तुलना में बेहतर सटीकता-कंप्यूटेशन ट्रेड-ऑफ प्राप्त करता है।
यह शोध पत्र मॉडल-टू-डेटा (M2D) डिस्टिलेशन पेश करता है, जो एक ऐसा ढांचा है जो मॉडल की जटिलता को डेटा स्पेस में स्थानांतरित करके ग्राफ न्यूरल नेटवर्क की पारदर्शिता को बढ़ाता है, जिससे सरल स्टूडेंट मॉडल शिक्षक के प्रदर्शन से मेल खा सकते हैं और साथ ही वास्तुशिल्प लाभों और अंतर्निहित तंत्रों को सीधे निरीक्षण योग्य बनाते हैं।
यह शोधपत्र एक एकीकृत माप-सैद्धांतिक (measure-theoretic) ढांचा प्रस्तुत करता है जो यह प्रकट करता है कि डिफ्यूजन मॉडल, स्कोर-आधारित जनरेटिव मॉडल और फ्लो मैचिंग, एक संदर्भ वितरण को डेटा वितरण तक ले जाने के लिए समय-निर्भर वेक्टर क्षेत्रों को सीखने के उदाहरण हैं, जिससे उनकी साझा गणितीय संरचना, व्यावहारिक ट्रेडऑफ़ और सैद्धांतिक संबंधों को स्पष्ट किया जा सके।
यह शोध पत्र ProtSent को पेश करता है, जो एक कंट्रास्टिव फाइन-ट्यूनिंग फ्रेमवर्क है जो प्रोटीन लैंग्वेज मॉडल्स को सामान्य-उद्देश्य वाले एम्बेडिंग मॉडल्स में अनुकूलित करता है, जिससे कार्य-विशिष्ट पर्यवेक्षण की आवश्यकता के बिना प्रोटीन कार्य, संरचना और विकास से संबंधित 23 डाउनस्ट्रीम कार्यों में प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र सैद्धांतिक रूप से प्रदर्शित करता है कि DDIM की नियत प्रकृति (deterministic nature) इसे गॉसियन मिश्रण लक्ष्यों (Gaussian mixture targets) के बीच फंसने और मतिभ्रम (hallucinate) करने के लिए मजबूर करती है, जबकि DDPM की स्टोकेस्टिसिटी (stochasticity) इसे इन क्षेत्रों से बाहर निकलने में सक्षम बनाती है, एक ऐसा निष्कर्ष जो यह सुझाव देता है कि DDIM की नमूना गुणवत्ता (sampling quality) में सुधार करने के लिए स्टोकेस्टिक चरणों को शामिल किया जा सकता है।