22775 पेपर
यह शोध पत्र यह प्रदर्शित करता है कि विसंगत या निम्न-निष्ठा वाले डेटा पर प्रशिक्षित डिफ्यूजन मॉडल भी इनवर्स समस्याओं (inverse problems) में मजबूत प्रदर्शन प्राप्त कर सकते हैं जब माप अत्यधिक सूचनात्मक होते हैं, एक ऐसी घटना जिसे उच्च-आयामी पोस्टेरियर्स के अभिसरण और कमजोर एवं मजबूत प्रायर्स (priors) के बीच साझा स्थानीय स्थानिक संरचनाओं द्वारा समझाया गया है।
यह शोध पत्र एक नवीन ट्रांसफार्मर आर्किटेक्चर प्रस्तुत करता है जो समानांतर एम्बेडिंग स्ट्रीम्स और एग्रीगेटेड अटेंशन के माध्यम से विनिमेय टोकन (interchangeable tokens) के पुनर्मूल्यांकन (renaming) के प्रति प्रमाणित अपरिवर्तनीयता (provable invariance) प्राप्त करता है, जिससे ओपन-वोकैबुलरी लर्निंग कार्यों में अनदेखे प्रतीकों के प्रति सामान्यीकरण में महत्वपूर्ण सुधार होता है।
यह शोध पत्र गोलाकार स्लेपियन फलनों (spherical Slepian functions) पर आधारित एक नवीन भौगोलिक स्थान एन्कोडर प्रस्तुत करता है जो उच्च-रिज़ॉल्यूशन, स्थानीयकृत मॉडलिंग प्राप्त करने के लिए रुचि के विशिष्ट क्षेत्रों के भीतर प्रतिनिधित्व क्षमता को केंद्रित करता है और कुशल वैश्विक संदर्भ एकीकरण के लिए एक हाइब्रिड संस्करण भी प्रदान करता है, जो अंततः विविध मशीन लर्निंग कार्यों में मौजूदा बेसलाइन से बेहतर प्रदर्शन करता है।
यह शोध पत्र कॉज़ल प्रिफरेंस एलिसिटेशन (causal preference elicitation) प्रस्तुत करता है, जो एक बेयसियन ढांचा है जो निर्देशित अचक्रीय ग्राफ़ (directed acyclic graphs) पर पश्च वितरण (posterior distributions) को कुशलतापूर्वक केंद्रित करने और सीमित क्वेरी बजट के तहत कॉज़ल डिस्कवरी की सटीकता में सुधार करने के लिए स्थानीय एज संबंधों पर विशेषज्ञों से सक्रिय रूप से प्रश्न पूछता है।
यह शोध पत्र "सेल्फ-सुपरविजन" (Self-Soupervision) प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो मॉडल सूप्स (model soups) को सेल्फ-सुपरवाइज्ड लर्निंग तक विस्तारित करता है ताकि लेबल किए गए डेटा पर निर्भर रहे बिना अधिक सुदृढ़ और सटीक मॉडल बनाने के लिए विविध एसएसएल (SSL) एल्गोरिदम और हाइपरपैरामीटर्स के संयोजन की अनुमति दी जा सके।
यह शोध पत्र न्यूरल अटेंशन सर्च लीनियर (NAtS-L) को प्रस्तुत करता है, जो एक ऐसा फ्रेमवर्क है जो एक ही लेयर के भीतर व्यक्तिगत टोकन को या तो कुशल लीनियर अटेंशन या अभिव्यंजक सॉफ्टमैक्स अटेंशन को गतिशील रूप से असाइन करता है, जिससे लंबी-संदर्भ (long-context) वाली स्थितियों के लिए कम्प्यूटेशनल दक्षता और मॉडल की अभिव्यक्तित्मकता के बीच एक मजबूत संतुलन प्राप्त होता है।
यह शोध पत्र LC-SAC का प्रस्ताव करता है, जो एक लयापुनोव-प्रतिबंधित (Lyapunov-constrained) सॉफ्ट एक्टर-क्रिटिक एल्गोरिदम है जो EDMD और DARE के माध्यम से एक क्लोज्ड-फॉर्म कंट्रोल लयापुनोव फंक्शन प्राप्त करने के लिए कूपमैन ऑपरेटर थ्योरी (Koopman operator theory) का लाभ उठाता है, और इसे क्वाड्रोटर नियंत्रण जैसे सुरक्षा-महत्वपूर्ण प्रक्षेपवक्र ट्रैकिंग कार्यों में स्थिरता सुनिश्चित करने और विचलन को रोकने के लिए एक CVaR-आधारित लैग्रेंजियन दंड (Lagrangian penalty) के रूप में एकीकृत करता है।
यह शोध पत्र ALPS को प्रस्तुत करता है, जो एक पदानुक्रमित निर्णय-समय नियोजन एल्गोरिदम (hierarchical decision-time planning algorithm) है जो बहु-स्तरीय अवस्था-स्थान दूरियों (multi-scale state-space distances) को कैप्चर करने के लिए लाप्लासियन निरूपणों (Laplacian representations) का लाभ उठाता है, जिससे यह प्रभावी रूप से दीर्घ-क्षितिज समस्याओं (long-horizon problems) को विघटित करता है और ऑफलाइन लक्ष्य-सशर्त सुदृढीकरण शिक्षण (offline goal-conditioned reinforcement learning) कार्यों पर मौजूदा बेसलाइनों से बेहतर प्रदर्शन करता है।
यह शोध पत्र यह प्रदर्शित करता है कि व्याख्यात्मक कलाकृतियों (interpretability artifacts) पर हल्के, फ्रोजन एडेप्टर (frozen adapters) को प्रशिक्षित करना बड़े भाषा मॉडलों को अंतर्निहित मॉडल को संशोधित किए बिना, विभिन्न कार्यों और पैमानों में विश्वसनीय, उच्च-गुणवत्ता वाली स्व-व्याख्याएं उत्पन्न करने में सक्षम बनाता है।
यह शोध पत्र सक्रियण स्थिरता (activation stability) को नियंत्रित करने वाले एक लियापुनोव घातांक (Lyapunov exponent) को प्राप्त करने के लिए डीप लीकी रेलू (Leaky ReLU) नेटवर्क का एक कठोर संभाव्य विश्लेषण प्रदान करता है, जो मानक प्रारंभिककरण विधियों की सीमाओं को उजागर करता है और एक नवीन "लियापुनोव प्रारंभिककरण" (Lyapunov initialization) प्रस्तावित करता है जो इष्टतम प्रशिक्षण स्थिरता सुनिश्चित करने के लिए इस घातांक को शून्य पर सेट करता है।