24528 पेपर
यह शोध पत्र M (मल्टी-स्केल मॉर्टन मेजर) को प्रस्तुत करता है, जो एक स्केलेबल फ्रेमवर्क है जो निरंतर भौतिक डोमेन में भविष्यवाणी सटीकता और डेटा दक्षता में महत्वपूर्ण सुधार करके, भौतिक सिमुलेशन के लिए न्यूरल सरोगेट मॉडल के प्रशिक्षण में मेजर-प्रेरित पूर्वाग्रह (measure-induced bias) को कम करने के लिए कई स्थानिक पैमानों (spatial scales) पर पर्यवेक्षण को संतुलित करता है।
यह शोध पत्र लोकल LMO को प्रस्तुत करता है, जो एक प्रोजेक्शन-मुक्त अनुकूलन विधि है जो फ्रैंक-वोल्के के ग्लोबल लीनियर मिनिमाइजेशन ओरेकल को एक लोकल ओरेकल से बदल देता है ताकि पारंपरिक कर्वेचर धारणाओं पर निर्भर किए बिना—स्ट्रॉन्गली कॉन्वेक्स फलनों के लिए लीनियर रेट्स और अनबाउंडेड सेट्स के लिए गारंटी सहित—प्रोजेक्टेड ग्रेडिएंट डिसेंट के तुलनीय अभिसरण दर प्राप्त की जा सके।
यह शोध पत्र नॉन-नॉर्मल (non-normal) और नॉन-कम्यूटिंग (non-commuting) जैकोबियन्स (Jacobians) के कारण होने वाले ट्रांजिएंट एम्प्लीफिकेशन (transient amplification) को ऑटोरेग्रेसिव न्यूरल सिम्युलेटर्स में लॉन्ग-होरिज़न रोलआउट त्रुटियों के मूल कारण के रूप में पहचानता है और एक ज़ीरो-कॉस्ट कम्यूटेटिविटी रेगुलराइजेशन (zero-cost commutativity regularization) विधि प्रस्तावित करता है जो हज़ारों स्टेप्स तक, यहाँ तक कि आउट-ऑफ-डिस्ट्रीब्यूशन (out-of-distribution) स्थितियों में भी, प्रेडिक्शन स्थिरता में महत्वपूर्ण सुधार करती है।
RareCP टाइम सीरीज़ फोरकास्टिंग के लिए एक रेजीम-अवेयर रिट्रीवल विधि है जो अलग-अलग एरर रेजीम्स को पहचानने के लिए मिक्सचर-ऑफ-एक्सपर्ट्स का उपयोग करके और विश्वसनीय, एसिमेट्रिक प्रेडिक्शन इंटरवल्स उत्पन्न करने के लिए प्रासंगिक कैलिब्रेशन उदाहरणों को रिट्रीव करने हेतु एक ड्रिफ्ट-एडैप्टिव हाइपरनेटवर्क का उपयोग करके कॉन्फॉर्मल प्रेडिक्शन दक्षता को बढ़ाता है।
यह शोध पत्र एक गणनात्मक रूप से कुशल मतिभ्रम (hallucination) पहचान पद्धति प्रस्तावित करता है जो अत्याधुनिक MIL दृष्टिकोणों के खर्चीले सिमेंटिक निरंतरता गणनाओं को एक मैक्स-पूलिंग नेटवर्क और हल्के एमएलपी (MLP) से प्रतिस्थापित करता है, जो निर्णय मार्जिन विस्तार (decision margin enlargement) में सैद्धांतिक अंतर्दृष्टि का लाभ उठाकर प्रतिस्पर्धी प्रदर्शन प्राप्त करता है।
यह शोध पत्र लेटेंट-वेरिएबल मॉडल्स में ऑनलाइन एस्टीमेशन के लिए एक उच्च-क्रम संतुलन ट्रैकिंग फ्रेमवर्क (higher-order equilibrium tracking framework) प्रस्तुत करता है जो एस्टीमेटर को एक फ्रोजन बैच इक्विलिब्रियम और एक ट्रैकिंग लैग में विभाजित करता है, और यह सिद्ध करता है कि विशिष्ट EM-कंप्रेसिबिलिटी शर्तों के तहत, ऑनलाइन एस्टीमेटर -वें क्रम के जेट प्रेडिक्टर्स और -वें क्रम के करेक्टर्स के माध्यम से त्वरित अभिसरण दरें प्राप्त करते हुए बैच विधियों के इष्टतम सांख्यिकीय गुणों को विरासत में प्राप्त करता है।
यह शोध पत्र रेनाला एमवीआर (Rennala MVR) का प्रस्ताव करता है, जो रेनाला एसजीडी (Rennala SGD) का एक मोमेंटम-आधारित वेरिएंस रिडक्शन विस्तार है, जो मीन-स्क्वेयर्ड स्मूथनेस मान्यताओं के तहत विषम वातावरण में समानांतर स्टोकेस्टिक अनुकूलन के लिए सैद्धांतिक और अनुभवजन्य रूप से समय जटिलता में सुधार करता है।
यह शोध पत्र एक स्ट्रक्चरल प्रूनिंग विधि प्रस्तुत करता है जो परमाणु फाउंडेशन मॉडल्स (atomistic foundation models) में इरिड्यूसिबल रिप्रेजेंटेशन ब्लॉक्स को हटाकर SO(3) इक्विवेरिएंस (equivariance) को संरक्षित करती है, जिससे पैरामीटर्स और कंप्यूट लागत में महत्वपूर्ण कमी आती है और साथ ही यह सटीकता और डाउनस्ट्रीम फाइन-ट्यूनिंग दक्षता दोनों में स्क्रैच से प्रशिक्षित छोटे मॉडल्स की तुलना में बेहतर प्रदर्शन करती है।
यह शोधपत्र द्विरेखीय ऑटोएनकोडर्स (bilinear autoencoders) प्रस्तुत करता है जो न्यूरल नेटवर्क सक्रियणों (neural network activations) में व्याख्या योग्य, बहु-आयामी मैनिफोल्ड्स को उजागर करने के लिए द्विघातीय लेटेंट्स (quadratic latents) का उपयोग करते हैं, यह प्रदर्शित करते हुए कि गैर-रेखीय ज्यामितीय पूर्वाग्रह (nonlinear geometric priors) व्यवस्थित रूप से पुनर्निर्माण में सुधार कर सकते हैं और उन मिश्रित अवधारणाओं को प्रकट कर सकते हैं जिन्हें रैखिक विधियाँ चूक जाती हैं।
यह शोध पत्र FragileFlow प्रस्तुत करता है, जो एक प्लग-इन रेगुलराइज़र है जो फाउंडेशन मॉडल्स में क्लीन एक्यूरेसी को बनाए रखते हुए वर्स्ट-क्लास रोबस्टनेस को सुधारने के लिए मार्जिन-अवेयर स्पेक्ट्रल एनालिसिस के माध्यम से "करेक्ट-बट-फ्रैजाइल" प्रेडिक्शन एरर्स को औपचारिक रूप देता है और नियंत्रित करता है।