25436 पेपर
यह योगदान STAMP को प्रस्तुत करता है, जो मल्टी-हेड पूलिंग के साथ एक हल्का और लचीला स्पेशियल-टेम्पोरल एडेप्टर है, जो यूनिवेरिएट एम्बेडिंग्स का लाभ उठाकर स्पैटियोटेम्पोरल फीचर्स को अंतर्निहित रूप से कैप्चर करने के माध्यम से सामान्य टाइम-सीरीज फाउंडेशन मॉडल्स को क्लिनिकल EEG कार्यों पर विशिष्ट EEG फाउंडेशन मॉडल्स के समान प्रदर्शन प्राप्त करने में सक्षम बनाता है।
यह शोध पत्र NEAT प्रस्तुत करता है, जो एक नवीन नेबरहुड-गाइडेड ऑटोरेग्रेसिव सेट ट्रांसफॉर्मर है जो QM9 और GEOM-Drugs डेटासेट पर परमाणु स्तर पर क्रम-स्वतंत्र प्रशिक्षण रणनीति के माध्यम से क्रम-अपरिवर्तनीयता सुनिश्चित करके 3D अणु निर्माण में पर्याप्त गति लाभ के साथ अत्याधुनिक गुणवत्ता प्राप्त करता है।
यह शोध पत्र प्रकट करता है कि Llama-3.2 मॉडलों में GLU-MLP परतों की संरचित चौड़ाई प्रूनिंग (structured width pruning) एक अनूठा व्यापार-समझौता (trade-off) उत्पन्न करती है जहाँ विस्तार अनुपात (expansion ratio) को कम करने से पैरामीट्रिक ज्ञान घटता है और ऊर्जा दक्षता बढ़ती है, फिर भी विरोधाभासी रूप से यह बहु-चरणीय तर्क क्षमताओं को सुरक्षित रखते हुए निर्देश-अनुपालन और सत्यता को बढ़ाता है।
यह शोध पत्र वर्चुअल सेंसरों के लिए एक स्केलेबल, मल्टी-टास्क मशीन लर्निंग मॉडल प्रस्तुत करता है जो कार्यों की सहक्रियाओं (synergies) का लाभ उठाकर और प्रासंगिक इनपुट को स्वचालित रूप से सीखकर विविध संकेतों की कुशलतापूर्वक और बेहतर सटीकता के साथ एक साथ भविष्यवाणी करता है, जिससे मौजूदा आइसोलेटेड या फाउंडेशन-आधारित दृष्टिकोणों की कम्प्यूटेशनल और स्केलेबिलिटी सीमाओं को दूर किया जा सके।
यह योगदान CLAMP को प्रस्तुत करता है, जो एक नवीन 3D प्री-ट्रेनिंग फ्रेमवर्क है जो सिम्युलेटेड और वास्तविक दुनिया के कार्यों में रोबोट मैनिपुलेशन पॉलिसियों की सैंपल एफिशिएंसी और प्रदर्शन को बेहतर बनाने के लिए मल्टी-व्यू पॉइंट क्लाउड्स और रोबोटिक एक्शन्स पर कंट्रास्टिव लर्निंग का लाभ उठाता है।
यह शोध पत्र मल्टी-स्केल वेवलेट ट्रांसफॉर्मर्स (MSWTs) प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो मौजूदा न्यूरल ऑपरेटर्स के स्पेक्ट्रल बायस (spectral bias) को दूर करने के लिए टोकनाइज्ड वेवलेट डोमेन में डायनेमिकल सिस्टम की गतिशीलता को सीखता है, जिससे अराजक (chaotic) और वास्तविक दुनिया के जलवायु पूर्वानुमान कार्यों में दीर्घकालिक स्थिरता और उच्च-आवृत्ति निष्ठा (high-frequency fidelity) में महत्वपूर्ण सुधार होता है।
यह शोध पत्र एक सकारात्मक नॉर्म-फीडबैक लूप की पहचान करता है जो क्रमिक मॉडल संपादन (sequential model edits) को खराब करता है और नॉर्म-एंकर स्केलिंग (NAS) का प्रस्ताव करता है, जो एक सरल प्लग-इन विधि है जो इस लूप को तोड़ने के लिए वैल्यू वेक्टर्स को पुन: स्केल करती है, जिससे व्यक्तिगत संपादन की प्रभावशीलता को बनाए रखते हुए उपयोग योग्य संपादन क्षितिज को चार गुना से अधिक बढ़ाया जा सकता है।
यह शोध पत्र ऑगमेंटेड लैग्रेंजियन-गाइडेड डिफ्यूजन (ALGD) का प्रस्ताव करता है, जो एक नवीन ऑफ-पॉलिसी सेफ रिइन्फोर्समेंट लर्निंग एल्गोरिदम है जो एक ऑगमेंटेड लैग्रेंजियन का उपयोग करके नॉन-कॉन्वेक्स एनर्जी लैंडस्केप को स्थानीय रूप से कॉनवेक्सिफाई करता है, जिससे ऑनलाइन सेटिंग्स में डिफ्यूजन-आधारित पॉलिसी ट्रेनिंग को स्थिर किया जाता है, और इस प्रकार इष्टतम पॉलिसी डिस्ट्रीब्यूशन से समझौता किए बिना सुरक्षित और प्रभावी मल्टीमॉडल एक्शन जनरेशन सुनिश्चित किया जाता है।
यह शोध पत्र यह स्थापित करता है कि मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) आर्किटेक्चर में स्पर्सिटी (sparsity), ट्रॉपिकल ज्योमेट्री (tropical geometry) का लाभ उठाते हुए 'कॉम्बिनेटोरियल डेप्थ' (combinatorial depth) के रूप में कार्य करती है, जिससे यह सिद्ध होता है कि टॉप- रूटिंग इनपुट स्पेस को हाइपरसिम्प्लेक्स नॉर्मल फैन्स (hypersimplex normal fans) में विभाजित करती है, जिसके परिणामस्वरूप MoE मॉडल घने (dense) नेटवर्क की तुलना में बेहतर ज्यामितीय अभिव्यक्तता (geometric expressivity) और कम-आयामी डेटा पर क्षमता पतन (capacity collapse) के विरुद्ध "कॉम्बिनेटोरियल रेजिलिएंस" (combinatorial resilience) प्राप्त करते हैं।
यह लेख मैकनेमर टेस्ट (McNemar test) पर आधारित एक सांख्यिकीय रूप से पुष्ट परिकल्पना परीक्षण ढांचे का प्रस्ताव करता है ताकि अनुकूलन प्रक्रियाओं (optimization processes) से उत्पन्न होने वाली संख्यात्मक त्रुटियों के कारण होने वाले सूक्ष्म मॉडल क्षरणों को विश्वसनीय रूप से पहचाना जा सके, उन्हें सौम्य मूल्यांकन शोर (benign evaluation noise) से अलग किया जा सके, और इस प्रकार गलत सकारात्मक दर (false positive rate) को नियंत्रित किया जा सके।