27306 पेपर
यह शोध पत्र VNN-LIB 2.0 प्रस्तुत करता है, जो न्यूरल नेटवर्क सत्यापन के लिए एक कठोरता से औपचारिक रूप से परिभाषित मानक है, जो विकसित होते ONNX मॉडलों से स्पेसिफिकेशन को अलग करने के लिए एक "नेटवर्क थ्योरी" एब्स्ट्रैक्शन पेश करता है, और साथ ही आंतरिक निरंतरता और इंटरऑपरेबिलिटी सुनिश्चित करने के लिए Agda में मशीनाइज की गई एक सटीक सिंटैक्स, टाइप सिस्टम और सिमेंटिक्स प्रदान करता है।
NPMixer एक पदानुक्रमित (hierarchical) टाइम सीरीज़ फोरकास्टिंग मॉडल है जो अनुकूलन योग्य ट्रेंड-डिटेल अपघटन (decomposition) के लिए एक सीखने योग्य स्टेशनरी वेवलेट ट्रांसफॉर्म को नेबरिंग पैच मिक्सिंग मैकेनिज्म के साथ जोड़ता है ताकि स्थानीय टेम्पोरल डायनेमिक्स और वैश्विक चैनल सहसंबंधों (global channel correlations) को प्रभावी ढंग से कैप्चर किया जा सके, जिससे कई बेंचमार्क पर अत्याधुनिक (state-of-the-art) प्रदर्शन प्राप्त होता है।
SHRED एक नवीन, रिटेन-सेट-मुक्त (retain-set-free) मशीन अनलर्निंग विधि है जो बड़े भाषा मॉडलों के लिए, सेल्फ-डिस्टिलेशन के माध्यम से उच्च-सूचना वाले टोकनों की पहचान और उन्हें डिमोट करके याद किए गए कंटेंट को चुनिलेक्टिव रूप से हटाती है, जिससे बिना किसी क्यूरेटेड रिटेन सेट की आवश्यकता के, भूलने की प्रभावकारिता और मॉडल उपयोगिता के बीच श्रेष्ठ संतुलन प्राप्त किया जाता है।
यह शोध पत्र तर्क देता है कि न्यूरल नेटवर्क में आउट-ऑफ-डिस्ट्रीब्यूशन जनरलाइजेशन (out-of-distribution generalization), फीचर इंजीनियरिंग और संरचनात्मक प्रतिबद्धताओं (structural commitments) के माध्यम से उत्पन्न "आइडेंटिफिएबिलिटी बायस" (identifiability bias) पर निर्भर करता है, जो केवल इन-डिस्ट्रीब्यूशन डेटा से डेटा-जनरेटिंग प्रक्रियाओं की नॉन-आइडेंटिफिएबिलिटी (non-identifiability) को हल करते हैं, जिससे तब सफल एक्सट्रपलेशन (extrapolation) सक्षम होता है जब चुने गए निरूपण (representations) अंतर्निहित कारण संरचना (underlying causal structure) को सही ढंग से कैप्चर करते हैं।
यह शोध पत्र LiteGUI का प्रस्ताव करता है, जो एक नवीन SFT-मुक्त प्रशिक्षण प्रतिमान है जो गाइडेड ऑन-पॉलिसी डिस्टिलेशन और एक मल्टी-सॉल्यूशन ड्यूल-लेवल GRPO फ्रेमवर्क को जोड़ता है ताकि हल्के, ऑन-डिवाइस GUI एजेंटों के प्रदर्शन को महत्वपूर्ण रूप से बढ़ाया जा सके, जिससे 2B/3B स्केल के मॉडल बहुत बड़े मॉडलों के बराबर अत्याधुनिक परिणाम प्राप्त करने में सक्षम हो सकें।
यह शोध पत्र यह प्रदर्शित करते हुए कि इसके टर्मिनल असाइनमेंट क्षेत्र खुले और सरल रूप से जुड़े (simply connected) हैं, सेमी-डिस्क्रीट फ्लो मैचिंग की अंतर्निहित ज्यामिति का विश्लेषण करता है, जो कि ऑप्टिमल ट्रांसपोर्ट के उत्तल लैगर सेल (convex Laguerre cells) से मौलिक रूप से भिन्न हैं क्योंकि वे संभावित रूप से गैर-उत्तलता (non-convexity), वक्रीय सीमाओं और विशिष्ट आसन्नता पैटर्न (adjacency patterns) को प्रदर्शित कर सकते हैं।
यह शोधपत्र ग्राफ न्यूरल नेटवर्क स्पष्टीकरणों में आत्म-असंगति के कारणों की जांच करता है, एज संवेदनशीलता (edge sensitivity) को समझाने के लिए एक लेटेंट सिग्नल असाइनमेंट परिकल्पना प्रस्तावित करता है और एक प्रशिक्षण-मुक्त सेल्फ-डीनॉइजिंग रणनीति पेश करता है जो न्यूनतम कम्प्यूटेशनल ओवरहेड के साथ स्पष्टीकरणों को प्रभावी ढंग से कैलिब्रेट करती है।
यह शोध पत्र ELBO समाधानों के अस्तित्व को सिद्ध करके और ब्लम-ग्लाडिशेव (Blum-Gladyshev) स्थिति के तहत डायनेमिक बैचिंग और प्रीकंडीशनिंग के साथ मिनीबैट प्रोजेक्टेड SGD के लिए अभिसरण गारंटी स्थापित करके, स्टोकेस्टिक ऑप्टिमाइज़ेशन थ्योरी और ब्लैक-बॉक्स वेरिएशनल इन्फरेंस (BBVI) के बीच के अंतर को पाटता है, जो BBVI ग्रेडिएंट्स में अंतर्निहित अनबाउंडेड वेरिएंस को ध्यान में रखता है।
यह शोध पत्र क्लास-वाइज कैलिब्रेशन और एक टू-स्टेप पाइपलाइन के साथ एक स्केल्ड, कोऑर्डिनेट-वाइज दृष्टिकोण पेश करके मल्टी-आउटपुट ऑब्जेक्ट डिटेक्शन पर कॉन्फॉर्मल प्रेडिक्शन लागू करने की चुनौतियों का समाधान करता है, जो कठोर कवरेज गारंटी बनाए रखते हुए स्वायत्त ड्राइविंग डेटासेट्स में प्रेडिक्शन इंटरवल शार्पनेस और IoU में महत्वपूर्ण सुधार करता है।
यह शोध पत्र डिसएग्रीमेंट-रेगुलराइज्ड इम्पोर्टेंस सैंपलिंग (DR-IS) को प्रस्तुत करता है, जो एक सुदृढ़ सब-सैंपलिंग विधि है जो प्रतिकूल लेबल भ्रष्टाचार (adversarial label corruption) को प्रभावी ढंग से कम करने के लिए एक एनसेंबल में लॉस रैंक-डिसएग्रीमेंट का लाभ उठाती है और EL2N जैसे मैग्नीट्यूड-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करती है, जिसे कठोर परिमित-नमूना एकाग्रता सीमाओं (finite-sample concentration bounds) द्वारा समर्थित किया गया है जो स्वच्छ और भ्रष्ट उदाहरणों के बीच सख्त पृथक्करण की गारंटी देते हैं।