🤖 Category

cs.LG

27461 पेपर

🤖 machine learning

Mono-Forward: Revisiting Forward-Forward through Objective-Locality Decomposition

यह शोध पत्र Mono-Forward को प्रस्तुत करता है, जो एक स्थानीय शिक्षण एल्गोरिदम है जो फॉरवर्ड-फॉरवर्ड एल्गोरिदम के कंट्रास्टिव गुडनेस ऑब्जेक्टिव को एक मानक क्रॉस-एन्ट्रॉपी लॉस से बदल देता है, यह प्रदर्शित करते हुए कि यह संशोधन न केवल वैनिला फॉरवर्ड-फॉरवर्ड की तुलना में सटीकता में सुधार करता है बल्कि बैकप्रोपैगेशन के साथ प्रतिस्पर्धी या बेहतर प्रदर्शन भी प्राप्त करता है और मेमोरी ओवरहेड को काफी कम करता है।

James Gong, Bruce Li, Waleed Abdulla2026-05-08
📊 statistics

Two-Point Deterministic Equivalence for Stochastic Gradient Dynamics in Linear Models

यह लेख रैंडम मैट्रिसेस के रेज़ोल्वेंट्स (resolvents) के टू-पॉइंट फंक्शन के लिए एक नए डिटरमिनिस्टिक इक्विवेलेंट (deterministic equivalent) को प्रस्तुत करता है ताकि स्टोकेस्टिक ग्रेडिएंट डिसेंट के साथ प्रशिक्षित विभिन्न उच्च-आयामी रैखिक मॉडलों के प्रदर्शन का विश्लेषण करने के लिए एक एकीकृत ढांचा स्थापित किया जा सके।

Alexander Atanasov, Blake Bordelon, Jacob A. Zavatone-Veth, Courtney Paquette, Cengiz Pehlevan2026-05-08
🤖 machine learning

Learning the symmetric group: large from small

यह लेख एक स्केलेबल मशीन लर्निंग पद्धति प्रस्तावित करता है जिसमें विशिष्ट ट्रांसपोज़िशन रणनीतियों का उपयोग करके छोटे सममित समूहों (जैसे कि S10S_{10}) में क्रमपरिवर्तन (permutations) की भविष्यवाणी करने के लिए प्रशिक्षित ट्रांसफॉर्मर मॉडल, डेटा जनरेशन और व्याख्यात्मकता की चुनौतियों को संबोधित करने के लिए आइडेंटिटी ऑग्मेंटेशन और पार्टीशन विंडो जैसी तकनीकों का उपयोग करते हुए, काफी बड़े समूहों (जैसे कि S25S_{25}) में लगभग पूर्ण सटीकता के साथ सामान्यीकरण करते हैं।

Max Petschack, Alexandr Garbali, Jan de Gier2026-05-08
🤖 machine learning

Teaching Metric Distance to Discrete Autoregressive Language Models

यह शोध पत्र DIST2Loss प्रस्तुत करता है, जो एक दूरी-जागरूक (distance-aware) ऑब्जेक्टिव फंक्शन है जो डिस्क्रीट ऑटोरेग्रेसिव लैंग्वेज मॉडल्स के लिए पारंपरिक वन-हॉट लक्ष्यों को रिवॉर्ड-वेटेड डिस्ट्रीब्यूशंस से बदल देता है ताकि टोकन्स के बीच मेट्रिक संबंधों का लाभ उठाकर विजुअल ग्राउंडिंग, रोबोटिक्स और इमेज जनरेशन जैसे विविध कार्यों में डेटा दक्षता और प्रदर्शन में सुधार किया जा सके।

Jiwan Chung, Saejin Kim, Yongrae Jo, Jaewoo Park, Dongjun Min, Youngjae Yu2026-05-08
🤖 machine learning

Local-Order Auxiliary Losses Can Improve Autoencoder Reconstruction

यह शोध पत्र यह प्रदर्शित करता है कि मीन-स्क्वेयर्ड एरर (mean-squared error) के साथ 'फाइनाइट-डिफरेंस साइन एरर' (FDSE) नामक एक सरल, अवकलनीय (differentiable) स्थानीय-क्रम सहायक हानि (local-order auxiliary loss) को शामिल करने से सुसंगत स्थानिक क्षेत्रों (coherent spatial fields) के लिए सीमित-क्षमता वाले ऑटोएनकोडर्स में पॉइंटवाइज पुनर्निर्माण सटीकता में महत्वपूर्ण सुधार होता है, जो इस धारणा को चुनौती देता है कि संरचनात्मक उद्देश्यों को पिक्सेल-स्तरीय परिशुद्धता के विरुद्ध समझौता करना चाहिए।

Harvey Dam, Martin Burtscher, Tripti Agarwal, Ganesh Gopalakrishnan2026-05-08
📊 statistics

Sharp Gaussian approximations for Decentralized Federated Learning

यह कार्य विकेंद्रीकृत फेडरेटेड लर्निंग में लोकल SGD के लिए दो सामान्यीकृत गॉसियन सन्निकटन परिणाम स्थापित करता है—अंतिम पुनरावृत्तियों के लिए एक बेरी-एसेन प्रमेय और संपूर्ण प्रक्षेपवक्र के लिए समय-में-एकसमान (uniform-in-time) सन्निकटन—जो बूटस्ट्रैप प्रक्रियाओं के माध्यम से वैध सांख्यिकीय अनुमान और प्रतिकूल हमलों का सुदृढ़ पता लगाने में सक्षम बनाता है।

Soham Bonnerjee, Sayar Karmakar, Wei Biao Wu2026-05-08
📊 statistics

Why and When Deep is Better than Shallow: Implementation-Agnostic State-Transition Model of Deep Learning

यह शोध पत्र एक कार्यान्वयन-अज्ञेय (implementation-agnostic) अवस्था-संक्रमण मॉडल का उपयोग यह प्रदर्शित करने के लिए करता है कि डीप लर्निंग सामान्यीकरण (generalization) में सुधार करती है जब तीव्र सन्निकटन लाभों को ज्यामितीय रूप से सुव्यवस्थित (geometrically tame) संक्रमण अर्धसमूहों (transition semigroups) के साथ जोड़ा जाता है जो सांख्यिकीय जटिलता को घातीय वृद्धि से पीड़ित होने से रोकते हैं।

Sho Sonoda, Yuka Hashimoto, Isao Ishikawa, Masahiro Ikeda2026-05-08
🤖 machine learning

Amortized Linear-time Exact Shapley Value for Product-Kernel Methods

यह शोध पत्र PKeX-Shapley प्रस्तुत करता है, जो एक नवीन एल्गोरिदम है जो उत्पाद कर्नेल (product kernels) की गुणात्मक संरचना का लाभ उठाकर सभी विशेषताओं के लिए एमोर्टाइज्ड लीनियर समय में सटीक, पैरामीटर-मुक्त शापली मान (Shapley values) की गणना करता है, जिससे कर्नेल-आधारित व्याख्यात्मकता और सांख्यिकीय विश्लेषण के लिए मौजूदा सन्निकटन विधियों में निहित कम्प्यूटेशनल जटिलता और अनुमान त्रुटियों पर विजय प्राप्त होती है।

Majid Mohammadi, Siu Lun Chau, Krikamol Muandet2026-05-08
🤖 machine learning

Cohort-Based Active Modality Acquisition

यह शोध पत्र कोहॉर्ट-आधारित सक्रिय मोडैलिटी अधिग्रहण (CAMA) प्रस्तुत करता है, जो एक नवीन टेस्ट-टाइम फ्रेमवर्क है जो इम्प्यूटेशन-आधारित रणनीतियों का उपयोग करके कुशलतापूर्वक यह प्राथमिकता देता है कि एक कोहॉर्ट के किन नमूनों को महंगी अतिरिक्त मोडैलिटी प्राप्त होनी चाहिए, जो मौजूदा विधियों की तुलना में बेहतर प्रदर्शन और UK बायोबैंक प्रोटिओमिक्स डेटा का उपयोग करके रोग भविष्यवाणी में वास्तविक दुनिया की प्रयोज्यता प्रदर्शित करता है।

Tillmann Rheude, Roland Eils, Benjamin Wild2026-05-08
🔢 mathematics

Position: Adopt Constraints Over Fixed Penalties in Deep Learning

यह स्थिति पत्र (position paper) तर्क देता है कि गैर-परक्राम्य (non-negotiable) आवश्यकताओं वाले डीप लर्निंग समस्याओं को एक निश्चित भारित योग दंड विधि (fixed weighted sum penalty method) पर निर्भर रहने के बजाय, जो बाधा संतुप्ति की कोई गारंटी नहीं देती, कठोर आवश्यकताओं को कमजोर समझौतों में बदल देती है और जिसमें महंगी परीक्षण-त्रुटि ट्यूनिंग की आवश्यकता होती है, सीधे सूत्रित बाधित अनुकूलन (constrained optimization) को हल करके संबोधित किया जाना चाहिए।

Juan Ramirez, Meraj Hashemizadeh, Simon Lacoste-Julien2026-05-08