🤖 Category

cs.LG

23088 पेपर

🤖 machine learning

ProbMoE: Differentiable Probabilistic Routing for Mixture-of-Experts

यह शोध पत्र ProbMoE को प्रस्तुत करता है, जो Mixture-of-Experts मॉडलों के लिए एक अवकलनीय (differentiable) संभाव्य रूटिंग ढांचा है, जो कार्डिनैलिटी-प्रतिबंधित उपसमुच्चयों (cardinality-constrained subsets) पर संभाव्य अनुमान (probabilistic inference) के रूप में विशेषज्ञ रूटिंग को व्यवस्थित करके top-kk चयन की गैर-अवकलनीयता (non-differentiability) को दूर करता है, जिससे बेहतर विशेषज्ञ उपयोग और प्रदर्शन के साथ सटीक-kk और गतिशील-kk रूटिंग सक्षम होती है।

Heng Zhao, Zilei Shao, Guy Van den Broeck, Zhe Zeng2026-06-02
📊 statistics

Fast Generalization after Interpolation via Critically Damped Momentum Optimization

यह शोध पत्र GROKtimizer को प्रस्तुत करता है, जो एक द्विचरणीय (biphasic) अनुकूलन रणनीति है जो इंटरपोलेशन तक तीव्र अभिसरण (rapid convergence) को क्रिटिकली डैम्प्ड मोमेंटम-आधारित नॉर्म मिनिमाइजेशन के साथ जोड़ती है ताकि प्रमाणित रूप से निम्न-नॉर्म समाधानों का चयन किया जा सके और शास्त्रीय ग्रेडिएंट डिसेंट पर द्विघातीय गति (quadratic speedup) प्राप्त की जा सके, जिससे उच्च-आयामी, निम्न-नमूना प्रतिमानों में सामान्यीकरण अंतराल (generalization gap) को संबोधित किया जा सके।

Luca Muscarnera, Silas Ruhrberg Estévez, Yuanzhang Xiao, Mihaela Van der Schaar2026-06-02
🤖 machine learning

Near-Optimal Pure Machine Unlearning for Smooth Strongly Convex Losses

यह शोध पत्र स्मूथ स्ट्रॉन्गली कॉन्वेक्स लॉस (smooth strongly convex losses) के लिए मशीन अनलर्निंग की सांख्यिकीय लागत पर निकट-इष्टतम ऊपरी और निचली सीमाएं स्थापित करता है, जो यह प्रदर्शित करता है कि इष्टतम त्रुटि दर अनलर्निंग पैरामीटर ε\varepsilon और मॉडल आयाम dd के बीच के संबंध के आधार पर रिट्रेनिंग-फ्रॉम-स्क्रैच (retraining-from-scratch) और घातांकीय रूप से छोटे पदों के बीच अंतर्वेशन (interpolate) करती है।

Matthew Regehr, Gautam Kamath, Andrew Lowy2026-06-02
🤖 machine learning

Rethinking the Role of Positional Encoding: Sliding-Window Transformers without PE Remain Turing Complete

यह शोध पत्र यह प्रदर्शित करता है कि ट्रांसफॉर्मर्स के ट्यूरिंग पूर्णता (Turing completeness) प्राप्त करने के लिए पोजीशनल एनकोडिंग अनिवार्य रूप से आवश्यक नहीं है, क्योंकि स्लाइडिंग-विंडो तंत्र स्वयं क्रमपरिवर्तन समरूपता (permutation symmetry) को तोड़ता है और सार्वभौमिक गणना (universal computation) का अनुकरण करने के लिए पर्याप्त पोजीशनल जानकारी प्रदान करता है।

Qian Li, Xinyu Mao, Shang-Hua Teng2026-06-02
💬 NLP

Multi-Agent Computer Use

यह शोध पत्र मल्टी-एजेंट कंप्यूटर यूज़ (MACU) का प्रस्ताव देता है, जो एक ऐसा सिस्टम है जहाँ एक मैनेजर मॉडल एक डायनेमिक डायरेक्टेड एसिक्लिक ग्राफ (DAG) के माध्यम से समानांतर सब-एजेंट्स को संचालित करता है ताकि जटिल, लॉन्ग-होरिज़न कार्यों को प्रभावी ढंग से संभाला जा सके, जो डेस्कटॉप और वेब नेविगेशन बेंचमार्क पर सिंगल-एजेंट बेसलाइन्स की तुलना में महत्वपूर्ण प्रदर्शन सुधार प्रदर्शित करता है।

Jing Yu Koh, Ruslan Salakhutdinov, Daniel Fried2026-06-02
💻 computer science

PaCX-MAE: Physiology-Augmented Chest X-Ray Masked Autoencoder

PacX-MAE एक क्रॉस-मोडल डिस्टिलेशन फ्रेमवर्क है जो प्रशिक्षण के दौरान ECG और प्रयोगशाला डेटा से शारीरिक पूर्वग्रहों (physiological priors) को इंजेक्ट करके चेस्ट एक्स-रे विश्लेषण को बढ़ाता है, जो शारीरिक संरचना पर आधारित कार्यों और लेबल दक्षता पर श्रेष्ठ प्रदर्शन प्राप्त करने के साथ-साथ यूनिमोडल इन्फरेंस और शारीरिक निष्ठा (anatomical fidelity) को बनाए रखता है।

Yancheng Liu, Kenichi Maeda, Manan Pancholy2026-06-02
📊 statistics

Scalable Counterfactual Risk Estimation for Rare Events in Longitudinal Data

यह शोध पत्र अनुदैर्ध्य कारण अनुमान (longitudinal causal inference) में दुर्लभ परिणामों के कारण होने वाले गणनात्मक बोझ और अनुमान अस्थिरता को संबोधित करने के लिए एक सिद्धांत-आधारित उप-नमूनाकरण (subsampling) और पुन: भारण (reweighting) रणनीति प्रस्तावित करता है, जो सिमुलेशन और आत्महत्या जोखिम पर एक बड़े पैमाने के EHR अध्ययन के माध्यम से अपनी प्रभावशीलता प्रदर्शित करता है।

Xiaohui Yin, Avijit Mitra, Ying Zhou, Kun Chen, Hong Yu2026-06-02
🤖 machine learning

TN-SHAP-G: Graph-Structured Tensor Network Surrogates for Shapley Values and Interactions

यह शोध पत्र TN-SHAP-G को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो ग्राफ-संरचित इनपुट के लिए सटीक शापली मानों (Shapley values) और उच्च-क्रम की अंतःक्रियाओं (higher-order interactions) को कुशलतापूर्वक रूप से गणना करने के लिए ग्राफ-संरेखित टेंसर नेटवर्क सरोगेट्स का उपयोग करता है, जिससे पारंपरिक विधियों में निहित घातांकीय जटिलता और सैंपलिंग विचरण (sampling variance) पर विजय प्राप्त होती है।

Farzaneh Heidari, Guillaume Rabusseau2026-06-02
🤖 machine learning

CRePE: Convolution-aware Relative Importance in Post-training Pruning with Efficient Search

यह शोधपत्र CRePE को प्रस्तुत करता है, जो एक पोस्ट-ट्रेनिंग प्रूनिंग विधि है जो 2D स्थानीय संदर्भ और अनुकूली गुणांकों के साथ सापेक्ष महत्व स्कोरिंग को बेहतर बनाता है, और PHO का प्रस्ताव करता है जो घंटों के बजाय मिनटों में इन हाइपरपैरामीटरों को कुशलतापूर्वक अनुकूलित करता है, जिससे विविध मॉडलों और स्पर्सिटी सेटिंग्स में अत्याधुनिक प्रदर्शन प्राप्त होता है।

Cheonjun Park2026-06-02
⚡ electrical engineering

Everywhere Learning: Artificial Intelligence with Pointwise Constraints

यह शोध पत्र "एवरीव्हेयर लर्निंग" (everywhere learning) को प्रस्तुत करता है, जो एक नया एआई प्रतिमान है जो प्रणालियों को औसत हानि को कम करने के बजाय प्रायिकता एक के साथ लॉस कंस्ट्रेंट्स (loss constraints) को संतुष्ट करने के लिए प्रशिक्षित करता है, जिसे एक द्वैतता सिद्धांत (duality theory) द्वारा समर्थित किया गया है जो यह दर्शाता है कि सामान्यीकरण (generalization) डेटा वितरण और कठिन बाधा बिंदुओं (difficult constraint points) के बीच संरेखण पर निर्भर करता है, और इसे एजेंटिक वर्गीकरण प्रयोगों के माध्यम से प्रदर्शित किया गया है।

Ignacio Boero, Ignacio Hounie, Luiz Chamon, Alejandro Ribeiro2026-06-02