🤖 Category

cs.LG

23700 पेपर

📊 statistics

LOSCAR-SGD: Local SGD with Communication-Computation Overlap and Delay-Corrected Sparse Model Averaging

यह शोधपत्र LOSCAR-SGD को प्रस्तुत करता है, जो एक नवीन लोकल SGD एल्गोरिदम है जो हेट्रोजेनियस डिस्ट्रिब्यूटेड लर्निंग में संचार बाधाओं को दूर करने के लिए कम्युनिकेशन-कंप्यूटेशन ओवरलैप, स्पार्स मॉडल एवरेजिंग और एक डिले-करेक्टेड मर्ज रूल को संयोजित करता है, जो इन विशिष्ट तकनीकों के इस संयोजन के लिए पहले सैद्धांतिक अभिसरण गारंटी (convergence guarantees) के साथ-साथ इसकी दक्षता के अनुभवजन्य सत्यापन (empirical validation) को भी प्रदान करता है।

Yassine Maziane, Ammar Mahran, Artavazd Maranjyan, Peter Richtárik2026-05-21
⚡ electrical engineering

Runtime-Certified Bounded-Error Quantized Attention

यह शोध पत्र एक टियर्ड (tiered) KV कैश आर्किटेक्चर प्रस्तुत करता है जो ऑनलाइन एरर बाउंड्स की गणना करके एडेप्टिव प्रिसिजन सिलेक्शन और डिटरमिनिस्टिक FP16 फॉलबैक को ट्रिगर करने के माध्यम से रनटाइम-सर्टिफाइड बाउंडेड-एरर क्वांटाइज्ड अटेंशन को सक्षम बनाता है, जिससे लॉन्ग-कॉन्टेक्स्ट LLM इन्फरेंस के लिए उच्च संपीड़न बनाए रखते हुए सटीक डेंस अटेंशन आउटपुट में रिकवरी की गारंटी मिलती है।

Dean Calver2026-05-21✓ Author reviewed ⓘ
🤖 machine learning

CAdam: Context-Adaptive Moment Estimation for 3D Gaussian Densification in Generative Distillation

यह शोध पत्र CAdam को प्रस्तुत करता है, जो एक संदर्भ-अनुकूली मोमेंट एस्टीमेशन फ्रेमवर्क (context-adaptive moment estimation framework) है जो ज्यामितीय संकेतों को स्टोकेस्टिक शोर से सांख्यिकीय रूप से अलग करके जनरेटिव 3D गॉसियन स्प्लेटिंग में "डेंसिफिकेशन डिलेमा" (Densification Dilemma) को हल करता है, जिससे दृश्य गुणवत्ता बनाए रखते हुए अनावश्यक प्रिमिटिव्स को 85%–97% तक कम किया जा सकता है।

SeungJeh Chung, Geonho Park, Misong Kim, HyeongYeop Kang2026-05-21
🤖 machine learning

PlanningBench: Generating Scalable and Verifiable Planning Data for Evaluating and Training Large Language Models

PlanningBench एक नवीन ढांचा है जो एक संरचित वर्गीकरण और बाधा-संचालित संश्लेषण का उपयोग करके योजना निर्माण डेटा के सृजन को स्थिर संग्रहों से एक नियंत्रणीय, स्केलेबल उत्पादन प्रक्रिया में बदल देता है, जिससे वर्तमान LLM की सीमाओं के कठोर मूल्यांकन और सामान्यीकरण योग्य योजना क्षमताओं को बढ़ाने के लिए प्रभावी सुदृढीकरण शिक्षण (reinforcement learning) प्रशिक्षण दोनों को सक्षम बनाया जा सके।

Ziliang Zhao, Zenan Xu, Shuting Wang, Hongjin Qian, Yan Lei, Minda Hu, Zhao Wang, Shihan Dou, Zhicheng Dou, Pluto Zhou2026-05-21
🤖 machine learning

CIG: Exploration via Conditional Information Gain

यह शोध पत्र कंडीशनल इंफॉर्मेशन गेन (CIG) प्रस्तुत करता है, जो एक एन्सेम्बल डिसएग्रीमेंट कर्नेल से व्युत्पन्न एक सुलभ और स्केलेबल एक्सप्लोरेशन रिवॉर्ड है, जो लाइफटाइम और विदिन-रोलआउट कंडीशनिंग को प्रभावी ढंग से संयोजित करके विविध सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) कार्यों में मौजूदा विधियों से बेहतर प्रदर्शन करता है।

Tim Joseph, Marcus Fechner, Philipp Stegmaier, Karam Daaboul, J. Marius Zöllner2026-05-21
🤖 machine learning

Learning fMRI activations dictionaries across individual geometries via optimal transport

यह शोध पत्र fMRI डेटा के लिए एक नवीन डिक्शनरी लर्निंग फ्रेमवर्क प्रस्तावित करता है जो फ्यूज्ड ग्रोमोव-वासरस्टीन दूरी (Fused Gromov-Wasserstein distance) और एमोर्टाइज्ड न्यूरल ऑप्टिमाइजेशन का लाभ उठाता है ताकि टेम्पलेट-आधारित प्रोजेक्शन पर निर्भर किए बिना व्यक्तिगत मस्तिष्क ज्यामिति परिवर्तनशीलता को कैप्चर किया जा सके, जिससे डाउनस्ट्रीम विश्लेषण के लिए विषय-विशिष्ट जानकारी सुरक्षित रहती है।

Sonia Mazelet, Rémi Flamary, Bertrand Thirion2026-05-21
🧬 biology

Training distribution determines the ceiling of drug-blind cancer sensitivity prediction

यह शोध पत्र प्रदर्शित करता है कि ड्रग-ब्लाइंड कैंसर संवेदनशीलता भविष्यवाणी में ठहराव का कारण मानक वैश्विक पियर्सन सहसंबंध मीट्रिक द्वारा ड्रग-विशिष्ट शिक्षण को छिपाना है, और यह दर्शाता है कि केवल एक विशेषता के रूप में इसे एनकोड करने के बजाय कार्य तंत्र (मैकेनिज्म ऑफ एक्शन) द्वारा प्रशिक्षण को स्तरीकृत करना भविष्य कहनेवाला प्रदर्शन में महत्वपूर्ण सुधार करता है।

Taekyung Heo2026-05-21
🤖 machine learning

Sutra: Tensor-Op RNNs as a Compilation Target for Vector Symbolic Architectures

यह शोध पत्र Sutra को प्रस्तुत करता है, जो एक विशुद्ध कार्यात्मक (purely functional) प्रोग्रामिंग भाषा है जो प्रतीकात्मक वेक्टर सिम्बोलिक आर्किटेक्चर (Vector Symbolic Architecture) ऑपरेशन्स को फ्यूज्ड PyTorch टेंसर ग्राफ्स में संकलित करती है, जिससे प्रोग्राम विविध फ्रोजन एम्बेडिंग सबस्ट्रेट्स (frozen embedding substrates) पर पूर्ण डिकोडिंग सटीकता प्राप्त करने और बैकप्रोपैगेशन के माध्यम से प्रशिक्षित होने में सक्षम होते हैं, जबकि वे पूरी तरह से सुपाठ्य और सोर्स कोड के रूप में पुन: संकलित करने योग्य रहते हैं।

Emma Leonhart2026-05-21✓ Author reviewed ⓘ
🤖 machine learning

Point Cloud Sequence Encoding for Material-conditioned Graph Network Simulators

यह शोध पत्र PEACH को प्रस्तुत करता है, जो एक नवीन ढांचा (framework) है जो पॉइंट क्लाउड सीक्वेंस एनकोडिंग और इन-कॉन्टेक्स्ट लर्निंग का लाभ उठाता है ताकि ग्राफ नेटवर्क सिम्युलेटर्स को इन्फरेंस के दौरान अनदेखी भौतिक विशेषताओं (material properties) के प्रति सटीक रूप से अनुकूल होने में सक्षम बनाया जा सके, जिससे बिना किसी स्पष्ट पैरामीटर एक्सेस के, मेश-आधारित बेसलाइनों की तुलना में बेहतर सिम-टू-रियल ट्रांसफर और भविष्यवाणी सटीकता प्राप्त की जा सके।

Philipp Dahlinger, Balázs Gyenes, Niklas Freymuth, Luca Geminiani, Tobias Würth, Johannes Mitsch, Nadja Klein, Luise Kär (…)2026-05-21
🤖 machine learning

Diagnosing Overhead in Dispatch Operations: Cross-architecture Observatory

यह शोध पत्र DODOCO को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि Mixture-of-Experts मॉडल्स में AlltoAll डिस्पैच ओवरहेड, विशेषज्ञ प्लेसमेंट या मॉक बेंचमार्क के बजाय, अंतर्निहित, आर्किटेक्चर-विशिष्ट रूटिंग असंतुलन द्वारा संचालित होता है, जो यह प्रकट करता है कि मॉडल डिज़ाइन (जैसे MLA/GDN बनाम MHA/Mamba) समानांतरता पैमाने या सिंथेटिक डेटा धारणाओं की तुलना में लोड वितरण को कहीं अधिक महत्वपूर्ण रूप से निर्धारित करता है।

Bole Ma, Jan Eitzinger, Harald Koestler, Gerhard Wellein2026-05-21