cs.LG पेपर | Gist.Science

Less Random, More Private: What is the Optimal Subsampling Scheme for DP-SGD?

यह शोध पत्र यह प्रदर्शित करता है कि DP-SGD में मानक पॉइसन सबसैंपलिंग (Poisson subsampling) को एक संरचित बैलेंस्ड इटरेशन सबसैंपलिंग (Balanced Iteration Subsampling - BIS) योजना से बदलना, जो समान मार्जिनल भागीदारी बनाए रखते हुए भागीदारी विचरण (participation variance) को समाप्त करता है, बेहतर गोपनीयता प्रवर्धन (privacy amplification) प्राप्त करता है और कम-शोर वाले शासन (low-noise regimes) में आवश्यक शोर गुणक (noise multiplier) को 9.6% तक कम कर देता है।

Andy Dong, Ayfer Özgür2026-05-11

💬 NLP

Self-Consolidating Language Models: Continual Knowledge Incorporation from Context

यह शोध पत्र सेल्फ-कंसोलिडेटिंग लैंग्वेज मॉडल्स (SCoL) का प्रस्ताव करता है, जो एक पोस्ट-ट्रेनिंग फ्रेमवर्क है जो मेटा-रीइन्फोर्समेंट लर्निंग के माध्यम से स्पार्स, लेयर-विशिष्ट अपडेट निर्देशों को जेनरेट करके LLMs को अपने वेट्स में नए ज्ञान को निरंतर शामिल करने में सक्षम बनाता है, जिससे मौजूदा बेसलाइन्स की तुलना में सूचना प्रतिधारण (इन्फॉर्मेशन रिटेंशन) में सुधार होता है और इंटरफेरेंस कम होता है।

Zekun Wang, Anant Gupta, Zihan Dong, Christopher J. MacLellan2026-05-11

🤖 machine learning

Test-Time Compositional Generalization in Diffusion Models via Concept Discovery

यह शोध पत्र प्रीट्रेन्ड डिफ्यूजन मॉडल्स के लिए एक टेस्ट-टाइम कंपोजिशनल जनरलाइजेशन पद्धति प्रस्तावित करता है जो पूर्व-निर्धारित कॉन्सेप्ट लाइब्रेरी पर निर्भर किए बिना नवीन कॉन्फ़िगरेशन उत्पन्न करने में सक्षम करने के लिए, टाइम-इंडेक्स्ड स्कोर ज्योमेट्री का विश्लेषण करके क्वेरी-विशिष्ट अवधारणाओं की खोज करता है और एक प्रोडक्ट-ऑफ-एक्सपर्ट्स टीचर मॉडल का निर्माण करता है।

Zekun Wang, Anant Gupta, Tianyi Zhu, Christopher J. MacLellan2026-05-11

🤖 AI

Learning Visual Feature-Based World Models via Residual Latent Action

यह शोध पत्र RLA वर्ल्ड मॉडल को प्रस्तुत करता है, जो कुशल, उच्च-निष्ठा वाले विज़ुअल फीचर प्रेडिक्शन प्राप्त करने और बिना ऑनलाइन इंटरेक्शन या हस्तनिर्मित रिवार्ड्स के ऑफलाइन वीडियो से उन्नत रोबोट लर्निंग को सक्षम करने के लिए DINO रेसिडुअल्स से सीखे गए और फ्लो मैचिंग के माध्यम से प्रेडिक्ट किए गए एक नवीन रेसिडुअल लेटेंट एक्शन रिप्रेजेंटेशन का लाभ उठाता है।

Xinyu Zhang, Zhengtong Xu, Yutian Tao, Yeping Wang, Yu She, Abdeslam Boularias2026-05-11

🤖 machine learning

Task Relevance Is Not Local Replaceability: A Two-Axis View of Channel Information

यह शोध पत्र कार्य प्रासंगिकता (task relevance) और स्थानीय प्रतिस्थापनीयता (local replaceability) के बीच अंतर करने वाला एक द्वि-अक्षीय ढांचा प्रस्तावित करता है, जो यह प्रदर्शित करता है कि किसी चैनल की अपने साथियों द्वारा प्रतिस्थापित किए जाने की क्षमता (स्थानीय प्रतिस्थापनीयता), कार्य में उसके प्रत्यक्ष योगदान की तुलना में प्रूनिंग सफलता का अधिक विश्वसनीय भविष्यवक्ता है।

Houman Safaai, Andrew T. Landau, Celia C. Beron, Yasin Mazloumi, Bernardo L. Sabatini2026-05-11

💬 NLP

The Translation Tax Is Not a Scalar: A Counterfactual Audit of English-Source Cue Inheritance in Chinese Multilingual Benchmarks

यह शोध पत्र यह प्रदर्शित करके अंग्रेजी-से-चीनी बेंचमार्क में एक समान "अनुवाद कर" (Translation Tax) की धारणा को चुनौती देता है कि स्कोर मुद्रास्फीति एक स्केलर प्रभाव नहीं है बल्कि विशिष्ट वैधता जोखिमों और मॉडल-परिवार अंतःक्रियाओं द्वारा संचालित एक जटिल, मद-निर्भर घटना है, और अंततः इन सूक्ष्म मुद्दों को संबोधित करने के लिए एक नया स्वाभाविककरण प्रोटोकॉल और रिपोर्टिंग चेकलिस्ट प्रस्तावित करता है।

Zezheng Lin, Fengming Liu, Handi Li2026-05-11

📊 statistics

Every Feedforward Neural Network Definable in an o-Minimal Structure Has Finite Sample Complexity

यह शोध पत्र यह स्थापित करता है कि किसी भी o-minimal संरचना के भीतर परिभाषित किसी भी निश्चित फीडफॉरवर्ड न्यूरल नेटवर्क आर्किटेक्चर में एगोस्टिक (agnostic) PAC मॉडल में परिमित नमूना जटिलता (finite sample complexity) होती है, जो यह प्रदर्शित करता है कि वितरण-मुक्त सीखनीयता (distribution-free learnability) विशिष्ट सक्रियण कार्यों (activation functions) या आर्किटेक्चरों का एक अनूठा गुण होने के बजाय एक विनम्र गणितीय परिभाषाओं (tame mathematical definitions) का एक मौलिक परिणाम है।

Anastasis Kratsios, Gregory Cousins, Haitz Sáez de Ocáriz Borde, Bum Jun Kim, Simone Brugiapaglia2026-05-11

🔬 physics

CarCrashNet: A Large-Scale Dataset and Hierarchical Neural Solver for Data-Driven Structural Crash Simulation

यह शोध पत्र CarCrashNet प्रस्तुत करता है, जो 14,000 से अधिक घटक-स्तरीय और 825 पूर्ण-वाहन क्रैश सिमुलेशन वाला एक बड़े पैमाने का ओपन-सोर्स बेंचमार्क है, साथ ही इसमें CrashSolver भी शामिल है, जो एक पदानुक्रमित न्यूरल सॉल्वर है जिसे डेटा-संचालित, एआई-संचालित संरचनात्मक क्रैश भविष्यवाणी और वाहन सुरक्षा में पुनरुत्पादक अनुसंधान को सक्षम करने के लिए डिज़ाइन किया गया है।

Mohamed Elrefaie, Dule Shu, Matthew Klenk, Faez Ahmed2026-05-11

📊 statistics

Almost Sure Convergence Rates of Stochastic Approximation and Reinforcement Learning via a Poisson-Moreau Drift

यह शोध पत्र पॉइसन-इक्वेशन सुधारों (Poisson-equation corrections) को मोरो-एनवेलप स्मूथिंग (Moreau-envelope smoothing) के साथ संयोजित करने वाले एक नवीन लयाप्टोव ड्रिफ्ट निर्माण (Lyapunov drift construction) को पेश करते हुए, मार्कोवियन शोर (Markovian noise) के तहत संकुचित अपेक्षित अपडेट्स (contractive expected updates) वाले स्टोकेस्टिक एप्रोक्सिमेशन और सुदृढीकरण लर्निंग (reinforcement learning) एल्गोरिदम के लिए लगभग निश्चित अभिसरण दरों (almost sure convergence rates) को स्थापित करता है, जो पावर-लॉ लर्निंग रेट्स के लिए $o(n^{1-2\eta})$ और हार्मोनिक लर्निंग रेट्स के लिए $o(n^{-1})$ के अत्यंत निकट की दरें प्राप्त करता है।

Xinyu Liu, Zixuan Xie, Shangtong Zhang2026-05-11

📊 statistics

Classification Fields: Arbitrarily Fine Recursive Hierarchical Clustering From Few Examples

यह शोध पत्र "क्लासिफिकेशन फील्ड्स" (classification fields) को प्रस्तुत करता है, जो स्थानीय पैरेंट-टू-चाइल्ड रिफाइनमेंट नियमों का अनुमान लगाकर सीमित उदाहरणों से अनंत-गहराई वाली पदानुक्रमित क्लस्टर संरचनाओं को सीखने के लिए एक ढांचा है, और यह सिद्ध करता है कि इन नियमों को गहरे, ज्यामितीय रूप से सुसंगत पदानुक्रमों को उत्पन्न करने के लिए न्यूरल नेटवर्क द्वारा प्रभावी ढंग से अनुमानित किया जा सकता है।

Yicen Li, Ruiyang Hong, Anastasis Kratsios, Haitz Sáez de Ocáriz Borde, Paul D. McNicholas2026-05-11

← पिछला अगला →