cs.LG पेपर | Gist.Science

Decomposing Evolutionary Mixture-of-LoRA Architectures: The Routing Lever, the Lifecycle Penalty, and a Substrate-Conditional Boundary

यह शोध पत्र 150M-पैरामीटर वाले सबस्ट्रेट पर एक इवोल्यूशनरी मिक्सचर-ऑफ-लोरा (evolutionary mixture-of-LoRA) सिस्टम का विखंडन करता है ताकि यह प्रकट किया जा सके कि जबकि एक विशिष्ट राउटर रीराइट प्रदर्शन में लाभ को प्रेरित करता है, इवोल्यूशनरी लाइफसाइकिल घटक एक शुद्ध प्रदर्शन दंड (net performance penalty) के रूप में कार्य करता है, जिसमें खोज तंत्र केवल विशिष्ट प्री-अलाइनमेंट स्थितियों के तहत ही लाभकारी सिद्ध होता है।

Ramchand Kumaresan2026-05-13✓ Author reviewed ⓘ

🔭 astrophysics

Quantifying the Reconstructability of Astrophysical Methods with Large Language Models and Information Theory: A Case Study in Spectral Reconstruction

यह शोध पत्र बड़े भाषा मॉडलों (Large Language Models) का उपयोग करते हुए एक सूचना-सैद्धांतिक ढांचे को प्रस्तुत करता है जो खगोलीय पद्धतियों की पुनर्निर्माण क्षमता (reconstructability) को परिमाणित करता है, यह प्रकट करते हुए कि यद्यपि पाठ्य विवरण एल्गोरिदम की संरचनाओं को स्पष्ट करते हैं, फिर भी वे लुप्त अंतर्निहित विशेषज्ञ ज्ञान के कारण कार्यान्वयन भिन्नता को समाप्त करने में विफल रहते हैं, जिससे पद्धतिगत पारदर्शिता के ऑडिटिंग के लिए एक नए नैदानिक उपकरण की स्थापना होती है।

Hsing Wen Lin, Zong-Fu Sie2026-05-13

🤖 machine learning

Interpretability Can Be Actionable

यह स्थिति पत्र तर्क देता है कि व्याख्यात्मकता (interpretability) के क्षेत्र को नए तरीकों को विकसित करने के बजाय "कार्रवाई योग्य" (actionable) मूल्यांकन मानदंड स्थापित करने की ओर स्थानांतरित होना चाहिए, जिन्हें स्पष्टता और सत्यापन द्वारा परिभाषित किया गया हो, ताकि यह सुनिश्चित किया जा सके कि अंतर्दृष्टि ठोस वास्तविक दुनिया के निर्णयों और हस्तक्षेपों की ओर ले जाए।

Hadas Orgad, Fazl Barez, Tal Haklay, Isabelle Lee, Marius Mosbach, Anja Reusch, Naomi Saphra, Byron Wallace, Sarah Wiegr (…)2026-05-13

🤖 machine learning

COSMOS: Model-Agnostic Personalized Federated Learning with Clustered Server Models and Pseudo-Label-Only Communication

COSMOS एक मॉडल-अज्ञेय (model-agnostic) व्यक्तिगत फेडरेटेड लर्निंग फ्रेमवर्क है जो छद्म-लेबल (pseudo-label) भविष्यवाणियों के आधार पर क्लाइंट्स को क्लस्टर करके, क्लस्टर-विशिष्ट सर्वर मॉडल को प्रशिक्षित करके और उन्हें वापस क्लाइंट्स में डिस्टिल करके वास्तुशिल्प और सांख्यिकीय विषमता को संबोधित करता है, जिससे घातांकीय व्यक्तिगत जोखिम संकुचन (exponential personalization risk contraction) और मौजूदा बेसलाइन्स की तुलना में बेहतर प्रदर्शन प्राप्त होता है।

Ben Rachmut, Luise Ge, William Yeoh, Ning Zhang, Yevgeniy Vorobeychik2026-05-13

💬 NLP

The Bicameral Model: Bidirectional Hidden-State Coupling Between Parallel Language Models

द्विचरणीय मॉडल (Bicameral Model) एक प्रशिक्षित न्यूरल इंटरफेस पेश करता है जो निरंतर हिडन-स्टेट कपलिंग के माध्यम से दो फ्रोजन लैंग्वेज मॉडल्स को द्विदिश रूप से समन्वय करने में सक्षम बनाता है, जिससे एक प्राथमिक मॉडल कार्यों को संचालित कर सकता है जबकि एक सहायक मॉडल टूल्स या कोड को निष्पादित करता है, जिससे टेक्स्ट-आधारित संचार पर निर्भर रहे बिना अंकगणित, तर्क और गणितीय तर्क में प्रदर्शन में उल्लेखनीय वृद्धि होती है।

Cedric Flamant, Udaya Ghai, Kanna Shimizu2026-05-13

🤖 machine learning

Optimistic Dual Averaging Unifies Modern Optimizers

यह शोध पत्र SODA को प्रस्तुत करता है, जो ऑप्टिमिस्टिक ड्यूल एवरेजिंग (Optimistic Dual Averaging) का एक सामान्यीकरण है जो Muon और Lion जैसे आधुनिक ऑप्टिमाइज़र्स को एक एकल ढांचे के तहत एकीकृत करता है और विभिन्न प्रशिक्षण पैमानों पर प्रदर्शन में निरंतर सुधार करते हुए वेट डिके (weight decay) ट्यूनिंग को स्वचालित रूप से समाप्त करने के लिए एक व्यावहारिक रैपर प्रदान करता है।

Thomas Pethick, Wanyun Xie, Roman Machacek, Volkan Cevher2026-05-13

🧬 biology

Deep Learning for Protein Complex Prediction and Design

यह शोध प्रबंध संरचनात्मक पदानुक्रमों को पकड़ने वाली विशिष्ट आर्किटेक्चर विकसित करके और परस्पर क्रिया करने वाले होमोलॉग्स की पहचान करने तथा नवीन प्रोटीन अनुक्रमों को डिजाइन करने के लिए अनुक्रम स्थानों (sequence spaces) में कुशलतापूर्वक नेविगेट करने हेतु खोज एल्गोरिदम बनाकर प्रोटीन कॉम्प्लेक्स भविष्यवाणी और डिजाइन को उन्नत करने के लिए डीप लर्निंग का लाभ उठाता है।

Ziwei Xie2026-05-13

📊 statistics

Adaptive Policy Learning Under Unknown Network Interference

यह शोध पत्र एक थॉम्पसन सैंपलिंग एल्गोरिदम प्रस्तावित करता है जो अज्ञात नेटवर्क हस्तक्षेप गतिकी (network interference dynamics) को संयुक्त रूप से सीखता है और गिब्स सैंपलर के माध्यम से व्यक्तिगत स्तर के उपचार आवंटन को अनुकूलित करता है, जिससे उप-रैखिक (sublinear) बेयसियन रिग्रेट प्राप्त होता है और अनुकूली प्रयोग सेटिंग्स में सटीक डाउनस्ट्रीम कारण प्रभाव अनुमान सक्षम होता है।

Aidan Gleich, Eric Laber, Alexander Volfovsky2026-05-13

🤖 machine learning

Variational Linear Attention: Stable Associative Memory for Long-Context Transformers

यह शोध पत्र वेरिएशनल लीनियर अटेंशन (VLA) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो मेमोरी अपडेट को एक ऑनलाइन रेगुलराइज्ड लीस्ट-स्क्वेयर्स समस्या के रूप में पुनर्गठित करता है ताकि $\mathcal{O}(T)$ जटिलता के साथ एक स्थिर, स्व-सीमित एसोसिएटिव मेमोरी प्राप्त की जा सके, जो प्रतिस्पर्धी इन्फरेंस गति बनाए रखते हुए लॉन्ग-कॉन्टेक्स्ट रिट्रीवल सटीकता में मौजूदा लीनियर अटेंशन विधियों से काफी बेहतर प्रदर्शन करता है।

Vishal Pandey, Gopal Singh2026-05-13

💻 computer science

Continuous Discovery of Vulnerabilities in LLM Serving Systems with Fuzzing

यह शोध पत्र GRIEF को प्रस्तुत करता है, जो एक ग्रेबॉक्स फज़र (greybox fuzzer) है जो कैश आइसोलेशन विफलताओं और प्रदर्शन हस्तक्षेप जैसी महत्वपूर्ण कमजोरियों को उजागर करने के लिए LLM सर्विंग सिस्टम की समवर्ती (concurrency) और स्टेट-मैनेजमेंट जटिलताओं को लक्षित करता है, जिसने vLLM और SGLang जैसे इंजनों में दो CVEs सहित 15 नई समस्याओं की सफलतापूर्वक पहचान की है।

Yunze Zhao, Yibo Zhao, Yuchen Zhang, Zaoxing Liu, Michelle L. Mazurek2026-05-13

← पिछला अगला →