🤖 Category

cs.LG

25532 पेपर

🤖 machine learning

Delta-Based Neural Architecture Search: LLM Fine-Tuning via Code Diffs

यह योगदान डेल्टा-आधारित न्यूरल आर्किटेक्चर सर्च (Delta-based Neural Architecture Search) को प्रस्तुत करता है, जो एक टोकन-कुशल विधि है जिसमें फाइन-ट्यून्ड एलएलएम (LLMs) बेस मॉडल को परिष्कृत करने के लिए संक्षिप्त कोड डिफ्स (code diffs) उत्पन्न करते हैं, जिससे पारंपरिक पूर्ण मॉडल संश्लेषण (full model synthesis) की तुलना में कई डेटासेट्स पर काफी उच्च वैधता और सटीकता दर प्राप्त होती है, जबकि आउटपुट की लंबाई में भारी कमी आती है।

Santosh Premi Adhikari, Radu Timofte, Dmitry Ignatov2026-05-07
🤖 machine learning

Breaking the Quality-Privacy Tradeoff in Tabular Data Generation via In-Context Learning

यह शोध पत्र DiffICL का प्रस्ताव करता है, जो सारणीबद्ध डेटा (tabular data) के लिए एक इन-कॉन्टेक्स्ट लर्निंग फ्रेमवर्क है जो सीमित डेटा वाले परिदृश्यों में गुणवत्ता-गोपनीयता ट्रेड-ऑफ (quality-privacy tradeoff) को दूर करने के लिए प्रीट्रेन्ड स्ट्रक्चरल प्रायर्स (pretrained structural priors) का लाभ उठाता है, जिससे व्यक्तिगत नमूनों को याद करने के बजाय सीमित संदर्भ से डेटा वितरण का अनुमान लगाया जाता है।

Xinyan Han, Yan Lu, Xiaoyu Lin, Yuanyuan Jiang, Yuanrui Wang, Xuanyue Li, Wenchao Zou, Xingxuan Zhang2026-05-07
🧬 biology

When Does Gene Regulatory Network Inference Break? A Controlled Diagnostic Study of Causal and Correlational Methods on Single-Cell Data

यह अध्ययन विशिष्ट डेटा विकृतियों (pathologies) को अलग करने के लिए एक नियंत्रित नैदानिक ढांचे को प्रस्तुत करता है, जो यह प्रकट करता है कि जबकि जीन नियामक नेटवर्क (Gene Regulatory Network) अनुमान के लिए कारण-आधारित (causal) विधियाँ आदर्श स्थितियों में सहसंबंध-आधारित बेसलाइन की तुलना में बेहतर प्रदर्शन करती हैं, उनके लाभ ड्रॉपआउट और गुप्त कारकों (latent confounders) जैसी समस्याओं द्वारा चुनि적으로 निष्प्रभावी कर दिए जाते हैं, जो इस बात पर सूक्ष्म मार्गदर्शन प्रदान करता है कि विभिन्न विधियाँ कब और क्यों सफल या विफल होती हैं।

Miguel Fernandez-de-Retana, Ruben Sanchez-Corcuera, Unai Zulaika, Aritz Bilbao-Jayo, Aitor Almeida2026-05-07
🤖 machine learning

Adaptive Inverted-Index Routing for Granular Mixtures-of-Experts

यह शोध पत्र 'एडैप्टिव इनवर्टेड-इंडेक्स राउटिंग फॉर MoE' (AIR-MoE) को प्रस्तुत करता है, जो वेक्टर क्वांटाइजेशन पर आधारित एक दो-चरणीय, ड्रॉप-इन राउटिंग तंत्र है जो मॉडल में संरचनात्मक परिवर्तन की आवश्यकता के बिना उच्च प्रदर्शन बनाए रखते हुए रूटिंग लागत को कम करके ग्रैनुलर मिक्स्चर-ऑफ-एक्सपर्ट्स मॉडल्स को कुशलतापूर्वक संभालता है।

Klaus-Rudolf Kladny, Maximilian Mordig, Bernhard Schölkopf, Michael Muehlebach2026-05-07
🤖 machine learning

KernelBench-X: A Comprehensive Benchmark for Evaluating LLM-Generated GPU Kernels

KernelBench-X 176 कार्यों के माध्यम से LLM-जनित ट्राइटन (Triton) कर्नेल का मूल्यांकन करने वाला एक व्यापक बेंचमार्क है, जो यह प्रकट करता है कि कार्य संरचना शुद्धता निर्धारित करने में विधि डिजाइन की तुलना में काफी अधिक महत्वपूर्ण है, कि पुनरावृत्ति परिशोधन (iterative refinement) संकलन दरों में सुधार करता है लेकिन प्रदर्शन को कम करता है, और वर्तमान मॉडल संख्यात्मक सटीकता और हार्डवेयर दक्षता के मामले में संघर्ष करते हैं, बावजूद इसके कि वे सिमेंटिक शुद्धता प्राप्त कर लेते हैं।

Han Wang, Jintao Zhang, Kai Jiang, Haoxu Wang, Jianfei Chen, Jun Zhu2026-05-07
🤖 machine learning

EP-GRPO: Entropy-Progress Aligned Group Relative Policy Optimization with Implicit Process Guidance

यह शोध पत्र EP-GRPO को प्रस्तुत करता है, जो एक विस्तारित ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (GRPO) फ्रेमवर्क है, जो इंट्रिन्सिक एंट्रॉपी (intrinsic entropy) और पॉलिसी डायवर्जेंस (policy divergence) का लाभ उठाकर GRPO की क्रेडिट असाइनमेंट त्रुटियों को संबोधित करता है ताकि सघन, स्व-पर्यवेक्षित टोकन-स्तरीय नियंत्रण प्रदान किया जा सके, जिससे गणितीय तर्क कार्यों में बेहतर सटीकता और दक्षता प्राप्त होती है।

Song Yu, Li Li, Wenwen Zhao, Zhisheng Yang2026-05-07
🤖 machine learning

Skill Neologisms: Towards Skill-based Continual Learning

यह लेख "स्किल नियोलॉजिज़्म" (skill neologisms) का प्रस्ताव करता है, जो एक एलएलएम (LLM) की शब्दावली में एकीकृत अनुकूलित सॉफ्ट-टोकेन्स (soft-tokens) हैं, जो निरंतर सीखने के लिए एक स्केलेबल समाधान के रूप में कार्य करते हैं जो मॉडल को वेट अपडेट (weight updates) या कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) के बिना नए कौशल प्राप्त करने और उन्हें संयोजित करने में सक्षम बनाता है।

Antonin Berthon, Nicolas Astorga, Mihaela van der Schaar2026-05-07
💬 NLP

Why Geometric Continuity Emerges in Deep Neural Networks: Residual Connections and Rotational Symmetry Breaking

यह लेख स्पष्ट करता है कि डीप न्यूरल नेटवर्क में ज्यामितिक निरंतरता (geometric continuity), रेसिडुअल कनेक्शनों, जो परतों के बीच भार अपडेट (weight updates) को संरेखित करते हैं, और सिमेट्री-ब्रेकिंग नॉनलिनियैरिटीज़ (symmetry-breaking nonlinearities), जो रोटेशनल ड्रिफ्ट को रोकने के लिए परतों को एक सामान्य समन्वय फ्रेम (common coordinate frame) तक सीमित करती हैं, के संयुक्त प्रभावों का परिणाम है।

Kyungwon Jeong, Won-Gi Paeng, Honggyo Suh2026-05-07
🤖 AI

On-line Learning in Tree MDPs by Treating Policies as Bandit Arms

यह शोध पत्र ट्री मार्कोव डिसीजन प्रॉब्लम्स (Tree Markov Decision Problems) के लिए एक ऑनलाइन लर्निंग फ्रेमवर्क प्रस्तावित करता है जो नीतियों (policies) को बैंडिट आर्म्स (bandit arms) के रूप में मानता है, जो साझा-डेटा कॉन्फिडेंस बाउंड्स (shared-data confidence bounds) को डिजाइन करके घातांकीय नीति स्थान (exponential policy space) पर विजय प्राप्त करता है ताकि PAC और रिग्रेट-मिनिमाइजेशन (regret-minimization) दोनों सेटिंग्स में बहुपद-समय गणना (polynomial-time computation) और बेहतर सैंपल कॉम्प्लेक्सिटी (sample complexity) प्राप्त की जा सके।

Anvay Shah, Ramsundar Anandanarayanan, Sharayu Moharir, Shivaram Kalyanakrishnan2026-05-07
💬 NLP

Conceptors for Semantic Steering

यह शोधपत्र कॉन्सेप्टर्स (conceptors) को प्रस्तुत करता है, जो बड़े भाषा मॉडलों (large language models) को निर्देशित करने की एक ज्यामितीय रूप से सिद्धांत-आधारित विधि है, जो एकल-दिशात्मक सक्रियण वेक्टर (single-direction activation vectors) के स्थान पर पूर्ण बहुआयामी अवधारणा उप-स्थानों (multidimensional concept subspaces) को कैप्चर करने के लिए सॉफ्ट प्रोजेक्शन मैट्रिसेस (soft projection matrices) का उपयोग करता है, जिससे पारंपरिक योगात्मक बेसलाइनों (additive baselines) की तुलना में पैरामीटर-मुक्त लेयर चयन, बुलियन कंपोजिशनैलिटी (Boolean compositionality), और अधिक सुरक्षित एवं प्रभावी नियंत्रण सक्षम होता है।

Ilias Triantafyllopoulos, Young-Min Cho, Ren Tao, Miranda Muqing Miao, Sunny Rai, Lyle Ungar, Sharath Chandra Guntuku, N (…)2026-05-07