🤖 Category

cs.LG

26959 पेपर

🤖 machine learning

Exploration-Driven Optimization for Test-Time Large Language Model Reasoning

यह शोध पत्र एक्सप्लोरेशन-ड्रिवन ऑप्टिमाइजेशन (EDO) का प्रस्ताव करता है, जो एक नवीन ढांचा है जो iDPO और GRPO जैसी पुनरावृत्ति पोस्ट-ट्रेनिंग विधियों में विविधता-बढ़ाने वाले एक्सप्लोरेशन उद्देश्यों को एकीकृत करता है ताकि इन्फरेंस-टाइम सैंपलिंग विविधता और RL-प्रेरित वितरण शार्पनिंग के बीच के तनाव को हल किया जा सके, जिससे इन-डिस्ट्रीब्यूशन और आउट-ऑफ-डिस्ट्रीब्यूशन दोनों कार्यों में LLM रीजनिंग प्रदर्शन और स्थिरता को बढ़ाया जा सके।

Changhao Li, Yuchen Zhuang, Chenxiao Gao, Haotian Sun, Rushi Qiang, Chao Zhang, Bo Dai2026-05-12
📊 statistics

Unified Approach for Weakly Supervised Multicalibration

यह शोध पत्र एक एकीकृत ढांचे का प्रस्ताव करके उन कमजोर रूप से पर्यवेक्षित शिक्षण (weakly supervised learning) परिवेशों में मल्टीकैलिब्रेशन की चुनौती को संबोधित करता है जहाँ स्वच्छ लेबल उपलब्ध नहीं होते हैं, जो मल्टीकैलिब्रेशन त्रुटियों का अनुमान लगाने और उन्हें सुधारने के लिए कंटैमिनेशन-मैट्रिक्स रिराइट्स (contamination-matrix rewrites) को विटनेस-आधारित बाधाओं (witness-based constraints) के साथ जोड़ता है, और साथ ही 'वीक-लेबल मल्टीकैलिब्रेशन बूस्ट' (WLMC) नामक एक जेनेरिक पोस्ट-हॉक एल्गोरिदम प्रदान करता है जो परिमित-नमूना गारंटी (finite-sample guarantees) देता है।

Futoshi Futami, Takashi Ishida2026-05-12
🤖 machine learning

UFO: A Unified Flow-Oriented Framework for Robust Continual Graph Learning

यह शोधपत्र UFO का प्रस्ताव करता है, जो एक एकीकृत प्रवाह-उन्मुख (flow-oriented) ढांचा है जो रिप्ले के लिए प्रवाह-आधारित जनरेटिव मॉडलिंग और दूषित ज्ञान को कम करने के लिए इंस्टेंस-स्तरीय विश्वसनीयता स्कोरिंग का उपयोग करके निरंतर ग्राफ लर्निंग में कैटास्ट्रोफिक फॉरगेटिंग और शोरयुक्त सुपरविजन की दोहरी चुनौतियों का समाधान करता है।

Danhui Zhang, Zhe Wang, Qing Qing, Jiarui Liu, Wentao Gao, Ziqi Xu, Mingliang Hou, Xikun Zhang, Renqiang Luo2026-05-12
🤖 machine learning

Continuous Latent Contexts Enable Efficient Online Learning in Transformers

यह शोध पत्र प्रदर्शित करता है कि ट्रांसफॉर्मर्स को निरंतर लेटेंट कॉन्टेक्स्ट टोकन (continuous latent context tokens) से सुसज्जित करने से वे वेटेड मेजॉरिटी (weighted majority) और क्यू-लर्निंग (Q-learning) जैसे ऑनलाइन लर्निंग एल्गोरिदम को कुशलतापूर्वक लागू करने में सक्षम होते हैं, जिससे छोटे मॉडल दीर्घकालिक अनुकूली कार्यों (long-term adaptive tasks) पर काफी बड़े एलएलएम (LLMs) से बेहतर प्रदर्शन कर पाते हैं।

Emile Anand, Abdullah Ateyeh, Xinyuan Cao, Max Dabagia2026-05-12
🤖 machine learning

Key-Value Means

यह शोध पत्र की-वैल्यू मीन्स (KVM) को प्रस्तुत करता है, जो अटेंशन के लिए एक नवीन ब्लॉक-रिकरेंस तंत्र है जो ट्रांसफॉर्मर्स और लीनियर RNNs के लाभों को एकीकृत करता है, जिससे मानक ऑपरेशन्स और न्यूनतम अतिरिक्त पैरामीटर्स का उपयोग करते हुए कुशल, चंक-पैरेललाइज़ेबल ट्रेनिंग के साथ लचीले स्टेट ग्रोथ और सबक्वाड्रेटिक प्रीफिल टाइम को सक्षम बनाया जा सके।

Daniel Goldstein, Eugene Cheah2026-05-12✓ Author reviewed ⓘ
⚛️ high-energy experiments

Dissecting Jet-Tagger Through Mechanistic Interpretability

यह शोध पत्र टॉप क्वार्क टैगिंग के लिए एक पार्टिकल ट्रांसफॉर्मर पर मैकेनिस्टिक इंटरप्रिटेबिलिटी तकनीकों को लागू करता है, जिससे यह प्रकट होता है कि एक स्पार्स सिक्स-हेड सर्किट, 2-प्रोंग सबस्ट्रक्चर की पहचान करने के लिए एक एनर्जी कोरिलेटर-आधारित प्रतिनिधित्व का उपयोग करके पूर्ण मॉडल के प्रदर्शन को प्रभावी रूप से दोहराता है, जिससे यह सिद्ध होता है कि ग्रेडिएंट डिसेंट बिना किसी पर्यवेक्षण के जेट भौतिकी में भौतिक रूप से सार्थक विशेषताओं को पुनः खोज सकता है।

Saurabh Rai, Sanmay Ganguly2026-05-12
🤖 machine learning

The Geometric Wall: Manifold Structure Predicts Layerwise Sparse Autoencoder Scaling Laws

यह शोध पत्र यह प्रदर्शित करता है कि न्यूरल नेटवर्क परतों में स्पार्स ऑटोएनकोडर्स (sparse autoencoders) के स्केलिंग लॉ सार्वभौमिक नहीं हैं, बल्कि वे सक्रियता मैनिफोल्ड (activation manifold) की अंतर्निहित ज्यामितीय संरचना, विशेष रूप से इसकी वक्रता (curvature) और आंतरिक आयाम (intrinsic dimension) द्वारा निर्धारित होते हैं, जो विभिन्न मॉडलों में एक हस्तांतरणीय (transferable) तरीके से पुनर्निर्माण त्रुटि फर्श (reconstruction error floors) और चौड़ाई घातांकों (width exponents) को पूर्वानुमानित रूप से निर्देशित करते हैं।

Eslam Zaher, Maciej Trzaskowski, Quan Nguyen, Fred Roosta2026-05-12
🔢 mathematics

The Observable Wasserstein Distance

यह शोधपत्र "ऑब्जर्वेबल वासरस्टीन डिस्टेंस" (observable Wasserstein distance) प्रस्तुत करता है, जो एक गणनात्मक रूप से कुशल ढांचा है जो 1-लिप्सचिट्ज़ ऑब्जर्वेबल्स के माध्यम से प्रायिकता मापों को वास्तविक रेखा पर प्रक्षेपित करके वासरस्टीन दूरी पर निचली सीमाएं व्युत्पन्न करता है, जो एक सैद्धांतिक पदानुक्रम स्थापित करता है जो माप के समर्थन के मेट्रिक कविंग आयाम के आधार पर अद्वितीय रिकवरी की गारंटी देता है।

Edivaldo Lopes dos Santos, Leandro Vicente Mauri, Washington Mio, Tom Needham2026-05-12
🤖 machine learning

NaiAD: Initiate Data-Driven Research for LLM Advertising

यह शोध पत्र NaiAD को प्रस्तुत करता है, जो लगभग 59,000 विज्ञापन-अंतर्निहित प्रतिक्रियाओं और एक विच्छेदित (decoupled) जनरेशन पाइपलाइन वाली LLM-नेटिव विज्ञापन के लिए पहली व्यापक डेटासेट है, जो मॉडलों को विशिष्ट अर्थ संबंधी रणनीतियों और नियंत्रणीय इन-कॉन्टेक्स्ट लर्निंग के माध्यम से उपयोगकर्ता अनुभव और वाणिज्यिक राजस्व को एक साथ अनुकूलित करने में सक्षम बनाती है।

Yihang Zhang, Zimeng Huang, Ren Zhai, Yipeng Kang, Tonghan Wang2026-05-12
🤖 machine learning

Verifier-Free RL for LLMs via Intrinsic Gradient-Norm Reward

यह शोधपत्र VIGOR को प्रस्तुत करता है, जो एक वर्िफायर-मुक्त (verifier-free) सुदृढीकरण लर्निंग (reinforcement learning) विधि है जो बाहरी वर्िफायर या गोल्ड लेबल पर निर्भर हुए बिना गणितीय तर्क और कोड जनरेशन में LLM के प्रदर्शन को प्रभावी ढंग से सुधारने के लिए स्वयं पॉलिसी मॉडल से प्राप्त आंतरिक ग्रेडिएंट-नॉर्म रिवार्ड्स का लाभ उठाता है।

Xuexiang Wen, Hang Yu, Linchao Zhu, Gaoang Wang2026-05-12