🤖 machine learning

Prediction Bottlenecks Don't Discover Causal Structure (But Here's What They Actually Do)

यह शोध पत्र एक मानकीकृत मिथ्याकरण बेंचमार्क (falsification benchmark) प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि यह दावा कि प्रेडिक्शन बॉटलनैक्स (prediction bottlenecks) कारण संरचना (causal structure) की खोज करते है, गलत है, जो इसके बजाय यह प्रकट करता है कि देखे गए लाभ काफी हद तक नमूना-आकार के भ्रम (sample-size confounds) या विधि-अज्ञेय प्रभाव (method-agnostic effects) हैं जो ग्रेंजर कॉज़ैलिटी (Granger causality) और लासो (Lasso) जैसी शास्त्रीय विधियों द्वारा पीछे छोड़ दिए जाते हैं।

Ankit Hemant Lade, Sai Krishna Jasti, Indar Kumar, Aman Chadha2026-05-12
🤖 machine learning

Navigating LLM Valley: From AdamW to Memory-Efficient and Matrix-Based Optimizers

यह सर्वेक्षण बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के लिए अनुकूलन एल्गोरिदम (ऑप्टिमाइज़ेशन एल्गोरिदम) की एक व्यापक समीक्षा प्रदान करता है, जो शास्त्रीय प्रथम-क्रम दृष्टिकोणों से लेकर म्यूऑन (Muon) जैसे उन्नत मैट्रिक्स-आधारित ऑप्टिमाइज़र तक विधियों को वर्गीकृत करता है, और एक कठोर, स्केल-जागरूक बेंचमार्किंग का समर्थन करता है जो अभिसरण (कन्वर्जेंस), स्थिरता, मेमोरी दक्षता और कार्यान्वयन जटिलता का संयुक्त रूप से मूल्यांकन करता है।

Aditya Ranganath2026-05-12
🤖 machine learning

Learning When to Stop: Selective Imitation Learning Under Arbitrary Dynamics Shift

यह शोधपत्र SeqRejectron प्रस्तुत करता है, जो चयनात्मक अनुकरण शिक्षण (selective imitation learning) के लिए एक एल्गोरिदम है जो एक क्षितिज-मुक्त (horizon-free) स्टॉपिंग नियम का निर्माण करके एजेंटों को मनमानी गतिकी परिवर्तनों (arbitrary dynamics shifts) के तहत सुरक्षित रूप से कार्य करने से बचने में सक्षम बनाता है, जिसके पास सिद्ध नमूना जटिलता गारंटी (provable sample complexity guarantees) है।

Surbhi Goel, Jonathan Pei, James Wang2026-05-12
🤖 AI

Emergent Semantic Role Understanding in Language Models

यह शोध पत्र यह प्रदर्शित करता है कि लीनियर प्रोब्स (linear probes) द्वारा प्रमाणित, प्री-ट्रेनिंग के दौरान फ्रोजन डिकोडर-ओनली ट्रांसफॉर्मर में सिमेंटिक रोल (semantic role) की समझ आंशिक रूप से उभरती है, हालांकि पूर्ण प्रदर्शन के लिए फाइन-ट्यूनिंग की आवश्यकता होती है और मॉडल स्केल बढ़ने के साथ इन भूमिकाओं का आंतरिक प्रतिनिधित्व तेजी से वितरित होता जाता है।

Carla Griffiths, Mirco Musolesi2026-05-12
🤖 machine learning

DARE: Difficulty-Adaptive Reinforcement Learning with Co-Evolved Difficulty Estimation

यह शोध पत्र DARE का प्रस्ताव करता है, जो एक एकीकृत ढांचा है जो विभिन्न कार्य कठिनाइयों के माध्यम से प्रशिक्षण दक्षता, अंतिम प्रदर्शन और अनुमान संक्षिप्तता को एक साथ सुधारने के लिए सेल्फ-नॉर्मलाइज्ड इम्पोर्टेंस सैंपलिंग और एडेप्टिव कंप्यूट एलोकेशन के माध्यम से पॉलिसी के साथ कठिनाई अनुमान को सह-विकसित करता है।

Yang Zhou, Can Jin, Zihan Dong, Zhepeng Wang, Yanting Yang, Shiyu Zhao, Lei Li, Runxue Bao, Yaochen Xie, Dimitris N. Met (…)2026-05-12
📊 statistics

Fast Rates for Offline Contextual Bandits with Forward-KL Regularization under Single-Policy Concentrability

यह शोध पत्र सिंगल-पॉलिसी कंसेंट्रैबिलिटी के तहत फॉरवर्ड-केएल (forward-KL) रेगुलाइजेशन वाले ऑफलाइन कॉन्टेक्स्टुअल बैंडिट्स के लिए पहले O~(ϵ1)\tilde{O}(\epsilon^{-1}) फास्ट सैंपल कॉम्प्लेक्सिटी अपर बाउंड्स स्थापित करता है, जो एक नवीन कॉनवेक्स-एनालिटिकल विश्लेषण के माध्यम से टैबुलर और जनरल फंक्शन एप्रोक्सिमेशन सेटिंग्स को एकीकृत करता है और मैचिंग लोअर बाउंड्स के माध्यम से इन दरों की टाइटनेस को सिद्ध करता है।

Qingyue Zhao, Kaixuan Ji, Heyang Zhao, Quanquan Gu2026-05-12
🤖 AI

Flame3D: Zero-shot Compositional Reasoning of 3D Scenes with Agentic Language Models

Flame3D एक प्रशिक्षण-मुक्त (training-free) फ्रेमवर्क है जो दृश्यों को संपादन योग्य दृश्य-पाठ्य स्मृतियों (visual-textual memories) के रूप में प्रदर्शित करके और ऑफ-द-शेल्फ MLLMs को ओपन-एंडेड इन्फरेंस के लिए कस्टम स्थानिक उपकरणों (spatial tools) को गतिशील रूप से संश्लेषित करने हेतु सशक्त बनाकर ज़ीरो-शॉट कंपोजिशनल 3D सीन रीजनिंग को सक्षम बनाता है।

Sagar Bharadwaj, Ziyong Ma, Anurag Ghosh, Srinivasan Seshan, Anthony Rowe2026-05-12
🤖 machine learning

The Pokémon Theorem and other Fairness Impossibility Results

यह शोध पत्र विभिन्न निष्पक्षता असंभवता परिणामों (fairness impossibility results) को एक साझा RKHS ज्यामिति के अंतर्गत एकीकृत करता है, यह प्रदर्शित करते हुए कि असमान आधार दरें (unequal base rates) रैखिक निष्पक्षता बाधाओं को अति-निर्धारित (overdetermined) बना देती हैं, जो क्लेनबर्ग-मुलनेथन-राघवन द्वंद्व (Kleinberg–Mullainathan–Ragvan dichotomy), MMD द्वारा मापे गए अवशिष्ट उल्लंघनों के संबंध में एक "पोकेमॉन प्रमेय" (Pokémon theorem), और निष्पक्ष फीचर लर्निंग की मौलिक सीमाओं पर नए अंतर्दृष्टि की ओर ले जाती है।

Daniel Matsui Smola, Alex Smola2026-05-12
🤖 machine learning

ProactBench: Beyond What The User Asked For

ProactBench संवादात्मक सक्रियता (conversational proactivity)—LLMs द्वारा निहित उपयोगकर्ता आवश्यकताओं को पहचानने और उन पर कार्य करने की क्षमता—का मूल्यांकन करने के लिए एक नया बेंचमार्क पेश करता है, जो इसे इमर्जेंट (Emergent), क्रिटिकल (Critical) और रिकवरी (Recovery) चरणों में विभाजित करता है और यह प्रदर्शित करता है कि रिकवरी प्रदर्शन एक विशिष्ट, कठिन मूल्यांकन संकेत है जिसे मौजूदा बेंचमार्क द्वारा नहीं पकड़ा जा सकता है।

Sepehr Harfi, Ahmad Salimi, Dongming Shen, Alex Smola2026-05-12
🤖 machine learning

Privacy-Preserving Distributed Learning in IoT Systems: A Unified Threat Model and Evaluation Framework

यह शोध पत्र IoT प्रणालियों में वितरित शिक्षण (डिस्ट्रीब्यूटेड लर्निंग) के लिए गोपनीयता-संरक्षण तकनीकों का व्यवस्थित रूप से विश्लेषण और तुलना करने हेतु एक एकीकृत खतरा मॉडल (थ्रेट मॉडल) और मूल्यांकन ढांचा प्रस्तावित करता है, जो गोपनीयता सुदृढ़ता और सिस्टम दक्षता के बीच के समझौतों (ट्रेड-ऑफ) को उजागर करता है और हल्के ब्लूम फ़िल्टर-आधारित तरीकों की क्षमता को प्रदर्शित करता है।

John Cartmell, Alexander Williams2026-05-12