🤖 Category

cs.LG

19766 पेपर

⚡ electrical engineering

Online-Score-Aided Federated Learning for Resource-Constrained Wireless Clients with Continual Data Arrival

यह शोध पत्र ऑनलाइन-स्कोर-अडेड फेडरेटेड लर्निंग (OSAFL) का प्रस्ताव करता है, जो एक नवीन एल्गोरिदम है जिसे विभिन्न बाधाओं के तहत अभिसरण सीमाओं (convergence bounds) का सैद्धांतिक विश्लेषण करने और त्रुटियों को न्यूनतम करने के लिए वैश्विक एकत्रीकरण भारों को अनुकूलित करने के माध्यम से सीमित भंडारण और निरंतर डेटा आगमन वाले संसाधन-बाधित वायरलेस क्लाइंट्स की चुनौतियों को संबोधित करने के लिए डिज़ाइन किया गया है।

Ferdous Pervej, Minseok Choi, Andreas F. Molisch2026-07-21
🤖 machine learning

Distributed solar generation forecasting using attention-based deep neural networks for cloud movement prediction

यह शोध पत्र एक बड़े पैमाने का अनुभवजन्य अध्ययन प्रस्तुत करता है जो यह प्रदर्शित करता है कि उपग्रह चित्रों से बादलों की गति का पूर्वानुमान लगाने के लिए अटेंशन-आधारित डीप न्यूरल नेटवर्क का उपयोग करना, ऑस्ट्रेलिया में 50 पीवी (PV) साइटों में, वितरित सौर उत्पादन पूर्वानुमान सटीकता को, विशेष रूप से उच्च-ऊंचाई वाले बादलों के लिए, महत्वपूर्ण रूप से सुधारता है।

Maneesha Perera, Julian De Hoog, Kasun Bandara, Hansani Weeratunge, Saman Halgamuge2026-07-21
🤖 machine learning

PLayer-FL: A Principled Approach to Personalized Layer-wise Cross-Silo Federated Learning

यह शोधपत्र PLayer-FL प्रस्तुत करता है, जो व्यक्तिगत क्रॉस-सिलो फेडरेटेड लर्निंग (personalized cross-silo federated learning) के लिए एक सिद्धांतपूर्ण दृष्टिकोण है, जो एक नवीन, कुशलतापूर्वक गणना किए गए फेडरेशन-सेंसिटिविटी मीट्रिक का उपयोग करके स्वचालित रूप से इष्टतम लेयर-वाइज स्प्लिट पॉइंट की पहचान करता है, जिससे गैर-IID डेटा स्थितियों के तहत क्लाइंट प्रदर्शन और समानता में सुधार करने के लिए हस्तांतरणीय फीचर शेयरिंग (transferable feature sharing) और कार्य-विशिष्ट अनुकूलन (task-specific adaptation) के बीच संतुलन बनाया जा सके।

Ahmed Elhussein, Florent Pollet, Gamze Gürsoy2026-07-21
🤖 machine learning

Data Requirement Goal Modeling for Machine Learning Systems

यह शोध पत्र एक डेटा रिक्वायरमेंट गोल मॉडलिंग (DRGM) दृष्टिकोण प्रस्तावित करता है जो लक्ष्य मॉडलिंग और एक अनुकूलन तंत्र का उपयोग करता है ताकि गैर-विशेषज्ञों को मशीन लर्निंग प्रणालियों के लिए डेटा आवश्यकताओं की पहचान करने, उन्हें अनुकूलित करने और उनका मूल्यांकन करने में मार्गदर्शन किया जा सके, जिसे व्यावहारिक प्रभावशीलता सुनिश्चित करने के लिए वास्तविक दुनिया के उदाहरणों के माध्यम से मान्य किया गया है।

Asma Yamani, Nadeen AlAmoudi, Salma Albilali, Malak Baslyman, Jameleddine Hassine2026-07-21
🤖 machine learning

STRATA: A Name-and-Geography Race Inference Model for Fair Lending and Housing Equity Applications

यह शोध पत्र STRATA को प्रस्तुत करता है, जो एक नवीन नस्ल और जातीयता अनुमान मॉडल है जो निष्पक्ष ऋण अनुपालन और आवास इक्विटी विश्लेषण के लिए BISG जैसी मौजूदा विधियों की तुलना में सामाजिक-आर्थिक पूर्वाग्रह को काफी कम करने और सटीकता में सुधार करने के लिए स्टैक्ड बिडायरेक्शनल (Bidirectional) LSTMs और XGBoost का उपयोग करके वर्ण-स्तर (character-level) के नाम अनुक्रमों को जनगणना क्षेत्र (census tract) भू-स्थानिक डेटा के साथ जोड़ता है।

S. Chalavadi, A. Pastor, T. Leitch2026-07-21
💬 NLP

Prismatic Synthesis: Gradient-based Data Diversification Boosts Generalization in LLM Reasoning

यह शोध पत्र G-Vendi प्रस्तुत करता है, जो एक ग्रेडिएंट-आधारित विविधता मीट्रिक (diversity metric) है जो आउट-ऑफ-डिस्ट्रीब्यूशन सामान्यीकरण (out-of-distribution generalization) की भविष्यवाणी करता है, और विविध सिंथेटिक डेटा उत्पन्न करने के लिए इसका लाभ उठाते हुए प्रिजमैटिक सिंथेसिस (Prismatic Synthesis) विकसित करता है, जो अनसीन बेंचमार्क पर LLM रीजनिंग प्रदर्शन को महत्वपूर्ण रूप से बढ़ाता है और विशाल प्रोप्राइटरी डेटासेट्स पर प्रशिक्षित मॉडलों से बेहतर प्रदर्शन करता है।

Jaehun Jung, Seungju Han, Ximing Lu, Skyler Hallinan, David Acuna, Shrimai Prabhumoye, Mostafa Patwary, Mohammad Shoeybi (…)2026-07-21
🤖 AI

The challenge of hidden gifts in multi-agent reinforcement learning

यह शोध पत्र मल्टी-एजेंट सुदृढीकरण शिक्षण (multi-agent reinforcement learning) में "छिपे हुए उपहारों" (hidden gifts) की चुनौती की जांच करता है, यह प्रदर्शित करते हुए कि मानक एल्गोरिदम तब सामूहिक पुरस्कार प्राप्त करने में विफल रहते हैं जब लाभकारी क्रियाएं अदृश्य होती हैं, लेकिन क्रिया इतिहास और विकेंद्रीकृत एक्टर-क्रिटिक एजेंटों में एक नवीन विचरण-न्यूनीकरण सुधार पद (variance-reducing correction term) को शामिल करके प्रदर्शन में महत्वपूर्ण सुधार किया जा सकता है।

Dane Malenfant, Blake A. Richards2026-07-21
🤖 machine learning

Chameleon: A Multiplier-Free Temporal Convolutional Network Accelerator for End-to-End Few-Shot and Continual Learning from Sequential Data

कमीलिऑन (Chameleon) एक 40-एनएम (nm) CMOS एक्सेलेरेटर है जो एक एकीकृत आर्किटेक्चर और एक ड्यूल-मोड, मल्टीप्लायर-फ्री कंप्यूट एरे का उपयोग करके न्यूनतम क्षेत्र ओवरहेड और अल्ट्रा-लो पावर खपत के साथ अनुक्रमिक डेटा पर रिकॉर्ड-तोड़ एंड-टू-एंड फ्यू-शॉट और निरंतर शिक्षण (continual learning) प्राप्त करता है।

Douwe den Blanken, Charlotte Frenkel2026-07-21
💬 NLP

Can Interpretation Predict Behavior on Unseen Data?

यह शोध पत्र यह प्रदर्शित करता है कि इन-डिस्ट्रीब्यूशन प्रशिक्षण के दौरान देखे गए अटेंशन पैटर्न एक ट्रांसफॉर्मर मॉडल के आउट-ऑफ-डिस्ट्रीब्यूशन व्यवहार की सफलतापूर्वक भविष्यवाणी कर सकते हैं, जो एक नए व्याख्यात्मकता उद्देश्य (interpretability objective) को स्थापित करता है जहाँ प्रेक्षण संबंधी विश्लेषण वितरण बदलाव (distribution shift) के तहत विश्वसनीयता का पूर्वानुमान लगा सकता है, भले ही कारण संबंधी यांत्रिक लिंक (causal mechanistic links) अनुपस्थित हों।

Victoria R. Li, Jenny Kaufmann, Tian Qin, Martin Wattenberg, David Alvarez-Melis, Naomi Saphra2026-07-21
🤖 machine learning

Attentions Under the Microscope: A Comparative Study of Resource Utilization for Variants of Self-Attention

यह शोध पत्र यह प्रदर्शित करने के लिए GPT-2 प्रशिक्षण के दौरान आठ अटेंशन मैकेनिज्म का बेंचमार्किंग करता है कि फ्लैश अटेंशन (Flash Attention), एलएसएच (LSH) और एमएलए (MLA) जैसे अनुकूलित कर्नेल कार्यान्वयन सर्वोत्तम ऊर्जा दक्षता प्रदान करते हैं, जो इस बात पर प्रकाश डालता है कि प्रशिक्षण समय पर विचार किए बिना केवल जीपीयू (GPU) बिजली को कम करना अपर्याप्त है।

Zhengyu Tian, Anantha Padmanaban Krishna Kumar, Hemant Krishnakumar, Reza Rawassizadeh2026-07-21