cs.LG पेपर | Gist.Science

Position: RL Researchers Need to Distinguish Between Solving Simulators and Using Simulators as a Proxy

यह शोध पत्र तर्क देता है कि सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग) शोधकर्ताओं को "सिमुलेटरों को हल करने" और "वास्तविक दुनिया के परिनियोजन के लिए सिमुलेटरों का एक प्रॉक्सी के रूप में उपयोग करने" के मौलिक रूप से भिन्न लक्ष्यों के बीच स्पष्ट अंतर करना चाहिए, क्योंकि इन उद्देश्यों को मिला देने से अनुचित एल्गोरिदम चयन, भ्रामक मूल्यांकन मेट्रिक्स और त्रुटिपूर्ण निष्कर्ष निकलते हैं।

Matthew Vandergrift, Esraa Elelimy, Martha White2026-06-30

🤖 machine learning

Learning to Distributedly Estimate under Partially Known Dynamics: A Covariance-Agnostic Neural Kalman Consensus Filter

यह शोधपत्र कोवेरिएंस-एग्नोस्टिक न्यूरल कलमन कंसेंसस फिल्टर (CA-NKCF) को प्रस्तुत करता है, जो एक नवीन वितरित सेंसिंग फ्रेमवर्क है जो विविध रैखिक, अराजक और वायरलेस ट्रैकिंग परिवेशों में शोर सांख्यिकी के ज्ञान की आवश्यकता के बिना मजबूत ऑनलाइन लेटेंट स्टेट एस्टिमेशन प्राप्त करने के लिए आंशिक डोमेन ज्ञान को डीप न्यूरल नेटवर्क के साथ एकीकृत करता है, और पारंपरिक एवं विशुद्ध रूप से मॉडल-मुक्त विधियों से बेहतर प्रदर्शन करता है।

George Stamatelis, Kyriakos Stylianopoulos, George C. Alexandropoulos2026-06-30

🤖 machine learning

S-GAI: Spectral Geometry-Aware Initialization for Sigmoidal MLPs -- From Dataset Geometry to Network Weights

यह शोध पत्र S-GAI को प्रस्तुत करता है, जो सिग्मोइडल MLPs के लिए एक स्पेक्ट्रल ज्योमेट्री-अवेयर इनिशियलाइज़ेशन फ्रेमवर्क है जो डेटासेट की अंतर्निहित ज्यामिति को एनकोड करने वाले हिडन लेयर के निर्माण के लिए इमेज डेटा के क्लास-वाइज SVD का लाभ उठाता है, जिसके परिणामस्वरूप मानक रैंडम इनिशियलाइज़ेशन विधियों की तुलना में काफी बेहतर प्रारंभिक प्रदर्शन और प्रतिस्पर्धी अंतिम सटीकता प्राप्त होती है।

Yi-Shan Chu2026-06-30

🤖 machine learning

Counterfactual Residual Data Augmentation for Regression

यह शोध पत्र काउंटरफैक्चुअल रेजिडुअल डेटा ऑग्मेंटेशन (CRDA) का प्रस्ताव करता है, जो टैबुलर रिग्रेशन के लिए एक मॉडल-अज्ञेय तकनीक है जो छोटे फीचर परटर्बेशन्स के तहत रेजिडुअल्स की इनवेरिएंस का लाभ उठाकर यथार्थवादी प्रशिक्षण नमूने उत्पन्न करता है, जिससे डेटा-दुर्लभ और शोर वाले परिवेश में मीन स्क्वेर्ड एरर में काफी कमी आती है।

Hossein Mohebbi, Oliver Schulte, Ke Li, Pascal Poupart2026-06-30

🤖 machine learning

Singular Learning and Occam's Razor in Deep Monomial Networks

यह शोध पत्र पर्याप्त उच्च सक्रियण डिग्री वाले डीप मोनॉमियल नेटवर्क्स (deep monomial networks) में यह प्रदर्शित करने के लिए बहुपद बीजगणित (polynomial algebra), विशेष रूप से मेसन्स थ्योरम (Mason's Theorem) के उपकरणों का उपयोग करता है कि अनुकूलन परिदृश्य (optimization landscape) के क्रिटिकल पॉइंट्स सटीक रूप से निष्क्रिय या अनावश्यक न्यूरॉन्स वाले सब-नेटवर्क्स के अनुरूप होते हैं, जिससे डीप लर्निंग में सरल फलनों (simpler functions) की ओर निहित पूर्वाग्रह (implicit bias) के लिए एक गणितीय स्पष्टीकरण प्राप्त होता है।

Kathlén Kohn, Giovanni Luca Marchetti, Farhan Shabir, Vahid Shahverdi, Weisheng Wang2026-06-30

🤖 machine learning

Modelling Emotional Memory in Children with Tensor Networks

यह शोध पत्र प्रदर्शित करता है कि भावनात्मक संयोजी (emotional valence) को समाहित करने वाला एक शास्त्रीय टेंसर नेटवर्क मॉडल, बच्चों की भावनात्मक स्मृति की क्रम-निर्भर संरचना को पकड़ने में मानक मनोवैज्ञानिक मॉडलों (77.98% सटीकता प्राप्त करते हुए) से काफी बेहतर प्रदर्शन करता है, जिससे इस प्रकार के संज्ञानात्मक घटनाओं के मॉडलिंग के लिए क्वांटम-प्रेरित विधियों की उपयोगिता प्रमाणित होती है।

Henry Groves, Lucia F. Jackson, Barbara-Anne Robertson, Jonte R. Hance2026-06-30

🔬 condensed matter

Spectral phase transitions and trainability in neural network learning dynamics

यह शोध पत्र एक गतिशील ढांचे का प्रस्ताव करता है जो न्यूरल नेटवर्क की प्रशिक्षण क्षमता (trainability) और प्रतिनिधित्व शिक्षण (representation learning) को एक बेक-बेन एरोस-पेचे (BBP) स्पेक्ट्रल चरण संक्रमण (spectral phase transition) से जोड़ता है, जहाँ स्टोकेस्टिक ग्रेडिएंट ड्राइविंग के कारण सिग्नल आइजनवैल्यूज़ रैंडम बल्क से अलग हो जाते हैं, जो कि रैखिक मॉडलों में विश्लेषणात्मक रूप से व्युत्पन्न किया गया है और गैर-रैखिक सिमुलेशन के माध्यम से मान्य किया गया है।

Chanju Park, Dario Bocchi, Francesco D'Amico, Biagio Lucini, Gert Aarts2026-06-30

🤖 machine learning

A Gravitational Interpretation of Fine-Tuning Reversion

यह शोध पत्र फाइन-ट्यूनिंग रिवर्जन (fine-tuning reversion) की एक "गुरुत्वाकर्षण व्याख्या" (gravitational interpretation) प्रस्तावित करता है—जहाँ "गुरुत्वाकर्षण" शब्द एक शाब्दिक भौतिक गतिशील नियम के बजाय एक इतिहास-प्रेरित पूर्वाग्रह के लिए एक ज्यामितीय/अनुकूलन रूपक के रूप में कार्य करता है—यह तर्क देते हुए कि प्रारंभिक प्रशिक्षण प्रमुख व्यवहारिक मैनिफोल्ड्स (behavioral manifolds) स्थापित करता है जो एक ज्यामितीय खिंचाव पैदा करते हैं, जिससे मॉडल आगामी अपडेट के दौरान पूर्व-संरेखित व्यवहारों की ओर वापस जाने लगते हैं, एक ऐसी घटना जिसे एक विशिष्ट इतिहास-परिभाषित दिशा ( $v_{rev}$ ) द्वारा अभिलक्षित किया जा सकता है जिसे सुरक्षा क्षरण को रोकने के लिए अवरुद्ध किया जा सकता है।

Samuele Poppi, Nils Lukas2026-06-30✓ Author reviewed ⓘ

💬 NLP

Turn-Averaged SAEs for Feature Discovery and Long-Context Attribution

यह शोध पत्र टर्न-एवरेज्ड स्पार्स ऑटोएनकोडर (SAEs) को प्रस्तुत करता है जो मानक टोकन-आधारित SAEs की स्केलेबिलिटी सीमाओं को दूर करने के लिए संपूर्ण वार्तालाप टर्नों में औसत मॉडल एक्टिवेशन्स को पुनर्गठित करते हैं, जिससे लंबी-संदर्भ वाली भाषा मॉडल ट्रांसक्रिप्ट्स के लिए अधिक व्यापक फीचर डिस्कवरी और सरलीकृत एट्रिब्यूशन विश्लेषण सक्षम होता है।

Kevin Der, Harish Kamath, Ben Thompson2026-06-30

💬 NLP

Depth-Staggered Fibonacci Spacing for Sparse Attention: Static Schedules Beat Learned Dilation and Extrapolate Where Dense Attention Fails

यह शोध पत्र प्रदर्शित करता है कि एक स्थिर, डेप्थ-स्टैगर्ड फाइबोनैकी स्पेसिंग शेड्यूल, स्पार्स अटेंशन के लिए सीखे गए डिलेशन स्कीम्स की तुलना में दक्षता में बेहतर प्रदर्शन करता है और प्रशिक्षण लंबाई के चार गुना तक मजबूत एक्सट्रपलेशन सक्षम करता है, जबकि घने अटेंशन मॉडल ऐसी स्थितियों में ढह जाते हैं, भले ही प्रशिक्षण लंबाई पर स्पार्स वेरिएंट का पर्प्लेक्सिटी अधिक हो।

Chad A. Capps2026-06-30

← पिछला अगला →