cs.LG पेपर | Gist.Science

Singular Learning and Occam's Razor in Deep Monomial Networks

यह शोध पत्र पर्याप्त उच्च सक्रियण डिग्री वाले डीप मोनॉमियल नेटवर्क्स (deep monomial networks) में यह प्रदर्शित करने के लिए बहुपद बीजगणित (polynomial algebra), विशेष रूप से मेसन्स थ्योरम (Mason's Theorem) के उपकरणों का उपयोग करता है कि अनुकूलन परिदृश्य (optimization landscape) के क्रिटिकल पॉइंट्स सटीक रूप से निष्क्रिय या अनावश्यक न्यूरॉन्स वाले सब-नेटवर्क्स के अनुरूप होते हैं, जिससे डीप लर्निंग में सरल फलनों (simpler functions) की ओर निहित पूर्वाग्रह (implicit bias) के लिए एक गणितीय स्पष्टीकरण प्राप्त होता है।

Kathlén Kohn, Giovanni Luca Marchetti, Farhan Shabir, Vahid Shahverdi, Weisheng Wang2026-06-30

🤖 machine learning

Modelling Emotional Memory in Children with Tensor Networks

यह शोध पत्र प्रदर्शित करता है कि भावनात्मक संयोजी (emotional valence) को समाहित करने वाला एक शास्त्रीय टेंसर नेटवर्क मॉडल, बच्चों की भावनात्मक स्मृति की क्रम-निर्भर संरचना को पकड़ने में मानक मनोवैज्ञानिक मॉडलों (77.98% सटीकता प्राप्त करते हुए) से काफी बेहतर प्रदर्शन करता है, जिससे इस प्रकार के संज्ञानात्मक घटनाओं के मॉडलिंग के लिए क्वांटम-प्रेरित विधियों की उपयोगिता प्रमाणित होती है।

Henry Groves, Lucia F. Jackson, Barbara-Anne Robertson, Jonte R. Hance2026-06-30

🔬 condensed matter

Spectral phase transitions and trainability in neural network learning dynamics

यह शोध पत्र एक गतिशील ढांचे का प्रस्ताव करता है जो न्यूरल नेटवर्क की प्रशिक्षण क्षमता (trainability) और प्रतिनिधित्व शिक्षण (representation learning) को एक बेक-बेन एरोस-पेचे (BBP) स्पेक्ट्रल चरण संक्रमण (spectral phase transition) से जोड़ता है, जहाँ स्टोकेस्टिक ग्रेडिएंट ड्राइविंग के कारण सिग्नल आइजनवैल्यूज़ रैंडम बल्क से अलग हो जाते हैं, जो कि रैखिक मॉडलों में विश्लेषणात्मक रूप से व्युत्पन्न किया गया है और गैर-रैखिक सिमुलेशन के माध्यम से मान्य किया गया है।

Chanju Park, Dario Bocchi, Francesco D'Amico, Biagio Lucini, Gert Aarts2026-06-30

🤖 machine learning

A Gravitational Interpretation of Fine-Tuning Reversion

यह शोध पत्र फाइन-ट्यूनिंग रिवर्जन (fine-tuning reversion) की एक "गुरुत्वाकर्षण व्याख्या" (gravitational interpretation) प्रस्तावित करता है—जहाँ "गुरुत्वाकर्षण" शब्द एक शाब्दिक भौतिक गतिशील नियम के बजाय एक इतिहास-प्रेरित पूर्वाग्रह के लिए एक ज्यामितीय/अनुकूलन रूपक के रूप में कार्य करता है—यह तर्क देते हुए कि प्रारंभिक प्रशिक्षण प्रमुख व्यवहारिक मैनिफोल्ड्स (behavioral manifolds) स्थापित करता है जो एक ज्यामितीय खिंचाव पैदा करते हैं, जिससे मॉडल आगामी अपडेट के दौरान पूर्व-संरेखित व्यवहारों की ओर वापस जाने लगते हैं, एक ऐसी घटना जिसे एक विशिष्ट इतिहास-परिभाषित दिशा ( $v_{rev}$ ) द्वारा अभिलक्षित किया जा सकता है जिसे सुरक्षा क्षरण को रोकने के लिए अवरुद्ध किया जा सकता है।

Samuele Poppi, Nils Lukas2026-06-30✓ Author reviewed ⓘ

💬 NLP

Turn-Averaged SAEs for Feature Discovery and Long-Context Attribution

यह शोध पत्र टर्न-एवरेज्ड स्पार्स ऑटोएनकोडर (SAEs) को प्रस्तुत करता है जो मानक टोकन-आधारित SAEs की स्केलेबिलिटी सीमाओं को दूर करने के लिए संपूर्ण वार्तालाप टर्नों में औसत मॉडल एक्टिवेशन्स को पुनर्गठित करते हैं, जिससे लंबी-संदर्भ वाली भाषा मॉडल ट्रांसक्रिप्ट्स के लिए अधिक व्यापक फीचर डिस्कवरी और सरलीकृत एट्रिब्यूशन विश्लेषण सक्षम होता है।

Kevin Der, Harish Kamath, Ben Thompson2026-06-30

💬 NLP

Depth-Staggered Fibonacci Spacing for Sparse Attention: Static Schedules Beat Learned Dilation and Extrapolate Where Dense Attention Fails

यह शोध पत्र प्रदर्शित करता है कि एक स्थिर, डेप्थ-स्टैगर्ड फाइबोनैकी स्पेसिंग शेड्यूल, स्पार्स अटेंशन के लिए सीखे गए डिलेशन स्कीम्स की तुलना में दक्षता में बेहतर प्रदर्शन करता है और प्रशिक्षण लंबाई के चार गुना तक मजबूत एक्सट्रपलेशन सक्षम करता है, जबकि घने अटेंशन मॉडल ऐसी स्थितियों में ढह जाते हैं, भले ही प्रशिक्षण लंबाई पर स्पार्स वेरिएंट का पर्प्लेक्सिटी अधिक हो।

Chad A. Capps2026-06-30

🤖 machine learning

Geometric Measurements of the Axiom of Choice in Neural Proof Embeddings

यह शोध पत्र प्रदर्शित करता है कि चॉइस का अभिगृही (Axiom of Choice) न्यूरल प्रूफ़ एम्बेडिंग्स में एक मापने योग्य ज्यामितीय हस्ताक्षर छोड़ता है—जो निर्भरता ग्राफ (dependency graph) में अभिगृही से दूर जाने पर घटते विसंगति स्कोर (anomaly scores) और पुनर्निर्माण हानि (reconstruction losses) द्वारा अभिलक्षित है—जो लीन 4 (Lean 4) जैसे सिस्टम में रचनात्मक (constructive) और शास्त्रीय (classical) प्रमेय सिद्ध करने के बीच प्रदर्शन के अंतर के साथ सह-संबद्ध है और उसका पूर्वानुमान लगाता है।

Rodrigo Mendoza-Smith2026-06-30✓ Author reviewed ⓘ

⚡ electrical engineering

Neuromorphic Energy-Aware Learning for Adaptive Deep Brain Stimulation

यह शोध पत्र एक ऊर्जा-जागरूक शिक्षण ढांचे को प्रस्तुत करता है जो एक्चुएटर ऊर्जा को सुदृढीकरण लर्निंग (रिनफोर्समेंट लर्निंग) पुरस्कारों में शामिल करके और न्यूरोमॉर्फिक हार्डवेयर पर एक संकुचित स्पाइकिंग न्यूरल नेटवर्क को तैनात करके एक्चुएटर उत्तेजना और अनुमान दक्षता को सह-अनुकूलित करता है, जिससे पार्किंसंस रोग के लिए अनुकूली डीप ब्रेन स्टिमुलेशन में पैथोलॉजिकल ऑसिलेशन्स और बिजली की खपत दोनों में महत्वपूर्ण कमी आती है।

Binh Nguyen, Colleen Josephson, Mircea Teodorescu, Gert Cauwenberghs, Jason Eshraghian2026-06-30

💻 computer science

Reproducing FACTER: Fairness via Conformal Thresholding and Prompt Repair

यह शोध पत्र निष्पक्ष LLM-आधारित अनुशंसाओं के लिए FACTER फ्रेमवर्क का एक पुनरुत्पादकता अध्ययन प्रस्तुत करता है, जो यह प्रकट करता है कि जबकि यह एडेप्टिव-थ्रेशोल्ड उल्लंघनों को प्रभावी ढंग से कम करता है, इसकी पुनरावृत्ति प्रॉम्प्ट रिपेयर प्रक्रिया सीमित (constrained) री-रैंकिंग परिदृश्यों में स्टेटिक फेयरनेस इंस्ट्रक्शन्स की तुलना में सीमित अतिरिक्त लाभ प्रदान करती है और मूल अध्ययन में अपर्याप्त मूल्यांकन के कारण यूटिलिटी डाइवर्जेंस से ग्रस्त है।

Oscar Miró López-Feliu, Daimy van Loo, Xanthos Kekkos, Mikel Blom, Clara Rus2026-06-30

🤖 machine learning

Improving Patient Subtyping on Longitudinal Data using Representations from Mamba-based Architecture

यह शोध पत्र एक स्व-पर्यवेक्षित (self-supervised) मांबा-आधारित मॉडल प्रस्तावित करता है जो अनियमित अनुदैर्ध्य इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड डेटा से प्रभावी निरूपण (representations) सीखता है ताकि मौजूदा बेसलाइन मॉडलों की तुलना में रोगी उप-वर्गीकरण (subtyping) और सटीक चिकित्सा परिणामों में महत्वपूर्ण सुधार किया जा सके।

Md Mozaharul Mottalib, Rahmatollah Beheshti2026-06-30

← पिछला अगला →