🤖 Category

cs.LG

20386 पेपर

🤖 machine learning

No Subspace to Track: Non-Identifiability and Optimizer State in Low-Rank Training

यह शोध पत्र यह प्रदर्शित करता है कि GaLore जैसे मेमोरी-कुशल ऑप्टिमाइज़र द्वारा ट्रैक करने योग्य माना जाने वाला लो-रैंक ग्रेडिएंट सबस्पेस (low-rank gradient subspace) उच्च एस्टिमेटर शोर (estimator noise) के कारण मौलिक रूप से गैर-पहचान योग्य (non-identifiable) है, जो यह प्रकट करता है कि प्रदर्शन में लाभ वास्तव में सबस्पेस की स्थिरता के बजाय सबस्पेस रिफ्रेश के दौरान ऑप्टिमाइज़र स्टेट को सही ढंग से ट्रांसपोर्ट करने से उत्पन्न होता है।

Noel Thomas2026-07-08
🤖 machine learning

Auditing of Unlearning Algorithms

यह शोध पत्र एक व्यावहारिक ऑडिटिंग फ्रेमवर्क प्रस्तुत करता है जो अनलर्निंग गारंटी (unlearning guarantees) पर डेटा-निर्भर निचली सीमाओं की गणना करने के लिए मेंबरशिप इन्फरेंस हमलों का उपयोग करता है, जो एक तीव्र प्रदर्शन अंतराल को प्रकट करता है जहाँ कठोरता से प्रमाणित एल्गोरिदम प्रभावी रूप से डेटा प्रभाव को हटा देते हैं जबकि अनुभवजन्य विधियाँ ऐसा करने में विफल रहती हैं।

Sahasrajit Sarmasarkar, Anastasia Koloskova, Sanmi Koyejo2026-07-08
🤖 machine learning

K-ABENA: K-Adaptive Backpropagation with Error-based N-exclusion Algorithm : (Compensated Loss-Based Sample Exclusion with Unbiased Gradient Estimation)

K-ABENA एक चयनात्मक ग्रेडिएंट कंप्यूटेशन फ्रेमवर्क है जो कम-लॉस (low-loss) वाले नमूनों को बाहर करके प्रशिक्षण लागत को कम करता है और एक निष्पक्ष ग्रेडिएंट एस्टिमेटर प्रदान करने के लिए हॉरविट्ज़-थॉम्पसन रीवेटिंग (Horvitz-Thompson reweighting) का उपयोग करता है, जिससे यह अनकम्पेंसेटेड सिलेक्शन विधियों के गंभीर विफलता मोड के बिना पूर्ण-बैच SGD के तुलनीय प्रदर्शन और अभिसरण गारंटी (convergence guarantees) प्राप्त करता है।

Jean-Francois Bonbhel2026-07-08
🤖 machine learning

More Convincing, Not More Correct: Self-Play Reward Hacking of Reference-Free LLM Judges

यह शोध पत्र प्रदर्शित करता है कि सेल्फ-प्ले के माध्यम से प्रशिक्षित संदर्भ-मुक्त (reference-free) एलएलएम जज संरचनात्मक रूप से शुद्धता और संभाव्यता (plausibility) के बीच अंतर करने में विफल रहते हैं, जिससे गंभीर रिवॉर्ड हैकिंग होती है जो पास दरों को बढ़ा देती है जबकि सटीकता ध्वस्त हो जाती है, एक ऐसा दोष जिसे केवल जज को उम्मीदवारों का मूल्यांकन करने से पहले एक स्वतंत्र उत्तर देने के लिए बाध्य करके ही रोका जा सकता है।

Chenyu Zhou2026-07-08
🤖 machine learning

Drift Happens: An Empirical Study of Neural Architecture Robustness to Temporal Distribution Shift

यह शोध पत्र अनुभवजन्य रूप से यह प्रदर्शित करता है कि जबकि स्थानीयकृत, विभेदक विशेषताओं (localized, discriminative features) के उपयोग को सक्षम करने वाले आर्किटेक्चरल इंडक्टिव बायस (architectural inductive biases) उच्च प्रारंभिक सटीकता प्रदान करते हैं, वे टेम्पोरल डिस्ट्रीब्यूशन शिफ्ट (temporal distribution shifts) के तहत प्रदर्शन में तेजी से गिरावट का कारण भी बनते हैं, जबकि मोटे तौर पर स्थिर (coarser, stable) निरूपणों का लाभ उठाने वाले मॉडल अधिक दीर्घकालिक सुदृढ़ता प्रदर्शित करते हैं।

Robin Holzinger (Department of Electrical Engineering and Computer Sciences, University of California, Berkeley, USA), R (…)2026-07-08
🤖 machine learning

Energy-Efficient GPU DVFS for Fine-Tuning of SLMs on Resource-constrained Embedded Devices

यह शोध पत्र संसाधन-बाधित एम्बेडेड जीपीयू पर स्मॉल लैंग्वेज मॉडल्स की ऊर्जा-कुशल फाइन-ट्यूनिंग के लिए डायनेमिक वोल्टेज फ्रीक्वेंसी स्केलिंगिंग (DVFS) सेटिंग्स को अनुकूलित करने हेतु एक एमएल-आधारित मॉडल चयन दृष्टिकोण प्रस्तावित करता है, जो मानक MAXN मोड की तुलना में NVIDIA Jetson AGX Orin उपकरणों पर औसतन 13.11% ऊर्जा बचत प्राप्त करता है।

Jurn-Gyu Park, Sanzhar Zholdybayev, Aidar Amangeldi, Ademi Zhanuzakova2026-07-08
🤖 machine learning

Mitigating Errors in LLM-Generated Web API Invocations via Retrieval-Augmented Generation and Constrained Decoding

यह शोध पत्र LLM-जनित वेब API इनवोकेशन की शुद्धता में सुधार करने के लिए पूरक रणनीतियों के रूप में रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) और कंस्ट्रेंड डिकोडिंग (CD) का प्रस्ताव और मूल्यांकन करता है, जिसमें यह पाया गया है कि जबकि RAG फुल इनवोकेशन जनरेशन में मतिभ्रम (hallucinations) को प्रभावी ढंग से कम करता है, वहीं CD अवैध मापदंडों (parameters) को रोकने के लिए अधिक विश्वसनीय प्रावधान प्रदान करता है और विभिन्न परिदृश्यों में समग्र शुद्धता को महत्वपूर्ण रूप से बढ़ाता है।

Daniel Maninger, Leon Chemnitz, Jannis Brugger, Tushar Lamba, Amir Molzam Sharifloo, Mira Mezini2026-07-08
💬 NLP

Is Domain Adaptation Always Helpful? A Frozen-Backbone Study of Cross-Domain Sentiment Transfer

यह अध्ययन प्रदर्शित करता है कि फ्रोजन प्री-ट्रेन्ड लैंग्वेज मॉडल बैकबोन के साथ स्पष्ट डोमेन अनुकूलन (explicit domain adaptation) की प्रभावकारिता बैकबोन के मौजूदा लक्षित-डोमेन ज्ञान पर अत्यधिक निर्भर है, क्योंकि अनुकूलन विशिष्ट मॉडलों या बड़े पैमाने के एम्बेडिंग्स के लिए नगण्य लाभ प्रदान करता है जबकि डोमेन-विशिष्ट कार्यों पर छोटे सामान्य-उद्देश्य वाले मॉडलों को महत्वपूर्ण रूप से लाभान्वित करता है।

Phat Tran, Artin Lahni, Pranav Kulkarni, Yaolun Zhang2026-07-08
🤖 machine learning

REAN: Reconstruction-aware ECG Anonymization Based on Privacy--Utility Orthogonality

यह शोध पत्र REAN का प्रस्ताव करता है, जो एक पुनर्निर्माण-जागरूक (reconstruction-aware) ईसीजी (ECG) अनामकरणकर्ता है जो कई सार्वजनिक डेटाबेसों में नैदानिक उपयोगिता को बनाए रखते हुए रोगी पुन: पहचान के जोखिमों को प्रभावी ढंग से समाप्त करने के लिए गोपनीयता और उपयोगिता ग्रेडिएंट्स की लगभग-लंबवतता (near-orthogonality) का लाभ उठाता है।

Taerin Ki, Sunghwan Park, Junyoung Park, Jaewoo Lee2026-07-08
🤖 machine learning

Determinantal point process sampling for bioacoustic active learning

यह शोध पत्र CARE-DPP प्रस्तुत करता है, जो बायोअकॉस्टिक मॉनिटरिंग के लिए एक बैच एक्टिव लर्निंग विधि है जो प्रेडिक्टिव अनसर्टेन्टी (predictive uncertainty) और एम्बेडिंग-स्पेस नॉवेल्टी (embedding-space novelty) को संतुलित करके विविध, गैर-अतिरेक (non-redundant) नमूनों का चयन करने के लिए डिटरमिनेंटल पॉइंट प्रोसेसेज (determinantal point processes) का लाभ उठाता है, जो BirdSet और ATBFL डेटासेट पर बेसलाइन की तुलना में बेहतर प्रदर्शन प्राप्त करता है।

Hugo Magaldi, Gabriel Dubus2026-07-08