🤖 Category

cs.LG

23609 पेपर

🤖 machine learning

From Latent Space to Training Data: Explainable Specialization in Minimal MLPs

यह शोध पत्र यह प्रदर्शित करता है कि न्यूनतम गॉसियन-एक्टिवेशन (Gaussian-activation) वाले एमएलपी (MLP) में, प्रोटोटाइप-आधारित डेटा पुनर्निर्माण को बेहतर बनाने और प्रतिकर्षण पृथक्करण (repulsive separation) या ओवरलैप दंड के कारण लेटेंट ज्योमेट्री (latent geometry) के अपभ्रष्ट पतन (degenerate collapse) को रोकने के लिए कवरेज रेगुलराइजेशन (coverage regularization) सबसे प्रभावी संरचनात्मक हानि (structural loss) है।

Enrique Alba, Ezequiel Lopez-Rubio2026-05-26
🤖 machine learning

Step-TP: A Grounded, Step-Level Dataset with Chain-of-Thought Reasoning for LLM-Guided Tensor Program Optimization

यह शोध पत्र Step-TP प्रस्तुत करता है, जो एक नवीन पोस्ट-ट्रेनिंग डेटासेट है जो संरचित चेन-ऑफ-थॉट रीजनिंग और एक टोकन-कुशल मध्यवर्ती प्रतिनिधित्व के माध्यम से ग्राउंडेड, परमाणु, स्टेप-लेवल सुपरविजन प्रदान करके LLM-गाइडेड टेंसर प्रोग्राम ऑप्टिमाइजेशन को बढ़ाता है ताकि विश्वसनीय मल्टी-स्टेप निर्णय लेने में सक्षम बनाया जा सके।

Mengfan Liu, Da Zheng, Junwei Su, Chuan Wu2026-05-26
📊 statistics

Mapping the Schedule x Bit-Width Boundary in Sub-100M Quantisation-Aware Training

यह शोध पत्र प्रदर्शित करता है कि सब-100M डिकोडर लैंग्वेज मॉडल्स के लिए, इष्टतम लर्निंग-रेट वॉर्मडाउन शेड्यूल (33%) काफी हद तक बिट-विड्थ (FP16, INT8, INT6) और मॉडल साइज से स्वतंत्र है, जिसमें INT4 50M पैरामीटर्स से नीचे एक शोर-प्रधान (noise-dominated) शासन से 50M और उससे ऊपर एक निर्णायक इष्टतम शेड्यूल में एक विशिष्ट संक्रमण प्रदर्शित करता है।

Christian Brandt Thomassen2026-05-26
🤖 machine learning

Hidden in Plain Tokens: Simply Robust, Gradient-Free Watermark for Synthetic Audio

यह शोध पत्र सिंथेटिक ऑडियो के लिए एक सुदृढ़, ग्रेडिएंट-मुक्त वॉटरमार्किंग पद्धति प्रस्तावित करता है जो टोकन त्रुटियों को कम करने के लिए शब्दावली अतिरेक (vocabulary redundancy) और समुदाय पहचान (community detection) का लाभ उठाता है, जिससे मॉडल फाइनट्यूनिंग की आवश्यकता के बिना अत्याधुनिक पता लगाने की क्षमता (state-of-the-art detectability) प्राप्त होती है।

Georgios Milis, Yubin Qin, Yihan Wu, Heng Huang2026-05-26
🤖 machine learning

Fuzzy PyTorch: Rapid Numerical Variability Evaluation for Deep Learning Models

यह शोध पत्र फजी पायटॉर्च (Fuzzy PyTorch) को प्रस्तुत करता है, जो एक स्केलेबल और कुशल फ्रेमवर्क है जो वेरिफिकारलो (Verificarlo) के माध्यम से स्टोकेस्टिक (stochastic) और अप-डाउन राउंडिंग मोड को एकीकृत करता है ताकि मौजूदा उपकरणों की तुलना में काफी कम रनटाइम के साथ डीप लर्निंग मॉडल में संख्यात्मक परिवर्तनशीलता का तेजी से मूल्यांकन किया जा सके, और यह सब मॉडल के प्रदर्शन को बनाए रखते हुए किया जाता है।

Inés Gonzalez-Pepe, Hiba Akhaddar, Tristan Glatard, Yohan Chatelain2026-05-26
📊 statistics

Deployment-complete benchmarking

यह शोध पत्र "डिप्लॉयमेंट-कम्प्लीट बेंचमार्किंग" (deployment-complete benchmarking) पेश करता है, जो एक ऐसा ढांचा है जो साक्ष्य अस्पष्टता (evidence ambiguity) को मात्रात्मक रूप से मापकर यह मूल्यांकन करता है कि क्या बेंचमार्क स्कोर विश्वसनीय रूप से डिप्लॉयमेंट कार्यों को निर्धारित करते हैं, यह प्रकट करते हुए कि वर्तमान बेंचमार्क अक्सर उच्च स्कोर के बावजूद वास्तविक दुनिया के निर्णयों का समर्थन करने में विफल रहते हैं, और एक "सर्टिफाई-देन-एक्वायर" (certify-then-acquire) रणनीति का प्रस्ताव करता है जो गलत डिप्लॉयमेंट निर्णयों को महत्वपूर्ण रूप से कम करती है।

El Mustapha Mansouri, Keigo Arai2026-05-26
🤖 machine learning

Causal methods for LLM development and evaluation

यह शोध पत्र तर्क देता है कि कारण संबंधी अनुमान (causal inference) की विधियाँ वर्तमान में कम उपयोग की जा रही हैं फिर भी लार्ज लैंग्वेज मॉडल के विकास और मूल्यांकन में कन्फाउंडिंग (confounding), पूर्वाग्रह (bias) और नॉन-स्टेशनैरिटी (non-stationarity) को संबोधित करने के लिए आवश्यक हैं, जो प्रीट्रेनिंग से लेकर परिनियोजन (deployment) तक संपूर्ण एलएलएम (LLM) पाइपलाइन में हस्तक्षेपों का मार्गदर्शन करने के लिए एक सिद्धांतपूर्ण ढांचा प्रदान करती हैं।

Dennis Frauen, Marie Brockschmidt, Konstantin Hess, Haorui Ma, Yuchen Ma, Abdurahman Maarouf, Maresa Schröder, Jonas Sch (…)2026-05-26
🤖 machine learning

Learning in Low-Dimensional Subspaces: Orthogonal Bottlenecks for Reinforcement Learning

यह शोध पत्र ऑर्थोगोनल बॉटलनैक्स (orthogonal bottlenecks) को प्रस्तुत करता है, जो एक हल्का और आर्किटेक्चर-अज्ञेय (architecture-agnostic) तंत्र है जो फिक्स्ड ऑर्थोनॉर्मल प्रोजेक्शन्स के माध्यम से सुदृढीकरण शिक्षण (reinforcement learning) के निरूपणों को कम-आयामी उप-स्थानों (low-dimensional subspaces) तक सीमित करता है, और सैद्धांतिक एवं अनुभवजन्य रूप से यह प्रदर्शित करता है कि कार्य-प्रासंगिक वैल्यू फंक्शन को न्यूनतम आयामीता के साथ संरक्षित किया जा सकता है और अक्सर इसमें सुधार किया जा सकता है, जबकि फीचर ज्योमेट्री को स्थिर किया जाता है।

Aleksandar Todorov, Matthia Sabatelli2026-05-26✓ Author reviewed ⓘ
🤖 machine learning

Length Generalization with Log-Depth Recurrent Units

यह शोध पत्र MLP-LDRU को प्रस्तुत करता है, जो एक लॉग-डेप्थ रिकरेंट यूनिट है जो रेगुलर-लैंग्वेज कार्यों पर लगभग पूर्ण लंबाई सामान्यीकरण (length generalization) प्राप्त करने के लिए पैरेलल रिडक्शन के माध्यम से पुनरावृत्ति (recurrence) का अनुमान लगाता है और व्यापक बेंचमार्क पर प्रतिस्पर्धी प्रदर्शन करता है, जो प्रभावी रूप से रिकरेंट मॉडल्स के पोजीशनल बायस और ट्रांसफॉर्मर्स की डेप्थ बाधाओं को संबोधित करता है।

Charles Pert, Dalal Alrajeh, Alessandra Russo2026-05-26
🤖 AI

CITYREP: A Unified Benchmark for Urban Representations Across Cities, Tasks, and Modalities

वर्तमान शहरी प्रतिनिधित्व मूल्यांकनों में स्थानिक रिसाव (spatial leakage) और सामान्यीकरण की कमी जैसी सीमाओं को संबोधित करने के लिए, लेखक सिटीरेप (CityRep) का प्रस्ताव करते हैं, जो एक एकीकृत बेंचमार्क है जिसमें स्थानिक रूप से संरचित विभाजन और कई शहरों, कार्यों और माध्यमों (modalities) में मॉडलों का कठोरता से आकलन करने के लिए एक मानकीकृत ढांचा शामिल है।

Junyuan Liu, Xinglei Wang, Zichao Zeng, Jiazhuang Feng, Quan Qin, Ilya Ilyankou, Guangsheng Dong, Tao Cheng2026-05-26