💬 NLP

Speaker Group Encoding in Self-supervised Speech Recognition Models

यह शोध पत्र इस बात की जांच करता है कि स्व-पर्यवेक्षित (self-supervised) वाक् पहचान मॉडल विभिन्न प्रशिक्षण चरणों में वक्ता समूह की जानकारी को कैसे एनकोड करते, यह प्रकट करते हुए कि जहाँ वक्ता पहचान फाइन-ट्यूनिंग ध्वन्यात्मक विविधताओं को बढ़ा देती है और एएसआर (ASR) फाइन-ट्यूनिंग उन्हें ध्वन्यात्मक रूप से हटाते हुए अर्थ संबंधी विविधताओं को बनाए रखती है, वहीं निष्पक्षता बढ़ाने वाले एल्गोरिदम मुख्य रूप से ध्वन्यात्मक पूर्वाग्रहों को कम करते हैं, जिससे अधिक न्यायसंगत एएसआर प्रणालियों को डिजाइन करने के लिए अंतर्दृष्टि प्राप्त होती है।

Felix Herron, Solange Rossato Alexandre Allauzen, Benoit Favre, François Portet2026-06-10
⚡ electrical engineering

Multilingual Word-Level Forced Alignment with Self-Supervised Representations and Learned Dynamic Programming

यह शोध पत्र एक बहुभाषी शब्द-स्तरीय फोर्स्ड अलाइनमेंट विधि प्रस्तुत करता है जो MMS मॉडल और UnSupSeg से स्व-पर्यवेक्षित (self-supervised) निरूपणों को एक सीखे हुए डायनेमिक प्रोग्रामिंग फ्रेमवर्क में एकीकृत करता है, जो प्रशिक्षित और अनदेखी दोनों भाषाओं पर मौजूदा दृष्टिकोणों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

Roy Weber, Meidan Zehavi, Rotem Rousso, Joseph Keshet2026-06-10
💬 NLP

REAL: A Reasoning-Enhanced Graph Framework for Long-Term Memory Management of LLMs

REAL एक तर्क-संवर्धित ग्राफ फ्रेमवर्क पेश करता है जो एक गैर-विनाशकारी अपडेट और हाइब्रिड बीम सर्च रिट्रीवल के साथ एक टेम्पोरल, कॉन्फिडेंस-अवेयर डायरेक्टेड प्रॉपर्टी ग्राफ का निर्माण करके दीर्घकालिक LLM मेमोरी को प्रबंधित करता है, जो विकसित होते तथ्यों और अपूर्ण साक्ष्यों को संभालने में मौजूदा बेसलाइनों से काफी बेहतर प्रदर्शन करता है।

Keer Lu, Liwei Chen, Guoqing Jiang, Zhiheng Qin, Yunhuai Liu, Wentao Zhang2026-06-10
💬 NLP

From Observation to Intervention: A Causal Audit of Expert Importance in Mixture-of-Experts Models

यह शोध पत्र तीन मिक्स्चर-ऑफ़-एक्सपर्ट्स (Mixture-of-Experts) मॉडलों के टोकन-स्तरीय हस्तक्षेपकारी ऑडिट (token-level interventional audit) के माध्यम से यह प्रदर्शित करता है कि सामान्य अवलोकनात्मक रूटिंग मेट्रिक्स (observational routing metrics), कारण संबंधी विशेषज्ञ महत्व (causal expert importance) की भविष्यवाणी करने में विफल रहते हैं, जो यह प्रकट करता है कि मौजूदा प्रूनिंग विधियाँ अनावश्यक विशेषज्ञों की सटीक पहचान के बजाय प्रारंभिक-परत अतिरेक (early-layer redundancy) के कारण सफल होती हैं।

Leonard Engmann, Christian Medeiros Adriano, Holger Giese2026-06-10
💬 NLP

Attention Expansion: Enhancing Keyphrase Extraction from Long Documents with Attention-Augmented Contextualized Embeddings

यह शोध पत्र एक अटेंशन एक्सपेंशन मैकेनिज्म का प्रस्ताव करता है जो आसपास के आउट-ऑफ-कॉन्टेक्स्ट चंक्स (out-of-context chunks) से जानकारी के साथ प्री-ट्रेंड लैंग्वेज मॉडल टोकन रिप्रेजेंटेशन्स को संवर्धित करता है, जो पूर्ण-दस्तावेज़ अटेंशन या बड़े भाषा मॉडलों की कम्प्यूटेशनल लागत के बिना लंबे दस्तावेज़ों पर कीफ्रेज़ एक्सट्रैक्शन प्रदर्शन को प्रभावी ढंग से बढ़ाता है।

Roberto Martínez-Cruz, Alvaro J. López-López, José Portela2026-06-10
💬 NLP

Continual LLM Upcycling: A Predictor-Gated Bank-Wise Sparsity Training Recipe for Dense-to-Sparse LLMs

यह शोध पत्र एक निरंतर प्रशिक्षण रेसिपी प्रस्तुत करता है जो एक प्रेडिक्टर-गेटेड रूटिंग मैकेनिज्म को प्रशिक्षण के दौरान एकीकृत करके, एक डेंस Qwen2.5-8B मॉडल को एक हार्डवेयर-कुशल, चैनल-स्पार्स LLM में अपसाइकिल करता है, और साथ ही एक लक्षित रिपेयर एल्गोरिदम के माध्यम से विशिष्ट लॉन्ग-कॉन्टेक्स्ट विफलता मोडों का समाधान भी करता है।

Ruixuan Huang, Jinyuan Shi, Hantao Huang, Yifan Huang, Ziyi Guan, Hao Zeng, Ian En-Hsu Yen, Minghui Yu2026-06-10
💬 NLP

Pre-AF 13: An Interpretable Atrial Fibrillation Risk Score Mined from Discharge Reports

यह अध्ययन Pre-AF 13 को पेश करता है, जो डिस्चार्ज रिपोर्टों से व्युत्पन्न एक व्याख्यात्मक मशीन लर्निंग मॉडल है, जो हृदय रोग वाले रोगियों में 24-महीने के अट्रियल फाइब्रिलेशन जोखिम की भविष्यवाणी करने में स्थापित नैदानिक जोखिम स्कोर से बेहतर प्रदर्शन करता है।

Olga Shakhmatova, Dmitrii Kriukov, Daniil Larionov, Nikita Khromov, Iaroslav Bespalov, Alexander Zolotarev, Kirill Grish (…)2026-06-10
💬 NLP

Detecting Knowledge Gaps from Conversational AI Interactions Using Curriculum Prerequisite Graphs

यह शोधपत्र एक ऐसी पाइपलाइन प्रस्तुत करता है जो एक पूर्व-आवश्यकता ज्ञान ग्राफ (prerequisite knowledge graph) का उपयोग करके संवादात्मक एआई शिक्षण सहायकों (conversational AI teaching assistants) से छात्रों के प्रश्नों को पाठ्यक्रम के विषयों से जोड़ती है, यह प्रदर्शित करते हुए कि ये इंटरेक्शन लॉग ऑनलाइन पाठ्यक्रमों में ज्ञान की कमियों और विषय-स्तरीय कठिनाइयों की पहचान करने के लिए वैध नैदानिक संकेतों (diagnostic signals) के रूप में कार्य करते हैं।

Youssef Medhat, Junsoo Park, Ploy Thajchayapong, Ashok K. Goel2026-06-10
💬 NLP

N-GRPO: Embedding-Level Neighbor Mixing for Enhanced Policy Optimization

यह शोध पत्र N-GRPO को पेश करता है, जो ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (Group Relative Policy Optimization) के लिए एक नवीन अन्वेषण रणनीति है जो गणितीय तर्क क्षमता को बढ़ाने के लिए एंकर टोकन एम्बेडिंग को उनके निकटतम सिमेंटिक पड़ोसियों के साथ गतिशील रूप से मिश्रित करती है ताकि विविधता को समाविष्ट करते हुए सिमेंटिक निरंतरता को बनाए रखा जा सके, जिससे यह इन-डिस्ट्रीब्यूशन और आउट-ऑफ-डिस्ट्रीब्यूशन दोनों कार्यों पर मौजूदा बेसलाइनों से बेहतर प्रदर्शन करता है।

Xukun Zhu, Hang Yu, Peng Di, Linchao Zhu2026-06-10
⚡ electrical engineering

Recovering the Zipfian Distribution in Unsupervised Term Discovery

यह शोध पत्र यह प्रदर्शित करता है कि ग्राफ-आधारित क्लस्टरिंग, विशेष रूप से लीडेन (Leiden) एल्गोरिदम का उपयोग करके, अनसुपरवाइज्ड टर्म डिस्कवरी में के-मीन्स (K-means) जैसे पारंपरिक सेंटर-आधारित तरीकों से बेहतर प्रदर्शन करती है, क्योंकि यह कई भाषाओं में अधिक स्वाभाविक जिपफियन (Zipfian) वितरण वाले लेक्सिकॉन उत्पन्न करती है।

Danel Slabbert, Simon Malan, Herman Kamper2026-06-10