💬 Category

cs.CL

11678 पेपर

💬 NLP

SOMBRERO: Measuring and Steering Boundary Placement in End-to-End Hierarchical Sequence Models

यह शोध पत्र सोम्ब्रेरो (Sombrero) को प्रस्तुत करता है, जो एक नए बाउंड्री क्वालिटी मेट्रिक और एक कॉन्फिडेंस-अलाइनमेंट लॉस का उपयोग करके पदानुक्रमित अनुक्रम मॉडल (hierarchical sequence models) में सटीकता-दक्षता व्यापार-संतुलन (accuracy-efficiency trade-off) में सुधार करता है ताकि कंप्यूटिंग संसाधनों को उच्च भविष्य कहनेवाला कठिनाई (high predictive difficulty) वाले स्थानों की ओर निर्देशित किया जा सके।

Pit Neitemeier, Alessio Serra, Jiaze Li, Sascha Wirges, Lukas Balles, Jan Hendrik Metzen2026-02-02
💬 NLP

MoVE: Mixture of Value Embeddings -- A New Axis for Scaling Parametric Memory in Autoregressive Models

यह शोध पत्र MoVE (Mixture of Value Embeddings) को प्रस्तुत करता है, जो एक नवीन तंत्र है जो डायनेमिक सॉफ्ट गेटिंग के साथ सीखने योग्य वैल्यू एम्बेडिंग्स के एक ग्लोबल बैंक का उपयोग करके ऑटो-रिग्रेसिव मॉडल्स में पैरामीट्रिक मेमोरी को कम्प्यूटेशनल लागत से अलग करता है, जिससे सक्रिय FLOPs को बढ़ाए बिना टेक्स्ट और इमेज जनरेशन दोनों में स्केलेबल क्षमता सुधार सक्षम होता है।

Yangyan Li2026-02-02
💬 NLP

DiffuSpeech: Silent Thought, Spoken Answer via Unified Speech-Text Diffusion

यह शोधपत्र DiffuSpeech को प्रस्तुत करता है, जो एक एकीकृत मास्क किया हुआ डिफ्यूजन मॉडल है जो आंतरिक टेक्स्ट रीजनिंग और बोले गए उत्तरों को संयुक्त रूप से उत्पन्न करके "मौन विचार, बोले गए उत्तर" (Silent Thought, Spoken Answer) को सक्षम बनाता है, जो मजबूत भाषा समझ को बनाए रखते हुए स्पीच QA सटीकता और टेक्स्ट-टू-स्पीच गुणवत्ता में अत्याधुनिक प्रदर्शन प्राप्त करता है।

Yuxuan Lou, Ziming Wu, Yaochen Wang, Yong Liu, Yingxuan Ren, Fuming Lai, Shaobing Lian, Jie Tang, Yang You2026-02-02
💬 NLP

LLMs Explain't: A Post-Mortem on Semantic Interpretability in Transformer Models

यह शोध पत्र यह तर्क देता है कि लार्ज लैंग्वेज मॉडल्स के लिए व्यापक रूप से उपयोग की जाने वाली व्याख्यात्मक विधियाँ, विशेष रूप से अटेंशन-आधारित स्पष्टीकरण और एम्बेडिंग्स के माध्यम से फीचर-मैपिंग, मौलिक पद्धतिगत दोषों और आर्टिफैक्ट्स के कारण भाषाई अमूर्तन या अर्थ संबंधी समझ का विश्वसनीय रूप से पता लगाने में विफल रहती हैं, जिससे सर्वव्यापी कंप्यूटिंग संदर्भों में एलएलएम (LLM) व्याख्यात्मकता के वर्तमान दावों की वैधता को चुनौती मिलती है।

Alhassan Abdelhalim, Janick Edinger, Sören Laue, Michaela Regneri2026-02-02
📊 statistics

Perplexity Cannot Always Tell Right from Wrong

यह शोध पत्र कठोरता से यह प्रदर्शित करता है कि परप्लेक्सिटी (perplexity) मॉडल चयन के लिए एक अनुपयुक्त मीट्रिक है क्योंकि यह उन मॉडलों का पक्ष ले सकती है जो अत्यधिक आश्वस्त होने के बावजूद सटीक नहीं हैं, जिससे यह सिद्ध होता है कि कम परप्लेक्सिटी स्कोर प्राप्त करने के लिए एक मॉडल के बढ़ते आत्मविश्वास को उसके अनुरूप सटीकता द्वारा मेल खाना चाहिए।

Petar Veličković, Federico Barbero, Christos Perivolaropoulos, Simon Osindero, Razvan Pascanu2026-02-02
💬 NLP

ArabicDialectHub: A Cross-Dialectal Arabic Learning Resource and Platform

यह शोध पत्र ArabicDialectHub को प्रस्तुत करता है, जो एक ओपन-सोर्स प्लेटफॉर्म और डेटासेट है जिसमें छह अरबी विविधताओं में 552 LLM-जनित और मानव-सत्यापित वाक्यांश शामिल हैं, जो अनुवाद अन्वेषण, अनुकूली क्विज़िंग और प्रगति ट्रैकिंग जैसे इंटरैक्टिव शिक्षण उपकरण प्रदान करता है।

Salem Lahlou2026-02-02
💬 NLP

InstructDiff: Domain-Adaptive Data Selection via Differential Entropy for Efficient LLM Fine-Tuning

InstructDiff एक एकीकृत ढांचा है जो डिफरेंशियल एंट्रॉपी का लाभ उठाकर इष्टतम प्रशिक्षण नमूनों को अनुकूल रूप से चुनने के माध्यम से कुशल LLM फाइन-ट्यूनिंग को बढ़ाता है, जिससे रीजनिंग और जनरल इंस्ट्रक्शन-फॉलोइंग दोनों डोमेन में केवल 10% डेटा के साथ फुल-डेटा ट्रेनिंग की तुलना में महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।

Junyou Su, He Zhu, Xiao Luo, Liyu Zhang, Hong-Yu Zhou, Yun Chen, Peng Li, Yang Liu, Guanhua Chen2026-02-02
💬 NLP

Deep Search with Hierarchical Meta-Cognitive Monitoring Inspired by Cognitive Neuroscience

यह शोध पत्र DS-MCM का प्रस्ताव करता है, जो पदानुक्रमित मानव मेटाकॉग्निशन (hierarchical human metacognition) से प्रेरित एक डीप सर्च फ्रेमवर्क है जो तर्क और पुनर्प्राप्ति (reasoning and retrieval) को गतिशील रूप से विनियमित करने के लिए एक तेज़ निरंतरता मॉनिटर (fast consistency monitor) और एक धीमे अनुभव-संचालित मॉनिटर (slow experience-driven monitor) को एकीकृत करता है, जिससे जटिल, अनिश्चित कार्यों में लार्ज लैंग्वेज मॉडल एजेंटों के प्रदर्शन और मजबूती में महत्वपूर्ण सुधार होता है।

Zhongxiang Sun, Qipeng Wang, Weijie Yu, Jingxuan Yang, Haolang Lu, Jun Xu2026-02-02
💬 NLP

Now You Hear Me: Audio Narrative Attacks Against Large Audio-Language Models

यह शोध पत्र "नाउ यू हियर मी" (Now You Hear Me) को प्रस्तुत करता है, जो एक नवीन जेलब्रेक हमला है जो बड़े ऑडियो-लैंग्वेज मॉडल्स में सुरक्षा फिल्टरों को बायपास करने के लिए कथा-शैली वाली सिंथेटिक स्पीच के भीतर दुर्भावनापूर्ण निर्देशों को समाहित करता है, जो 98.26% सफलता दर प्राप्त करता है और वर्तमान स्पीच-आधारित सुरक्षा ढांचों की महत्वपूर्ण कमजोरियों को उजागर करता है।

Ye Yu, Haibo Jin, Yaoning Yu, Jun Zhuang, Haohan Wang2026-02-02
🤖 machine learning

BitFit: Simple Parameter-efficient Fine-tuning for Transformer-based Masked Language-models

यह शोध पत्र BitFit को प्रस्तुत करता है, जो एक पैरामीटर-कुशल फाइन-ट्यूनिंग विधि है जो केवल पूर्व-प्रशिक्षित BERT मॉडलों के बायस (bias) पदों को संशोधित करती है, जो फुल फाइन-ट्यूनिंग के साथ प्रतिस्पर्धी प्रदर्शन प्रदर्शित करती है और यह सुझाव देती है कि फाइन-ट्यूनिंग मुख्य रूप से नए भाषाई लक्षणों को सीखने के बजाय पूर्व-मौजूद ज्ञान को उजागर करने का कार्य करती है।

Elad Ben-Zaken, Shauli Ravfogel, Yoav Goldberg2026-01-30