💻 computer science

How Quantization Shapes Bias in Large Language Models

यह अध्ययन व्यापक रूप से इस बात का मूल्यांकन करता है कि वेट (weight) और एक्टिवेशन क्वांटाइजेशन (activation quantization) लार्ज लैंग्वेज मॉडल्स में पूर्वाग्रह के विभिन्न रूपों को कैसे प्रभावित करते हैं, जिससे यह पता चलता है कि जहाँ यह विषाक्तता (toxicity) को कम कर सकता है और भावना (sentiment) को सुरक्षित रख सकता है, वहीं यह अक्सर जनरेटिव कार्यों में रूढ़ियों और अनुचितता को बढ़ा देता है, विशेष रूप से आक्रामक संपीड़न (aggressive compression) के तहत।

Federico Marcuzzi, Xuefei Ning, Roy Schwartz, Iryna Gurevych2026-03-06
💻 computer science

New Insights into Optimal Alignment of Acoustic and Linguistic Representations for Knowledge Transfer in ASR

यह शोधपत्र एक अनबैलेंस्ड ऑप्टिमल ट्रांसपोर्ट-आधारित अलाइनमेंट मॉडल प्रस्तावित करता है जो संरचनात्मक विषमताओं और वितरण संबंधी बेमेल को प्रभावी ढंग से संभालने के लिए ध्वनिक-भाषाई मिलान को एक डिटेक्शन समस्या के रूप में पुनर्गठित करता है, जिससे CTC-आधारित ऑटोमैटिक स्पीच रिकग्निशन सिस्टम में नॉलेज ट्रांसफर प्रदर्शन में सुधार होता है।

Xugang Lu, Peng Shen, Hisashi Kawai2026-03-06
💻 computer science

TSPC: A Two-Stage Phoneme-Centric Architecture for code-switching Vietnamese-English Speech Recognition

यह शोध पत्र TSPC का प्रस्ताव करता है, जो एक नवीन दो-चरणीय फोनम-केंद्रित आर्किटेक्चर है जो कंप्यूटेशनल दक्षता बनाए रखते हुए वियतनामी-अंग्रेजी कोड-स्विचिंग स्पीच रिकग्निशन की सटीकता में उल्लेखनीय सुधार करने के लिए एक विस्तारित वियतनामी फोनम सेट को एक मध्यवर्ती प्रतिनिधित्व के रूप में उपयोग करता है।

Tran Nguyen Anh, Truong Dinh Dung, Vo Van Nam, Minh N. H. Nguyen2026-03-06
💻 computer science

Llama-Mimi: Exploring the Limits of Flattened Speech Language Modeling

यह शोध पत्र Llama-Mimi को प्रस्तुत करता है, जो एक ट्रांसफॉर्मर डिकोडर-आधारित स्पीच लैंग्वेज मॉडल है जो Mimi कोडेक से मल्टी-लेवल RVQ टोकन को एक एकल अनुक्रम (single sequence) में समतल (flatten) करता है, जो अधिकांश कार्यों में पदानुक्रमित (hierarchical) मॉडलों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है और अत्याधुनिक ध्वनिक निरंतरता (acoustic consistency) प्राप्त करता है।

Issa Sugiura, Shuhei Kurita, Yusuke Oda, Ryuichiro Higashinaka2026-03-06
💻 computer science

BeyondBench: Contamination-Resistant Evaluation of Reasoning in Language Models

BeyondBench एक संदूषण-प्रतिरोधी (contamination-resistant) मूल्यांकन ढांचा पेश करता है जो 44 कार्यों में 101 भाषा मॉडलों की वास्तविक तर्क क्षमताओं का आकलन करने के लिए ऑन-द-फ्लाई एल्गोरिद्मिक समस्या पीढ़ी का उपयोग करता है, जो जटिल समस्या-समाधान में महत्वपूर्ण प्रदर्शन अंतराल और टूल उपयोग की महत्वपूर्ण भूमिका को प्रकट करता है।

Gaurav Srivastava, Aafiya Hussain, Zhenyu Bi, Swastik Roy, Priya Pitre, Meng Lu, Morteza Ziyadi, Xuan Wang2026-03-06
💻 computer science

Pretraining Large Language Models with NVFP4

यह शोध पत्र एक नवीन NVFP4 प्रशिक्षण ढांचे को प्रस्तुत करता है जो रैंडम हेडामार्ड ट्रांसफॉर्म (Random Hadamard transforms), 2D क्वांटाइजेशन, स्टोकेस्टिक राउंडिंग और चयनात्मक उच्च-परिशुद्धता परतों (selective high-precision layers) को जोड़ता है, जिससे 10 ट्रिलियन टोकन पर 12-बिलियन पैरामीटर वाले मॉडल को सफलतापूर्वक प्रीट्रेन किया गया है, जिसका प्रदर्शन FP8 बेसलाइन के तुलनीय है, और इस प्रकार यह बड़े भाषा मॉडलों के लिए स्थिर 4-बिट परिशुद्धता प्रशिक्षण की व्यवहार्यता को प्रदर्शित करता है।

NVIDIA, Felix Abecassis, Anjulie Agrusa, Dong Ahn, Jonah Alben, Stefania Alborghetti, Michael Andersch, Sivakumar Arayan (…)2026-03-06
💻 computer science

PrefDisco: Benchmarking Proactive Personalized Reasoning

यह शोध पत्र PrefDisco को प्रस्तुत करता है, जो एक नवीन बेंचमार्किंग फ्रेमवर्क और मूल्यांकन पद्धति है जो स्थिर कार्यों को संवादात्मक परिदृश्यों में परिवर्तित करता है ताकि बड़े भाषा मॉडलों की उपयोगकर्ता प्राथमिकताओं को सक्रिय रूप से पहचानने और जस्ट-इन-टाइम, कोल्ड-स्टार्ट स्थितियों में व्यक्तिगत संरेखण के लिए उनकी तर्क श्रृंखलाओं को अनुकूलित करने की क्षमता का आकलन और सुधार किया जा सके।

Shuyue Stella Li, Avinandan Bose, Faeze Brahman, Simon Shaolei Du, Pang Wei Koh, Maryam Fazel, Yulia Tsvetkov2026-03-06
💻 computer science

Narrow Finetuning Leaves Clearly Readable Traces in Activation Differences

यह शोध पत्र यह प्रदर्शित करता है कि नैरो फाइनट्यूनिंग (narrow finetuning) एलएलएम (LLM) एक्टिवेशन्स में विशिष्ट, व्याख्या योग्य पूर्वाग्रह छोड़ती है जिन्हें ट्रेनिंग डेटा की विशेषताओं को पुनर्गठित करने और व्याख्यात्मकता बढ़ाने के लिए मॉडल डिफिंग (model diffing) के माध्यम से निकाला जा सकता है, जबकि यह चेतावनी भी देता है कि ऐसे मॉडल व्यापक फाइनट्यूनिंग परिदृश्यों का सटीक प्रतिनिधित्व नहीं कर सकते हैं और सुझाव देता है कि प्रीट्रेनिंग डेटा को मिलाना इन ओवरफिटिंग निशानों को कम कर सकता है।

Julian Minder, Clément Dumas, Stewart Slocum, Helena Casademunt, Cameron Holmes, Robert West, Neel Nanda2026-03-06
💻 computer science

Grasp Any Region: Towards Precise, Contextual Pixel Understanding for Multimodal LLMs

यह शोध पत्र 'ग्रैस्प एनी रीजन' (GAR) को प्रस्तुत करता है, जो एक मल्टीमॉडल लार्ज लैंग्वेज मॉडल है जो सटीक, इंटरैक्टिव क्षेत्र-स्तरीय समझ और संरचनात्मक तर्क के लिए वैश्विक संदर्भ को एकीकृत करने हेतु RoI-अलाइन्ड फीचर रिप्ले का लाभ उठाता है, और इमेज एवं वीडियो बेंचमार्क दोनों पर अत्याधुनिक प्रदर्शन प्राप्त करता है।

Haochen Wang, Yuhao Wang, Tao Zhang, Yikang Zhou, Yanwei Li, Jiacong Wang, Jiani Zheng, Ye Tian, Jiahao Meng, Zilong Hua (…)2026-03-06
💻 computer science

Open Korean Historical Corpus: A Millennia-Scale Diachronic Collection of Public Domain Texts

यह शोधपत्र ओपन कोरियन हिस्टोरिकल कॉर्पस का परिचय देता है, जो 1,300 वर्षों और कई लेखन प्रणालियों में फैला एक बड़े पैमाने का, खुले लाइसेंस वाला डेटासेट है, जो कोरियाई में प्रमुख भाषाई परिवर्तनों के मात्रात्मक विश्लेषण को सक्षम बनाता है और बड़े भाषा मॉडलों को प्रशिक्षित करने के लिए एक आधारभूत संसाधन के रूप में कार्य करता है।

Seyoung Song, Nawon Kim, Songeun Chae, Kiwoong Park, Jiho Jin, Haneul Yoo, Kyunghyun Cho, Alice Oh2026-03-06