💬 Category

cs.CL

11611 पेपर

💬 NLP

ViTaB-A: Evaluating Multimodal Large Language Models on Visual Table Attribution

यह शोध पत्र ViTaB-A प्रस्तुत करता है, जो एक मूल्यांकन ढांचा है जो यह प्रदर्शित करता है कि हालांकि मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (Multimodal Large Language Models) संरचित डेटा के बारे में प्रश्नों के उत्तर दे सकते हैं, लेकिन वर्तमान में उनमें विभिन्न प्रारूपों में अपने उत्तरों के लिए सटीक, सूक्ष्म-स्तरीय एट्रिब्यूशन (attribution) प्रदान करने की विश्वसनीयता का अभाव है, जिससे पारदर्शिता-महत्वपूर्ण अनुप्रयोगों में उनकी विश्वसनीयता सीमित हो जाती है।

Yahia Alqurnawi, Preetom Biswas, Anmol Rao, Tejas Anvekar, Chitta Baral, Vivek Gupta2026-02-18
💬 NLP

Avey-B

यह शोध पत्र Avey-B को प्रस्तुत करता है, जो एक पुनर्गठित, अटेंशन-मुक्त (attention-free), एनकोडर-ओनली आर्किटेक्चर है जो डिकपल्ड पैरामीट्राइजेशन (decoupled parameterization) और न्यूरल कम्प्रेशन (neural compression) जैसे नवाचारों को शामिल करता है ताकि टोकन क्लासिफिकेशन और सूचना पुनर्प्राप्ति (information retrieval) में मानक ट्रांसफॉर्मर-आधारित एनकोडर्स से बेहतर प्रदर्शन किया जा सके और लंबे संदर्भों (long contexts) के लिए अधिक कुशलता से स्केल किया जा सके।

Devang Acharya, Mohammad Hammoud2026-02-18
💬 NLP

When Attention Collapses: How Degenerate Layers in LLMs Enable Smaller, Stronger Models

यह शोध पत्र "Inheritune" को प्रस्तुत करता है, जो एक ऐसी प्रशिक्षण विधि है जो बड़े भाषा मॉडलों (LLMs) में अटेंशन कोलैप्स (attention collapse) के कारण उत्पन्न होने वाले अनावश्यक "लेज़ी लेयर्स" (lazy layers) की खोज का लाभ उठाकर छोटे, अधिक कुशल मॉडल बनाने का कार्य करती है जो अपने बड़े समकक्षों के प्रदर्शन के बराबर या उससे बेहतर होते हैं।

Sunny Sanyal, Ravid Shwartz-Ziv, Alexandros G. Dimakis, Sujay Sanghavi2026-02-17
💬 NLP

DEPTH: Discourse Education through Pre-Training Hierarchically

यह शोध पत्र DEPTH को प्रस्तुत करता है, जो एक पदानुक्रमित (hierarchical) एनकोडर-डिकोडर मॉडल है जो वाक्य अन-शफलिंग (un-shuffling) और स्पैन-करप्शन (span-corruption) को संयोजित करने वाले एक नवीन प्री-ट्रेनिंग उद्देश्य के माध्यम से भाषा मॉडलों की विमर्श समझ (discourse understanding) को बढ़ाता है, जिसके परिणामस्वरूप मानक T5 की तुलना में विमर्श-विशिष्ट और सामान्य प्राकृतिक भाषा समझ बेंचमार्क दोनों पर तेज़ सीखने और बेहतर प्रदर्शन का परिणाम मिलता है।

Zachary Bamberger, Ofek Glick, Chaim Baskin, Yonatan Belinkov2026-02-17
💬 NLP

Recent Advancements and Challenges of Turkic Central Asian Language Processing

यह शोध पत्र मध्य एशियाई तुर्किक भाषाओं (कज़ाख, उज़्बेक, किर्गिज़ और तुर्कमेन) के लिए प्राकृतिक भाषा प्रसंस्करण (Natural Language Processing) की वर्तमान स्थिति की समीक्षा करता है, जो डेटासेट संग्रह और मॉडल विकास में हालिया प्रगति पर प्रकाश डालते हुए निरंतर कम-संसाधन चुनौतियों को संबोधित करता है और भविष्य की अनुसंधान दिशाओं को रेखांकित करता है।

Yana Veitsman, Mareike Hartmann2026-02-17
💬 NLP

Cautious Optimizers: Improving Training with One Line of Code

यह शोध पत्र "कॉशियस ऑप्टिमाइज़र्स" (Cautious Optimizers) को प्रस्तुत करता है, जो AdamW जैसे मोमेंटम-आधारित ऑप्टिमाइज़र्स में एक पंक्ति का संशोधन है जो न्यूनतम हाइपरपैरामीटर ट्यूनिंग के साथ LLM प्रीट्रेनिंग और इमेज क्लासिफिकेशन में निरंतर गति-वृद्धि (speed-ups) प्रदान करते हुए सैद्धांतिक अभिसरण गारंटी (theoretical convergence guarantees) को सुरक्षित रखता है।

Kaizhao Liang, Lizhang Chen, Bo Liu, Qiang Liu2026-02-17
💬 NLP

Is it the end of (generative) linguistics as we know it?

यह शोधपत्र तर्क देता है कि जनरेटिव भाषाविज्ञान (generative linguistics) को 'पॉवर्टी ऑफ स्टिमुलस' (Poverty of Stimulus) परिकल्पना और मिनिमलिस्ट सरलता (Minimalist simplicity) की गंभीर चुनौतियों का समाधान करने के लिए अधिक सटीक औपचारिकीकरण और मानकीकृत अनुभवजन्य डेटासेटों के माध्यम से एक कठोर अद्यतन से गुजरना चाहिए, जिससे भाषा अध्ययन में इसकी केंद्रीय भूमिका को पुनः स्थापित किया जा सके और साथ ही कम्प्यूटेशनल एवं प्रयोगात्मक दोनों दृष्टिकोणों के लिए औपचारिक परिप्रेक्ष्यों की आवश्यकता को स्वीकार किया जा सके।

Cristiano Chesi2026-02-17
💬 NLP

FastKV: Decoupling of Context Reduction and KV Cache Compression for Prefill-Decoding Acceleration

FastKV एक नवीन KV कैश कंप्रेशन फ्रेमवर्क है जो बाद की परतों में टोकन महत्व के स्थिरीकरण (token importance stabilization) का लाभ उठाकर प्रीफिल कंप्यूट रिडक्शन को डिकोडिंग KV बजट से अलग करता है, जिससे सटीकता से समझौता किए बिना प्रीफिल और डिकोडिंग दोनों चरणों में महत्वपूर्ण गति प्राप्त होती है।

Dongwon Jo, Jiwon Song, Yulhwa Kim, Jae-Joon Kim2026-02-17
💬 NLP

HIPPO: Enhancing the Table Understanding Capability of LLMs through Hybrid-Modal Preference Optimization

यह शोध पत्र HIPPO को प्रस्तुत करता है, जो एक हाइब्रिड-मोडल प्रिफरेंस ऑप्टिमाइज़ेशन फ्रेमवर्क है जो एक मोडैलिटी-कंसिस्टेंट सैंपलिंग रणनीति के माध्यम से टेक्स्ट और इमेज रिप्रेजेंटेशन्स का संयुक्त रूप से लाभ उठाकर मल्टी-मोडल लार्ज लैंग्वेज मॉडल्स की टेबल समझने और तर्क करने की क्षमताओं को बढ़ाता है, जिससे टेबल-संबंधित कार्यों पर महत्वपूर्ण प्रदर्शन सुधार प्राप्त होता है।

Haolan Wang, Zhenghao Liu, Xinze Li, Xiaocui Yang, Yu Gu, Yukun Yan, Qi Shi, Fangfang Li, Chong Chen, Ge Yu2026-02-17
💬 NLP

Benchmarking Retrieval-Augmented Generation for Chemistry

यह शोध पत्र ChemRAG-Bench प्रस्तुत करता है, जो रसायन विज्ञान के क्षेत्र में रिट्रीवल-ऑगमेंटेड जनरेशन (Retrieval-Augmented Generation) प्रणालियों का मूल्यांकन और अनुकूलन करने के लिए डिज़ाइन किया गया एक व्यापक बेंचमार्क और साथ में एक टूलकिट है, जो रिट्रीवल रणनीतियों और कॉर्पस चयन के व्यवस्थित विश्लेषण के माध्यम से प्रत्यक्ष अनुमान विधियों (direct inference methods) की तुलना में महत्वपूर्ण प्रदर्शन सुधार प्रदर्शित करता है।

Xianrui Zhong, Bowen Jin, Siru Ouyang, Yanzhen Shen, Qiao Jin, Yin Fang, Zhiyong Lu, Jiawei Han2026-02-17