💬 NLP

When Are Experts Misrouted? Counterfactual Routing Analysis in Mixture-of-Experts Language Models

यह शोध पत्र प्रकट करता है कि Mixture-of-Experts मॉडलों में मानक top-kk राउटर अक्सर उन टोकन के लिए इष्टतम विशेषज्ञ पथों (expert paths) का चयन करने में विफल रहते हैं जिन्हें जटिल तर्क की आवश्यकता होती है, लेकिन केवल राउटर में एक न्यूनतम अपडेट विशेषज्ञों को पुनप्रशिक्षित किए बिना इन गलत आवंटनों को सुधारकर चुनौतीपूर्ण बेंचमार्क पर प्रदर्शन में महत्वपूर्ण सुधार कर सकता है।

Youngsik Yoon, Siwei Wang, Wei Chen, Jungseul Ok2026-05-11
💬 NLP

From 0-Order Selection to 2-Order Judgment: Combinatorial Hardening Exposes Compositional Failures in Frontier LLMs

यह शोधपत्र LogiHard को प्रस्तुत करता है, जो एक औपचारिक ढांचा है जो कॉम्बिनेटोरियल हार्डनिंग (combinatorial hardening) और एडेप्टिव टेस्टिंग (adaptive testing) के माध्यम से सरल चयन कार्यों को जटिल तार्किक निर्णयों में परिवर्तित करता है, जिससे यह पता चलता है कि अत्याधुनिक LLMs ज्ञान की कमी के बजाय प्रशिक्षण-प्रेरित कॉम्बिनेटोरियल रीजनिंग गैप (combinatorial reasoning gap) के कारण महत्वपूर्ण सटीकता गिरावट का सामना करते हैं।

Hanmeng Liu, Shichao Weng, Xiulai Liu, Zhicai Zhang, Anli Yan, Xiaozhang Liu2026-05-11
💬 NLP

MIPIAD: Multilingual Indirect Prompt Injection Attack Defense with Qwen -- TF-IDF Hybrid and Meta-Ensemble Learning

यह शोध पत्र MIPIAD को प्रस्तुत करता है, जो अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों के विरुद्ध एक बहुभाषी रक्षा ढांचा है, जो अंग्रेजी और बांग्ला के बीच क्रॉस-लिंगुअल प्रदर्शन अंतराल को कम करने और उच्च पहचान सटीकता प्राप्त करने के लिए TF-IDF विशेषताओं और मेटा-एन्सेम्बल लर्निंग के साथ एक LoRA-फाइन-ट्यून किए गए Qwen2.5 क्लासिफायर को जोड़ता है।

Al Muhit Muhtadi, Mostafa Rifat Tazwar2026-05-11
💬 NLP

On the Complexity of the Matching Problem of Regular Expressions with Backreferences

यह शोध पत्र SETH और त्रिकोण पहचान (triangle detection) धारणाओं के तहत सशर्त निचली सीमाओं (conditional lower bounds) को सिद्ध करते हुए और 1-उपयोग बैकरेफरेंस (1-use backreferences) के लिए एक बेहतर O(nlog2n)O(n \log^2 n) एल्गोरिदम प्रस्तुत करते हुए, बैकरेफरेंस के साथ रेगुलर एक्सप्रेशंस को मिलाने की सूक्ष्म-स्तरीय (fine-grained) कम्प्यूटेशनल जटिलता को स्थापित करता है।

Soh Kumabe, Yuya Uezato2026-05-11
💬 NLP

MedAction: Towards Active Multi-turn Clinical Diagnostic LLMs

यह शोध पत्र MedAction को प्रस्तुत करता है, जो एक ट्री-स्ट्रक्चर्ड डिस्टिलेशन पाइपलाइन है जो सक्रिय निदान (active diagnosis) में मौजूदा LLMs की सीमाओं को दूर करने के लिए नॉलेज-ग्राफ-ग्राउंडेड मेट्रिक्स का उपयोग करके उच्च-गुणवत्ता वाले मल्टी-टर्न क्लिनिकल डायग्नोस्टिक ट्रेजेक्टरीज उत्पन्न करता है, जिसके परिणामस्वरूप MedAction-32K डेटासेट और अत्याधुनिक ओपन-सोर्स मेडिकल मॉडल्स प्राप्त हुए हैं।

Hsin-Ling Hsu, Zizheng Wang, Donghua Zhang, Nai-Chia Chen, Jerry Wang, Jun-En Ding, Chia-Hsuan Hsu, Guoan Wang, Feng Liu (…)2026-05-11
💬 NLP

Rethinking Dense Sequential Chains: Reasoning Language Models Can Extract Answers from Sparse, Order-Shuffling Chain-of-Thoughts

यह शोध पत्र इस पारंपरिक दृष्टिकोण को चुनौती देता है कि तर्क श्रृंखलाओं (reasoning chains) का सघन और क्रमिक होना आवश्यक है, यह प्रदर्शित करते हुए कि भाषा मॉडल उन तर्क अवशेषों (reasoning traces) से भी सही उत्तर निकाल सकते हैं जो अत्यधिक अव्यवस्थित, प्राकृतिक भाषा से रहित और यहाँ तक कि गलत उत्तरों से दूषित होते हैं, जो एक अंतर्निहित विरल (sparse) और क्रम-असंवेदनशील सूचनात्मक आधार को प्रकट करता है।

Yi-Chang Chen, Feng-Ting Liao, Da-shan Shiu, Hung-yi Lee2026-05-11
💬 NLP

Gradient-Based LoRA Rank Allocation Under GRPO: An Empirical Study

यह अनुभवजन्य अध्ययन प्रकट करता है कि LoRA के लिए ग्रेडिएंट-आधारित अनुकूली रैंक आवंटन (gradient-based adaptive rank allocation), जबकि सुपरवाइज्ड फाइन-ट्यूनिंग में प्रभावी है, एक सपाट ग्रेडिएंट लैंडस्केप और एक हानिकारक ग्रेडिएंट प्रवर्धन प्रभाव (detrimental gradient amplification effect) के कारण ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (GRPO) के तहत प्रदर्शन को काफी कम कर देता है, जो यह सुझाव देता है कि सुदृढीकरण शिक्षण संरेखण कार्यों (reinforcement learning alignment tasks) के लिए समान रैंक आवंटन (uniform rank allocation) श्रेष्ठ है।

Yash Ganpat Sawant2026-05-11
💬 NLP

Unsolvability Ceiling in Multi-LLM Routing: An Empirical Study of Evaluation Artifacts

यह अनुभवजन्य अध्ययन प्रकट करता है कि मल्टी-एलएलएम (multi-LLM) रूटिंग में रिपोर्ट की गई "असमाधान सीमाएं" (unsolvability ceilings) काफी हद तक जज पूर्वाग्रह और ट्रंकेशन (truncation) जैसे मूल्यांकन आर्टिफैक्ट्स द्वारा बढ़ा दी गई हैं, जो राउटर प्रशिक्षण संकेतों को विकृत करते हैं और महत्वपूर्ण अवसर लागतों (opportunity costs) की ओर ले जाते हैं, जिससे लागत-गुणवत्ता व्यापार-ऑफ (cost-quality tradeoffs) का सटीक आकलन करने के लिए अधिक विश्वसनीय मूल्यांकन प्रोटोकॉल आवश्यक हो जाते हैं।

Saloni Garg, Amit Sagtani2026-05-11
💬 NLP

The Proxy Presumption: From Semantic Embeddings to Valid Social Measures

यह शोध पत्र कंस्ट्रक्ट वैलिडिटी प्रोटोकॉल (CVP) और काउंटरफैक्चुअल न्यूट्रलाइजेशन को पेश करके कम्प्यूटेशनल सोशल साइंस में "प्रॉक्सी प्रिजम्प्शन" को संबोधित करता है, जो सिमेंटिक एम्बेडिंग्स को कठोरता से मान्य करता है, जिससे यह सुनिश्चित होता है कि वे विषय या शैली जैसे भ्रमित करने वाले गुणों के बजाय सामाजिक कंस्ट्रक्ट्स को मापते हैं।

Baishi Li, Ta Yu, Kelvin J. L. Koa, Ke-Wei Huang2026-05-11
💬 NLP

SSP-based construction of evaluation-annotated data for fine-grained aspect-based sentiment analysis

यह शोध पत्र सेमी-ऑटोमैटिक सिम्बोलिक प्रोपेगेशन (SSP) और फाइनाइट-स्टेट ट्रांसड्यूसर्स का उपयोग करके कोरियन इवैल्यूएशन एनोटेटेड डेटासेट (EVAD) के निर्माण को प्रस्तुत करता है, जो पहलू मानों (aspect values) को शामिल करके ई-कॉमर्स समीक्षाओं के लिए एस्पेक्ट-बेस्ड सेंटीमेंट एनालिसिस का विस्तार करता है, जिससे KoBERT और KcBERT मॉडलों के साथ 0.88 और 0.90 के उच्च F1 स्कोर प्राप्त होते हैं।

Suwon Choi, Shinwoo Kim, Changhoe Hwang, Gwanghoon Yoo, Eric Laporte, Jeesun Nam2026-05-11