💬 Category

cs.CL

11611 पेपर

🤖 AI

Short-Context Dominance: How Much Local Context Natural Language Actually Needs?

यह शोध पत्र "शॉर्ट-कॉन्टेक्स्ट डोमिनेंस" परिकल्पना—इस निष्कर्ष की कि अधिकांश अनुक्रमों (sequences) की भविष्यवाणी केवल एक छोटे स्थानीय प्रीफ़िक्स का उपयोग करके की जा सकती है—की जांच करता है और दीर्घ-संदर्भ निर्भरताओं (long-context dependencies) का पता लगाने के लिए एक नया मीट्रिक (DaMCL) तथा LLM आउटपुट में दीर्घ-रेंज सूचना को बढ़ाने के लिए एक डिकोडिंग एल्गोरिदम प्रस्तावित करता है।

Vala Vakilian, Zimeng Wang, Ankit Singh Rawat, Christos Thrampoulidis2026-02-11
💬 NLP

Universal computation is intrinsic to language model decoding

यह शोध पत्र सिद्ध करता है कि भाषा मॉडलों की ऑटोरेग्रेसिव डिकोडिंग प्रक्रिया स्वाभाविक रूप से सार्वभौमिक गणना (यूनिवर्सल कम्प्यूटेशन) में सक्षम है, जो यह सुझाव देता है कि प्रशिक्षण कम्प्यूटेशनल शक्ति का निर्माण नहीं करता है बल्कि प्राकृतिक भाषा के माध्यम से इन पूर्व-विद्यमान क्षमताओं तक पहुँचने के लिए आवश्यक "प्रोग्रामेबिलिटी" में सुधार करता है।

Alex Lewandowski, Marlos C. Machado, Dale Schuurmans2026-02-11
💬 NLP

Truth with a Twist: The Rhetoric of Persuasion in Professional vs. Community-Authored Fact-Checks

यह अध्ययन समुदाय-लिखित बनाम पेशेवर तथ्य-जांच (फैक्ट-चेक) में उपयोग की जाने वाली अलंकारिक तकनीकों की तुलना करता है, जिसमें यह पाया गया है कि समुदाय-निर्मित नोट्स पेशेवर नोटों की तुलना में अधिक अनुनय (परसुएशन) पर निर्भर नहीं करते हैं और जबकि कुछ निश्चित अनुनयात्मक तत्व सहायक रेटिंग को बढ़ा सकते हैं, भीड़ द्वारा रेट करने वाले लोग समस्याग्रस्त भाषा को दंडित करने में सक्षम हैं।

Olesya Razuvayevskaya, Kalina Bontcheva2026-02-11
💬 NLP

Online Density-Based Clustering for Real-Time Narrative Evolution Monitorin

यह शोध पत्र बड़े पैमाने पर सोशल मीडिया डेटा स्ट्रीम को प्रोसेस करने वाले स्वचालित नैरेटिव मॉनिटरिंग सिस्टम की स्केलेबिलिटी और रियल-टाइम अनुकूलन क्षमता में सुधार के लिए बैच-ओरिएंटेड HDBSCAN से ऑनलाइन डेंसिटी-बेस्ड क्लस्टरिंग एल्गोरिदम में संक्रमण का मूल्यांकन करता है।

Ostap Vykhopen, Viktoria Skorik, Maksym Tereshchenko, Veronika Solopova2026-02-11
💬 NLP

Advancing General-Purpose Reasoning Models with Modular Gradient Surgery

मल्टी-टास्क रिइन्फोर्समेंट लर्निंग में क्रॉस-डोमेन इंटरफेरेंस की समस्या को संबोधित करने के लिए, यह शोध पत्र **मॉड्यूलर ग्रेडिएंट सर्जरी (MGS)** पेश करता है, जो एक ऐसी विधि है जो विविध डोमेन में सामान्य-उद्देश्य वाले बड़े रीजनिंग मॉडल्स के प्रदर्शन को महत्वपूर्ण रूप से सुधारने के लिए ट्रांसफार्मर मॉड्यूल स्तर पर ग्रेडिएंट संघर्षों को हल करती है।

Min Cai, Yu Liang, Longzheng Wang, Yan Wang, Yueyang Zhang, Long Xia, Zhiyuan Sun, Xi Ye, Daiting Shi2026-02-11
💬 NLP

Reward-free Alignment for Conflicting Objectives

यह शोध पत्र **RACO** का प्रस्ताव करता है, जो एक रिवॉर्ड-फ्री अलाइनमेंट फ्रेमवर्क है जो एक नवीन क्लिप्ड कॉन्फ्लिक्ट-अवर्स ग्रेडिएंट डिसेंट पद्धति का उपयोग करके मल्टी-ऑब्जेक्टिव LLM ट्रेनिंग में ग्रेडिएंट संघर्षों को हल करता है, और बिना किसी स्पष्ट रिवॉर्ड मॉडल की आवश्यकता के सारांशीकरण (summarization) और सुरक्षा जैसे कार्यों में बेहतर पारेटो ट्रेड-ऑफ प्राप्त करता है।

Peter L. Chen, Xiaopeng Li, Xi Chen, Tianyi Lin2026-02-11
💬 NLP

The Condensate Theorem: Transformers are O(n), Not O(n2)O(n^2)

यह शोध पत्र "कंडेंसेट थ्योरम" (Condensate Theorem) प्रस्तुत करता है, जो यह सिद्ध करता है कि ट्रांसफार्मर अटेंशन एक सीखा हुआ टोपोलॉजिकल गुण है जिसे फुल अटेंशन के साथ 100% लॉसलेस पैरिटी प्राप्त करने के लिए गतिशील रूप से एक स्पार्स मैनिफोल्ड पर प्रोजेक्ट किया जा सकता है, जिससे भारी हार्डवेयर स्पीडअप सक्षम होता है और जटिलता O(n2)O(n^2) से घटकर O(n)O(n) हो जाती है।

Jorge L. Ruiz Williams2026-02-11
💬 NLP

Free(): Learning to Forget in Malloc-Only Reasoning Models

Free()LM एक प्लग-एंड-प्ले "फ्री-मॉड्यूल" पेश करता है जो रीजनिंग मॉडल्स को तर्क प्रक्रिया के दौरान अनावश्यक या अप्रचलित जानकारी को गतिशील रूप से हटाकर (प्रून करके) प्रदर्शन सुधारने और कॉन्टेक्स्ट कोलैप्स को रोकने में सक्षम बनाता है।

Yilun Zheng, Dongyang Ma, Tian Liang, Jiahao Xu, Xinting Huang, Lihui Chen, Haitao Mi, Yan Wang2026-02-11
💬 NLP

Improving Data and Reward Design for Scientific Reasoning in Large Language Models

यह शोध पत्र **Dr. SCI** को प्रस्तुत करता है, जो एक व्यवस्थित पोस्ट-ट्रेनिंग पाइपलाइन है जिसमें एक बड़े पैमाने का STEM डेटासेट और एक पुनर्गठित प्रशिक्षण वर्कफ़्लो शामिल है—जिसमें एक्सप्लोरेशन-एक्सपैंडिंग SFT, डायनेमिक डिफिकल्टी करिकुलम और रूब्रिक-गाइडेड RL शामिल हैं—जो लार्ज लैंग्वेज मॉडल्स की वैज्ञानिक तर्क क्षमता और ओपन-एंडेड समस्या-समाधान क्षमताओं में महत्वपूर्ण सुधार करता है।

Zijie Chen, Zhenghao Lin, Xiao Liu, Zhenzhong Lan, Yeyun Gong, Peng Cheng2026-02-11
💬 NLP

Benchmarking the Energy Savings with Speculative Decoding Strategies

यह शोध पत्र इस बात का एक व्यापक सर्वेक्षण और विश्लेषण प्रदान करता है कि मॉडल की विशेषताएँ, स्पेक्युलेटिव डिकोडिंग रणनीतियाँ और डेटासेट, लार्ज लैंग्वेज मॉडल इन्फरेंस की ऊर्जा दक्षता और बचत को कैसे प्रभावित करते हैं।

Rohit Dutta, Paramita Koley, Soham Poddar, Janardan Misra, Sanjay Podder, Naveen Balani, Saptarshi Ghosh, Niloy Ganguly2026-02-11