🤖 machine learning

Screening Is Enough

यह शोध पत्र मल्टीस्क्रीन (Multiscreen) का परिचय देता है, जो एक नवीन भाषा मॉडल आर्किटेक्चर है जो मानक सॉफ्टमैक्स अटेंशन (softmax attention) को थ्रेशोल्ड-आधारित स्क्रीनिंग तंत्र (threshold-based screening mechanism) से बदल देता है ताकि पूर्ण क्वेरी-की प्रासंगिकता (absolute query-key relevance) सक्षम की जा सके, जिसके परिणामस्वरूप एक ऐसा मॉडल प्राप्त होता है जो कम मापदंडों (parameters) के साथ तुलनीय प्रदर्शन प्राप्त करता है, उच्च लर्निंग रेट का समर्थन करता है, लंबी-संदर्भ (long-context) क्षमताओं को बनाए रखता है, और इन्फरेंस लेटेंसी (inference latency) को महत्वपूर्ण रूप से कम करता है।

Ken M. Nakanishi2026-04-02
🤖 machine learning

LLM REgression with a Latent Iterative State Head

RELISH एक हल्का, पैरामीटर-कुशल आर्किटेक्चर है जो फ्रोजन (frozen) LLM रिप्रजेंटेशन्स से सीधे स्केलर मानों की भविष्यवाणी करने के लिए एक पुनरावृत्ति लेटेंट स्टेट रिफाइनमेंट प्रक्रिया के माध्यम से टेक्स्ट रिग्रेशन के लिए मौजूदा तरीकों से बेहतर प्रदर्शन करता है, जिसमें केवल अतिरिक्त ट्रेन करने योग्य पैरामीटर्स का एक नगण्य अंश आवश्यक होता है।

Yiheng Su, Matthew Lease2026-04-02
🤖 AI

YC-Bench\texttt{YC-Bench}: Benchmarking AI Agents for Long-Term Planning and Consistent Execution

यह शोध पत्र YC-Bench\texttt{YC-Bench} का परिचय देता है, जो एक ओपन-सोर्स बेंचमार्क है जो एक सिम्युलेटेड एक-वर्षीय स्टार्टअप चुनौती के माध्यम से एआई एजेंटों की दीर्घकालिक योजना और निष्पादन क्षमताओं का मूल्यांकन करता है, जिससे यह पता चलता है कि जबकि केवल कुछ ही फ्रंटियर मॉडल लाभप्रदता प्राप्त करते हैं, सफलता काफी हद तक संदर्भ निरंतरता (context persistence) के लिए स्क्रैचपैड उपयोग और प्रतिकूल क्लाइंट्स (adversarial clients) का पता लगाने की क्षमता पर निर्भर करती है।

Muyu He, Adit Jain, Anand Kumar, Vincent Tu, Soumyadeep Bakshi, Sachin Patro, Nazneen Rajani2026-04-02
💬 NLP

On the Superimposed Noise Accumulation Problem in Sequential Knowledge Editing of Large Language Models

यह शोध पत्र बड़े भाषा मॉडलों (large language models) के क्रमिक ज्ञान संपादन (sequential knowledge editing) में सफलता दर में गिरावट के कारण के रूप में "सुपरइम्पोज़्ड नॉइज़ एक्यूमुलेशन समस्या" (superimposed noise accumulation problem) की पहचान करता है और ज्ञान संघर्षों को कम करने तथा संपादन प्रदर्शन में महत्वपूर्ण सुधार करने के लिए गतिशील ऑर्थोगोनल बाधाओं (dynamic orthogonal constraints) का उपयोग करने वाली एक विधि, डेल्टाएडिट (DeltaEdit) का प्रस्ताव करता है।

Ding Cao, Yuchen Cai, Yuqing Huang, Xuesong He, Rongxi Guo, Guiquan Liu, Guangzhong Sun2026-04-01
💬 NLP

Accelerating Diffusion Large Language Models with SlowFast Sampling: The Three Golden Principles

यह शोध पत्र स्लोफास्ट सैंपलिंग (SlowFast Sampling) प्रस्तुत करता है, जो तीन स्वर्णिम सिद्धांतों द्वारा निर्देशित एक गतिशील रणनीति है जो डिफ्यूजन-आधारित भाषा मॉडलों को महत्वपूर्ण रूप से त्वरित करने के लिए एक्सप्लोरेटरी (exploratory) और एक्सीलरेटेड (accelerated) डिकोडिंग के बीच अनुकूल रूप से बारी-बारी से कार्य करती है, जिससे न्यूनतम सटीकता हानि के साथ 34.22×\times तक की गति वृद्धि प्राप्त होती है और थ्रूपुट में ऑटोरेग्रेसिव बेसलाइनों से बेहतर प्रदर्शन होता है।

Qingyan Wei, Yaojie Zhang, Zhiyuan Liu, Puyu Zeng, Yuxuan Wang, Biqing Qi, Dongrui Liu, Linfeng Zhang2026-04-01
💬 NLP

QuestA: Expanding Reasoning Capacity in LLMs via Question Augmentation

यह शोध पत्र QuestA को प्रस्तुत करता है, जो एक सुदृढीकरण शिक्षण (reinforcement learning) रणनीति है जो प्रशिक्षण प्रश्नों को आंशिक समाधानों के साथ बढ़ाकर बड़े भाषा मॉडल (large language model) की तर्क क्षमता को बढ़ाती है, जिससे 1.5B-पैरामीटर वाले मॉडलों के साथ भी चुनौतीपूर्ण गणितीय बेंचमार्क पर नए अत्याधुनिक परिणाम प्राप्त होते हैं।

Jiazheng Li, Hongzhou Lin, Hong Lu, Kaiyue Wen, Zaiwen Yang, Jiaxuan Gao, Yi Wu, Jingzhao Zhang2026-04-01
💬 NLP

SecureVibeBench: Evaluating Secure Coding Capabilities of Code Agents with Realistic Vulnerability Scenarios

यह शोध पत्र SecureVibeBench को प्रस्तुत करता है, जो सुरक्षित C/C++ कोडिंग पर कोड एजेंटों का मूल्यांकन करने के लिए 41 OSS-Fuzz प्रोजेक्ट्स से प्राप्त एक यथार्थवादी बेंचमार्क है, जो यह प्रकट करता है कि शीर्ष प्रदर्शन करने वाले एजेंट भी सही और सुरक्षित कोड उत्पन्न करने में केवल 23.8% सफलता दर प्राप्त करते हैं।

Junkai Chen, Huihui Huang, Yunbo Lyu, Junwen An, Jieke Shi, Chengran Yang, Ting Zhang, Haoye Tian, Yikun Li, Zhenhao Li (…)2026-04-01
💬 NLP

Biasless Language Models Learn Unnaturally: How LLMs Fail to Distinguish the Possible from the Impossible

पिछले दावों के विपरीत, यह अध्ययन प्रदर्शित करता है कि GPT-2 स्वाभाविक और "असंभव" भाषाओं के बीच व्यवस्थित रूप से अंतर करने में विफल रहता है, दोनों को समान सुगमता से सीखता है और मानव रूप से संभव भाषाई संरचनाओं के प्रति कोई अंतर्निहित पूर्वाग्रह नहीं दिखाता है।

Imry Ziv, Nur Lan, Emmanuel Chemla2026-04-01
💬 NLP

Habibi: Laying the Open-Source Foundation of Unified-Dialectal Arabic Speech Synthesis

यह शोध पत्र हबीबी (Habibi) को पेश करता है, जो एक ओपन-सोर्स एकीकृत-बोली अरबी टेक्स्ट-टू-स्पीच फ्रेमवर्क है जो व्यावसायिक मॉडलों के समान प्रदर्शन के साथ 12+ बोलियों को संश्लेषित करने के लिए पुन: उपयोग किए गए ASR कॉर्पोरा और करिकुलम लर्निंग का लाभ उठाता है, जबकि साथ ही पहला मानकीकृत मल्टी-डायलेक्ट अरबी TTS बेंचमार्क और सभी संबंधित कोड और डेटा भी जारी करता है।

Yushen Chen, Junzhe Liu, Yujie Tu, Zhikang Niu, Yuzhe Liang, Chunyu Qiang, Chen Zhang, Kai Yu, Xie Chen2026-04-01
💬 NLP

The Mouth is Not the Brain: Bridging Energy-Based World Models and Language Generation

यह शोध पत्र एक ऐसे आर्किटेक्चर का प्रस्ताव करता है जो एक एनर्जी-बेस्ड डोमेन मॉडल को एक फ्रोजन लैंग्वेज मॉडल से जोड़कर विश्व की समझ (world understanding) को भाषा निर्माण (language generation) से अलग करता है, और यह प्रदर्शित करता है कि यह पृथक्करण छोटे LLMs को उपभोक्ता समीक्षा डोमेन में सुसंगत, नियंत्रणीय और अर्थपूर्ण रूप से सुसंगत टेक्स्ट जनरेशन प्राप्त करने में सक्षम बनाता है।

Junichiro Niimi2026-04-01