💻 computer science

Countering Catastrophic Forgetting of Large Language Models for Better Instruction Following via Weight-Space Model Merging

यह शोध पत्र एक वेट-स्पेस मॉडल मर्जिंग फ्रेमवर्क का प्रस्ताव करता है जो कैटास्ट्रोफिक फॉरगेटिंग (विस्मृति) का प्रभावी ढंग से मुकाबला करके सामान्य प्रयोजन वाले LLMs को चिकित्सा डोमेन के अनुकूल बनाने में सफल होता है, जिससे नैदानिक विशेषज्ञता और निर्देश-अनुपालन क्षमताओं दोनों को सुरक्षित रखते हुए पूर्ण फाइन-ट्यूनिंग के तुलनीय प्रशिक्षण दक्षता प्राप्त की जा सकती है।

Mengxian Lyu, Cheng Peng, Ziyi Chen, Mengyuan Zhang, Jieting Li Lu, Yonghui Wu2026-04-03
💻 computer science

Acoustic and perceptual differences between standard and accented Chinese speech and their voice clones

यह अध्ययन प्रकट करता है कि जहाँ मानक और लहजे वाले मैंडरिन वॉयस क्लोन अपने मूल स्वरों के साथ समान एम्बेडिंग-आधारित दूरी दिखाते हैं, वहीं संवेदी मूल्यांकन (perceptual evaluations) यह प्रदर्शित करते हैं कि लहजा कथित पहचान मिलान और बोधगम्यता सुधार दोनों को महत्वपूर्ण रूप से प्रभावित करता है, जो यह सुझाव देता है कि इन्हें वॉयस क्लोनिंग में अलग-अलग आयामों के रूप में मूल्यांकित किया जाना चाहिए।

Tianle Yang, Chengzhe Sun, Phil Rose, Siwei Lyu2026-04-03
💻 computer science

Swift-SVD: Theoretical Optimality Meets Practical Efficiency in Low-Rank LLM Compression

Swift-SVD एक ट्रेनिंग-फ्री, एक्टिवेशन-अवेयर लो-रैंक कंप्रेशन फ्रेमवर्क है जो क्लोज्ड-फॉर्म आइजनवैल्यू डिकंपोजिशन के माध्यम से सैद्धांतिक इष्टतमता और संख्यात्मक स्थिरता प्राप्त करता है, और साथ ही LLM परिनियोजन (डिप्लॉयमेंट) के लिए मौजूदा विधियों की तुलना में उत्कृष्ट सटीकता और महत्वपूर्ण गति प्रदान करता है।

Ruoling Qi, Yirui Liu, Xuaner Wu, Xiangyu Wang, Ming Li, Chen Chen, Jian Chen, Yin Chen, Qizhen Weng2026-04-03
🤖 machine learning

Expert-Choice Routing Enables Adaptive Computation in Diffusion Language Models

यह शोध पत्र डिफ्यूजन लैंग्वेज मॉडल्स के लिए टोकन-चॉइस (TC) राउटिंग के एक बेहतर विकल्प के रूप में एक्सपर्ट-चॉइस (EC) राउटिंग का प्रस्ताव करता है, जो यह प्रदर्शित करता है कि EC का नियत लोड बैलेंसिंग (deterministic load balancing), एडेप्टिव टाइमस्टेप-डिपेंडेंट एक्सपर्ट कैपेसिटी के साथ मिलकर, थ्रूपुट, अभिसरण गति (convergence speed) और डाउनस्ट्रीम सटीकता में महत्वपूर्ण सुधार करता है और मौजूदा मॉडल्स को रेट्रोफिट करने में सक्षम बनाता है।

Shuibai Zhang, Caspian Zhuang, Chihan Cui, Zhihan Yang, Fred Zhangzhi Peng, Yanxin Zhang, Haoyue Bai, Zack Jia, Yang Zho (…)2026-04-03
💻 computer science

OSCAR: Orchestrated Self-verification and Cross-path Refinement

OSCAR डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक ट्रेनिंग-फ्री इन्फरेंस-टाइम फ्रेमवर्क है जो क्रॉस-चेन एंट्रॉपी विश्लेषण के माध्यम से उच्च-अनिश्चितता वाले टोकन स्थानों की पहचान करके और प्राप्त साक्ष्यों के साथ लक्षित रीमास्किंगिंग के माध्यम से उन्हें सुधारकर मतिभ्रम (hallucinations) को कम करता है, जिससे यह ऑटोरिग्रेसिव दृष्टिकोणों की तुलना में बेहतर तथ्यात्मक सटीकता के लिए मॉडल के मूल डीनोइजिंग प्रक्षेपवक्र (denoising trajectory) का लाभ उठाता है।

Yash Shah, Abhijit Chakraborty, Naresh Kumar Devulapally, Vishnu Lokhande, Vivek Gupta2026-04-03
🤖 machine learning

CRIT: Graph-Based Automatic Data Synthesis to Enhance Cross-Modal Multi-Hop Reasoning

यह शोध पत्र CRIT को प्रस्तुत करता है, जो एक ग्राफ-आधारित स्वचालित रूप से संश्लेषित डेटासेट और बेंचमार्क है जिसे वर्तमान विजन-लैंग्वेज मॉडल्स में क्रॉस-मोडल मल्टी-हॉप रीजनिंग की कमी को दूर करने के लिए डिज़ाइन किया गया है, जो यह प्रदर्शित करता है कि इस डेटा पर प्रशिक्षण जटिल तर्क कार्यों पर मॉडल के प्रदर्शन में महत्वपूर्ण सुधार करता है और मतिभ्रम (hallucinations) को कम करता है।

Junyoung Sung, Seungwoo Lyu, Minjun Kim, Sumin An, Arsha Nagrani, Paul Hongsuck Seo2026-04-03
💻 computer science

Fragile Reasoning: A Mechanistic Analysis of LLM Sensitivity to Meaning-Preserving Perturbations

यह शोध पत्र प्रकट करता है कि बड़े भाषा मॉडल गणितीय तर्क में अर्थ-संरक्षण वाले परिवर्तनों (meaning-preserving perturbations) के प्रति महत्वपूर्ण भंगुरता प्रदर्शित करते हैं और इन विफलताओं को विशिष्ट वास्तुशिल्प पैटर्न (architectural patterns) तक ट्रेस करने के लिए मैकेनिस्टिक पर्टर्बेशन डायग्नोस्टिक्स (MPD) ढांचे को पेश करता है, जो उन्हें लक्षित हस्तक्षेपों के माध्यम से भिन्न रिकवरेबिलिटी (recoverability) के साथ स्थानीयकृत (localized), वितरित (distributed) और उलझे हुए (entangled) प्रकारों में वर्गीकृत करता है।

Shou-Tzu Han, Rodrigue Rizk, KC Santosh2026-04-03
💻 computer science

ThinknCheck: Grounded Claim Verification with Compact, Reasoning-Driven, and Interpretable Models

यह शोध पत्र ThinknCheck को प्रस्तुत करता है, जो एक संसाधन-कुशल 1B-पैरामीटर वाला सत्यापनकर्ता (verifier) है, जो बाइनरी निर्णय से पहले संरचित तर्क (structured rationales) उत्पन्न करने के लिए एक संक्षिप्त, पर्यवेक्षित तर्क ढांचे (supervised reasoning framework) का लाभ उठाकर अत्याधुनिक ग्राउंडेड क्लेम वेरिफिकेशन प्रदर्शन प्राप्त करता है, जो बड़े मॉडलों और ज़ीरो-शॉट बेसलाइनों से काफी बेहतर प्रदर्शन करता है।

Delip Rao, Feijiang Han, Chris Callison-Burch2026-04-03
💻 computer science

What Do Claim Verification Datasets Actually Test? A Reasoning Trace Analysis

यह शोध पत्र 24,000 दावा-सत्यापन उदाहरणों में तर्क संबंधी निशानों (reasoning traces) का विश्लेषण करता है ताकि यह प्रकट किया जा सके कि वर्तमान बेंचमार्क जटिल संश्लेषण या संख्यात्मक तर्क के बजाय मुख्य रूप से शाब्दिक मिलान और साक्ष्य निष्कर्षण का परीक्षण करते हैं, जिससे त्रुटि प्रोफाइल डोमेन के अनुसार काफी भिन्न हो जाते हैं और अधिक चुनौतीपूर्ण मूल्यांकन सूचियों की आवश्यकता का सुझाव मिलता है।

Delip Rao, Chris Callison-Burch2026-04-03
🤖 machine learning

Coupled Query-Key Dynamics for Attention

यह शोध पत्र "कपल्ड क्यूके डायनेमिक्स" (coupled QK dynamics) को प्रस्तुत करता है, जो एक ऐसी प्रक्रिया है जहाँ अटेंशन स्कोरिंग से पहले क्वेरीज़ और कीज़ साझा सीखे गए डायनेमिक्स के माध्यम से संयुक्त रूप से विकसित होती हैं, जो यह प्रदर्शित करता है कि यह दृष्टिकोण डोमेन-सुसंगत कॉर्पोरा पर सैंपल दक्षता और प्रशिक्षण स्थिरता में महत्वपूर्ण सुधार करता है, जबकि यह भी प्रकट करता है कि इसके लाभ कॉर्पस-निर्भर हैं और विषम वेब टेक्स्ट या बड़े मॉडल स्केल पर कम हो जाते हैं।

Barak Gahtan, Alex M. Bronstein2026-04-03