🤖 मशीन लर्निंग

Learning Discrete Autoregressive Priors with Wasserstein Gradient Flow

यह शोध पत्र wAR-Tok प्रस्तुत करता है, जो टोकेनाइज़र प्रशिक्षण में वॉसरस्टीन-ग्रेडिएंट-फ्लो-आधारित प्रायोरिटी-मैचिंग सिग्नल को एकीकृत करके डिस्क्रीट ऑटोरेग्रेसिव इमेज जनरेशन में सुधार करता है, जिससे पुनर्निर्माण गुणवत्ता से समझौता किए बिना सीखे गए टोकन वितरण को लक्षित ऑटोरेग्रेसिव मॉडल के साथ संरेखित किया जाता है।

Bowen Zheng, Yihong Luo, Tianyang Hu2026-05-08
📊 सांख्यिकी

Grokking or Glitching? How Low-Precision Drives Slingshot Loss Spikes

यह लेख प्रदर्शित करता है कि "स्लिंगशॉट मैकेनिज्म" (slingshot mechanism), जो दीर्घकालिक प्रशिक्षण के दौरान आवधिक लॉस स्पाइक्स (loss spikes) और तीव्र पैरामीटर वृद्धि द्वारा पहचाना जाता है, एक अंतर्निहित अनुकूलन गतिकी (optimization dynamic) का प्रतिनिधित्व नहीं करता है बल्कि कम-परिशुद्धता वाले फ्लोटिंग-पॉइंट अंकगणित (low-precision floating-point arithmetic) के कारण उत्पन्न एक संख्यात्मक विसंगति (numerical artifact) है, जहाँ ग्रेडिएंट्स में राउंडिंग त्रुटियाँ शून्य-योग स्थिति (zero-sum condition) का उल्लंघन करती हैं और एक सकारात्मक फीडबैक लूप को सक्रिय करती हैं जिसे संख्यात्मक विशेषता मुद्रास्फीति (numerical feature inflation - NFI) के रूप में जाना जाता है।

Liu Hanqing, Jianjun Cao, Yuanze Li, Zijian Zhou2026-05-08
🤖 मशीन लर्निंग

Graphlets as Building Blocks for Structural Vocabulary in Knowledge Graph Foundation Models

यह शोधपत्र एक मॉडल-अज्ञेय (model-agnostic) ढांचे को प्रस्तुत करता है जो नॉलेज ग्राफ फाउंडेशन मॉडल्स के लिए एक सार्वभौमिक शब्दावली स्थापित करने हेतु आवर्ती ग्राफलेट्स (recurring graphlets) को संरचनात्मक टोकन के रूप में मानता है, जिससे विविध और अनदेखे ग्राफों में सुदृढ़ ज़ीरो-शॉट ट्रांसफर और बेहतर लिंक प्रेडिक्शन सक्षम होता है।

Kossi Amouzouvi, Robert Wardenga, Jens Lehmann, Sahar Vahdati2026-05-08
🤖 मशीन लर्निंग

Entropy-Regularized Adjoint Matching for Offline RL

यह शोध पत्र मैक्सिमम एंट्रॉपी एडजॉइंट मैचिंग (ME-AM) का प्रस्ताव करता है, जो एक एकीकृत ढांचा है जो लोकप्रियता पूर्वाग्रह (popularity bias) और सपोर्ट बाइंडिंग (support binding) से निपटने के लिए मिरर डिसेंट एंट्रॉपी मैक्सिमाइजेशन और एक मिश्रण व्यवहार पूर्ववर्ती (mixture behavior prior) को फ्लो-मैचिंग-आधारित ऑफलाइन आरएल (RL) में एकीकृत करता है, जिससे स्पार्स-रिवॉर्ड डेटासेट्स से इष्टतम नीतियों के सुदृढ़ निष्कर्षण को सक्षम बनाया जा सके।

Abdelghani Ghanem, Mounir Ghogho2026-05-08
🤖 मशीन लर्निंग

One Algorithm, Two Goals: Dual Scoring for Parameter and Data Selection in LLM Fine-Tuning

यह शोधपत्र DualSFT को प्रस्तुत करता है, जो एक वन-शॉट एल्गोरिदम है जो एक बाइलेवल ऑप्टिमाइज़ेशन फ्रेमवर्क से एक साझा ग्रेडिएंट-आधारित स्कोरिंग नियम व्युत्पन्न करके LLM फाइन-ट्यूनिंग के लिए पैरामीटर और डेटा चयन को एकीकृत करता है, जिससे पारंपरिक अलग-अलग रणनीतियों की तुलना में अधिक कुशल और समन्वित सह-चयन सक्षम होता है।

Xinrui Chen, Liu Yang, Ou Wu2026-05-08
🤖 मशीन लर्निंग

Mean Mode Screaming: Mean--Variance Split Residuals for 1000-Layer Diffusion Transformers

यह शोध पत्र "मीन मोड स्क्रीमिंंग" (Mean Mode Screaming) को गहरे डिफ्यूजन ट्रांसफॉर्मर्स में पतन का कारण बनने वाली एक संरचनात्मक भेद्यता के रूप में पहचानता है और 1,000 परतों तक सफलतापूर्वक प्रशिक्षण को स्थिर करने के लिए "मीन-वेरिएंस स्प्लिट रेसिडुअल्स" (Mean-Variance Split Residuals) का प्रस्ताव करता है।

Pengqi Lu2026-05-08
🤖 मशीन लर्निंग

Teaching LLMs Program Semantics via Symbolic Execution Traces

यह शोध पत्र 500 C सत्यापन कार्यों के लिए एक नए मूल्यांकन ढांचे को प्रस्तुत करता है और यह प्रदर्शित करता है कि लगभग 3,000 सिम्बोलिक एक्जीक्यूशन ट्रेसेस (symbolic execution traces) के साथ चेन-ऑफ-थॉट रीजनिंग (chain-of-thought reasoning) पर एक Qwen3-8B मॉडल को प्रशिक्षित करने से विविध प्रकार के गुणों (property types) में उल्लंघन का पता लगाने और समग्र सटीकता में महत्वपूर्ण सुधार होता है, जो बड़े मॉडलों से बेहतर प्रदर्शन करता है और दोनों तकनीकों के बीच एक सुपर-एडिटिव सिनर्जी (superadditive synergy) को प्रकट करता है।

Jonas Bayer, Stefan Zetzsche, Olivier Bouissou, Remi Delmas, Michael Tautschnig, Soonho Kong2026-05-08
🤖 मशीन लर्निंग

Bridging visual saliency and large language models for explainable deep learning in medical imaging

यह शोध पत्र एक मल्टीमॉडल व्याख्यात्मकता ढांचे (multimodal explainability framework) का प्रस्ताव करता है जो ब्रेन ट्यूमर एमआरआई विश्लेषण के लिए मानव-व्याख्या योग्य, रेडियोलॉजिकल-शैली की नैदानिक रिपोर्ट उत्पन्न करने हेतु विजुअल सैलिएंसी मैपिंग और लार्ज लैंग्वेज मॉडल्स के साथ सीएनएन-आधारित ट्यूमर वर्गीकरण और विभाजन को एकीकृत करता है, जिससे मेडिकल इमेजिंग में एआई की पारदर्शिता और नैदानिक ​​अपनाने की क्षमता में वृद्धि होती है।

Paul Valery Nguezet, Elie Tagne Fute, Yusuf Brima, Benoit Martin Azanguezet, Marcellin Atemkeng2026-05-08
📊 सांख्यिकी

When Does Trimming Help Conformal Prediction? A Retained-Law Diagnostic under Calibration Contamination

यह शोध पत्र यह स्थापित करता है कि कॉन्फॉर्मल प्रेडिक्शन (conformal prediction) में ट्रिमिंग एक "रिटेंड लॉ" (retained law) द्वारा नियंत्रित एक कंडीशनिंग मैकेनिज्म के रूप में कार्य करती है, जो एक नैदानिक ढांचा प्रदान करती है जो यह प्रकट करता है कि ट्रिमिंग केवल तभी कवरेज में सुधार करती है जब विसंगति स्कोर (anomaly scores) स्वच्छ जनसंख्या के स्कोर वितरण को विकृत किए बिना दूषित बिंदुओं को प्रभावी ढंग से अलग कर देते हैं।

Congye Wang2026-05-08
🤖 मशीन लर्निंग

Taming the Entropy Cliff: Variable Codebook Size Quantization for Autoregressive Visual Generation

यह शोध पत्र ऑटोरेग्रेसिव विज़ुअल जनरेशन में "एन्ट्रॉपी क्लिफ" (Entropy Cliff) घटना की पहचान करता है, जहाँ निश्चित आकार के कोडबुक तेजी से रटने (memorization) की ओर ले जाते हैं, और वेरिएबल कोडबुक साइज क्वांटाइजेशन (VCQ) का प्रस्ताव करता है जो अनुक्रम के साथ कोडबुक क्षमता को गतिशील रूप से बढ़ाता है, जिससे मानक प्रशिक्षण ढांचे को बदले बिना अत्याधुनिक इमेज जनरेशन गुणवत्ता और उभरती हुई सिमेंटिक पदानुक्रम (semantic hierarchy) प्राप्त होती है।

Bowen Zheng, Weijian Luo, Guang Yang, Colin Zhang, Tianyang Hu2026-05-08