💬 NLP

Strong Teacher Not Needed? On Distillation in LLM Pretraining

यह शोध पत्र इस पारंपरिक धारणा को चुनौती देता है कि प्रभावी ज्ञान आसवन (नॉलेज डिस्टिलेशन) के लिए लार्ज लैंग्वेज मॉडल प्रीट्रेनिंग हेतु एक सशक्त शिक्षक की आवश्यकता होती है, यह प्रदर्शित करते हुए कि यदि लॉस फंक्शन को उचित रूप से मिश्रित किया जाए तो छोटे या कम प्रशिक्षित शिक्षक भी बड़े छात्रों में सुधार कर सकते हैं, जबकि अधिक शक्तिशाली शिक्षक हमेशा बेहतर परिणाम नहीं देते हैं।

Taiming Lu, Zhuang Liu2026-05-25
🤖 AI

Leveraging Foundation Models for Causal Generative Modeling

यह शोध पत्र FM-CGM को प्रस्तुत करता है, जो एक मॉड्यूलर फ्रेमवर्क है जो एक एकीकृत पाइपलाइन के भीतर ज़ीरो-शॉट कॉज़ल डिस्कवरी (कारण खोज), इंटरवेंशन और निष्ठावान काउंटरफैक्चुअल इमेज जनरेशन को सक्षम करने के लिए प्रीट्रेन्ड फाउंडेशन मॉडल्स और एक नवीन कॉज़ल सिमेंटिक गाइडेंस मैकेनिज्म का लाभ उठाता है।

Aneesh Komanduri, Xintao Wu2026-05-25
🤖 AI

CHRONOS: Temporally-Aware Multi-Agent Coordination for Evolving Data Marketplaces

CHRONOS एक तीन-परत वाली वास्तुकला है जो टेम्पोरल नॉलेज-ग्राफ डेटा मार्केटप्लेस के लिए न्यूरल-ODE-आधारित रिकॉल ऑप्टिमाइज़ेशन, चेंजपॉइंट-अवेयर शाप्ली प्राइसिंग और EXP3-IX डिफरेंशियल प्राइवेसी को एकीकृत करती है ताकि विकसित होते डेटा परिवेशों में पुराने इंडेक्सिंग, मूल्य मिस-एट्रिब्यूशन और बजट ओवर-कंजम्पशन की युग्मित विफलताओं को संबोधित किया जा सके।

Joydeep Chandra2026-05-25
🔢 mathematics

TreeDQN: Sample-Efficient Off-Policy Reinforcement Learning for Combinatorial Optimization

यह शोध पत्र TreeDQN का प्रस्ताव करता है, जो एक सैंपल-एफिशिएंट ऑफ-पॉलिसी सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) विधि है जो अपेक्षित प्रतिफल के ज्यामितीय माध्य को अनुकूलित करती है और एक संकुचन गुण प्रमाण (कॉन्ट्रैक्शन प्रॉपर्टी प्रूफ) द्वारा सैद्धांतिक रूप से पुष्ट है, जो इसे कॉम्बिनेटरियल ऑप्टिमाइज़ेशन कार्यों पर प्रशिक्षण गति और प्रदर्शन दोनों में मौजूदा ऑन-पॉलिसी दृष्टिकोणों से काफी बेहतर प्रदर्शन करने में सक्षम बनाता है।

D. Sorokin, A. Kostin, L. Savchenko, G. Gusev, A. V. Savchenko2026-05-22
🤖 machine learning

Measuring Variable Importance in Heterogeneous Treatment Effects with Confidence

यह शोध पत्र PermuCATE प्रस्तुत करता है, जो कंडीशनल परम्यूटेशन इम्पॉर्टेंस पर आधारित एक सांख्यिकीय रूप से कठोर एल्गोरिदम है, जो हेट्रोजेनियस ट्रीटमेंट इफेक्ट्स में वैश्विक चर महत्व (ग्लोबल वेरिएबल इम्पॉर्टेंस) के आकलन के लिए मौजूदा विधियों की तुलना में कम विचरण और उच्च सांख्यिकीय शक्ति प्रदान करता है, जिससे यह सीमित या सह-संबंधित डेटा वाले बायोमेडिकल अनुप्रयोगों में कॉज़ल इन्फरेंस के लिए विशेष रूप से प्रभावी हो जाता है।

Joseph Paillard, Angel Reyero Lobo, Vitaliy Kolodyazhniy, Bertrand Thirion, Denis A. Engemann2026-05-22
⚡ electrical engineering

Music102: An D12D_{12}-equivariant transformer for chord progression accompaniment

यह शोध पत्र Music102 को प्रस्तुत करता है, जो एक पैरामीटर-कुशल, D12D_{12}-इक्विवैरिएंट (equivariant) ट्रांसफार्मर है जो संगीत की समरूपताओं जैसे कि ट्रांसपोजीशन (transposition) और रिफ्लेक्शन (reflection) का लाभ उठाकर POP909 डेटासेट पर कॉर्ड प्रोग्रेशन एकम्पैनिमेंट कार्यों में अपने गैर-इक्विवैरिएंट पूर्ववर्ती की तुलना में काफी बेहतर प्रदर्शन करता है।

Weiliang Luo2026-05-22
🤖 machine learning

Leveraging Multi-Temporal Sentinel 1 and 2 Satellite Data for Leaf Area Index Estimation With Deep Learning

यह शोध पत्र एक नवीन डीप लर्निंग फ्रेमवर्क प्रस्तावित करता है जो अत्यधिक सटीक पिक्सेल-वाइज लीफ एरिया इंडेक्स (LAI) अनुमान प्राप्त करने के लिए प्री-ट्रेंड यू-नेट (U-Net) मॉड्यूल और एक सीज़नैलिटी-अवेयर डिकोडर का उपयोग करके मल्टी-टेम्पोरल सेंटिनल-1 और सेंटिनल-2 उपग्रह डेटा को एकीकृत करता है, जिसका RMSE 0.06 और R² 0.93 है।

Clement Wang, Antoine Debouchage, Valentin Goldité, Aurélien Wery, Jules Salzinger2026-05-22
💻 computer science

Sparse Orthogonal Parameters Tuning for Continual Learning

यह शोध पत्र SoTU का प्रस्ताव करता है, जो एक नवीन निरंतर शिक्षण (continual learning) विधि है जो स्ट्रीमिंग कार्यों से ज्ञान को प्रभावी ढंग से संयोजित करने और जटिल क्लासिफायर डिज़ाइनों की आवश्यकता के बिना कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम करने के लिए स्पार्स ऑर्थोगोनल पैरामीटर ट्यूनिंग का लाभ उठाता है।

Kun-Peng Ning, Hai-Jian Ke, Yu-Yang Liu, Jia-Yu Yao, Yong-Hong Tian, Li Yuan2026-05-22
📊 statistics

A Tale of Two Cities: Pessimism and Opportunism in Offline Dynamic Pricing

यह शोध पत्र अपूर्ण ऐतिहासिक डेटा कवरेज वाले वातावरण में ऑफलाइन डायनेमिक प्राइसिंग के लिए एक नॉनपैरामीट्रिक पार्शियल आइडेंटिफिकेशन फ्रेमवर्क प्रस्तावित करता है, जिसमें विशिष्ट पेसिमिस्टिक (निराशावादी) और ऑपर्चुनिस्टिक (अवसरवादी) निर्णय नियम पेश किए गए हैं जो परिमित-नमूना रिग्रेट बाउंड्स प्रदान करते हैं और मानक ऑफलाइन सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग) बेसलाइनों से बेहतर प्रदर्शन करते हैं और साथ ही एक फर्म के जोखिम दृष्टिकोण को उसकी इष्टतम मूल्य निर्धारण रणनीति के साथ मैप करते हैं।

Zeyu Bian, Zhengling Qi, Lan Wang2026-05-22
💬 NLP

Internal narratives parameterise affective states

लार्ज-लैंग्वेज-मॉडल रिप्रेजेंटेशन का उपयोग करने वाले दो बड़े पैमाने के अध्ययनों के माध्यम से, यह शोध प्रदर्शित करता है कि आंतरिक आख्यानों की संरचना और गतिशीलता न केवल अवसाद की गंभीरता की भविष्यवाणी करती है बल्कि भावनात्मक अवस्थाओं को कारणवश प्रभावित भी करती है, जो यह सुझाव देता है कि प्रभाव (affect) एक कम्प्यूटेशनल अवस्था के रूप में कार्य करता है जो आख्यान निर्माण को सीमित करता है और संदर्भ को एकीकृत करता है।

Jakub Onysk, Quentin J. M. Huys2026-05-22