🤖 machine learning

Goal-Conditioned Supervised Learning for LLM Fine-Tuning

यह शोध पत्र गोल-कंडीशन्ड सुपरवाइज्ड लर्निंग (GCSL) प्रस्तुत करता है, जो एक कुशल ऑफलाइन फाइन-ट्यूनिंग फ्रेमवर्क है जो फीडबैक संकेतों को स्पष्ट लक्ष्यों के रूप में मानता है और बड़े भाषा मॉडलों (LLMs) को गुणवत्ता थ्रेशोल्ड को लगातार प्राप्त करने के लिए निर्देशित करने हेतु प्राकृतिक भाषा का लाभ उठाता है, जिससे यह ऑनलाइन सुदृढीकरण शिक्षण (reinforcement learning) की उच्च लागतों से बचते हुए मानक सुपरवाइज्ड विधियों से बेहतर प्रदर्शन करता है।

Shijun Li, Kaiwen Dong, Xiang Gao, Joydeep Ghosh2026-05-19
🤖 machine learning

HPC-LLM: Practical Domain Adaptation and Retrieval-Augmented Generation for HPC Support

यह शोध पत्र HPC-LLM को प्रस्तुत करता है, जो एक रिट्रीवल-ऑगमेंटेड और QLoRA-फाइन-ट्यून्ड लामा 3.1 8B मॉडल है, जो क्लस्टर ऑपरेशन्स और वर्कफ्लो के लिए कुशल, डोमेन-विशिष्ट सहायता प्रदान करने हेतु एक विशेष HPC कॉर्पस का लाभ उठाता है, और काफी कम कंप्यूटेशनल लागत के साथ बड़े मॉडलों के तुलनीय प्रदर्शन प्राप्त करता है।

Nourin Shahin, Izzat Alsmadi2026-05-19
🤖 machine learning

Flow-Direct: Feedback-Efficient and Reusable Guidance for Flow Models via Non-Parametric Guidance Field

फ्लो-डायरेक्ट (Flow-Direct) एक प्रशिक्षण-मुक्त ढांचा है जो संचित रिवॉर्ड-मूल्यांकित नमूनों से एक निरंतर, गैर-पैरामीट्रिक मार्गदर्शन क्षेत्र का निर्माण करके फ्लो मॉडलों में फीडबैक दक्षता और पुन: प्रयोज्यता को बढ़ाता है, जिससे किसी भी रिवॉर्ड जानकारी को छोड़े बिना पूर्व-प्रशिक्षित वितरणों को लक्षित वितरणों में विश्लेषणात्मक रूप से स्थानांतरित किया जा सकता है।

Kim Yong Tan, Yueming Lyu, Ivor Tsang, Yew-Soon Ong2026-05-19
🤖 machine learning

Geometric Asymmetry in MoE Specialization: Functional Decorrelation and Representational Overlap

यह शोध पत्र एक एकीकृत जैकोबियन-PCA-ग्रासमैन ढांचे को प्रस्तुत करता है जो यह प्रकट करता है कि मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) आर्किटेक्चर एक ज्यामितीय विषमता के माध्यम से विशिष्टता प्राप्त करते हैं जहाँ विशेषज्ञ आंशिक रूप से ओवरलैपिंग प्रतिनिधित्व उप-स्थानों (representation subspaces) पर कार्य करने के बावजूद मजबूत कार्यात्मक डिकोरिलेशन प्रदर्शित करते हैं, एक ऐसी संरचना जो रूटिंग स्पर्सिटी द्वारा महत्वपूर्ण रूप से आकार लेती है।

Feilong Liu2026-05-19
🤖 machine learning

Federated Nested Learning: Collaborative Training of Self-Referential Memories for Test-Time Adaptation

यह शोध पत्र फेडरेटेड नेस्टेड लर्निंग (FedNL) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो फेडरेटेड लर्निंग को तीन-स्तरीय नेस्टेड अनुकूलन प्रणाली के रूप में पुनर्गठित करता है ताकि अनुकूलन नियमों को सहयोगात्मक रूप से सीखा जा सके, जिससे क्लाइंट्स को नॉन-आईआईडी (Non-IID) डेटा पर स्थिर अनुमान मेमोरी के साथ हल्का, ज़ीरो-शॉट टेस्ट-टाइम अनुकूलन करने में सक्षम बनाया जा सके।

Hong Chen, Pengcheng Wu, Yuanguo Lin, Peilin Zhao, Xiuze Zhou, Fan Lin, Han Yu2026-05-19
🤖 machine learning

PIMSM: Physics-Informed Multi-Scale Mamba for Stable Neural Representations under Distribution Shift

यह शोध पत्र फिजिक्स-इन्फॉर्म्ड मल्टी-स्केल माम्बा (PIMSM) का प्रस्ताव करता है, जो एक स्टेट-स्पेस आर्किटेक्चर है जो टेम्पोरल कर्नेल मिसमैच (temporal kernel mismatch) को दूर करने के लिए मॉडल डिस्क्रीटाइजेशन को भौतिक टाइमस्केल्स के साथ संरेखित करता है, जिससे गंभीर वितरण बदलावों (distribution shifts) के तहत वैज्ञानिक टाइम सीरीज़ के लिए सुदृढ़ और स्थिर न्यूरल रिप्रजेंटेशन प्राप्त होता है।

Sangyoon Bae, Shinjae Yoo, Jiook Cha2026-05-19
🤖 machine learning

ProxyKV: Cross-Model Proxy Pruning for Efficient Long-Context LLM Inference

ProxyKV एक क्रॉस-मॉडल फ्रेमवर्क है जो लॉन्ग-कॉन्टेक्स्ट LLM इन्फरेंस के लिए KV कैश को कुशलतापूर्वक प्रून करने हेतु एक लाइटवेट एसिंक्रोनस स्मॉल-मॉडल प्रॉक्सी और एक नवीन HybridAxialMapper का उपयोग करता है, जो अत्याधुनिक तरीकों के समान उच्च सटीकता प्राप्त करते हुए प्रीफिलिंग ओवरहेड को काफी कम कर देता है।

Junjie Li, Jiong Lou, Jie Li2026-05-19
🤖 machine learning

TailedTS: Benchmark Dataset for Heavy-Tailed Time Series Prediction and Periodicity Quantification

यह शोध पत्र TailedTS को प्रस्तुत करता है, जो विकिपीडिया पेज व्यूज़ का एक बड़े पैमाने का बेंचमार्क डेटासेट है, जो भारी-पूंछ (heavy-tailed) और शून्य-स्फीत (zero-inflated) वितरणों द्वारा अभिलक्षित है, जिसे गैर-गाऊसी (non-Gaussian) स्थितियों के तहत समय श्रृंखला पूर्वानुमान मॉडलों का मूल्यांकन करने और उच्च-ट्रैफ़िक वाले डिजिटल प्लेटफार्मों की आवधिकता (periodicity) के बारे में अंतर्दृष्टि प्रकट करने के लिए डिज़ाइन किया गया है।

Xinyu Chen, HanQin Cai, Lijun Ding, Jinhua Zhao2026-05-19
🤖 machine learning

When Is Rank-1 Steering Cheap? Geometry, Granularity, and Budgeted Search

यह शोध पत्र तर्क देता है कि एक्टिवेशन स्टीयरिंग प्रभावकारिता में परिवर्तनशीलता मुख्य रूप से रैंक-1 समाधानों की अनुपस्थिति के बजाय खोज की कठिनाई (search difficulty) द्वारा संचालित होती है, जो GRACE फ्रेमवर्क का प्रस्ताव करता है जो इष्टतम स्टीयरिंग दिशाओं के लिए कुशल, ज्यामिति-जागरूक बजट वाली खोज (geometry-aware budgeted search) को निर्देशित करने के लिए प्रॉम्प्ट-बाउंड्री संरेखण और एक नए "कॉन्सेप्ट ग्रैनुलैरिटी" मीट्रिक का लाभ उठाता है।

John T. Robertson, Jianing Zhu, Haris Vikalo, Zhangyang Wang2026-05-19
🤖 machine learning

SwordBench: Evaluating Orthogonality of Steering Image Representations

यह शोधपत्र SwordBench प्रस्तुत करता है, जो विज़न मॉडलों में स्टीयरिंग इमेज रिप्रेजेंटेशन की ऑर्थोगोनैलिटी और प्रभावशीलता का मूल्यांकन करने के लिए एक व्यापक बेंचमार्क है, यह प्रकट करते हुए कि जबकि लीनियर मेथड्स बेहतर सेपेरेबिलिटी (separability) प्रदान करते हैं, वे अक्सर स्पार्स ऑटोएनकोडर्स (sparse autoencoders) की तुलना में कोलेटरल डैमेज (collateral damage) को रोकने में विफल रहते हैं।

Vladimir Zaigrajew, Dawid Pludowski, Hubert Baniecki, Przemyslaw Biecek2026-05-19