22092 पेपर
RocketPFN एक प्रशिक्षण-मुक्त (training-free) टाइम सीरीज़ वर्गीकरण पाइपलाइन है जो रैंडम कनवल्शनल फीचर एक्सट्रैक्शन को एक प्री-ट्रेन्ड टैबुलर फाउंडेशन मॉडल (TabPFN) के साथ जोड़ता है, जिससे यह बिना किसी लक्षित डेटा प्रशिक्षण की आवश्यकता के UCR और UEA बेंचमार्क पर अत्याधुनिक सटीकता प्राप्त करते हुए मौजूदा फाउंडेशन मॉडलों से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र तर्क देता है कि लोकप्रिय रिवॉर्ड मॉडल्स की निरंतर प्रकृति हानिकारक अतिसंवेदनशीलता का कारण बनती है, और डिस्क्रिमिनेटिव क्षमता को बनाए रखते हुए रिवॉर्ड हैकिंग को कम करने और पॉलिसी प्रदर्शन में सुधार करने के लिए मोंटे कार्लो ड्रॉपआउट का उपयोग करके एक प्रशिक्षण-मुक्त विविक्तीकरण (डिस्क्रीटाइजेशन) विधि प्रस्तावित करता है।
यह शोध पत्र CauVaDE का प्रस्ताव करता है, जो एक मिश्रण वेरिएशनल ऑटोएन्कोडर (mixture variational autoencoder) ढांचा है जो अव्यक्त अनऑब्जर्व्ड कन्फाउंडर्स (unobserved confounders) को विविक्त लेटेंट क्लस्टर्स (discrete latent clusters) के रूप में मॉडल करता है ताकि अवलोकनात्मक डेटा (observational data) के अनुरूप इंटरवेंशनल डिस्ट्रीब्यूशन्स का एक विविध परिवार उत्पन्न किया जा सके, जिससे अत्यधिक प्रतिबंधात्मक संरचनात्मक धारणाओं पर निर्भर किए बिना इमेज जनरेशन में स्प्यूरियस एसोसिएशंस (spurious associations) को संबोधित किया जा सके।
यह शोध पत्र कॉज़ल गॉसियन प्रोसेस (CGP) मॉडलों को प्रस्तुत करता है जो विस्तृत पूर्व ज्ञान की आवश्यकता के बिना या उपचारों को असतत मानों तक सीमित किए बिना, इंटरवेंशनल वितरणों को अनुमानित करने के लिए बहिर्जात डोमेन के एक सार्वभौमिक विविक्तीकरण (discretization) का लाभ उठाकर, कन्फाउंडेड अवलोकनों से निरंतर डोमेन पर सुदृढ़ कारण प्रभाव मूल्यांकन सक्षम बनाता है।
यह शोध पत्र बड़े कोड एजेंटों के लिए इंट्रा-ट्रैजेक्टरी स्टीयरिंग (intra-trajectory steering) प्रदान करने हेतु छोटे, सुपरवाइज्ड फाइन-ट्यून्ड क्रिटिक मॉडल्स को प्रशिक्षित करने का प्रस्ताव देता है, जो यह प्रदर्शित करता है कि यह दृष्टिकोण एंड-टू-एंड ट्रेनिंग या पोस्ट-हॉक स्कोरिंग की तुलना में कम्प्यूटेशनल लागत और ट्रैजेक्टरी की लंबाई दोनों को कम करते हुए SWE-bench Verified जैसे बेंचमार्क पर प्रदर्शन में महत्वपूर्ण सुधार करता है।
यह शोध पत्र AttriCoT को प्रस्तुत करता है, जो एक ब्लैक-बॉक्स एल्गोरिदम है जो चेन-ऑफ-थॉट रीजनिंग के व्यक्तिगत घटकों पर स्थानीय कारण संबंधी एट्रिब्यूशन (local causal attribution) करने के लिए एक स्ट्रक्चरल कॉज़ल मॉडल का निर्माण करता है, जो मॉडल व्यवहार के प्रति बेहतर निष्ठा (faithfulness) प्रदर्शित करता है और विभिन्न मॉडलों एवं डोमेन में विशिष्ट विचार संरचनाओं को प्रकट करता है।
यह शोध पत्र अकार्बनिक पदार्थों के लिए एक सत्यापन योग्य-पुरस्कार (verifiable-reward) बेंचमार्क, Mat-Pref को प्रस्तुत करता है, और यह प्रदर्शित करता है कि सुपरवाइज्ड फाइन-ट्यूनिंग (supervised fine-tuning) के साथ ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (Group Relative Optimization) को संयोजित करने वाला एक दो-चरणीय प्रशिक्षण पाइपलाइन, संरचनात्मक तर्क और अनदेखी संरचना श्रेणियों एवं गुणों में सामान्यीकरण को बढ़ाकर बड़े ज़ीरो-शॉट (zero-shot) मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र पदानुक्रमित सूक्ष्म-स्तरीय विज़न वर्गीकरण (hierarchical fine-grained vision classification) में वर्गीकरण संबंधी विसंगतियों को हल करने के लिए समूह-संतुलित डिज़ाइन के साथ एक स्तर-प्रतिबंधित कंट्रास्टिव लर्निंग फ्रेमवर्क प्रस्तावित करता है, जो iNaturalist 2021 जैसे बेंचमार्क पर कई स्तरों पर पदानुक्रमित निरंतरता और ज़ीरो-शॉट सटीकता दोनों में महत्वपूर्ण सुधार करता है।
UniRank लो-रैंक LLM संपीड़न के लिए एक एकीकृत रैंक आवंटन ढांचा पेश करता है जो रैंक वितरण को अनुकूलित करने के लिए स्थानीय सिंगुलर ऊर्जा और वैश्विक कार्यात्मक महत्व को जोड़ता है, जबकि विविध मॉडल आर्किटेक्चर में व्यापक कम्प्यूटेशनल ओवरहेड की आवश्यकता के बिना महत्वपूर्ण परप्लेक्सिटी कमी प्राप्त करने के लिए रैंक-संरक्षण फाइन-ट्यूनिंग का उपयोग करता है।
यह शोधपत्र WiSP प्रस्तुत करता है, जो कम-संसाधन वाले हार्डवेयर पर Mixture-of-Experts मॉडल्स के लिए एक रूटिंग-अवेयर वर्किंग-सेट मैनेजमेंट सिस्टम है, जो अंडरलाइंग सर्विंग इंजन को संशोधित किए बिना विशेषज्ञ वेट्स (expert weights) को गतिशील रूप से पेज करता है और विशेषज्ञों एवं KV कैश के बीच VRAM आवंटन को अनुकूलित करके डिकोड थ्रूपुट में महत्वपूर्ण सुधार करता है।