26413 पेपर
डेटा संदूषण (data contamination) और रिसाव (leakage) के कारण मौजूदा बेंचमार्क की सीमाओं को दूर करने के लिए, लेखक Fidel-TS पेश करते हैं, जो एक नया उच्च-सटीकता वाला, बड़े पैमाने का मल्टीमॉडल बेंचमार्क है जिसे टाइम सीरीज़ फोरकास्टिंग मॉडल के अधिक सटीक और विश्वसनीय मूल्यांकन के लिए डिज़ाइन किया गया है।
यह शोध पत्र एक एकीकृत, सैद्धांतिक रूप से आधारित ढांचा प्रस्तावित करता है जो विजन-लैंग्वेज मॉडल्स में सिद्धांत-आधारित लेयर स्किपिंग को सक्षम करने के लिए प्रयोगात्मक रूप से सत्यापन योग्य रेडंडेंसी स्थितियों को परिभाषित करता है, जिससे प्रदर्शन से समझौता किए बिना अनुमान दक्षता में सुधार होता है।
यह शोध पत्र PRPO प्रस्तुत करता है, जो एक पैराग्राफ-स्तरीय सुदृढीकरण लर्निंग (reinforcement learning) एल्गोरिदम और एक संबंधित तर्क-एनोटेटेड (reasoning-annotated) डेटासेट है, जो उनके टेक्स्टुअल रीजनिंग को विजुअल एविडेंस के साथ संरेखित करके डीपफेक डिटेक्शन में मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स की सटीकता और व्याख्यात्मकता को महत्वपूर्ण रूप से बढ़ाता है।
ThinKV एक थॉट-अडेप्टिव (thought-adaptive) KV कैश कंप्रेशन फ्रेमवर्क है जो अटेंशन स्पैरसिटी (attention sparsity) का लाभ उठाकर हाइब्रिड क्वांटाइजेशन और इविक्शन रणनीतियों को लागू करता है, जिससे बड़े रीजनिंग मॉडल्स को मूल कैश के 5% से भी कम के साथ लगभग लॉसलेस सटीकता प्राप्त करने और इन्फरेंस थ्रूपुट को 5.8 गुना तक बढ़ाने में सक्षम बनाया जा सके।
यह शोध पत्र एक क्लोज्ड-फॉर्म लास्ट लेयर ऑप्टिमाइज़ेशन विधि प्रस्तावित करता है जो अंतिम परत के भार (weights) को बैकबोन मापदंडों के एक फलन (function) के रूप में मानता है, जिससे एक अल्टरनेटिंग ऑप्टिमाइज़ेशन स्कीम सक्षम होती है जो न्यूरल टेंगेंट कर्नेल रिजीम में कुशलतापूर्वक अभिसरित (converge) होती है और स्क्वेयर्ड लॉस रिग्रेशन कार्यों पर मानक SGD और Adam से बेहतर प्रदर्शन करती है।
यह शोध पत्र API अपडेट के तहत कोड LLMs में मॉडल एडिटिंग का मूल्यांकन करने के लिए एक नियंत्रित बेंचमार्क और निष्पादन सैंडबॉक्स प्रस्तुत करता है, जो यह प्रकट करता है कि वर्तमान एडिटिंग विधियाँ अनदेखे कार्यों के लिए सही API माइग्रेशन को सामान्य करने में संघर्ष करती हैं, अक्सर वर्कअराउंड पर निर्भर रहती हैं, और क्रमिक रूप से लागू किए जाने पर गंभीर प्रदर्शन गिरावट और हस्तक्षेप से ग्रस्त होती हैं।
यह शोध पत्र एक नवीन पैरामीट्रिक मल्टी-ऑब्जेक्टिव बायेसियन ऑप्टिमाइज़र प्रस्तावित करता है जो वैकल्पिक जनरेटिव सॉल्यूशन सैंपलिंग और एक्विजिशन-ड्रिवन सर्च के माध्यम से एक इनवर्स मॉडल सीखकर निरंतर टास्क पैरामीटर्स में ऑप्टिमाइज़ेशन लागतों को एमोर्टाइज़ करता है, जिससे बिना महंगे पुनर्मूल्यांकनों के अनदेखी समस्याओं के लिए पारेटो ऑप्टिमल समाधानों का सीधा पूर्वानुमान संभव हो पाता है।
यह शोध पत्र FMPlug को प्रस्तुत करता है, जो एक प्लग-इन फ्रेमवर्क है जो इंस्टेंस-गाइडेड वार्म-स्टार्ट रणनीतियों को गॉसियनिटी रेगुलराइजेशन के साथ जोड़कर फाउंडेशन फ्लो-मैचिंग मॉडल्स को इनवर्स समस्याओं के लिए उन्नत करता है, जिससे उन्हें व्यावहारिक, उच्च-प्रदर्शन वाले यूनिवर्सल प्रायर्स के रूप में उनकी क्षमता को अनलॉक करने में मदद मिलती है।
यह शोध पत्र एक प्रेडिक्टर-अज्ञेय (predictor-agnostic) ढांचे का प्रस्ताव करता है जो मल्टी-स्टेप टाइम-सीरीज़ फोरकास्टिंग में त्रुटि संचय को कम करने के लिए एक न्यूरल कंट्रोल्ड डिफरेंशियल इक्वेशन को करेक्टर के रूप में उपयोग करता है, जो अनियमित रूप से सैंपल किए गए डेटा पर विविध निरंतर और असतत मॉडलों पर सैद्धांतिक गारंटी और बेहतर प्रदर्शन प्रदान करता है।
यह शोध पत्र 'एक्ज़ैक्ट फ्लो लीनियर अटेंशन' (EFLA) को प्रस्तुत करता है, जो एक पैरामीटर-कुशल तंत्र है जो डेल्टा-नियम लीनियर अटेंशन के यूलर डिसक्रेटाइजेशन (Euler discretization) को निरंतर-समय गतिकी (continuous-time dynamics) से प्राप्त एक सटीक क्लोज्ड-फॉर्म समाधान से प्रतिस्थापित करता है, जिससे कम्प्यूटेशनल दक्षता से समझौता किए बिना स्थिरता और प्रदर्शन में सुधार होता है।