24717 पेपर
यह शोध पत्र PRPO प्रस्तुत करता है, जो एक पैराग्राफ-स्तरीय सुदृढीकरण लर्निंग (reinforcement learning) एल्गोरिदम और एक संबंधित तर्क-एनोटेटेड (reasoning-annotated) डेटासेट है, जो उनके टेक्स्टुअल रीजनिंग को विजुअल एविडेंस के साथ संरेखित करके डीपफेक डिटेक्शन में मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स की सटीकता और व्याख्यात्मकता को महत्वपूर्ण रूप से बढ़ाता है।
ThinKV एक थॉट-अडेप्टिव (thought-adaptive) KV कैश कंप्रेशन फ्रेमवर्क है जो अटेंशन स्पैरसिटी (attention sparsity) का लाभ उठाकर हाइब्रिड क्वांटाइजेशन और इविक्शन रणनीतियों को लागू करता है, जिससे बड़े रीजनिंग मॉडल्स को मूल कैश के 5% से भी कम के साथ लगभग लॉसलेस सटीकता प्राप्त करने और इन्फरेंस थ्रूपुट को 5.8 गुना तक बढ़ाने में सक्षम बनाया जा सके।
यह शोध पत्र एक क्लोज्ड-फॉर्म लास्ट लेयर ऑप्टिमाइज़ेशन विधि प्रस्तावित करता है जो अंतिम परत के भार (weights) को बैकबोन मापदंडों के एक फलन (function) के रूप में मानता है, जिससे एक अल्टरनेटिंग ऑप्टिमाइज़ेशन स्कीम सक्षम होती है जो न्यूरल टेंगेंट कर्नेल रिजीम में कुशलतापूर्वक अभिसरित (converge) होती है और स्क्वेयर्ड लॉस रिग्रेशन कार्यों पर मानक SGD और Adam से बेहतर प्रदर्शन करती है।
यह शोध पत्र API अपडेट के तहत कोड LLMs में मॉडल एडिटिंग का मूल्यांकन करने के लिए एक नियंत्रित बेंचमार्क और निष्पादन सैंडबॉक्स प्रस्तुत करता है, जो यह प्रकट करता है कि वर्तमान एडिटिंग विधियाँ अनदेखे कार्यों के लिए सही API माइग्रेशन को सामान्य करने में संघर्ष करती हैं, अक्सर वर्कअराउंड पर निर्भर रहती हैं, और क्रमिक रूप से लागू किए जाने पर गंभीर प्रदर्शन गिरावट और हस्तक्षेप से ग्रस्त होती हैं।
यह शोध पत्र एक नवीन पैरामीट्रिक मल्टी-ऑब्जेक्टिव बायेसियन ऑप्टिमाइज़र प्रस्तावित करता है जो वैकल्पिक जनरेटिव सॉल्यूशन सैंपलिंग और एक्विजिशन-ड्रिवन सर्च के माध्यम से एक इनवर्स मॉडल सीखकर निरंतर टास्क पैरामीटर्स में ऑप्टिमाइज़ेशन लागतों को एमोर्टाइज़ करता है, जिससे बिना महंगे पुनर्मूल्यांकनों के अनदेखी समस्याओं के लिए पारेटो ऑप्टिमल समाधानों का सीधा पूर्वानुमान संभव हो पाता है।
यह शोध पत्र FMPlug को प्रस्तुत करता है, जो एक प्लग-इन फ्रेमवर्क है जो इंस्टेंस-गाइडेड वार्म-स्टार्ट रणनीतियों को गॉसियनिटी रेगुलराइजेशन के साथ जोड़कर फाउंडेशन फ्लो-मैचिंग मॉडल्स को इनवर्स समस्याओं के लिए उन्नत करता है, जिससे उन्हें व्यावहारिक, उच्च-प्रदर्शन वाले यूनिवर्सल प्रायर्स के रूप में उनकी क्षमता को अनलॉक करने में मदद मिलती है।
यह शोध पत्र एक प्रेडिक्टर-अज्ञेय (predictor-agnostic) ढांचे का प्रस्ताव करता है जो मल्टी-स्टेप टाइम-सीरीज़ फोरकास्टिंग में त्रुटि संचय को कम करने के लिए एक न्यूरल कंट्रोल्ड डिफरेंशियल इक्वेशन को करेक्टर के रूप में उपयोग करता है, जो अनियमित रूप से सैंपल किए गए डेटा पर विविध निरंतर और असतत मॉडलों पर सैद्धांतिक गारंटी और बेहतर प्रदर्शन प्रदान करता है।
यह शोध पत्र 'एक्ज़ैक्ट फ्लो लीनियर अटेंशन' (EFLA) को प्रस्तुत करता है, जो एक पैरामीटर-कुशल तंत्र है जो डेल्टा-नियम लीनियर अटेंशन के यूलर डिसक्रेटाइजेशन (Euler discretization) को निरंतर-समय गतिकी (continuous-time dynamics) से प्राप्त एक सटीक क्लोज्ड-फॉर्म समाधान से प्रतिस्थापित करता है, जिससे कम्प्यूटेशनल दक्षता से समझौता किए बिना स्थिरता और प्रदर्शन में सुधार होता है।
यह शोध पत्र DT-PBO का प्रस्ताव करता है, जो प्रिफरेंशियल बेयसियन ऑप्टिमाइज़ेशन (Preferential Bayesian Optimization) के लिए एक नवीन व्याख्या योग्य ट्री-आधारित सरोगेट मॉडल है, जो पारंपरिक गॉसियन प्रोसेस-आधारित दृष्टिकोणों की व्याख्यात्मकता संबंधी सीमाओं को संबोधित करते हुए, निर्णय लेने वाले की प्राथमिकताओं में पारदर्शी अंतर्दृष्टि प्रदान करते हुए प्रतिस्पर्धी प्रदर्शन और मजबूती प्राप्त करता है।
यह शोध पत्र एक ब्लूम फ़िल्टर-आधारित एन्कोडिंग पद्धति प्रस्तावित करता है जो विविध डेटा प्रकारों को मेमोरी उपयोग को कम करने और मूल मानों को अस्पष्ट करने के लिए संक्षिप्त, निश्चित-लंबाई वाले बिट सरणियों में परिवर्तित करता है, यह प्रदर्शित करते हुए कि इन निरूपणों पर प्रशिक्षित मशीन लर्निंग मॉडल कच्चे डेटा या मानक आयामी कमी तकनीकों का उपयोग करने वाले मॉडलों के प्रदर्शन के तुलनीय परिणाम प्राप्त करते हैं।