22512 पेपर
यह शोध पत्र यह प्रदर्शित करता है कि उच्च-प्लास्टिसिटी (कम सुचारू) घटकों, विशेष रूप से अटेंशन और फीडफॉरवर्ड परतों के अनुकूलन को प्राथमिकता देना, विजन ट्रांसफार्मर फाइनट्यूनिंग प्रदर्शन में महत्वपूर्ण सुधार करता है, जो इस प्रचलित धारणा को चुनौती देता है कि ट्रांसफर लर्निंग के लिए सुचारूता हमेशा वांछनीय होती है।
यह शोध पत्र Palimpsa को प्रस्तुत करता है, जो एक सेल्फ-अटेंशन मॉडल है जो इन-कॉन्टेक्स्ट लर्निंग को बेयसियन मेटाप्लास्टिसिटी (Bayesian metaplasticity) का उपयोग करके एक निरंतर सीखने की समस्या के रूप में फ्रेम करता है ताकि स्थिरता और प्लास्टिसिटी के बीच गतिशील रूप से संतुलन बनाया जा सके, जिससे गेटेड लीनियर अटेंशन मॉडलों की निश्चित क्षमता और हस्तक्षेप की सीमाओं को दूर किया जा सके और लॉन्ग-सीक्वेंस रिकॉल और रीजनिंग कार्यों पर प्रदर्शन में महत्वपूर्ण सुधार किया जा सके।
यह शोध पत्र "ड्रिफ्ट-डिफ्यूजन मैचिंग" (drift-diffusion matching) का परिचय देता है, जो एक ऐसा ढांचा है जो विषम निरंतर-समय पुनरावर्ती तंत्रिका नेटवर्क (asymmetric continuous-time recurrent neural networks) को कम-आयामी लेटेंट मैनिफोल्ड्स (low-dimensional latent manifolds) के भीतर मनमाने गैररेखीय स्टोकेस्टिक डिफरेंशियल इक्वेशंस (nonlinear stochastic differential equations) को निष्ठापूर्वक एम्बेड करने के लिए प्रशिक्षित करता है, जिससे अट्रैक्टर नेटवर्क थ्योरी (attractor network theory) को साम्यावस्था (equilibrium) से आगे बढ़ाकर साहचर्य और स्मृति (associative and episodic memory) जैसी जटिल जैविक गतिकी को मॉडल किया जा सके।
यह शोध पत्र स्केलेबल मल्टी-एजेंट रिइन्फोर्समेंट लर्निंग में लोकैलिटी (locality) के लिए एक एकीकृत ढांचे को प्रस्तुत करता है जो मान क्षय (value decay) के लिए एक कड़े, नीति-निर्भर स्पेक्ट्रल सर्टिफिकेट (spectral certificate) को व्युत्पन्न करने हेतु पर्यावरण और नीति संवेदनशीलता को विघटित करता है, जिससे उन क्षेत्रों में घातीय रूप से क्षय होने वाले ट्रंकेशन बायस (truncation bias) के साथ कुशल ब्लॉक-कोऑर्डिनेट पॉलिसी इम्प्रूवमेंट सक्षम होता है जहाँ पूर्ववर्ती समान बाउंड्स (uniform bounds) विफल हो जाते हैं।
यह शोध पत्र एक सिद्धांत-आधारित पाथ-कंडीशन्ड प्रशिक्षण पद्धति प्रस्तुत करता है जो नेटवर्क कर्नेल को एक संदर्भ के साथ संरेखित करने के लिए पाथ-लिफ्टिंग फ्रेमवर्क के माध्यम से ReLU नेटवर्क रीस्केलिंग सिमिट्रीज़ का लाभ उठाता है, जिससे अनुकूलित पैरामीटर इनिशियलाइज़ेशन और स्केलिंग के द्वारा प्रशिक्षण में तेजी आती है।
यह शोध पत्र यह प्रदर्शित करके 'लॉ ऑफ रोबस्टनेस' (Law of Robustness) को रोबस्ट जनरलाइजेशन (robust generalization) से जोड़ने वाली खुली समस्या का समाधान करता है कि जबकि वैश्विक लिप्सचिट्ज़ बाउंड ऑर्डर (global Lipschitz bound order) किसी भी अनिश्चित डेटा वितरण के लिए 'लॉ ऑफ रोबस्टनेस' के अनुरूप बना रहता है, वहीं स्थानीय लिप्सचिट्ज़ बाउंड ऑर्डर (local Lipschitz bound order) पर्टरबेशन रेडियस और स्थानीय एकाग्रता पदों (localized concentration terms) के आधार पर भिन्न होता है।
यह शोध पत्र पहला क्वांटाइजेशन-कंडीशन्ड हमला पेश करता है जो पूर्वानुमानित वेट कोलैप्स (weight collapse) को प्रेरित करने के लिए आउटलायर इंजेक्शन का लाभ उठाता है, जो AWQ, GPTQ और GGUF जैसी उन्नत क्वांटाइजेशन तकनीकों की एक विस्तृत श्रृंखला में लार्ज लैंग्वेज मॉडल्स में दुर्भावनापूर्ण व्यवहार को सफलतापूर्वक ट्रिगर करता है।
SpliceBind एक ग्राफ न्यूरल नेटवर्क फ्रेमवर्क है जो मौजूदा उपकरणों की तुलना में सटीकता में सुधार करने के लिए आइसोफॉर्म-विशिष्ट बाइंडिंग पॉकेट ड्रगैबिलिटी (druggability) की भविष्यवाणी करता है और एक द्वि-स्तरीय प्रतिरोध वर्गीकरण (two-tier resistance taxonomy) स्थापित करता है, जिससे चिकित्सक उन स्प्लिस वेरिएंट्स के बीच अंतर कर पाते हैं जिनका कम्प्यूटेशनल रूप से मूल्यांकन किया जा सकता है बनाम जिन्हें जैव रासायनिक सत्यापन (biochemical validation) की आवश्यकता होती है।
यह शोध पत्र DegradoMap को प्रस्तुत करता है, जो एक ग्राफ न्यूरल नेटवर्क है जो केवल प्रोटीन संरचना और E3 लाइगेज की पहचान का उपयोग करके PROTAC-मध्यस्थ प्रोटीन क्षरण क्षमता (degradability) की भविष्यवाणी करता है, जिससे संश्लेषण-पूर्व लक्ष्य चयन और इष्टतम E3 लाइगेज अनुशंसा सक्षम होती है, साथ ही यह प्रशिक्षण बीज भिन्नता (training seed variance) और E3 लाइगेज कवरेज से संबंधित चुनौतियों के बावजूद मौजूदा बेसलाइन से बेहतर प्रदर्शन करता है।
यह शोध पत्र तर्क देता है कि तैनात सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) प्रणालियों को पारंपरिक 'प्रशिक्षण-फिर-सुधार' (ट्रेन-देन-फिक्स) दृष्टिकोण के बजाय एक निरंतर शिक्षण प्रतिमान को अपनाना चाहिए, क्योंकि वास्तविक दुनिया की गैर-स्थिरता यह आवश्यक बनाती है कि एजेंट इष्टतम प्रदर्शन बनाए रखने के लिए अनुकूलन करना कभी भी बंद न करें।