26959 पेपर
यह शोध पत्र ग्राउंडेड प्रेडिक्शन नेटवर्क (GPN) को प्रस्तुत करता है, जो एक सिंगल-लेयर रिकरेंट आर्किटेक्चर है जो प्रत्येक चरण पर एक सिंगल स्टेट वेक्टर को पुनरावृत्त करके प्रतिस्पर्धी लैंग्वेज मॉडलिंग प्रदर्शन प्राप्त करता है, जो गहरे स्टैक्ड मॉडल्स के लिए एक जैविक रूप से प्रेरित विकल्प प्रदान करता है और साथ ही इसकी आंतरिक मेमोरी डायनेमिक्स के प्रत्यक्ष ज्यामितीय निरीक्षण को सक्षम बनाता है।
यह शोध पत्र DiCoLa को प्रस्तुत करता है, जो एक सैद्धांतिक रूप से सुदृढ़ और पूर्ण पुनरावर्ती अपघटन ढांचा (recursive decomposition framework) है जो लेटेंट वेरिएबल्स (latent variables) वाले परिवेश में डिवाइड-एंड-कॉन्कर कॉज़ल डिस्कवरी का विस्तार करता है, जो सिंथेटिक और वास्तविक दुनिया के परिदृश्यों में सटीकता बनाए रखते हुए कम्प्यूटेशनल दक्षता में महत्वपूर्ण सुधार करता है।
यह शोध पत्र \texttt{AB-SID-iVAR} को प्रस्तुत करता है, जो एक गॉसियन प्रोसेस-आधारित सक्रिय शिक्षण विधि है जो विभाजन फलन (partition function) के अनुमान के बिना अगतिशील लक्ष्य (intractable target) को सन्निकटित करके स्व-प्रेरित बोल्ट्ज़मैन वितरणों के तहत अज्ञात फलनों को प्रभावी ढंग से सीखती है, जिससे शून्य के करीब पूर्वानुमान त्रुटि प्राप्त होती है और पोटेंशियल एनर्जी सरफेस मॉडलिंग और ड्रग डिस्कवरी जैसे अनुप्रयोगों में मौजूदा दृष्टिकोणों से बेहतर प्रदर्शन करती है।
यह शोध पत्र BCJR-QAT प्रस्तुत करता है, जो ट्रेलीस-कोडेड वेट क्वांटाइजेशन (trellis-coded weight quantization) का एक डिफरेंशिएबल रिलैक्सेशन है, जो गैर-डिफरेंशिएबल विटेर्बी आर्गमैक्स (Viterbi argmax) को तापमान-नियंत्रित BCJR सम-प्रोडक्ट एल्गोरिदम से बदल देता है, जिससे एंड-टू-एंड क्वांटाइजेशन-अवेयर ट्रेनिंग सक्षम होती है जो LLMs पर स्टेट-ऑफ-द-आर्ट PTQ फ्रंटियर से अनुभवजन्य रूप से बेहतर प्रदर्शन करती है।
यह शोध पत्र एक रैंडमाइज्ड शेपिंग थ्योरी प्रस्तुत करता है जो यह प्रदर्शित करता है कि ज़ीरोथ-ऑर्डर एडेप्टेशन, अनिसोट्रोपिक घटकों को संकुचित करते हुए आइसोट्रोपिक रिटेंशन कर्वेचर को संरक्षित करके, फर्स्ट-ऑर्डर विधियों की तुलना में फॉरगेटिंग (विस्मृति) को कम कर सकता है, जिससे RISE एल्गोरिदम का जन्म होता है जो बेहतर स्टेबिलिटी-प्लास्टिसिटी ट्रेड-ऑफ के लिए सटीक ग्रेडिएंट्स पर इस कैलिब्रेटेड शेपिंग मैकेनिज्म को लागू करता है।
यह शोध पत्र डबली स्मूथड पॉलिसी इटरेशन (DSPI) फ्रेमवर्क प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि नेचुरल पॉलिसी ग्रेडिएंट, पॉलिसी इटरेशन का एक सटीक स्मूथड और औसत रूप है, जिससे बिना किसी MDP संशोधनों या एडेप्टिव स्टेपसाइज़ की आवश्यकता के, अनरेगुलराइज्ड मामलों के लिए इसके डिस्ट्रीब्यूशन-फ्री ग्लोबल ज्योमेट्रिक कन्वर्जेंस और फाइनाइट टर्मिनेशन को सिद्ध किया जा सके।
यह शोध पत्र CAQ-ZO को प्रस्तुत करता है, जो एक ज़ीरो-ऑर्डर ऑप्टिमाइज़ेशन विधि है जो एंडपॉइंट-राउंडिंग अवशेषों (endpoint-rounding residuals) को समाप्त करने और लो-बिट मॉडल्स पर फाइन-ट्यूनिंग प्रदर्शन को बेहतर बनाने के लिए ट्रांसफ़ॉर्मड लेटेंट स्पेस में परटर्बेशन्स (perturbations) करके क्वेरी ज्योमेट्री को नॉन-यूनिफॉर्म कम्पैंडिंग क्वांटाइज़र्स के साथ संरेखित करती है।
यह शोध पत्र एक नवीन मशीन अनलर्निंग फ्रेमवर्क प्रस्तावित करता है जो पैरामीटर अपडेट से ध्यान हटाकर सटीक डेटा वितरण अनुमान (डेटा डिस्ट्रीब्यूशन इन्फरेंस) पर केंद्रित करता है, जो सैद्धांतिक रूप से गारंटी देता है और अनुभवजन्य रूप से प्रदर्शित करता है कि परिणामी मॉडल आदर्श पुन: प्रशिक्षित मॉडल के अत्यंत निकट है।
यह शोध पत्र NASH को प्रस्तुत करता है, जो एक नवीन डेटा चयन ढांचा (framework) है जो लक्ष्य उपयोगिता फलनों (target utility functions) को शापले-सूचनात्मक घटकों (Shapley-informative components) में विभाजित करता है और उच्च-गुणवत्ता वाले प्रशिक्षण उपसमुच्चयों को निरंतर और कुशलतापूर्वक चुनने के लिए उन्हें गैर-रैखिक रूप से एकत्रित करता है, जिससे मानक डेटा शापले विधियों की उन सीमाओं को दूर किया जा सके जो अक्सर यादृच्छिक चयन (random selection) से बेहतर प्रदर्शन नहीं करती हैं।
यह शोधपत्र एक दो-चरणीय डेटा-संचालित ढांचे का प्रस्ताव करता है जो नियतात्मक गतिकी (deterministic dynamics) की खोज के लिए 'फाइनाइट एक्सप्रेशन मेथड' को अवशिष्ट स्टोकेस्टिसिटी (residual stochasticity) को कैप्चर करने वाले जनरेटिव मॉडल्स के साथ जोड़ता है, जिससे टर्बुलेंट सिस्टम में गवर्निंग इक्वेशंस और उच्च-क्रम सांख्यिकीय मोमेंट्स की सटीक रिकवरी सक्षम होती है।