26959 पेपर
यह शोध पत्र RelFlexformer को प्रस्तुत करता है, जो कुशल 3D-Transformer मॉडलों का एक वर्ग है जो जटिलता के साथ मनमाने इंटीग्रेबल रिलेटिव पोजीशनल एनकोडिंग्स को एकीकृत करने के लिए नॉन-यूनिफॉर्म फूरियर ट्रांसफॉर्म (NU-FFT) का उपयोग करता है, जिससे स्ट्रक्चर्ड ग्रिड और पॉइंट क्लाउड जैसे अनस्ट्रक्चर्ड हेट्रोजेनियस 3D डेटा दोनों के लिए प्रभावी अटेंशन मैकेनिज्म सक्षम होता है।
यह शोध पत्र यह स्थापित करता है कि जहाँ मिश्रित-गुणवत्ता वाले डेटा के साथ स्पार्स रिकवरी (sparse recovery) के लिए सूचना-सैद्धांतिक नमूना जटिलता (information-theoretic sample complexity), उच्च और निम्न-विचरण मापों के बीच एक परिवर्तनशील "क्वालिटी की कीमत" (Price of Quality) ट्रेड-ऑफ पर निर्भर करती है, वहीं एग्नोस्टिक सेटिंग में LASSO का उपयोग करने वाली एल्गोरिद्मिक रिकवरी थ्रेशोल्ड मजबूत बनी रहती है और केवल औसत शोर स्तर (average noise level) पर निर्भर करती है।
यह शोध पत्र U2Diffine को प्रस्तुत करता है, जो एक एकीकृत डिफ्यूजन मॉडल है जो चार स्पोर्ट्स डेटासेट्स पर अत्याधुनिक विधियों से बेहतर प्रदर्शन करते हुए, स्टेट-वाइज हेटेरोसेडास्टिक अनसर्टेंटी एस्टीमेट्स और जेनरेटेड मोड्स के लिए एरर प्रोबेबिलिटी रैंकिंग प्रदान करते हुए, मल्टी-एजेंट ट्रेजेक्टरी कंप्लीशन और फोरकास्टिंग को एक साथ निष्पादित करता है।
यह शोध पत्र AURORA को प्रस्तुत करता है, जो समानांतर माइक्रो-एजेंटों का एक हल्का ढांचा (लाइटवेट फ्रेमवर्क) है, जो कंप्यूटिंग निरंतरता (कंप्यूटिंग कॉन्टीन्यूम) में ग्रे विफलताओं (ग्रे फेलियर्स) का विश्वसनीय रूप से निदान और शमन करने के लिए मुक्त-ऊर्जा सिद्धांत, कारण संबंधी do-कैलकुलस (कॉज़ल do-कैलकुलस), और एक दोहरे-गेटेड निष्पादन तंत्र का लाभ उठाता है, साथ ही सख्त अनिश्चितता-जागरूकता के माध्यम से विनाशकारी हस्तक्षेपों को समाप्त करता है।
यह शोध पत्र ग्राफ न्यूरल नेटवर्क को एक्सटेंडेड-कनेक्टिविटी फिंगरप्रिंट्स (ECFPs) पर प्री-ट्रेन करने की एक सामान्य रणनीति का प्रस्ताव और सत्यापन करता है ताकि विविध QSAR कार्यों पर उनके प्रदर्शन में महत्वपूर्ण सुधार किया जा सके, विशेष रूप से मानक बेंचमार्क पर सांख्यिकीय रूप से महत्वपूर्ण लाभ प्रदर्शित करते हुए, जबकि अत्यधिक विषम या जटिल आउट-ऑफ-डिस्ट्रीब्यूशन परिदृश्यों में सीमाओं को भी नोट करता है।
यह शोध पत्र "कर्नेल-ग्रेडिएंट ड्रिफ्टिंग" (kernel-gradient drifting) को प्रस्तुत करता है, जो एक वन-स्टेप जनरेटिव फ्रेमवर्क है जो निश्चित विस्थापन (fixed displacements) को कर्नेल-प्रेरित ग्रेडिएंट दिशाओं से बदलकर मानक ड्रिफ्टिंग मॉडलों को मनमाने कर्नेल और गैर-यूक्लिडियन स्थानों के लिए सामान्यीकृत करता है, जिससे प्रीट्रेन्ड डिफ्यूजन मॉडलों से डिस्टिलेशन की आवश्यकता के बिना विविध प्रकार के डेटा पर अत्याधुनिक प्रदर्शन प्राप्त किया जा सके।
AdaPaD एक एडेप्टिव पैरेलल डिफ्लेशन फ्रेमवर्क पेश करता है जो PEFT के लिए, जो स्व-सुधारात्मक त्रुटि अभिसरण (self-correcting error convergence) और गतिशील रैंक खोज (dynamic rank discovery) के साथ रैंक-1 घटकों को एक साथ प्रशिक्षित करता है, मौजूदा LoRA विधियों की तुलना में काफी छोटे एडेप्टर आकारों के साथ प्रतिस्पर्धी प्रदर्शन प्राप्त करता है।
यह शोधपत्र FedMITR का प्रस्ताव करता है, जो विजन ट्रांसफॉर्मर्स के लिए एक नवीन वन-शॉट फेडरेटेड लर्निंग फ्रेमवर्क है जो सिमेंटिक रूप से संरेखित सिंथेटिक डेटा उत्पन्न करने के लिए स्पार्स मॉडल इनवर्जन को टोकन रीलेबलिंग रणनीति के साथ जोड़ता है ताकि प्रेडिक्शन रोबस्टनेस को बढ़ाया जा सके, जिससे नॉन-IID सेटिंग्स के तहत बेहतर प्रदर्शन और कड़े जनरलाइजेशन बाउंड्स प्राप्त किए जा सकें।
यह शोध पत्र रीइन्फोर्स एडजॉइंट मैचिंग (RAM) को प्रस्तुत करता है, जो डिफ्यूजन और फ्लो-मैचिंग मॉडल्स के लिए एक स्केलेबल आरएल (RL) पोस्ट-ट्रेनिंग विधि है, जो एक सरल कंसिस्टेंसी लॉस (consistency loss) व्युत्पन्न करके रिवॉर्ड्स के साथ बेहतर अलाइनमेंट प्राप्त करता है जो बिना किसी महंगी एसडीई (SDE) रोलआउट्स, बैकवर्ड एडजॉइंट स्वीप्स, या रिवॉर्ड ग्रेडिएंट्स के प्रीट्रेनिंग लक्ष्यों को ठीक करता है।
यह शोध पत्र यह सिद्ध करके कि सभी गैर-वैश्विक लघुतम (non-global minimizers) अस्थिर हैं, सीमित गैर-रैखिकता (bounded nonlinearities) और वेक्टर आउटपुट वेट्स वाले वाइड शैलो न्यूरल नेटवर्क के लिए निरंतर-समय ग्रेडिएंट डिसेंट की वैश्विक अभिसरण (global convergence) को स्थापित करता है, जिससे ReLU और स्केलर-आउटपुट सिग्मॉइड नेटवर्क पर पिछले परिणामों का विस्तार मल्टी-हेड अटेंशन लेयर्स को सम्मिलित करने के लिए किया गया है।