22329 पेपर
यह शोध पत्र कई मॉडल परिवारों में यांत्रिक विश्लेषण के माध्यम से यह प्रदर्शित करता है कि रोटरी पोज़िशन एम्बेडिंग्स (RoPE) न तो रिट्रीवल हेड्स के निर्माण को रोकते हैं और न ही उनके कार्य को कम करते हैं, और यह पहचानता है कि लॉन्ग-कॉन्टेक्स्ट रिकॉल के लिए अटेंशन नॉर्म्स के बजाय RoPE फ्रीक्वेंसी डाइमेंशन्स ही कारण कारक हैं।
यह शोध पत्र इंट्रिन्सिक फ्लो मैचिंग (IFM) को प्रस्तुत करता है, जो जटिल प्रोजेक्टिव स्पेस पर एक नियत (deterministic) जनरेटिव मॉडलिंग ढांचा है जो यूक्लिडियन दृष्टिकोणों की ज्यामितीय सीमाओं को दूर करने के लिए फेज-अलाइन्ड टेंजेंट वेलोसिटी फील्ड्स का उपयोग करता है, और उच्च-आयामी एवं कोहेरेंस-संवेदनशील क्वांटम स्टेट बेंचमार्क पर श्रेष्ठ प्रदर्शन प्रदर्शित करता है।
यह शोध पत्र Huawei Ascend 910B1 NPUs पर OpenPangu 1B और 7B मॉडलों के लिए विभिन्न पोस्ट-ट्रेनिंग क्वांटाइजेशन विधियों का मूल्यांकन करने वाला एक अनुभवजन्य अध्ययन प्रस्तुत करता है, जो यह प्रकट करता है कि 8-बिट क्वांटाइजेशन प्रभावी रूप से लॉसलेस है जबकि 4-बिट केवल बड़े मॉडल के लिए व्यावहारिक बना हुआ है, और अल्ट्रा-लो प्रिसिजन सेटिंग्स काफी हद तक विफल रहती हैं।
यह शोध पत्र रिप्रोड्यूसिंग कर्नेल हिल्बर्ट स्पेस में नॉनपैरामीट्रिक सुपरवाइज्ड लर्निंग के लिए एक इष्टतम हॉरविट्ज़-थॉम्पसन रीवेटेड सबसैंपलिंग योजना का प्रस्ताव और विश्लेषण करता है, जो सैद्धांतिक एसिम्प्टोटिक विश्लेषण और अनुभवजन्य सत्यापन दोनों के माध्यम से सांख्यिकीय दक्षता बनाए रखते हुए कम्प्यूटेशनल लागत को कम करने की अपनी क्षमता को प्रदर्शित करता है।
यह शोध पत्र ROVER को प्रस्तुत करता है, जो एक रिवॉर्ड-फ्री प्रीट्रेनिंग विधि है जो एक सीखे हुए रिसोलवेंट वर्ल्ड मॉडल और एक वर्चुअल सिंक स्टेट के माध्यम से स्टेट-स्पेस ऑक्यूपेंसी कवरेज को अधिकतम करती है ताकि ऐसे ट्रांसफ़रेबल एक्सप्लोरेशन पॉलिसीज़ उत्पन्न किए जा सकें जो डाउनस्ट्रीम टास्क में स्पार्स रिवार्ड्स के प्रति तेजी से अनुकूलित हो सकें।
यह शोध पत्र TASER प्रस्तुत करता है, जो एक निरंतर सीखने वाला (continual learning) ढांचा है जो अत्यधिक विषम कार्य परिवेशों में कैटास्ट्रोफिक फॉरगेटिंग और क्षमता अक्षमता को संबोधित करने के लिए ऑर्थोगोनल परमाणु कौशलों (atomic skills) को गतिशील रूप से विस्तारित और रूट करता है, जिसे नए HeteroCLBench बेंचमार्क द्वारा मान्य किया गया है।
यह शोध पत्र एक खोजपूर्ण नैदानिक कार्यप्रवाह (diagnostic workflow) प्रस्तावित करता है जो मात्रात्मक और दृश्य उपकरणों को जोड़कर पारेटो फ्रंट (Pareto front) पर मल्टी-ऑब्जेक्टिव रिइन्फोर्समेंट लर्निंग नीतियों के बीच व्यवहार संबंधी विविधताओं को प्रकट करता है, जो इस सीमा को संबोधित करता है कि केवल वैल्यू वेक्टर्स अक्सर उन नीतियों के बीच अंतर करने में विफल रहते हैं जिनके प्रक्षेपवक्र (trajectories) भिन्न होते हैं।
यह शोध पत्र एक अनसुपरवाइज्ड (unsupervised) विसंगति पहचान पद्धति प्रस्तावित करता है जो एक रिज़र्वोअर कंप्यूटर के प्रशिक्षित आउटपुट वेट्स के एम्पिरिकल क्युमुलेटिव डिस्ट्रीब्यूशन फंक्शन का उपयोग सिस्टम फिंगरप्रिंट के रूप में करती है, जिससे गैररेखीय गतिशील प्रणालियों में सूक्ष्म शासन परिवर्तनों (regime changes) की पहचान करना सक्षम होता है जो शास्त्रीय मेट्रिक्स और आधुनिक डीप-लर्निंग डिटेक्टरों दोनों के लिए अदृश्य रहते हैं।
MedTS-TTT एक नवीन टेस्ट-टाइम ट्रेनिंग फ्रेमवर्क है जो मेडिकल टाइम सीरीज़ क्लासिफिकेशन के लिए गेटेड कॉन्वोल्यूशनल बैकबोन और एक सिंगल-स्टेप क्लोज्ड-लूप सेल्फ-अलाइनमेंट मैकेनिज्म का लाभ उठाता है ताकि विषय-स्तरीय वितरण बदलावों (subject-level distribution shifts) के लिए तीव्र, इटरेटिव-फ्री ऑनलाइन अनुकूलन सक्षम किया जा सके, जिससे कई EEG और ECG डेटासेट्स पर अत्याधुनिक प्रदर्शन प्राप्त होता है।
यह शोध पत्र रामानुजन प्रोपेगेशन (Ramanujan Propagation) प्रस्तुत करता है, जो एक ग्राफ रीवायरिंग रणनीति है जो गैर-ऋणात्मक प्रतिरोध वक्रता (non-negative resistance curvature) की गारंटी देने के लिए रामानुजन ग्राफों का लाभ उठाती है, जिससे ओवर-स्क्वैशिंगिंग (over-squashing) को कम किया जा सकता है और ग्राफ न्यूरल नेटवर्क में मौजूदा अत्याधुनिक तकनीकों से बेहतर प्रदर्शन किया जा सकता है।