24235 पेपर
यह शोधपत्र InfoFlow प्रस्तुत करता है, जो एक सैद्धांतिक ढांचा है जो यह प्रदर्शित करता है कि मल्टी-लेयर ट्रांसफॉर्मर, उन संरचनात्मक तंत्रों का लाभ उठाकर कुछ रिट्रीवल कार्यों के लिए सिंगल-लेयर की तुलना में काफी अधिक कुशल सन्निकटन (approximation) प्राप्त करते हैं जो सॉफ्टमैक्स अटेंशन और युग्मित सूचना डिकोडिंग से जुड़ी घातांकीय पैरामीटर लागतों को दूर करते हैं।
यह शोध पत्र एक नई तकनीक प्रस्तुत करता है जो व्याकरणिक रूप से स्वाभाविक यूनिवर्सल एडवरसैरियल ट्रिगर्स (universal adversarial triggers) उत्पन्न करने के लिए पार्ट्स-ऑफ-स्पीच फ़िल्टरिंग और परप्लेक्सिटी-आधारित लॉस को जोड़ती है, जो सेंटीमेंट एनालिसिस सटीकता को नाटकीय रूप से कम करने में अपनी प्रभावशीलता प्रदर्शित करती है और साथ ही यह भी दिखाती है कि इन ट्रिगर्स के साथ एडवरसैरियल ट्रेनिंग मॉडल की मजबूती (robustness) में महत्वपूर्ण रूप से सुधार करती है।
यह शोध पत्र डिसेंटेंगल्ड विजुअल टोकेनाइजेशन (DiVT) का प्रस्ताव करता है, जो एक नवीन विधि है जो इमेज पैच एम्बेडिंग्स को सुसंगत सिमेंटिक इकाइयों में क्लस्टर करती है और इमेज की जटिलता के आधार पर टोकन बजट को गतिशील रूप से समायोजित करती है, जिससे मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स को काफी कम मेमोरी और लेटेंसी लागत के साथ विजुअल इनपुट्स को अधिक कुशलता से और अनुकूल रूप से प्रोसेस करने में सक्षम बनाया जा सके।
यह शोध पत्र CodeThinker को प्रस्तुत करता है, जो एक निरंतरता-संचालित सुदृढीकरण शिक्षण (reinforcement learning) ढांचा है जो स्टेपवाइज रीजनिंग-अवेयर ट्रेनिंग, डायनेमिक बीम सैंपलिंग और एक निरंतरता पुरस्कार तंत्र को शामिल करके LLM कोड तर्क क्षमता को बढ़ाता है ताकि स्पार्स रिवॉर्ड्स और रिवॉर्ड हैकिंग की चुनौतियों को दूर किया जा सके, जिससे बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है और डाउनस्ट्रीम कार्यों में सुधार होता है।
यह शोधपत्र MARR का प्रस्ताव करता है, जो लो-बिट पोस्ट-ट्रेनिंग क्वांटाइजेशन के लिए एक मॉड्यूल-एडेप्टिव रेसिडुअल रिकंस्ट्रक्शन विधि है, जो एलएलएम (LLMs) और वीआईटी (ViTs) के प्रदर्शन को महत्वपूर्ण रूप से सुधारने के लिए संचित-त्रुटि सुधार (accumulated-error correction) और हेसियन-अनुमान पूर्वाग्रह (Hessian-approximation bias) को प्रभावी ढंग से संतुलित करने हेतु मॉड्यूल-विशिष्ट स्केलिंग गुणांकों को गतिशील रूप से असाइन करने के लिए एक PID-आधारित रणनीति का उपयोग करता है।
यह शोध पत्र FedUCA प्रस्तुत करता है, जो एक फेडरेटेड लर्निंग फ्रेमवर्क है जो क्लाइंट्स को तर्कसंगत एजेंटों के रूप में मानता है और सहयोग लाभों को व्यक्तिगत उपयोगिता थ्रेशोल्ड (utility thresholds) से अधिक सुनिश्चित करके क्लाइंट रिटेंशन और वैश्विक मॉडल प्रदर्शन को अधिकतम करने के लिए उपयोगिता-प्रतिबंधित स्टोकेस्टिक एकत्रीकरण (utility-constrained stochastic aggregation) का उपयोग करता है।
यह शोध पत्र इस बात की जांच करता है कि कैसे ओवर-पैरामीटराइज्ड न्यूरल नेटवर्क शोर वाले लेबल (noisy labels) को याद करने और अंकगणितीय कार्यों पर सामान्यीकरण (generalize) करने का कार्य एक साथ करते हैं, जो यह प्रकट करता है कि यद्यपि शोर एक आंतरिक सामान्यीकरण संरचना के आउटपुट को दबा देता है, फिर भी इस संरचना को भारी लेबल शोर के तहत भी आवृत्ति-आधारित विधियों (frequency-based methods) के माध्यम से प्रभावी ढंग से पुनर्प्राप्त किया जा सकता है।
यह शोध पत्र इंटरैक्शन-ब्रेकिंग एडवरसैरियल लर्निंग (IBAL) फ्रेमवर्क का प्रस्ताव करता है, जो सूचना-सैद्धांतिक दृष्टिकोण का उपयोग करके उन हमलों को उत्पन्न करने और उनसे बचाव करने के लिए है जो एजेंटों के बीच की परस्पर क्रियाओं को बाधित करते हैं, जिससे विविध व्यवधानों और एजेंट-अनुपस्थिति परिदृश्यों के तहत मल्टी-एजेंट सुदृढीकरण शिक्षण प्रणालियों की मजबूती और समन्वय में उल्लेखनीय वृद्धि होती है।
यह शोध पत्र मल्टी-इंस्ट्रूमेंट ऑटोनॉमस डिस्कवरी (MAD) फ्रेमवर्क प्रस्तुत करता है, जो Mn-Sb-Te फेज़-चेंज मेमोरी सामग्रियों में क्रिस्टल संरचनाओं को मैप करने और प्रतिरोध को अनुकूलित करने के लिए एक को-रीजनलाइजेशन कर्नेल के माध्यम से एक्स-रे विवर्तन और विद्युत प्रतिरोध मापन से विषम डेटा को एकीकृत करता है, जिससे 25 क्लोज्ड-लूप इटरेशन के भीतर नवीन संरचनाओं की खोज में सात गुना गति प्राप्त होती है।
यह शोध पत्र एक सामान्यीकृत विचरण-न्यूनीकरण शून्य-क्रम हार्ड-थ्रेशोल्डिंग एल्गोरिदम प्रस्तावित करता है जो मौजूदा SZOHT विधि के बीच ग्रेडिएंट विचलन और ऑपरेटर विस्तारशीलता के अंतर्निहित संघर्ष को हल करता है, जिससे यादृच्छिक दिशाओं पर प्रतिबंध समाप्त हो जाते हैं और प्रतिबन्धित अनुकूलन के लिए बेहतर अभिसरण दर और व्यापक प्रयोज्यता प्राप्त होती है।