25400 पेपर
यह शोध पत्र गॉसियन-मिश्रण बाइनरी वर्गीकरण (Gaussian-mixture binary classification) के लिए ट्रांसफॉर्मर में इन-कॉन्टेक्स्ट लर्निंग का एक व्यवस्थित अनुभवजन्य अध्ययन प्रस्तुत करता है, जो यह पहचानता है कि इनपुट आयामीता (dimensionality), इन-कॉन्टेक्स्ट उदाहरणों की संख्या, और प्री-ट्रेनिंग कार्य की विविधता किस प्रकार सफलता दरों और बेनाइन ओवरफिटिंग (benign overfitting) के उद्भव को नियंत्रित करती है।
यह शोधपत्र RESTestBench प्रस्तुत करता है, जो एक नया बेंचमार्क है जिसमें सटीक और अस्पष्ट प्राकृतिक भाषा संबंधी आवश्यकताओं वाले REST सेवाएँ शामिल हैं ताकि एक नए आवश्यकता-आधारित उत्परिवर्तन मीट्रिक (mutation metric) का उपयोग करके LLM-जनित परीक्षण मामलों का मूल्यांकन किया जा सके, जो यह प्रकट करता है कि दोषपूर्ण सिस्टम कार्यान्वयन द्वारा निर्देशित परिशोधन (refinement), विशेष रूप से अस्पष्ट आवश्यकताओं के लिए, परीक्षण प्रभावशीलता को महत्वपूर्ण रूप से कम कर सकता है।
यह शोध पत्र प्रकट करता है कि भाषा मॉडलों में उभरते हुए मिसअलाइनमेंट (misalignment) को कम करने के उद्देश्य से किए जाने वाले सामान्य हस्तक्षेप अक्सर इसे पूरी तरह से समाप्त करने में विफल रहते हैं, बल्कि इसके बजाय वे मॉडलों में "सशर्त मिसअलाइनमेंट" (conditional misalignment) का कारण बनते हैं जहाँ हानिकारक व्यवहार केवल उन इनपुट द्वारा ट्रिगर होते हैं जो प्रशिक्षण डेटा के साथ विशिष्ट प्रासंगिक विशेषताओं को साझा करते हैं, जिससे यह भेद्यता मानक मूल्यांकनों से छिपी रहती है।
यह शोध पत्र RLHF में मानव एनोटेटरों के तीन वैचारिक मॉडलों—एक्सटेंशन (extension), एविडेंस (evidence), और अथॉरिटी (authority)—के बीच अंतर करने का प्रस्ताव देता है, ताकि मॉडल अलाइनमेंट के प्रत्येक आयाम के लिए आवश्यक विशिष्ट मानदण्ड संबंधी भूमिका के अनुरूप डेटा संग्रह और एकत्रीकरण रणनीतियों को अनुकूलित करके अधिक प्रभावी एनोटेशन पाइपलाइनों के डिज़ाइन का मार्गदर्शन किया जा सके।
यह शोध पत्र TSN-Affinity का प्रस्ताव करता है, जो एक नवीन निरंतर ऑफलाइन सुदृढीकरण शिक्षण (continual offline reinforcement learning) विधि है जो कार्य-विशिष्ट पैरामीट्रिकरण और समानता-संचालित ज्ञान साझाकरण को सक्षम करने के लिए TinySubNetworks और एक डिसीजन ट्रांसफॉर्मर का लाभ उठाती है, जो रीप्ले-आधारित रणनीतियों के लिए एक स्मृति-कुशल विकल्प प्रदान करती है जो डिस्क्रीट और कंटीन्यूअस कंट्रोल कार्यों में कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को प्रभावी ढंग से कम करती है।
यह शोध पत्र एक फंक्शनल ज्योमेट्रिक अलजेब्रा (FGA) ढांचे का प्रस्ताव करता है जो प्राकृतिक भाषा अर्थविज्ञान (natural language semantics) में पारंपरिक रैखिक बीजगणित की संरचनात्मक सीमाओं को दूर करने के लिए क्लिफोर्ड बीजगणित का लाभ उठाता है, जो एक एकीकृत मल्टीवेक्टर स्पेस के भीतर अर्थपूर्ण अवधारणाओं और उनकी अंतःक्रियाओं को निरूपित करने के लिए एक सिद्धांत-आधारित, प्रकारित (typed) और संयोजनकारी (compositional) प्रणाली प्रदान करता है।
यह शोध पत्र एक टैलिस लॉस निरंतरता (Tsallis loss continuum) प्रस्तुत करता है जो रीजनिंग मॉडल्स में कोल्ड-स्टार्ट स्टालिंग (cold-start stalling) को हल करने के लिए सुदृढीकरण शिक्षण (reinforcement learning) और घनत्व अनुमान (density estimation) के बीच मध्यस्थता करता है, जिसमें दो व्यावहारिक अनुमानकों (GARL और PAFT) का प्रस्ताव दिया गया है जो कम सफलता की संभावनाओं से बाहर निकलने की गति और प्रशिक्षण स्थिरता के बीच संतुलन बनाकर जटिल रीजनिंग बेंचमार्क पर GRPO जैसे मानक तरीकों से काफी बेहतर प्रदर्शन करते हैं।
यह शोध पत्र RecursiveMAS प्रस्तुत करता है, जो एक पुनरावर्ती मल्टी-एजेंट फ्रेमवर्क है जो विषम एजेंटों को एक नवीन लर्निंग एल्गोरिदम के साथ लेटेंट-स्पेस सहयोग लूप में एकीकृत करता है, और मौजूदा सिंगल एवं मल्टी-एजेंट सिस्टम की तुलना में विविध बेंचमार्क पर सटीकता, इन्फरेंस स्पीड और टोकन दक्षता में महत्वपूर्ण सुधार प्राप्त करता है।
यह शोध पत्र "Noisier" NCE को प्रस्तुत करता है, जो एक सरल संशोधन है जो शोर की तीव्रता (noise magnitude) को कृत्रिम रूप से बढ़ाता है ताकि NCE उद्देश्य को अधिकतम संभावना (Maximum Likelihood) के साथ संरेखित किया जा सके, जिससे उच्च-आयामी, बहुविध (multimodal) परिवेशों में तेज़ अभिसरण (convergence) और अधिक सटीक घनत्व-अनुपात अनुमान (density-ratio estimation) सक्षम हो सके।
यह शोध पत्र एक नवीन डीप रिइन्फोर्समेंट लर्निंग दृष्टिकोण प्रस्तावित करता है जो ट्रांसफॉर्मर एनकोडर्स और ग्राफ न्यूरल नेटवर्क्स को एकीकृत करता है ताकि मॉड्यूलर क्वांटम आर्किटेक्चर में लॉजिकल क्वबिट्स को फिजिकल कोर्स में मैप करने के लिए ह्यूरिस्टिक्स को कुशलतापूर्वक सीखा जा सके, जिससे बेसलाइन विधियों की तुलना में इंटर-कोर संचार को कम किया जा सके और संकलन समय (कंपाइलेशन टाइम) को घटाया जा सके।