23609 पेपर
यह शोध पत्र मैग्नीट्यूड-अवेयर रैंक स्टैटिस्टिक्स (MARS) प्रस्तुत करता है, जो एक नवीन विधि है जो प्रदर्शन अंतराल के आधार पर डिस्क्रीट रैंकों को भारित करने के लिए एक सापेक्ष मार्जिन गुणांक को शामिल करके क्रिटिकल डिफरेंस आरेख (Critical Difference diagrams) को उन्नत करती है, जिससे मानक मूल्यांकनों की "मैग्निट्यूड-अंधता" (magnitude-blindness) को दूर किया जा सके और मॉडल प्रदर्शन के अंतरों में अधिक यथार्थवादी अंतर्दृष्टि प्रदान की जा सके।
यह शोध पत्र इस बात की जांच करता है कि सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) एजेंट क्रमिक प्रशिक्षण पाइपलाइनों के माध्यम से लक्ष्यों का सामान्यीकरण कैसे करते हैं, यह प्रकट करते हुए कि प्रमुख विशेषताएं और पूर्व-सीखे गए लक्ष्य आउट-ऑफ-डिस्ट्रीब्यूशन व्यवहार को आकार देते हैं, और इन व्यवहारों की भविष्यवाणी करने के लिए निम्न-आयामी गुप्त चरों के विकास पर आधारित एक व्याख्यात्मक "लेटेंट पॉलिसी ग्रेडिएंट्स" पद्धति प्रस्तुत करता है।
यह शोधपत्र स्पार्स एक्टिवेशन (sparse activations) के तहत न्यूरल स्केलिंग लॉज़ (neural scaling laws) के लिए एक मॉडल प्रस्तुत करता है जो एक नवीन बॉटलनेक (bottleneck) को प्रकट करता है जो विशिष्ट अंडर-पैरामीटराइज्ड (underparameterized) और ओवर-पैरामीटराइज्ड (overparameterized) स्केलिंग घातांकों के साथ डबल-डिसेंट (double-descent) व्यवहार का कारण बनता है, जो अंततः यह प्रदर्शित करता है कि निश्चित बजट के तहत कंप्यूट-ऑप्टिमल ट्रेनिंग, मॉडल क्षमता की तुलना में डेटासेट के आकार को बढ़ाने को प्राथमिकता देती है।
यह शोध पत्र MetaEvaluator को प्रस्तुत करता है, जो एक लागत प्रभावी, मॉडल-अज्ञेय (model-agnostic) ढांचा है जो महंगी एनोटेशन या प्रति-मॉडल पुनप्रशिक्षण की आवश्यकता के बिना, अनलेबल डेटासेट पर विविध, अनदेखे मशीन लर्निंग मॉडलों के प्रदर्शन का सटीक मूल्यांकन करने के लिए मेटा-लर्निंग का लाभ उठाता है।
यह शोध पत्र स्ट्रक्चर-गाइडेड एंटिटी रेजोल्यूशन (SGER) प्रस्तुत करता है, जो लार्ज लैंग्वेज मॉडल्स के लिए एक टू-फेज करिकुलम फाइन-ट्यूनिंग फ्रेमवर्क है, जो जटिल, बहुभाषी व्यक्तिगत नामों को मिलाने में अत्याधुनिक सटीकता प्राप्त करता है और वर्तमान में ड्रीम11 के प्लेटफॉर्म पर KYC अनुपालन के लिए बड़े पैमाने पर तैनात किया गया है।
यह शोध पत्र प्रिसैक अटेंशन लेयर (PAL) को प्रस्तुत करता है, जो एक नवीन अनुक्रम मॉडलिंग आर्किटेक्चर है जो ट्यूरिंग-पूर्णता (Turing-completeness) प्राप्त करने के लिए, ऐतिहासिक रेंज सांख्यिकी की कुशल गणना सक्षम करने के लिए, और कमजोर स्थितिगत निर्भरता वाले दीर्घकालिक एपिसोडिक मेमोरी वाले कार्यों के लिए O(n log n) अनुमान लागत प्रदान करने के लिए सॉफ्टमैक्स अटेंशन को हिस्टेरेसिस-आधारित बाइनरी रिले ऑपरेटर से बदल देता है।
DiLaDiff एक सिमेंटिक लेटेंट स्पेस, एक लेटेंट डिफ्यूजन प्रायर और कंसिस्टेंसी डिस्टिलेशन का उपयोग करने वाले एक तीन-चरणीय ढांचे को पेश करके डिफ्यूजन लैंग्वेज मॉडल्स में सैंपलिंग गुणवत्ता और थ्रूपुट के बीच के ट्रेड-ऑफ को संबोधित करता है ताकि उच्च-गुणवत्ता वाली, कुछ-चरणों वाली जनरेशन प्राप्त की जा सके जो मास्क डिफ्यूजन बेसलाइन्स से काफी बेहतर प्रदर्शन करती है।
यह शोध पत्र कम्प्यूटेशनल सोशल चॉइस थ्योरी को लागू करते हुए यह प्रदर्शित करता है कि बेंचमार्क-विशिष्ट प्रशिक्षण के माध्यम से मशीन लर्निंग लीडरबोर्ड को रिग करना (हेरफेर करना) एक NP-hard समस्या है, और साथ ही "इंस्टेंस-लेवल रोबस्टनेस" को पेश करते हुए और उसका मूल्यांकन करते हुए यह दर्शाता है कि मीन विन रेट (औसत जीत दर) मीट्रिक, अंकगणितीय माध्य, माध्यिका या पेयरवाइज मेजॉरिटी स्कोर की तुलना में हेरफेर के प्रति काफी अधिक प्रतिरोधी है।
यह शोध पत्र CopFITi को प्रस्तुत करता है, जो एक नवीन कोपुला मॉडल है जो अनियमित बहुभिन्नरूपी समय श्रृंखला (irregular multivariate time series) के लिए मार्जिनलाइजेशन-कंसिस्टेंट संभाव्य पूर्वानुमान और अत्याधुनिक घनत्व मॉडलिंग प्राप्त करने के लिए यूनिवैरिएट मार्जिनल्स के लिए नॉर्मलाइजिंग फ्लो को गाऊसी मिश्रण कोपुला (Gaussian Mixture Copula) के साथ जोड़ता है।
यह शोध पत्र केवल बाइनरी प्रक्षेपवक्र प्राथमिकताओं (binary trajectory preferences) का उपयोग करके एपिसोडिक कर्नेल-आधारित MDPs सीखने के लिए एक कठोर सैद्धांतिक ढांचा प्रस्तुत करता है, जो उच्च-संभाव्यता वाले उप-रैखिक रिग्रेट बाउंड्स (sublinear regret bounds) स्थापित करता है जो यह गारंटी देते हैं कि सीखा गया नीति (policy) इष्टतम (optimal) नीति की ओर अभिसरित होता है।