24448 पेपर
यह शोध पत्र रिलेशन-कंडीशन्ड मल्टीमॉडल लर्निंग (RCML) का प्रस्ताव करता है, जो एक ऐसा फ्रेमवर्क है जो विभिन्न रिट्रीवल और क्लासिफिकेशन कार्यों में CLIP जैसे पारंपरिक रिलेशन-एग्नोस्टिक मॉडल्स से बेहतर प्रदर्शन करने के लिए नेचुरल-लैंग्वेज सिमेंटिक रिलेशंस पर आधारित कॉन्टेक्स्ट-अवेयर मल्टीमॉडल एम्बेडिंग्स जनरेट करता है।
यह शोध पत्र Gen-LRA को प्रस्तुत करता है, जो एक नवीन, गणनात्मक रूप से कुशल No-Box मेंबरशिप इन्फरेंस अटैक है जो सिंथेटिक डेटा रिलीज में गोपनीयता जोखिमों का प्रभावी ढंग से ऑडिट करने के लिए टैबुलर जनरेटिव मॉडल्स में लोकल ओवरफिटिंग का लाभ उठाता है, और सैद्धांतिक गारंटियों एवं अनुभवजन्य बेंचमार्क के माध्यम से मौजूदा विधियों पर अपनी श्रेष्ठ प्रदर्शन क्षमता प्रदर्शित करता है।
यह शोध पत्र DPD-Lasso प्रस्तुत करता है, जो एक नवीन रोबस्ट रिग्रेशन विधि है जो डेंसिटी पावर डाइवर्जेंस को लासो (Lasso) रेगुलेराइजेशन और एक कुशल पुनरावृत्ति एल्गोरिदम के साथ जोड़ती है, ताकि मैन्युफैक्चरिंग इंडस्ट्रियल इंटरनेट सिस्टम में आउटलायर-संदूषित डेटा का प्रभावी ढंग से विश्लेषण किया जा सके और एरोसोल जेट प्रिंटिंग जैसे औद्योगिक एआई अनुप्रयोगों की लचीलापन सुनिश्चित किया जा सके।
यह शोध पत्र AU-Harness प्रस्तुत करता है, जो एक ओपन-सोर्स टूलकिट है जिसे वर्तमान लार्ज ऑडियो लैंग्वेज मॉडल (LALM) मूल्यांकनों में अक्षमता और मानकीकरण की कमी को दूर करने के लिए डिज़ाइन किया गया है, जो व्यवस्थित और निष्पक्ष मॉडल मूल्यांकन के लिए एक स्केलेबल, 151% तेज़ फ्रेमवर्क और मजबूत मल्टी-टर्न डायलॉग सपोर्ट प्रदान करता है।
यह शोध पत्र इस धारणा को चुनौती देता है कि "SFT याद करता है, RL सामान्यीकरण करता है" और चेकपॉइंट-वार एवं स्पेक्ट्रल विश्लेषणों के माध्यम से यह प्रदर्शित करता है कि SFT अक्सर आउट-ऑफ-डिस्ट्रीब्यूशन विस्मृति (out-of-distribution forgetting) का कारण बनता है जिसे बाद में RL द्वारा पुनर्स्थापित किया जाता है, एक ऐसी रिकवरी प्रक्रिया जो सिंगुलर मानों (singular values) में परिवर्तनों के बजाय सिंगुलर वेक्टर्स के रोटेशन से जुड़ी है।
यह शोध पत्र "कंप्यूट एज टीचर" (CaT) का परिचय देता है, जो एक ऐसा ढांचा है जो सूडो-रेफरेंस एग्रीगेशन और स्व-प्रस्तावित रूब्रिक्स के माध्यम से इन्फरेंस-टाइम पैरेलल रोलआउट्स को रेफरेंस-फ्री सुपरविजन में परिवर्तित करता है, जिससे मॉडल मानव लेबल पर निर्भर रहे बिना सत्यापन योग्य और गैर-सत्यापन योग्य दोनों डोमेन में महत्वपूर्ण प्रदर्शन लाभ प्राप्त करने में सक्षम होते हैं।
यह शोध पत्र एक दो-चरणीय ऑर्थोगोनल लर्निंग फ्रेमवर्क प्रस्तावित करता है जो नेटवर्क पर विषम प्रत्यक्ष और स्पिलओवर कारण प्रभावों (causal effects) का मजबूती से अनुमान लगाने के लिए ग्राफ न्यूरल नेटवर्क को एक व्याख्या योग्य अटेंशन-आधारित मॉडल के साथ जोड़ता है और साथ ही कठोर अनिश्चितता मात्रा निर्धारण प्रदान करता है।
यह शोध पत्र कोन-मेज़र सैंपलिंग (cone-measure sampling) का उपयोग करते हुए -लिप्सचिट्ज़ लॉस और -नियमितीकृत FTRL के साथ ज़ीरोथ-ऑर्डर ऑनलाइन कॉनवेक्स ऑप्टिमाइज़ेशन के लिए एकीकृत उच्च-प्रायिकता रिग्रेट बाउंड्स स्थापित करता है, जो के लिए इष्टतमता सिद्ध करता है और के लिए एक अंतर्निहित अंतराल की पहचान करता है।
ग्रीनलाइटनिंगएआई (GLAI) एक नवीन आर्किटेक्चरल ब्लॉक पेश करता है जो स्थिर सक्रियण पैटर्न (activation patterns) को स्थिर करके संरचनात्मक और मात्रात्मक ज्ञान को अलग करता है ताकि केवल संख्यात्मक भार (numerical weights) को अनुकूलित किया जा सके, जिससे पारंपरिक एमएलपी (MLPs) की तुलना में सटीकता बनाए रखते हुए या उसमें सुधार करते हुए प्रशिक्षण में लगभग 40% की तेजी आती है।
यह शोध पत्र 'अडैप्टिव मेमोरी' नामक एक नवीन, मॉडल-आधारित ढांचे को प्रस्तुत करता है जो दो तलों (planes) के माध्यम से उद्देश्य फलन (objective function) का अनुमान लगाकर प्रशिक्षण के दौरान मोमेंटम गुणांक को गतिशील रूप से समायोजित करता है, और विभिन्न कार्यों में बिना किसी अतिरिक्त हाइपरपैरामीटर ट्यूनिंग के SGD और AdamW जैसे मानक ऑप्टिमाइज़र की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।