22898 पेपर
यह शोध पत्र रिवॉर्ड पार्टीशन ऑप्टिमाइज़ेशन (RPO) को प्रस्तुत करता है, जो एक सरल और स्केलेबल सिंगल-ट्रैजेक्टरी प्रेफरेंस लर्निंग विधि है जो प्रॉम्प्ट-लेवल डिस्ट्रीब्यूशन के माध्यम से रिवॉर्ड्स को नॉर्मलाइज़ करके वैल्यू फंक्शन एस्टीमेशन की आवश्यकता को समाप्त करती है, जिससे यह DRO और KTO जैसे मौजूदा बेसलाइन्स की तुलना में बेहतर एलाइनमेंट, डाइवर्सिटी और स्टेबिलिटी प्राप्त करती है।
यह शोध पत्र प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स में मशीन अनलर्निंग (machine unlearning) मॉडल के आउटपुट और आंतरिक एक्टिवेशन्स दोनों में स्थायी, पता लगाने योग्य "फिंगरप्रिंट्स" छोड़ देती है, जिससे क्लासिफायर यह पहचानने में सक्षम होते हैं कि क्या किसी मॉडल में अनलर्निंग की प्रक्रिया हुई है, और यह सटीकता अप्रासंगिक इनपुट्स के साथ भी 90% से अधिक रहती है।
यह शोध पत्र प्रदर्शित करता है कि नॉलेज ग्राफ एम्बेडिंग मॉडल्स में लीनियर आउटपुट लेयर्स रैंक बॉटलनैक्स (rank bottlenecks) उत्पन्न करती हैं जो ग्राफ के आकार और कनेक्टिविटी बढ़ने के साथ अभिव्यंजना (expressivity) को सीमित करती हैं, और एक पैरामीटर-कुशल नॉन-लीनियर मिक्सचर-आधारित आउटपुट लेयर का प्रस्ताव करता है जो बड़े, घने डेटासेट्स पर प्रदर्शन में सुधार करने के लिए सैद्धांतिक और अनुभवजन्य रूप से इन सीमाओं को दूर करता है।
यह शोध पत्र सबनेटवर्क डेटा पैरेललिज्म (SDP) को प्रस्तुत करता है, जो एक वितरित प्रशिक्षण ढांचा है जो मॉडलों को संरचित सबनेटवर्कों में विभाजित करता है जिन्हें एक्टिवेशन्स (activations) को साझा किए बिना वर्कर्स के बीच प्रशिक्षित किया जाता है, जिससे विभिन्न आर्किटेक्चर और स्केल्स पर प्रदर्शन को बनाए रखते हुए या उसमें सुधार करते हुए महत्वपूर्ण मेमोरी कमी (28%-60%) प्राप्त होती है।
यह शोध पत्र RGPD का प्रस्ताव करता है, जो एक सुदृढ़ ग्राफ-आधारित भौतिकी-सूचित तंत्रिका नेटवर्क ढांचा है जो विविध औद्योगिक क्षरण प्रणालियों में शेष उपयोगी जीवन (Remaining Useful Life) और स्वास्थ्य की स्थिति (State of Health) का अनुमान लगाने में श्रेष्ठ सटीकता और सामान्यीकरण प्राप्त करने के लिए गतिशील भारण (dynamic weighting) और सॉफ्ट एक्टर-क्रिटिक सुदृढीकरण शिक्षण का उपयोग करता है।
यह शोध पत्र M-DESIGN को प्रस्तुत करता है, जो एक रिट्रीवल-ऑगमेंटेड फ्रेमवर्क है जो एक बड़े नॉलेज बेस से ऐतिहासिक एडिट-इफेक्ट साक्ष्यों को गतिशील रूप से बुनकर कुशलतापूर्वक निकट-इष्टतम सूक्ष्म-स्तरीय न्यूरल नेटवर्क संशोधनों की खोज करता है, जो खोज दक्षता और प्रदर्शन के बीच संतुलन बनाने में मौजूदा विधियों से बेहतर प्रदर्शन करता है।
यह शोध पत्र एक नवीन ढांचे को प्रस्तुत करता है जो इमेज क्लासिफिकेशन के लिए कॉन्वोल्यूशनल न्यूरल नेटवर्क्स को डायनेमिक फीचर सिलेक्शन, सबग्रिड सिलेक्शन और इम्पोर्टेंस सैंपलिंग को एक बूस्टिंग-आधारित प्रशिक्षण प्रक्रिया में एकीकृत करके उन्नत करता है, जिसके परिणामस्वरूप मैनुअल आर्किटेक्चर ट्यूनिंग की आवश्यकता को कम करते हुए सटीकता और दक्षता में सुधार होता है।
यह शोध पत्र डेटा गुणों और नियत प्रशिक्षण गतिकी (deterministic training dynamics) के कारण ग्राफ वेक्टर क्वांटाइजेशन में कोडबुक कोलैप्स को एक महत्वपूर्ण बाधा के रूप में पहचानता है, और RGVQ प्रस्तावित करता है, जो एक नवीन ढांचा है जो कोडबुक उपयोगिता को बढ़ाने और डाउनस्ट्रीम प्रदर्शन में सुधार करने के लिए ग्राफ टोपोलॉजी और सॉफ्ट असाइनमेंट का स्पष्ट नियमितीकरण (explicit regularization) के रूप में लाभ उठाता है।
यह शोध-पत्र तर्क देता है कि एल्गोरिद्मिक निष्पक्षता अनुसंधान को केवल संवेदनशील विशेषताओं पर ध्यान केंद्रित करने से आगे बढ़कर सामाजिक निर्धारकों के माध्यम से संरचनात्मक अन्याय को मापने की ओर बढ़ना चाहिए, जो यह प्रदर्शित करता है कि वर्तमान शमन रणनीतियाँ अक्सर व्यवस्थित असमानताओं को संबोधित करने में विफल रहती हैं और वास्तव में उन्हें बढ़ा भी सकती हैं।
यह शोध पत्र एक ओरकल-कुशल (oracle-efficient), निकट-इष्टतम (near-optimal) एल्गोरिदम प्रस्तुत करता है जो संदर्भ वितरण (context distribution) के ज्ञान की आवश्यकता के बिना, स्टोकेस्टिक एक्शन सेट्स वाले एडवरसेरियल लीनियर कॉन्टेक्स्टुअल बैंडिट्स के लिए रिग्रेट को बहुपद समय (polynomial time) में प्राप्त करके एक खुले प्रश्न को हल करता है।