23609 पेपर
यह शोध पत्र ConvexTok को प्रस्तुत करता है, जो एक नवीन टोकनाइजेशन एल्गोरिदम है जो शब्दावली निर्माण को एक रैखिक प्रोग्राम के रूप में तैयार करता है जिसे उत्तल अनुकूलन (convex optimization) के माध्यम से हल किया जा सकता है, जिससे यह पारंपरिक लालची (greedy) विधियों की तुलना में आंतरिक मेट्रिक्स और भाषा मॉडल दक्षता में बेहतर प्रदर्शन करता है और साथ ही इसकी इष्टतमता (optimality) के निकटता पर एक प्रमाणित सीमा प्रदान करता है।
यह शोध पत्र एक नवीन फजी कनवल्शनल न्यूरल नेटवर्क (FCNN) ढांचे का प्रस्ताव करता है जो जटिल शोर वाले डेटासेट पर पारंपरिक मशीन लर्निंग एल्गोरिदम की तुलना में प्रतिस्पर्धी या बेहतर प्रदर्शन प्रदर्शित करते हुए, वर्गीकरण के लिए डीप लर्निंग का प्रभावी ढंग से लाभ उठाने हेतु सारणीबद्ध डेटा को फजी मेंबरशिप-आधारित छवियों में परिवर्तित करता है।
यह शोध पत्र यह प्रदर्शित करता है कि रैंडम फूरियर फीचर्स (random Fourier features) की संख्या का सावधानीपूर्वक चयन करके, अनुमानित मैक्सिमम मीन डिसक्रीपेंसी (Maximum Mean Discrepancy) परीक्षण मानक एमएमडी (MMD) परीक्षण के समान मिनिमैक्स पावर गारंटी प्राप्त कर सकता है, जबकि यह उप-द्विघातीय (sub-quadratic) समय जटिलता पर कार्य करता है, जो प्रभावी रूप से बड़े पैमाने पर दो-नमूना परीक्षण (two-sample testing) में कम्प्यूटेशनल-सांख्यिकीय व्यापार-बंद (computational-statistical trade-off) को हल करता है।
यह शोधपत्र TRAM का प्रस्ताव करता है, जो एक ज़ीरो-अपडेट टेस्ट-टाइम अडैप्टेशन विधि है जो लक्षित रिवॉर्ड और ऑक्यूपेंसी-आधारित जोखिम बाधाओं के आधार पर उन्हें स्कोर और मिक्स करके जोखिम-तटस्थ नीतियों के एक निश्चित पुस्तकालय को एक जोखिम-जागरूक एजेंट में गतिशील रूप से संयोजित करती है, जिससे बिना मॉडल रिट्रेनिंग की आवश्यकता के सुरक्षा और संरेखण सुनिश्चित होता है।
यह शोध पत्र SLIDE प्रस्तुत करता है, जो एक डीप लर्निंग-आधारित विधि है जो स्लाइडिंग-विंडो दृष्टिकोण के माध्यम से प्रारंभिक क्षणिक प्रभावों (initial transient effects) को छोटा करके गतिशील प्रतिक्रियाओं का अनुमान लगाकर मल्टीबॉडी सिस्टम के सिमुलेशन को महत्वपूर्ण रूप से त्वरित करती है, जिससे पूर्ण सिस्टम स्टेट जानकारी की आवश्यकता के बिना रीयल-टाइम प्रदर्शन सक्षम होता है।
यह शोध पत्र यह प्रदर्शित करता है कि यह परीक्षण करना कि क्या कोई वितरण (distribution) अधिकतम तत्वों पर समर्थित है, इसके हिस्टोग्राम को सीखने की तुलना में अधिक कुशलता से प्राप्त किया जा सकता है, जिसके लिए चेबीशेव बहुपद सन्निकटन (Chebyshev polynomial approximations) के एक नवीन विश्लेषण का लाभ उठाते हुए केवल नमूनों की आवश्यकता होती है।
यह अध्ययन प्रदर्शित करता है कि जबकि DECAF सिंथेटिक डेटा जनरेटर कम उपयोगिता के बावजूद गोपनीयता और निष्पक्षता के बीच सबसे अच्छा संतुलन प्रदान करता है, सिंथेटिक डेटा पर प्री-प्रोसेसिंग निष्पक्षता एल्गोरिदम लागू करने से वास्तविक डेटा पर उनके अनुप्रयोग की तुलना में बेहतर निष्पक्षता सुधार प्राप्त होते हैं, जो नैतिक शिक्षण विश्लेषण के लिए एक आशाजनक हाइब्रिड दृष्टिकोण का सुझाव देता है।
यह शोध पत्र संवेदनशील डेटा पर BERT-जैसे और GPT-जैसे मॉडलों को विशिष्ट बनाने के लिए गोपनीयता-संरक्षण मास्क (Masking) और कॉज़ल लैंग्वेज मॉडलिंग (Causal Language Modeling) पद्धतियों का प्रस्ताव करता है, जो साझाकरण के लिए उच्च उपयोगिता बनाए रखते हुए प्रत्यक्ष और अप्रत्यक्ष पहचानकर्ताओं के अनुकरण (memorization) को प्रभावी ढंग से रोकता है।
यह शोध पत्र टास्क-अवेयर वर्चुअल ट्रेनिंग (TAVT) का प्रस्ताव करता है, जो एक नवीन मेटा-रीइन्फोर्समेंट लर्निंग एल्गोरिदम है जो आउट-ऑफ-डिस्ट्रीब्यूशन कार्यों में सामान्यीकरण को महत्वपूर्ण रूप से बढ़ाने के लिए मेट्रिक-आधारित रिप्रजेंटेशन लर्निंग और स्टेट रेगुलराइजेशन का उपयोग करता है।
यह शोध पत्र यह प्रदर्शित करता है कि प्रीट्रेनिंग डेटा बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) में लॉस-टू-लॉस स्केलिंग लॉज़ का प्राथमिक निर्धारक है, जबकि मॉडल का आकार, आर्किटेक्चर और हाइपरपैरामीटर्स का न्यूनतम प्रभाव पड़ता है, जो यह सुझाव देता है कि डाउनस्ट्रीम प्रदर्शन को अनुकूलित करने के लिए आर्किटेक्चरल विकल्पों की तुलना में डेटा क्यूरेशन अधिक महत्वपूर्ण है।