20386 पेपर
यह ट्यूटोरियल पेपर बड़े पैमाने पर डीप लर्निंग में लो-रैंक संरचनाओं के उद्भव और दोहन की समीक्षा करता है, जो अनुकूलन गतिकी (ऑप्टिमाइज़ेशन डायनेमिक्स) और इमपलिसिट रेगुलराइजेशन से प्राप्त सैद्धांतिक अंतर्दृष्टि को कुशल प्रशिक्षण, फाइन-ट्यूनिंग (जैसे, LoRA) और मास्क्ड लर्निंग रणनीतियों में व्यावहारिक अनुप्रयोगों के साथ जोड़ता है।
यह शोध पत्र एक द्वि-सटीकता (bifidelity) पैरामीटर अनुमान विधि प्रस्तावित करता है जो तीव्र परिश्रमी बेयसियन अनुमान (amortized Bayesian inference) के लिए एक निम्न-सटीकता वाले सशर्त जनरेटिव मॉडल को एक अनुकूलन योग्य उच्च-सटीकता वाले अऋतिक (unconditional) जनरेटिव मॉडल के साथ जोड़ता है ताकि बार-बार होने वाले महंगे फॉरवर्ड सिमुलेशन के बिना पश्च वितरण (posterior distributions) का कुशलतापूर्वक अनुमान लगाया जा सके।
FPTQuant हल्के, फंक्शन-प्रिजर्विंग ट्रांसफॉर्म्स पेश करता है जो लार्ज लैंग्वेज मॉडल्स के कुशल स्टैटिक INT4 क्वांटाइजेशन को सक्षम करने के लिए एक्टिवेशन डिस्ट्रीब्यूशंस को नया आकार देते हैं, जिससे न्यूनतम सटीकता ह्रास और बिना किसी कस्टम कर्नेल ओवरहेड के 3.9X तक की स्टेट-ऑफ-द-आर्ट स्पीड-अप प्राप्त होती है।
यह शोध पत्र एक ओपन-सोर्स डीप लर्निंग फ्रेमवर्क प्रस्तुत करता है जो 1990 से वर्तमान तक 230 देशों के लिए विस्तृत, वार्षिक, मूल-गंतव्य प्रवासन प्रवाह अनुमानों को अनिश्चितता सीमाओं के साथ उत्पन्न करने के लिए 18 सहचरों (covariates) पर प्रशिक्षित एक रिकरेंट न्यूरल नेटवर्क का उपयोग करता है, जो सटीकता और टेम्पोरल रेजोल्यूशन दोनों में पारंपरिक तरीकों से काफी बेहतर प्रदर्शन करता है।
यह शोधपत्र L-GTA को प्रस्तुत करता है, जो एक वेरिएशनल ऑटोएन्कोडर-आधारित जनरेटिव मॉडल है जो लेटेंट टेम्पोरल रिप्रेजेंटेशन्स सीखता है और व्याख्या योग्य संवर्धित डेटा (augmented data) उत्पन्न करने के लिए इक्विवेरिएंस ऑब्जेक्टिव के साथ नियंत्रित पर्टर्बेशन्स लागू करता है, जो वास्तविक दुनिया के टाइम सीरीज़ डेटासेट्स में पूर्वानुमान सटीकता और ट्रांसफॉर्मेशन कंट्रोलैबिलिटी के मामले में अत्याधुनिक विधियों से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र WISER को प्रस्तुत करता है, जो एक नवीन और गणनात्मक रूप से कुशल एल्गोरिदम है जो बड़े भाषा मॉडल (LLM) के आउटपुट के भीतर वॉटरमार्क किए गए टेक्स्ट को सटीक रूप से स्थानीयकृत और खंडित करने के लिए एक महामारी परिवर्तन-बिंदु (epidemic change-point) ढांचे का लाभ उठाता है, जो मजबूत सैद्धांतिक गारंटी और मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्रदान करता है।
यह शोध पत्र एक स्केलेबल, इंस्ट्रक्शन-ट्यून्ड एलएलएम (LLM) पाइपलाइन प्रस्तुत करता है जो आईओटी (IoT) डिवाइस पहचान को एक लैंग्वेज मॉडलिंग कार्य के रूप में पुनर्गठित करता है, जो एक नए क्यूरेटेड, हाई-फिडेलिटी डेटासेट का लाभ उठाकर और स्पार्स मेटाडेटा एवं एडवर्सरियल मैनिपुलेशन जैसी चुनौतियों का समाधान करके 2,015 वेंडर्स में उच्च सटीकता और मजबूती प्राप्त करता है।
यह शोध पत्र क्वांटम-एन्हांस्ड जेनेरेटिव मॉडल (QEGM) प्रस्तुत करता है, जो एक हाइब्रिड क्लासिकल-क्वांटम फ्रेमवर्क है जो अत्याधुनिक क्लासिकल विधियों की तुलना में भारी-पूंछ वाले वितरणों (heavy-tailed distributions) वाली दुर्लभ घटनाओं के पूर्वानुमान और मॉडलिंग में महत्वपूर्ण सुधार करने के लिए वेरिएशनल क्वांटम सर्किट और एक टेल-अवेयर लॉस फंक्शन का लाभ उठाता है।
यह शोध पत्र एक शोर-जागरूक (noise-aware) निर्णय लेने वाले एल्गोरिदम को प्रस्तुत करता है जो डिवाइस-विशिष्ट परिवर्तनशीलता प्रोफाइल का लाभ उठाकर सिंगल-डिवाइस और रोबस्ट मल्टी-डिवाइस बेयसियन ऑप्टिमाइज़ेशन रणनीतियों के बीच गतिशील रूप से चयन करता है, जिससे उच्च-थ्रूपुट समानांतर विनिर्माण वर्कफ़्लो में पुनरुत्पादकता और संसाधन दक्षता में वृद्धि होती है।
यह शोध पत्र FDRMFL का प्रस्ताव करता है, जो एक मल्टीमॉडल फेडरेटेड रिग्रेशन फ्रेमवर्क है जो प्रेडिक्शन लॉस, म्यूचुअल इंफॉर्मेशन मैक्सिमाइजेशन, डिस्ट्रीब्यूशन अलाइनमेंट और कॉन्ट्रास्टिव लर्निंग को संयोजित करने वाले एक एकीकृत उद्देश्य के माध्यम से नॉन-IID डेटा चुनौतियों का समाधान करता है, और पारंपरिक एवं मौजूदा फेडरेटेड बेसलाइनों की तुलना में मीन स्क्वेयर्ड एरर में महत्वपूर्ण कमी प्राप्त करता है।