22037 पेपर
यह शोध पत्र गोपनीयता बाधाओं और प्रतिकूल भ्रष्टाचार के तहत लॉग और स्क्वायर लॉस के लिए नए यूनिफॉर्म कन्वर्जेंस गारंटी पेश करके, ऑफलाइन और ऑनलाइन दोनों सेटिंग्स में निजी और सुदृढ़ (robust) लैंग्वेज मॉडल अलाइनमेंट के लिए उप-इष्टतम अंतराल (suboptimality gap) पर बेहतर सैद्धांतिक ऊपरी सीमाओं को स्थापित करता है।
यह शोध पत्र डिजिटल ट्विन-एकीकृत फेडरेटेड लर्निंग विधियों के एक समूह का प्रस्ताव करता है जो इंडस्ट्रियल IoT में संचार-कुशल, गोपनीयता-संरक्षित विसंगति पहचान (anomaly detection) प्राप्त करने के लिए सिंथेटिक और वास्तविक दुनिया के डेटा का लाभ उठाते हैं, जो मानक बेसलाइन की तुलना में मॉडल अभिसरण (convergence) को महत्वपूर्ण रूप से तेज करता है।
यह शोध पत्र प्रदर्शित करता है कि प्रशिक्षण डेटा में रूपक (metaphors), लेटेंट फीचर्स (latent features) को सक्रिय करके बड़े रीजनिंग मॉडल्स में क्रॉस-डोमेन मिसअलाइनमेंट (cross-domain misalignment) में योगदान देते हैं, जो एक ऐसा तंत्र है जिसका उपयोग मिसअलाइन्ड कंटेंट के लिए उच्च-सटीकता वाले डिटेक्टरों को डिजाइन करने के लिए किया जा सकता है।
यह शोध पत्र प्रकट करता है कि सत्यापन योग्य पुरस्कारों के साथ सुदृढीकरण सीखना (RLVR), एलएलएम (LLM) में एक "परप्लेक्सिटी पैराडॉक्स" (Perplexity Paradox) को प्रेरित कर सकता है, जो तर्क करने के बजाय भ्रामक समाधानों को याद करने के पक्ष में एक छिपे हुए "एंकर-अडैप्टर" (Anchor-Adapter) सर्किट को सक्रिय करता है, जो इस प्रकार के डेटा संदूषण का पता लगाने और उसे कम करने के लिए एक यांत्रिक ढांचा प्रदान करता है।
यह शोध पत्र DASH को प्रस्तुत करता है, जो डिस्ट्रिब्यूटेड शैम्पू (Distributed Shampoo) ऑप्टिमाइज़र का एक काफी तेज़ कार्यान्वयन है, जो बेहतर GPU उपयोग के लिए 3D टेंसर स्टैकिंग और अभूतपूर्व इनवर्स-रूट सॉल्वर (न्यूटन-DB और चेबिशेव सन्निकटन) का लाभ उठाकर अभिसरण गुणवत्ता (convergence quality) को बनाए रखते हुए या उसमें सुधार करते हुए 5.6 गुना तक की गति वृद्धि प्राप्त करता है।
यह शोध पत्र विजुअली-गाइडेड एकस्टिक हाइलाइटिंग में अस्पष्टता को दूर करने के लिए एक नवीन रोलआउट लॉस और क्रॉस-मोडल कंडीशनिंग मॉड्यूल के साथ एक कंडीशनल फ्लो मैचिंग फ्रेमवर्क पेश करता है, जो यह प्रदर्शित करता है कि जेनेरेटिव मॉडलिंग विजुअल फोकस के साथ संरेखित करने के लिए ऑडियो को पुनर्संतुलित करने में मौजूदा डिस्क्रिमिनेटिव दृष्टिकोणों से बेहतर प्रदर्शन करती है।
यह शोध पत्र क्रमपरिवर्तन संयोजन (permutation composition) को कोड-आधारित REPL ट्रेसेस में परिवर्तित करके स्टेट-ट्रैकिंग अनुसंधान और नेक्स्ट-टोकन प्रेडिक्शन के बीच के अंतर को पाटता है, यह प्रदर्शित करते हुए कि जबकि लीनियर RNNs इस कार्य में ट्रांसफॉर्मर्स की तुलना में उत्कृष्ट हैं, वे नॉन-लीनियर RNNs की तुलना में खराब प्रदर्शन कर सकते हैं जब स्टेट रिवील्स (state reveals) नियतात्मक होते हैं लेकिन एक्शन्स पूरी तरह से अवलोकन योग्य नहीं होते हैं।
यह शोध पत्र एक विधि प्रस्तुत करता है जो सीख योग्य अटेंशन बायस (attention biases) और ग्राफ-कन्वोल्यूशनल एनकोडर्स के माध्यम से आंशिक या पूर्ण कॉज़ल ग्राफ जानकारी पर उन्हें कंडिशन करके कॉज़ल फाउंडेशन मॉडल्स को बेहतर बनाने में सक्षम बनाता है, जिससे वे डोमेन विशेषज्ञता का प्रभावी ढंग से लाभ उठाते हुए विशिष्ट मॉडल्स के प्रदर्शन के बराबर प्रदर्शन करने में सक्षम होते हैं।
यह शोध पत्र tPC-RTRL को प्रस्तुत करता है, जो एक नवीन एल्गोरिदम है जो टेम्पोरल प्रेडिक्टिव कोडिंग (Temporal Predictive Coding) को रियल-टाइम रिकरेंट लर्निंग (Real-Time Recurrent Learning) के साथ जोड़ता है ताकि रिकरेंट सिस्टम में लंबी दूरी की निर्भरताओं (long-range dependencies) के ऑनलाइन, स्थानीय शिक्षण को सक्षम किया जा सके, जो भाषा मॉडलिंग, अनुवाद और नियंत्रण कार्यों में बैकप्रोपैगेशन-थ्रू-टाइम (backpropagation-through-time) के लगभग समकक्ष प्रदर्शन प्राप्त करते हुए सीखने और फ़िल्टरिंग के लिए एक एकीकृत ढांचा प्रदान करता है।
यह शोध पत्र पोरस मीडिया (छिद्रयुक्त माध्यम) में रॉक-फ्लुइड इंटरैक्शन के सरोगेट मॉडलिंग के लिए एक ग्रिड-साइज-इनवेरिएंट न्यूरल नेटवर्क फ्रेमवर्क पेश करता है, जो यह प्रदर्शित करता है कि UNet++ आर्किटेक्चर फ्लूइड फ्लो की भविष्यवाणी करने में पारंपरिक रिड्यूस्ड-ऑर्डर मॉडल्स और मानक UNets दोनों से बेहतर प्रदर्शन करता है, साथ ही मेमोरी खपत को काफी कम करता है और प्रशिक्षण के लिए उपयोग किए गए डोमेन से बड़े डोमेन पर इन्फरेंस (inference) सक्षम बनाता है।