24235 पेपर
यह शोध पत्र न्यूरल नेटवर्क फील्ड थ्योरीज (NN-FTs) के भीतर अनुरूप रूप से अपरिवर्तनीय (conformally invariant) दोषों (defects) के निर्माण के लिए एक औपचारिकता प्रस्तुत करता है, दो खिलौना स्केलर फील्ड मॉडलों में इसके अनुप्रयोग को प्रदर्शित करता है और दो-बिंदु सहसंबंध फलनों (two-point correlation functions) में एक दोष ऑपरेटर उत्पाद विस्तार (defect operator product expansion) की NN-आधारित व्याख्या व्युत्पन्न करता है।
यह शोध पत्र यह प्रदर्शित करता है कि जबकि 2-लेयर ReLU नेटवर्क में इक्विवैरिएंस (equivariance) को लागू करना उनकी अभिव्यंजक शक्ति (expressive power) को कम कर सकता है, इस सीमा की भरपाई मॉडल के आकार को बढ़ाकर की जा सकती है, जो विरोधाभासी रूप से परिकल्पना स्थान की विमा (hypothesis space dimensionality) को कम करती है और सामान्यीकरण क्षमता (generalizability) में सुधार करती है।
LASER एक नवीन फ्रेमवर्क है जो संसाधन खपत और रनटाइम का सटीक अनुमान लगाने के लिए वैज्ञानिक संकेतन एन्कोडिंग (scientific notation encoding), बाधित डिकोडिंग (constrained decoding) और फुल-अटेंशन मैकेनिज्मों का लाभ उठाते हुए, सीरियलाइज्ड सेमी-स्ट्रक्चर्ड वर्कफ़्लो कॉन्फ़िगरेशन पर लार्ज लैंग्वेज मॉडल्स को फाइन-ट्यून करता है, जो पारंपरिक मशीन लर्निंग बेसलाइन्स और मानव विशेषज्ञों से बेहतर प्रदर्शन करता है।
यह शोध पत्र लापता प्रविष्टियों वाले उच्च-आयामी बहुविध डेटा (multimodal data) पर आंशिक न्यूनतम वर्ग (Partial Least Squares - PLS) के प्रदर्शन का विश्लेषण करता है, जो एक तीव्र चरण संक्रमण (phase transition) को प्रकट करता है जहाँ साझा गुप्त संरचनाओं की रिकवरी केवल तभी संभव हो पाती है जब सिग्नल की शक्ति डेटा प्रतिधारण प्रायिकता (data retention probability) के वर्गमूल द्वारा कम की गई एक महत्वपूर्ण सीमा से अधिक हो जाती है।
यह शोध पत्र एक्सपेक्टेड इम्प्रूवमेंट वाया ग्रेडिएंट नॉर्म्स (EI-GN) को प्रस्तुत करता है, जो एक नवीन बायेसियन ऑप्टिमाइज़ेशन एक्विज़िशन फंक्शन है जो सुधार मानदंड में प्रथम-क्रम स्थिरता स्थितियों (first-order stationarity conditions) को शामिल करके खोज दक्षता को बढ़ाता है, जिससे उन क्षेत्रों में पारंपरिक एक्सपेक्टेड इम्प्रूवमेंट की सीमाओं को दूर किया जा सके जहाँ ऑब्जेक्टिव-वैल्यू सुधार संकेत लुप्त हो जाते हैं।
यह शोधपत्र रैंडम एलोकेशन के तहत डिफरेंशियल प्राइवेट मैट्रिक्स मैकेनिज्म के लिए कुशल, नियतात्मक और अधिक सटीक गोपनीयता गारंटी प्रदान करने हेतु रेनी डाइवर्जेंस (Rényi divergence) और कंडीशनल कंपोजिशन पर आधारित एक सैंपलिंग-मुक्त प्राइवेसी अकाउंटिंग फ्रेमवर्क प्रस्तुत करता है, जो मौजूदा सैंपलिंग-आधारित दृष्टिकोणों की सीमाओं को संबोधित करता है।
यह शोध पत्र यह प्रदर्शित करता है कि रिप्रेजेंटेशन मिसडायरेक्शन (Representation Misirection), जो बड़े भाषा मॉडलों के लिए एक मशीन अनलर्निंग विधि है, न केवल विस्मरण (forgetting) प्राप्त करता है बल्कि उच्च-स्तरीय अवधारणाओं के साथ संरेखित एक लक्ष्य वेक्टर की ओर लेटेंट रिप्रेजेंटेशन्स को पुनर्निर्देशित करके नियंत्रणीय पार्श्व व्यवहारों और क्षमताओं को भी प्रेरित करता है।
यह शोध पत्र न्यूरल बैकवर्ड फ़िल्टरिंग फॉरवर्ड गाइडिंग (NBFFG) का प्रस्ताव करता है, जो एक एकीकृत वेरिएशनल ढांचा है जो एक प्रॉक्सी लीनियर-गॉसियन प्रक्रिया से प्राप्त क्लोज्ड-फॉर्म बैकवर्ड फ़िल्टर को एक न्यूरल रेसिडुअल के साथ जोड़ता है ताकि जटिल ट्री संरचनाओं पर नॉनलीनियर कंटीन्यूअस स्टोकेस्टिक प्रक्रियाओं के लिए कुशल, अनबायस्ड इन्फरेंस सक्षम किया जा सके, जैसा कि फाइलोजेनेटिक एंसेस्ट्रल रिकंस्ट्रक्शन में प्रदर्शित किया गया है।
यह शोधपत्र ExplainerPFN प्रस्तुत करता है, जो एक टैबुलर फाउंडेशन मॉडल है जो सिंथेटिक कॉज़ल डेटा से सीखकर शापली-वैल्यू (Shapley-value) शैली के फीचर एट्रिब्यूशन का ज़ीरो-शॉट, मॉडल-मुक्त अनुमान सक्षम बनाता है, जो उन पारंपरिक विधियों का एक सिद्धांतवादी विकल्प प्रदान करता है जिन्हें अंतर्निहित मॉडल या संदर्भ स्पष्टीकरणों तक पहुंच की आवश्यकता होती है।
यह शोध पत्र ऑनलाइन वेक्टर-क्वांटाइज्ड (OVQ) अटेंशन का परिचय देता है, जो एक सीक्वेंस मिक्सिंग लेयर है जो स्पार्स मेमोरी अपडेट के माध्यम से लॉन्ग-कॉन्टेक्स्ट प्रदर्शन में महत्वपूर्ण सुधार करते हुए लीनियर कंप्यूट और कांस्टेंट मेमोरी लागत प्राप्त करता है, जो मेमोरी के बहुत कम उपयोग के साथ सेल्फ-अटेंशन का एक प्रतिस्पर्धी विकल्प प्रदान करता है।