27989 पेपर
यह शोध पत्र PACE को प्रस्तुत करता है, जो एक दो-चरणीय ढांचा है जो कॉम्पैक्ट, शक्तिशाली एन्सेम्बल मॉडल बनाने के लिए लर्नर्स के सैद्धांतिक सृजन और छंटनी (प्रूनिंग) के बीच बारी-बारी से कार्य करता है, साथ ही मूल एन्सेम्बल के प्रति निष्ठा पर सिद्धांतपूर्ण नियंत्रण सक्षम करता है।
LatentRAG एक अभिनव ढांचा है जो एजेंटिक RAG तर्क और पुनर्प्राप्ति (retrieval) को विविक्त भाषा स्थान (discrete language space) से निरंतर लेटेंट स्पेस (continuous latent space) में स्थानांतरित करता है, जिससे एंड-टू-एंड संयुक्त अनुकूलन सक्षम होता है और स्पष्ट बहु-चरणीय विधियों के तुलनीय प्रदर्शन बनाए रखते हुए अनुमान विलंबता (inference latency) को लगभग 90% तक कम किया जाता है।
यह शोध पत्र क्लास इम्बैलेंस (वर्ग असंतुलन) के तहत सेमी-सुपरवाइज्ड लर्निंग के लिए एक मल्टीमॉडल डीप जेनरेटिव मॉडल प्रस्तावित करता है जो साझा लेटेंट वेरिएबल्स, हेवी-टेल्ड डेटा विशेषताओं को कैप्चर करने के लिए स्टूडेंट टी-डिस्ट्रीब्यूशन और आंशिक रूप से लेबल किए गए, इम्बैलेंस्ड मल्टीमॉडल डेटासेट पर मौजूदा विधियों से बेहतर प्रदर्शन करने के लिए एक -पावर डाइवर्जेंस ऑब्जेक्टिव का लाभ उठाता है।
यह शोध पत्र "मेटागेम" (metagame) को प्रस्तुत करता है, जो एक ऐसी वैचारिक रूपरेखा है जो एट्रिब्यूशन विधियों को मेटा-एट्रिब्यूशन की गणना करने के लिए सहकारी खेलों के रूप में मानकर मॉडल स्पष्टीकरणों में द्वितीय-क्रम के इंटरेक्शन प्रभावों को परिमाणित करती है, जिससे एट्रिब्यूशन का एक पदानुक्रमित अपघटन सक्षम होता है और विविध AI मॉडलों में टोकन इंटरैक्शन, क्रॉस-मोडल समानता और टेक्स्ट-टू-इमेज अवधारणाओं के बारे में नई अंतर्दृष्टि प्राप्त होती है।
यह शोध पत्र यह प्रदर्शित करता है कि जबकि SELFIES पर प्रशिक्षित अनसुपरवाइज्ड (unsupervised) ट्रांसफॉर्मर-VAE लेटेंट स्पेस सार्थक रासायनिक गुण स्टीयरिंग (chemical property steering) का समर्थन कर सकते हैं, ऐसा नियंत्रण केवल तभी मान्य होता है जब डिकोड किए गए अणुओं और कन्फाउंड-अवेयर (confound-aware) मूल्यांकन के माध्यम से कठोरता से सत्यापित किया जाए ताकि वास्तविक रासायनिक संकेतों को सीक्वेंस-लेवल आर्टिफैक्ट्स से अलग किया जा सके।
यह शोध पत्र डायनेमिक पैटर्न रीकैलिब्रेशन (DPR) को प्रस्तुत करता है, जो एक हल्का, बैकबोन-अज्ञेय (backbone-agnostic) तंत्र है जो एक "परसीव-रूट-मॉड्यूलेट" (Perceive-Route-Modulate) पाइपलाइन के माध्यम से बदलते स्थानीय टेम्पोरल पैटर्न के अनुकूल गतिशील रूप से ढलकर टाइम सीरीज़ फोरकास्टिंग को बढ़ाता है, जिससे मौजूदा डीप मॉडल्स में स्थिर, वैश्विक रूप से साझा रूपांतरणों की सीमाओं को दूर किया जा सके।
यह शोध पत्र प्रदर्शित करता है कि -बूस्टिंग अपने अंतर्निहित पूर्वाग्रह (implicit bias) के कारण शोर को विरल सेटों (sparse sets) में स्थानीयकृत करके धीमी, लघुगणकीय-दर (logarithmic-rate) वाली सौहार्दपूर्ण ओवरफिटिंग (benign overfitting) से ग्रस्त होती है, लेकिन एक ट्यूनिंग-मुक्त अर्ली स्टॉपिंग नियम प्रस्तावित करता है जो -बद्ध संकेतों के लिए लासो-समान (Lasso-like) इष्टतमता को पुनः प्राप्त करता है।
यह शोध पत्र SDS को प्रस्तुत करता है, जो एक फ्लो-आधारित एस्टिमेटर (estimator) है जो पुनरावर्ती गैररेखीय स्विचिंग डायनेमिकल सिस्टम (recurrent nonlinear switching dynamical systems) के एक व्यापक वर्ग के लिए सैद्धांतिक पहचान क्षमता (theoretical identifiability) स्थापित करता है और सटीक संभावना अनुकूलन (exact likelihood optimization) प्राप्त करता है, जिससे यह डिसेंटैंगलमेंट (disentanglement) और पूर्वानुमान सटीकता में पारंपरिक VAE-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करता है।
Pro-KLShampoo एक नवीन ऑप्टिमाइज़र है जो इसके प्रीकंडीशनर्स के देखे गए "स्पाइक-एंड-फ्लैट" आइजनवैल्यू स्ट्रक्चर का लाभ उठाकर KL-Shampoo को उन्नत करता है, जिससे एक निम्न-आयामी उप-स्थान (low-dimensional subspace) पर पूर्ण स्पेक्ट्रल ट्रैकिंग को शेष दिशाओं पर ऑर्थोगोनलाइजेशन के साथ संयोजित किया जाता है, जिससे कई LLM स्केल्स में वैलिडेशन लॉस, मेमोरी दक्षता और प्रशिक्षण गति में बेहतर प्रदर्शन प्राप्त होता है।
यह शोधपत्र SMolLM को प्रस्तुत करता है, जो एक अत्यधिक सघन 53K-पैरामीटर वाला ट्रांसफॉर्मर है जो रासायनिक बाधाओं को हल करने के लिए ब्रैकेट, रिंग और वैलेंस (valence) जैसे एक निश्चित, व्याख्या योग्य अनुक्रम को सीखकर वैध आणविक SMILES उत्पन्न करने में बड़े मॉडलों से बेहतर प्रदर्शन करता है।