24235 पेपर
यह शोधपत्र FLAG को प्रस्तुत करता है, जो एक डिफ्यूजन-आधारित फ्रेमवर्क है जो आवश्यक जीन-जीन और स्थानिक संरचनात्मक संबंधों को संरक्षित करके, "जीन डाइमेंशन कर्से" (Gene Dimension Curse) पर काबू पाने और H&E छवियों से स्थानिक जीन अभिव्यक्ति की सटीक भविष्यवाणी करने के लिए एक स्थानिक ग्राफ एनकोडर और जीन फाउंडेशन मॉडल संरेखण का लाभ उठाता है।
यह शोध पत्र MixCount को प्रस्तुत करता है, जो एक स्वचालित पाइपलाइन के माध्यम से निर्मित मिश्रित-वस्तु गणना (mixed-object counting) के लिए एक बड़े पैमाने का डेटासेट और बेंचमार्क है जो पिक्सेल-परफेक्ट एनोटेशन के साथ विविध छवियों को संश्लेषित करता है, और यह प्रदर्शित करता है कि इस सिंथेटिक डेटा पर प्रशिक्षण मौजूदा शोर वाले या दुर्लभ डेटासेट की सीमाओं को संबोधित करके वास्तविक दुनिया के गणना कार्यों पर अत्याधुनिक मॉडलों के प्रदर्शन में महत्वपूर्ण सुधार करता है।
यह शोध पत्र टेगर (Teger) को प्रस्तुत करता है, जो एक बैकबोन-अज्ञेय (backbone-agnostic) संरचित अनिश्चितता मॉड्यूल है जो एक लो-रैंक-प्लस-डायगोनल कोवेरिएंस हेड के भीतर एक डिस्क्रीट फॉर्मन कर्वेचर-अवेयर ग्राफ रीवायरिंग तंत्र का उपयोग करके आवर्ती मॉडलों (recurrent models) में स्थानिक-कालिक अवशिष्ट त्रुटि प्रसार (spatio-temporal residual error propagation) और ओवर-स्क्वैशिंगिंग को कम करता है, जिससे दीर्घ-अवधि संभावabilistic पूर्वानुमान प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र LMAC का प्रस्ताव करता है, जो एक नवीन फ्रेमवर्क है जो संचार प्रोटोकॉल को पुनरावृत्ति (iteratively) के माध्यम से डिजाइन और परिष्कृत करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे सहकारी मल्टी-एजेंट सिस्टम को अंतर्निहित अवस्थाओं (underlying states) को अधिक सटीक और समान रूप से पुनर्निर्मित करने में सक्षम बनाया जा सके, जिससे यह विविध बेंचमार्क पर मौजूदा बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र मल्टी-एजेंट सिस्टम के लिए एक अपोनेंट-अवेयर पॉलिसी ग्रेडिएंट विधि प्रस्तावित करता है जो लक्षित स्थिर नैश बेसिनों (target stable Nash basins) में प्रवेश करने की संभावना को बढ़ाने के लिए पीयर-लर्निंग सुधार का उपयोग करके इक्विलिब्रियम चयन को बेहतर बनाता है, जबकि स्थानीय अभिसरण गारंटी (local convergence guarantees) को बनाए रखने के लिए एक एनीलिंग रणनीति का उपयोग करता है।
यह शोध पत्र ऑप्टिमाइज़र डिज़ाइन के लिए एक सममिति-अनुकूल (symmetry-compatible) सिद्धांत प्रस्तुत करता है जो विभिन्न पैरामीटर ब्लॉक्स—जैसे कि एम्बेडिंग्स, LM हेड्स, SwiGLU MLPs, और MoE राउटर—की विशिष्ट इक्विवैरिएंस संरचनाओं (equivariance structures) के साथ ग्रेडिएंट अपडेट नियमों को संरेखित करता है, और व्यापक प्री-ट्रेनिंग प्रयोगों के माध्यम से यह प्रदर्शित करता है कि ये अनुकूलित ऑप्टिमाइज़र अंतिम वैलिडेशन लॉस और ट्रेनिंग स्थिरता में AdamW की तुलना में लगातार बेहतर प्रदर्शन करते हैं।
यह शोध पत्र रिंगमास्टर एलएमओ (Ringmaster LMO) को प्रस्तुत करता है, जो एलएमओ-आधारित अनुकूलन (LMO-based optimization) के लिए एक एसिंक्रोनस मोमेंटम विधि है जो हेट्रोजेनियस डिस्ट्रिब्यूटेड सिस्टम्स को संभालने के लिए डिले-थ्रेशोल्डिंग तकनीकों का विस्तार करता है, जो सैद्धांतिक अभिसरण गारंटी (theoretical convergence guarantees) प्रदान करता है और सिंक्रोनस एवं एसिंक्रोनस बेसलाइन्स की तुलना में सिंथेटिक और बड़े पैमाने के लैंग्वेज मॉडल प्रीट्रेनिंग कार्यों में बेहतर प्रदर्शन प्रदर्शित करता है।
यह शोध पत्र फीचर-लर्निंग न्यूरल नेटवर्क में मानक रिज रेगुलराइजेशन (ridge regularisation) की सीमाओं की पहचान करता है और एक नवीन फ्रेमवर्क प्रस्तावित करता है जो रिमानियन ज्योमेट्री (Riemannian geometry) पर आधारित है ताकि एक कैनोनिकल "जियोडेसिक रिज" (geodesic ridge) रेगुलराइज़र व्युत्पन्न किया जा सके जो कर्नेल और फीचर-लर्निंग दोनों व्यवस्थाओं में ग्रेडिएंट फ्लो के निहित प्रायोर (implicit prior) का सामान्यीकरण करता है।
यह शोध पत्र COCOCO को प्रस्तुत करता है, जो एक पोस्ट-हॉक कॉन्फॉर्मल प्रेडिक्शन फ्रेमवर्क है जो एक एकल डिडक्शन-एब्डक्शन रिवीज़न स्टेप के माध्यम से कॉन्सेप्ट और लेबल भविष्यवाणियों के बीच सामंजस्य स्थापित करके न्यूरो-सिम्बोलिक कॉन्सेप्ट-बेस्ड मॉडल्स के लिए संक्षिप्त, तार्किक रूप से सुसंगत और कवरेज-गारंटीड सेटों को संयुक्त रूप से उत्पन्न करता है।
SIREM एक स्पीच-इन्फॉर्म्ड एमआरआई रिकंस्ट्रक्शन फ्रेमवर्क है जो वोकल-ट्रैक्ट संरचनाओं की भविष्यवाणी करने के लिए सिंक्रोनाइज्ड ऑडियो को क्रॉस-मोडल प्रायर के रूप में उपयोग करता है और उन्हें अंडरसैम्पल्ड k-स्पेस डेटा के साथ फ्यूज करता है, जिससे शारीरिक विवरणों को संरक्षित करते हुए हाई-थ्रूपुट, रियल-टाइम इमेजिंग सक्षम होती है।