22512 पेपर
यह शोध पत्र रेंज पेनलाइजेशन (range penalization) को प्रस्तुत करता है, जो फेडरेटेड लर्निंग के लिए एक नवीन नियमितीकरण तकनीक है जो पोलर क्लस्टरिंग (polar clustering) के माध्यम से सांख्यिकीय सटीकता को बढ़ाती है और क्रॉस-क्लाइंट नियमितता उत्पन्न करती है, जिसे नए गैर-एसिम्प्टोटिक (nonasymptotic) सैद्धांतिक विश्लेषण और एक कुशल अनुकूलन एल्गोरिदम द्वारा समर्थित किया गया है।
यह शोध पत्र TREAD को प्रस्तुत करता है, जो एक स्केलेबल फ्रेमवर्क है जो मौजूदा रोबोटिक्स डेटासेट को विविध सेमेंटिक सब-टास्क और भाषाई रूप से भिन्न निर्देशों के साथ पुनः लेबल करने और संवर्धित करने के लिए प्री-ट्रेन्ड विजन-लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे बिना अतिरिक्त डेटा संग्रह के, नवीन कार्यों पर रोबोट नीतियों के प्लानिंग और लैंग्वेज-कंडीशन्ड जनरलाइजेशन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र प्रदर्शित करता है कि जबकि न्यूरल नेटवर्क वेट्स और एक्टिवेशन्स में लीनियर स्ट्रक्चर्स वैश्विक, स्थिर टास्क डायरेक्शंस नहीं हैं, वे मजबूत स्थानीय लो-रैंक ज्योमेट्री प्रदर्शित करते हैं जो तेजी से विकसित होते हैं फिर भी LoRA, रैंडम सर्च और एक्टिवेशन स्टीयरिंग जैसे तरीकों के माध्यम से प्रभावी नियंत्रण सक्षम करने के लिए पर्याप्त रूप से बने रहते हैं।
यह शोध पत्र डेंसिटी फील्ड स्टेट स्पेस मॉडल्स (DF-SSM) को प्रस्तुत करता है, जो Mamba-2 को int8 सुधारों के साथ एक अत्यधिक कुशल 1-बिट मॉडल में संकुचित करने वाला एक ढांचा है, जो महत्वपूर्ण अनुमान गति (inference speedup) और न्यूनतम प्रदर्शन हानि प्राप्त करता है, साथ ही यह भी प्रकट करता है कि मॉडल का आंतरिक ज्ञान संगठन कमजोर तथ्यात्मक रिकॉल के बावजूद विशिष्ट सिंटैक्टिक, रिट्रीवल और फॉर्मेटिंग चरणों का पालन करता है।
यह शोध पत्र एक ओपन-सोर्स YOLO26x ऑब्जेक्ट डिटेक्शन मॉडल प्रस्तुत करता है जिसे 48,165 इंस्टेंस के एक क्यूरेटेड डेटासेट पर प्रशिक्षित किया गया है ताकि 31 यूके स्तनधारी, पक्षी और उपयोगिता वर्गों को सटीक रूप से पहचाना जा सके, जिससे पारिस्थितिकीविदों को जैव विविधता निगरानी के लिए वाणिज्यिक एआई प्लेटफार्मों के विकल्प के रूप में एक उच्च-प्रदर्शन, सुलभ विकल्प प्रदान किया जा सके।
यह शोध पत्र एक्सप्रेस (Express) को प्रस्तुत करता है, जो एक ऐसा टूल है जो नॉन-कॉज़ल अटेंशन एप्रोक्सिमेशन को बेहतर सैद्धांतिक गारंटियों के साथ कॉज़ल में परिवर्तित करता है और इसका एक कुशल ट्राइटन (Triton) कार्यान्वयन है, जो फ्लैश-अटेंशन 2 (FlashAttention 2) की तुलना में महत्वपूर्ण गति प्रदान करता है और लॉन्ग-कॉन्टेक्स्ट लैंग्वेज मॉडलिंग में प्रमुख संसाधन बाधाओं को दूर करता है।
यह शोध पत्र पॉपुलेशन-अवेयर फिजिक्स-इन्फॉर्म्ड न्यूरल पार्टिकल फ्लो (PA-PINPF) को प्रस्तुत करता है, जो वेग मॉडल (velocity model) में संपूर्ण कण जनसंख्या के क्रम-अपरिवर्तनीय (permutation-invariant) डीप सेट्स निरूपणों को शामिल करके बेयसियन पोस्टीरियर ट्रांसपोर्ट को बेहतर बनाता है, जिससे बिना ग्राउंड-ट्रुथ पोस्टीरियर नमूनों की आवश्यकता के वैश्विक जनसंख्या-स्तर की भौतिक विशेषताओं का लाभ उठाते हुए मानक कण-वार दृष्टिकोणों से बेहतर प्रदर्शन किया जा सके।
यह शोध पत्र Flow-DPPO का प्रस्ताव करता है, जो फ्लो मैचिंग मॉडल्स के लिए एक नवीन सुदृढीकरण शिक्षण (reinforcement learning) एल्गोरिदम है, जो उच्च रिवॉर्ड्स, स्थिर मल्टी-इपोक ट्रेनिंग और बेहतर मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन प्राप्त करने के लिए PPO के संरचनात्मक रूप से अनुपयुक्त 'रेशियो क्लिपिंग' को एक सटीक, कुशल KL डाइवर्जेंस कंस्ट्रेंट से बदल देता है।
यह शोध पत्र अवलोकन-विशिष्ट क्रमपरिवर्तन भार (permutation weights) और भार-अनिश्चितता बॉक्स (weight-uncertainty boxes) को शामिल करके गैर-विनिमेय (non-exchangeable) परिवेशों में सामान्यीकृत अनुरूप भविष्य कहनेवाला प्रणालियों (generalized conformal predictive systems) का विस्तार करता है, ताकि वितरण संबंधी बदलावों (distributional shifts) के तहत वितरण संबंधी बदलावों के तहत परिमित-नमूना या अनंत-नमूना गारंटी के साथ वैध, शिफ्ट-जागरूक भविष्य कहनेवाला बैंड प्रदान किए जा सकें।
यह शोध पत्र प्रदर्शित करता है कि सफल एमएल (ML) रणनीतियाँ अत्यधिक संकुचित करने योग्य (compressible) हैं, क्योंकि एलएलएम (LLM) संचालित अनुसंधान एजेंट केवल संक्षिप्त प्रॉम्प्ट या एक-बिट फीडबैक का उपयोग करके उच्च-प्रदर्शन वाले मॉडलों को प्रभावी ढंग से पुनरुत्पादित और खोज सकते हैं, जिससे इस परिकल्पना का समर्थन होता है कि बेंचमार्क-संचालित एमएल में ओवरफिटिंग की कमी रणनीति स्थान के निम्न-जटिलता वाले क्षेत्र में सफल रणनीतियों के होने से उत्पन्न होती है।