22512 पेपर
यह शोध पत्र प्रोग्रेसिव अनमास्किंग (PUMA) को प्रस्तुत करता है, जो प्रशिक्षण के समय के मास्किंग पैटर्न को अनुमान के समय के अनमास्किंग के साथ संरेखित करके मास्कड डिफ्यूजन मॉडल प्रशिक्षण को त्वरित करता है, जिससे कंप्यूटेशनल लागत कम होती है और प्रशिक्षण-परीक्षण विसंगतियों का समाधान होता है।
यह शोध पत्र निरंतर लिप्सचिट्ज़-संरचित (Lipschitz-structured) एक्शन स्पेस पर विकेंद्रीकृत मल्टी-प्लेयर स्टोकेस्टिक बैंडिट्स के लिए एक संचार-मुक्त, मॉड्यूलर प्रोटोकॉल का प्रस्ताव करता है जो समन्वय को सीखने से अलग करता है, और खिलाड़ियों के लिए विशिष्ट उच्च-मूल्य वाले क्षेत्रों की पहचान करके और फिर स्वतंत्र सिंगल-प्लेयर समस्याओं को हल करके इष्टतम रिग्रेट दर प्राप्त करता है।
यह शोध पत्र इंक्रीमेंटल ट्रांसफॉर्मर न्यूरल प्रोसेस (incTNP) को प्रस्तुत करता है, जो एक ऐसा मॉडल है जो मानक गैर-कारण (non-causal) ट्रांसफॉर्मर न्यूरल प्रोसेस के भविष्य कहने वाले प्रदर्शन और अंतर्निहित बेयसियन निरंतरता (Bayesian consistency) को बनाए रखते हुए, अनुक्रमिक डेटा स्ट्रीम के लिए कुशल, रैखिक-समय वृद्धिशील अपडेट सक्षम करने के लिए कॉज़ल मास्किंग, KV कैशिंग और ऑटोरेग्रेसिव प्रशिक्षण का लाभ उठाता है।
यह शोध पत्र AI मॉडलों और डेटा कॉर्पोरा के बीच क्रॉस-कंटैमिनेशन (cross-contamination) को मॉडल करने के लिए एक द्विस्तरीय युग्मित (bilayer coupled) SIR/SIRS महामारी विज्ञान ढांचे का प्रस्ताव करता है, जो सैद्धांतिक विश्लेषण, एजेंट-आधारित सिमुलेशन और अनुभवजन्य प्रयोगों के माध्यम से यह प्रदर्शित करता है कि सिंथेटिक डेटा कंटैमिनेशन से सुपरक्रिटिकल मॉडल कोलैप्स डायनेमिक्स (supercritical model collapse dynamics) उत्पन्न होता है जहाँ डिटेक्शन-आधारित फ़िल्टरिंग सबसे प्रभावी शमन रणनीति है।
यह शोध पत्र एक स्टीरियोलॉजिकल सिद्धांत स्थापित करता है जो यह प्रदर्शित करता है कि वर्तमान LLM बेंचमार्क कम प्रभावी आयामीता (low effective dimensionality) के कारण एक विशाल संरचनात्मक अंध बिंदु (structural blind spot) से ग्रस्त हैं, जिससे रैंकिंग अस्थिर और गैर-प्रतिनिधि हो जाती है, जबकि एक उप-मॉड्यूलर एल्गोरिदम (submodular algorithm) प्रदान करता है जो कवरेज और हस्तांतरणीयता को अधिकतम करने वाला एक न्यूनतम, स्थिर मूल्यांकन उपसमुच्चय की पहचान करता है।
यह शोधपत्र Errorquake-10k प्रस्तुत करता है, जो एक व्यापक बेंचमार्क है यह प्रदर्शित करता है कि ओपन-वेट लार्ज लैंग्वेज मॉडल्स समान सटीकता स्तरों पर भी विशिष्ट हेवी-टेल्ड एरर सेवेरिटी डिस्ट्रीब्यूशन प्रदर्शित करते हैं, जो यह सिद्ध करता है कि ये सेवेरिटी प्रोफाइल्स मॉडल विश्वसनीयता के बारे में महत्वपूर्ण, गैर-अतिरेक जानकारी प्रदान करते हैं जिसे स्केलर एरर रेट कैप्चर करने में विफल रहते हैं।
यह शोध पत्र प्रदर्शित करता है कि एक चरणबद्ध भिन्नात्मक-कारकीय स्क्रीनिंग वर्कफ़्लो (staged fractional-factorial screening workflow) कड़े बजट प्रतिबंधों के भीतर उच्च-प्रभाव वाले हाइपरपैरामीटर्स की प्रभावी ढंग से पहचान करता है और आशाजनक प्रशिक्षण कॉन्फ़िगरेशन को मान्य करता है, जो अंततः हार्डवेयर-अपरिवर्तनीय रैंकिंग या सामान्य हाइपरपैरामीटर अनुकूलन श्रेष्ठता के बजाय माइक्रो-प्रीट्रेनिंग के लिए एक ब्रिज-केंद्रित अनुशंसा का समर्थन करता है।
यह शोध पत्र PyCC प्रस्तुत करता है, जो एक पायथन लाइब्रेरी है जो संरचनात्मक रूप से पहचान योग्य कंकालों (structurally identifiable skeletons) का लाभ उठाकर खोज स्थान को सीमित करने और विभिन्न समीकरण खोज प्रतिमानों (equation discovery paradigms) को एकीकृत करने के माध्यम से परिकल्पना-संचालित साधारण अवकल समीकरण (ordinary differential equation) खोज की सुविधा प्रदान करती है।
यह शोध पत्र एक डिस्टिल्ड (distilled) LLM में टेम्पोरल प्रेफरेंसेस (temporal preferences) को एनकोड करने वाले न्यूरल सबग्राफ को कॉज़ली लोकलाइज़ और कैरेक्टराइज़ करने के लिए मैकेनिस्टिक इंटरप्रिटेबिलिटी का उपयोग करता है, जो यह प्रकट करता है कि हालांकि ये मॉडल मनुष्यों की तुलना में अधिक फ्लैट और अस्थिर फ्यूचर डिस्काउंटिंग (future discounting) प्रदर्शित करते हैं, लेकिन उनके टेम्पोरल रीजनिंग को स्टीयरिंग वेक्टर्स (steering vectors) के माध्यम से स्पष्ट रूप से नियंत्रित किया जा सकता है।
OLIVE एक पैरामीटर-कुशल ऑनलाइन लर्निंग फ्रेमवर्क है जो पहनने योग्य एक्सोस्केलेटन को सेंसर-संचालित पॉलिसी ग्रेडिएंट्स के माध्यम से अपडेट किए जाने वाले लो-रैंक रेसिडुअल्स में नियंत्रण नीतियों को विघटित करके, ऑफलाइन संदर्भ प्रक्षेपवक्रों पर निर्भर किए बिना, वास्तविक समय में व्यक्तिगत उपयोगकर्ताओं और गतिशील भूभागों के अनुकूल निरंतर रूप से ढलने में सक्षम बनाता है, जिससे चाल की सुगमता, प्रयास में कमी और स्थिरता में महत्वपूर्ण सुधार होता है।