24235 पेपर
यह शोध पत्र यह स्थापित करता है कि लार्ज लैंग्वेज मॉडल्स में तथ्यात्मक रिकॉल (factual recall), मॉडल पैरामीटर संख्या और प्रशिक्षण डेटा में विषय की आवृत्ति के संयुक्त प्रभावों द्वारा संचालित एक पूर्वानुमेय सिग्मॉइड स्केलिंग लॉ (sigmoid scaling law) का अनुसरण करता है, जो विशिष्ट मॉडल परिवारों के भीतर प्रदर्शन भिन्नता के 94% तक की व्याख्या करता है।
PIXLRelight एक तेज़, फीड-फॉरवर्ड न्यूरल रेंडरर है जो अल्बेडो (albedo), डिफ्यूज़ शेडिंग (diffuse shading) और अवशेषों (residuals) से प्राप्त साझा इंट्रिन्सिक कंडीशनिंग के माध्यम से भौतिक रूप से आधारित रेंडरिंग और सीखी गई सिंथेसिस को जोड़कर, अत्याधुनिक, भौतिक रूप से नियंत्रणीय सिंगल-इमेज रिलाइटिंग प्राप्त करता है।
Vision-OPD एक सेल्फ-डिस्टिलेशन फ्रेमवर्क है जो मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में सूक्ष्म-स्तरीय विज़ुअल समझ को बढ़ाता है, जो एक फुल-इमेज पॉलिसी को अपने स्वयं के जनरेटेड रोलआउट्स पर क्रॉप-कंडीशन्ड टीचर के बेहतर प्रदर्शन की नकल करने के लिए प्रशिक्षित करता है, जिससे मॉडल को बिना किसी बाहरी पर्यवेक्षण या टूल्स के प्रासंगिक साक्ष्य पर ध्यान केंद्रित करने के लाभों को आत्मसात करने में सक्षम बनाया जा सके।
यह शोध पत्र URGE को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free), ग्रेडिएंट-मुक्त (gradient-free) पार्टिकल फ़िल्टर एल्गोरिदम है जो गिरसानोव चेंज ऑफ मेजर (Girsanov change of measure) के माध्यम से पाथ-वाइज इम्पोर्टेंस रीवेटिंग (path-wise importance reweighting) और आवधिक पुनर्संरचना (periodic resampling) निष्पादित करके डिफ्यूजन मॉडल जनरेशन की गुणवत्ता में सुधार करता है, जिससे मौजूदा इन्फरेंस-टाइम गाइडेंस विधियों के लिए आवश्यक बार-बार स्कोर या ग्रेडिएंट मूल्यांकन की आवश्यकता समाप्त हो जाती है।
यह शोध पत्र ESI-Bench को प्रस्तुत करता है, जो OmniGibson और स्पेलके (Spelke) के मुख्य ज्ञान प्रणालियों पर निर्मित एम्बोडीड स्थानिक बुद्धिमत्ता (embodied spatial intelligence) के लिए एक व्यापक बेंचमार्क है, जो यह प्रदर्शित करता है कि सक्रिय धारणा-क्रिया लूप (active perception-action loops) छिपी हुई स्थानिक जानकारी को उजागर करने में सक्षम बनाकर निष्क्रिय अवलोकन की तुलना में काफी बेहतर प्रदर्शन करते हैं, जबकि यह भी प्रकट करते हैं कि वर्तमान मॉडल मुख्य रूप से कमजोर धारणा के कारण नहीं, बल्कि 'एक्शन ब्लाइंडनेस' (action blindness) और मेटाकॉग्निटिव अंतराल (metacognitive gaps) के कारण विफल होते हैं।
DashAttention, -entmax का उपयोग करके परिवर्तनीय संख्या में KV ब्लॉक्स को गतिशील रूप से चुनने के लिए एक पूर्णतः विभेदनीय (differentiable) और अनुकूलन योग्य विरल पदानुक्रमित अटेंशन (sparse hierarchical attention) तंत्र पेश करता है, जो NSA और InfLLMv2 जैसी मौजूदा विधियों की तुलना में बेहतर लॉन्ग-कॉन्टेक्स्ट मॉडलिंग सटीकता और इन्फरेंस गति प्राप्त करता है।
यह शोध पत्र एपिस्टेमिक एमसीटीएस (EMCTS) प्रस्तुत करता है, जो एक ऐसी विधि है जो स्पार्स-रिवॉर्ड (sparse-reward) वातावरणों में मानक अल्फाज़ीरो/म्यूज़ीरो (AlphaZero/MuZero) दृष्टिकोणों की तुलना में सैंपल दक्षता और अन्वेषण क्षमताओं में महत्वपूर्ण सुधार करने के लिए मोंटे कार्लो ट्री सर्च (Monte Carlo Tree Search) में एपिस्टेमिक अनसर्टेन्टी (epistemic uncertainty) को एकीकृत करती है।
यह शोध पत्र एक एप्रोक्सिमेट एंड वेटेड अटैक (AWA) पद्धति का प्रस्ताव करता है जो इंटरपोलेशन का उपयोग करके मध्यवर्ती मॉडल अपडेट उत्पन्न करने और पुनर्निर्माण गुणवत्ता में उल्लेखनीय सुधार करने के लिए एक बेयसियन-अनुकूलित लेयर-वार वेटेड लॉस फंक्शन का उपयोग करके हॉरिजॉन्टल फेडरेटेड एवरेजिंग (FedAvg) पर मौजूदा डेटा रिकंस्ट्रक्शन हमलों की सीमाओं को दूर करता है।
यह शोध पत्र सबग्राफ-स्तरीय यूनिवर्सल प्रॉम्प्ट ट्यूनिंग (SUPT) प्रस्तुत करता है, जो एक बहुमुखी विधि है जो मौजूदा ग्राफ प्रॉम्प्ट ट्यूनिंग दृष्टिकोणों की संदर्भ सीमाओं को दूर करने के लिए सबग्राफ स्तर पर प्रॉम्प्ट विशेषताओं को असाइन करती है, जिससे काफी कम मापदंडों के साथ फुल-शॉट और फ्यू-शॉट दोनों परिदृश्यों में फाइन-ट्यूनिंग की तुलना में बेहतर प्रदर्शन प्राप्त होता है।
यह शोध पत्र इस बात की जांच करता है कि असंतुलित वर्गीकरण (imbalanced classification) में संतुलन विधियाँ (balancing methods) कैसे "ओब्स्क्योरिटी" (obscurity) नामक एक नए मीट्रिक को पेश करके और भविष्यवाणात्मक बहुलता (predictive multiplicity - रशोमोन प्रभाव) को बढ़ाती हैं, तथा पूर्वानुमान सटीकता और मॉडल चयन अनिश्चितता के बीच के समझौते की जिम्मेदारी से निगरानी करने के लिए एक विस्तारित प्रदर्शन-लाभ प्लॉट (performance-gain plot) का प्रस्ताव करती हैं।