26003 पेपर
यह शोध पत्र एक सिद्धांत-आधारित ढांचे का प्रस्ताव करता है जो फिक्स्ड बेंचमार्क पर सर्वश्रेष्ठ लार्ज लैंग्वेज मॉडल की सांख्यिकीय रूप से वैध और लागत-कुशल पहचान करने में सक्षम बनाने के लिए लो-रैंक फैक्टराइजेशन प्रेडिक्शन्स के साथ मल्टी-आर्म्ड बैंडिट एल्गोरिदम को जोड़कर डबली रोबस्ट एस्टिमेटर्स का निर्माण करता है।
यह शोध पत्र उपचार प्रभाव अनुमान (treatment effect estimation) में पद्धतिगत अनुसंधान और व्यावहारिक अनुप्रयोग के बीच एक महत्वपूर्ण विच्छेद को प्रकट करता है, जो यह दर्शाता है कि काउंटरफैक्चुअल मेट्रिक्स और अर्ध-सिम्युलेटेड बेंचमार्क वास्तविक दुनिया के डेटा पर मॉडल के प्रदर्शन की विश्वसनीय रूप से भविष्यवाणी करने में विफल रहते हैं, जिससे अवलोकन योग्य मेट्रिक्स और वास्तविक-डेटा सत्यापन की ओर बदलाव का समर्थन मिलता है।
यह शोध पत्र C2LT-3D टोकेनाइज़र के माध्यम से "इंटरफ़ेस-केंद्रित जनरेटिव अवस्थाओं" (interface-centric generative states) का प्रस्ताव देता है, जो 3D प्रतिनिधित्व को निष्क्रिय स्थानिक संपीड़न (passive spatial compression) से एक ऐसी परिचालन अवस्था में स्थानांतरित करता है जो ओपन-वर्ल्ड 3D एसेट्स में सुदृढ़ संरचनात्मक तर्क और मरम्मत को सक्षम करने के लिए ज्यामिति, घटक स्वामित्व और जुड़ाव वैधता को स्पष्ट रूप से प्रदर्शित करती है।
SlimSpec ड्राफ्टर के लैंग्वेज मॉडल हेड के लिए एक लो-रैंक पैरामीट्राइजेशन पेश करता है जो आंतरिक प्रस्तुतियों (inner representations) को संकुचित करता है ताकि पूर्ण वोकैबुलरी सपोर्ट को बनाए रखते हुए और न्यूनतम पाइपलाइन समायोजन की आवश्यकता के साथ 4-5 गुणा त्वरण और मौजूदा तरीकों की तुलना में 8-9% अधिक एंड-टू-एंड स्पीडअप प्राप्त किया जा सके।
यह शोध पत्र QT-Net प्रस्तुत करता है, जो एक रोटेशनली ऑगमेंटेड ग्राफ न्यूरल नेटवर्क है जिसका मूल्यांकन SOAP डिस्क्रिप्टर्स पर आधारित एक सिद्धांतपूर्ण आउट-ऑफ-डिस्ट्रीब्यूशन प्रोटोकॉल के माध्यम से किया गया है, जो यह प्रदर्शित करता है कि इलेक्ट्रॉन पॉपुलेशन और मल्टीपोल जैसी परमाणु गुणों का अनुमान लगाना डाउनस्ट्रीम मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन में सुधार करता है और ग्राउंड-ट्रुथ डाइपोल मोमेंट्स को सटीक रूप से रिकवर करता है।
यह शोध पत्र प्री-ट्रेन्ड मॉडल्स की फाइन-ट्यूनिंग के लिए Adam से Muon पर स्विच करने के कारण होने वाले प्रदर्शन ह्रास (performance degradation) की जांच करता है, जो यह प्रदर्शित करता है कि परिणामी ऑप्टिमाइज़र मिसमैच (optimizer mismatch) सीखे गए ज्ञान को बाधित करता है और इसे LoRA जैसे तरीकों के माध्यम से अपडेट स्ट्रेंथ को सीमित करके प्रभावी ढंग से कम किया जा सकता है।
यह शोध पत्र पॉलीनोमियल ज़ोनोटोप्स और एक पॉलीनोमियल-आधारित मॉडल का उपयोग करके प्रोसेस वेरिएशन्स के तहत एनालॉग न्यूरल नेटवर्क के लिए एक औपचारिक सत्यापन दृष्टिकोण प्रस्तुत करता है, जो मोंटे कार्लो सिमुलेशन पर निर्भर हुए बिना, 99% वेरिएशन सैंपल्स को सटीक रूप से समाहित करते हुए सत्यापन समय को दिनों से घटाकर सेकंडों में महत्वपूर्ण रूप से कम कर देता है।
यह शोध पत्र ConfoundingSHAP को प्रस्तुत करता है, जो एक स्केलेबल Shapley-आधारित विधि है जो अवलोकनात्मक अध्ययनों (observational studies) में व्यक्तिगत सहचरों (covariates) के कन्फाउंडिंग प्रभाव को मापने और उसे आरोपित करने के लिए TabPFN का लाभ उठाती है, जिससे शोधकर्ताओं को व्यापक मॉडल रिफिटिंग के बिना यह पहचानने में मदद मिलती है कि कौन से चर कन्फाउंडर के रूप में कार्य करते हैं।
यह शोध पत्र हाइब्रिड हिरार्किकल SAE (HH-SAE) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो मैनिफोल्ड्स को प्रासंगिक (contextual), परमाणु (atomic), और संयोजी (compository) स्तरों में विभाजित करके उच्च-आयामी डोमेन में फीचर डेंसिटी संघर्षों को हल करता है, जिससे पर्यावरणीय प्रॉक्सी के बजाय यांत्रिक नवाचार को प्राथमिकता देकर श्रेष्ठ ज़ीरो-शॉट धोखाधड़ी का पता लगाने और उच्च-परिशुद्धता ज्ञान-निर्देशित संश्लेषण को सक्षम बनाया जा सके।
एनर्जीलेंस (EnergyLens) एक व्याख्या योग्य, बारह-पैरामीटर वाले क्लोज्ड-फॉर्म एनर्जी मॉडल को पेश करता है जिसे सिम्बोलिक रिग्रेशन के माध्यम से व्युत्पन्न किया गया है, जो न्यूनतम प्रोफाइलिंग डेटा के साथ विविध मल्टीमॉडल एलएलएम (LLM) और हार्डवेयर पर इन्फरेंस ऊर्जा की सटीक भविष्यवाणी करता है, और कॉन्फ़िगरेशन चयन तथा एक्सट्रपलेशन में मौजूदा ब्लैक-बॉक्स और विश्लेषणात्मक बेसलाइनों से बेहतर प्रदर्शन करता है।