26757 पेपर
SlimSpec ड्राफ्टर के लैंग्वेज मॉडल हेड के लिए एक लो-रैंक पैरामीट्राइजेशन पेश करता है जो आंतरिक प्रस्तुतियों (inner representations) को संकुचित करता है ताकि पूर्ण वोकैबुलरी सपोर्ट को बनाए रखते हुए और न्यूनतम पाइपलाइन समायोजन की आवश्यकता के साथ 4-5 गुणा त्वरण और मौजूदा तरीकों की तुलना में 8-9% अधिक एंड-टू-एंड स्पीडअप प्राप्त किया जा सके।
यह शोध पत्र QT-Net प्रस्तुत करता है, जो एक रोटेशनली ऑगमेंटेड ग्राफ न्यूरल नेटवर्क है जिसका मूल्यांकन SOAP डिस्क्रिप्टर्स पर आधारित एक सिद्धांतपूर्ण आउट-ऑफ-डिस्ट्रीब्यूशन प्रोटोकॉल के माध्यम से किया गया है, जो यह प्रदर्शित करता है कि इलेक्ट्रॉन पॉपुलेशन और मल्टीपोल जैसी परमाणु गुणों का अनुमान लगाना डाउनस्ट्रीम मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन में सुधार करता है और ग्राउंड-ट्रुथ डाइपोल मोमेंट्स को सटीक रूप से रिकवर करता है।
यह शोध पत्र प्री-ट्रेन्ड मॉडल्स की फाइन-ट्यूनिंग के लिए Adam से Muon पर स्विच करने के कारण होने वाले प्रदर्शन ह्रास (performance degradation) की जांच करता है, जो यह प्रदर्शित करता है कि परिणामी ऑप्टिमाइज़र मिसमैच (optimizer mismatch) सीखे गए ज्ञान को बाधित करता है और इसे LoRA जैसे तरीकों के माध्यम से अपडेट स्ट्रेंथ को सीमित करके प्रभावी ढंग से कम किया जा सकता है।
यह शोध पत्र पॉलीनोमियल ज़ोनोटोप्स और एक पॉलीनोमियल-आधारित मॉडल का उपयोग करके प्रोसेस वेरिएशन्स के तहत एनालॉग न्यूरल नेटवर्क के लिए एक औपचारिक सत्यापन दृष्टिकोण प्रस्तुत करता है, जो मोंटे कार्लो सिमुलेशन पर निर्भर हुए बिना, 99% वेरिएशन सैंपल्स को सटीक रूप से समाहित करते हुए सत्यापन समय को दिनों से घटाकर सेकंडों में महत्वपूर्ण रूप से कम कर देता है।
यह शोध पत्र ConfoundingSHAP को प्रस्तुत करता है, जो एक स्केलेबल Shapley-आधारित विधि है जो अवलोकनात्मक अध्ययनों (observational studies) में व्यक्तिगत सहचरों (covariates) के कन्फाउंडिंग प्रभाव को मापने और उसे आरोपित करने के लिए TabPFN का लाभ उठाती है, जिससे शोधकर्ताओं को व्यापक मॉडल रिफिटिंग के बिना यह पहचानने में मदद मिलती है कि कौन से चर कन्फाउंडर के रूप में कार्य करते हैं।
यह शोध पत्र हाइब्रिड हिरार्किकल SAE (HH-SAE) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो मैनिफोल्ड्स को प्रासंगिक (contextual), परमाणु (atomic), और संयोजी (compository) स्तरों में विभाजित करके उच्च-आयामी डोमेन में फीचर डेंसिटी संघर्षों को हल करता है, जिससे पर्यावरणीय प्रॉक्सी के बजाय यांत्रिक नवाचार को प्राथमिकता देकर श्रेष्ठ ज़ीरो-शॉट धोखाधड़ी का पता लगाने और उच्च-परिशुद्धता ज्ञान-निर्देशित संश्लेषण को सक्षम बनाया जा सके।
एनर्जीलेंस (EnergyLens) एक व्याख्या योग्य, बारह-पैरामीटर वाले क्लोज्ड-फॉर्म एनर्जी मॉडल को पेश करता है जिसे सिम्बोलिक रिग्रेशन के माध्यम से व्युत्पन्न किया गया है, जो न्यूनतम प्रोफाइलिंग डेटा के साथ विविध मल्टीमॉडल एलएलएम (LLM) और हार्डवेयर पर इन्फरेंस ऊर्जा की सटीक भविष्यवाणी करता है, और कॉन्फ़िगरेशन चयन तथा एक्सट्रपलेशन में मौजूदा ब्लैक-बॉक्स और विश्लेषणात्मक बेसलाइनों से बेहतर प्रदर्शन करता है।
यह शोध पत्र गैर-स्थिर (non-stationary) एफाइन PIMs के ढांचे के तहत बेयसियन संभाव्य रैखिक सॉल्वर और संभाव्य पुनरावृत्ति विधियों को एकीकृत करता है, पोस्टीरियर कोवेरिएंस गणना के साथ ऐसे सॉल्वर को स्वचालित रूप से उत्पन्न करने के लिए "एफाइन ट्रेसिंग" पेश करता है, और गॉसियन प्रक्रिया सन्निकटन के लिए एक संभाव्य मल्टीग्रिड सॉल्वर के माध्यम से इसकी प्रभावशीलता का प्रदर्शन करता है।
यह शोध पत्र प्रायर-डेटा फिटेड नेटवर्क्स का उपयोग करके कॉज़ल सेंसिटिविटी एनालिसिस के लिए एक एमोर्टाइज्ड, इन-कॉन्टेक्स्ट लर्निंग दृष्टिकोण प्रस्तुत करता है, जो एक नवीन लैग्रेंजियन स्केलरलाइजेशन ट्रेनिंग रणनीति के माध्यम से सेंसिटिविटी बाउंड्स उत्पन्न करके पारंपरिक प्रति-इंस्टेंस विधियों की कम्प्यूटेशनल अक्षमता को दूर करता है, जिससे विविध डेटासेट और क्वेरीज़ में ऑर्डर्स-ऑफ-मैग्निट्यूड तेज़ टेस्ट-टाइम परफॉरमेंस प्राप्त होती है।
यह शोध पत्र यह प्रदर्शित करके एल्गोरिद्मिक निर्णय प्रणालियों के पारेटो फ्रंटियर (Pareto frontier) को अभिलक्षित करता है कि उपयोगिता और समूह निष्पक्षता के बीच इष्टतम संतुलन सफलता की संभावनाओं पर नियत, समूह-विशिष्ट थ्रेशोल्ड नियमों के माध्यम से प्राप्त किया जाता है, जो कि विभिन्न निष्पक्षता मेट्रिक्स, उपयोगिता फलनों और एल्गोरिद्मिक प्रसंस्करण चरणों में समान रूप से लागू होता है।