23915 पेपर
यह शोध पत्र SAGE का प्रस्ताव करता है, जो एक ऐसा फ्रेमवर्क है जो एक गाइड फंक्शन के माध्यम से रिवर्स-KL एंकर डिस्ट्रीब्यूशन को नया रूप देकर LLMs में मानक RLVR की अन्वेषण सीमाओं को दूर करता है, जिससे गणितीय तर्क कार्यों पर pass@1 और pass@k दोनों में एक साथ सुधार प्राप्त होता है।
यह शोध पत्र प्रदर्शित करता है कि प्रीट्रेन्ड ट्रांसफॉर्मर्स में अटेंशन मैकेनिज्म की अंतर्निहित स्पैरसिटी (sparsity) का लाभ उठाकर, स्पैरसिटी-गाइडेड डिस्टिलेशन के माध्यम से जटिल सेल्फ-अटेंशन लेयर्स को सरल अनुक्रमिक मॉड्यूल (sequential modules) के साथ प्रभावी ढंग से बदला जा सकता है, जिससे सटीकता के नुकसान को न्यूनतम करते हुए इन्फरेंस लागत और मॉडल के आकार को काफी कम किया जा सकता है।
FLUIDSPLAT एक सेंसर-कंडीशन्ड मॉडल पेश करता है जो व्याख्या योग्य एनिसोट्रोपिक गॉसियन प्रिमिटिव्स (anisotropic Gaussian primitives) का उपयोग करके विरल सतह सेंसरों से निरंतर प्रवाह क्षेत्रों (continuous flow fields) को पुनर्गठित करता है, जो सैद्धांतिक रूप से पूर्वाग्रह और विचलन के बीच संतुलन बनाने के लिए एक इष्टतम प्रिमिटिव संख्या स्थापित करता है और एरोडायनामिक बेंचमार्क पर अत्याधुनिक सटीकता प्राप्त करता है।
EVA-0 एक न्यूनतम ज़ीरो-ऑर्डर अनुकूलन ढांचा है जो प्रति नमूना केवल दो फॉरवर्ड पास के साथ कुशल टेस्ट-टाइम मॉडल विकास को सक्षम बनाता है, जो बैकप्रोपैगेशन के बिना मौजूदा विधियों की तुलना में बेहतर प्रदर्शन और महत्वपूर्ण गति प्राप्त करने के लिए प्रमुख अनुकूलन बाधाओं को दूर करता है।
यह शोध पत्र DarkLLM को प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो विविध विजन और मल्टीमॉडल फाउंडेशन मॉडल्स में हमलों को एकीकृत और स्केल करने के लिए, प्राकृतिक भाषा के निर्देशों को बहुमुखी, उच्च-प्रभावकारिता वाले एडवरसैरियल परटर्बेशन्स (adversarial perturbations) में अनुवादित करने हेतु 1B-पैरामीटर वाले लार्ज लैंग्वेज मॉडल का लाभ उठाता है।
MO-CAPO एक नवीन बहु-उद्देश्यीय प्रॉम्प्ट अनुकूलन एल्गोरिदम है जो कुशल बजट आवंटन के माध्यम से लार्ज लैंग्वेज मॉडल के प्रदर्शन और अनुमान लागत (इन्फरेंस कॉस्ट) को संयुक्त रूप से अनुकूलित करता है, जो लागत-दक्षता बनाए रखते हुए विविध और सुदृढ़ प्रदर्शन-लागत ट्रेड-ऑफ की खोज करके मौजूदा विधियों से बेहतर प्रदर्शन करता है।
यह शोध पत्र उनके डेटा प्रवाह को समय-निर्भर वासेरस्टीन ग्रेडिएंट फ्लो (Wasserstein gradient flows) के रूप में मॉडल करके सैद्धांतिक मॉडलों और वास्तविक मल्टी-हेडेड ट्रांसफार्मर आर्किटेक्चर के बीच के अंतर को पाटता है, जिससे सैद्धांतिक प्रमाणों और संख्यात्मक प्रयोगों के माध्यम से स्टेशनरी बिंदुओं पर अभिसरण (convergence), विक्षोभ के तहत स्थिरता और अनंत व्यवहार (asymptotic behavior) पर कठोर परिणाम स्थापित होते हैं।
ZeroUnlearn एक फ्यू-शॉट नॉलेज अनलर्निंग फ्रेमवर्क है जो मॉडल एडिटिंग के माध्यम से इस कार्य को एक सटीक ज्ञान री-मैपिंग समस्या के रूप में पुनर्गठित करता है, जो समग्र मॉडल उपयोगिता को संरक्षित करते हुए संवेदनशील जानकारी को कुशलतापूर्वक हटाने के लिए मल्टीप्लिकेटिव पैरामीटर अपडेट का उपयोग करता है।
यह शोध पत्र एक मशीन लर्निंग पाइपलाइन का प्रस्ताव करता है जो इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड से कच्चे इम्यूनोलॉजिकल डेटा को अनसुपरवाइज्ड क्लस्टरिंग के लिए वेक्टर्स में क्यूरेट और रूपांतरित करता है, जिसका उद्देश्य इनबोरन एरर्स ऑफ इम्युनिटी के नवीन पैटर्न और विशेषताओं की पहचान करना है ताकि शीघ्र निदान की सुविधा मिल सके और दुर्लभ रोगों के विश्लेषण में सुधार किया जा सके।
यह शोध पत्र LLM एजेंटों में अंतर्निहित ओवर-कॉलिंग बायस (over-calling bias) की पहचान और यांत्रिक रूप से स्पष्टीकरण करता है, जहाँ मॉडल अनावश्यक होने पर भी टूल इनवोकेशन (tool invocation) को प्राथमिकता देते हैं, और यह प्रदर्शित करता है कि कॉल प्रदर्शन से समझौता किए बिना समग्र निर्णय सटीकता में सुधार करने के लिए स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders) का उपयोग करके इस बायस को कारणत्मक रूप से सुधारा जा सकता है।