24308 पेपर
यह शोध पत्र प्रदर्शित करता है कि कई डोमेनों में विषम आइटम कठिनाइयों वाले विरल मूल्यांकन मैट्रिसेस (sparse evaluation matrices) में सरल औसत विफल रहता है, जबकि आइटम रिस्पॉन्स थ्योरी (IRT) मॉडल इन परिस्थितियों में भी सुदृढ़ता से वास्तविक रैंकिंग को पुनः प्राप्त कर लेते हैं।
यह शोध पत्र एडेप्टिव करेक्शन शेड्यूलिंग (adaptive correction scheduling) का परिचय देता है, जो एक अवस्था-निर्भर नीति (state-dependent policy) है जो पारंपरिक बाइनरी प्रोजेक्शन रणनीतियों की तुलना में इच्छित गतिकी को बेहतर ढंग से संरक्षित करने और लागत-सटीकता सीमा (cost-accuracy frontier) में सुधार करने के लिए जनरेटिव सैंपलिंग के दौरान बाधा प्रक्षेपण (constraint projections) के समय को अनुकूलित करती है।
यह शोध पत्र एक एक्सपर्ट-इन-द-लूप एजेंटिक वर्कफ़्लो पेश करता है जो वैज्ञानिक साहित्य से जटिल लक्षित प्रोटीन क्षरण (टारगेटेड प्रोटीन डिग्रेडेशन) डेटा के निष्कर्षण को स्वचालित करने के लिए प्रॉम्प्ट रिफाइनमेंट का लाभ उठाता है, जिससे उच्च सटीकता प्राप्त होती है और मौजूदा डेटाबेसों का महत्वपूर्ण विस्तार होता है, साथ ही उस आवश्यक प्रयोगात्मक संदर्भ को भी कैप्चर किया जाता है जो पहले मैनुअल क्यूरेशन में खो जाता था।
ADMM-Q एक नवीन, मॉड्यूलर पोस्ट-ट्रेनिंग वेट क्वांटाइजेशन एल्गोरिदम है जो अल्टरनेटिंग डायरेक्शन मेथड ऑफ मल्टीप्लायर्स के एक कॉम्बिनेटोरियल वेरिएंट पर आधारित है, जो क्वांटाइजेशन बाधाओं को लागू करते हुए लेयर-वाइज रिकंस्ट्रक्शन एरर को न्यूनतम करके आक्रामक सब-4-बिट क्वांटाइजेशन स्तरों पर लार्ज लैंग्वेज मॉडल्स की उपयोगिता में महत्वपूर्ण सुधार करता है।
PIVOT एक स्व-पर्यवेक्षित (self-supervised) फ्रेमवर्क है जो योजना (planning) और निष्पादन (execution) के बीच के अंतर को पाटने के लिए योजना, निरीक्षण, विकास और सत्यापन की चार-चरणीय प्रक्रिया के माध्यम से उम्मीदवार प्रक्षेप पथों (candidate trajectories) को पुनरावृत्ति से परिष्कृत करता है, जिससे काफी कम कम्प्यूटेशनल लागत के साथ अत्याधुनिक प्रदर्शन प्राप्त होता है।
LiBaGS एक हल्का, जनरेटर-अज्ञेय (generator-agnostic) तरीका है जो सीमा निकटता (boundary proximity), अनिश्चितता और घनत्व के आधार पर नमूनों को स्कोर करके सिंथेटिक डेटा चयन को अनुकूलित करता है, जबकि अनावश्यक या अवास्तविक डेटा के बिना डाउनस्ट्रीम कार्य सटीकता में सुधार करने के लिए एक बाउंड्री-गैप एलोकेशन नियम और मार्जिनल-वैल्यू स्टॉपिंग मानदंड का उपयोग करता है।
यह शोध पत्र फ्रॉड और एएमएल (AML) अनुपालन के लिए विशेष रूप से तैयार किया गया एक वर्कलोड-अवेयर एलएलएमओप्स (LLMOps) स्टैक प्रस्तुत करता है जो ओपन-वेट मॉडल्स, पेज्डअटेंशन (PagedAttention) और प्रीफिक्स कैशिंग (prefix caching) जैसे उन्नत सर्विंग अनुकूलनों और कठोर गुणवत्ता गेटिंग का लाभ उठाता है ताकि जेनेरिक एलएलएम (LLM) सर्विंग दृष्टिकोणों की तुलना में थ्रूपुट, लेटेंसी और जीपीयू (GPU) उपयोगिता में महत्वपूर्ण सुधार प्राप्त किया जा सके।
यह शोध पत्र सात कृत्रिम डेटासेट्स (synthetic datasets) में सिम्बोलिक रिग्रेशन के लिए मॉडल चयन मानदंडों का एक व्यवस्थित अनुभवजन्य तुलना प्रस्तुत करता है, जो यह प्रकट करता है कि ग्राउंड-ट्रुथ अभिव्यक्तियों की पहचान करने और टेस्ट एरर को न्यूनतम करने के लिए मिनिमम डिस्क्रिप्शन लेंथ (MDL) और बेयसियन इंफॉर्मेशन क्राइटेरियन (BIC) सबसे प्रभावी विधियाँ हैं।
यह शोध पत्र METIS को प्रस्तुत करता है, जो एक नवीन ढांचा है जो LLM सुदृढीकरण फाइन-ट्यूनिंग (Reinforcement Fine-Tuning) के लिए प्रॉम्प्ट-के-भीतर रिवॉर्ड वेरिएंस (within-prompt reward variance) का लाभ उठाकर पाठ्यक्रम निर्णय (curriculum judgment) को एक मूल मेटाकॉग्निटिव क्षमता के रूप में आंतरिक रूप से स्थापित करता है, जिससे बाहरी ह्यूरिस्टिक्स पर निर्भरता समाप्त होती है और काफी तेज़ अभिसरण (convergence) के साथ बेहतर प्रदर्शन प्राप्त होता है।
यह शोध पत्र इन्फ्लुएंस फंक्शन्स (influence functions) का एक दोहरा प्रतिनिधित्व प्रस्तुत करता है जो मॉडल के आकार के बजाय डेटासेट के आकार के साथ स्केल करता है, जो बड़े लीनियरलाइज़ेबल (linearizable) मॉडल्स पर डेटा हटाने के प्रभाव का अनुमान लगाने के लिए एक कुशल विकल्प प्रदान करता है, हालांकि इसके बदले में एक ऐसे मैट्रिक्स की आवश्यकता होती है जिसका आकार मॉडल के आउटपुट आयाम और डेटासेट के आकार के गुणनफल के साथ बढ़ता है।