22999 पेपर
यह अध्ययन प्रदर्शित करता है कि अनुकूलित डेटा चयन रणनीतियाँ कम आधारभूत सटीकता वाले व्यक्तियों के लिए वियरेबल स्वास्थ्य भविष्यवाणी प्रदर्शन में महत्वपूर्ण सुधार करती हैं, लेकिन मजबूत आधारभूत स्तर वाले लोगों के लिए सीमित या नकारात्मक लाभ प्रदान करती हैं, जो यह सुझाव देता है कि ऐसे तरीकों को प्रारंभिक प्रदर्शन स्तरों के आधार पर चुनिंदा रूप से तैनात किया जाना चाहिए।
यह शोधपत्र BudgetDraft प्रस्तुत करता है, जो एक मल्टी-व्यू प्रशिक्षण विधि है जो स्पार्स-KV ड्राफ्टर को स्वीकृति-जागरूक (acceptance-aware) लर्निंग से सुसज्जित करती है ताकि उच्च टोकन स्वीकृति दर बनाए रखी जा सके और बिना इन्फरेंस-टाइम मेमोरी लागत बढ़ाए मिड-टू-लॉन्ग कॉन्टेक्स्ट स्पेकुलेटिव डिकोडिंग में महत्वपूर्ण एंड-टू-एंड स्पीडअप (6.55x तक) प्राप्त किया जा सके।
RAFT एक दो-चरणीय ढांचा है जो मॉडल-अनुकूल पुनर्लेखन के माध्यम से प्रशिक्षण डेटा को परिष्कृत करके और मॉडल की मूल सामान्य क्षमताओं को संरक्षित करते हुए इन-डोमेन प्रदर्शन में सुधार करने के लिए उत्तर-सशर्त ऑन-पॉलिसी डिस्टिलेशन (answer-conditioned on-policy distillation) का उपयोग करके डोमेन-विशिष्ट फाइन-ट्यूनिंग के दौरान होने वाली कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम करता है।
यह शोध पत्र ReMax को प्रस्तुत करता है, जो एक पॉलिसी ग्रेडिएंट ऑब्जेक्टिव है जो अन्वेषण (exploration) को कई प्रयासों के अपेक्षित अधिकतम प्रतिफल (expected maximum return) के रूप में औपचारिक रूप देता है, जिससे RePPO का विकास होता है—एक PPO वेरिएंट जो इस ऑब्जेक्टिव को एक निरंतर पुन: प्रयास पैरामीटर (continuous retry parameter) के साथ अनुकूलित करके बिना किसी स्पष्ट बोनस टर्म के प्रभावी, उभरते हुए स्टोकेस्टिक अन्वेषण को प्राप्त करता है।
यह अध्ययन प्रदर्शित करता है कि यूनिफाइड मल्टी-टास्क टाइम सीरीज़ मॉडल की उन्नत टेम्पोरल मॉडलिंग क्षमताओं के बावजूद, रैंडम फॉरेस्ट्स, एक्सजीबूस्ट और सपोर्ट वेक्टर मशीन जैसे पारंपरिक मशीन लर्निंग एल्गोरिदम ग्राहक मंथन (कस्टमर चर्न) भविष्यवाणी के संबंध में सटीकता, डेटा दक्षता और कम्प्यूटेशनल लागत के मामले में लगातार इसे पीछे छोड़ देते हैं।
यह शोध पत्र "बियॉन्ड ऑग्मेंटेशन" (Beyond Augmentation) का प्रस्ताव करता है, जो एक नवीन स्कोर-गाइडेड क्लासिफिकेशन फ्रेमवर्क है, जो एक अनसुपरवाइज्ड जनरेटिव नेटवर्क का उपयोग करके पैथोलॉजिकल एनोमली स्कोर को वर्गीकरण के लिए एक प्रायर (prior) के रूप में निकालने के माध्यम से EEG-आधारित अवसाद पहचान में छोटे-नमूना दुविधा (small-sample dilemma) को दूर करता है, जिससे सिंथेटिक डेटा जनरेशन की आवश्यकता समाप्त हो जाती है और विविध चैनल कॉन्फ़िगरेशन में मजबूत प्रदर्शन प्राप्त होता है।
यह शोध पत्र पेंटबेंच (PaintBench) को प्रस्तुत करता है, जो 20 मौलिक कार्यों में सटीक दृश्य संपादन (visual editing) के मूल्यांकन के लिए एक प्रक्रियात्मक रूप से जनरेट किया गया, नियतात्मक बेंचमार्क है, जो यह प्रकट करता है कि वर्तमान मल्टीमॉडल मॉडल इन कार्यों के साथ काफी संघर्ष करते हैं और यह भी दर्शाता है कि पेंटबेंच के स्कोर लागू डेटा विज़ुअलाइज़ेशन संपादन पर प्रदर्शन के साथ दृढ़ता से सह-संबंधित हैं।
यह शोध पत्र व्यावहारिक एजेंटिक प्रणालियों के निर्माण के लिए एक सिद्धांत-आधारित ढांचे का प्रस्ताव करता है जो मॉडुलैरिटी (modularity), लागत नियंत्रण और पूर्वानुमान क्षमता को प्राथमिकता देता है, और यह प्रदर्शित करता है कि निश्चित वर्कफ़्लो और छद्म-उपकरणों (pseudo-tools) के लिए नवीन शिक्षण विधियाँ, हाथ से निर्मित एजेंटों और गतिशील रूप से नियोजित वर्कफ़्लो दोनों से बेहतर प्रदर्शन करती हैं, जबकि गुणवत्ता और लागत के बहु-उद्देश्यीय अनुकूलन को सक्षम बनाती हैं।
यह शोध पत्र BAGEN को पेश करता है, जो बजट-जागरूकता को प्रोग्रेसिव इंटरवल एस्टिमेशन (प्रगतिशील अंतराल अनुमान) के रूप में परिभाषित करने वाला एक ढांचा है और यह प्रदर्शित करता है कि जबकि फ्रंटियर एलएलएम (LLM) एजेंट बजट ओवररन का सटीक अनुमान लगाने या चेतावनी देने में लगातार विफल रहते हैं, सुपरवाइज्ड फाइन-ट्यूनिंग और सुदृढीकरण लर्निंग (reinforcement learning) के माध्यम से समय रहते कार्रवाई करने (actionable early stops) की उनकी क्षमता में महत्वपूर्ण सुधार किया जा सकता है।
यह शोध पत्र प्रकट करता है कि आक्रामक पोस्ट-ट्रेनिंग क्वांटाइजेशन (post-training quantization) से रीजनिंग मॉडल अनावश्यक मध्यवर्ती चरणों को उत्पन्न करने और पहले प्राप्त सही उत्तरों को आउटपुट करने में विफल होने के कारण "ओवरथिंक" (overthink) करने लगते हैं, एक ऐसी समस्या जिसे विशिष्ट ओवरथिंकिंग मार्कर्स पर एक ट्रेनिंग-फ्री लॉजिट पेनल्टी (training-free logit penalty) लागू करके प्रभावी ढंग से कम किया जा सकता है ताकि सटीकता बनाए रखते हुए रीजनिंग की लंबाई को कम किया जा सके।