10449 पेपर
यह शोधपत्र Obj-Disco को प्रस्तुत करता है, जो एक ऐसा फ्रेमवर्क है जो जटिल LLM अलाइनमेंट रिवॉर्ड सिग्नल्स को स्पार्स (sparse), मानव-व्याख्या योग्य प्राकृतिक भाषा उद्देश्यों में स्वचालित रूप से विघटित करता है ताकि निहित प्रोत्साहनों को उजागर किया जा सके और रिवॉर्ड हैकिंग जैसे जोखिमों को कम किया जा सके।
यह शोध पत्र डिस्क्रीट स्टोकेस्टिक लोकलाइजेशन (DSL) को प्रस्तुत करता है, जो यूनिट-स्फीयर टोकन एम्बेडिंग्स वाला एक निरंतर-अवस्था ढांचा है जो एक एकल प्रशिक्षित नेटवर्क को विविध सैंपलिंग पथों—जिसमें मास्क किया गया डिफ्यूजन, रैंडम-ऑर्डर ऑटोरेग्रेशन, और हाइब्रिड निरंतर-डिस्क्रीट जनरेशन शामिल हैं—को सक्षम बनाता है, जिससे बिना किसी डिस्टिलेशन या पुन: प्रशिक्षण के मानक मास्क किए गए डिस्क्रीट डिफ्यूजन मॉडलों की तुलना में वितरण निष्ठा (distributional faithfulness) में महत्वपूर्ण सुधार होता है।
HealthCraft एक नवीन सार्वजनिक सुदृढीकरण शिक्षण (reinforcement learning) वातावरण है जिसे आपातकालीन चिकित्सा में फ्रंटियर भाषा मॉडलों का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो एक सख्त द्वि-स्तरीय सुरक्षा रूपरेखा के साथ यथार्थवादी नैदानिक वर्कफ़्लो का अनुकरण करता है, जिससे यह पता चलता है कि वर्तमान मॉडल बहु-चरणीय कार्यों पर लगभग पूर्ण प्रदर्शन पतन से जूझ रहे हैं और सुरक्षा मूल्यांकनों में बुनियादी ढांचे की निष्ठा के महत्वपूर्ण महत्व को रेखांकित करता है।
यह शोध पत्र 'फ्रॉम पैरामीटर्स टू डेटा' (P2D) का प्रस्ताव करता है, जो एक एकीकृत ढांचा है जो डेटा चयन और पैरामीटर-कुशल फाइन-ट्यूनिंग को एक साथ निर्देशित करने के लिए टास्क-सेंसिटिव अटेंशन हेड्स का लाभ उठाता है, जिससे पैरामीटर अपडेट को उच्च-एफिनिटी डेटा उपसमूहों के साथ सिंक्रोनाइज़ करके महत्वपूर्ण प्रदर्शन लाभ और 7.0x की गति वृद्धि प्राप्त होती है।
यह शोध पत्र फ्लैट-पैक बेंच (Flat-Pack Bench) का परिचय देता है, जो फर्नीचर असेंबली कार्यों के माध्यम से लार्ज विजन-लैंग्वेज मॉडल्स की सूक्ष्म स्थानिक-कालिक तर्क क्षमताओं का मूल्यांकन करने के लिए डिज़ाइन किया गया एक नया बेंचमार्क है, जो यह प्रकट करता है कि वर्तमान अत्याधुनिक मॉडल टेम्पोरल ऑर्डरिंग (क्रमबद्धता), स्टेट लोकलाइजेशन (अवस्था स्थानीयकरण), पार्ट मेटिंग (पुर्जों के मिलान) और ट्रैकिंग में काफी संघर्ष करते हैं।
EntmaxKV एक सपोर्ट-अवेयर स्पार्स डिकोडिंग फ्रेमवर्क है जो इन्फरेंस से पहले KV कैश पेजों को चुनिंदा रूप से लोड करने के लिए -entmax अटेंशन की सटीक स्पर्सिटी का लाभ उठाता है, जिससे मेमोरी ट्रैफिक काफी कम हो जाता है और फुल-कैश बेसलाइन्स के समान सटीकता बनाए रखते हुए लॉन्ग-कॉन्टेक्स्ट जनरेशन में पर्याप्त स्पीडअप प्राप्त होता है।
यह शोध पत्र तर्क देता है कि एआई टेक्स्ट डिटेक्टर एक अलग एआई-बनाम-मानव सीमा सीखने के बजाय मुख्य रूप से कच्चे एनकोडर्स (raw encoders) में अंतर्निहित एक पूर्व-प्रशिक्षित विशिष्टता अक्ष (pretrained typicality axis) को बढ़ाते हैं, जो एक ऐसा तंत्र है जो गैर-नेटिव लेखन पर उनकी विफलता, सरल हस्तक्षेपों के प्रति उनकी संवेदनशीलता, और इस तथ्य की व्याख्या करता है कि न्यूनतम प्रोब्स (minimal probes) पूर्ण फाइन-ट्यूनिंग प्रदर्शन के बराबर हो सकते हैं।
यह शोध पत्र LLM पोस्ट-ट्रेनिंग में PPO और GRPO जैसे क्रिटिक-मुक्त सुदृढीकरण शिक्षण (reinforcement learning) विधियों की प्रभावकारिता को समझाने के लिए एक वैल्यू-ग्रेडिएंट परिकल्पना प्रस्तावित करता है, जो यह प्रदर्शित करता है कि एक्टर अपडेट्स ऑटोडिफरेंशिएशन के माध्यम से वैल्यू ग्रेडिएंट्स को अनुमानित करते हैं और एक मानदंड स्थापित करता है कि कब वैल्यू सिग्नल और रिवॉर्ड हेडरूम के आधार पर RL सबसे अधिक लाभ प्रदान करता है।
यह शोध पत्र X-Token का प्रस्ताव करता है, जो एक प्रोजेक्शन-गाइडेड क्रॉस-टोकनाइज़र नॉलेज डिस्टिलेशन फ्रेमवर्क है जो लॉजिट-आधारित डिस्टिलेशन में वोकैबुलरी असंगति और टोकन-मैचिंग सीमाओं को दूर करने के लिए स्पार्स प्रोजेक्शन मैट्रिसेस का उपयोग करता है, जिससे छात्र मॉडल विषम वोकैबुलरी वाले शिक्षकों से प्रभावी ढंग से "डार्क नॉलेज" सीख पाते हैं और अत्याधुनिक प्रदर्शन प्राप्त करते हैं।
यह शोध पत्र एक मॉडल-अज्ञेय (model-agnostic) संभाव्य एट्रिब्यूशन फ्रेमवर्क प्रस्तुत करता है जो टोकन महत्व और एंट्रॉपी को मापने के लिए LLM टोकन संभावनाओं पर बेयस नियम (Bayes' rule) का लाभ उठाता है, जिससे व्याख्यात्मकता में वृद्धि होती है और विभिन्न प्रॉम्प्ट्स के माध्यम से मॉडल की स्थिरता और व्यवहार में अंतर्दृष्टि प्राप्त होती है।