11152 पेपर
यह शोध पत्र "मिक्सचर ऑफ चैप्टर्स" (Mixture of Chapters) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो लर्नबल स्पार्स मेमोरी बैंक्स और चैप्टर-आधारित रूटिंग का उपयोग करके ट्रांसफॉर्मर की मेमोरी क्षमता को 262K टोकन तक स्केल करता है, जो मानक आइसो-एफएलओपी (iso-FLOP) मॉडलों की तुलना में बेहतर प्रदर्शन और कम कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) प्रदर्शित करता है।
यह शोध पत्र यह प्रदर्शित करता है कि मॉडल-निर्भर विफलता मोड के कारण केवल एंट्रॉपी-आधारित अनिश्चितता परिमाणीकरण (entropy-based uncertainty quantification) बड़े भाषा मॉडलों में सुरक्षित चयनात्मक भविष्यवाणी के लिए अपर्याप्त है, और एक 'करेक्टनेस प्रोब सिग्नल' (correctness probe signal) के साथ एक संयुक्त दृष्टिकोण प्रस्तावित करता है जो विविध बेंचमार्क और मॉडल परिवारों में जोखिम-कवरेज ट्रेड-ऑफ और अंशांकन (calibration) में महत्वपूर्ण सुधार करता है।
यह शोध पत्र पूर्ण-पाठ वैज्ञानिक लेखों से परिकल्पनाओं और सांख्यिकीय साक्ष्यों को निकालने की चुनौतियों की जांच करता, यह प्रदर्शित करते हुए कि जहाँ लक्षित संदर्भ चयन परिकल्पना निष्कर्षण में महत्वपूर्ण सुधार करता है, वहीं सांख्यिकीय साक्ष्य का निष्कर्षण केवल पुनर्प्राप्ति विफलताओं के कारण नहीं, बल्कि हाइब्रिड संख्यात्मक-पाठ्य कथनों को संभालने की अंतर्निहित सीमाओं के कारण कठिन बना हुआ है।
यह शोध पत्र एक नवीन ढांचे का प्रस्ताव करता है जो ग्राफ ट्रिपलेट्स को प्राकृतिक भाषा अनुक्रमों में लीनियराइज़ करके क्रॉस-लिंगुअल ग्राफ फ्यूजन करने के लिए लार्ज लैंग्वेज मॉडल्स की इन-कॉन्टेक्स्ट रीजनिंग और बहुभाषी क्षमताओं का लाभ उठाता है, जिससे प्रभावी रूप से सिमेंटिक हेटेरोजेनिटी (अर्थ संबंधी विषमता) को हल किया जा सके और हेटेरोजेनियस नॉलेज ग्राफ्स के स्केलेबल एगोमरेशन (समूहन) को सक्षम बनाया जा सके।
यह शोध पत्र यह प्रदर्शित करता है कि जहाँ इंडेक्स्ड एक्सटर्नल मेमोरी वाले ट्रांसफॉर्मर-आधारित एजेंट, अनुक्रमिक स्कैनिंग (sequential scanning) पर निर्भर करने वालों की तुलना में तेजी से कम रिट्रीवल लागत प्राप्त करते हैं, वहीं उनकी तर्क क्षमता अक्सर परिचित सामग्री के लिए पैरामीट्रिक मेमोरी का उपयोग करने की प्रवृत्ति के कारण बाधित होती है, जो यह सुझाव देता है कि सिमेंटिक इंडेक्स निर्माण (जिसे LLMs द्वारा संभाला जाता है) को नियत इंडेक्स ट्रैवर्सल (deterministic index traversal) से अलग करने की आवश्यकता है।
यह शोध पत्र लार्ज लैंग्वेज मॉडल (LLM) की तर्क सटीकता को बढ़ाने के लिए तीन इन्फरेंस-टाइम रणनीतियों का व्यवस्थित रूप से मूल्यांकन करता है, जिसमें यह पाया गया है कि नियंत्रित स्टोकेस्टिक डिकोडिंग के साथ सेल्फ-कंसिस्टेंसी (self-consistency) न्यूनतम ओवरहेड के साथ सबसे अधिक लाभ (9-15% सुधार) प्रदान करती है, जबकि ड्यूल-मॉडल एग्रीमेंट (dual-model agreement) मध्यम-जोखिम वाले परिदृश्यों के लिए उपयुक्त है और सेल्फ-रिफ्लेक्शन (self-reflection) केवल मामूली लाभ प्रदान करता है।
यह शोधपत्र एंग्राम (Engram) को प्रस्तुत करता है, जो एक एजेंटिक रिसर्चर आर्किटेक्चर है जो एक संरचित आर्काइव (Archive) और एक डिस्टिल्ड रिसर्च डाइजेस्ट (Research Digest) के माध्यम से ज्ञान को बनाए रखते हुए, लॉन्ग-होरिज़न एक्सप्लोरेशन को इटरेटिव एजेंट रन में अलग करके विकासवादी पूर्वाग्रह (evolutionary bias) और कॉन्टेक्स्ट डिग्रेडेशन की सीमाओं को दूर करता है, जिससे विविध डोमेन में उत्कृष्ट प्रदर्शन प्राप्त होता है।
TimeTox एक LLM-आधारित पाइपलाइन है जो क्लिनिकल ट्रायल प्रोटोकॉल से टाइम टॉक्सिसिटी (time toxicity) के निष्कर्षण को स्वचालित करती है, जो यह प्रदर्शित करता है कि जहाँ एक दो-चरणीय (two-stage) आर्किटेक्चर सिंथेटिक डेटा पर बेहतर सटीकता प्राप्त करता है, वहीं एक सिंगल-पास वैनिला दृष्टिकोण वास्तविक दुनिया के ऑन्कोलॉजी प्रोटोकॉल पर बड़े पैमाने पर उत्पादन तैनाती के लिए आवश्यक पुनरुत्पादकता और स्थिरता प्रदान करता है।
AgentHER एक ऐसा फ्रेमवर्क है जो 'हाइंडसाइट एक्सपीरियंस रिप्ले' (Hindsight Experience Replay) को अनुकूलित करता है ताकि विफल LLM एजेंट प्रक्षेप पथों (trajectories) को वैकल्पिक लक्ष्यों के लिए वैध प्रदर्शन (demonstrations) के रूप में पुन: लेबल किया जा सके, जिससे विस्थापित विफलताओं को उच्च-गुणवत्ता वाले सुपरवाइज्ड और प्रेफरेंस लर्निंग डेटा में बदलकर विभिन्न मॉडल परिवारों में प्रशिक्षण दक्षता और प्रदर्शन को महत्वपूर्ण रूप से बढ़ाया जा सके।
AdaRubric एक कार्य-अनुकूलित (task-adaptive) ढांचे को पेश करता है जो गतिशील रूप से विशिष्ट मूल्यांकन रूब्रिक्स (rubrics) उत्पन्न करता है और स्थिर LLM-as-Judge मूल्यांकन की सीमाओं को दूर करने के लिए एक नवीन DimensionAwareFilter का उपयोग करता है, जिससे मानव निर्णयों के साथ काफी उच्च सहसंबंध प्राप्त होता है और बिना किसी मैनुअल रूब्रिक इंजीनियरिंग के विविध बेंचमार्क पर एजेंट के प्रदर्शन में सुधार होता है।