10091 पेपर
यह शोध पत्र न्यूरल अटेंशन सर्च लीनियर (NAtS-L) को प्रस्तुत करता है, जो एक ऐसा फ्रेमवर्क है जो एक ही लेयर के भीतर व्यक्तिगत टोकन को या तो कुशल लीनियर अटेंशन या अभिव्यंजक सॉफ्टमैक्स अटेंशन को गतिशील रूप से असाइन करता है, जिससे लंबी-संदर्भ (long-context) वाली स्थितियों के लिए कम्प्यूटेशनल दक्षता और मॉडल की अभिव्यक्तित्मकता के बीच एक मजबूत संतुलन प्राप्त होता है।
InftyThink+ एक एंड-टू-एंड सुदृढीकरण शिक्षण (reinforcement learning) फ्रेमवर्क है जो रणनीतिक सारांशीकरण और मॉडल-नियंत्रित पुनरावृत्ति सीमाओं के माध्यम से पुनरावृत्तीय तर्क को अनुकूलित करता है, जो पारंपरिक लॉन्ग चेन-ऑफ-थॉट विधियों की तुलना में सटीकता, दक्षता और सामान्यीकरण में महत्वपूर्ण सुधार करता है।
यह शोध पत्र मानव संवाद के माध्यम से प्राथमिकता अनुकूलन (preference optimization) द्वारा स्टीयरिंग वेक्टर्स (steering vectors) सीखकर लार्ज लैंग्वेज मॉडल (LLM) ट्यूटरिंग व्यवहार को नियंत्रित करने की एक विधि प्रस्तावित करता है, जो मॉडल को स्पष्ट प्रॉम्प्टिंग के बिना विविध ट्यूटर व्यक्तित्वों को अनुकूल रूप से आत्मसात करने में सक्षम बनाता है और साथ ही सिमेंटिक संरेखण (semantic alignment) और व्याख्यात्मकता में सुधार करता है।
यह शोध पत्र यह पहचान करता है कि मौजूदा कॉन्फिडेंस कैलिब्रेशन विधियाँ बड़े भाषा मॉडल (LLMs) के लिए तब विफल हो जाती हैं जब प्रश्नों के कई सही उत्तर होते हैं क्योंकि वे व्यवस्थित रूप से कम आकलन (underestimation) करते हैं, और एक नया बेंचमार्क (MACE) तथा एक सिमेंटिक कॉन्फिडेंस एग्रीगेशन (SCA) विधि प्रस्तावित करता है ताकि एकल और बहु-उत्तर परिदृश्यों दोनों में सुदृढ़ कैलिब्रेशन प्राप्त किया जा सके।
यह शोध पत्र यह प्रदर्शित करता है कि व्याख्यात्मक कलाकृतियों (interpretability artifacts) पर हल्के, फ्रोजन एडेप्टर (frozen adapters) को प्रशिक्षित करना बड़े भाषा मॉडलों को अंतर्निहित मॉडल को संशोधित किए बिना, विभिन्न कार्यों और पैमानों में विश्वसनीय, उच्च-गुणवत्ता वाली स्व-व्याख्याएं उत्पन्न करने में सक्षम बनाता है।
यह शोध पत्र सेलेक्टिव एब्स्ट्रैक्शन (Selective Abstraction) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो अनिश्चित परमाणु दावों (atomic claims) को कम विशिष्ट, उच्च-विश्वास वाले अमूर्तीकरणों (abstractions) से बदलकर दीर्घ-रूप (long-form) एलएलएम जनरेशन की विश्वसनीयता को बढ़ाता है, जिससे प्रतिक्रिया की समग्र सूचनात्मक सामग्री को संरक्षित करते हुए सटीकता में महत्वपूर्ण सुधार होता है।
यह शोध पत्र एक सैद्धांतिक रूप से आधारित, अनुकूलन योग्य ढांचे का प्रस्ताव करता है जो सीमित बजट और लुप्त डेटा के तहत जनसंख्या-स्तरीय प्रतिक्रिया भविष्यवाणी में सुधार करने के लिए, प्रश्नों और उत्तरदाताओं दोनों को गतिशील रूप से चुनने हेतु LLM-आधारित प्रश्न स्कोरिंग को हेट्रोजेनियस ग्राफ न्यूरल नेटवर्क प्रसार के साथ जोड़ता है।
यह शोध पत्र MT-OSC को प्रस्तुत करता है, जो एक स्केलेबल फ्रेमवर्क है जो एक कंडेंसर एजेंट (Condenser Agent) और एक लाइटवेट डिसाइडर (Decider) का उपयोग करके मल्टी-टर्न चैट हिस्ट्री को स्वचालित और कुशलतापूर्वक संकुचित करता है, जिससे विविध संवादात्मक बेंचमार्क पर LLM प्रदर्शन को संरक्षित या बेहतर करते हुए टोकन की संख्या और विलंबता (latency) को महत्वपूर्ण रूप से कम किया जाता है।
यह शोध पत्र प्रदर्शित करता है कि 4-बिट क्वांटाइज़्ड ओपन-सोर्स एलएलएम (LLMs) के मिड-लेयर हिडन स्टेट्स में मतिभ्रम (hallucination) को एनकोड करने वाला एक रैखिक रूप से विभाज्य सत्यता संकेत (linearly separable truthfulness signal) मजबूती से मौजूद है, जो सरल लीनियर प्रोब्स का उपयोग करके लगभग पूर्ण AUROC स्कोर के साथ पता लगाने में सक्षम बनाता है, जबकि सैंपलिंग-आधारित विधियाँ समान मूल्यांकन प्रोटोकॉल के तहत काफी खराब प्रदर्शन करती हैं।
यह शोध पत्र एक ट्यूनेबल स्ट्रेंथ कोएफिशिएंट (tunable strength coefficient) के साथ एक इन्फरेंस-टाइम अटेंशन कैलिब्रेशन विधि प्रस्तुत करता है जो कई भाषाओं और डोमेन में डेंस रिट्रीवल मॉडल्स में पोजीशनल बायस को प्रभावी ढंग से कम करता है, जिससे समग्र रिट्रीवल प्रदर्शन से समझौता किए बिना या मॉडल को पुन: प्रशिक्षित किए बिना पोजीशनल फेयरनेस में सुधार होता है।