11158 पेपर
VQKV एक नवीन, प्रशिक्षण-मुक्त विधि है जो लार्ज लैंग्वेज मॉडल्स में की-वैल्यू (Key-Value) कैश को कंप्रेस करने के लिए वेक्टर क्वांटाइजेशन का लाभ उठाती है, जो LLaMA3.1-8B पर 82.8% कंप्रेशन अनुपात प्राप्त करते हुए बेसलाइन प्रदर्शन का 98.6% बनाए रखती है और 4.3 गुना लंबी जनरेशन लंबाई सक्षम करती है।
यह शोध पत्र 'कैपेबिलिटी-गाइडेड कम्प्रेशन' (CGC) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो कार्यात्मक घटक महत्व के आधार पर संपीड़न बजट (कंप्रेशन बजट) आवंटित करने के लिए स्पार्स ऑटोएन्कोडर-व्युत्पन्न क्षमता घनत्व मानचित्रों का उपयोग करता है, जिससे पारंपरिक "क्षमता-अंध" (कैपेबिलिटी-ब्लाइंड) विधियों की सीमाओं को दूर किया जा सके और घटक-स्तरीय चरण संक्रमण (फेज ट्रांज़िशन) की भविष्यवाणी करने के लिए एक सैद्धांतिक आधार प्रदान किया जा सके।
यह शोध पत्र DynHD का प्रस्ताव करता है, जो डिफ्यूजन लार्ज लैंग्वेज मॉडल्स के लिए एक नवीन मतिभ्रम (hallucination) डिटेक्शन फ्रेमवर्क है, जो सूचनात्मक टोकन को फ़िल्टर करने के लिए एक सिमेंटिक-अवेयर मॉड्यूल को अनिश्चितता साक्ष्य के डीनॉइजिंग डायनेमिक्स में विसंगतियों का विश्लेषण करने वाले विचलन-आधारित डिटेक्टर के साथ जोड़कर सटीकता और दक्षता में सुधार करता है।
यह शोध पत्र RecencyQA प्रस्तुत करता है, जो 4,000 से अधिक प्रश्नों का एक डेटासेट है जिसे एक नए 'रेसनसी-स्टेशनैरिटी' (recency-stationarity) वर्गीकरण के साथ एनोटेट किया गया है, ताकि बड़े भाषा मॉडलों द्वारा समय-संवेदनशील जानकारी को संभालने के मूल्यांकन में वर्तमान बेंचमार्क की सीमाओं को दूर किया जा सके और संदर्भ-जागरूक, रेसनसी-संवेदनशील प्रश्न-उत्तर प्रणालियों के विकास को सुगम बनाया जा सके।
यह शोध पत्र DanceHA प्रस्तुत करता है, जो एक मल्टी-एजेंट फ्रेमवर्क है जो अनौपचारिक लेखन शैलियों में दस्तावेज़-स्तरीय एस्पेक्ट-बेस्ड सेंटीमेंट इंटेंसिटी एनालिसिस (ABSIA) की कम-अन्वेषित चुनौती को संबोधित करने के लिए डिवाइड-एंड-कॉन्कर रणनीति और मानव-AI सहयोग का उपयोग करता है, जिसके साथ नए Inf-ABSIA डेटासेट का विमोचन भी किया गया है।
यह शोध पत्र EmoLLM प्रस्तुत करता है, जो एक मूल्यांकन-आधारित ढांचा है जो संरचित संज्ञानात्मक-भावनात्मक सह-तर्क के लिए एक स्पष्ट मूल्यांकन तर्क ग्राफ (Appraisal Reasoning Graph) का उपयोग करके और तथ्यात्मक रूप से विश्वसनीय एवं भावनात्मक रूप से उपयुक्त प्रतिक्रियाएं उत्पन्न करने के लिए सुदृढीकरण शिक्षण (reinforcement learning) का उपयोग करके बड़े भाषा मॉडलों की भावनात्मक बुद्धिमत्ता को बढ़ाता है।
यह शोधपत्र BenchPreS प्रस्तुत करता है, जो यह उजागर करता है कि वर्तमान बड़े भाषा मॉडल (large language models) निरंतर स्मृति संदर्भ (persistent memory context) में संग्रहीत उपयोगकर्ता प्राथमिकताओं को संदर्भानुसार लागू करने में संघर्ष करते हैं, और अक्सर उन्हें तीसरे पक्ष के संचार में सामाजिक और संस्थागत मानदंडों का पालन करने के बजाय वैश्विक रूप से लागू होने वाले नियमों के रूप में मानते हैं।
यह शोध पत्र एक सरप्राइज़ल-आधारित लिंकिंग तंत्र का उपयोग करते हुए अंग्रेजी एग्रीमेंट अट्रैक्शन कॉन्फ़िगरेशन पर ग्यारह ऑटोरेग्रेसिव ट्रांसफॉर्मर्स का मूल्यांकन करता है और पाता है कि जबकि वे प्रीपोज़िशनल फ्रेज़ संरचनाओं में मानव पठन समय के साथ संरेखित होते हैं, वे ऑब्जेक्ट-एक्सट्रैक्टेड रिलेटिव क्लॉज़ में मानव इंटरफेरेंस पैटर्न को दोहराने में विफल रहते हैं, जिससे यह निष्कर्ष निकलता है कि वर्तमान मॉडल मानव मॉर्फोसेंटैक्टिक प्रोसेसिंग की पर्याप्त व्याख्या नहीं करते हैं।
यह शोध पत्र संक्षिप्त पीढ़ी (concise generation) के लिए आंतरिक पुरस्कारों को डिजाइन करके, बुनियादी तार्किक पूर्वधारणाओं (logical priors) को स्थिरता के महत्वपूर्ण निर्धारकों के रूप में पहचानकर, और यह निदान करने के लिए कि क्यों कुछ विन्यास स्थिर होते हैं जबकि अन्य ढह जाते है, एक नवीन ज्यामितीय "मैनिफोल्ड एनवेलपमेंट" (manifold envelopment) परिप्रेक्ष्य प्रस्तुत करके गणितीय तर्क के लिए अनसुपरवाइज्ड सुदृढीकरण शिक्षण (unsupervised reinforcement learning) की सफलता और विफलता की सीमाओं की जांच करता है।
यह शोध पत्र 'तराब' (Tarab) का परिचय देता है, जो कि 2.5 संों (fourteen centuries) और कई बोलियों में फैले अरबी गीत के बोलों और कविता के 2.56 मिलियन छंदों का एक बड़े पैमाने पर खुला संग्रह है, जिसे संरचित मेटाडेटा और आधारभूत विश्लेषणात्मक उपकरणों के माध्यम से तुलनात्मक भाषाई और शैलीगत विश्लेषण को सुगम बनाने के लिए डिज़ाइन किया गया है।