11683 पेपर
यह शोध पत्र ई-कॉमर्स प्रासंगिकता मॉडलिंग के लिए एक नवीन ढांचे का प्रस्ताव करता है जो मल्टी-परस्पेक्टिव चेन-ऑफ-थॉट को डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन के साथ जोड़कर और परिष्कृत तर्क क्षमताओं की कुशल, कम-विलंबता वाले परिनियोजन को सक्षम करने के लिए लेटेंट रीजनिंग नॉलेज डिस्टिलेशन को पेश करके एकल-परिप्रेक्ष्य तर्क और उच्च अनुमान विलंबता की सीमाओं को संबोधित करता है।
यह शोध पत्र "WhatCounts" को प्रस्तुत करता है, जो एक परमाणु बेंचमार्क (atomic benchmark) है जो यह प्रदर्शित करता है कि अत्याधुनिक एलएलएम (LLMs) वास्तव में अपरिवर्तनीय एल्गोरिदम को लागू करने में विफल रहते हैं, क्योंकि सरल गणना कार्यों पर उनका प्रदर्शन केवल गिनी जा रही वस्तुओं की अर्थपूर्ण सामग्री के आधार पर 40% से अधिक अनिश्चित रूप से भिन्न होता है, जो केवल तर्क जटिलता से परे छिपे हुए इनपुट-निर्भर पूर्वाग्रहों को प्रकट करता है।
यह शोध पत्र ILRR को प्रस्तुत करता है, जो मास्कड डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक लर्निंग-फ्री इन्फरेंस-टाइम स्टीयरिंग फ्रेमवर्क है जो लचीले एट्रिब्यूट कंट्रोल और न्यूनतम कंप्यूटेशनल ओवरहेड के साथ काफी बेहतर स्टीयरिंग सटीकता प्राप्त करने के लिए आंतरिक एक्टिवेशन्स को एक रेफरेंस सीक्वेंस के साथ गतिशील रूप से संरेखित करता है।
यह शोधपत्र AdaptBPE का प्रस्ताव करता है, जो एक हल्का पोस्ट-ट्रेनिंग स्ट्रैटेजी है जो कम उपयोगिता वाले टोकन को अडैप्टेशन कॉर्पस से अधिक बार आने वाले टोकनों से चुनिंदा रूप से बदलकर विशिष्ट डोमेन या भाषाओं के लिए सामान्य-उद्देश्य वाले सबवर्ड टोकनाइज़र को अनुकूलित करता है, जिससे पूरे मॉडल को पुन: प्रशिक्षित किए बिना संपीड़न (compression) और प्रदर्शन में सुधार होता है।
वाक्य एम्बेडिंग (sentence embeddings) पर एलन डेविएशन (Allan deviation) लागू करके, यह अध्ययन पाठ की सिमेंटिक गतिशीलता को एक स्टोकेस्टिक प्रक्षेपपथ (stochastic trajectory) के रूप में अभिलक्षणित करता है, जो विशिष्ट अल्प-कालिक स्केलिंग व्यवस्थाओं (short-time scaling regimes) को प्रकट करता है जो रचनात्मक लेखन को तकनीकी लेखन से अलग करती हैं और मानव संज्ञान की तुलना में बड़े भाषा मॉडलों (large language models) में दीर्घकालिक स्थिरता क्षितिज (long-term stability horizon) में व्यवस्थित कमी को उजागर करती है।
यह शोध पत्र TAPPA को प्रस्तुत करता है, जो एक एकीकृत टेम्पोरल फ्रेमवर्क है जो क्वेरी सेल्फ-सिमिलैरिटी और गणितीय विश्लेषण के माध्यम से विविध LLM अटेंशन पैटर्न की व्याख्या करता है, और यह प्रदर्शित करता है कि इन अंतर्दृष्टि का लाभ उठाने से KV कैश कंप्रेशन और मॉडल प्रूनिंग कार्यों में प्रदर्शन में सुधार होता है।
यह शोधपत्र एक पैरामीटर-कुशल ढांचे का प्रस्ताव करता है जो अस्पष्ट दावों और प्रकटीकरण शोर (डिस्क्लोजर नॉइज़) के विरुद्ध मॉडल की मजबूती को सुधारने के लिए कंट्रास्टिव लर्निंग को ऑर्डिनल रैंकिंग और गेटेड फीचर मॉड्यूलेशन के साथ जोड़कर स्थिरता रिपोर्टों में ग्रीनवॉशिंग डिटेक्शन को बढ़ाता है।
यह शोध पत्र एपिस्टेमिक कॉन्टेक्स्ट लर्निंग (ECL) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो ऐतिहासिक इंटरेक्शन डेटा का लाभ उठाकर पीयर प्रोफाइल बनाने के माध्यम से LLM-आधारित मल्टी-एजेंट सिस्टम में विश्वास और मजबूती को बढ़ाता है, जिससे छोटे मॉडल्स को भी विश्वसनीय साथियों की सटीक पहचान करने और उन पर निर्भर रहने के सक्षम बनाकर बहुत बड़े बेसलाइन्स से बेहतर प्रदर्शन करने में सक्षम बनाया जा सके।
यह शोध पत्र Inf-DDS का प्रस्ताव करता है, जो एक हल्का, सुदृढीकरण शिक्षण-संचालित (reinforcement learning-driven) सैंपलिंग फ्रेमवर्क है जो प्रभाव-आधारित पुरस्कार संकेतों (influence-based reward signals) के आधार पर टेक्स्ट रिट्रीवल मॉडल्स के लिए विविध प्रशिक्षण कॉर्पोरा को अनुकूल रूप से पुन: भारित (reweights) करता है, और मौजूदा ग्रेडिएंट-आधारित विधियों की तुलना में बेहतर प्रदर्शन और महत्वपूर्ण GPU लागत कटौती प्राप्त करता है।
ज़ोंकी (Zonkey) एक नवीन पदानुक्रमित डिफ्यूजन भाषा मॉडल है जो एक विभेदक टोकनाइज़र और संभाव्य अटेंशन तंत्र का उपयोग करके कच्चे वर्णों से दस्तावेज़-स्तरीय निरूपण तक एक पूर्णतः प्रशिक्षित पाइपलाइन पेश करता है ताकि एंड-टू-एंड अनुकूलन और निश्चित टोकनाइज़र के बिना अनुकूलन योग्य, भाषाई रूप से अर्थपूर्ण पाठ निर्माण को सक्षम बनाया जा सके।