23941 पेपर
यह शोध पत्र D-PACE को प्रस्तुत करता है, जो एक डायनेमिक पोजीशन-अवेयर क्रॉस-एन्ट्रॉपी लॉस है जो मॉडल आर्किटेक्चर या इन्फरेंस प्रक्रियाओं को बदले बिना, समानांतर स्पेक्युलेटिव डिकोडिंग की दक्षता और स्पीडअप में सुधार करने के लिए अपेक्षित स्वीकृत ड्राफ्ट लंबाई के आधार पर प्रशिक्षण भार (ट्रेनिंग वेट्स) को अनुकूल रूप से समायोजित करता है।
यह शोध पत्र एक डिफ्यूजन-आधारित वर्ल्ड मॉडल प्रस्तुत करता है जो एक कंट्रास्टिव प्रोडक्ट-ऑफ-एक्सपर्ट्स फॉर्मूलेशन के माध्यम से विशिष्ट शॉर्ट-टर्म, एपिसोडिक और स्पेशियल मेमोरी एक्सपर्ट्स को संयोजित करके मौजूदा आर्किटेक्चर के मेमोरी-फिडेलिटी ट्रेड-ऑफ पर विजय प्राप्त करता है, जिससे द्विघातीय (क्वाड्रेटिक) कम्प्यूटेशनल लागत के बिना स्केलेबल, हाई-फिडेलिटी भविष्य के पूर्वानुमान को प्राप्त किया जा सकता है।
यह शोध पत्र बड़े पैमाने पर डॉक्यूमेंट एआई (document AI) पाइपलाइनों को तैनात करने के लिए एक माइक्रोसर्विस आर्किटेक्चर और परिचालन अनुभव प्रस्तुत करता है, जो GPU और CPU कार्यों को अलग करने जैसे डिज़ाइन निर्णयों पर प्रकाश डालता है और यह प्रकट करता है कि मॉडल की जटिलता या वर्कर की संख्या के बजाय, OCR विलंबता (latency) और साझा GPU क्षमता उत्पादन (production) में प्राथमिक बाधाएं हैं।
यह शोध पत्र हाइब्रिड-लोरा (Hybrid-LoRA) का प्रस्ताव करता है, जो एक पोस्ट-ट्रेनिंग फ्रेमवर्क है जो मॉड्यूल के एक छोटे, उच्च-संवेदनशीलता वाले उपसमूह के लिए फुल फाइन-ट्यूनिंग को शेष भाग के लिए लो-रैंक एडेप्टेशन (Low-Rank Adaptation) के साथ रणनीतिक रूप से जोड़ता है, जिससे कंप्यूटेशनल लागतों को काफी कम करते हुए फुल फाइन-ट्यूनिंग के तुलनीय प्रदर्शन प्राप्त होता है और जटिल तर्क कार्यों में मौजूदा पैरामीटर-कुशल बेसलाइनों से बेहतर प्रदर्शन करता है।
यह शोध पत्र एक स्वचालित, मल्टी-एजेंट फ्रेमवर्क पेश करता है जो संदर्भ सामग्रियों पर आधारित सूक्ष्म, मेटाडेटा-समृद्ध बेंचमार्क उत्पन्न करने के लिए है, जो MMLU और GSM8K जैसे मौजूदा मूल्यांकनों की तुलना में बेहतर ग्राउंड-ट्रुथ विश्वसनीयता और व्यापक सक्षमता कवरेज प्रदान करते हैं।
यह शोध पत्र - अटेंशन का प्रस्ताव करता है, जो एक स्थिर पैरामीट्राइजेशन है जो अटेंशन के रूटिंग और फ़िल्टरिंग घटकों को अलग करता है ताकि एक गहराई-निर्भर स्पेक्ट्रल कैस्केड को प्रकट किया जा सके, जिससे न्यूनतम परप्लेक्सिटी हानि के साथ महत्वपूर्ण मॉडल संपीड़न और प्रारंभिक परतों का रेखीयकरण सक्षम होता है।
यह शोध पत्र बेयसियन फ़िल्टरिंग ट्रांसफॉर्मर (BFT) प्रस्तुत करता है, जो एक सिद्धांतपूर्ण ढांचा है जो अनिश्चितता को स्पष्ट रूप से मॉडल करने के लिए ट्रांसफॉर्मर घटकों को कलमन फ़िल्टरिंग और क्रिगिंग ऑपरेशन्स के रूप में पुनर्व्याख्या करता है, जिससे अनुक्रमिक अनुशंसा (sequential recommendation) में कोल्ड-स्टार्ट परिदृश्यों पर प्रदर्शन में महत्वपूर्ण सुधार होता है और बड़े भाषा मॉडलों में शोर वाले डेटा के विरुद्ध मजबूती बढ़ती है।
यह शोध पत्र एक नवीन स्वचालित बिग डेटा गुणवत्ता मूल्यांकन ढांचे का प्रस्ताव करता है जो संदर्भ-जागरूक गुणवत्ता नियमों और आयामों की भविष्यवाणी करने के लिए नॉलेज ग्राफ एम्बेडिंग्स का लाभ उठाता है, जिससे भारित, अनुकूलित मूल्यांकन योजनाएं उत्पन्न होती हैं जो पारंपरिक सख्त-मिलान विधियों की सीमाओं को दूर करती हैं।
यह शोध पत्र VCR का प्रस्ताव करता है, जो एक स्व-पर्यवेक्षित (self-supervised) ढांचा है जो साझा अर्थों (shared semantics) को मोडैलिटी-विशिष्ट अवशेषों (modality-specific residuals) से अलग करने के लिए ऑर्थोगोनल टोकनाइज़ेशन का लाभ उठाता है, जिससे केवल अनुमान योग्य साझा घटकों को पुनर्गठित करके अपूर्ण पहनने योग्य संकेतों (wearable signals) से मजबूत स्वास्थ्य निगरानी सक्षम होती है ताकि मतिभ्रम (hallucinations) को रोका जा सके।
यह शोध पत्र भाषा मॉडलों में एक छिपे हुए "एलाइनमेंट ट्रांजिशन" (alignment transition) की पहचान करता है जहाँ तर्क और सत्यनिष्ठा एक महत्वपूर्ण पैमाने के आगे प्रति-सहसंबंधी (anticorrelated) से सहकारी (cooperative) होने की ओर स्थानांतरित हो जाते हैं, जो एक ऐसा चरण परिवर्तन (phase change) है जिसे मॉडल के आंतरिक विवरणों तक पहुँच प्राप्त किए बिना वास्तुशिल्प समायोजन, डेटा क्यूरेशन और प्रशिक्षण विधियों के माध्यम से पूर्वानुमानित और हेरफेर किया जा सकता है।