24514 पेपर
यह शोध पत्र एक लक्ष्य-अनुकूलन टेक्स्ट-टेबुलर मॉडलिंग फ्रेमवर्क प्रस्तावित करता है जो सीमित इंटरेक्शन हिस्ट्री से अपरिचित एआई (AI) वार्ताकार के निर्णयों की प्रभावी ढंग से भविष्यवाणी करने के लिए एक फ्रोजन "LLM-as-Observer" से प्राप्त हिडन रिप्रेजेंटेशन्स का लाभ उठाता है, जो डायरेक्ट प्रॉम्प्टिंग और मानक फीचर-आधारित बेसलाइन्स से बेहतर प्रदर्शन करता है।
यह शोध पत्र प्रस्तावित करता है कि बड़े भाषा मॉडल (large language models) निम्न-आयामी, संरचित "वैचारिक विश्वास स्थानों" (conceptual belief spaces) में नेविगेट करके इन-कॉन्टेक्स्ट लर्निंग (in-context learning) करते हैं, जहाँ विश्वास अपडेट ज्यामितीय प्रक्षेपवक्र (geometric trajectories) के रूप में प्रकट होते हैं जो मॉडल के व्यवहार और आंतरिक निरूपणों दोनों में निरंतर प्रतिबिंबित होते हैं और जिन्हें रैखिक हस्तक्षेपों (linear interventions) के माध्यम से कार्य-कारण रूप से हेरफेर किया जा सकता है।
यह शोध पत्र फ्लो मैप पॉलिसीज़ (Flow Map Policies) को प्रस्तुत करता है, जो जनरेटिव पॉलिसीज़ का एक नया वर्ग है जो तेज़, एक-चरणीय एक्शन जनरेशन को सक्षम बनाता है, और चुनौतीपूर्ण रोबोटिक कार्यों में ऑफलाइन-टू-ऑनलाइन सुदृढीकरण लर्निंग (reinforcement learning) में अत्याधुनिक प्रदर्शन प्राप्त करने के लिए Q-GUIDED BEAM SEARCH के साथ FLOW MAP Q-GUIDANCE (FMQ) एल्गोरिदम का प्रस्ताव करता है।
यह शोध पत्र एक नवीन, वास्तविक दुनिया के डेटासेट को प्रस्तुत करता है जिसे विविध मोबिलिटी परिदृश्यों में व्यावसायिक रूप से तैनात एक 6G नेटवर्क से एकत्र किया गया है, जिसमें हैंडओवर, बीम प्रबंधन और मोबिलिटी प्रक्रियाओं को अनुकूलित करने के उद्देश्य से एआई/एमएल (AI/ML) मॉडल के प्रशिक्षण और मूल्यांकन के लिए वास्तविक डेटा की कमी को दूर करने हेतु अद्वितीय टाइमिंग एडवांस माप शामिल हैं।
TextSeal एक अत्याधुनिक, विरूपण-मुक्त (distortion-free) LLM वॉटरमार्किंग योजना है जो डुअल-की जनरेशन और मल्टी-रीजन लोकलाइजेशन के माध्यम से मजबूत प्रोवेनेंस डिटेक्शन और डिस्टिलेशन सुरक्षा सुनिश्चित करती है, और यह सब आउटपुट गुणवत्ता को बनाए रखते हुए और बिना इन्फरेंस ओवरहेड के सर्विंग ऑप्टिमाइजेशन को सपोर्ट करते हुए किया जाता है।
यह शोधपत्र DR-Gym प्रस्तुत करता है, जो एक ओपन-सोर्स, Gymnasium-संगत सिमुलेशन वातावरण है जिसे ऊर्जा सामर्थ्य और ग्रिड लचीलेपन को बढ़ाने के लिए यथार्थवादी बाजार-स्तरीय अंतःक्रियाओं, रिजीम-स्विचिंग थोक कीमतों और भौतिकी-आधारित भवन मांगों को मॉडल करके डिमांड-रिस्पॉन्स कार्यक्रमों को अनुकूलित करने में इलेक्ट्रिक यूटिलिटीज को प्रशिक्षित और मूल्यांकन करने के लिए डिज़ाइन किया गया है।
यह शोध पत्र ScaleSearch प्रस्तुत करता है, जो एक नवीन रणनीति है जो क्वांटाइजेशन त्रुटि को महत्वपूर्ण रूप से कम करने और लो-प्रिसिजन जनरेटिव मॉडल्स के प्रदर्शन को बेहतर बनाने के लिए मेंटिसा बिट्स (mantissa bits) की एक फाइन-ग्रेंड सर्च के माध्यम से ब्लॉक फ्लोटिंग पॉइंट स्केल फैक्टर्स को अनुकूलित करता है, जिसमें एक विशेष ScaleSearchAttention एल्गोरिदम शामिल है जो लगभग शून्य प्रदर्शन हानि प्राप्त करता है।
यह शोध पत्र 'अट्रैक्टर मॉडल्स' (Attractor Models) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो लेटेंट रिप्रेजेंटेशन्स में फिक्स्ड पॉइंट्स को हल करने के लिए इम्प्लिसिट डिफरेंशिएशन का उपयोग करता है, जिससे स्थिर, अनुकूलन योग्य पुनरावृत्ति परिशोधन (iterative refinement) सक्षम होता है जो कम कम्प्यूटेशनल लागत के साथ बेहतर लैंग्वेज मॉडलिंग और रीजनिंग प्रदर्शन प्राप्त करता है और कुशल इन्फरेंस के लिए इक्विलिब्रियम स्टेट्स को आंतरिक रूप से आत्मसात करने की अनूठी क्षमता रखता है।
KV-Fold एक सरल, प्रशिक्षण-मुक्त लॉन्ग-कॉन्टेक्स्ट इन्फरेंस प्रोटोकॉल है जो KV कैश को लेफ्ट-फोल्ड एक्यूमुलेटर के रूप में मानता है ताकि बिना किसी मॉडल रिट्रेनिंग या आर्किटेक्चरल बदलाव के गहरी श्रृंखलाओं (deep chains) में स्थिर, मेमोरी-कुशल अनुक्रम प्रसंस्करण (sequence processing) को सक्षम किया जा सके।
यह शोध पत्र स्पार्स मिक्स्चर-ऑफ़-एक्सपर्ट्स मॉडल्स में राउटरों और विशेषज्ञों के बीच एक मौलिक ज्यामितीय युग्मन (geometric coupling) को प्रकट करता है जहाँ मेल खाते दिशाएँ साझा टोकन इतिहास को संचित करती हैं, जो यह प्रदर्शित करता है कि इस युग्मन को सहायक लोड-बैलेंसिंग लॉस द्वारा बाधित किया जाता है लेकिन बेहतर लोड बैलेंसिंग प्राप्त करने के लिए एक पैरामीटर-मुक्त K-मीन्स राउटर द्वारा इसे प्रभावी ढंग से पुनरुत्पादित किया जा सकता है।