10660 पेपर
यह शोध पत्र "फोर ओवर सिक्स" (4/6) को प्रस्तुत करता है, जो NVFP4 क्वांटाइजेशन के लिए एक एडेप्टिव ब्लॉक-स्केलिंग तकनीक है जो बड़े मानों को बेहतर ढंग से संभालने के लिए ब्लॉक स्केल्स को गतिशील रूप से समायोजित करके क्वांटाइजेशन त्रुटि को कम करती है, जिससे न्यूनतम कम्प्यूटेशनल ओवरहेड के साथ BF16 के करीब प्रशिक्षण और अनुमान प्रदर्शन प्राप्त होता है।
यह शोध पत्र बड़े भाषा मॉडलों (large language models) में निरंतरता-आधारित अनिश्चितता परिमाणीकरण (consistency-based uncertainty quantification) के लिए उम्मीदवारों को उत्पन्न करने हेतु मल्टीनोमियल सैंपलिंग (multinomial sampling) के स्थान पर बीम सर्च (beam search) के उपयोग का प्रस्ताव करता है, जो यह प्रदर्शित करता है कि यह दृष्टिकोण विचरण (variance) को कम करता है और लघु-रूप प्रश्नोत्तर (short-form QA) कार्यों पर अत्याधुनिक प्रदर्शन प्राप्त करता है।
यह शोध पत्र उन वास्तविक सेटिंग्स में रिट्रीवल गुणवत्ता को मापने की चुनौती को संबोधित करता है जहाँ प्रासंगिक दस्तावेजों की कुल संख्या अज्ञात होती है, जिसमें मौजूदा रणनीतियों का LLM-आधारित प्रतिक्रिया निर्णयों के विरुद्ध मूल्यांकन किया गया है और एक नए, प्रभावी मीट्रिक का प्रस्ताव दिया गया है जिसके लिए पूर्ण रिकॉल सेट के ज्ञान की आवश्यकता नहीं है।
यह शोधपत्र 'कमीलिऑन' (Chameleon) डेटासेट प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि भाषा मॉडलों के साथ उपयोगकर्ता की अंतःक्रियाएं मुख्य रूप से निश्चित गुणों के बजाय प्रासंगिक स्थिति (contextual state) द्वारा संचालित होती हैं, जो यह प्रकट करता है कि वर्तमान मॉडल "स्टेट-ब्लाइंड" (state-blind) हैं जबकि रिवॉर्ड मॉडल उपयोगकर्ता की स्थितियों के प्रति असंगत रूप से प्रतिक्रिया करते हैं।
LLM-AutoDP एक नवीन फ्रेमवर्क है जो संवेदनशील डेटा तक सीधी मानवीय पहुँच के बिना, मॉडल फाइन-ट्यूनिंग के लिए डेटा प्रोसेसिंग रणनीतियों को स्वचालित रूप से उत्पन्न करने और उन्हें पुनरावृत्ति (iteratively) के माध्यम से अनुकूलित करने के लिए LLM एजेंटों का लाभ उठाता है, जिससे विशेष त्वरण तकनीकों के माध्यम से उच्च-गुणवत्ता वाले परिणाम प्राप्त होते हैं और खोज समय में काफी कमी आती है।
यह शोध पत्र लेविआथन (Leviathan) का परिचय देता है, जो एक ट्रांसफॉर्मर आर्किटेक्चर है जो मानक टाइड एम्बेडिंग मैट्रिक्स (tied embedding matrix) को एक सीखे हुए एम्बेडिंग वेक्टराइजेशन (learned embedding vectorization - LEV) से बदलकर इनपुट और आउटपुट रिप्रजेंटेशन को अलग करता है, जिससे न्यूनतम पैरामीटर ओवरहेड के साथ भाषा मॉडलिंग प्रदर्शन और डाउनस्ट्रीम बेंचमार्क में महत्वपूर्ण सुधार प्राप्त होता है।
यह शोध पत्र एक संदर्भ-मुक्त, पुनरावृत्तित्मक मोनोटोनिक परिशोधन ढांचे (iterative monotonic refinement framework) को प्रस्तुत करता है जो पूर्ण-प्रमेय ऑटोफॉर्मलाइजेशन (full-theorem autoformalization) के लिए है, जो प्रमेय प्रूवर्स (theorem provers) और एलएलएम जजों (LLM judges) से पूरक फीडबैक का लाभ उठाकर औपचारिक वैधता, तार्किक संरक्षण, गणितीय निरंतरता और औपचारिक गुणवत्ता को एक साथ अनुकूलित करता है, जिससे बिना किसी ग्राउंड-ट्रुथ डेटा या मानवीय हस्तक्षेप के miniF2F और ProofNet बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है।
CAMEL एक विश्वास-आधारित प्रतिबिंब ढांचा (trust-based reflection framework) है जो कुशल सिंगल-टोकन प्राथमिकता निर्णयों को कम-विश्वास वाले उदाहरणों के लिए चयनात्मक, सुदृढीकरण शिक्षण-संचालित स्व-सुधार के साथ जोड़ता है, जिससे काफी कम मापदंडों और एक बेहतर सटीकता-दक्षता अनुपात के साथ रिवॉर्ड मॉडलिंग में अत्याधुनिक सटीकता प्राप्त होती है।
यह शोध पत्र PulseLM को प्रस्तुत करता है, जो 10 लाख से अधिक PPG सेगमेंट और 25 लाख प्रश्न-उत्तर युग्मों से युक्त एक बड़े पैमाने का फाउंडेशन डेटासेट और बेंचमार्क है, जो PPG-आधारित AI मॉडलों के लिए मल्टीमॉडल लर्निंग, सामान्यीकरण और मानकीकृत मूल्यांकन को सक्षम करने हेतु कच्चे शारीरिक तरंगों (raw physiological waveforms) को प्राकृतिक भाषा के साथ जोड़ता है।
यह शोध पत्र डेटा-ड्रिवन वेरिएशनल बेसिस लर्निंग (DVBL) को प्रस्तुत करता है, जो एक गैर-तंत्रिका (non-neural) ढांचा है जो वेरिएशनल अनुकूलन के माध्यम से व्याख्या योग्य, डेटा-अनुकूलनीय आधार फलनों (basis functions) को सीखता है, जो तंत्रिका नेटवर्क का एक गणितीय रूप से पारदर्शी विकल्प प्रदान करते हुए अस्तित्व, अभिसरण और पहचान क्षमता पर कठोर गारंटी देता है।