10206 पेपर
यह शोध पत्र PRISM को प्रस्तुत करता है, जो एक बहु-आयामी बेंचमार्क है जो यह प्रकट करता है कि जबकि LLM-आधारित पीयर समीक्षक नवीनता सत्यापन और दोष प्राथमिकता जैसे विशिष्ट क्षेत्रों में मानव प्रदर्शन के बराबर या उससे बेहतर हो सकते हैं, उनमें मानव समीक्षकों के स्टैंडअलोन प्रतिस्थापन के रूप में कार्य करने के लिए आवश्यक सभी समीक्षा आयामों में निरंतर, संतुलित विशेषज्ञता का अभाव है।
यह शोध पत्र इस धारणा का खंडन करता है कि इष्टतम हार्नेस जटिलता (harness complexity) मॉडल क्षमता के साथ निरंतर घटती है, जो 432-रन प्रयोग के माध्यम से यह प्रकट करता है कि हार्नेस संवेदनशीलता गैर-एकदिष्ट (non-monotone) है और मॉडल के प्रकार पर महत्वपूर्ण रूप से निर्भर करती है, जहाँ विस्तृत संरचनाएं (verbose structures) फ्रंटियर चैट मॉडल्स में बाधा डालती हैं जबकि सख्त मार्गदर्शन फ्रंटियर रीजनिंग मॉडल्स को लाभ पहुँचाता है।
यह शोध पत्र यह प्रदर्शित करता है कि तुलनीय पर्यवेक्षण (supervision) का उपयोग करने पर बहुभाषी एलएलएम (LLM) में मूल-भाषा और अंग्रेजी-पिवोटेड तर्क के बीच प्रदर्शन का अंतर पहले की तुलना में काफी कम है, और एक "लेयर स्वैप" तकनीक का प्रस्ताव करता है जो मध्य परतों से अंग्रेजी तर्क क्षमताओं को मूल विशेषज्ञों (native specialists) में स्थानांतरित करता है, जिससे चेन-ऑफ-थॉट जनरेशन के लिए लक्षित भाषा को संरक्षित करते हुए प्रभावी रूप से इस अंतर को पाट दिया जाता है।
EmoDistill एक ऑफलाइन फ्रेमवर्क है जो एक दो-चरणीय प्रक्रिया के माध्यम से भावनात्मक कौशल को आसक्त (distill) करके प्रतिकूल वार्ताओं (adversarial negotiations) में भाषा मॉडल एजेंटों को उन्नत करता है—जिसमें रणनीतिक भावनाओं का चयन करने के लिए इम्पलिसिट क्यू-लर्निंग (Implicit Q-Learning) और उनकी अभिव्यक्ति को अनुकूलित करने के लिए लो-रैंक अडैप्टेशन (Low-Rank Adaptation) का उपयोग किया जाता है—जिससे यह महंगी ऑनलाइन ट्रेनिंग की आवश्यकता के बिना उच्च-दांव वाले डोमेन में मानक बेसलाइनों से बेहतर प्रदर्शन करता है।
यह शोध पत्र SeDT को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त इन्फरेंस-टाइम विधि है जो मल्टी-टर्न वार्तालापों पर डिसीजन-ट्रांसफॉर्मर मॉडलों को कंडिशन करने के लिए सेंटेंस-ट्रांसफॉर्मर से प्राप्त प्रासंगिकता स्कोर का लाभ उठाती है, जिससे महत्वपूर्ण बाधाओं को गतिशील रूप से हाइलाइट करके "लॉस्ट इन कन्वर्सेशन" घटना को प्रभावी ढंग से कम किया जाता है और विभिन्न लार्ज लैंग्वेज मॉडल्स में प्रदर्शन और विश्वसनीयता दोनों में महत्वपूर्ण सुधार किया जाता है।
यह शोध पत्र लेटेंट रिकरेंट ट्रांसफॉर्मर (LRT) को प्रस्तुत करता है, जो एक हल्का आर्किटेक्चर है जो इन्फरेंस डेप्थ (inference depth) बढ़ाए बिना उच्च-स्तरीय हिडन स्टेट्स (high-level hidden states) को रिकरेंट मेमोरी के रूप में पुन: उपयोग करके ऑटोरेग्रेसिव मॉडल्स को बेहतर बनाता है, और इस दृष्टिकोण को कुशलतापूर्वक स्केल करने के लिए एक इंटरलीव्ड पैरेलल ट्रेनिंग स्ट्रैटेजी का प्रस्ताव करता है, जिसके परिणामस्वरूप न्यूनतम पैरामीटर ओवरहेड के साथ बेहतर लैंग्वेज मॉडलिंग और इन-कॉन्टेक्स्ट लर्निंग प्रदर्शन प्राप्त होता है।
यह शोध पत्र एक साझा वर्ड-एम्बेडिंग स्पेस में उन्हें दिशाओं के रूप में निरूपित करके विजातीय मनोवैज्ञानिक संरचनाओं को अर्थपूर्ण रूप से तुलनीय बनाने के लिए एक ढांचे का प्रस्ताव करता है, जो वैलेंस-अरौज़ल-डोमिनेंस समन्वय प्रणाली के भीतर भावना और व्यक्तित्व संरचनाओं को व्यवस्थित करने में इसकी प्रभावशीलता को प्रदर्शित करता है।
यह शोध पत्र TabKG प्रस्तुत करता है, जो एक नॉलेज-ग्राफ-गाइडेड फ्रेमवर्क है जो एक सत्यापित कॉलम रिलेशनशिप नॉलेज ग्राफ के निर्माण के लिए LLMs का लाभ उठाता है, जिससे सिंथेटिक सप्लाई चेन डेटा उत्पन्न करना सक्षम होता है जो केवल सांख्यिकीय वितरणों की नकल करने के बजाय परिचालन तर्क और बाधाओं का कड़ाई से पालन करता है।
यह शोध पत्र एक स्वचालित प्रशिक्षण पाइपलाइन प्रस्तुत करता है जो कई अपूर्ण मेट्रिक्स से प्राप्त स्कोर को एकत्रित करके एक उच्च-गुणवत्ता वाला प्राथमिकता डेटासेट (preference dataset) निर्मित करती है, जिससे सारांशीकरण में तथ्यात्मक निरंतरता में सुधार होता है और विभिन्न आकारों के मॉडलों को जटिल रिवॉर्ड शेपिंग के बिना सूक्ष्म शाब्दिक अंतरों से सीखने में सक्षम बनाया जाता है।
यह शोध पत्र MONA को प्रस्तुत करता है, जो एक नवीन ऑप्टिमाइज़र है जो तीव्र स्थानीय मिनिमा (sharp local minima) से बचने के लिए Muon फ्रेमवर्क में नेस्टरोव-शैली के त्वरण (Nesterov-style acceleration) को एकीकृत करता है और 1B से 68B पैरामीटर्स तक की भाषा मॉडलों (language models) में अत्याधुनिक अभिसरण (state-of-the-art convergence) और डाउनस्ट्रीम प्रदर्शन प्राप्त करता है।