9654 पेपर
यह शोध पत्र मास्क्ड लैंग्वेज फ्लो मॉडल्स (MLFMs) को प्रस्तुत करता है, जो एक नवीन आर्किटेक्चर है जो मौजूदा मास्क्ड डिफ्यूजन और फ्लो लैंग्वेज मॉडल्स की सीमाओं को दूर करने के लिए निरंतर फ्लो-आधारित जनरेशन को डिस्क्रीट टोकन मास्किंग के साथ जोड़ता है, जिससे डाउनस्ट्रीम लैंग्वेज टास्क के लिए स्केलेबल, कुशल और मल्टी-स्टेप रीजनिंग क्षमताएं सक्षम होती हैं।
यह शोध पत्र युवियन एलएलएम (Yuvion LLM) को प्रस्तुत करता है, जो एक प्रतिकूलता-जागरूक (adversarially-aware) लार्ज लैंग्वेज मॉडल है जिसे एक विशिष्ट प्रशिक्षण पाइपलाइन और YLRE बेंचमार्क के माध्यम से सामग्री और एआई सुरक्षा को बढ़ाने के लिए डिज़ाइन किया गया है, जो रणनीतिक हमलों के विरुद्ध बेहतर सुदृढ़ता प्रदर्शित करता है और प्रमुख सुरक्षा कार्यों पर बड़े अत्याधुनिक मॉडलों से बेहतर प्रदर्शन करता है।
यह शोध पत्र डिस्कोबेंच (DiscoBench) को प्रस्तुत करता है, जो एक ऐसा बेंचमार्क है जिसे गहन खोज परिदृश्यों में अस्पष्टता का पता लगाने और सक्रिय रूप से स्पष्टीकरण प्रश्न पूछने की खोज एजेंटों की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, यह प्रकट करते हुए कि वर्तमान मॉडल अक्सर प्रभावी स्पष्टीकरण और बार-बार खोज करने के बीच अंतर करने में विफल रहते हैं, जिससे सीधे अनुमान लगाने की तुलना में उप-इष्टतम प्रदर्शन होता है।
यह शोधपत्र डिस्क्रीट टेक्स्टुअल लेटेंट स्टेट्स और एक फैक्टराइज्ड GRPO ट्रेनिंग मेथड को पेश करके टेक्स्ट-आधारित वर्ल्ड मॉडल्स में हिस्ट्री बाईपास के कारण होने वाली अनआइडेंटिफिएबल लेटेंट स्टेट्स की चुनौती का समाधान करता है, जो सख्त मीडिएशन को लागू करता है और इसके परिणामस्वरूप रिप्रेजेंटेशन क्वालिटी और लॉन्ग-होरिज़न रोलआउट परफॉर्मेंस में महत्वपूर्ण सुधार लाता है।
यह शोध पत्र विश्लेषण योजनाओं को पूर्व-पंजीकृत (प्रि-रजिस्टर) करके और पंजीकरण के बाद जारी किए गए पहले पात्र मॉडल पर पुष्टिकरण परीक्षणों को निष्पादित करके, एलएलएम-आधारित अनुसंधान में पी-हैकिंग (p-hacking) को कम करने के लिए एक प्रोटोकॉल का प्रस्ताव देता है और अनुभवजन्य रूप से उसे मान्य करता है, जिससे शोधकर्ताओं को विशिष्ट मॉडल व्यवहारों के प्रति ओवरफिट होने से रोका जा सके।
यह शोध पत्र लेयर-विशिष्ट पोजीशनल एम्बेडिंग स्केलिंग (LPES) को प्रस्तुत करता है, जो एक जेनेटिक एल्गोरिदम के माध्यम से प्रत्येक लेयर को अलग-अलग, इष्टतम रूप से चयनित स्केलिंग फैक्टर्स असाइन करके लार्ज लैंग्वेज मॉडल्स में "लॉस्ट-इन-द-मिडल" समस्या को कम करने की एक विधि है, जिससे बिना फाइन-ट्यूनिंग या इन्फरेंस लेटेंसी बढ़ाए अटेंशन डिस्ट्रीब्यूशन और रिट्रीवल सटीकता में सुधार होता है।
यह शोध पत्र यह प्रदर्शित करता है कि उपयोगकर्ता इनपुट को कम सहमतता (low agreeableness) पर आधारित करते हुए सहायक की प्रतिक्रियाओं को गर्मजोशीपूर्ण बनाए रखना, मानक वॉर्मथ फाइन-ट्यूनिंग के कारण होने वाली सुरक्षा कमजोरियों और बढ़ी हुई चापलूसी (sycophancy) को प्रभावी ढंग से कम करता है, जिससे बिना किसी स्पष्ट सुरक्षा लेबल या संशोधित प्रशिक्षण उद्देश्यों के सुरक्षित सहानुभूतिपूर्ण मॉडल प्राप्त होते हैं।
यह शोध पत्र SHIFT प्रस्तुत करता है, जो एक हल्का ढांचा (lightweight framework) है जो एक सीखने योग्य गेट मॉड्यूल (learnable gate module) का उपयोग करके आंतरिक सक्रियणों (internal activations) को अनुकूल रूप से नियंत्रित करता है, जिससे रिट्रीवल-ऑगमेंटेड जनरेशन (Retrieval-Augmented Generation) में ज्ञान के संघर्षों को कम किया जा सके और मॉडल की सामान्य क्षमताओं से समझौता किए बिना रिट्रीव किए गए संदर्भ और पैरामीट्रिक ज्ञान के बीच के संघर्षों को हल किया जा सके।
यह शोध पत्र इस बात की जांच करता है कि ऐतिहासिक ग्रंथों के लिए ट्रांसफॉर्मर-आधारित नाम वाली इकाई पहचान (Named Entity Recognition) मॉडलों में टेम्पोरल मेटाडेटा को प्रभावी ढंग से कैसे एकीकृत किया जाए, जिसमें यह पाया गया कि अर्ली फ्यूजन या अन्य हल्के तंत्रों की तुलना में लेट फ्यूजन रणनीतियां फ्रांसीसी और जर्मन डेटासेट में अधिक मजबूत और टेम्पोरल रूप से सामान्यीकरण योग्य प्रदर्शन प्रदान करती हैं।
यह शोध पत्र "ट्रायैडिक वेयरवोल्फ" (Triadic Werewolf) गेम का परिचय देता है, जो एक मल्टी-हॉप थ्योरी-ऑफ-माइंड बेंचमार्क है जिसमें उलटे प्रोत्साहन वाला एक 'जेस्टर' (Jester) गुट शामिल है जो यह प्रकट करता है कि कैसे वर्तमान लार्ज लैंग्वेज मॉडल्स जटिल तीन-तरफा रणनीतिक तर्क करने में संघर्ष करते हैं, और अक्सर स्व-शिक्षण तंत्रों के बावजूद वास्तविक संदेह और इरादतन धोखे के बीच अंतर करने में विफल रहते हैं।