10999 पेपर
यह शोध पत्र लोरा (LoRA) एडेप्टर के लिए एक ट्रिगर-अज्ञेय (trigger-agnostic) बैकडोर डिटेक्शन पद्धति प्रस्तुत करता है जो परीक्षण इनपुट डेटा की आवश्यकता के बिना, कई मॉडल परिवारों में 100% सटीकता प्राप्त करने के लिए सीधे वेट मैट्रिसेस (weight matrices) से स्पेक्ट्रल सांख्यिकी का विश्लेषण करता है।
यह शोध पत्र यह प्रदर्शित करता है कि जबकि द्विदिश प्रशिक्षण उद्देश्य (bidirectional training objectives) स्रोत संस्थाओं को स्पष्ट रूप से भविष्यवाणी लक्ष्यों के रूप में बनाकर भाषा मॉडलों में 'रिवर्ज़ल कर्से' (reversal curse) को कम कर सकते हैं, वे ऐसा एक एकीकृत, दिशा-निरपेक्ष लेटेंट सामान्यीकरण (direction-agnostic latent generalization) उत्पन्न करने के बजाय फॉरवर्ड और रिवर्स तथ्यों को अलग-अलग निरूपणों के रूप में संग्रहीत करके करते हैं।
यह शोध पत्र 'इनक्लूजन-ऑफ-थॉट्स' (IoT) का प्रस्ताव करता है, जो एक प्रगतिशील स्व-फ़िल्टरिंग रणनीति है जो मॉडल की प्राथमिकताओं को स्थिर करने, तर्क संबंधी पारदर्शिता बढ़ाने और न्यूनतम कम्प्यूटेशनल लागत के साथ विभिन्न बेंचमार्क पर प्रदर्शन में महत्वपूर्ण सुधार करने के लिए भटकाने वाले विकल्पों (distractors) को हटाकर बहुविकल्पीय प्रश्नों का पुनर्निर्माण करता है।
यह शोध पत्र CURE का प्रस्ताव करता है, जो LLM-आधारित अनुशंसा प्रणालियों (recommendation systems) के लिए एक सर्किट-जागरूक अनलर्निंग फ्रेमवर्क है जो मॉडल घटकों को कार्यात्मक रूप से विशिष्ट उपसमूहों (विस्मरण-विशिष्ट, प्रतिधारण-विशिष्ट और कार्य-साझा) में अलग करके चयनात्मक, लक्षित अपडेट के माध्यम से ग्रेडिएंट संघर्षों को कम करता है और गोपनीयता अनुपालन में सुधार करता है।
यह शोधपत्र EduIllustrate को प्रस्तुत करता है, जो K-12 STEM विषयों के लिए सुसंगत, आरेख-समृद्ध बहुआयामी शैक्षिक सामग्री उत्पन्न करने में लार्ज लैंग्वेज मॉडल्स की क्षमताओं का मूल्यांकन और उन्हें उन्नत करने के लिए डिज़ाइन किया गया एक व्यापक बेंचमार्क है, जो मॉडल्स के बीच महत्वपूर्ण प्रदर्शन भिन्नताओं को प्रकट करता है और दृश्य निरंतरता के लिए अनुक्रमिक एंकरिंग (sequential anchoring) की प्रभावशीलता को मान्य करता है।
यह शोध पत्र फेज़-एसोसिएटिव मेमोरी (PAM) का परिचय देता है, जो एक कॉम्प्लेक्स-वैल्यूड रिकरेंट सीक्वेंस मॉडल है जो एसोसिएटिव एक्यूमुलेशन के लिए मैट्रिक्स स्टेट और कंजुगेट इनर प्रोडक्ट रिट्रीवल का उपयोग करता है ताकि WikiText-103 पर प्रतिस्पर्धी परप्लेक्सिटी प्राप्त की जा सके, जिससे भाषा मॉडलिंग में गैर-शास्त्रीय, होलोग्राफिक औपचारिकताओं की संभावित प्रभावकारिता प्रदर्शित होती है।
यह अध्ययन प्रदर्शित करता है कि चिकित्सा संबंधी प्रश्नों के उत्तर देने के लिए उपयोग किए जाने वाले लार्ज लैंग्वेज मॉडल्स, केवल इस आधार पर कि रोगी के प्रश्नों को कैसे फ्रेम किया गया है (सकारात्मक बनाम नकारात्मक) या संवादात्मक संदर्भ क्या है, व्यवस्थित रूप से विरोधाभासी निष्कर्ष उत्पन्न कर सकते हैं, भले ही वे एक ही नैदानिक साक्ष्य पर आधारित हों, जो उच्च-जोखिम वाले रिट्रीवल-ऑगमेंटेड जनरेशन सिस्टम में वाक्यांश सुदृढ़ता (phrasing robustness) की महत्वपूर्ण आवश्यकता को रेखांकित करता है।
यह शोध पत्र "मेमोरी डायल" (Memory Dial) पेश करता है, जो एक प्रशिक्षण ढांचा है जो भाषा मॉडलों में याद रखने के दबाव (memorization pressure) को स्पष्ट रूप से नियंत्रित करने के लिए एक एकल पैरामीटर का उपयोग करता है, जिससे विभिन्न आर्किटेक्चर और बेंचमार्क में यह अध्ययन करना सक्षम होता है कि याद रखने का व्यवहार कैसे उभरता है और सामान्यीकरण (generalization) के साथ कैसे परस्पर क्रिया करता है।
यह शोध पत्र एक सुदृढीकरण अधिगम (रीइन्फोर्समेंट लर्निंग) आधारित ढांचे को प्रस्तुत करता है जो लक्षित रिट्रीवर्स के साथ बेहतर तालमेल बिठाने के लिए लैंग्वेज मॉडल्स को फाइन-ट्यून करके दस्तावेजों को अनुकूलित करता है, जिससे कोड और विजुअल डॉक्यूमेंट रिट्रीवल कार्यों में महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है और साथ ही छोटे, अधिक कुशल मॉडल्स को बड़े मॉडल्स से बेहतर प्रदर्शन करने में सक्षम बनाया जाता है।
यह शोधपत्र प्रदर्शित करता है कि कॉम्पैक्ट बहुभाषी भाषा मॉडल मुख्य रूप से अमूर्त भाषाई संरचनाओं के बजाय सतही स्तर के वर्तनी संबंधी संकेतों (orthographic cues) के इर्द-गिर्द अपने आंतरिक निरूपणों को व्यवस्थित करते हैं, जिसमें वास्तविक टाइपोलॉजिकल अमूर्तन गहरी परतों में धीरे-धीरे उभरता है बिना एक एकीकृत इंटरलिंगुआ (interlingua) बनाए।