10206 पेपर
यह शोध पत्र PlanAhead फ्रेमवर्क प्रस्तुत करता है ताकि अनुभवजन्य रूप से यह प्रदर्शित किया जा सके कि प्राकृतिक भाषा योजना प्रतिनिधित्व (जैसे कि अनुक्रमिक उपलक्ष्य, वृत्तांत, स्यूडोकोड, या चेकलिस्ट) का चयन और अंतर्निहित LLM दोनों ही कठिन WebArena कार्यों पर मल्टीमॉडल वेब एजेंटों की मजबूती और सफलता दर को महत्वपूर्ण रूप से प्रभावित करते हैं।
यह शोध पत्र भाषा मॉडल सक्रियणों (activations) में निम्न-आयामी दिशाओं को स्थानीयकृत करके निरंतर चरों (continuous variables) पर कारण संबंधी हस्तक्षेप (causal interventions) के लिए एक विधि प्रस्तुत करता है, जो यह प्रदर्शित करता है कि क्रिया पूर्वाग्रह (verb bias) को निर्देशित करना डाउनस्ट्रीम सिंटैक्टिक प्राथमिकताओं को कारणतः बदल देता है, जबकि यह भी प्रकट करता है कि यद्यपि स्टीयरिंग वेक्टर इन-कॉन्टेक्स्ट लर्निंग के लिए प्रासंगिक त्रुटि संकेतों को एनकोड करते हैं, फिर भी इन संकेतों का डाउनस्ट्रीम उत्पादन के लिए कारणतः उपयोग नहीं किया जाता है।
यह शोध पत्र MIC प्रस्तुत करता है, जो एक ऐसा ढांचा है जो डायमेंशनल रेडंडेंसी (आयामी अतिरेक) को समाप्त करने और स्पेक्ट्रल यूनिफॉर्मिटी (स्पेक्ट्रल एकरूपता) सुनिश्चित करने के लिए एक सेल्फ-डिस्टिलेशन ऑब्जेक्टिव के भीतर सॉफ्ट कोलैप्स और स्पेक्ट्रल आइसोट्रॉपी रेगुलराइजेशन का उपयोग करके मल्टी-स्केल रिप्रेजेंटेशन लर्निंग को बढ़ाता है, जिससे उच्च-संपीड़न (हाई-कंप्रेशन) परिदृश्यों में सूचनात्मक क्षमता और विभेदक शक्ति में महत्वपूर्ण सुधार होता है।
यह शोध पत्र लेटेंट परफॉरमेंस प्रोफाइलिंग (LPP) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो बड़े भाषा मॉडलों का उनके छिपे हुए सक्रियणों (hidden activations) और आउटपुट वितरणों के कार्य-अज्ञेय (task-agnostic) निदान के माध्यम से मूल्यांकन करता है ताकि उन अंतर्निहित गुणों और कमजोरियों को प्रकट किया जा सके जिन्हें केवल बेंचमार्क स्कोर पकड़ने में विफल रहते हैं।
यह शोध पत्र एक ऐसे एनकोडर आर्किटेक्चर का प्रस्ताव करता है जो अर्थपूर्ण (semantic), पूर्ण (absolute) और सापेक्ष (relative) स्थिति संबंधी जानकारी को अलग-अलग स्ट्रीम्स में स्पष्ट रूप से विसंयोजित (disentangle) करता है, यह प्रकट करते हुए कि पृथक स्थिति संबंधी उप-स्थान (positional subspaces) स्वाभाविक रूप से दस्तावेज़ की संरचना को पकड़ने वाले निम्न-आयामी मैनिफोल्ड्स (low-dimensional manifolds) बनाते हैं और यह प्रदर्शित करते हुए कि यह दृष्टिकोण मानक संलग्नी (entangled) स्थिति एनकोडिंग की तुलना में भाषाई प्रतिनिधित्व में महत्वपूर्ण सुधार करता है।
यह शोध पत्र लार्ज ऑडियो-लैंग्वेज मॉडल्स के लिए जेलब्रेक हमलों और सुरक्षा प्रणालियों का एक एकीकृत वर्गीकरण और लागत-जागरूक अनुभवजन्य मूल्यांकन प्रस्तुत करता है, जो सुरक्षा सुदृढ़ता और सौहार्दपूर्ण उपयोगिता के बीच के समझौतों को रेखांकित करते हुए सिमेंटिक (अर्थ संबंधी), एकॉस्टिक (ध्वन्यात्मक) और सिग्नल डोमेन में महत्वपूर्ण कमजोरियों को उजागर करता है।
यह शोध पत्र एक इतिहास-जागरूक ढांचे (history-aware framework) को प्रस्तुत करता है जो पिछले शिक्षण अंतःक्रियाओं से छात्र प्रोफाइल उत्पन्न करने के लिए सुदृढीकरण लर्निंग (reinforcement learning) का उपयोग करता है, जो स्वचालित ट्यूटरिंग मूल्यांकन के लिए छात्र प्रतिक्रियाओं के अनुकरण में लार्ज लैंग्वेज मॉडल्स की सटीकता में महत्वपूर्ण सुधार करता है।
यह शोधपत्र HEART-Bench को प्रस्तुत करता है, जो एक नवीन बेंचमार्क है जिसे यह मूल्यांकन करने के लिए डिज़ाइन किया गया है कि क्या LLM एजेंट 64 विविध परिदृश्यों में बिग फाइव व्यक्तित्व लक्षणों और व्यापक आत्मकथात्मक स्मृतियों के आधार पर सुसंगत व्यवहार संबंधी निर्णय लेने की अपनी क्षमता का परीक्षण करके एक सुसंगत, मानव-समान मनोविज्ञान का अनुकरण कर सकते हैं।
UniSteer एक टेक्स्ट-गाइडेड फ्लो मैचिंग मॉडल है जो व्यवहार नियंत्रण, सत्यता, अवधारणा हेरफेर और वर्गीकरण के लिए एक एकीकृत ढांचे के माध्यम से फ्रोजन लार्ज लैंग्वेज मॉडल्स के बहुमुखी, सूक्ष्म स्टीयरिंग को सक्षम करने के लिए एक्टिवेशन स्पेस में एक यूनिवर्सल कंडिशनल वेलोसिटी फील्ड सीखता है।
यह शोध पत्र एडेप्टिव टार्गेटेड डायनेमिक चंकिंग (ATDC) को प्रस्तुत करता है, जो एक करिकुलम लर्निंग-आधारित तंत्र है जो फाइनवेब-एड्यू (FineWeb-Edu) 100B डेटासेट पर स्थिर प्रशिक्षण और प्रतिस्पर्धी प्रदर्शन प्राप्त करने के लिए टोकनाइजेशन-मुक्त पदानुक्रमित मॉडलों में संपीड़न अनुपातों को गतिशील रूप से अनुकूलित करता है।