10095 पेपर
यह शोध पत्र इस बात की जांच करता है कि क्या CP टेंसर एडेप्टर, जो पारंपरिक LoRA की तुलना में काफी सूक्ष्म पैरामीटर बजट वृद्धि प्रदान करते हैं, लो-रैंक PEFT में सटीकता-बजट ट्रेड-ऑफ में सुधार करते हैं, यह पाते हुए कि हालांकि वे स्थिर प्रशिक्षण और बेहतर बजट संवेदनशीलता निदान को सक्षम करते हैं, उनके प्रदर्शन लाभ कार्य-निर्भर हैं और वे सार्वभौमिक रूप से LoRA से बेहतर नहीं होते हैं।
SALSA एक हल्का अनुकूलन तरीका है जो लेयर-वाइज स्टीयरिंग वेक्टर्स को सीधे ऑप्टिमाइज़ करके उच्च-स्तरीय ध्वनिक (acoustic) निरूपणों को प्रीट्रेंड लैंग्वेज मॉडल स्पेस के साथ संरेखित करता है, जिससे आउट-ऑफ-डोमेन सेटिंग्स में स्पीच-अवेयर लार्ज लैंग्वेज मॉडल्स के सामान्यीकरण में सुधार होता है और ज़ीरो-शॉट एवं इन-कॉन्टेक्स्ट लर्निंग बेसलाइन्स की तुलना में महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।
यह शोध पत्र यह प्रदर्शित करता है कि एनोटेशन कार्यों में लार्ज लैंग्वेज मॉडल्स का प्रदर्शन मुख्य रूप से उनके आंतरिकीकृत प्रायों (internalized priors) और कार्य परिभाषाओं के बीच संरेखण द्वारा सीमित है न कि टेक्स्ट-स्तरीय स्मृति (text-level memorization) द्वारा, जो यह प्रकट करता है कि लगभग दो-तिहाई ज़ीरो-शॉट त्रुटियाँ प्रॉम्प्ट-आधारित सुधार के प्रति प्रतिरोधी बनी रहती हैं।
यह शोध पत्र UniKE को प्रस्तुत करता है, जो यूनिफाइड मल्टीमॉडल मॉडल्स (UMMs) में क्रॉस-मोडल नॉलेज एडिटिंग के लिए पहला बेंचमार्क है, जो टेक्स्ट और इमेज जनरेशन प्रभावकारिता के बीच एक महत्वपूर्ण अंतर को प्रकट करता है और विजुअल नॉलेज ट्रांसफर को बेहतर बनाने के लिए एक रीजनिंग-ऑगमेंटेड पैरामीटर एडिटिंग पद्धति का प्रस्ताव करता है।
ProactiveLLM बड़े भाषा मॉडलों (large language models) के लिए एक नवीन फ्रेमवर्क पेश करता है जो मास्क-आधारित स्ट्रीमिंग मॉडलिंग और सिंक्रोनाइज्ड प्रिविलेज्ड सेल्फ-डिस्टिलेशन के माध्यम से सीखे गए एंडोजेनस सिमेंटिक सफिशिएंसी क्यूज़ (endogenous semantic sufficiency cues) का लाभ उठाकर सक्रिय इंटरेक्शन निर्णय सक्षम बनाता है, जिससे बाहरी अलाइनमेंट सिग्नल्स पर निर्भर किए बिना लेटेंसी और कंप्यूटेशन को कम किया जाता है।
यह शोधपत्र मल्टी-रिस्पॉन्स ट्रेनिंग (MRT) को मानक सिंगल-रिस्पॉन्स फाइन-ट्यूनिंग के एक सांख्यिकीय रूप से सुदृढ़ विकल्प के रूप में प्रस्तुत करता है, जो यह प्रदर्शित करता है कि प्रति प्रॉम्प्ट कई वैध पूर्णताओं (completions) को बनाए रखने से भाषा मॉडल का सामान्यीकरण (generalization) बेहतर होता है, क्योंकि यह एक सिद्धांत-आधारित वेरिएंस-बजट ट्रेडऑफ़ और इष्टतम रिस्पॉन्स चयन रणनीतियों के माध्यम से सशर्त आउटपुट वितरणों को बेहतर ढंग से कैप्चर करता है और "मोड लॉटरी" (mode lottery) से बचता है।
यह शोध पत्र सेफ्टी एसिमेट्री स्कोर (SAS) को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि टूल का उपयोग करने वाले भाषा मॉडल चैनल-निर्भर विश्वास पूर्वाग्रह प्रदर्शित करते हैं, जो उपयोगकर्ता संदेशों की तुलना में टूल मेटाडेटा या आउटपुट के माध्यम से वितरित किए जाने पर समान प्रतिकूल पेलोड के प्रति काफी अधिक संवेदनशील हो जाते हैं, एक ऐसी घटना जो गैर-रेखीय सुरक्षा निरूपण और टूल डेटा को विश्वसनीय निर्देशों के रूप में निहित उपचार द्वारा संचालित होती है।
यह शोध पत्र यह प्रदर्शित करता है कि सैंडबॉक्स्ड टूल्स से लैस केवल टेक्स्ट-आधारित कोडिंग एजेंट, मल्टीमॉडल समस्याओं को सूचना-प्रसंस्करण वर्कफ़्लो में बदलकर जटिल ऑडियो-वीडियो कार्यों को प्रभावी ढंग से हल कर सकते हैं, जो अक्सर नेटिव ओम्नीमॉडल मॉडलों से बेहतर प्रदर्शन करते हैं, साथ ही यह ओपन-सोर्स मैनी-मोडैलिटी प्रोसेसिंग को आगे बढ़ाने के लिए कोड-एक्स (Code-X) ट्रेनिंग रेसिपी और टर्मिनलबेंच-ओ (TerminalBench-O) बेंचमार्क को भी पेश करता है।
MemPro एक सिस्टम-लेवल इवोल्यूशन फ्रेमवर्क है जो संपूर्ण मेमोरी कंस्ट्रक्शन-रिट्रीवल पाइपलाइन को एक इवॉलेबल प्रोग्राम के रूप में मानता है, जो स्वायत्त एजेंटों को विफलताओं का निदान करने और अपने मेमोरी सिस्टम को परिष्कृत करने में सक्षम बनाता है ताकि वे लॉन्ग-होराइजन कार्यों में स्टैटिक और प्रॉम्प्ट-लेवल बेसलाइन्स से बेहतर प्रदर्शन कर सकें।
यह शोधपत्र प्रदर्शित करता है कि वर्ब क्लस्टरिंग के माध्यम से फ्रेंच लेक्सिकॉन-ग्रामर से डेटा को एकीकृत करना फ्रेंच के लिए एक संभाव्य कॉन्टेक्स्ट-फ्री ग्रामर पार्सर की सटीकता में महत्वपूर्ण रूप से सुधार करता है।