11683 पेपर
यह शोध पत्र कुशल मल्टी-टास्क कोड एलएलएम (LLMs) बनाने के लिए डेटा मिक्सिंग और मॉडल मर्जिंग रणनीतियों की तुलना करता है, जिसमें यह पाया गया है कि बड़े पैमाने (7B) पर मॉडल मर्जिंग, विशिष्ट प्रदर्शन को बनाए रखते हुए या उसे बढ़ाते हुए डेटा मिक्सिंग से बेहतर प्रदर्शन करती है, जबकि छोटे पैमाने (2B) पर डेटा मिक्सिंग को प्राथमिकता दी जाती है।
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडल पारंपरिक बेयसियन विधियों की तुलना में उच्च सटीकता और कम आय पूर्वाग्रह के साथ नामों से जातीयता का सहजता से अनुमान लगा सकते हैं, जो विविध वैश्विक संदर्भों में सुदृढ़ प्रदर्शन प्राप्त करते हैं और फाइन-ट्यून किए गए छोटे मॉडलों के माध्यम से लागत प्रभावी स्थानीय परिनियोजन को सक्षम करते हैं।
यह शोध पत्र Maxwait को प्रस्तुत करता है, जो Lingua Franca भाषा में कार्यान्वित एक सामान्यीकृत समन्वय तंत्र (coordination mechanism) है जो विविध वितरित प्रणाली पैटर्न और शास्त्रीय विधियों को एक एकल सिमेंटिक ढांचे के तहत एकीकृत करता है ताकि समय-संवेदनशील अनुप्रयोगों में समय संबंधी आवश्यकताओं और निरंतरता (consistency) के बीच के समझौतों को स्पष्ट रूप से प्रबंधित किया जा सके।
यह शोध पत्र यह प्रदर्शित करता है कि एम्बेडिंग मॉडल्स को रीजनिंग-एन्हांस्ड LLMs के साथ इनिशियलाइज़ करने से बेस मॉडल्स की तुलना में कोई प्रदर्शन लाभ नहीं मिलता है क्योंकि वेरिफिएबल रिवार्ड्स के साथ रीइन्फोर्समेंट लर्निंग (RLVR) ग्लोबल सिमेंटिक मैनिफोल्ड को सुरक्षित रखता है, जिससे बाद वाली कंट्रास्टिव लर्निंग इनिशियलाइजेशन के बावजूद रिप्रेजेंटेशन्स को पुन: संरेखित करने की अनुमति देता है।
यह शोध पत्र प्रीट्रेनिंग डेटा को ध्यान में रखते हुए एक सुदृढ़ मूल्यांकन बेंचमार्क का प्रस्ताव देकर और उस प्रीट्रेनिंग डेटा की पुनर्प्राप्ति (रिट्रीवल) के माध्यम से मॉडल की ईमानदारी को बढ़ाने की एक नवीन विधि पेश करके एलएलएम (LLM) मतिभ्रम (hallucinations) की समस्या का समाधान करता है।
यह शोध पत्र SHARP को प्रस्तुत करता है, जो एक बहुआयामी और वितरण-जागरूक (distribution-aware) मूल्यांकन ढांचा है जो जोखिम प्रोफाइल और CVaR जैसे टेल-सेंसिटिव (tail-sensitive) मेट्रिक्स का उपयोग करके बड़े भाषा मॉडल (large language models) में सामाजिक नुकसान को मापने के लिए स्केलर औसत से आगे बढ़ता है, जिससे महत्वपूर्ण छिपी हुई असमानताओं और उन चरम विफलताओं (worst-case failures) का खुलासा होता है जिन्हें पारंपरिक बेंचमार्क अस्पष्ट कर देते हैं।
यह शोध पत्र DAMI का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त ढांचा है जो गणितीय तर्क में बेहतर सटीकता-दक्षता संतुलन प्राप्त करने के लिए क्वेरी-विशिष्ट तर्क तीव्रता का उपयोग करते हुए सहज सिस्टम 1 और विचारशील सिस्टम 2 मॉडल चेकपॉइंट्स के बीच गतिशील रूप से इंटरपोलेट करता है।
यह शोध पत्र Topeax को प्रस्तुत करता है, जो एक उन्नत क्लस्टरिंग टॉपिक मॉडल है जो स्वचालित क्लस्टर खोज के लिए डेंसिटी पीक डिटेक्शन और उच्च-गुणवत्ता वाले, सुसंगत टॉपिक कीवर्ड्स उत्पन्न करने के लिए एक हाइब्रिड लेक्सिकल-सिमेंटिक दृष्टिकोण का उपयोग करके Top2Vec और BERTopic जैसी मौजूदा विधियों की संवेदनशीलता और टर्म इम्पॉर्टेंस की सीमाओं को संबोधित करता है।
यह शोध पत्र एलएलएम (LLM) के भावनात्मक स्वर को नियंत्रित करने के लिए एक्टिवेशन स्टीयरिंग (activation steering) का पहला मानव मूल्यांकन प्रस्तुत करता है, जो यह प्रदर्शित करता है कि मध्यम स्टीयरिंग स्ट्रेंथ (steering strength) टेक्स्ट की गुणवत्ता को बनाए रखते हुए विशिष्ट भावनाओं को प्रभावी ढंग से बढ़ाती है, जिसमें मानव और स्वचालित रेटिंग के बीच मजबूत संरेखण है और अल्पाका (Alpaca) से लामा-3 (LlaMA-3) में अपग्रेड करने पर बेहतर निरंतरता देखी गई है।
यह शोधपत्र लैंडमार्क (LMK) पूलिंग को प्रस्तुत करता है, जो एक नवीन रिप्रजेंटेशन लर्निंग रणनीति है जो अनुक्रमों (sequences) को लैंडमार्क टोकन सम्मिलित करने वाले चंक्स (chunks) में विभाजित करती है ताकि स्थानीय प्रमुख विशेषताओं और दीर्घ-संदर्भ एक्सट्रपलेशन (long-context extrapolation) के बीच प्रभावी ढंग से संतुलन बनाया जा सके, जिससे लघु-संदर्भ प्रदर्शन को बनाए रखते हुए दीर्घ-संदर्भ कार्यों पर पारंपरिक [CLS] और मीन पूलिंग विधियों से बेहतर प्रदर्शन किया जा सके।