11158 पेपर
यह शोध पत्र एक पिवट-आधारित एकल-मॉडल एन्सेम्बल फ्रेमवर्क प्रस्तावित करता है जो पिवट भाषाओं के माध्यम से विविध अनुवाद उम्मीदवारों को उत्पन्न करता है और पारंपरिक बहु-मॉडल एन्सेम्बल की उच्च कम्प्यूटेशनल लागतों से बचते हुए कम-संसाधन वाले भाषा युग्मों के लिए अनुवाद गुणवत्ता में सुधार करने हेतु सर्वश्रेष्ठ का एकत्रीकरण करता है।
यह शोध पत्र यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स के लिए फेडरेटेड लर्निंग में लो-रैंक अडैप्टेशन (LoRA) को एकीकृत करना, प्रदर्शन को बनाए रखते हुए और अन्य गोपनीयता-संरक्षण तकनीकों के साथ अनुकूलता प्रदान करते हुए, विविध मॉडल आकारों और डोमेन में संवेदनशील प्रशिक्षण डेटा के अनपेक्षित रटने (memorization) को महत्वपूर्ण रूप से कम करता है।
यह शोध पत्र LaVCa का प्रस्ताव करता है, जो एक नवीन डेटा-संचालित दृष्टिकोण है जो छवियों के लिए प्राकृतिक-भाषा विवरण (कैप्शन) उत्पन्न करने हेतु लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे मानव दृश्य वल्कुट (विजुअल कॉर्टेक्स) की वोक्सेल चयनात्मकता (वोक्सेल सिलेक्टिविटी) की अधिक सटीक और विस्तृत व्याख्या प्रदान होती है और मौजूदा डीप न्यूरल नेटवर्क-आधारित विधियों की तुलना में दृश्य वल्कुट के भीतर सूक्ष्म कार्यात्मक विभेदन को प्रकट किया जाता है।
यह शोध पत्र एक क्लस्टरिंग-ऑन-डिफिकल्टी (COD) फ्रेमवर्क प्रस्तावित करता है जो डाउनस्ट्रीम LLM प्रदर्शन की उच्च सटीकता (1.55% त्रुटि) के साथ भविष्यवाणी करने के लिए कार्यों को उनकी कठिनाई स्केलिंग विशेषताओं के आधार पर समूहित करता है, जो उभरती क्षमताओं और असंगत स्केलिंग पैटर्न जैसी चुनौतियों को प्रभावी ढंग से संबोधित करता है।
यह शोध पत्र यह प्रकट करता है कि जहाँ फाइन-ट्यूनिंग के कारण लार्ज लैंग्वेज मॉडल्स महिला पात्रों का अत्यधिक प्रतिनिधित्व करते हैं, वहीं वे विरोधाभासी रूप से वास्तविक दुनिया के श्रम डेटा की तुलना में पारंपरिक व्यावसायिक लैंगिक रूढ़ियों को अधिक सुदृढ़ करते हैं, जो सूक्ष्म पूर्वाग्रह शमन रणनीतियों की आवश्यकता को रेखांकित करता है।
यह शोध पत्र EDU-PRM को प्रस्तुत करता है, जो एक एंट्रॉपी-संचालित प्रोसेस रिवॉर्ड मॉडल है जो मैनुअल एनोटेशन को समाप्त करने के लिए प्रेडिक्टिव एंट्रॉपी का उपयोग करके रीजनिंग स्टेप बाउंड्रीज़ की स्वचालित रूप से पहचान करता है, और केवल 1.5% प्रशिक्षण डेटा के साथ अत्याधुनिक प्रदर्शन प्राप्त करते हुए सटीकता में उल्लेखनीय सुधार करता है और टोकन के उपयोग को कम करता है।
यह शोध पत्र CAWAI को प्रस्तुत करता है, जो एक रिट्रीवल मॉडल है जिसे दोहरे सिमेंटिक और कॉज़ल उद्देश्यों के साथ प्रशिक्षित किया गया है ताकि कारण संबंधों (causal relationships) को पकड़ने में मौजूदा प्रणालियों की सीमाओं को दूर किया जा सके, जो बड़े पैमाने पर कॉज़ल रिट्रीवल और वैज्ञानिक डोमेन में ज़ीरो-शॉट सामान्यीकरण (zero-shot generalization) में बेहतर प्रदर्शन प्रदर्शित करता है।
FreeKV एक प्रशिक्षण-मुक्त (training-free) फ्रेमवर्क है जो स्पेक्युलेटिव रिट्रीवल, फाइन-ग्रेन्ड करेक्शन और हाइब्रिड CPU-GPU मेमोरी मैनेजमेंट को जोड़ता है ताकि लार्ज लैंग्वेज मॉडल्स के लिए KV कैश रिट्रीवल को महत्वपूर्ण रूप से तेज किया जा सके, जिससे लगभग लॉसलेस सटीकता बनाए रखते हुए अत्याधुनिक तरीकों की तुलना में 13x तक की गति वृद्धि प्राप्त होती है।
SwingArena एक प्रतिस्पर्धी मूल्यांकन ढांचा है जो एक CI-संचालित पाइपलाइन के भीतर पैच सबमिटर और रिव्यूअर के रूप में LLMs को जोड़कर वास्तविक दुनिया के सॉफ्टवेयर विकास वर्कफ़्लो का अनुकरण करता है, जो कई प्रोग्रामिंग भाषाओं में लॉन्ग-कॉन्टेक्स्ट GitHub इश्यूज़ को प्रभावी ढंग से हल करने के लिए एक रिट्रीवल-ऑगमेंटेड कोड जनरेशन मॉड्यूल का उपयोग करता है।
यह शोध पत्र MMTU को प्रस्तुत करता है, जो 25 वास्तविक दुनिया के विशेषज्ञ-स्तरीय तालिका कार्यों में 28,000 से अधिक प्रश्नों वाला एक बड़े पैमाने का बेंचमार्क है, जिसे संरचित सारणीबद्ध डेटा (structured tabular data) को समझने, तर्क करने और हेरफेर करने में वर्तमान अत्याधुनिक मॉडलों की महत्वपूर्ण सीमाओं का व्यापक रूप से मूल्यांकन करने और उन्हें प्रकट करने के लिए डिज़ाइन किया गया है।