10789 पेपर
यह योगदान स्पीच-टू-टेक्स्ट मॉडलों में कंट्रास्टिव स्पष्टीकरण (contrastive explanations) उत्पन्न करने की पहली विधि प्रस्तुत करता है, जो यह विश्लेषण करती है कि इनपुट स्पेक्ट्रोग्राम फीचर्स वैकल्पिक आउटपुट के बीच चयन को कैसे प्रभावित करते हैं, और स्पीच ट्रांसलेशन में जेंडर असाइनमेंट पर एक केस स्टडी के माध्यम से उनकी प्रभावशीलता को प्रदर्शित करता है।
यह शोध पत्र GISP को प्रस्तुत करता है, जो एक वैश्विक पुनरावृत्ति संरचित प्रूनिंग (iterative structured pruning) विधि है जो अटेंशन हेड्स और MLP चैनलों को कुशलतापूर्वक हटाने के लिए प्रथम-क्रम हानि-आधारित महत्व स्कोर (first-order loss-based importance scores) को एकत्रित करती है, जिससे यह उच्च विरलता स्तरों (high sparsity levels) पर सटीकता को स्थिर करने और मध्यवर्ती फाइन-ट्यूनिंग के बिना कार्य-विशिष्ट अनुकूलन को सक्षम करने में पारंपरिक स्थानीय प्रतिमानों (local paradigms) से बेहतर प्रदर्शन करती है।
यह शोध पत्र प्रकट करता है कि LLM-आधारित जज विभिन्न रन के दौरान महत्वपूर्ण इंट्रा-रेटर विसंगति प्रदर्शित करते हैं, जो उनके स्कोर की विश्वसनीयता को कम करता है, और यह जांच करता है कि क्या विशिष्ट दिशानिर्देशों के माध्यम से ऐसे मूल्यांकनों का अभी भी प्रभावी ढंग से उपयोग किया जा सकता है।
यह शोधपत्र MiMo-Embodied को प्रस्तुत करता है, जो पहला ओपन-सोर्स क्रॉस-एम्बोडेड फाउंडेशन मॉडल है जो मल्टी-स्टेज लर्निंग, क्यूरेटेड डेटा और CoT/RL फाइन-ट्यूनिंग का लाभ उठाकर स्वायत्त ड्राइविंग (autonomous driving) और एम्बोडेड एआई (embodied AI) दोनों में अत्याधुनिक प्रदर्शन प्राप्त करता है ताकि इन दोनों डोमेन के बीच मजबूत सकारात्मक स्थानांतरण (positive transfer) को प्रदर्शित किया जा सके।
यह अध्ययन इस बात की जांच करता है कि कैसे स्पीच ट्रांसलेशन मॉडल वक्ता-संदर्भित शब्दों को व्याकरणिक लिंग आवंटित करते हैं, यह प्रकट करते हुए कि जबकि आंतरिक भाषा मॉडल एक पुरुष प्रधान पूर्वाग्रह प्रदर्शित करते हैं, उच्च-प्रदर्शन वाले मॉडल ध्वनिक संकेतों (acoustic cues) और एक नवीन तंत्र का उपयोग करके इसे ओवरराइड कर सकते हैं जो केवल पिच के बजाय वितरित आवृत्ति स्पेक्ट्रम जानकारी के माध्यम से प्रथम-पुरुष सर्वनामों को लिंग-निर्धारित शब्दों से जोड़ता है।
यह शोध पत्र व्यापक रूप से उपयोग किए जाने वाले विजन-लैंग्वेज-एक्शन (VLA) डेटासेट्स का एक व्यवस्थित ऑडिट प्रस्तुत करता है, जो यह प्रकट करता है कि वे मुख्य रूप से सीमित भाषाई विविधता वाले दोहरावपूर्ण, टेम्पलेट जैसे निर्देशों पर निर्भर हैं, जिससे भाषा के कवरेज को व्यापक बनाने के लिए अधिक सिद्धांतवादी डेटासेट क्यूरेशन और रिपोर्टिंग की आवश्यकता पर बल मिलता है।
यह शोध पत्र नैदानिक निर्णय सहायता के लिए विभिन्न ओपन-सोर्स ऑन-डिवाइस लार्ज लैंग्वेज मॉडल्स का बेंचमार्किंग और अनुकूलन करता है, यह प्रदर्शित करते हुए कि वे बेहतर गोपनीयता और संसाधन दक्षता प्रदान करते हुए, विशेष रूप से फाइन-ट्यूनिंग के माध्यम से संवर्धित होने पर, अत्याधुनिक प्रोप्रायटरी मॉडल्स के तुलनीय या उनसे अधिक नैदानिक सटीकता प्राप्त कर सकते हैं।
यह शोध पत्र MGSM-Pro प्रस्तुत करता है, जो GSM-Symbolic बेंचमार्क का एक बहुभाषी विस्तार है जो कई अंक-परिवर्तित इंस्टेंशिएशन (digit-varying instantiations) उत्पन्न करके नौ भाषाओं में गणितीय तर्क संबंधी सुदृढ़ता का मूल्यांकन करता है, जिससे कम-संसाधन वाली भाषाओं में प्रदर्शन में महत्वपूर्ण गिरावट और ऐसे व्यवधानों के प्रति मॉडलों की भिन्न लचीलापन का पता चलता है।
यह शोध पत्र TimeMachine-bench प्रस्तुत करता है, जो वास्तविक दुनिया के रिपॉजिटरी-स्तरीय सॉफ्टवेयर माइग्रेशन कार्यों पर LLMs का मूल्यांकन करने के लिए एक स्वचालित और लाइव-अपडेट होने वाला बेंचमार्क है, जो यह प्रकट करता है कि हालांकि मॉडल आशाजनक दिखते हैं, वे वर्तमान में स्प्यूरियस (spurious) समाधानों और उप-इष्टतम टूल उपयोग जैसी विश्वसनीयता संबंधी समस्याओं के साथ संघर्ष करते हैं।
यह शोध पत्र पहला व्यवस्थित अध्ययन प्रस्तुत करता है जो यह प्रदर्शित करता है कि सोर्स कोड को छवियों के रूप में निरूपित करने से विजन लैंग्वेज मॉडल्स (Vision Language Models) विभिन्न कोड समझ संबंधी कार्यों पर प्रदर्शन को बनाए रखते हुए या यहाँ तक कि सुधारते हुए उच्च संपीड़न अनुपातों (compression ratios) के माध्यम से महत्वपूर्ण कम्प्यूटेशनल दक्षता प्राप्त करने में सक्षम होते हैं।