10827 पेपर
AdaSplash-2 एक नवीन हिस्टोग्राम-आधारित इनिशियलाइज़ेशन और स्पैरसिटी-अवेयर (sparsity-aware) GPU कार्यान्वयन पेश करता है जो -entmax स्पार्स अटेंशन को नाटकीय रूप से तेज़ करता है, जिससे मध्यम-से-उच्च स्पैरसिटी स्तरों पर FlashAttention-2 के तुलनीय प्रशिक्षण गति सक्षम होती है जबकि लॉन्ग-कॉन्टेक्स्ट सेटिंग्स में बेहतर प्रदर्शन प्राप्त होता है।
यह शोध पत्र MADE को प्रस्तुत करता है, जो चिकित्सा उपकरण प्रतिकूल घटनाओं के मल्टी-लेबल टेक्स्ट वर्गीकरण के लिए एक निरंतर अपडेट होने वाला "लिविंग" बेंचमार्क है, जो डेटा संदूषण और लेबल जटिलता को संबोधित करता है साथ ही विविध आर्किटेक्चरों में मॉडल के प्रदर्शन और अनिश्चितता परिमाणीकरण का एक व्यापक मूल्यांकन प्रदान करता है।
यह शोध पत्र IRS (Incongruity-Resolution Supervision) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो दृश्य विसंगतियों (visual mismatches) की पहचान करने और उन्हें सुलझाने की संरचित तर्क प्रक्रिया को स्पष्ट रूप से सुपरवाइज़ करके मल्टीमॉडल ह्यूमर (multimodal humor) की समझ में सुधार करता है, जिससे यह न्यू यॉर्कर कार्टून कैप्शन कॉन्टेस्ट (New Yorker Cartoon Caption Contest) पर मौजूदा बेसलाइन्स से बेहतर प्रदर्शन करता है और यह प्रदर्शित करता है कि तर्क संरचना संबंधी पर्यवेक्षण (reasoning structure supervision), मॉडल के पैमाने (model scale) की तुलना में अधिक महत्वपूर्ण है।
यह शोध पत्र एक डीप लर्निंग-आधारित अम्हारिक चैटबॉट प्रस्तुत करता है जो प्राकृतिक भाषा प्रसंस्करण तकनीकों और एक न्यूरल नेटवर्क मॉडल का उपयोग करता है जिसने विश्वविद्यालय के अक्सर पूछे जाने वाले प्रश्नों (FAQs) का प्रभावी ढंग से उत्तर देने के लिए 91.55% सटीकता प्राप्त की है, जो रूपात्मक भिन्नता और शाब्दिक अंतराल जैसी भाषाई चुनौतियों को संबोधित करता है और 24 घंटे की सुलभता के लिए फेसबुक मैसेंजर पर तैनात है।
यह शोधपत्र TableMaster का परिचय देता है, जो एक व्यापक ढांचा है जो सामग्री निष्कर्षण (content extraction), अर्थपूर्ण संवर्धन (semantic enrichment) और अनुकूलन योग्य तर्क (adaptive reasoning) के माध्यम से प्रमुख चुनौतियों का समाधान करके भाषा मॉडल की तालिका समझ को बढ़ाता है, और WikiTQ डेटासेट पर अत्याधुनिक प्रदर्शन प्राप्त करता है।
पाँच मॉडलों और परिदृश्यों में 43,200 सिम्युलेटेड प्रयोगों के माध्यम से, यह अध्ययन प्रकट करता है कि जहाँ LLM-आधारित एजेंट आम तौर पर मानव पैटर्न के समान क्षमता, परोपकार और अखंडता के आधार पर मनुष्यों में विश्वास विकसित करते हैं, वहीं वे आयु, धर्म और लिंग के संबंध में महत्वपूर्ण जनसांख्यिकीय पूर्वाग्रह भी प्रदर्शित करते हैं, विशेष रूप से वित्तीय संदर्भों में।
यह शोध पत्र TRSP को प्रस्तुत करता है, जो एक नवीन दो-चरणीय रेगुलराइजेशन-आधारित स्ट्रक्चर्ड प्रूनिंग विधि है जो परतों के भार (लेयर वेट्स) को पुनरावृत्ति से सीखती है और संरक्षित परतों में ज्ञान परिवर्तन (नॉलेज शिफ्ट) को प्रोत्साहित करती है, जिससे व्यापक पुनरप्रशिक्षण की आवश्यकता के बिना उत्कृष्ट प्रदर्शन प्रतिधारण और एंड-टू-एंड त्वरण के साथ कुशल LLM परिनियोजन सक्षम होता है।
यह सर्वेक्षण इस बात की खोज करता है कि कैसे वेरिएशनल (Variational), वेक्टर क्वांटाइज्ड (Vector Quantised) और स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders) के माध्यम से डिस्ट्रीब्यूशनल सिमेंटिक स्पेस में कंपोजिशनल और सिम्बोलिक गुणों को एकीकृत करना, सिम्बोलिक और डिस्ट्रीब्यूशनल सिमेंटिक्स के बीच के अंतर को पाट सकता है, जिससे ट्रांसफॉर्मर-आधारित लैंग्वेज मॉडल्स की व्याख्यात्मकता (interpretability), नियंत्रणीयता (controllability) और सामान्यीकरण (generalization) क्षमता को बढ़ाया जा सके।
LLMEval-Fair एक गतिशील मूल्यांकन ढांचा है जो 220k स्नातक-स्तरीय प्रश्नों के एक प्रोप्रायटरी बैंक और एक स्वचालित, संदूषण-प्रतिरोधी पाइपलाइन का उपयोग करता है ताकि लार्ज लैंग्वेज मॉडल्स का सुदृढ़, निष्पक्ष और अनुदैर्ध्य मूल्यांकन प्रदान किया जा सके जो स्थिर बेंचमार्क की सीमाओं को दूर करते हैं।
RadAgents एक नवीन मल्टी-एजेंट फ्रेमवर्क है जो रेडियोलॉजिस्ट के वर्कफ़्लो का अनुकरण करने के लिए क्लिनिकल प्रायर्स (clinical priors), टास्क-अवेयर मल्टीमॉडल रीजनिंग और ग्राउंडिंग मैकेनिज्म को एकीकृत करके चेस्ट एक्स-रे व्याख्या को बढ़ाता है, जिससे नैदानिक रूप से संरेखित, विजुअली ग्राउंडेड और सत्यापन योग्य डायग्नोस्टिक आउटपुट प्राप्त होता है।