24346 पेपर
यह शोध पत्र "टेम्पोरल मेमोरी कंटैमिनेशन" (temporal memory contamination) की अवधारणा प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि मेमोरी-युक्त LLM एजेंट स्वतंत्र कार्यों के माध्यम से समय के साथ सुरक्षा जोखिमों को संचित करते हैं, जिससे सिंगल-स्टेट से लॉन्गिट्यूडिनल (longitudinal) सुरक्षा मूल्यांकन की ओर बदलाव आवश्यक हो जाता है।
यह शोध पत्र नॉलेज इंफ्रास्ट्रक्चर (KI) को प्रस्तुत करता है, जो एक एजेंट-सक्षम स्कैफोल्ड (scaffold) है जो वैज्ञानिक विशेषज्ञता को बाह्य रूप प्रदान करता है ताकि एआई एजेंटों को विविध डोमेन में जटिल अर्थ विज्ञान (Earth science) सिमुलेशन को सफलतापूर्वक निष्पादित करने में सक्षम बनाया जा सके, जिससे प्रक्रिया-आधारित मॉडलिंग तक पहुंच का लोकतंत्रीकरण हो सके और एक सहयोगात्मक वैज्ञानिक कॉमन्स (scientific commons) को बढ़ावा मिल सके।
यह शोध पत्र PAREDA को प्रस्तुत करता है, जो एक नवीन बहु-लहजा (multi-accent) भाषण डेटासेट है जिसमें ऑस्ट्रेलियाई, भारतीय-अंग्रेजी और चीनी अंग्रेजी लहजे वाले वक्ताओं के बीच एनएलपी (NLP) शोध पत्रों पर सहज चर्चा शामिल है, जो यह प्रदर्शित करता है कि जहाँ अत्याधुनिक एएसआर (ASR) मॉडल ज़ीरो-शॉट सेटिंग्स में संघर्ष करते हैं, वहीं इस डोमेन-विशिष्ट संग्रह पर फाइन-ट्यूनिंग करने से उनके प्रदर्शन और मजबूती में काफी सुधार होता है।
यह शोध पत्र PAIR का प्रस्ताव करता है, जो एक प्रिफिक्स-अवेयर इंटरनल रिवॉर्ड मॉडल है जो मल्टी-टर्न एजेंट ऑप्टिमाइज़ेशन के लिए डेंस, लो-कॉस्ट स्टेप-लेवल रिवॉर्ड्स उत्पन्न करने हेतु एक फ्रोजन हिडन-स्टेट प्रोब को एक लाइटवेट अटेंशन-आधारित हेड के साथ जोड़ता है, जो प्रभावी रूप से स्पार्स आउटकम रिवॉर्ड्स और प्रिफिक्स कंटैमिनेशन के तहत प्रोब्स के क्षरण की सीमाओं को दूर करता है।
गार्ड (Guard) एक स्केलेबल सिस्टम है जो बड़े पैमाने पर प्रशिक्षण क्लस्टर्स में स्ट्रैग्लर्स (stragglers) का सक्रिय रूप से पता लगाने और नोड स्वास्थ्य सुनिश्चित करने के लिए लाइटवेट ऑनलाइन मॉनिटरिंग को ऑफलाइन नोड-स्वीपिंग के साथ जोड़ता है, जिससे FLOPs उपयोगिता में उल्लेखनीय सुधार होता है, प्रदर्शन भिन्नता कम होती है, और परिचालन ओवरहेड घटता है।
यह शोध पत्र OASIS को प्रस्तुत करता है, जो एक नवीन तकनीक है जो AttnResidual आर्किटेक्चर में अटेंशन सिंक्स (attention sinks) और एक्टिवेशन आउटलेयर्स (activation outliers) को कम करने के लिए इंटर-लेयर नल सिग्नलिंग (inter-layer null signaling) का लाभ उठाती है, जिससे इन्फरेंस स्थिरता (inference stability), क्वांटाइजेशन मजबूती (quantization robustness) और डाउनस्ट्रीम टास्क प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र ChildAgentEval प्रस्तुत करता है, जो वेक्सलर इंटेलिजेंस स्केल फॉर चिल्ड्रन (Wechsler Intelligence Scale for Children) से प्रेरित पहला मनोवैज्ञानिक रूप से आधारित संवादात्मक बेंचमार्क है, जिसे यह मूल्यांकन करने के लिए डिज़ाइन किया गया है कि MLLM-आधारित AI एजेंट विशिष्ट मानव विकासात्मक चरणों के साथ कितनी अच्छी तरह संरेखित होते हैं और उन बुनियादी कार्यों को करने में अपनी सीमाओं की पहचान करते हैं जिन्हें बच्चे आसानी से हल कर सकते हैं।
यह शोध पत्र DCFold को पेश करता है, जो एक सिंगल-स्टेप जनरेटिव मॉडल है जो एक नवीन ड्यूल कंसिस्टेंसी ट्रेनिंग फ्रेमवर्क और टेम्पोरल जियोडेसिक मैचिंग शेड्यूलर के माध्यम से इन्फरेंस को 15 गुना तेज करते हुए, प्रोटीन संरचना भविष्यवाणी और बाइंडर डिजाइन में AlphaFold3-स्तर की सटीकता प्राप्त करता है।
यह शोध पत्र यह स्थापित करता है कि जैकोबियन सपोर्ट पैटर्न (Jacobian support pattern) पर संरचनात्मक विरलता (structural sparsity) को लागू करके केवल एक एकल युग्मित एंकर नमूने (single paired anchor sample) के साथ डोमेन ट्रांसफर को पहचानने योग्य बनाया जा सकता है, जो एक स्केलेबल समाधान प्रदान करता है जिसके लिए पूर्व विधियों की तुलना में काफी कम पर्यवेक्षण की आवश्यकता होती है।
यह शोध पत्र AdaptiveLoad को प्रस्तुत करता है, जो एक अनुकूलन ढांचा (optimization framework) है जिसमें ड्यूल-कन्स्ट्रेंट लोड बैलेंसिंग और एक फ्यूज्ड LayerNorm-Modulate CUDA कर्नल शामिल है, जो परिवर्तनशील अनुक्रम लंबाई (variable sequence lengths) के कारण होने वाले कम्प्यूटेशनल असंतुलन को संबोधित करके बड़े पैमाने के वीडियो डिफ्यूजन ट्रांसफॉर्मर्स के लिए प्रशिक्षण दक्षता और GPU उपयोगिता को महत्वपूर्ण रूप से बढ़ाता है।