21579 पेपर
MuonSSM एक सामान्य ढांचा है जो एक मोमेंटम-आधारित पाथवे और मेमोरी अपडेट की ज्यामिति को स्पष्ट रूप से अनुकूलित करने के लिए एक हल्के न्यूटन-शुल्ज़ ट्रांसफॉर्मेशन को पेश करके लंबी-अनुक्रम मॉडलिंग के लिए स्टेट स्पेस मॉडल्स को स्थिर करता है, जिससे समानांतर स्कैन जटिलता को संरक्षित करते हुए भाषा, दृष्टि और टाइम-सीरीज कार्यों में ग्रेडिएंट प्रसार और प्रदर्शन में सुधार होता है।
यह शोध पत्र फैक्टरिजेबल नॉर्मलाइजिंग फ्लोज़ (FNFs) को प्रस्तुत करता है, जो एक स्केलेबल और व्याख्या योग्य ढांचा है जो एक निश्चित संदर्भ प्रवाह (fixed reference flow) को एक सीखने योग्य, फैक्टरिज़्ड बहुपद रूपांतरण (learnable, factorized polynomial transformation) के साथ जोड़कर पैरामीटर-निर्भर घनत्व विरूपणों को मॉडल करता है, जिससे घातीय रूप से बड़े संयुक्त पैरामीटर स्थानों के नमूनाकरण की कम्प्यूटेशनल जटिलता के बिना कुशल अनुमान सक्षम होता है।
यह शोध पत्र डबली रोबस्ट अडैप्टिव कॉन्फॉर्मल इन्फरेंस (DR-ACI) का प्रस्ताव करता है, जो एक नवीन विधि है जो टेम्पोरल डिपेंडेंस (सामयिक निर्भरता) की उपस्थिति में डबली रोबस्ट सूडो-आउटकम्स के लिए वैध प्रेडिक्शन इंटरवल्स का निर्माण करती है।
यह शोध पत्र यह प्रदर्शित करता है कि म्यूऑन (Muon) ऑप्टिमाइज़र धीमी सैडल-टू-सैडल (saddle-to-saddle) गतिशीलता से बचकर मैट्रिक्स फैक्टराइजेशन को तेज़ करता है, उच्च लर्निंग रेट के साथ स्थिर प्रशिक्षण सक्षम करता है, और विशिष्ट संरक्षित मात्राओं (conserved quantities) एवं तीव्र भार संरेखण (weight alignment) के माध्यम से संतुलित समाधान प्राप्त करता है।
यह शोध पत्र एक हाइब्रिड क्वांटम-क्लासिकल वर्कफ़्लो पेश करता है जो LCNot-UCCSD इनिशियलाइज़ेशन और एक रिस्ट्रिक्टेड बोल्ट्ज़मैन मशीन-आधारित जनरेटिव मॉडल (QSCI-RBM) को संयोजित करता है ताकि शोर वाले इंटरमीडिएट-स्केल क्वांटम हार्डवेयर पर प्रोटीन-लिगैंड बाइंडिंग ऊर्जाओं का कुशलतापूर्वक अनुकरण किया जा सके, जो अमानटाडाइन और SARS-CoV-2 प्रोटीज जैसे उद्योग-प्रासंगिक ड्रग लक्ष्यों पर कम कम्प्यूटेशनल संसाधनों के साथ इसकी प्रभावकारिता को प्रदर्शित करता है।
यह शोध पत्र TraceLab प्रस्तुत करता है, जो 4,300 से अधिक वास्तविक दुनिया के कोडिंग-एजेंट सत्रों का एक व्यापक डेटासेट और विश्लेषण है, ताकि लंबे स्वायत्त लूप (long autonomous loops) और विविध टूल कॉल्स जैसे अद्वितीय वर्कलोड पैटर्न को चित्रित किया जा सके, जिससे LLM सर्विंग सिस्टम को अनुकूलित करने के विशिष्ट अवसरों की पहचान की जा सके।
यह शोध पत्र LLM एजेंट प्रक्षेपवक्रों (trajectories) में एक सुदृढ़, फॉरेंसिक रूप से कार्रवाई योग्य व्यवहारिक अपरिवर्तनीयता (behavioral invariant) की पहचान करता है—विशेष रूप से निरंतर मेमोरी पॉइजनिंग के तहत डेटा एक्सफिल्ट्रेशन से पहले एक अनिवार्य मेमोरी रिट्रीवल चरण—जो विविध मॉडलों में अत्यधिक सटीक पहचान (AUC 0.9904 तक) और वास्तविक समय में ब्लॉकिंग को सक्षम बनाता है, जबकि मेमोरी-चैनल हमलों को प्रॉम्प्ट-इंजेक्शन प्रयासों से अलग करता है।
यह शोध पत्र SWE-Interact को प्रस्तुत करता है, जो एक नया बेंचमार्क है जो यथार्थवादी, मल्टी-टर्न, उपयोगकर्ता-संचालित सॉफ्टवेयर इंजीनियरिंग कार्यों पर कोडिंग एजेंटों का मूल्यांकन करता है, जिससे यह पता चलता है कि पारंपरिक सिंगल-टर्न बेंचमार्क पर मजबूत प्रदर्शन प्रभावी वास्तविक दुनिया के विकास के लिए आवश्यक इंटरैक्टिव, इटरेटिव वर्कफ़्लो में विश्वसनीय रूप से परिवर्तित नहीं होता है।
यह शोध पत्र एक कठोर मिनिमैक्स ढांचे को स्थापित करता है जो यह प्रदर्शित करता है कि, मानक स्थिरता धारणाओं के तहत, किसी भी वैध ट्रांसपोर्ट मैप का अनुमान लगाना सांख्यिकीय रूप से इष्टतम (ऑप्टिमल) ट्रांसपोर्ट मैप का अनुमान लगाने जितना ही कठिन है, हालांकि इन धारणाओं के विफल होने पर महत्वपूर्ण लाभ उत्पन्न हो सकते हैं।
यह शोध पत्र ट्यूटरिंग और पीयर रिव्यूइंग में एलएलएम (LLMs) के लिए बेयसियन सिद्धांत और जोखिम-अवरोधक रणनीतियों पर आधारित अनिश्चितता-जागरूक निर्णय लेने वाले एल्गोरिदम का प्रस्ताव और मूल्यांकन करता है, यह प्रदर्शित करते हुए कि हालांकि ये विधियाँ जनरेशन उपयोगिता में सुधार कर सकती हैं, बेयसियन दृष्टिकोण आम तौर पर जोखिम-अवरोधक नियमों से बेहतर प्रदर्शन करते हैं जो अस्पष्ट परिदृश्यों में अत्यधिक सामान्य आउटपुट की ओर ले जा सकते हैं।