23845 पेपर
यह शोध पत्र Clean-PR को प्रस्तुत करता है, जो एक मिड-ट्रेनिंग प्रतिमान (paradigm) है जो पुनर्गठित (reconstructed) GitHub पुल रिक्वेस्ट के एक विशाल संग्रह का लाभ उठाता है ताकि मॉडल रिपॉजिटरी-स्तरीय कोड संपादन क्षमताओं को आत्मसात कर सकें, जो जटिल एजेंट स्कैफोल्डिंग पर निर्भर हुए बिना SWE-bench पर बेसलाइन से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र काइनेटिक पाथ एनर्जी (KPE) को एक भौतिकी-प्रेरित नैदानिक (diagnostic) के रूप में प्रस्तुत करता है जो फ्लो-आधारित जनरेटिव मॉडल्स में प्रक्षेपवक्र प्रयास (trajectory effort) को सिमेंटिक फिडेलिटी और डेटा स्पर्सिटी से जोड़ता है, जो एक गैर-एकदिष्ट (non-monotonic) संबंध को प्रकट करता है जहाँ अत्यधिक ऊर्जा मेमोराइजेशन का कारण बनती है, और बेहतर जनरेशन गुणवत्ता के लिए इस संतुलन को अनुकूलित करने हेतु एक ट्रेनिंग-फ्री इन्फरेंस रणनीति के रूप में काइनेटिक ट्रजेक्टरी शेपिंग (KTS) का प्रस्ताव करता है।
यह शोधपत्र ट्रांसफॉर्मेशन-इनवर्टिंग एनर्जी डिफ्यूजन (TIED) को प्रस्तुत करता है, जो एक नवीन विधि है जो अज्ञात डेटा रूपांतरणों को संभाव्य रूप से उलटने के लिए ली ग्रुप्स (Lie groups) पर डिफ्यूजन प्रक्रियाओं और एक नए ट्रिवियलाइज्ड टारगेट-स्कोर आइडेंटिटी का लाभ उठाती है, जिससे इमेज होमोग्राफी और PDE सिमिट्रीज़ जैसे इनपुट विरूपणों के प्रति प्रीट्रेंड न्यूरल नेटवर्क्स की मजबूती बढ़ती है।
यह शोधपत्र एक ऐसे ढांचे का प्रस्ताव करता है जो भाषा मॉडल एजेंटों में लक्ष्य-निर्देशितता (goal-directedness) का मूल्यांकन करने के लिए व्यवहारिक परीक्षण को व्याख्यात्मक विश्लेषण (interpretability analysis) के साथ जोड़ता है, और ग्रिड-वर्ल्ड केस स्टडी के माध्यम से यह प्रदर्शित करता है कि जबकि एजेंट सुदृढ़ प्रदर्शन प्रदर्शित करते हैं, उनके स्थानिक मानचित्रों (spatial maps) और कार्य योजनाओं (action plans) के आंतरिक प्रतिनिधित्व तर्क प्रक्रिया के दौरान गैर-रेखीय पुनर्गठन (non-linear reorganization) से गुजरते हैं, जो केवल व्यवहारिक अवलोकन से परे आत्मनिरीक्षण संबंधी जांच की आवश्यकता को रेखांकित करता है।
यह शोध पत्र यह प्रदर्शित करता है कि बड़े भाषा मॉडलों के प्रीट्रेनिंग के दौरान वेट डिके (weight decay) बढ़ाने से उनकी डाउनस्ट्रीम प्लास्टिसिटी और फाइन-ट्यूनिंग प्रदर्शन में वृद्धि होती है, भले ही इसके परिणामस्वरूप प्रीट्रेनिंग वैलिडेशन लॉस अधिक हो जाए, क्योंकि यह रैखिक रूप से विभाज्य (linearly separable) निरूपणों को बढ़ावा देता है और अटेंशन मैकेनिज्म को नियमित (regularize) करता है।
यह स्थिति पत्र (position paper) तर्क देता है कि वर्तमान ईसीजी (ECG) रिप्रजेंटेशन लर्निंग बेंचमार्क बहुत संकीर्ण और त्रुटिपूर्ण हैं, यह प्रदर्शित करते हुए कि उचित मूल्यांकन पद्धतियां अक्सर यह दर्शाती हैं कि रैंडम एनकोडर्स अत्याधुनिक प्री-ट्रेनिंग मॉडलों के बराबर प्रदर्शन करते हैं, और संरचनात्मक हृदय रोग तथा रोगी-स्तरीय पूर्वानुमान को शामिल करने हेतु मूल्यांकन के विस्तार की तत्काल आवश्यकता पर प्रकाश डालते हैं।
यह शोध पत्र "सर्टिफाइड सर्किट्स" (Certified Circuits) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो रैंडमाइज्ड डेटा सबसैंपलिंग का उपयोग करके मैकेनिस्टिक इंटरप्रिटेबिलिटी की स्थिरता और विश्वसनीयता को बढ़ाता है ताकि यह प्रमाणित गारंटी प्रदान की जा सके कि खोजे गए न्यूरल सर्किट डेटासेट परिवर्तनों के प्रति अपरिवर्तनीय हैं, जिसके परिणामस्वरूप विविध आर्किटेक्चर और कार्यों में अधिक संक्षिप्त और सटीक स्पष्टीकरण प्राप्त होते हैं।
यह शोधपत्र OBLIQ-Bench प्रस्तुत करता है, जो एक बेंचमार्क सुइट है जिसे आधुनिक प्रणालियों की पुनर्प्राप्ति (retrieval) और सत्यापन (verification) क्षमताओं के बीच के महत्वपूर्ण अंतर को उजागर करने के लिए डिज़ाइन किया गया है, जो उन "तिरछी" (oblique) क्वेरीज़ पर उनके प्रदर्शन का मूल्यांकन करता है जिनमें अंतर्निहित पैटर्न या निहित संकेतों से मेल खाने वाले दस्तावेज़ों की पहचान करने की आवश्यकता होती है।
यह शोधपत्र EGGROLL प्रस्तुत करता है, जो इवोल्यूशन स्ट्रेटेजीज़ का एक लो-रैंक फैक्टराइजेशन है जो N-MNIST डेटासेट पर प्रतिस्पर्धी सटीकता प्राप्त करते हुए मेमोरी और कंप्यूटेशनल लागत को काफी कम करके न्यूरोमॉर्फिक हार्डवेयर पर स्पाइकिंग न्यूरल नेटवर्क के कुशल, ग्रेडिएंट-मुक्त प्रशिक्षण को सक्षम बनाता है।