22898 पेपर
यह शोध पत्र निरंतर सीखने वाले (continual learning) सिस्टम का अधिक व्यापक रूप से मूल्यांकन करने के लिए 'फ्यू-शॉट इवैल्यूएशन' और एक नवीन "पर-शॉट प्लास्टिसिटी" मीट्रिक प्रस्तावित करता है, जो यह प्रदर्शित करता है कि भविष्य के कार्यों के मेटा-लर्निंग के माध्यम से दूरदर्शिता को शामिल करना 'लर्निंग-टू-लर्न' क्षमताओं को बढ़ाता है।
यह शोध पत्र "क्लस्टर्ड सेल्फ-असेसमेंट" (Clustered Self-Assessment) का प्रस्ताव करता है, जो एक सरल और कुशल विधि है जो जनरेट किए गए नमूनों को स्व-मूल्यांकन के लिए अर्थपूर्ण विकल्पों में क्लस्टर करके लार्ज लैंग्वेज मॉडल्स में अनिश्चितता परिमाणीकरण (uncertainty quantification) में सुधार करती है, और न्यूनतम अतिरिक्त सैंपलिंग के साथ भी लगातार मौजूदा बेसलाइनों से बेहतर प्रदर्शन करती है।
यह शोध पत्र एक व्याख्यात्मक, दो-चरणीय लाइटजीबीएम (LightGBM) मॉडल प्रस्तुत करता है जो वैज्ञानिक सफलताओं के उद्भव और तीव्रता का सटीक पूर्वानुमान लगाने के लिए ओपनएलेक्स (OpenAlex) अवधारणा नेटवर्क की संरचनात्मक विशेषताओं का लाभ उठाता है, जो अनुसंधान रणनीति और नीति के लिए ऑडिट योग्य अंतर्दृष्टि प्रदान करते हुए अत्याधुनिक विधियों से बेहतर प्रदर्शन करता है।
यह शोध पत्र प्रकट करता है कि विज़ुअल इंस्ट्रक्शन ट्यूनिंग विज़ुअल फीचर्स को सीधे लार्ज लैंग्वेज मॉडल्स की इंटरमीडिएट सिमेंटिक लेयर्स में एम्बेड करके मोडालिटीज को संरेखित करती है, जो विज़न और लैंग्वेज के बीच के अंतर को पाटने के लिए मॉडल के इंटरनल एब्स्ट्रैक्शन इंजन का प्रभावी ढंग से पुन: उपयोग करती है और शुरुआती यूनिमोडल प्रोसेसिंग चरणों को दरकिनार करती है।
यह शोध पत्र एक स्केलेबल बेंचमार्क और पाइपलाइन प्रस्तुत करता है जो असंरचित तर्क ट्रेसेस (unstructured reasoning traces) को सत्यापन योग्य ग्राफ में परिवर्तित करता है, जिससे पारंपरिक सटीकता और टोकन गणना मेट्रिक्स से परे विफलता मोड के बेहतर निदान और मॉडल व्यवहारों की तुलना के लिए तर्क संरचना और दक्षता का मात्रात्मक विश्लेषण सक्षम होता है।
यह शोध पत्र Reveal-IG को प्रस्तुत करता है, जो एक नवीन फीचर एट्रिब्यूशन विधि है जो पथ-आधारित स्पष्टीकरणों को कच्चे इनपुट स्पेस से संरचित प्रोब वितरणों के स्पेस में स्थानांतरित करती है ताकि सूचना को प्रगतिशील रूप से प्रकट किया जा सके, जिससे पूर्णता बनाए रखते हुए पथ संबंधी आर्टिफैक्ट्स से बचा जा सके और इमेज एवं टैबुलर डेटा में स्थिर, हस्ताक्षरित (signed) एट्रिब्यूशन उत्पन्न किए जा सकें।
यह शोध पत्र PROVE को प्रस्तुत करता है, जो एक स्टेटफुल सर्वर लाइब्रेरी, एक डिपेंडेंसी-गाइडेड डेटा सिंथेसिस पाइपलाइन और एक नवीन प्रोग्रामेटिक रिवॉर्ड सिस्टम को संयोजित करके लाइव वातावरण में मल्टी-स्टेप टूल उपयोग के लिए प्रभावी सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) को सक्षम बनाता है, जिसके परिणामस्वरूप कई बेंचमार्क और मॉडल परिवारों में महत्वपूर्ण प्रदर्शन सुधार प्राप्त होते हैं।
यह शोध पत्र सैद्धांतिक रूप से प्रदर्शित करता है कि Muon ऑप्टिमाइज़र में मोमेंटम (momentum) एक स्पेक्ट्रल फ़िल्टर के रूप में कार्य करता है जो ग्रेडिएंट शोर (gradient noise) को दबाने और स्पेक्ट्रल गैप को बड़ा करने के लिए है, जिससे ऑर्थोगोनलाइज़ेशन (orthogonalization) चरण स्थिर होता है और सिग्नल संरेखण (signal alignment) में सुधार होता है, एक ऐसा निष्कर्ष जिसे लार्ज लैंग्वेज मॉडल प्रशिक्षण में प्रयोगों द्वारा समर्थित किया गया है।
यह शोधपत्र MAdam को प्रस्तुत करता है, जो एक ड्रॉप-इन रैपर है जो प्राथमिकता-सशर्त वक्रता (preference-conditioned curvature) के साथ सामंजस्यपूर्ण दिशाओं को प्रीकंडीशन करके मल्टी-ऑब्जेक्टिव सॉल्वर और एडम ऑप्टिमाइज़र के बीच व्यवस्थित वेटिंग और ज्यामितीय बेमेल (geometric mismatches) को हल करता है, जिससे विविध मशीन लर्निंग कार्यों में प्रदर्शन में निरंतर सुधार होता है।
यह शोध पत्र प्रदर्शित करता है कि जहाँ अंतर्जात वैज्ञानिक सुदृढ़ीकरण काफी हद तक अप्रत्याशित है, वहीं क्वांटम कंप्यूटिंग जैसे तेजी से विकसित होते क्षेत्रों में बहिर्जात वैचारिक प्रसार और एंट्रॉपी का सटीक पूर्वानुमान अपस्ट्रीम उद्धरण विषमता और वितरण संबंधी विशेषताओं पर प्रशिक्षित मशीन लर्निंग मॉडल का उपयोग करके लगाया जा सकता है, जो अग्रिम विज्ञान नीति और प्रौद्योगिकी दूरदर्शिता के लिए एक स्केलेबल रूपरेखा प्रदान करता है।