23726 पेपर
सुडोकू समाधान के ट्रेसेस (traces) पर एक ट्रांसफार्मर को प्रशिक्षित करके, यह अध्ययन प्रकट करता है कि मॉडल आंतरिक रूप से डोमेन के बाधा बीजगणित (constraint algebra) के अनुरूप एक संरचित विश्व मॉडल (world model) का निर्माण करता है न कि सतही विशेषताओं का, और कार्य को हल करने के लिए "नेकेड-सिंगल" (naked-single) डिटेक्टर जैसे विरल, व्याख्या योग्य सर्किटों का उपयोग करता है।
यह शोध पत्र INSIGHTS को प्रस्तुत करता है, जो एक मॉडल-अज्ञेय (model-agnostic), उपयोगकर्ता-केंद्रित ढांचा है जो डोमेन विशेषज्ञों को मॉडल व्यवहार की एक स्थिर और व्यापक समझ प्रदान करने के लिए टाइम सीरीज़ मॉडल्स के विविध, प्रदर्शन-आधारित वैश्विक सारांश उत्पन्न करता है, जो टाइम-सीरीज़ डेटा के लिए वैश्विक व्याख्यात्मकता (global explainability) में वर्तमान अंतराल को संबोधित करता है।
STRIDE एक नवीन प्रशिक्षण ढांचा है जो केवल परिणाम-आधारित पुरस्कारों का उपयोग करके एक जनरेटर और एक जेनेरेटिव वेरीफायर को सह-प्रशिक्षित करके लार्ज लैंग्वेज मॉडल की तर्क क्षमता को बढ़ाता है, जिससे स्केलर स्कोर के स्थान पर सीखने योग्य, चरण-दर-चरण भाषाई फीडबैक प्राप्त होता है जो विफलताओं को स्पष्ट रूप से स्थानीयकृत करता है और तर्क प्रक्षेपवक्रों को पुनः निर्देशित करता है।
INAR-VL एक हल्का एज-क्लाउड रूटिंग सिस्टम है जो इनपुट की जटिलता के आधार पर स्थानीय और क्लाउड-आधारित विजन-लैंग्वेज मॉडल्स के बीच गतिशील रूप से चयन करता है, जिससे क्लाउड जैसी सटीकता बनाए रखते हुए विलंबता (लेटेंसी) और ऊर्जा खपत में महत्वपूर्ण कमी आती है।
यह शोध पत्र डेल्टा अटेंशन रेसिडुअल्स (Delta Attention Residuals) का प्रस्ताव करता है, जो एक नवीन आर्किटेक्चर है जो रूटिंग कोलैप्स (routing collapse) को रोकने और विभिन्न मॉडल स्केल्स में महत्वपूर्ण परप्लेक्सिटी सुधार प्राप्त करने के लिए अटेंशन-आधारित रेसिडुअल कनेक्शनों में संचयी हिडन स्टेट्स (cumulative hidden states) को लेयर-वाइज डेल्टा रिप्रेजेंटेशन्स (layer-wise delta representations) से बदल देता है।
यह शोध पत्र प्रदर्शित करता है कि व्यक्तिगत रूप से कैलिब्रेटेड संभाव्य भविष्यवक्ता रणनीतिक अंतःक्रियाओं और सह-संबंधित विश्वासों के कारण बहु-एजेंट परिवेश में सामूहिक रूप से गलत कैलिब्रेटेड हो सकते हैं, जिससे प्रदर्शन में महत्वपूर्ण गिरावट आती है जिसे प्रोत्साहनों को संरेखित करने और मजबूती सुनिश्चित करने के लिए वीसीजी (VCG)-आधारित एकत्रीकरण अपनाने से प्रभावी ढंग से हल किया जा सकता है।
यह शोध पत्र SAGE का प्रस्ताव करता है, जो एक ऐसा फ्रेमवर्क है जो एक गाइड फंक्शन के माध्यम से रिवर्स-KL एंकर डिस्ट्रीब्यूशन को नया रूप देकर LLMs में मानक RLVR की अन्वेषण सीमाओं को दूर करता है, जिससे गणितीय तर्क कार्यों पर pass@1 और pass@k दोनों में एक साथ सुधार प्राप्त होता है।
यह शोध पत्र प्रदर्शित करता है कि प्रीट्रेन्ड ट्रांसफॉर्मर्स में अटेंशन मैकेनिज्म की अंतर्निहित स्पैरसिटी (sparsity) का लाभ उठाकर, स्पैरसिटी-गाइडेड डिस्टिलेशन के माध्यम से जटिल सेल्फ-अटेंशन लेयर्स को सरल अनुक्रमिक मॉड्यूल (sequential modules) के साथ प्रभावी ढंग से बदला जा सकता है, जिससे सटीकता के नुकसान को न्यूनतम करते हुए इन्फरेंस लागत और मॉडल के आकार को काफी कम किया जा सकता है।
FLUIDSPLAT एक सेंसर-कंडीशन्ड मॉडल पेश करता है जो व्याख्या योग्य एनिसोट्रोपिक गॉसियन प्रिमिटिव्स (anisotropic Gaussian primitives) का उपयोग करके विरल सतह सेंसरों से निरंतर प्रवाह क्षेत्रों (continuous flow fields) को पुनर्गठित करता है, जो सैद्धांतिक रूप से पूर्वाग्रह और विचलन के बीच संतुलन बनाने के लिए एक इष्टतम प्रिमिटिव संख्या स्थापित करता है और एरोडायनामिक बेंचमार्क पर अत्याधुनिक सटीकता प्राप्त करता है।
EVA-0 एक न्यूनतम ज़ीरो-ऑर्डर अनुकूलन ढांचा है जो प्रति नमूना केवल दो फॉरवर्ड पास के साथ कुशल टेस्ट-टाइम मॉडल विकास को सक्षम बनाता है, जो बैकप्रोपैगेशन के बिना मौजूदा विधियों की तुलना में बेहतर प्रदर्शन और महत्वपूर्ण गति प्राप्त करने के लिए प्रमुख अनुकूलन बाधाओं को दूर करता है।