23942 पेपर
यह शोध पत्र TokenDrift को प्रस्तुत करता है, जो एक नवीन प्रशिक्षण उद्देश्य (training objective) है जो निरंतर ड्रिफ्टिंग सिद्धांतों (continuous drifting principles) को डिस्क्रीट डिफ्यूजन लैंग्वेज मॉडल्स पर अनुकूलित करने के लिए श्रेणीगत भविष्यवाणियों (categorical predictions) को एंटी-सिमेट्रिक रिफाइनमेंट के लिए सॉफ्ट-टोकन फीचर्स में ऊपर उठाता है, जिससे कम सैंपलिंग स्टेप्स पर जनरेशन की गुणवत्ता में महत्वपूर्ण सुधार होता है।
यह शोध पत्र एक डायनेमिकल सिस्टम्स परिप्रेक्ष्य का उपयोग करता है, जो जनरेटिव मॉडल्स में मेमोराइजेशन (memorization) की घटना के लिए एक सिस्टम-थ्योरेटिक स्पष्टीकरण प्रदान करने हेतु स्टोकेस्टिक ग्रेडिएंट डिसेंट में टू-टाइम-स्केल डायनेमिक्स और मॉडल कोलैप्स पर हालिया परिणामों का लाभ उठाता है, जहाँ प्रशिक्षण के दौरान आउटपुट लंबे समय तक स्थिर रहते हैं।
यह शोध पत्र प्रकट करता है कि इन्फरेंस बैकएंड (inference backend) का चयन एक महत्वपूर्ण, फिर भी अक्सर अनरिपोर्ट किया जाने वाला हाइपरपैरामीटर है जो सिस्टम-स्तरीय अनुकूलन के कारण LLM बेंचमार्क स्कोर को 16.6 प्रतिशत अंकों तक महत्वपूर्ण रूप से बदल सकता है, जिससे यह समुदाय को पुनरुत्पादकता सुनिश्चित करने के लिए इन्फरेंस स्टैक रिपोर्टिंग को मानकीकृत करने का आग्रह करता है।
यह शोध पत्र एक पोस्ट-हॉक 'लर्निंग टू डिफर' (Learning to Defer) ढांचे का प्रस्ताव करता है जो विलंब निर्णय (deferral decisions) को मॉडल और विशेषज्ञ आदर्श वितरणों के बीच घनत्व-अनुपात अनुमान (density-ratio estimation) के रूप में तैयार करता है, जिससे बिना पुनप्रशिक्षण के समायोज्य विलंब दर सक्षम होती है और चो के नियम (Chow's rule), विशेषज्ञ-झुकाव वाले बेयसियन अनुमान (expert-tilted Bayesian inference), और विसंगति का पता लगाने (anomaly detection) को एकीकृत किया जाता है।
यह शोध पत्र TORQ को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त पोस्ट-ट्रेनिंग क्वांटाइजेशन फ्रेमवर्क है जो MXFP4 एक्टिवेशन क्वांटाइजेशन में संरचनात्मक असंतुलन को सैद्धांतिक रूप से संबोधित करने के लिए दो-स्तरीय ऑर्थोगोनल रोटेशन का उपयोग करता है, जिससे बड़े भाषा मॉडलों (LLMs) पर 4-बिट इन्फरेंस और फुल-प्रिसिजन मॉडलों के बीच सटीकता के अंतर को महत्वपूर्ण रूप से कम किया जा सकता है।
यह शोध पत्र HiLiftAeroML को प्रस्तुत करता है, जो NASA के CRM हाई-लिफ्ट ज्योमेट्री के 1,800 GPU-त्वरित (GPU-accelerated) LES सिमुलेशनों वाला पहला ओपन-सोर्स हाई-फिडेलिटी CFD डेटासेट है, जिसे एयरोस्पेस अनुप्रयोगों के लिए AI सरोगेट मॉडल के विकास को गति देने के लिए डिज़ाइन किया गया है।
यह शोध पत्र यह प्रदर्शित करता है कि लिमिट ऑर्डर बुक्स से क्रिया-निर्भर फीडबैक को शामिल करना—जहाँ गैर-व्यापारिक अंतःक्रियाएं आपूर्ति और मांग की जानकारी प्रकट करती हैं—ऑनलाइन मार्केट मेकिंग की सीखने की क्षमता (learnability) में मौलिक सुधार करता है, जिससे स्टोकेस्टिक और मीन-रिवर्टिंग सेटिंग्स में रिग्रेट और बिना किसी स्मूथनेस धारणा के एडवर्सरियल वातावरण में रिग्रेट सक्षम होता है।
यह शोध पत्र ELGIN को प्रस्तुत करता है, जो एक भौतिकी-सूचित ग्राफ न्यूरल नेटवर्क सरोगेट (physics-informed graph neural network surrogate) है, जो पारंपरिक CFD सिमुलेशन की तुलना में डेंटल क्लीनिकों में टर्बुलेंट नैनोपार्टिकल डिस्पर्शन (turbulent nanoparticle dispersion) के पूर्वानुमान की सटीकता और गति को महत्वपूर्ण रूप से बढ़ाकर, वास्तविक समय के निकट संक्रमण-जोखिम स्क्रीनिंग को सक्षम बनाता है।
यह शोध पत्र स्पेक्ट्रल इंटीग्रेटेड ग्रेडिएंट्स (SIG) का प्रस्ताव करता है, जो एक नवीन फीचर एट्रिब्यूशन विधि है जो सिंगुलर वैल्यू डिकंपोजिशन के माध्यम से इंटीग्रेशन पाथ्स का निर्माण करके मानक इंटीग्रेटेड ग्रेडिएंट्स में सुधार करती है ताकि फीचर्स को मोटे वैश्विक संरचनाओं से लेकर सूक्ष्म विवरणों तक क्रमिक रूप से सक्रिय किया जा सके, जिससे शोर कम होता है और स्वच्छ एट्रिब्यूशन मैप्स प्राप्त होते हैं।
यह शोध पत्र एक नवीन ग्राफ-आधारित डिफ्यूजन पोस्टीरियर सैंपलिंग फ्रेमवर्क प्रस्तावित करता है, जिसे स्पष्ट नियमितीकरण (RDPS) के साथ उन्नत किया गया है, ताकि अनस्ट्रक्चर्ड मेश पर नॉनलीनियर इनवर्स समस्याओं को हल किया जा सके, जो इलेक्ट्रिकल इम्पीडेंस टोमोग्राफी में अत्याधुनिक विधियों की तुलना में बेहतर पुनर्निर्माण सटीकता और मजबूती प्रदर्शित करता है।