23511 पेपर
यह शोध पत्र SURGE को प्रस्तुत करता है, जो आठ विविध डोमेन में 1,160 समस्याओं वाला एक व्यापक बेंचमार्क है, ताकि कोड निष्पादन परिणामों (code execution outcomes) की भविष्यवाणी करने के लिए कुशल सरोगेट मॉडल के रूप में बड़े भाषा मॉडलों (large language models) के उपयोग की व्यवहार्यता का व्यवस्थित रूप से मूल्यांकन किया जा सके।
यह शोध पत्र रेडेमेकर कॉम्प्लेक्सिटी (Rademacher complexity) और डडली के एंट्रॉपी इंटीग्रल (Dudley's entropy integral) पर आधारित जनरलाइजेशन एरर बाउंड्स (generalization error bounds) का लीन 4 (Lean 4) में एक औपचारिक प्रस्तुतीकरण प्रस्तुत करता है, जिसमें माप-सिद्धांतिक आधारों (measure-theoretic foundations) से लेकर उच्च-संभाव्यता वाले यूनिफॉर्म डेविएशन बाउंड्स (high-probability uniform deviation bounds) और लीनियर प्रेडिक्टर्स (linear predictors) पर उनके अनुप्रयोग तक एक यांत्रिक रूप से सत्यापित पाइपलाइन शामिल है।
यह शोध पत्र एक नवीन ढांचे का प्रस्ताव करता है जो सुदृढीकरण शिक्षण फाइन-ट्यूनिंग (reinforcement learning fine-tuning) के माध्यम से LLM सर्च ऑपरेटर को निरंतर परिष्कृत करके एल्गोरिदम खोज के लिए LLM-आधारित विकासवादी खोज (evolutionary search) को बढ़ाता है, जिससे कॉम्बिनेटरियल ऑप्टिमाइज़ेशन कार्यों में श्रेष्ठ समाधानों की पहचान करने की प्रक्रिया में तेजी आती है।
यह शोध पत्र डायरेक्ट डॉक्यूमेंट रिलेवेंस ऑप्टिमाइजेशन (DDRO) का प्रस्ताव करता है, जो एक हल्का और कुशल तरीका है जो डायरेक्ट पेयरवाइज रैंकिंग के माध्यम से टोकन-लेवल डॉक्यूमेंट आइडेंटिफायर जनरेशन को डॉक्यूमेंट-लेवल रिलेवेंस के साथ संरेखित करता है, जिससे सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) की कम्प्यूटेशनल जटिलता और अस्थिरता समाप्त हो जाती है और बेंचमार्क डेटासेट्स पर मौजूदा दृष्टिकोणों से काफी बेहतर प्रदर्शन होता है।
यह शोध पत्र एक न्यूरल इंटीग्रल ऑपरेटर (NIO) फ्रेमवर्क प्रस्तुत करता है जो छोटे-डेटा वाले परिदृश्यों में, जहाँ पारंपरिक डीप लर्निंग मॉडल ओवरफिट होने की प्रवृत्ति रखते हैं, मजबूत और उच्च-प्रदर्शन वाली स्पेक्ट्रोस्कोपिक वर्गीकरण प्राप्त करने के लिए मोंटे कार्लो सैंपलिंग के साथ इंटीग्रल समीकरणों का एक निहित रेगुलराइज़र के रूप में उपयोग करता है।
यह शोध पत्र CU-HLM का प्रस्ताव करता है, जो एक संचार-कुशल हाइब्रिड लैंग्वेज मॉडल है जो उच्च सटीकता बनाए रखते हुए संचार ओवरहेड को महत्वपूर्ण रूप से कम करने और टोकन थ्रूपुट में सुधार करने के लिए अनिश्चितता-जागरूक अवसरवादी ट्रांसमिशन (uncertainty-aware opportunistic transmission) और शब्दावली संपीड़न (vocabulary compression) का लाभ उठाता है।
PhySense एक सहक्रियात्मक दो-चरणीय ढांचा है जो एक फ्लो-आधारित जनरेटिव मॉडल और प्रोजेक्टेड ग्रेडिएंट डिसेंट का उपयोग करके विरल सेंसर प्लेसमेंट (sparse sensor placement) और सघन भौतिक क्षेत्र पुनर्निर्माण (dense physical field reconstruction) को संयुक्त रूप से अनुकूलित करता है, जो विचरण-न्यूनतमकरण सिद्धांतों (variance-minimization principles) के अनुरूप सैद्धांतिक गारंटी प्रदान करते हुए अत्याधुनिक सटीकता प्राप्त करता है।
यह शोध पत्र ट्राजेक्टरी-डिस्टिल्ड GFlowNet (TD-GFN) प्रस्तुत करता है, जो एक प्रॉक्सी-मुक्त ढांचा है जो गाइडेड एक्सप्लोरेशन के लिए ऑफलाइन डेटा से डेंस एज रिवार्ड्स निकालने के लिए इनवर्स रिइन्फोर्समेंट लर्निंग का लाभ उठाता है और मजबूत प्रशिक्षण सुनिश्चित करने के लिए विशेष रूप से ग्राउंड-ट्रुथ टर्मिनल रिवार्ड्स पर निर्भर करता है, जिससे यह कन्वर्जेंस स्पीड और सैंपल क्वालिटी में मौजूदा बेसलाइन्स से बेहतर प्रदर्शन करता है।
यह शोध पत्र टैबुलर डिफ्यूजन मॉडल्स में मेमोराइजेशन (memorization) का पहला डेटा-केंद्रित विश्लेषण प्रस्तुत करता है, जो लीकेज जोखिमों के एक हेवी-टेल्ड डिस्ट्रीब्यूशन (heavy-tailed distribution) को प्रकट करता है और "DynamicCut" का प्रस्ताव देता है, जो एक मॉडल-अज्ञेयवादी (model-agnostic) विधि है जो डेटा विविधता और डाउनस्ट्रीम प्रदर्शन को बनाए रखते हुए गोपनीयता रिसाव को प्रभावी ढंग से कम करने के लिए उच्च-जोखिम वाले नमूनों की पहचान और छंटनी करती है।
यह शोधपत्र -स्मूथनेस के तहत डिस्ट्रीब्यूटेड कंप्रेस्ड SGD और SignSGD के लिए एक एकीकृत सैद्धांतिक ढांचा स्थापित करता है, जो नवीन प्रथम-क्रम SDEs को व्युत्पन्न करके बैच शोर, संपीड़न (कंप्रेशन) और अनुकूलनशीलता के बीच के अंतर्संबंध को सटीक रूप से मॉडल करता है, जिससे यह प्रकट होता है कि DCSGD में स्थिरता के लिए अपडेट नॉर्मलाइजेशन महत्वपूर्ण है जबकि DSignSGD भारी-पूंछ वाले शोर (heavy-tailed noise) के तहत भी सुदृढ़ बना रहता है।