20472 पेपर
यह शोध पत्र आणविक अनुकूलन (molecular optimization) में डिस्क्रीट डिफ्यूजन मॉडल्स के लिए एक व्यापक ऑनलाइन अनुकूलन ढांचा प्रस्तावित करता है जो सीमित ओरेकल बजट के तहत ऑफलाइन फाइन-ट्यूनिंग और इन्फरेंस-टाइम सर्च बेसलाइन्स से बेहतर प्रदर्शन करने के लिए अधिग्रहण (acquisition), रिवॉर्ड शेपिंग, मॉडल डिबायसिंग, रिप्ले और वैधता नियंत्रण को एकीकृत करता है।
EvoOtter एक लागत प्रभावी विकासवादी प्रोग्रामिंग दृष्टिकोण है जो उच्च-गुणवत्ता वाले बग पुनरुत्पादन परीक्षणों को पूर्ववर्ती इन्फरेंस-स्केलिंग विधियों की तुलना में बहुत कम लागत पर उत्पन्न करने के लिए सक्सीविव हैल्विंग (successive halving), बैच्ड एलएलएम क्रॉसओवर (batched LLM crossover) और नियम-आधारित उत्परिवर्तन (rule-based mutations) को एक विशेष रूप से तैयार किए गए फिटनेस स्कोर के साथ जोड़ता है।
यह शोधपत्र प्रदर्शित करता है कि गणितीय तर्क कार्यों पर RLVR के साथ प्रशिक्षित छोटे भाषा मॉडलों के लिए, प्रक्रिया-स्तरीय (process-level) पुरस्कार पर्यवेक्षण, सटीकता और तर्क ट्रेस निष्ठा (reasoning trace fidelity) दोनों में केवल परिणाम-आधारित (outcome-only) पर्यवेक्षण की तुलना में काफी बेहतर प्रदर्शन करता है, जबकि हाइब्रिड पुरस्कार संरचनाओं को आम तौर पर उच्च प्रक्रिया भार (process weights) से लाभ होता है।
यह शोध पत्र गतिशील डेटाबेस परिवेशों में चयनात्मकता (selectivity) का अनुमान लगाने के लिए एक ऑनलाइन लर्निंग फ्रेमवर्क प्रस्तावित करता है, जो स्थिर और गतिशील दोनों सेटिंग्स के तहत हिस्टोग्राम-आधारित रैखिक प्रश्नों (linear queries) के लिए सैद्धांतिक रिग्रेट बाउंड्स (regret bounds) स्थापित करता है।
यह शोध पत्र PROMPTPET को प्रस्तुत करता है, जो एक LLM-आधारित एजेंट है जो उपयोगकर्ता की गोपनीयता और चैटबॉट उपयोगिता के बीच के संतुलन को अनुकूलित करने के लिए उपयोगकर्ता के प्रॉम्प्ट में संवेदनशील जानकारी हेतु सबसे प्रभावी अस्पष्टीकरण क्रिया (रे redaction, अमूर्तीकरण, प्रतिस्थापन, या एक नवीन शोर/शोर-निवारण योजना) को गतिशील रूप से चुनता है।
यह शोध पत्र VSeek को प्रस्तुत करता है, जो एक एजेंटिक फ्रेमवर्क है जो न्यूरो-सिम्बोलिक रिवार्ड्स के साथ सुदृढीकरण शिक्षण (reinforcement learning) का उपयोग करके लंबे वीडियो आधारित प्रश्न-उत्तर को उन्नत करता है, जिससे इस कार्य को एक बहु-चरण खोज प्रक्रिया में परिवर्तित किया जाता है जो औपचारिक टेम्पोरल लॉजिक विनिर्देशों के विरुद्ध पुनर्प्राप्त दृश्य साक्ष्यों को व्यवस्थित रूप से सत्यापित करती है।
यह शोध पत्र एक स्वचालित LLM पाइपलाइन प्रस्तुत करता है जो यह सत्यापित करता है कि क्या ट्रांसफॉर्मर में व्यक्तिगत वेट्स (weights) के पास वैश्विक रूप से व्याख्या योग्य कार्य होते हैं, जिसमें यह पाया गया कि डेंस मॉडल्स की तुलना में वेट-स्पार्स (weight-sparse) मॉडल्स में ऐसे व्याख्या योग्य वेट्स का एक काफी अधिक हिस्सा (12–31%) होता है।
यह शोधपत्र MolBasic को प्रस्तुत करता है, जो एक संरचना-प्रथम (structure-first) ढांचा है जो द्विदिशीय SMILES-ग्राफ अनुवाद और एक प्रगतिशील चेन-ऑफ-थॉट (Chain-of-Thought) शिक्षण योजना का उपयोग करके आणविक बड़े भाषा मॉडलों की संरचनात्मक समझ और डाउनस्ट्रीम प्रदर्शन को बढ़ाता है।
यह शोध पत्र यह प्रदर्शित करके मॉडल मर्जिंग और डिस्ट्रिब्यूटेड लर्निंग के बीच के अंतर को पाटता है कि नेस्टरोव मोमेंटम के साथ आइसो-सी (Iso-C) मर्जिंग तकनीक को अनुकूलित करना (IsoLoCo), कम-कम्युनिकेशन वाले डिस्ट्रिब्यूटेड ट्रेनिंग में मौजूदा डिलोको (DiLoCo) विधियों से काफी बेहतर प्रदर्शन करता है, विशेष रूप से जैसे-जैसे स्थानीय वर्कर्स की संख्या बढ़ती है।
ओम्नीफोकस (OmniFocus) एक प्रशिक्षण-मुक्त, क्वेरी-निर्देशित टोकन संपीड़न विधि है जो ओम्नी-मोडल लार्ज लैंग्वेज मॉडल्स के लिए ऑडियो और वीडियो टोकन के महत्व का स्वतंत्र रूप से आकलन करके मोडैलिटी-सिमेट्रिक संपीड़न प्राप्त करती है, जिससे क्रॉस-मोडल संरेखण को बनाए रखते हुए और सटीकता-दक्षता ट्रेड-ऑफ में मौजूदा बेसलाइनों से बेहतर प्रदर्शन करते हुए अनुमान लागत को कम किया जाता है।