19893 पेपर
यह शोध पत्र प्रदर्शित करता है कि सार्वजनिक चर्चा इंटरफेस के माध्यम से भाषा मॉडलों के लिए बड़े पैमाने पर प्रीट्रेनिंग डेटा को विषाक्त किया जा सकता है और "HalfLife" का परिचय देता है, जो वेब क्रॉलिंग और क्यूरेशन के बाद ऐसे प्रतिकूल कंटेंट के समावेश का अनुमान लगाने के लिए एक नवीन विश्लेषण पद्धति है।
यह शोध पत्र RoboTTT को प्रस्तुत करता है, जो एक रोबोट नीति ढांचा (robot policy framework) है जो विज़ुओमोटर संदर्भ (visuomotor context) को 8,000 टाइमस्टेप्स तक स्केल करने के लिए टेस्ट-टाइम ट्रेनिंग (Test-Time Training) को एकीकृत करता है, जिससे वन-शॉट इमिटेशन (one-shot imitation), ऑन-द-फ्लाई सुधार, और लॉन्ग-होरिज़ॉन कार्यों पर काफी बेहतर प्रदर्शन सक्षम होता है, जो इन्फरेंस लेटेंसी (inference latency) को बढ़ाए बिना फास्ट वेट्स (fast weights) में हिस्ट्री को कंप्रेस करता है।
यह सर्वेक्षण लार्ज लैंग्वेज मॉडल-आधारित प्रणालियों में रूटिंग रणनीतियों का एक व्यापक अवलोकन प्रदान करता है, जो यह विश्लेषण करता है कि कैसे प्रश्नों को उपयुक्त मॉडलों की ओर गतिशील रूप से निर्देशित करना मोनोलिथिक आर्किटेक्चर की अक्षमताओं को दूर करके संसाधन खपत को अनुकूलित कर सकता है, लागत कम कर सकता है और प्रदर्शन को बढ़ा सकता है।
NSNQuant एक कैलिब्रेशन-मुक्त वेक्टर क्वांटाइजेशन विधि है जो LLM KV कैश के लिए एक अद्वितीय "नॉर्मलाइज़-शिफ्ट-नॉर्मलाइज़" ट्रांसफॉर्मेशन को हैडामार्ड ट्रांसफॉर्म के साथ जोड़कर उपयोग करती है ताकि टोकन वितरण को एक मानक सामान्य वितरण के साथ संरेखित किया जा सके, जिससे बिना किसी कैलिब्रेशन डेटासेट पर निर्भर रहे मजबूत लो-बिट कंप्रेशन और 3x तक थ्रूपुट लाभ प्राप्त होता है।
यह शोध पत्र PTACL प्रस्तुत करता है, जो एक मल्टीमॉडल कंट्रास्टिव लर्निंग फ्रेमवर्क है जो कार्डिएक एमआरआई से संरचनात्मक अंतर्दृष्टि को ईसीजी (ECG) निरूपणों में एकीकृत करने के लिए वैश्विक रोगी-स्तरीय और स्थानीय टेम्पोरल-स्तरीय संरेखण दोनों का लाभ उठाता है, जिससे बिना किसी नए सीखने योग्य पैरामीटर को जोड़े, कार्डिएक फेनोटाइप रिट्रीवल और कार्यात्मक पैरामीटर भविष्यवाणी में महत्वपूर्ण सुधार होता है।
यह शोध पत्र गहरे भारित बहुपद सन्निकटों (deep weighted polynomial approximants) के एक वर्ग को प्रस्तुत करता है जो असीमित डोमेन पर असममित वृद्धि और क्षय वाले फलनों को कॉम्पैक्ट अंतराल सन्निकटन में बदलकर प्रभावी ढंग से संभालते हैं, और एक स्थिर फाइन-ट्यूनिंग अनुकूलन रणनीति प्रस्तावित करता है जो यूनिफॉर्म और त्रुटियों दोनों में मानक बहुपद बेसलाइन से बेहतर प्रदर्शन करती है।
यह शोध पत्र यह प्रदर्शित करता है कि प्री-ट्रेंड हिडन स्टेट्स (pre-trained hidden states) से व्युत्पन्न एक सरल, रिप्रेजेंटेशन-आधारित डाइवर्सिटी बोनस को इन्फरेंस-टाइम सैंपलिंग और पोस्ट-ट्रेनिंग रीइन्फोर्समेंट लर्निंग दोनों में शामिल करने से भाषा मॉडल के प्रदर्शन और सैंपल दक्षता में महत्वपूर्ण वृद्धि होती है, क्योंकि यह मौजूदा व्यवहारों को केवल परिष्कृत करने के बजाय नवीन व्यवहारों की खोज को बढ़ावा देता है।
यह शोध पत्र मल्टी-एजेंट रीजनिंग सिस्टम की अभिव्यक्तता (expressivity) का विश्लेषण करने के लिए एक सैद्धांतिक ढांचा प्रस्तावित करता है, जो विशिष्ट एल्गोरिद्मिक कार्यों के लिए एजेंटों की संख्या, संचार आवश्यकताओं और स्पीडअप पर सीमाएं (bounds) निर्धारित करता है, और बड़े भाषा मॉडलों (large language models) पर अनुभवजन्य प्रयोगों के माध्यम से इन सैद्धांतिक ट्रेडऑफ़्स को मान्य करता है।
यह शोध पत्र प्रदर्शित करता है कि डोमेन-स्वतंत्र डायनेमिक प्रोग्रामिंग (DIDP), कॉलम जनरेशन और ब्रांच-एंड-प्राइस के लिए एक उच्च-प्रदर्शन, जेनेरिक प्राइसिंग सॉल्वर के रूप में कार्य कर सकता है, जो चार समस्या वर्गों में मौजूदा स्वचालित सॉल्वरों और विशिष्ट विधियों से अनुभवजन्य रूप से बेहतर प्रदर्शन करता है।
यह शोध पत्र MASPRM को प्रस्तुत करता है, जो टर्मिनल परिणामों पर प्रशिक्षित एक मल्टी-एजेंट सिस्टम प्रोसेस रिवॉर्ड मॉडल है जो मध्यवर्ती एजेंट संदेशों को स्कोर करने के लिए है, जो प्रभावी स्टेप-लेवल बीम सर्च और मोंटे कार्लो ट्री सर्च को सक्षम करके मौजूदा मॉडलों की तुलना में रीजनिंग बेंचमार्क पर इन्फरेंस-टाइम सर्च प्रदर्शन में महत्वपूर्ण सुधार करता है।