27461 पेपर
ऑटोलर्न (Autolearn) एक अनसुपरवाइज्ड फ्रेमवर्क है जो भाषा मॉडलों को उच्च-आश्चर्य वाले अनुच्छेदों से स्वायत्त रूप से सीखने में सक्षम बनाता है, जो स्वयं-निर्मित प्रश्नोत्तर श्रृंखलाओं के माध्यम से उन्हें सत्यापित करके और प्रशिक्षण गतिकी को समायोजित करके किया जाता है, एक ऐसी प्रक्रिया जो प्रभावी रूप से वास्तविक समझ के पक्ष में रटने की प्रवृत्ति को दबाती है और कई मॉडल परिवारों में महत्वपूर्ण ज्ञान प्राप्ति की ओर ले जाती है।
यह अध्ययन "ऑल ऑफ अस" रिसर्च प्रोग्राम के राष्ट्रव्यापी अनुदैर्ध्य (लॉन्गीटुडिनल) EHR डेटा का लाभ उठाते हुए क्रोनिक राइनोसिनुसाइटिस के लिए एक जनसांख्यिकीय-स्तरीकृत भविष्यवाणी मॉडल विकसित करने के लिए एक हाइब्रिड फीचर-सिलेक्शन पाइपलाइन का उपयोग करता है, ताकि 0.8461 का AUC प्राप्त किया जा सके और विविध वयस्क उपसमूहों में बेहतर जोखिम स्तरीकरण प्रदर्शित किया जा सके।
MedMamba एक सिद्धांत-आधारित मल्टी-स्केल बायडायरेक्शनल स्टेट स्पेस मॉडल है जो मेडिकल टाइम सीरीज़ क्लासिफिकेशन के लिए ट्रांसफॉर्मर-आधारित विधियों की तुलना में अत्याधुनिक सटीकता और 4.6 गुना तेज़ इन्फरेंस प्राप्त करने के लिए शारीरिक संकेतों (फिजियोलॉजिकल सिग्नल्स) के विशिष्ट इंडक्टिव बायस का लाभ उठाता है।
यह शोध पत्र सीक्वेंशियल एजेंट ट्यूनिंग (SAT) को प्रस्तुत करता है, जो एक समन्वयक-मुक्त (coordinator-free) प्रशिक्षण ढांचा है जो मोनोटोनिक सुधार गारंटी और प्लग-एंड-प्ले इनवेरिएंस के साथ स्थिर, स्केलेबल मल्टी-एलएलएम (multi-LLM) सहयोग को सक्षम बनाता है, और अनुभवजन्य रूप से यह प्रदर्शित करता है कि छोटे मॉडलों की एक टीम जटिल बेंचमार्क पर काफी बड़े एकल मॉडलों से बेहतर प्रदर्शन कर सकती है।
यह लेख प्रेडिक्टिव मल्टीप्लिसिटी (predictive multiplicity) और केओटिक डायनेमिक्स (chaotic dynamics) के बीच एक सेतु का कार्य करता है, जिसमें 'होराइजन-कंस्ट्रेंड रशोन सेट्स' (horizon-constrained Rashomon Sets) को पेश किया गया है, जो एक ऐसा ढांचा है जो यह वर्णन करता है कि अराजक प्रणालियों में भविष्यवाणियों की क्षितिज सीमा (prediction horizon) के साथ मॉडल विविधता कैसे विकसित होती है ताकि निर्णय-उन्मुख मॉडल चयन को सक्षम बनाया जा सके, जो सुरक्षा-महत्वपूर्ण अनुप्रयोगों में डाउनस्ट्रीम उपयोगिता में महत्वपूर्ण सुधार करता है।
यह शोध पत्र हाइब्रिड और रिकरेंट (recurrent) LLM सर्विंग के लिए स्पार्स प्रीफिक्स कैशिंग (sparse prefix caching) प्रस्तुत करता है, जो एक ऐसी विधि है जो गणना को सबसे गहरे मिलान (deepest match) से फिर से शुरू करने के लिए स्पार्स चेकपॉइंट स्थितियों पर सटीक रिकरेंट स्टेट्स को रणनीतिक रूप से संग्रहीत करके विलंबता (latency) को अनुकूलित करती है, जिससे सटीक आउटपुट को संरक्षित करते हुए और बिना किसी कर्नेल परिवर्तन की आवश्यकता के मौजूदा डेंस कैशिंग ह्यूरिस्टिक्स (dense caching heuristics) से बेहतर प्रदर्शन किया जाता है।
यह शोध पत्र MidSteer को प्रस्तुत करता है, जो एक नवीन एफ़ाइन (affine) फ्रेमवर्क है जो LEACE जैसे मौजूदा तरीकों का सामान्यीकरण करके विविध आर्किटेक्चर और मोडैलिटीज में इष्टतम, न्यूनतम-विक्षोभ (minimal-disturbance) रूपांतरणों को सक्षम बनाता है, जिससे जनरेटिव मॉडल्स में कॉन्सेप्ट स्टीयरिंग के लिए एक व्यापक सैद्धांतिक आधार प्रदान होता है।
यह शोध पत्र डेटा-ड्रिवन वेरिएशनल बेसिस लर्निंग (DVBL) को प्रस्तुत करता है, जो एक गैर-तंत्रिका (non-neural) ढांचा है जो वेरिएशनल अनुकूलन के माध्यम से व्याख्या योग्य, डेटा-अनुकूलनीय आधार फलनों (basis functions) को सीखता है, जो तंत्रिका नेटवर्क का एक गणितीय रूप से पारदर्शी विकल्प प्रदान करते हुए अस्तित्व, अभिसरण और पहचान क्षमता पर कठोर गारंटी देता है।
यह शोध पत्र टोकन-सिलेक्टिव अटेंशन (TSA) को प्रस्तुत करता है, जो एक हल्का, एंड-टू-एंड डिफरेंशिएबल गेटिंग मैकेनिज्म है जो ट्रांसफॉर्मर्स को संदर्भ-आधारित कठिनाई के आधार पर व्यक्तिगत टोकन के लिए अनावश्यक लेयर गणनाओं को गतिशील रूप से छोड़ने में सक्षम बनाता है, जिससे बिना किसी स्पष्ट डेप्थ रेगुलराइजेशन की आवश्यकता के और न्यूनतम गुणवत्ता हानि के साथ महत्वपूर्ण दक्षता लाभ प्राप्त होता है।
यह शोध पत्र एक ज्यामितीय ढांचा प्रस्तुत करता है जो यह प्रदर्शित करता है कि स्पार्स ऑटोएन्कोडर्स (Sparse Autoencoders) में कंपोजिशनल फीचर स्टीयरिंग (compositional feature steering), गैर-रेखीय हस्तक्षेप (non-linear interference) और एक "रैचेट प्रभाव" (ratchet effect) द्वारा मौलिक रूप से सीमित है, जो अर्थपूर्ण विशेषताओं के संयोजन के दौरान व्यवस्थित विचलन (systematic drift) और पतन (collapse) का कारण बनते हैं, जिससे नैइव लीनियर सुपरपोजिशन (naive linear superposition) की स्केलेबिलिटी को चुनौती मिलती है।