23941 पेपर
यह शोध पत्र SELFCI को प्रस्तुत करता है, जो एक पूरक स्व-विमर्दीकरण (self-distillation) ढांचा है जो 'प्रोडक्ट-ऑफ-एक्सपर्ट्स' दृष्टिकोण के माध्यम से कार्य प्रदर्शन और प्रासंगिक अखंडता (contextual-integrity) को संयुक्त रूप से अनुकूलित करके लार्ज लैंग्वेज मॉडल्स में गोपनीयता-उपयोगिता के बीच के संतुलन को हल करता है, और महंगी बाहरी पर्यवेक्षण की आवश्यकता के बिना मौजूदा बेसलाइनों से बेहतर प्रदर्शन करता है।
क्रॉनिकल (Chronicle) एक सघन, 324M-पैरामीटर वाला डिकोडर-ओनली ट्रांसफार्मर है जिसे एक एकीकृत आर्किटेक्चर के भीतर प्राकृतिक भाषा और टाइम सीरीज़ दोनों पर शून्य से प्रशिक्षित किया गया है, जो प्रीट्रेन मॉडल के पोस्ट-हॉक अनुकूलन पर निर्भर किए बिना दोनों डोमेन में प्रतिस्पर्धी प्रदर्शन और बेहतर मल्टीमॉडल पूर्वानुमान क्षमताओं को प्राप्त करता है।
यह शोध पत्र M-ORE को प्रस्तुत करता है, जो एक मोडैलिटी-डिकपल्ड ऑनलाइन रिकर्सिव एडिटर है जो टेक्स्ट और विजुअल घटकों के लिए अलग-अलग लोकैलिटी सांख्यिकी (locality statistics) बनाए रखकर और क्रॉस-मोडल संघर्ष एवं इंटर-एडिट हस्तक्षेप को कम करने के लिए एक निश्चित ऑर्थोगोनल लो-रैंक सबस्पेस में निरंतर अपडेट करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स के कुशल और विश्वसनीय लाइफलोंग एडेप्टेशन को सक्षम बनाता है।
यह शोध पत्र ट्राजेक्टरी-इंटीग्रल फीडबैक GRPO (TIF-GRPO) फ्रेमवर्क प्रस्तुत करता है, जो मेडिकल विजन-लैंग्वेज मॉडल्स में एनाटॉमी-अवेयर रिवॉर्ड्स को नियंत्रित करने के लिए कंट्रोल-थ्योरेटिक सिद्धांतों और एक स्ट्रक्चर्ड क्लिनिकल एब्नॉर्मलिटी बेंचमार्किंग सबस्ट्रेट (CABS) का लाभ उठाता है, जिससे इवैल्यूएशन हैलुसिनेशन समाप्त होता है और 3D CT विश्लेषण में क्लिनिकल फेथफुलनेस में वृद्धि होती है।
यह शोध पत्र इंट्रोस्पेक्टिव ट्रेनिंग (IXT) को प्रस्तुत करता है, जो एक थिंकिंग रिवॉर्ड मॉडल से प्राप्त प्राकृतिक भाषा फीडबैक का उपयोग करके LLM विकास के सभी चरणों में ट्रेनिंग डेटा को प्रीफिक्स-कंडीशन करता है, जिससे कंप्यूट दक्षता में महत्वपूर्ण सुधार होता है और मानक प्रशिक्षण दृष्टिकोणों की तुलना में गणित और कोड में बेहतर प्रदर्शन प्राप्त होता है।
FusionCell एक नवीन ड्यूल-मोडैलिटी डीप लर्निंग फ्रेमवर्क है जो स्टैंडर्ड-सेल प्रदर्शन मेट्रिक्स के अत्यधिक सटीक और तीव्र पूर्वानुमान को प्राप्त करने के लिए टोपोलॉजी-गाइडेड क्रॉस-अटेंशन मैकेनिज्म के माध्यम से रूटेड लेआउट ज्योमेट्री और नेटलिस्ट टोपोलॉजी को एकीकृत करता है, जो मौजूदा बेसलाइन्स और पारंपरिक सिमुलेशन विधियों से काफी बेहतर प्रदर्शन करता है।
यह शोध पत्र एक प्लग-एंड-प्ले फ्रेमवर्क प्रस्तुत करता है जो मॉड्यूलर पॉपुलेशन कंप्यूटेशन और बिट-शिफ्ट स्केलिंग के माध्यम से महत्वपूर्ण नॉनलीनियर ऑपरेटर्स (जैसे कि सॉफ्टमैक्स और नॉर्मलाइजेशन) के स्पाइक-फ्रेंडली एप्रोक्सिमेशन को लागू करके बड़े भाषा मॉडल (LLMs) के लिए ट्रेनिंग-मुक्त ANN-टू-SNN रूपांतरण को सक्षम बनाता है, जिससे फाइन-ट्यूनिंग के बिना मूल मॉडलों के लगभग समान सटीकता प्राप्त होती है।
यह शोध पत्र पदानुक्रमित गॉसियन फिल्टरों पर आधारित एक क्लोज्ड-फॉर्म प्रेडिक्टिव कोडिंग फ्रेमवर्क प्रस्तुत करता है जो प्रिसिजन-वेटेड मैसेज पासिंग को पुनर्स्थापित करता है, जिससे गहरे नेटवर्क बिना पुनरावृत्ति अनुमान (iterative inference) या वैश्विक त्रुटि संकेतों के सक्रियण (activations), भार (weights) और अनिश्चितताओं को एक साथ सीखने में सक्षम होते हैं, जिससे वे बैकप्रोपैगेशन की दक्षता से मेल खाते हुए ऑनलाइन और डेटा-कुशल कार्यों में उत्कृष्ट प्रदर्शन करते हैं।
यह शोध पत्र DG-Hard को प्रस्तुत करता है, जो एक पोस्ट-हॉक स्पेक्ट्रल रिपेयर विधि है जो बिना किसी अतिरिक्त डेटा या पुन: प्रशिक्षण के, वेट अपडेट मैट्रिक्स पर डोनोहो-गविश हार्ड सिंगुलर-वैल्यू थ्रेशोल्डिंग लागू करके, कार्य लाभों को सुरक्षित रखते हुए फाइन-ट्यूनिंग द्वारा क्षतिग्रस्त हुई क्षमताओं को पुनर्प्राप्त करता है।
यह शोध पत्र "भौतिक मिसजनरलाइजेशन" (physical misgeneralization) की पहचान और व्याख्या करता है, जहाँ क्यूरेटेड भौतिक प्रदर्शनों पर प्रशिक्षित जनरेटिव सीक्वेंस मॉडल ऐसे विश्वसनीय व्यक्तिगत प्रक्षेपवक्र (trajectories) उत्पन्न करते हैं जो स्थानीय त्रुटियों के प्रसार के कारण सामूहिक रूप से इच्छित समग्र वितरणों का उल्लंघन करते हैं, और इस विफलता का पूर्वानुमान लगाने तथा इसे कम करने के लिए एक डेटा डेविएशन कर्नेल (data deviation kernel) प्रस्तावित करता है।