24512 पेपर
यह शोध पत्र SIREN जैसे साइनुसोइडल न्यूरल नेटवर्क के लिए एक नवीन, सैद्धांतिक रूप से व्युत्पन्न इनिशियलाइजेशन रणनीति प्रस्तावित करता है जो अनुचित फ्रीक्वेंसी इमर्जेंस को रोकने के लिए ग्रेडिएंट स्केलिंग और प्री-एक्टिवेशन वेरिएंस को नियंत्रित करता है, जिससे फंक्शन फिटिंग, इमेज रिकंस्ट्रक्शन और फिजिक्स-इन्फॉर्म्ड कार्यों में प्रशिक्षण गतिशीलता और सामान्यीकरण प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र प्रकट करता है कि LLM-आधारित सारणीबद्ध डेटा (tabular data) पीढ़ी विधियाँ स्मृतिबद्ध संख्यात्मक पैटर्न (memorized numeric patterns) के माध्यम से गोपनीयता लीक के प्रति संवेदनशील हैं, एक ब्लैक-बॉक्स सदस्यता अनुमान हमले (membership inference attack) को पेश करता है जिसे LevAtt कहा जाता है ताकि इस जोखिम को उजागर किया जा सके, और डेटा उपयोगिता को बनाए रखते हुए रिसाव को प्रभावी ढंग से कम करने के लिए एक नवीन डिजिट-परटर्बेशन सैंपलिंग रणनीति (digit-perturbation sampling strategy) का प्रस्ताव करता है।
यह शोध पत्र 'प्लास्टिसिटी-सीलिंग फ्रेमवर्क' (Plasticity-Ceiling Framework) को पेश करता है ताकि यह प्रदर्शित किया जा सके कि बड़े पैमाने के डेटा के साथ SFT के स्थिर या हल्के ओवरफिटिंग वाले शासन (regime) में शुरू की गई एक क्रमिक SFT-फिर-RL पाइपलाइन, सिंक्रोनाइज्ड दृष्टिकोणों से बेहतर प्रदर्शन करती है और LLMs में गणितीय तर्क क्षमताओं को अधिकतम करने के लिए "लेस इज़ मोर" (Less is More) परिकल्पना को खारिज करती है।
यह शोध पत्र सिविल इंजीनियरिंग के लिए एक अनुकूली डिजिटल ट्विन फ्रेमवर्क प्रस्तावित करता है जो डायनेमिक बेयसियन नेटवर्क के भीतर ऑनलाइन बेयसियन लर्निंग का उपयोग करता है ताकि स्टेट ट्रांजिशन मॉडल को निरंतर अपडेट किया जा सके, जिससे स्ट्रक्चरल हेल्थ मॉनिटरिंग और रखरखाव योजना के लिए सटीक, सुदृढ़ और लागत प्रभावी भविष्य कहनेवाला निर्णय लेना सक्षम हो सके।
यह शोध पत्र मूल LoRA ग्रेडिएंट डिसेंट एल्गोरिदम का पहला गैर-अनंतस्पर्भी (non-asymptotic) अभिसरण विश्लेषण प्रदान करता है जो लिप्सचिट्ज़ स्मूथनेस या स्ट्रॉन्ग बाउंडेडनेस धारणाओं पर निर्भर किए बिना, यह सिद्ध करता है कि यह की दर से एक स्टेशनरी पॉइंट पर अभिसरित होता है।
यह शोध पत्र DUALFloodGNN को प्रस्तुत करता है, जो एक नवीन भौतिकी-सूचित ग्राफ न्यूरल नेटवर्क है जो परिचालन बाढ़ मॉडलिंग के लिए कई हाइड्रोलॉजिकल चरों की तेजी से और सटीक भविष्यवाणी करने के लिए वैश्विक और स्थानीय स्तरों पर भौतिक बाधाओं को समाहित करता है, जो उच्च कम्प्यूटेशनल दक्षता बनाए रखते हुए मौजूदा GNN दृष्टिकोणों से बेहतर प्रदर्शन करता है।
यह शोध पत्र पैरामीट्रिक स्किल ट्रांसफर (PaST) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो सुदृढीकरण लर्निंग (Reinforcement Learning) से प्राप्त डोमेन-अज्ञेय कौशल वैक्टरों (domain-agnostic skill vectors) को रैखिक रूप से इंजेक्ट करके लार्ज लैंग्वेज मॉडल्स को अनुकूलित करने में सुपरवाइज्ड फाइन-ट्यूनिंग की सीमाओं को संबोधित करता है, जिससे ज्ञान समावेश और एजेंटिक टूल उपयोग के लिए कुशल और प्रभावी निरंतर अनुकूलन सक्षम होता है।
यह शोधपत्र RLSEdit को पेश करता है, जो लाइफलॉन्ग एलएलएम (LLM) एडिटिंग के लिए एक रिकर्सिव लीस्ट-स्क्वायर्स फ्रेमवर्क है, जो अपडेट को सॉफ्ट कंस्ट्रेंट्स के साथ एक ऑनलाइन क्वाड्रेटिक ऑप्टिमाइज़ेशन के रूप में फॉर्म्युलेट करता है ताकि प्लास्टिसिटी-स्टेबिलिटी द्वंद्व को प्रभावी ढंग से संतुलित किया जा सके, जिससे सामान्य क्षमताओं को सुरक्षित रखते हुए 10,000 तथ्यों तक की स्थिर अनुक्रमिक एडिटिंग सक्षम होती है।
यह शोध पत्र एक वेरिएशनल ऑटोएनकोडर (VAE) प्रस्तावित करता है जो उच्च-आयामी स्थानों में हाइपरवॉल्यूम विस्तार की समस्या को कम करने के लिए लेटेंट वेक्टर्स को एक विशिष्ट दिशा की ओर संकुचित करने हेतु हाइपरस्फेरिकल निर्देशांकों का उपयोग करता है, जिससे जटिल वास्तविक दुनिया और बेंचमार्क डेटासेट्स पर अनकंडीशनल और कंडीशनल विसंगति पहचान प्रदर्शन में महत्वपूर्ण सुधार होता है।
द ज्योमेट्रिक रीज़नर (TGR) एक ट्रेनिंग-फ्री फ्रेमवर्क है जो चंक-वाइज KV कैश रिसेट्स के साथ मैनिफोल्ड-इन्फॉर्म्ड लेटेंट फोरसाइट सर्च को निष्पादित करके सख्त मेमोरी बाधाओं के तहत लॉन्ग-कॉन्टेक्स्ट रीजनिंग को बढ़ाता है, जिससे गणित और कोड बेंचमार्क पर नगण्य कम्प्यूटेशनल ओवरहेड के साथ प्रक्षेपवक्र कवरेज (ट्रैजेक्टरी कवरेज) में महत्वपूर्ण सुधार प्राप्त होता है।