24509 पेपर
यह शोध पत्र एक कॉन्टेक्स्ट-गेटेड एसोसिएटिव मेमोरी आर्किटेक्चर प्रस्तावित करता है जो ऊर्जा परिदृश्य (एनर्जी लैंडस्केप) के पुनर्गठन और फीडबैक लूप के माध्यम से सैद्धांतिक रूप से पुनर्प्राप्ति (रिट्रीवल) को बढ़ाता है, और अंततः यह प्रदर्शित करता है कि Llama-3 जैसे LLMs में इन-कॉन्टेक्स्ट लर्निंग, कॉन्टेक्स्ट-गेटेड रिट्रीवल के एक तंत्र के रूप में कार्य करती है।
यह शोध पत्र यह पहचानता है कि समान हस्तक्षेप अनुसूचियाँ (uniform intervention schedules) विभिन्न गुणों के विशिष्ट टेम्पोरल कमिटमेंट पैटर्न की अनदेखी करके डिस्क्रीट डिफ्यूजन लैंग्वेज मॉडल्स की गुणवत्ता को कम करती हैं, और एक नवीन एडेप्टिव शेड्यूलर प्रस्तावित करता है जो सटीक, उच्च-शक्ति वाले मल्टी-एट्रीब्यूट नियंत्रण को प्राप्त करने के लिए विशिष्ट फॉर्मेशन स्टेप्स पर स्टीयरिंग प्रयासों को केंद्रित करता है, जिससे जनरेशन क्वालिटी से समझौता नहीं होता है।
यह शोध पत्र रोटेशन-प्रिजर्विंग सुपरवाइज्ड फाइन-ट्यूनिंग (RPSFT) का प्रस्ताव करता है, जो एक कुशल विधि है कि प्रीट्रेंड वेट्स के प्रोजेक्टेड टॉप- सिंगुलर-वेक्टर ब्लॉक्स में होने वाले परिवर्तनों को दंडित करती है ताकि आउट-ऑफ-डोमेन सामान्यीकरण (generalization) में सुधार किया जा सके और हेसियन (Hessian) या फिशर (Fisher) सूचना की कम्प्यूटेशनल लागत के बिना प्रीट्रेंड रिप्रेजेंटेशन्स को संरक्षित किया जा सके।
यह शोध पत्र हियरार्किकल मल्टी-व्यू HAAR (HMH) को प्रस्तुत करता है, जो एक स्केलेबल स्पेक्ट्रल ग्राफ-लर्निंग फ्रेमवर्क है जो लर्न करने योग्य हार-आधारित स्पेक्ट्रल फिल्टर और स्किप कनेक्शंस के साथ एक सॉफ्ट पदानुक्रम (soft hierarchy) का निर्माण करके हेटरोफिलस ग्राफ में ओवरस्मूथिंग और ओवरस्क्वैशिंगिंग को कम करता है, जिससे नोड और ग्राफ वर्गीकरण कार्यों में अत्याधुनिक प्रदर्शन प्राप्त होता है।
यह शोध पत्र PASA को प्रस्तुत करता है, जो एक सिद्धांतपूर्ण वॉटरमार्किंग एल्गोरिदम है जो लेटेंट एम्बेडिंग स्पेस के भीतर सिमेंटिक स्तर पर वॉटरमार्क को एम्बेड और डिटेक्ट करता है, जिससे उच्च टेक्स्ट गुणवत्ता और डिटेक्शन सटीकता, मजबूती एवं डिस्टॉर्शन के बीच इष्टतम संतुलन बनाए रखते हुए पैराफ्रेसिंग जैसे सिमेंटिक-इनवेरिएंट हमलों के विरुद्ध मजबूती प्राप्त होती है।
यह शोध पत्र LEAP को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त विधि है जो भविष्य के संदर्भ फ़िल्टरिंग (future context filtering) और बहु-अनुक्रम अध्यारोपण (multi-sequence superposition) के माध्यम से शीघ्र-अभिसरण करने वाले टोकन (early-converging tokens) का पता लगाकर डिफ्यूजन लैंग्वेज मॉडल इन्फरेंस को त्वरित करता है, जिससे सटीकता से समझौता किए बिना डिनोइजिंग चरणों को लगभग 30% तक कम किया जा सकता है।
यह शोध पत्र ट्रजेक्टरी मैचिंग पॉलिसी ऑप्टिमाइज़ेशन (TMPO) को प्रस्तुत करता है, जो डिफ्यूजन मॉडल्स के लिए एक नवीन एलाइनमेंट विधि है जो रिवॉर्ड हैकिंग को प्रभावी ढंग से कम करने के लिए स्केलर रिवॉर्ड मैक्सिमाइजेशन के स्थान पर सॉफ्टमैक्स ट्रजेक्टरी बैलेंस ऑब्जेक्टिव और डायनेमिक स्टोकेस्टिक ट्री सैंपलिंग के माध्यम से ट्रजेक्टरी-स्तरीय वितरण मिलान का उपयोग करता है, जिससे जनरेटिव विविधता और कार्य प्रदर्शन के बीच एक इष्टतम संतुलन प्राप्त होता है।
यह शोध पत्र SoftBlobGIN को प्रस्तुत करता है, जो एक हल्का, प्लग-एंड-प्ले फ्रेमवर्क है जो प्रोटीन लैंग्वेज मॉडल रिप्रेजेंटेशन को कॉन्टैक्ट ग्राफ्स पर प्रोजेक्ट करता है ताकि व्याख्यात्मक, स्ट्रक्चर-अवेयर फंक्शनल सबस्ट्रक्चर्स को सीखा जा सके, जो अंतर्निहित लैंग्वेज मॉडल को पुन: प्रशिक्षित किए बिना एंजाइम वर्गीकरण और बाइंडिंग-साइट डिटेक्शन पर प्रदर्शन में महत्वपूर्ण सुधार करता है और ऑडिट योग्य जैविक स्पष्टीकरण प्रदान करता है।
यह शोध पत्र AESOP को प्रस्तुत करता है, जो डीप लर्निंग इन्फरेंस पाइपलाइनों की गतिशील संरचना का लाभ उठाकर रणनीतिक रूप से निष्पादन पथों (execution paths) का चयन करके सिस्टम संसाधनों को ओवरलोड करता है, जिससे सिंगल-मॉडल हमलों की तुलना में काफी अधिक कंप्यूटेशनल और लेटेंसी इन्फ्लेशन प्राप्त होता है और संरक्षकों को थ्रूपुट पतन या भारी डेटा हानि में से किसी एक को चुनने के लिए मजबूर करता है।
यह शोध पत्र SURGE का प्रस्ताव करता है, जो एक नया सीखने योग्य ग्रेडिएंट क्षतिपूर्ति ढांचा (learnable gradient compensation framework) है, जिसमें एक डुअल-पाथ ग्रेडिएंट कॉम्पेन्सेटर और एक एडेप्टिव ग्रेडिएंट स्केलर शामिल है, ताकि समानांतर फुल-प्रिसिजन सहायक शाखाओं के माध्यम से ग्रेडिएंट प्रवाह को अलग करके बाइनरी न्यूरल नेटवर्क में ग्रेडिएंट मिसमैच और सूचना की हानि को संबोधित किया जा सके, जिससे विभिन्न कार्यों में अत्याधुनिक प्रदर्शन प्राप्त किया जा सके।