24514 पेपर
यह शोध पत्र एक नियंत्रित बेंचमार्क प्रस्तुत करता है जो यह प्रदर्शित करता है कि एआई कोडिंग एजेंटों को एक प्रोडक्ट-कॉन्टेक्स्ट रिट्रीवल सिस्टम (Brief) के साथ संवर्धित करने से, केवल कोडबेस एक्सेस की तुलना में टीम-विशिष्ट प्रोडक्ट निर्णयों के प्रति उनकी अनुपालन क्षमता में 49 प्रतिशत अंकों का सुधार होता है, जिससे वास्तविक सॉफ्टवेयर इंजीनियरिंग कार्यों पर 95% अनुपालन प्राप्त होता है।
यह शोध पत्र एक समान बिट बजट के तहत तीन KV कैश क्वांटाइजेशन योजनाओं का विश्लेषण करता है, जो सांख्यिकीय अनुमान और अनुभवजन्य मेट्रिक्स के माध्यम से यह प्रदर्शित करता है कि विषम (asymmetric) KQV विधि, व्यावहारिक रूप से प्रभावी 4-बिट बजट पर, वेरिएंस इन्फ्लेशन और सॉफ्टमैक्स-प्रेरित त्रुटियों को कम करके सममित (symmetric) QKQV दृष्टिकोण की तुलना में बेहतर प्रदर्शन करती है, साथ ही ज्यामितीय पुनर्निर्माण प्रदर्शन में एक बजट-निर्भर क्रॉसओवर को भी प्रकट करती है।
यह शोधपत्र सेफ्टी-अवेयर डिनोइज़र (SAD) को प्रस्तुत करता है, जो एक हल्का इन्फरेंस-टाइम फ्रेमवर्क है जो टेक्स्ट डिफ्यूजन मॉडल्स को डिनोइजिंग प्रक्रिया के दौरान प्रमाणित रूप से सुरक्षित क्षेत्रों की ओर निर्देशित करता है, जिससे मॉडल को पुन: प्रशिक्षित किए बिना आउटपुट गुणवत्ता को बनाए रखते हुए असुरक्षित जनरेशन को प्रभावी ढंग से कम किया जा सकता है।
यह अनुभवजन्य अध्ययन मॉड्यूलर एडिशन नेटवर्क में तियान (2025) के सैद्धांतिक फीचर रिपल्शन तंत्र की पुष्टि करता है, जो यह प्रदर्शित करता है कि जबकि फीचर इंटरैक्शन की अनुमानित साइन संरचना सक्रियण फलनों (activation functions) के across मजबूती से बनी रहती है, पैरामीटर अपडेट में परिणामी स्पेक्ट्रल सिग्नेचर सख्ती से सक्रियण व्युत्पन्न (activation derivative) पर निर्भर करते हैं, जिसमें क्वाड्रेटिक सक्रियण ग्रौकिंग (grokking) के दौरान एक पता लगाने योग्य रैंक-2 स्पेक्ट्रल लॉक-इन को सक्षम करते हैं जिसे ReLU सक्रियण उत्पन्न करने में विफल रहते हैं।
यह शोध पत्र TPU हार्डवेयर पर लॉन्ग-कॉन्टेक्स्ट बैलेंस्ड ऑप्टिमल ट्रांसपोर्ट के लिए एक ब्लॉक-वाइज डिफरेंशिएबल सिंकहॉर्न अटेंशन मैकेनिज्म प्रस्तुत करता है, जो कम मेमोरी कॉम्प्लेक्सिटी के साथ सटीक बैकवर्ड ग्रेडिएंट्स प्राप्त करने के लिए एक स्टॉप्ड-बेस, फिक्स्ड-डेप्थ टेल-रिफाइनमेंट सरोगेट का उपयोग करता है, जबकि सैद्धांतिक बायस और कॉन्ट्रैक्शन गारंटी प्रदान करता है और Pfam प्रोटीन डेटासेट्स पर बेहतर रिकंस्ट्रक्शन और स्पार्स क्रॉस-एन्ट्रॉपी प्रदर्शन प्रदर्शित करता है।
यह शोध पत्र कस्टमाइज्ड मल्टीमॉडल रोल-प्ले (CMRP) को एक नए कार्य के रूप में प्रस्तुत करता है और UniCharacter का प्रस्ताव देता है, जो एक दो-चरणीय प्रशिक्षण ढांचा है, जो RoleScape-20 डेटासेट और फ्यू-शॉट लर्निंग का उपयोग करके, यूनिफाइड मॉडल्स को टेक्स्ट और इमेज मोडैलिटीज में एक चरित्र की पर्सना, संवाद शैली और दृश्य पहचान को निरंतर कस्टमाइज़ करने में सक्षम बनाता है।
यह शोध पत्र प्रस्तावित करता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) में तर्क करना एक अंतर्निहित गतिक प्रक्रिया है जो ज्यामितीय और सूचनात्मक बाधाओं द्वारा नियंत्रित होती है, जहाँ प्रभावी प्रदर्शन केवल तभी उभरता है जब आंतरिक अनुमान संबंधी गतिकी स्वयं को निम्न-आयामी मैनिफोल्ड्स (low-dimensional manifolds) में व्यवस्थित करती है जो गैर-अपभ्रंश सूचना आयतन (non-degenerate information volume) को संरक्षित करते हैं, जिससे एक नया लेबल-मुक्त नैदानिक ढांचा सक्षम होता है।
यह शोध पत्र HoReN का प्रस्ताव करता है, जो एक स्केलेबल, पैरामीटर-प्रिजर्विंग मॉडल एडिटिंग फ्रेमवर्क है जो मूल मॉडल को खराब किए बिना स्थिर, उच्च-प्रदर्शन वाले अनुक्रमिक ज्ञान अपडेट प्राप्त करने के लिए कोणीय समानता (angular similarity) और डैम्प्ड हॉपफील्ड अट्रैक्टर डायनेमिक्स (damped Hopfield attractor dynamics) के साथ एक डिस्क्रीट की-वैल्यू कोडबुक का उपयोग करता है।
NoiseRater एक मेटा-लर्निंग फ्रेमवर्क है जो शोर के वास्तविकताओं (noise realizations) को इंस्टेंस-लेवल महत्व स्कोर प्रदान करने के लिए एक पैरामीट्रिक नॉइज़ रेटर पेश करके डिफ्यूजन मॉडल प्रशिक्षण दक्षता और पीढ़ी की गुणवत्ता में सुधार करता है, जिससे सूचनात्मक शोर नमूनों का अनुकूली पुनर्रचना (adaptive reweighting) और प्राथमिकता निर्धारण सक्षम होता है।
यह शोध पत्र एक मल्टीमॉडल इंटरेक्शन गेट (Multimodal Interaction Gate) के साथ एक सेल्फ-कैप्शनिंग फ्रेमवर्क का प्रस्ताव करता है जो अद्वितीय मोडैलिटी जानकारी को रेडंडेंट साझा जानकारी में परिवर्तित करता है, जिससे विजन-लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को काफी कम किया जा सकता है और दूषित इनपुट के विरुद्ध उनकी मजबूती में सुधार किया जा सकता है।