22512 पेपर
यह शोध पत्र प्रदर्शित करता है कि कम्प्यूटेशनल सोशल साइंस में उपयोग किए जाने वाले ओपन-सोर्स एलएलएम (LLM) एनोटेटर्स विविध और अप्रत्याशित सामाजिक-वांछनीयता पूर्वाग्रह (social-desirability biases) प्रदर्शित करते हैं जो प्रॉम्प्टिंग रणनीतियों के बावजूद बने रहते हैं, जिससे अक्सर भ्रामक समग्र मीट्रिक्स प्राप्त होते हैं जो मौलिक रूप से सारगर्भित अनुभवजन्य निष्कर्षों को विकृत कर सकते हैं।
यह शोध पत्र प्रदर्शित करता है कि जबकि बंधक ऋण देने में मानक डेटा बिनिंग नस्लीय असमानताओं को बढ़ा सकती है, फेयर बिनिंग और क्लस्टरिंग-आधारित ऑडिटिंग का एक संयोजन यह प्रकट करता है कि ब्लैक आवेदकों को व्हाइट आवेदकों की तुलना में काफी उच्च अस्वीकृति दरों का सामना करना पड़ता है, भले ही उच्च ऋण-से-आय अनुपात अस्वीकृति का प्राथमिक स्पष्ट भविष्यवक्ता हो।
यह शोध पत्र भौतिकी-आधारित प्रतीकात्मक आर्किटेक्चर (Physics-Grounded Symbolic Architecture - PGSA) को यह सिद्ध करने के लिए प्रस्तुत करता है कि कारण संबंधी गतिकी (causal dynamics) में प्रतीकात्मक ग्राउंडिंग, गैर-गॉसियन प्रणालियों के लिए सटीक रैखिक पहचान क्षमता (exact linear identifiability) और लगभग अनंत कालिक निरंतरता (near-infinite temporal consistency) को सक्षम बनाती है, जिससे सांख्यिकीय वर्ल्ड मॉडल्स की मौलिक सीमाओं पर विजय प्राप्त होती है जो गॉसियन प्रक्रियाओं तक ही सीमित हैं।
यह शोध पत्र बोल्ट्ज़मैन अटेंशन (Boltzmann attention) प्रस्तुत करता है, जो एक ऊर्जा-आधारित तंत्र है जो मानक अटेंशन को एक आइसिंग सिस्टम (Ising system) के रूप में मॉडल किए गए सीख योग्य युग्मवार संयोजनों (pairwise couplings) के साथ संवर्धित करता है ताकि सहकारी और विरोधी अंतर-स्थिति निर्भरताओं को स्पष्ट रूप से कैप्चर किया जा सके, जो अनुक्रम मॉडलिंग कार्यों में बेहतर प्रदर्शन प्रदर्शित करता है और क्वांटम एनीलिंग-आधारित प्रशिक्षण के लिए एक मार्ग प्रदान करता है।
ReCal एक RL-आधारित LLM रूटिंग के लिए एक रिवॉर्ड कैलिब्रेशन फ्रेमवर्क है जो घटक-वार एडवांटेज एस्टीमेशन (component-wise advantage estimation) के साथ पदानुक्रमित रिवॉर्ड डिकंपोजिशन (hierarchical reward decomposition) और विषम कार्य कठिनाइयों के कारण होने वाले अस्पष्ट क्रेडिट असाइनमेंट और ऑप्टिमाइजेशन बायस को संबोधित करने के लिए एक डिस्ट्रीब्यूशन-अवेयर ऑप्टिमाइजेशन स्ट्रैटेजी को पेश करके प्रदर्शन और प्रशिक्षण स्थिरता को बढ़ाता है।
यह शोध पत्र स्पेकुलेटिव रोलबैक करेक्शन (SRC) का प्रस्ताव करता है, जो एक ब्रांच-लेवल इमिटेशन लर्निंग फ्रेमवर्क है जो फिक्स्ड-होरिज़ोन स्पेकुलेटिव सेगमेंट्स को निष्पादित करके, केवल पहले हानिकारक विचलन का पता चलने पर रोलबैक करके, और मजबूत वेब एजेंटों को प्रशिक्षित करने के लिए सत्यापित ट्राजेक्टरीज के क्वालिटी-डाइवर्सिटी आर्काइव को क्यूरेट करके विशेषज्ञ हस्तक्षेप और एजेंट स्वायत्तता के बीच के संतुलन को अनुकूलित करता है।
DynamicPTQ बड़े भाषा मॉडल (LLMs) में 4-बिट एक्टिवेशन क्वांटाइजेशन कोलैप्स की चुनौती को संबोधित करता है, जो लक्षित 8-बिट प्रिसिजन के लिए संवेदनशील परतों की पहचान करने हेतु क्रॉस-लेयर रेसिडुअल-स्ट्रीम डायनेमिक्स का विश्लेषण करता है, जिससे पूर्ण W4A4KV4 क्वांटाइजेशन के तहत प्रदर्शन और थ्रूपुट में महत्वपूर्ण सुधार होता है।
यह शोध पत्र प्रदर्शित करता है कि -Simplex फिक्स्ड क्लासिफायर के माध्यम से सीखी गई स्टेशनरी रिप्रजेंटेशन (stationary representations) मॉडल अपडेट के दौरान फीचर कम्पैटिबिलिटी सुनिश्चित करती हैं, और एक हाइब्रिड ट्रेनिंग दृष्टिकोण का प्रस्ताव करता है जो उच्च-क्रम की निर्भरताओं (higher-order dependencies) को कैप्चर करने के लिए क्रॉस-एन्ट्रॉपी और कॉन्ट्रास्टिव लॉसेस को जोड़ता है, जिससे अत्याधुनिक प्रदर्शन के साथ निर्बाध रिट्रीवल सेवाएं सक्षम होती हैं।
यह शोध पत्र Net-Ev प्रस्तुत करता है, जो एक नवीन जनरेटिव सिम्युलेटर है जो प्राकृतिक भाषा इनपुट से यथार्थवादी नेटवर्क इवेंट इवोल्यूशन सिमुलेशन उत्पन्न करने के लिए स्ट्रक्चर-गाइडेड मास्कड प्री-ट्रेनिंग और एक टोपोलॉजी-अवेयर डिफ्यूजन प्रोसेस का लाभ उठाता है, जिसे एक नए मल्टीमॉडल बेंचमार्क और टोपोलॉजी-अवेयर इवैल्यूएशन मेट्रिक द्वारा मान्य किया गया है।
यह शोध पत्र VLA प्रस्तुत करता है, जो एक नियंत्रित अध्ययन है जो यह प्रदर्शित करता है कि एक मजबूत प्रीट्रेंड विजन-लैंग्वेज-एक्शन (VLA) बैकबोन को सेल्फ-अटेंशन के माध्यम से अपडेट किए गए सीखने योग्य मेमोरी टोकन के एक न्यूनतम सेट के साथ संवर्धित करने से, बिना किसी सहायक लॉस या जटिल आर्किटेक्चरल परिवर्तनों की आवश्यकता के, आंशिक रूप से दृश्यमान मैनिपुलेशन कार्यों पर प्रदर्शन में महत्वपूर्ण सुधार होता है, जबकि पूर्ण दृश्यता के तहत मजबूती बनाए रखी जाती है।