25186 पेपर
यह लेख मेमोरी को एक मार्कोव ट्रांज़िशन मैट्रिक्स के रूप में दर्शाकर और कैटास्ट्रोफिक फॉरगेटिंग (विस्मृति) से बचने के लिए न्यूनतम एम्बेडिंग अपडेट के साथ एक टोकन-टू-वोकैबुलरी मैपिंग रणनीति का उपयोग करके, लार्ज लैंग्वेज मॉडल्स में निरंतर ज्ञान विस्तार के लिए एक सैंपल-एफिशिएंट फ्रेमवर्क प्रस्तावित करता है।
यह शोध पत्र 'एजेंट आइलैंड' (Agent Island) प्रस्तुत करता है, जो एक गतिशील मल्टीप्लेयर बेंचमार्क है जिसे सहयोग और संघर्ष के अनुकूल खेलों में भाषा मॉडल एजेंटों को प्रतिस्पर्धी बनाकर स्थिर मूल्यांकनों की संतृप्ति और संदूषण संबंधी समस्याओं को दूर करने के लिए डिज़ाइन किया गया है, जहाँ एक बेयसियन रैंकिंग प्रणाली यह प्रकट करती है कि OpenAI का gpt-5.5 अन्य मॉडलों की तुलना में काफी बेहतर प्रदर्शन करता है और साथ ही मतदान व्यवहार में एक मापने योग्य समान-प्रदाता पूर्वाग्रह भी प्रदर्शित करता है।
यह शोध पत्र संरचित शोर (structured noise) के तहत कारण संबंधी तर्क (causal reasoning) के मूल्यांकन के लिए एक बेंचमार्क, NoisyCausal पेश करता है, और एक मॉड्यूलर ढांचे का प्रस्ताव करता है जो मजबूत और व्याख्या योग्य अनुमान प्राप्त करने के लिए प्राकृतिक भाषा प्रसंस्करण को स्पष्ट प्रतीकात्मक कारण ग्राफ संरचनाओं (explicit symbolic causal graph structures) के साथ जोड़कर LLM के प्रदर्शन को बढ़ाता है।
यह शोध पत्र प्रदर्शित करता है कि पर्याप्त रूप से गहरे द्विदिशीय (bidirectional) ट्रांसफॉर्मर्स, स्प्यूरियस सहसंबंधों (spurious correlations) को समाप्त करके और एल्गोरिद्मिक संरेखण (algorithmic alignment) को लागू करके, हॉर्न क्लॉज़ (Horn clauses) पर निहित निवर्तनात्मक तर्क (implicit deductive reasoning) में स्पष्ट चेन-ऑफ-थॉट स्तर का प्रदर्शन प्राप्त कर सकते हैं, हालांकि अधिक गहराई तक विस्तार करने के लिए स्पष्ट तर्क (explicit reasoning) आवश्यक बना हुआ है।
यह योगदान बजटेड लोरा (Budgeted LoRA) को प्रस्तुत करता है, जो एक डिस्टिलेशन फ्रेमवर्क है जो मॉडल संपीड़न को कम्प्यूटेशनल संसाधन आवंटन की एक संरचित समस्या के रूप में मानता है ताकि एक वैश्विक कम्प्यूटेशनल बजट के तहत डेंस और लो-रैंक पाथ्स के बीच क्षमता को गतिशील रूप से पुनर्वितरित करके स्पष्ट अनुमान दक्षता वाले स्टूडेंट मॉडल्स का उत्पादन किया जा सके।
कोरल (Coral) एक अनुकूलनशील, विषमता-जागरूक (heterogeneity-aware) मल्टी-एलएलएम (multi-LLM) सर्विंग सिस्टम है जो विविध क्लाउड जीपीयू (cloud GPUs) में संसाधन आवंटन और सर्विंग रणनीतियों को संयुक्त रूप से अनुकूलित करता है, जिससे तेज़, निकट-इष्टतम निर्णय लेने में सक्षम बनाने के लिए एक हानिरहित दो-चरणीय अपघटन (lossless two-stage decomposition) का उपयोग करके 2.79 लागत कमी और 2.39 उच्च गुडथ्रूप (goodput) प्राप्त होता है।
यह शोध पत्र इस धारणा को चुनौती देता है कि मल्टी-एजेंट सॉफ्टवेयर डिज़ाइन में अधिक संदर्भ (context) हमेशा फायदेमंद होता है, यह प्रदर्शित करते हुए कि एक क्रॉसओवर प्रभाव मौजूद है जहाँ ज्ञान का हस्तांतरण कार्य के आधारभूत प्रदर्शन (baseline performance) के आधार पर डिज़ाइन अन्वेषण को महत्वपूर्ण रूप से सुधार या खराब कर सकता है, जो यह सुझाव देता है कि एक सरल बिना-संदर्भ वाला परीक्षण यह अनुमान लगा सकता है कि आर्टिफैक्ट्स जोड़ने से मदद मिलेगी या नुकसान होगा।
यह कार्य यह प्रदर्शित करता है कि तर्क के माध्यम से सामान्यीकरण करने की एक ट्रांसफॉर्मर की क्षमता, जो कि रटने के बजाय है, एक तीव्र, महत्वपूर्ण प्रशिक्षण विंडो के भीतर निर्धारित होती है जहाँ वेट डिके (weight decay) का समय और इनिशियलाइजेशन का स्केलिंग निर्णायक होते हैं, जिससे जटिलता नियंत्रण को एक स्थिर हाइपरपैरामीटर विकल्प मानने वाले दृष्टिकोण को चुनौती मिलती है।
एक्सप्लेनेबल एआई (XAI) विधियों के मूल्यांकन में मानकीकरण और पारदर्शिता की कमी को दूर करने के लिए, यह शोध पत्र "XAI इवैल्यूएशन कार्ड" प्रस्तावित करता है, जो कि एक दस्तावेज़ीकरण टेम्पलेट है जिसे किसी भी नए XAI मीट्रिक के लिए लक्षित गुणों, धारणाओं और सत्यापन साक्ष्य जैसे महत्वपूर्ण विवरणों को व्यवस्थित रूप से रिकॉर्ड करने के लिए डिज़ाइन किया गया है।
यह अध्ययन प्रदर्शित करता है कि जबकि तंत्रिका रूप से संरेखित (neurally aligned) डीप कनवल्शनल न्यूरल नेटवर्क कम स्थानिक आवृत्तियों (low spatial frequencies) पर बढ़ी हुई निर्भरता और बेहतर प्रतिकूल सुदृढ़ता (adversarial robustness) दोनों प्रदर्शित करते हैं, निम्न-आवृत्ति प्रसंस्करण की ओर यह बदलाव मानव-समान निरूपणों (human-like representations) को सीखने का एक उभरता हुआ गुण मात्र है न कि सुदृढ़ता को संचालित करने वाला प्राथमिक तंत्र, क्योंकि मॉडलों को सीधे इन आवृत्तियों की ओर पक्षपाती बनाना सुदृढ़ता लाभों को दोहराने में विफल रहता है।