25186 पेपर
यह शोध पत्र सैलिएंसी-अवेयर रेगुलराइज्ड क्वांटाइजेशन कैलिब्रेशन (SARQC) का प्रस्ताव करता है, जो एक एकीकृत ढांचा है जो कैलिब्रेशन ऑब्जेक्टिव में एक सैलिएंसी-अवेयर रेगुलराइजेशन टर्म पेश करके लार्ज लैंग्वेज मॉडल्स के लिए पोस्ट-ट्रेनिंग क्वांटाइजेशन को बेहतर बनाता है, जिससे बिना किसी इन्फरेंस ओवरहेड के जनरलाइजेशन जोखिमों को कम किया जाता है और डाउनस्ट्रीम प्रदर्शन में सुधार किया जाता है।
इर्मिन्सुल (Irminsul) एजेंटिक एलएलएम (Agentic LLMs) के लिए एक नेटिव पोजीशन-इंडिपेंडेंट कैशिंग सिस्टम पेश करता है जो कंटेंट-एड्रेस्ड की-वैल्यू कैशिंग को सक्षम करने के लिए मल्टी-हेड लेटेंट अटेंशन (Multi-Head Latent Attention) की आर्किटेक्चरल संरचना का लाभ उठाता है, जिससे पारंपरिक प्रीफिक्स-मैचिंग दृष्टिकोणों में निहित कैश इनवैलिडेशन समस्याओं को दूर करते हुए 83% तक प्रॉम्प्ट टोकन रिकवरी और 63% प्रीफिल ऊर्जा बचत प्राप्त होती है।
यह शोध पत्र प्रदर्शित करता है कि Apple Silicon पर, int4 KV कैश क्वांटाइजेशन के लिए एक विशेष फ्यूज्ड मेटल कर्नेल न केवल मॉडल की गुणवत्ता को बनाए रखता है, बल्कि यूनिफाइड मेमोरी बैंडविड्थ और उन्नत रोटेशन तकनीकों का लाभ उठाकर प्रति-टोकन गिरावट को समाप्त करते हुए लेटेंसी में fp16 से बेहतर प्रदर्शन भी करता है।
यह शोध पत्र एक 'वैल्यू-ऑफ-इन्फॉर्मेशन-ड्रिवन' सर्च कंट्रोलर और एक चयनात्मक साक्ष्य-आधारित फाइनलाइज़र के माध्यम से मल्टी-हॉप क्यू-एंड-ए (QA) के दौरान दोहरे बजट (टूल कॉल्स और टोकन) को गतिशील रूप से आवंटित करने वाले एलएलएम (LLM) सर्च एजेंटों के लिए एक द्वि-चरणीय इन्फरेंस-टाइम बजट नियंत्रण ढांचे का प्रस्ताव करता है, जो कई बेंचमार्क और मॉडलों में बेसलाइन की तुलना में निरंतर प्रदर्शन लाभ प्राप्त करता है।
यह शोध पत्र मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में इंटेंट-ओब्फस्केशन (इरादा छिपाने वाले) जेलब्रेक्स को नियंत्रित करने वाले एक रिकंस्ट्रक्शन-कंसीलमेंट (पुनर्निर्माण-गोपन) ट्रेडऑफ की पहचान करता है और एक नई हमला रणनीति प्रस्तावित करता है जो इरादे को छिपाने और पुनर्निर्माण क्षमता के बीच प्रभावी ढंग से संतुलन बनाने के लिए कैरेक्टर-रिमूव्ड वेरिएंट्स और कीवर्ड-संबंधित डिस्ट्रैक्टर इमेजेस का लाभ उठाती है, जिससे मौजूदा तरीकों से बेहतर प्रदर्शन होता है।
यह शोध पत्र प्रदर्शित करता है कि यद्यपि मेडिकल LLMs में एक विशिष्ट "ओवरथिंकिंग" विफलता मोड (failure mode) को हिडन स्टेट्स (hidden states) से रैखिक रूप से डिकोड (linearly decodable) किया जा सकता है, फिर भी इसे कार्य-महत्वपूर्ण गणनाओं के साथ प्रतिनिधित्व संबंधी उलझाव (representational entanglement) के कारण फिक्स्ड लीनियर स्टीयरिंग (fixed linear steering) के माध्यम से सुधारा नहीं जा सकता है, हालांकि यही प्रोब (probe) चयनात्मक परहेज (selective abstention) को सक्षम करने के लिए विफलताओं का पता लगाने में प्रभावी बना रहता है।
यह शोध पत्र प्रदर्शित करता है कि LLM एजेंटों में अधिक स्कैफोल्डिंग घटकों को जोड़ने से अक्सर विनाशकारी क्रॉस-कंपोनेंट हस्तक्षेप होता है, जो यह सिद्ध करता है कि पारंपरिक "ऑल-इन" दृष्टिकोण की तुलना में कार्य-विशिष्ट उपसमुच्चय चयन (task-specific subset selection) बेहतर प्रदर्शन करता है और ग्रीडी चयन विधियाँ बार-बार होने वाले सबमॉड्यूलरिटी उल्लंघन के कारण अविश्वसनीय हैं।
यह शोध पत्र SAGE को प्रस्तुत करता है, जो एक मल्टी-एजेंट LLM फ्रेमवर्क है जो विभिन्न प्रकार के विसंगतियों (anomalies) के लिए चार विशिष्ट विश्लेषकों में कार्य को विभाजित करके टाइम सीरीज़ विसंगति पहचान (time series anomaly detection) को बढ़ाता है, और मौजूदा बेसलाइनों की तुलना में बेहतर प्रदर्शन और व्याख्यात्मकता प्राप्त करने के लिए साक्ष्य-आधारित समेकन (evidence-grounded consolidation) और सिंथेटिक इन-कॉन्टेक्स्ट लर्निंग का उपयोग करता है।
यह शोध पत्र WARP प्रस्तुत करता है, जो एक बेंचमार्क और न्यूरल नेटवर्क फ्रेमवर्क है जो यह प्रदर्शित करता है कि AC ऑप्टिमल पावर फ्लो सॉल्वर में महत्वपूर्ण इटरेशन कटौती प्राप्त करने के लिए केवल प्राइमल वेरिएबल्स के बजाय पूर्ण प्राइमल-डुअल-बैरियर अवस्थाओं (primal-dual-barrier states) की भविष्यवाणी करना आवश्यक है, जो पिछले मूल्यांकन बेसलाइनों को सुधारता है जिन्होंने प्राइमल-ओनली वार्म-स्टार्टिंग की प्रभावकारिता को बढ़ाकर दिखाया था।
CRAFT एक निरंतर सीखने वाला (continual learning) फ्रेमवर्क है जो बड़े भाषा मॉडलों (large language models) के लिए है, जो टास्क रूटिंग, KL-डाइवर्जेंस-आधारित फाइन-ट्यूनिंग और इंटरवेंशन मर्जिंग की एक एकीकृत तीन-चरणीय प्रक्रिया के माध्यम से हिडन रिप्रेजेंटेशन पर लो-रैंक इंटरवेंशन सीखकर कैटास्ट्रोफिक फॉरगेटिंग को कम करता है, जिससे यह कई बेंचमार्क पर मजबूत LoRA-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करता है।