🤖 Category

cs.AI

23200 पेपर

🤖 AI

Learning to Remember, Learn, and Forget in Attention-Based Models

यह शोध पत्र Palimpsa को प्रस्तुत करता है, जो एक सेल्फ-अटेंशन मॉडल है जो इन-कॉन्टेक्स्ट लर्निंग को बेयसियन मेटाप्लास्टिसिटी (Bayesian metaplasticity) का उपयोग करके एक निरंतर सीखने की समस्या के रूप में फ्रेम करता है ताकि स्थिरता और प्लास्टिसिटी के बीच गतिशील रूप से संतुलन बनाया जा सके, जिससे गेटेड लीनियर अटेंशन मॉडलों की निश्चित क्षमता और हस्तक्षेप की सीमाओं को दूर किया जा सके और लॉन्ग-सीक्वेंस रिकॉल और रीजनिंग कार्यों पर प्रदर्शन में महत्वपूर्ण सुधार किया जा सके।

Djohan Bonnet, Jamie Lohoff, Jan Finkbeiner, Elidona Shiqerukaj, Emre Neftci2026-06-04
🤖 AI

A Unified Framework for Locality in Scalable MARL

यह शोध पत्र स्केलेबल मल्टी-एजेंट रिइन्फोर्समेंट लर्निंग में लोकैलिटी (locality) के लिए एक एकीकृत ढांचे को प्रस्तुत करता है जो मान क्षय (value decay) के लिए एक कड़े, नीति-निर्भर स्पेक्ट्रल सर्टिफिकेट (spectral certificate) को व्युत्पन्न करने हेतु पर्यावरण और नीति संवेदनशीलता को विघटित करता है, जिससे उन क्षेत्रों में घातीय रूप से क्षय होने वाले ट्रंकेशन बायस (truncation bias) के साथ कुशल ब्लॉक-कोऑर्डिनेट पॉलिसी इम्प्रूवमेंट सक्षम होता है जहाँ पूर्ववर्ती समान बाउंड्स (uniform bounds) विफल हो जाते हैं।

Sourav Chakraborty, Amit Kiran Rege, Claire Monteleoni, Lijun Chen2026-06-04
💬 NLP

Value Entanglement: Conflation Between Different Kinds of Good In (Some) Large Language Models

यह शोध पत्र प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स (Large Language Models) "वैल्यू एंटैंगलमेंट" (मूल्य उलझाव) से ग्रस्त होते हैं, जहाँ नैतिक, व्याकरणिक और आर्थिक मूल्यों को मनुष्यों की तरह अलग करने के बजाय आपस में मिला दिया जाता है, लेकिन यह प्रदर्शित करता है कि नैतिकता-संबद्ध सक्रियण वेक्टर्स (activation vectors) के चयनात्मक एब्लेशन (ablation) के माध्यम से इस समस्या को कम किया जा सकता है।

Seong Hah Cho, Junyi Li, Anna Leshinskaya2026-06-04
🤖 AI

Does Order Matter : Connecting The Law of Robustness to Robust Generalization

यह शोध पत्र यह प्रदर्शित करके 'लॉ ऑफ रोबस्टनेस' (Law of Robustness) को रोबस्ट जनरलाइजेशन (robust generalization) से जोड़ने वाली खुली समस्या का समाधान करता है कि जबकि वैश्विक लिप्सचिट्ज़ बाउंड ऑर्डर (global Lipschitz bound order) किसी भी अनिश्चित डेटा वितरण के लिए 'लॉ ऑफ रोबस्टनेस' के अनुरूप बना रहता है, वहीं स्थानीय लिप्सचिट्ज़ बाउंड ऑर्डर (local Lipschitz bound order) पर्टरबेशन रेडियस और स्थानीय एकाग्रता पदों (localized concentration terms) के आधार पर भिन्न होता है।

Mihir More, Aritra Das, Jaee Ponde, Himadri Mandal, Vishnu Varadarajan, Debayan Gupta2026-06-04
🤖 AI

Binary Spiking Neural Networks as Causal Models

यह शोध पत्र बाइनरी स्पाइकिंग न्यूरल नेटवर्क के लिए एक कारण विश्लेषण (causal analysis) ढांचे को प्रस्तुत करता है जो उनकी स्पाइकिंग गतिविधि को एक बाइनरी कॉज़ल मॉडल के रूप में दर्शाता है, जिससे SAT और SMT सॉल्वर का उपयोग करके पिक्सेल-स्तरीय एबडक्टिव स्पष्टीकरण उत्पन्न करना सक्षम होता है जो SHAP जैसी लोकप्रिय विधियों के विपरीत अप्रासंगिक विशेषताओं के अपवर्जन की गारंटी देते हैं।

Aditya Kar (CNRS, IRIT), Emiliano Lorini (CNRS, IRIT), Timothée Masquelier (CNRS, CERCO UMR5549)2026-06-04
🤖 AI

Widening the Gap: Exploiting LLM Quantization via Outlier Injection

यह शोध पत्र पहला क्वांटाइजेशन-कंडीशन्ड हमला पेश करता है जो पूर्वानुमानित वेट कोलैप्स (weight collapse) को प्रेरित करने के लिए आउटलायर इंजेक्शन का लाभ उठाता है, जो AWQ, GPTQ और GGUF जैसी उन्नत क्वांटाइजेशन तकनीकों की एक विस्तृत श्रृंखला में लार्ज लैंग्वेज मॉडल्स में दुर्भावनापूर्ण व्यवहार को सफलतापूर्वक ट्रिगर करता है।

Xiaohua Zhan, Kazuki Egashira, Robin Staab, Mark Vero, Martin Vechev2026-06-04
🧬 biology

The Variance Brain Foundation Models Forgot: Third-Order Statistics Predict Cognition Where Billion-Parameter Models Fail

अपने पैमाने के बावजूद, वर्तमान ब्रेन फाउंडेशन मॉडल संज्ञानात्मक प्रदर्शन (cognitive performance) की भविष्यवाणी करने में विफल रहते हैं क्योंकि उनके प्रीट्रेनिंग उद्देश्य महत्वपूर्ण तृतीय-क्रम सांख्यिकीय संरचनाओं (तीसरे-क्रम की विषमता या co-skewness) को त्याग देते हैं, एक ऐसी सीमा जिसे एक सरल, प्रीट्रेनिंग-मुक्त लीनियर पाइपलाइन द्वारा दूर किया जा सकता है जो इन उच्च-क्रम विशेषताओं को स्पष्ट रूप से संरक्षित करती है ताकि मॉडलों और मानक कार्यात्मक कनेक्टिविटी बेसलाइनों दोनों से बेहतर प्रदर्शन किया जा सके।

Giovanni Marraffini, Gabriel Mahuas, Trinidad Borrell, Victoria Shevchenko, Demian Wassermann2026-06-04
💻 computer science

The Biomimetic Architecture of Software 4.0

यह मौलिक विजन पेपर "सॉफ्टवेयर 4.0" का प्रस्ताव करता है, जो "रेकग्निटिव" (Recognitive) प्लेटफॉर्म द्वारा उदाहरण स्वरूप एक नया प्रतिमान है, जो भंगुर, स्थिर कोड असेंबली को मानव और एआई बुद्धिमत्ता के एक स्व-नियामक, ऑटोपॉयटिक हेट्रार्की (heterarchy) से बदल देता है ताकि संभाव्य-प्रतीकात्मक विसंगति (probabilistic-symbolic mismatch) को मूल रूप से हल किया जा सके और गहन अर्थपूर्ण अन्वेषण को सक्षम बनाया जा सके।

Philip Sheldrake, Dirk Scheffler2026-06-04
🤖 machine learning

Position: Deployed Reinforcement Learning should be Continual

यह शोध पत्र तर्क देता है कि तैनात सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) प्रणालियों को पारंपरिक 'प्रशिक्षण-फिर-सुधार' (ट्रेन-देन-फिक्स) दृष्टिकोण के बजाय एक निरंतर शिक्षण प्रतिमान को अपनाना चाहिए, क्योंकि वास्तविक दुनिया की गैर-स्थिरता यह आवश्यक बनाती है कि एजेंट इष्टतम प्रदर्शन बनाए रखने के लिए अनुकूलन करना कभी भी बंद न करें।

Parnian Behdin, Kevin Roice, Golnaz Mesbahi2026-06-04
🤖 machine learning

Do Transformers Need Three Projections? Systematic Study of QKV Variants

यह शोध पत्र व्यवस्थित रूप से यह प्रदर्शित करता है कि ट्रांसफॉर्मर्स में—विशेष रूप से Q-K=V वेरिएंट में—क्वेरी (query), की (key) और वैल्यू (value) प्रोजेक्शन को साझा करना, विजन और लैंग्वेज कार्यों में प्रतिस्पर्धी प्रदर्शन बनाए रखते हुए इन्फरेंस मेमोरी और KV कैश आवश्यकताओं को महत्वपूर्ण रूप से कम करता है, जिससे कुशल ऑन-डिवाइस परिनियोजन सक्षम होता है।

Ali Kayyam, Anusha Madan Gopal, M Anthony Lewis2026-06-04