🤖 Category

cs.LG

22512 पेपर

🔢 mathematics

Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs

यह शोध पत्र प्रदर्शित करता है कि जहाँ फाइन-ट्यून्ड लार्ज लैंग्वेज मॉडल्स में स्टेग्नोग्राफिक पेलोड्स के लीनियर प्रोब-आधारित डिटेक्शन को उन एडवरसेरियल ट्रेनिंग के माध्यम से व्यवस्थित रूप से टाला जा सकता है जो रहस्यों को सिनर्जिस्टिक रेसिडुअल डिग्री ऑफ फ्रीडम में स्थानांतरित कर देती है, वहीं इस तरह के बचाव का मुकाबला एक थ्योरी-गाइडेड रीकॉन्टेक्स्टुअलाइजेशन डेटासेट को लागू करके किया जा सकता है जो मॉडल के प्रदर्शन से महत्वपूर्ण समझौता किए बिना डिटेक्टेबिलिटी को बहाल करता है।

Charles Westphal, Timothy Douglas, Keivan Navaie, Tiago Pimentel, Fernando E. Rosas2026-06-09
🤖 machine learning

Graph Mamba Operator: A Latent Simulator for Interacting Particle Systems

यह शोध पत्र ग्राफ माम्बा ऑपरेटर (GraMO) को प्रस्तुत करता है, जो एक लेटेंट-स्पेस सिम्युलेटर है जो मौजूदा विधियों की त्रुटि संचय और सीमित संदर्भ की समस्याओं को दूर करने के लिए एक एकल रैखिक पुनरावृत्ति (linear recurrence) में ग्राफ-आधारित स्थानिक अंतःक्रियाओं को स्टेट-स्पेस टेम्पोरल डायनेमिक्स के साथ अनूठे रूप से जोड़ता है, जिससे विविध इंटरैक्टिंग पार्टिकल सिस्टम्स में बेहतर लॉन्ग-होरिजन प्रेडिक्शन प्रदर्शन प्राप्त होता है।

Karn Tiwari, Niladri Dutta, N M Anoop Krishnan, Prathosh A P2026-06-09
🤖 machine learning

Breaking the Tokenizer Barrier: On-Policy Distillation across Model Families

यह शोध पत्र एक सटीक टोकन-मैपिंग एल्गोरिदम पेश करता है जो ऑन-पॉलिसी डिस्टिलेशन (On-Policy Distillation) को अलग-अलग टोकनाइज़र वाले विभिन्न मॉडल परिवारों में संचालित करने में सक्षम बनाता है, जो पिछली सीमाओं को दूर करता है और मौजूदा क्रॉस-टोकनाइज़र विधियों की तुलना में काफी बेहतर कंप्यूट दक्षता प्रदर्शित करता है।

Yifan Niu, Han Xiao, Dongyi Liu, Zelong Wang, Dihong Gong, Yasheng Wang, Jia Li2026-06-09
💬 NLP

Escaping the KL Agreement Trap in On-Policy Distillation

यह शोध पत्र KAT प्रस्तुत करता है, जो ऑन-पॉलिसी डिस्टिलेशन (on-policy distillation) के लिए एक अनुकूलन योग्य टर्मिनेशन नियम है जो उन लो-केएल एग्रीमेंट ट्रैप्स (low-KL agreement traps) का पता लगाता है और उन्हें फ़िल्टर करता है जहाँ शिक्षक छात्र की त्रुटियों को सुधारने में विफल रहते हैं, जिससे रोलआउट लंबाई को कम करते हुए गणितीय तर्क सटीकता में महत्वपूर्ण सुधार होता है।

Haoran Xin, Anhao Zhao, Ying Sun, Jin Li, Xiaoyu Shen, Hui Xiong2026-06-09
🤖 machine learning

Investigating Calibration Challenges in Probabilistic Electricity Price Forecasting

यह शोध पत्र तर्क देता है कि वर्तमान संभाव्य (प्रोबेबिलिस्टिक) बिजली मूल्य पूर्वानुमान विधियाँ अक्सर शार्पनेस के लिए कैलिब्रेशन का त्याग करती हैं, जिससे अनिश्चितता के अनुमान अविश्वसनीय हो जाते हैं, और ऊर्जा बाजारों में वितरण अखंडता सुनिश्चित करने के लिए कैलिब्रेशन-जागरूक उद्देश्यों की ओर बदलाव का आह्वान करता है।

Jan Niklas Lettner, Hadeer El Ashhab, Benjamin Schäfer2026-06-09
🧬 biology

Integrating gene regulatory priors into Transformer attention with scTransformer for interpretable scRNA-seq analysis

यह शोधपत्र scTransformer को प्रस्तुत करता है, जो एक नवीन ट्रांसफॉर्मर-आधारित मॉडल है जो सिंगल-सेल आरएनए-सीक्वेंसिंग (scRNA-seq) विश्लेषण के प्रदर्शन और जैविक व्याख्यात्मकता दोनों को बढ़ाने के लिए अटेंशन मैकेनिज्म में जीन नियामक पूर्वग्रहों (gene regulatory priors) को एकीकृत करता है।

Mikele Milia, Louis Fabrice Tshimanga, Henning Mueller, Manfredo Atzori, Barbara Di Camillo2026-06-09
🤖 AI

PRISM: Recovering Instruction Sets from Language Model Activations

यह शोध पत्र PRISM को प्रस्तुत करता है, जो एक एक्टिवेशन-कंडीशन्ड इंटरप्रेटर है जिसे जज-गाइडेड GRPO के साथ प्रशिक्षित किया गया है, ताकि बड़े भाषा मॉडलों (LLMs) के हिडन स्टेट्स से सक्रिय निर्देशों, बाधाओं और उप-लक्ष्यों के पूर्ण सेट को सटीक रूप से डिकोड और रिकवर किया जा सके, जिससे जटिल एजेंटिक परिवेशों में निगरानी क्षमताओं को बढ़ाया जा सके।

Gilad Gressel, Rahul Pankajakshan, Julia Diament, Efim Hudis, Krishnashree Achuthan, Yisroel Mirsky2026-06-09
💬 NLP

Code Is More Than Text: Uncertainty Estimation for Code Generation

यह शोध पत्र कोड जनरेशन के लिए एक नवीन तीन-अक्षीय अनिश्चितता अनुमान ढांचा प्रस्तावित करता है जो टोकन नाजुकता (token fragility), इरादा-कोड अंतराल (intent-code gaps) और निष्पादन क्षमता (executability) जैसे कोड-विशिष्ट गुणों का लाभ उठाता है ताकि अविश्वसनीय आउटपुट का पता लगाने में प्राकृतिक भाषा-व्युत्पन्न बेसलाइन से काफी बेहतर प्रदर्शन किया जा सके।

Yuling Shi, Caiqi Zhang, Yuexian Li, Haopeng Wang, Yeheng Chen, Nigel Collier, Xiaodong Gu2026-06-09
🤖 machine learning

Assessing Sample Quality in Conditional Generation under Compositional Shift

यह शोध पत्र एक पोस्ट-हॉक, प्रति-नमूना (per-sample) ट्रस्ट स्कोर प्रस्तुत करता है जो केवल प्रशिक्षण वितरण (training distribution) का उपयोग करके वैश्विक यथार्थवाद (global realism) और विशेषता-वार निष्ठा (attribute-wise faithfulness) को जोड़कर कंपोजिशनल शिफ्ट के तहत कंडीशनल जनरेशन की गुणवत्ता का मूल्यांकन करता है, जिससे किसी संदर्भ लक्ष्य वितरण (reference target distribution) की आवश्यकता के बिना एक्सट्रपलेटेड नमूनों की प्रभावी छंटनी और रैंकिंग संभव हो पाती है।

Berker Demirel, Valentino Maiorca, Marco Fumero, Theofanis Karaletsos, Francesco Locatello2026-06-09
🤖 machine learning

Closure-Validated Circuit Discovery in Attention Heads: Co-activation Proposes, Ablation Disposes

यह शोध पत्र यह प्रदर्शित करता है कि जहाँ सह-सक्रियता सांख्यिकी (co-activation statistics) के आधार पर अटेंशन हेड्स को क्लस्टर करना विश्वसनीय सर्किट प्रस्ताव उत्पन्न करता है, वहीं केवल कॉज़ल एब्लेशन टेस्ट (causal ablation tests) ही उनकी कार्यात्मक आवश्यकता को प्रमाणित कर सकते हैं, जो यह प्रकट करते हैं कि ऐसे सस्ते संकेत अक्सर मिक्सचर-ऑफ-एक्सपर्ट्स (Mixture-of-Experts) जैसे जटिल आर्किटेक्चर में वास्तविक सर्किटों की पहचान करने में विफल रहते हैं।

Yongzhong Xu2026-06-09