🤖 machine learning

Not All Timesteps Matter Equally: Selective Alignment Knowledge Distillation for Spiking Neural Networks

यह शोध पत्र सेलेक्टिव एलाइनमेंट नॉलेज डिस्टिलेशन (SeAl-KD) का प्रस्ताव करता है, जो स्पाइकिंग न्यूरल नेटवर्क के लिए एक नवीन विधि है जो सभी टाइमस्टेप्स पर समान एलाइनमेंट लागू करने के बजाय, टाइमस्टेप कॉन्फिडेंस और समानता के आधार पर क्लास-लेवल और टेम्पोरल नॉलेज को चयनात्मक रूप से संरेखित करके प्रदर्शन में सुधार करती है।

Kai Sun, Peibo Duan, Yongsheng Huang, Guowei Zhang, Benjamin Smith, Nanxu Gong, Levin Kuhlmann2026-05-15
🤖 machine learning

Towards Real-Time Autonomous Navigation: Transformer-Based Catheter Tip Tracking in Fluoroscopy

यह शोध पत्र डीप लर्निंग सेगमेंटेशन मॉडल का उपयोग करते हुए एक रियल-टाइम, मल्टी-थ्रेडेड कैथेटर टिप ट्रैकिंग पाइपलाइन प्रस्तुत करता है, जो विशेष रूप से यह प्रदर्शित करता है कि एक टू-क्लास सेगफॉर्मर (SegFormer) आर्किटेक्चर सटीकता और मजबूती के मामले में मौजूदा विधियों से बेहतर प्रदर्शन करता है ताकि सुदृढीकरण लर्निंग (reinforcement learning) आधारित स्वायत्त मैकेनिकल थ्रोम्बेक्टोमी नेविगेशन के लिए एक विश्वसनीय आधार प्रदान किया जा सके।

Harry Robertshaw, Yanghe Hao, Weiyuan Deng, Benjamin Jackson, S. M. Hadi Sadati, Nikola Fischer, Tom Vercauteren, Alejan (…)2026-05-15
🤖 machine learning

Dynamics of the Transformer Residual Stream: Coupling Spectral Geometry to Network Topology

यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के जैकोबियन आइजनडिकंपोजिशन (Jacobian eigendecomposition) का विश्लेषण करता है यह प्रकट करने के लिए कि प्रशिक्षण रोटेशन-प्रधान प्रारंभिक परतों से सममित (सिमेट्रिक) अंतिम परतों तक एक एकदिष्ट स्पेक्ट्रल ग्रेडिएंट (monotonic spectral gradient) प्रेरित करता है, जो एक लो-रैंक बॉटलनेक (low-rank bottleneck) बनाता है जो नेटवर्क के कार्यात्मक टोपोलॉजी (functional topology) को विक्षोभ प्रसार (perturbation propagation) और संपीड़न (compression) से गतिशील रूप से जोड़ता है।

Jesseba Fernando, Grigori Guitchounts2026-05-15
📊 statistics

Training-Free Generative Sampling via Moment-Matched Score Smoothing

यह शोध पत्र MM-SOLD को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त इंटरैक्टिंग पार्टिकल सैंपलर है जो न्यूरल डिफ्यूजन मॉडल की कम्प्यूटेशनल लागत के बिना तेज़, सुदृढ़ और प्रतिस्पर्धी जनरेटिव सैंपलिंग प्राप्त करने के लिए सैंपलिंग प्रक्षेपवक्र (ट्रैजेक्टरी) के दौरान डेटा मोमेंट्स को लागू करता है।

Zhenyu Yao, Daniel Paulin2026-05-15
🤖 machine learning

TILT: Target-induced loss tilting under covariate shift

यह शोध पत्र टारगेट-इंड्यूस्ड लॉस टिल्टिंग (TILT) को प्रस्तुत करता है, जो कोवेरिएट शिफ्ट के तहत एक नवीन अनसुपरवाइज्ड डोमेन एडाप्टेशन विधि है जो प्रेडिक्टर को डीकंपोज करके स्पष्ट रूप से स्व-स्थानीयकृत, सीमित महत्व भारण (इम्पॉर्टेंस वेटिंग) को प्रेरित करता है, जिससे यह रिग्रेशन और इमेज क्लासिफिकेशन दोनों कार्यों में सैद्धांतिक गारंटी प्रदान करता है और मौजूदा बेसलाइनों पर बेहतर प्रदर्शन प्रदर्शित करता है।

Kakei Yamamoto, Martin J. Wainwright2026-05-15
⚡ electrical engineering

ForcingDAS: Unified and Robust Data Assimilation via Diffusion Forcing

ForcingDAS डिफ्यूजन फॉरसिंग (Diffusion Forcing) पर निर्मित एक एकीकृत और सुदृढ़ डेटा आत्मसात (data assimilation) ढांचा है जो पारंपरिक फ़िल्टरिंग विधियों के त्रुटि संचय (error accumulation) और मौजूदा सीखे गए मॉडलों के शासन विशिष्टता (regime specialization) को दूर करने के लिए एक संयुक्त-प्रक्षेपवक्र पूर्ववर्ती (joint-trajectory prior) सीखता है, जिससे एक एकल प्रशिक्षित मॉडल विविध मौसम और जलवायु बेंचमार्क में निर्बाध रूप से नाउकास्टिंग (nowcasting), स्मूथिंग (smoothing) और पुनर्रचना (reanalysis) करने में सक्षम होता है।

Yixuan Jia, Siyi Chen, Yida Pan, Xiao Li, Lianghe Shi, Chanyong Jung, Haijie Yuan, Ismail Alkhouri, Yue Cynthia Wu, Saip (…)2026-05-15✓ Author reviewed
🤖 machine learning

MetaMoE: Diversity-Aware Proxy Selection for Privacy-Preserving Mixture-of-Experts Unification

MetaMoE एक गोपनीयता-संरक्षण ढांचा है जो सार्वजनिक प्रॉक्सी डेटा के विविधता-जागरूक चयन का लाभ उठाकर स्वतंत्र रूप से प्रशिक्षित, डोमेन-विशिष्ट विशेषज्ञों को एक एकल मिक्स्चर-ऑफ-एक्सपर्ट्स मॉडल में एकीकृत करता है ताकि संवेदनशील क्लाइंट डेटा तक पहुँच बनाए बिना निजी वितरण का अनुमान लगाया जा सके और विशेषज्ञ शिक्षण को समन्वित किया जा सके।

Weisen Jiang, Shuhao Chen, Sinno Jialin Pan2026-05-15
💬 NLP

To See is Not to Learn: Protecting Multimodal Data from Unauthorized Fine-Tuning of Large Vision-Language Model

यह शोध पत्र MMGuard का प्रस्ताव करता है, जो एक सक्रिय रक्षा तंत्र है जो बड़े विजन-लैंग्वेज मॉडल्स (Large Vision-Language Models) के अनधिकृत फाइन-ट्यूनिंग को रोकने के लिए मानव-अदृश्य विक्षोभों (human-imperceptible perturbations) को इंजेक्ट करके और क्रॉस-मोडल बाइंडिंग्स को बाधित करके अनलर्नेबल मल्टीमॉडल उदाहरण उत्पन्न करता है, जिससे डेटा मालिकों के कॉपीराइट और गोपनीयता की रक्षा होती है।

Chengshuai Zhao, Zhen Tan, Dawei Li, Zhiyuan Yu, Huan Liu2026-05-15
🤖 machine learning

Minimal-Intervention KV Retention: A Design-Space Study and a Diversity-Penalty Survivor

यह शोधपत्र प्रदर्शित करता है कि एक न्यूनतम, विविधता-दंड (diversity-penalty) संशोधन, टाइट मेमोरी बजट के तहत दीर्घ-रूप गणितीय तर्क (long-form mathematical reasoning) में सात भारी संरचनात्मक पुनर्रचनाओं से बेहतर प्रदर्शन करता है, जो एक कठोर, पूर्व-पंजीकृत मूल्यांकन प्रोटोकॉल स्थापित करता है जो इस प्रदर्शन विषमता को प्रकट करता है।

Libo Sun, Po-wei Harn, Peixiong He, Xiao Qin2026-05-15
🤖 machine learning

Precise Verification of Transformers through ReLU-Catalyzed Abstraction Refinement

यह शोधपत्र एक नवीन ट्रांसफॉर्मर सत्यापन ढांचे का प्रस्ताव करता है जो सेल्फ-अटेंशन परतों में डॉट उत्पादों को सटीक रूप से सीमित करने के लिए ReLU-आधारित एब्स्ट्रैक्शन का लाभ उठाकर परिशुद्धता को बढ़ाता है, जिससे मौजूदा उत्तल ओवर-एप्रोक्सिमेशन (convex over-approximation) विधियों की तुलना में गलत अलार्मों को काफी कम किया जा सकता है और साथ ही स्वीकार्य दक्षता भी बनाए रखी जा सकती है।

Hengjie Liu, Zhenya Zhang, Jianjun Zhao2026-05-15