🤖 Category

cs.LG

23164 पेपर

🤖 AI

Zipping the Thought: When and How Compressed Reasoning Data Works in LLM Post-Training

यह शोध पत्र संकुचित चेन-ऑफ-थॉट रीजनिंग (एक्सप्लिसिट, कंपोज़्ड और इम्प्लिसिट) का एक वर्गीकरण प्रस्तुत करता है और नियंत्रित प्रयोगों के माध्यम से यह प्रदर्शित करता है कि जहाँ मोटे तौर पर की गई रीजनिंग के लिए अधिक डेटा की आवश्यकता होती है और इसमें विशिष्ट स्केलिंग एवं मेमोराइजेशन व्यवहार दिखाई देते हैं, वहीं सत्यापन योग्य पुरस्कारों (वेरिफिएबल रिवार्ड्स) के साथ आगामी सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग), सुपरवाइज्ड फाइन-ट्यूनिंग के दौरान सीखे गए इन संकुचित चरणों को प्रभावी ढंग से विघटित कर सकता है।

Kohsei Matsutani, Gouki Minegishi, Takeshi Kojima, Yusuke Iwasawa, Yutaka Matsuo2026-05-28
💬 NLP

MemGuard: Preventing Memory Contamination in Long-Term Memory-Augmented Large Language Models

MemGuard एक प्रकार-जागरूक (type-aware) मेमोरी फ्रेमवर्क है जो स्मरणीयों (memories) को स्पष्ट कार्यात्मक भूमिकाएँ सौंपकर और साक्ष्यों को चुनिंदा रूप से संयोजित करके दीर्घकालिक मेमोरी-संवर्धित (memory-augmented) LLMs में विषम मेमोरी संदूषण (heterogeneous memory contamination) को रोकता है, जिससे विश्वसनीयता और पुनर्प्राप्ति दक्षता (retrieval efficiency) में महत्वपूर्ण सुधार होता है।

Hyeonjeong Ha, Jeonghwan Kim, Cheng Qian, Jiayu Liu, William M. Campbell, Yue Wu, Yuji Zhang, Kathleen McKeown, Dilek Ha (…)2026-05-28
💬 NLP

ROSD: Reflective On-Policy Self-Distillation for Language Model Reasoning across Domains

यह शोधपत्र रिफ्लेक्टिव ऑन-पॉलिसी सेल्फ-डिस्टिलेशन (ROSD) को प्रस्तुत करता है, जो एक फ्रेमवर्क है जो एक सेल्फ-रिफ्लेक्टर का उपयोग करके त्रुटियों को स्थानीयकृत करने और लक्षित, त्रुटि-विशिष्ट डिस्टिलेशन को निर्देशित करने के माध्यम से विभिन्न डोमेन में लैंग्वेज मॉडल की तर्क क्षमता को बढ़ाता है, जिससे मौजूदा ऑन-पॉलिसी सेल्फ-डिस्टिलेशन विधियों की ओवरफिटिंग और खराब सामान्यीकरण की सीमाओं को दूर किया जा सके।

Ziqi Zhao, Xinyu Ma, Liu Yang, Yujie Feng, Daiting Shi, Jingzhou He, Xin Xin, Zhaochun Ren, Xiao-Ming Wu2026-05-28
🤖 machine learning

AOE: Exhaustive Out-of-Distribution Detection via Recalibrating Outlier Labels

यह शोध पत्र एडेप्टिव कॉन्फिडेंस आउटलियर एक्सपोज़र (AOE) का प्रस्ताव करता है, जो एक नवीन आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन विधि है जो आउटलियर्स के लिए एडेप्टिव सॉफ्ट लेबल्स उत्पन्न करने के लिए टेम्परेचर स्केलिंग का उपयोग करके मौजूदा दृष्टिकोणों में सुधार करती है, जिससे इन-डिस्ट्रीब्यूशन श्रेणियों के साथ सिमेंटिक संबंधों को संरक्षित करते हुए ओवरकॉन्फिडेंट भविष्यवाणियों को दबाने के लिए निर्णय मार्जिन को प्रभावी ढंग से बढ़ाया जा सके।

Fengqiang Wan, Qing-Yuan Jiang, Yang Yang2026-05-28
🤖 machine learning

SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection

यह शोध पत्र SPARD का प्रस्ताव करता है, जो एक रक्षा ढांचा (defense framework) है जो हानिकारक फाइन-ट्यूनिंग हमलों को प्रभावी ढंग से कम करने और कार्य प्रदर्शन को बनाए रखने के लिए सेफ्टी-प्रोजेक्टेड अल्टरनेटिंग ऑप्टिमाइज़ेशन (Safety-Projected Alternating optimization) को रिलेवेंस-डाइवर्सिटी अवेयर डेटा चयन (Relevance-Diversity aware data selection) के साथ जोड़ता है।

Shuhao Chen, Weisen Jiang, Yeqi Gong, Shengda Luo, Chengxiang Zhuo, Zang Li, James T. Kwok, Yu Zhang2026-05-28
🤖 machine learning

On the Learnability of Test-Time Adaptation: A Recovery Complexity Perspective

यह शोधपत्र (ϵ,δ)(\epsilon,\delta)-रिकवरी कॉम्प्लेक्सिटी (Recovery Complexity) और (ϵ,ρ)(\epsilon,\rho)-TTA लर्नैबिलिटी (Learnability) को पेश करके टेस्ट-टाइम अडैप्टेशन (TTA) के लिए पहला सैद्धांतिक ढांचा स्थापित करता है, ताकि गैर-स्थिर (non-stationary) टेस्ट स्ट्रीम्स के अनुकूल मॉडल बनाने की मौलिक सीमाओं, अनुकूलनशीलता-सूचना व्यापार-संबंधों (adaptivity-information trade-offs), और दीर्घकालिक विश्वसनीयता का लक्षण वर्णन किया जा सके।

Zhi Zhou, Ming Yang, Shi-Yu Tian, Kun-Yang Yu, Lan-Zhe Guo, Yu-Feng Li2026-05-28
🤖 machine learning

PINE: Pruning Boosted Tree Ensembles with Conformal In-Distribution Prediction Equivalence

यह शोध पत्र PINE को प्रस्तुत करता है, जो ट्री एनसेम्बल्स (tree ensembles) के लिए एक नवीन प्रूनिंग विधि है जो एक नियंत्रणीय इन-डिस्ट्रीब्यूशन क्षेत्र के भीतर प्रेडिक्शन इक्विवेलेंस (prediction equivalence) की गारंटी देने के लिए कॉन्फॉर्मल कैलिब्रेशन का लाभ उठाती है, जिससे मौजूदा फेथफुल प्रूनिंग (faithful pruning) तकनीकों की तुलना में तुलनात्मक प्रेडिक्शन सटीकता बनाए रखते हुए 30% तक उच्च कंप्रेशन अनुपात प्राप्त होता है।

Haruki Yajima, Yusuke Matsui2026-05-28
🤖 machine learning

Measure-to-measure Regression with Transformers

यह शोधपत्र नॉनलीनियर मेजर-टू-मेजर रिग्रेशन के एक औपचारिकीकरण को प्रस्तुत करता है और संभाव्यता वितरणों (प्रोबेबिलिटी डिस्ट्रीब्यूशन्स) के बीच रूपांतरणों को सीखने के लिए दो स्केलेबल ट्रांसफॉर्मर-आधारित दृष्टिकोणों—स्टैटिक मैप्स और डायनेमिक वेलोसिटी फील्ड्स—का प्रस्ताव करता है, जो सिंथेटिक, भौतिक और जैविक डेटासेट में जनसंख्या विकास की भविष्यवाणी करने में उनकी प्रभावशीलता को प्रदर्शित करते हैं।

Matthew Vandergrift, Martha White, Yury Polyanskiy, Philippe Rigollet, Lazar Atanackovic2026-05-28
🤖 machine learning

Benchmarking Inductive Biases for Multivariate Time-Series Anomaly Detection with a Robust Multi-View Channel-Graph Detector

यह शोध पत्र पाँच डेटासेट में दस मल्टीवेरिएट टाइम-सीरीज विसंगति पहचान (anomaly detection) विधियों का एक व्यापक बेंचमार्क प्रस्तुत करता है जो यह प्रकट करता है कि कोई भी एकल इंडक्टिव बायस (inductive bias) प्रभावी नहीं है, जबकि साथ ही \ours{} को पेश करता है, जो एक सुदृढ़ मल्टी-व्यू चैनल-ग्राफ डिटेक्टर है जो मानकीकृत प्रोटोकॉल के तहत अत्याधुनिक प्रदर्शन और सामान्यीकरण प्राप्त करता है।

Junhao Wei, Yanxiao Li, Bidong Chen, Yifu Zhao, Haochen Li, Dexing Yao, Baili Lu, Xudong Ye, Jietian Feng, Sio-Kei Im, Y (…)2026-05-28
🤖 machine learning

Chreode: A Cell World Model for One-Step Temporal Dynamics and Perturbation Prediction

Chreode एक प्रीट्रेन (pretrained) वन-स्टेप सेल वर्ल्ड मॉडल है जो एक स्ट्रक्चर्ड रेसिडुअल ट्रांजिशन ऑपरेटर का लाभ उठाता है ताकि वितरण विकास (distributional evolution) को प्रशिक्षण समय में स्थानांतरित करके टेम्पोरल डायनेमिक्स और जेनेटिक परटर्बेशन्स (genetic perturbations) की भविष्यवाणी की जा सके, जिससे विकासात्मक प्रक्षेपवक्र मॉडलिंग (developmental trajectory modeling) और ज़ीरो-शॉट परटर्बेशन रिस्पॉन्स प्रेडिक्शन दोनों में अत्याधुनिक प्रदर्शन प्राप्त होता है।

Mufan Qiu, Genhui Zheng, Yinuo Xu, Ruichen Zhang, Ying Ding, Qi Long, Tianlong Chen2026-05-28