🤖 machine learning

Towards Pretraining Text Encoders for TabPFN

यह शोध पत्र TabPFN टेक्स्ट अडैप्टर को प्रस्तुत करता है, जो एक हल्का, फ्रोजन-कंपोनेंट समाधान है जो पारंपरिक PCA-आधारित पाइपलाइनों की सूचना बाधा (इन्फॉर्मेशन बॉटलनैक) को समाप्त करने और मॉडल की प्रीट्रेनिंग शक्तियों से समझौता किए बिना उच्च-कार्डिनैलिटी वाले टेक्स्ट फीचर्स को कुशलतापूर्वक संभालने में सक्षम बनाने के लिए टेक्स्ट एम्बेडिंग्स को सीधे TabPFN के टोकन स्पेस में मैप करता है।

Mustafa Tajjar, Alexander Pfefferle, Lennart Purucker, Frank Hutter2026-06-04
💰 quantitative finance

Worker Utility as Hysteresis: A Preisach Model of Transaction Acceptance in Gig Labour Markets

यह शोध पत्र गिग वर्कर ट्रांजेक्शन एक्सेप्टेंस के लिए एक प्रिसैक हिस्टेरेसिस मॉडल प्रस्तावित करता है जो लेटेंट यूटिलिटी सर्फेस और प्राइस-टू-थ्रेशोल्ड एनकोडिंग्स का लाभ उठाकर श्रमिक वरीयताओं की दिशात्मक विषमता का फायदा उठाता है, जिससे मजदूरी लागत में 21.3% की कमी और फिल रेट में 9.7% की वृद्धि होती है।

Piotr Frydrych2026-06-04
🤖 machine learning

Toward Multi-Domain and Long-Tailed Quantization via Feature Alignment and Scaling

यह शोध पत्र EmaQ और इसके लॉन्ग-टेल्ड वेरिएंट EmaQ-LT को प्रस्तुत करता है, जो नवीन क्वांटाइजेशन फ्रेमवर्क हैं जो चुनौतीपूर्ण मल्टी-डोमेन शिफ्ट और गंभीर क्लास इम्बैलेंस के बीच सुदृढ़ लो-बिट इन्फरेंस प्रदर्शन प्राप्त करने के लिए फीचर अलाइनमेंट और सेंसिटिविटी-अवेयर स्केलिंग का लाभ उठाते हैं।

Chin-Yuan Yeh, Ting-An Chen, De-Nian Yang, Ming-Syan Chen2026-06-04
💬 NLP

Data Attribution in Large Language Models via Bidirectional Gradient Optimization

यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) में प्रशिक्षण डेटा एट्रिब्यूशन के लिए एक द्विदिशीय ग्रेडिएंट अनुकूलन ढांचे (बाइडायरेक्शनल ग्रेडिएंट ऑप्टिमाइज़ेशन फ्रेमवर्क) को प्रस्तुत करता है जो जनित आउटपुट के आधार पर मूल मॉडल को विचलित करता है ताकि प्रशिक्षण नमूनों में लॉस परिवर्तनों को मापा जा सके, जिससे यह बेहतर मॉडल व्याख्यात्मकता और जवाबदेही के लिए प्रभावशाली डेटा की पहचान करने में मौजूदा विधियों से बेहतर प्रदर्शन करता है।

Frédéric Berdoz, Luca A. Lanzendörfer, Kaan Bayraktar, Roger Wattenhofer2026-06-04
🤖 machine learning

Sequential Data Poisoning in LLM Post-Training

यह शोध पत्र LLM पोस्ट-ट्रेनिंग पाइपलाइनों के लिए एक अनुक्रमिक डेटा पॉइजनिंग (sequential data poisoning) खतरे के मॉडल को प्रस्तुत करता है, जो यह प्रकट करता है कि विभिन्न चरणों (जैसे SFT और DPO/PPO) को लक्षित करने वाले कई हमलावर ऐसे संयुक्त भेद्यताएँ (compound vulnerabilities) उत्पन्न कर सकते हैं जो अलग-थलग हमलों की तुलना में काफी अधिक प्रभावी हैं, जिससे मौजूदा सुरक्षा विश्लेषणों में एक महत्वपूर्ण "एकल-हमलावर भ्रम" (single-attacker illusion) उजागर होता है।

Jack Sanderson, Yihan Wang, Xiaoqian Lu, Gautam Kamath, Yiwei Lu2026-06-04
📊 statistics

AdaKoop: Efficient Modeling of Nonlinear Dynamics from Nonstationary Data Streams with Koopman Operator Regression

AdaKoop एक कुशल स्ट्रीमिंग एल्गोरिदम है जो गैर-स्थिर डेटा स्ट्रीम्स में गैर-रेखीय गतिकी (nonlinear dynamics) को अनुकूल रूप से मॉडल करने और पूर्वानुमान लगाने के लिए एक संभाव्य ढांचे के भीतर कूपमैन ऑपरेटर सिद्धांत (Koopman operator theory) का लाभ उठाता है, जिससे यह अत्याधुनिक तरीकों की तुलना में बेहतर सटीकता और कम्प्यूटेशनल दक्षता प्राप्त करता है।

Naoki Chihara, Ren Fujiwara, Yasuko Matsubara, Yasushi Sakurai2026-06-04
🤖 machine learning

Mean-based algorithms: A lower bound and regret

यह शोध पत्र अज्ञात-क्षितिज (unknown-horizon) बैंडिट सेटिंग्स में मीन-आधारित (mean-based) एल्गोरिदम के सीखने की गति पर एक सैद्धांतिक निचली सीमा (lower bound) स्थापित करता है, मौजूदा विधियों का सामान्यीकरण करने वाले दो नए एल्गोरिदम प्रस्तावित करता है, और यह प्रदर्शित करता है कि हालांकि वे थोड़ा धीमा अभिसरण (converge) कर सकते हैं, फिर भी वे प्रतिस्पर्धी प्रदर्शन प्राप्त कर सकते हैं और नो-रिग्रेट (no-regret) एल्गोरिदम की श्रेणी के साथ प्रतिच्छेद (intersect) कर सकते हैं।

Julius Durmann, Amelie Kleber2026-06-04
🤖 machine learning

STaR-Quant: State-Time Consistent Post-Training Quantization for Diffusion Large Language Models

यह शोध पत्र STaR-Quant का प्रस्ताव करता है, जो एक पोस्ट-ट्रेनिंग क्वांटाइजेशन फ्रेमवर्क है जो स्टेट-गाइडेड एक्टिवेशन ट्रांसफॉर्मेशन और टेम्पोरल अटेंशन कंपनसेशन के माध्यम से डिफ्यूजन लार्ज लैंग्वेज मॉडल्स में स्टेट-डिपेंडेंट एक्टिवेशन डिस्पैरिटी और टेम्पोरल एरर एक्युमुलेशन को संबोधित करता है, जिससे लो-बिट क्वांटाइजेशन प्रदर्शन को बनाए रखते हुए महत्वपूर्ण मेमोरी बचत और स्पीडअप प्राप्त होता है।

Xin Yan, Aqiang Wang, Zhenglin Wan, Xingrui Yuand Ivor Tsang2026-06-04
📊 statistics

A General Framework for Dynamic Consistent Submodular Maximization

यह शोधपत्र पूर्णतः गतिशील उप-मोड्यूलर अधिकतमकरण (submodular maximization) के लिए एक सामान्य रूपरेखा प्रस्तुत करता है जो कार्डिनैलिटी (cardinality) और रैंक-kk मैट्रॉइड बाधाओं दोनों के लिए उप-रैखिक निरंतरता (sublinear consistency) के साथ पहले स्थिर-गुणनता सन्निकटन एल्गोरिदम (constant-factor approximation algorithms) प्रदान करता है।

Paul Dütting, Federico Fusco, Silvio Lattanzi, Ashkan Norouzi-Fard, Ola Svensson, Morteza Zadimoghaddam2026-06-04
🤖 machine learning

Be Fair! Can Machine Learning Engineering Agents Adhere to Fairness Constraints?

यह शोध पत्र तर्क देता है कि वर्तमान मशीन लर्निंग इंजीनियरिंग एजेंट निष्पक्षता संबंधी बाधाओं का विश्वसनीय रूप से पालन करने में विफल रहते हैं और भविष्य कहनेवाला गुणवत्ता एवं निष्पक्षता में मैन्युअल बेसलाइन से कम प्रदर्शन करते हैं, जो एक जिम्मेदारी-केंद्रित मूल्यांकन ढांचे और मानव निरीक्षण को सक्षम बनाने वाले पुनर्गठित एजेंटों की तत्काल आवश्यकता को रेखांकित करता है।

Anna Richter, Julia Stoyanovich, Sebastian Schelter2026-06-04