📊 statistics

Impatient Bandits: Optimizing for the Long-Term Without Delay

यह शोध पत्र एक बेयसियन-फिल्टर्ड बैंडिट एल्गोरिदम पेश करके अनुशंसा प्रणालियों (recommender systems) में दीर्घकालिक उपयोगकर्ता संतुष्टि को अनुकूलित करने की चुनौती को संबोधित करता है जो धीमी दीर्घकालिक पुरस्कारों और अपूर्ण अल्पकालिक प्रॉक्सी के बीच के संतुलन को प्रभावी ढंग से प्रबंधित करता है, एक ऐसी विधि जो सैद्धांतिक रिग्रेट बाउंड्स और पॉडकास्ट अनुशंसाओं के लिए एक बड़े पैमाने के A/B टेस्ट दोनों में मौजूदा दृष्टिकोणों से काफी बेहतर प्रदर्शन करने में सिद्ध हुई है।

Kelly W. Zhang, Thomas Baldwin-McDonald, Kamil Ciosek, Lucas Maystre, Daniel Russo2026-06-24
💬 NLP

Ensemble Learning for Large Language Models in Text and Code Generation: A Survey

यह सर्वेक्षण टेक्स्ट और कोड जनरेशन में लार्ज लैंग्वेज मॉडल्स के लिए उभरती हुई एनसेंबल लर्निंग तकनीकों की समीक्षा करता है, जो उन्हें सात विशिष्ट विधियों में वर्गीकृत करता है ताकि आउटपुट की गुणवत्ता, विविधता और लचीलेपन में सुधार करने के उनके लाभों को उजागर किया जा सके और भविष्य के मल्टीमॉडल अनुप्रयोगों के लिए आधार तैयार किया जा सके।

Mari Ashiga, Wei Jie, Fan Wu, Vardan Voskanyan, Fateme Dinmohammadi, Paul Brookes, Jingzhi Gong, Zheng Wang2026-06-24
💬 NLP

The Sparse Frontier: Sparse Attention Trade-offs in Transformer LLMs

यह शोध पत्र ट्रांसफॉर्मर एलएलएम (LLM) में ट्रेनिंग-फ्री स्पार्स अटेंशन (training-free sparse attention) का सबसे बड़े पैमाने पर अनुभवजन्य विश्लेषण प्रस्तुत करता है, जो एक पद्धति वर्गीकरण स्थापित करता है और यह प्रकट करता है कि स्पार्स मॉडल समान लागत पर छोटे डेंस (dense) मॉडलों से बेहतर प्रदर्शन करते हैं, जबकि अनुक्रम चरण (sequence phase) और लंबाई के आधार पर भिन्न होने वाली स्पर्सिटी चयन रणनीतियों पर व्यावहारिक अंतर्दृष्टि प्रदान करते हैं।

Piotr Nawrot, Robert Li, Renjie Huang, Sebastian Ruder, Kelly Marchisio, Edoardo M. Ponti2026-06-24
🤖 machine learning

SEAL: Searching Expandable Architectures for Incremental Learning

SEAL डेटा-इन्क्रीमेंटल लर्निंग के लिए एक न्यूरल आर्किटेक्चर सर्च फ्रेमवर्क है जो केवल आवश्यकता होने पर ही मॉडल की क्षमता को गतिशील रूप से विस्तारित करता है और क्रॉस-डिस्टिलेशन के माध्यम से स्थिरता बनाए रखता है, जिससे प्लास्टिसिटी और संसाधन दक्षता के बीच प्रभावी ढंग से संतुलन बनाया जाता है।

Matteo Gambella, Manuel Roveri2026-06-24
🤖 machine learning

Graph Alignment for Benchmarking Graph Neural Networks and Learning Positional Encodings

यह शोध पत्र ग्राफ अलाइनमेंट समस्या पर आधारित ग्राफ न्यूरल नेटवर्क के लिए एक नवीन स्व-पर्यवेक्षित (self-supervised) बेंचमार्किंग फ्रेमवर्क प्रस्तुत करता है, जो यह प्रदर्शित करता है कि कार्य की कठिनाई प्रभावी रूप से मॉडल आर्किटेक्चर को रैंक कर सकती है और परिणामी सीखे गए पोजीशनल एनकोडिंग्स डाउनस्ट्रीम ग्राफ कार्यों में महत्वपूर्ण सुधार करते हैं।

Adrien Lagesse, Marc Lelarge2026-06-24
🤖 machine learning

A Private Approximation of the 2nd-Moment Matrix of Any Subsamplable Input

यह शोध पत्र डिफरेंशियल प्राइवेट सेकंड-मोमेंट एस्टीमेशन के लिए एक नया रिकर्सिव एल्गोरिदम प्रस्तुत करता है जो वर्स्ट-केस सबसैम्प्लेबल इनपुट्स के लिए मजबूत प्राइवेसी-यूटिलिटी ट्रेड-ऑफ प्राप्त करता है और आउटलायर-कंटैमिनेटेड डिस्ट्रीब्यूशन्स को प्रभावी ढंग से संभालता है।

Bar Mahpud, Or Sheffet2026-06-24
⚡ electrical engineering

SLEEPING-DISCO 9M: A large-scale pre-training dataset for generative music modeling

यह शोध पत्र Sleeping-DISCO 9M को प्रस्तुत करता है, जो वास्तविक लोकप्रिय संगीत और विश्व प्रसिद्ध कलाकारों से बना एक नवीन बड़े पैमाने का ओपन-सोर्स डेटासेट है, जिसे जनरेटिव म्यूजिक मॉडलिंग के लिए मौजूदा सिंथेटिक या गैर-प्रतिनिधि डेटासेट्स की सीमाओं को दूर करने के लिए डिज़ाइन किया गया है।

Tawsif Ahmed, Andrej Radonjic, Gollam Rabby2026-06-24
🤖 machine learning

Tuning without Peeking: Provable Generalization Bounds and Robust LLM Post-Training

यह शोधपत्र BBoxER को प्रस्तुत करता है, जो LLM पोस्ट-ट्रेनिंग के लिए एक प्रमाणित रूप से सुदृढ़ ब्लैक-बॉक्स इवोल्यूशनरी विधि है, जो निहित डेटा संपीड़न (implicit data compression) के माध्यम से सूचना बाधा (information bottleneck) उत्पन्न करके गोपनीयता और सामान्यीकरण सुनिश्चित करता है, और प्रतिबंधित या प्रतिकूल वातावरण में ग्रेडिएंट-आधारित अनुकूलन के लिए एक सुरक्षित विकल्प प्रदान करता है।

Ismail Labiad, Mathurin Videau, Matthieu Kowalski, Marc Schoenauer, Alessandro Leite, Julia Kempe, Olivier Teytaud2026-06-24
🤖 machine learning

Stabilizing Black-Box Prompt Optimization with Textual Regularization and Signal Aggregation

यह शोध पत्र TRAS को प्रस्तुत करता है, जो एक प्लग-एंड-प्ले फ्रेमवर्क है जो सफल भविष्यवाणियों से प्राप्त पाठ्य नियमितीकरण (textual regularization) को शोर को फ़िल्टर करने के लिए मोंटे कार्लो सिग्नल एकत्रीकरण (Monte Carlo signal aggregation) के साथ जोड़कर ब्लैक-बॉक्स प्रॉम्प्ट अनुकूलन को स्थिर करता है, जिससे मौजूदा विधियों की तुलना में सटीकता, अभिसरण गति (convergence speed) और मॉडल माइग्रेशन के विरुद्ध मजबूती में सुधार होता है।

MohammadReza Davari, Utkarsh Garg, Weixin Cai, Eugene Belilovsky2026-06-24
📊 statistics

LLMs are Bayesian, In Expectation, Not in Realization

यह शोध पत्र तर्क देता है कि जबकि ट्रांसफॉर्मर क्रम-निर्भर भविष्यवाणियों के कारण सख्त विनिमेयता (exchangeability) का उल्लंघन करते हैं, वे अपेक्षा में प्रभावी रूप से बेयसियन (Bayesian) बने रहते हैं, क्योंकि उनका प्रिक्वेंशियल रिग्रेट (prequential regret) एक संचयी भविष्य कहनेवाला KL डाइवर्जेंस (cumulative predictive KL divergence) में विघटित होता है जो बेयसियन पोस्टेरियर्स (Bayesian posteriors) के साथ प्रतिस्पर्धी रहता है और फ्रीक्वेंटिस्ट प्लग-इन बेसलाइन्स (frequentist plug-in baselines) की तुलना में काफी बेहतर प्रदर्शन करता है।

Leon Chlon, Fatima Sheaib, Zein Khamis, Maggie Chlon, Mahdi El Zein, MarcAntonio M. Awada2026-06-24