💬 NLP

MASA: Rethinking the Representational Bottleneck in LoRA with Multi-A Shared Adaptation

यह शोध पत्र MASA का प्रस्ताव करता है, जो एक नवीन पैरामीटर-कुशल फाइन-ट्यूनिंग (Parameter-Efficient Fine-Tuning) आर्किटेक्चर है जो कई डाउन-प्रोजेक्शन मैट्रिसेस (AA) के एक एसिमेट्रिकल साझा एन्सेम्बल (asymmetrically shared ensemble) का उपयोग करके विविध विशेषताओं को कैप्चर करता है, जिससे LoRA की रिप्रजेंटेशनल बाधा (representational bottleneck) कम हो जाती है, जिन्हें फिर एक एकल लेयर-विशिष्ट अप-प्रोजेक्शन मैट्रिक्स (BB) द्वारा एकीकृत किया जाता है, और इस प्रकार समान पैरामीटर दक्षता के साथ विभिन्न कार्यों में बेहतर प्रदर्शन प्राप्त किया जाता है।

Qin Dong, Yuntian Tang, Heming Jia, Yunhang Shen, Bohan Jia, Wenxuan Huang, Lianyue Zhang, Jiao Xie, Shaohui Lin, Rongro (…)2026-03-03
💬 NLP

TTOM: Test-Time Optimization and Memorization for Compositional Video Generation

TTOM एक प्रशिक्षण-मुक्त ढांचा है जो लेआउट-अटेंशन उद्देश्यों द्वारा निर्देशित नए मापदंडों को अनुकूलित करके और स्ट्रीमिंग इन्फरेंस के लिए एक पैरामीट्रिक मेमोरी तंत्र का उपयोग करके कंपोजिशनल वीडियो जनरेशन को बढ़ाता है, जिससे प्रत्यक्ष लेटेंट हस्तक्षेप के बिना बेहतर टेक्स्ट-इमेज संरेखण और सामान्यीकरण प्राप्त होता है।

Leigang Qu, Ziyang Wang, Na Zheng, Wenjie Wang, Liqiang Nie, Tat-Seng Chua2026-03-03
💬 NLP

Reliable Fine-Grained Evaluation of Natural Language Math Proofs

यह शोध पत्र ProofBench प्रस्तुत करता है, जो LLM-जनित गणितीय प्रमाणों के सूक्ष्म मूल्यांकन के लिए पहला विशेषज्ञ-एनोटेटेड डेटासेट है, और इसका उपयोग ProofGrader विकसित करने के लिए करता है, जो एक उच्च-सटीक मूल्यांकनकर्ता है जो साधारण बेसलाइन से काफी बेहतर प्रदर्शन करता है और गणितीय तर्क में स्वचालित और मानवीय मूल्यांकन के बीच के अंतर को प्रभावी ढंग से पाटता है।

Wenjie Ma, Andrei Cojocaru, Neel Kolhe, Bradley Louie, Robin Said Sharif, Haihan Zhang, Vincent Zhuang, Matei Zaharia, S (…)2026-03-03
💬 NLP

ScholarEval: Research Idea Evaluation Grounded in Literature

यह शोध पत्र ScholarEval को पेश करता है, जो शोध विचारों के सुदृढ़ता और योगदान के आधार पर मूल्यांकन करने के लिए एक रिट्रीवल-ऑगमेंटेड फ्रेमवर्क है, और नए बनाए गए ScholarIdeas डेटासेट तथा बड़े पैमाने पर उपयोगकर्ता अध्ययनों का उपयोग करके मौजूदा बेसलाइनों पर इसकी श्रेष्ठता को प्रमाणित करता है।

Hanane Nour Moussa, Patrick Queiroz Da Silva, Daniel Adu-Ampratwum, Alyson East, Zitong Lu, Nikki Puccetti, Mingyi Xue (…)2026-03-03
💬 NLP

Rethinking On-policy Optimization for Query Augmentation

यह शोध पत्र प्रॉम्प्टिंग-आधारित और सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग)-आधारित क्वेरी ऑग्मेंटेशन की व्यवस्थित रूप से तुलना करता है, जो यह प्रकट करता है कि सरल प्रशिक्षण-मुक्त विधियाँ अक्सर जटिल आरएल (RL) दृष्टिकोणों के बराबर होती हैं, और फलस्वरूप एक नवीन हाइब्रिड विधि प्रस्तावित करता है जिसे ऑन-पॉलिसी स्यूडो-डॉक्यूमेंट क्वेरी एक्सपेंशन (OPQE) कहा जाता है, जो बेहतर रिट्रीवल प्रदर्शन प्राप्त करने के लिए प्रॉम्प्टिंग के लचीलेपन को आरएल के लक्षित अनुकूलन के साथ सहक्रियात्मक रूप से जोड़ता है।

Zhichao Xu, Shengyao Zhuang, Xueguang Ma, Bingsen Chen, Yijun Tian, Fengran Mo, Jie Cao, Vivek Srikumar2026-03-03
💬 NLP

BioCAP: Exploiting Synthetic Captions Beyond Labels in Biological Foundation Models

यह शोधपत्र BioCAP प्रस्तुत करता है, जो एक जैविक फाउंडेशन मॉडल है जो प्रजातियों के वर्गीकरण और टेक्स्ट-इमेज रिट्रीवल को बेहतर बनाने के लिए मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स द्वारा जनरेट किए गए सिंथेटिक, इंस्टेंस-विशिष्ट कैप्शन का लाभ उठाता है ताकि सरल लेबल से परे समृद्ध सिमेंटिक गुणों को कैप्चर किया जा सके।

Ziheng Zhang, Xinyue Ma, Arpita Chowdhury, Elizabeth G. Campolongo, Matthew J. Thompson, Net Zhang, Samuel Stevens, Hilm (…)2026-03-03
💬 NLP

Steering Evaluation-Aware Language Models to Act Like They Are Deployed

यह शोध पत्र प्रदर्शित करता है कि एक्टिवेशन स्टीयरिंग (activation steering), मॉडल के उस मूल अवस्था से प्राप्त स्टीयरिंग वेक्टर का उपयोग करके, जो उसे मूल्यांकन संकेतों को पहचानने के लिए प्रशिक्षित किया गया था, सुरक्षा मूल्यांकनों के दौरान लार्ज लैंग्वेज मॉडल्स के अपने व्यवहार को बदलने की प्रवृत्ति को प्रभावी ढंग से दबा सकता है, जिससे यह सुनिश्चित होता है कि वे वास्तविक दुनिया में तैनाती के दौरान जैसा व्यवहार करते हैं वैसा ही करें।

Tim Tian Hua, Andrew Qin, Samuel Marks, Neel Nanda2026-03-03
💬 NLP

A Comprehensive Dataset for Human vs. AI Generated Text Detection

यह शोध पत्र 58,000 से अधिक टेक्स्ट नमूनों का एक व्यापक डेटासेट प्रस्तुत करता है जो एआई-जनित सामग्री का पता लगाने और इसे विशिष्ट मॉडलों के प्रति आरोपित करने के लिए मजबूत तरीकों के विकास और मूल्यांकन को सुगम बनाने हेतु वास्तविक न्यूयॉर्क टाइम्स लेखों को छह अत्याधुनिक लार्ज लैंग्वेज मॉडल्स द्वारा निर्मित सिंथेटिक संस्करणों के साथ जोड़ता है।

Rajarshi Roy, Nasrin Imanpour, Ashhar Aziz, Shashwat Bajpai, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth P (…)2026-03-03
💬 NLP

Can SAEs reveal and mitigate racial biases of LLMs in healthcare?

यह शोध पत्र स्वास्थ्य सेवा संबंधी LLMs में नस्लीय पूर्वाग्रहों की पहचान करने और उन्हें कम करने में स्पार्स ऑटोएनकोडर्स (SAEs) की उपयोगिता का मूल्यांकन करता है, जिसमें यह पाया गया है कि जहाँ SAEs नस्ल और कलंकपूर्ण अवधारणाओं के बीच छद्म संबंधों का प्रभावी ढंग से पता लगा सकते हैं, वहीं इन लैटेंट्स (latents) के माध्यम से मॉडलों को निर्देशित करना वास्तविक नैदानिक कार्यों में पूर्वाग्रह शमन के लिए केवल मामूली सुधार ही प्रदान करता है।

Hiba Ahsan, Byron C. Wallace2026-03-03
💬 NLP

From Efficiency to Adaptivity: A Deeper Look at Adaptive Reasoning in Large Language Models

यह सर्वेक्षण अनुकूलन क्षमता (adaptivity) के दृष्टिकोण से लार्ज लैंग्वेज मॉडल रीजनिंग को पुनर्गठित करता है, जो एक औपचारिक रूपरेखा और व्यवस्थित वर्गीकरण (taxonomy) प्रदान करता है जो कार्य की जटिलता के आधार पर तर्क संबंधी प्रयास को गतिशील रूप से आवंटित करने वाली विधियों को वर्गीकृत करता है और प्रशिक्षण-आधारित एवं प्रशिक्षण-मुक्त दृष्टिकोणों के बीच अंतर करता है।

Chao Wu, Baoheng Li, Mingchen Gao, Yu Tian, Zhenyi Wang2026-03-03