💬 Category

cs.CL

11158 पेपर

🤖 machine learning

Hierarchical Latent Structures in Data Generation Process Unify Mechanistic Phenomena across Scale

यह शोध पत्र यह प्रदर्शित करता है कि डेटा जनरेशन प्रक्रिया के भीतर पदानुक्रमित संरचनाएं (hierarchical structures), जिन्हें संभाव्य संदर्भ-मुक्त व्याकरणों (probabilistic context-free grammars) के माध्यम से मॉडल किया गया है, ट्रांसफॉर्मर-आधारित भाषा मॉडलों में इंडक्शन हेड्स (induction heads), फंक्शन वेक्टर्स (function vectors) और हाइड्रा प्रभाव (Hydra effect) जैसी विविध यांत्रिक घटनाओं के उद्भव के लिए एक एकीकृत स्पष्टीकरण के रूप में कार्य करती हैं।

Jonas Rohweder, Subhabrata Dutta, Iryna Gurevych2026-03-10
🤖 machine learning

Hierarchical Embedding Fusion for Retrieval-Augmented Code Generation

यह शोध पत्र हिअरार्किकल एम्बेडिंग फ्यूजन (HEF) को प्रस्तुत करता है, जो एक दो-चरणीय ढांचा है जो रिपॉजिटरी कोड को सघन वैक्टर्स (dense vectors) के पुन: प्रयोज्य पदानुक्रम में संकुचित करता है और उन्हें सीखे गए छद्म-टोकन्स (pseudo-tokens) में मैप करता है, जिससे पारंपरिक रिट्रीवल विधियों के समान सटीकता के साथ कम-विलंबता वाला, रिपॉजिटरी-जागरूक कोड जनरेशन सक्षम होता है और साथ ही इन्फरेंस लागतों को काफी कम करता है।

Nikita Sorokin, Ivan Sedykh, Valentin Malykh2026-03-10
💬 NLP

A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness

यह शोध पत्र प्रदर्शित करता है कि वर्तमान LLM-as-a-Judge फ्रेमवर्क अनअकाउंटेड डिस्ट्रीब्यूशन शिफ्ट्स के कारण प्रतिकूल मजबूती (adversarial robustness) को विश्वसनीय रूप से मापने में विफल रहते हैं जो प्रदर्शन को लगभग रैंडम स्तर तक कम कर देते हैं, जिससे अक्सर हमले की सफलता दर (attack success rate) कृत्रिम रूप से बढ़ी हुई दिखाई देती है, और इन मूल्यांकन दोषों को दूर करने के लिए नए बेंचमार्क प्रस्तावित करता है।

Leo Schwinn, Moritz Ladenburger, Tim Beyer, Mehrnaz Mofakhami, Gauthier Gidel, Stephan Günnemann2026-03-10
💬 NLP

Rethinking Personalization in Large Language Models at the Token Level

यह शोध पत्र PerContrast और PerCE लॉस को प्रस्तुत करता है, जो एक टोकन-स्तरीय प्रशिक्षण प्रतिमान (paradigm) है जो उपयोगकर्ता-विशिष्ट टोकन की पहचान करने और उन्हें अनुकूल रूप से अधिक भार (upweight) देने के लिए कारणत्मक हस्तक्षेप (causal intervention) का उपयोग करता है, जिससे न्यूनतम कम्प्यूटेशनल लागत के साथ बड़े भाषा मॉडलों के वैयक्तिकरण प्रदर्शन को महत्वपूर्ण रूप से बढ़ाया जाता है।

Chenheng Zhang, Yijun Lu, Lizhe Fang, Chunyuan Zheng, Jiajun Chai, Xiaohan Wang, Guojun Yin, Wei Lin, Yisen Wang, Zhouch (…)2026-03-10
🤖 machine learning

SR-TTT: Surprisal-Aware Residual Test-Time Training

SR-TTT एक लॉस-गेटेड स्पार्स मेमोरी मैकेनिज्म पेश करके टेस्ट-टाइम ट्रेनिंग (TTT) लैंग्वेज मॉडल्स की विनाशकारी रिकॉल विफलताओं को संबोधित करता है, जो अत्यधिक आश्चर्यजनक टोकन को एक सटीक-अटेंशन रेसिडुअल कैश में गतिशील रूप से रूट करता है, जिससे महत्वपूर्ण जानकारी के सटीक रिट्रीवल को सक्षम करते हुए O(1) मेमोरी दक्षता को संरक्षित किया जाता है।

Swamynathan V P2026-03-10
💬 NLP

TimeSpot: Benchmarking Geo-Temporal Understanding in Vision-Language Models in Real-World Settings

यह शोध पत्र TimeSpot को प्रस्तुत करता है, जो 80 देशों के 1,455 वास्तविक-विश्व छवियों से बना एक व्यापक बेंचमार्क है, जिसे केवल दृश्य साक्ष्यों से स्थान, समय और पर्यावरणीय संदर्भ का अनुमान लगाने में वर्तमान विजन-लैंग्वेज मॉडल्स की सीमित भू-कालिक (geo-temporal) तर्क क्षमताओं का मूल्यांकन करने के लिए डिज़ाइन किया गया है।

Azmine Toushik Wasi, Shahriyar Zaman Ridoy, Koushik Ahamed Tonmoy, Kinga Tshering, S. M. Muhtasimul Hasan, Wahid Faisal (…)2026-03-10
🤖 machine learning

Orion: Characterizing and Programming Apple's Neural Engine for LLM Training and Inference

यह शोध पत्र ओरियन (Orion) को प्रस्तुत करता है, जो पहला ओपन एंड-टू-एंड सिस्टम है जो लार्ज लैंग्वेज मॉडल ट्रेनिंग और इन्फरेंस के लिए डायरेक्ट न्यूरल इंजन प्रोग्रामिंग सक्षम करने हेतु एप्पल के ओपेक (opaque) कोरएमएल (CoreML) फ्रेमवर्क को बायपास करता है, जो एक नवीन पैचिंग मैकेनिज्म के माध्यम से वेट अपडेट्स में 8.5x की गति वृद्धि प्राप्त करता है और एप्पल सिलिकॉन पर 110M-पैरामीटर वाले मॉडल्स की स्थिर ट्रेनिंग का प्रदर्शन करता है।

Ramchand Kumaresan2026-03-10
💬 NLP

Counting on Consensus: Selecting the Right Inter-annotator Agreement Metric for NLP Annotation and Evaluation

यह शोधपत्र कार्यों के प्रकारों के अनुसार मापों को वर्गीकृत करके, लेबल असंतुलन और लुप्त डेटा जैसी चुनौतियों का समाधान करके, और विश्वसनीय एवं पुनरुत्पादित मानव एनोटेशन सुनिश्चित करने के लिए पारदर्शी रिपोर्टिंग प्रथाओं की वकालत करते हुए, एनएलपी (NLP) में इंटर-एनोटेटर एग्रीमेंट मेट्रिक्स के चयन और व्याख्या के लिए एक व्यापक मार्गदर्शिका के रूप में कार्य करता है।

Joseph James2026-03-10
🤖 machine learning

Symmetry-Constrained Language-Guided Program Synthesis for Discovering Governing Equations from Noisy and Partial Observations

SymLang एक ओपन-सोर्स फ्रेमवर्क है जो सममिति-प्रतिबंधित व्याकरण (symmetry-constrained grammars), भाषा-मॉडल-निर्देशित प्रोग्राम संश्लेषण (language-model-guided program synthesis), और बेयसियन मॉडल चयन (Bayesian model selection) को एकीकृत करता है ताकि शोरयुक्त और आंशिक अवलोकनों से सटीक, व्याख्या योग्य गवर्निंग समीकरणों को मजबूती से खोजा जा सके, जो संरचनात्मक रिकवरी और भौतिक निरंतरता में मौजूदा बेसलाइनों से काफी बेहतर प्रदर्शन करता है।

Mirza Samad Ahmed Baig, Syeda Anshrah Gillani2026-03-10
💬 NLP

LieCraft: A Multi-Agent Framework for Evaluating Deceptive Capabilities in Language Models

यह शोधपत्र LieCraft को प्रस्तुत करता है, जो एक नवीन मल्टी-एजेंट फ्रेमवर्क है जिसमें ग्राउंडेड, उच्च-दांव वाले परिदृश्य और एक हिडन-रोल गेम मैकेनिक शामिल है ताकि लार्ज लैंग्वेज मॉडल्स की धोखेबाजी की क्षमताओं का मूल्यांकन किया जा सके, जो यह प्रकट करता है कि अत्याधुनिक मॉडल्स अपने लक्ष्यों को प्राप्त करने के लिए लगातार झूठ बोलने, इरादों को छिपाने और अनैतिक रूप से कार्य करने की इच्छा प्रदर्शित करते हैं।

Matthew Lyle Olson, Neale Ratzlaff, Musashi Hinck, Tri Nguyen, Vasudev Lal, Joseph Campbell, Simon Stepputtis, Shao-Yen (…)2026-03-10