cs.CL ورقة بحثية

Entropy Sentinel: Continuous LLM Accuracy Monitoring from Decoding Entropy Traces in STEM

تُثبت هذه الورقة أن ملفات تعريف إنتروبيا المخرجات (output-entropy profiles) المستمدة من آثار فك التشفير في النماذج اللغوية الكبيرة (LLM decoding traces) يمكن أن تعمل كإشارة فعالة أثناء وقت الاستدلال لتقدير دقة مستوى الشريحة (slice-level accuracy) تحت ظروف انزياح النطاق (domain shift)، مما يتيح مراقبة قابلة للتوسع واكتساب بيانات مستهدف عبر مختلف مهام الاستدلال في مجالات العلوم والتكنولوجيا والهندسة والرياضيات (STEM).

Pedro Memoli Buffa, Luciano Del Corro2026-03-04

💬 NLP

Can LLMs Discern the Traits Influencing Your Preferences? Evaluating Personality-Driven Preference Alignment in LLMs

تقترح هذه الورقة إطار عمل يستفيد من سمات الشخصية المستقرة كإشارات كامنة لتصفية وتوجيه تفضيلات المستخدم، مما يثبت أن تكييف النماذج اللغوية الكبيرة مع التفضيلات المتسقة مع الشخصية يحسن بشكل كبير من دقة الإجابة على الأسئلة المخصصة، وتقدم PACIFIC، وهي مجموعة بيانات جديدة من بيانات التفضيلات المصنفة حسب الشخصية.

Tianyu Zhao, Siqi Li, Yasser Shoukry, Salma Elmalaki2026-03-04

💬 NLP

Super Research: Answering Highly Complex Questions with Large Language Models through Super Deep and Super Wide Research

تقدم هذه الورقة البحثية "البحث الفائق" (Super Research)، وهي مهمة ومعيار جديد مصمم لتقييم قدرة النماذج اللغوية الكبيرة على حل الأسئلة شديدة التعقيد من خلال دمج التخطيط المهيكل، والاسترجاع فائق الاتساع، والتحقيق التكراري فائق العمق، مدعوماً ببروتوكول تدقيق مرتكز على الرسوم البيانية لتقييم الأداء عبر خمسة أبعاد حاسمة.

Yubo Dong, Nianhao You, Yuxuan Hou, Zixun Sun, Yue Zhang, Liang Zhang, Siyuan Zhao, Hehe Fan2026-03-04

💬 NLP

ClinConsensus: A Consensus-Based Benchmark for Evaluating Chinese Medical LLMs across Difficulty Levels

تقدم هذه الورقة ClinConsensus، وهو معيار مرجعي طبي صيني شامل يضم 2,500 حالة مفتوحة منسقة من قبل خبراء عبر كامل نطاق الرعاية، والذي يستخدم مقياساً مبتكراً لتسجيل الاتساق وإطار تقييم ثنائي الحكام للكشف عن تباين كبير في الأداء وفجوات في الاستنتاج لدى النماذج اللغوية الكبيرة الحالية.

Xiang Zheng, Han Li, Wenjie Luo, Weiqi Zhai, Yiyuan Li, Chuanmiao Yan, Tianyi Tang, Yubo Ma, Kexin Yang, Dayiheng Liu, H (…)2026-03-04

🧬 biology

A Zipf-preserving, long-range correlated surrogate for written language and other symbolic sequences

تقدم هذه الورقة نموذجاً بديلاً مبتكراً يحافظ في آن واحد على كل من توزيعات تكرار الرموز التجريبية (مثل قانون زيبف) وهياكل الارتباط بعيد المدى للتسلسلات الرمزية مثل اللغة والحمض النووي (DNA) عن طريق رسم الضجيج الغاوسي الكسري على المدرج التكراري الأصلي، مما يتيح فك الارتباط بين الميزات الهيكلية واختبار أصول قوانين القياس.

Marcelo A. Montemurro, Mirko Degli Esposti2026-03-04

💬 NLP

Self-Play Only Evolves When Self-Synthetic Pipeline Ensures Learnable Information Gain

تجادل هذه الورقة بأن التطور الذاتي المستدام في النماذج اللغوية الكبيرة يتطلب مسار بيانات ذاتي التخليق يضمن زيادة في اكتساب المعلومات القابلة للتعلم، ويتحقق ذلك من خلال إطار ثلاثي يتكون من "المقترح-الحلال-المتحقق" معزز بالتطور المشترك غير المتماثل، ونمو القدرة، والبحث الاستباقي عن المعلومات للتغلب على قيود اللعب الذاتي الهش.

Wei Liu, Siya Qi, Yali Du, Yulan He2026-03-04

💬 NLP

Routing Absorption in Sparse Attention: Why Random Gates Are Hard to Beat

تُظهر هذه الورقة أن تدريب الانتباه المتناثر من طرف إلى طرف يعاني من "امتصاص التوجيه" (routing absorption)، حيث تتكيف إسقاطات الـ Q/K/V في النموذج مع أي قناع مفروض، مما يجعل آليات البوابات المتعلمة غير فعالة مقارنة بالبوابات العشوائية، ويشير ذلك إلى أن التناثر اللاحق (post-hoc sparsification) يعد بديلاً متفوقاً.

Keston Aquino-Michaels2026-03-04

💬 NLP

HELIOS: Harmonizing Early Fusion, Late Fusion, and LLM Reasoning for Multi-Granular Table-Text Retrieval

يُعد HELIOS إطار عمل مبتكر لاسترجاع الجداول والنصوص متعدد الحبيبات، حيث يوفق بين استرجاع المخططات الفرعية ثنائية التجزئة القائمة على الحواف، وتوسيع العقد ذات الصلة بالاستعلام، والتحسين القائم على نموذج اللغة الكبير (LLM) بنمط النجمة للتغلب على قيود أساليب الدمج المبكر والمتأخر الحالية، مما يؤدي إلى تحسين الأداء بشكل كبير في معايير الإجابة على الأسئلة في النطاق المفتوح.

Sungho Park, Joohyung Yun, Jongwuk Lee, Wook-Shin Han2026-03-04

💬 NLP

Universal Conceptual Structure in Neural Translation: Probing NLLB-200's Multilingual Geometry

تُثبت هذه الورقة أن نموذج الترجمة NLLB-200 التابع لشركة ميتا يتعلم ضمنياً كلاً من البنية الجينية للغات البشرية والارتباطات المفاهيمية العالمية، مما يوفر دليلاً هندسياً على وجود مستودع مفاهيمي محايد لغوياً يماثل النظريات المعرفية للتنظيم المعجمي متعدد اللغات.

Kyle Elliott Mathewson2026-03-04

💬 NLP

Characterizing Memorization in Diffusion Language Models: Generalized Extraction and Sampling Effects

تقدم هذه الورقة إطاراً نظرياً وتجريبياً يوضح أنه في حين يمكن لنماذج اللغة الانتشارية (DLMs) حفظ بيانات التدريب مع زيادة احتمالية ذلك بالتوازي مع دقة أخذ العينات، إلا أنها تظهر تسريباً أقل بكثير لمعلومات الهوية الشخصية مقارنة بالنماذج ذات التوليد الذاتي (autoregressive models) في ظل تقييمات مشروطة ببادئات متوافقة.

Xiaoyu Luo, Wenrui Yu, Qiongxiu Li, Johannes Bjerva2026-03-04

→ السابق التالي ←