cs.CL ورقة بحثية

Speak-to-Structure: Evaluating LLMs in Open-domain Natural Language-Driven Molecule Generation

تقدم هذه الورقة البحثية Speak-to-Structure (S^2-Bench)، وهو أول معيار تقييم مُصمم لتقييم النماذج اللغوية الكبيرة في مهام توليد الجزيئات القائمة على اللغة الطبيعية من نوع "واحد إلى كثير" في النطاق المفتوح، إلى جانب OpenMolIns، وهي مجموعة بيانات تُمكّن النماذج التي خضعت للضبط الدقيق من التفوق على النماذج اللغوية الكبيرة الرائدة في التصميم الجزيئي الواقعي.

Jiatong Li, Junxian Li, Weida Wang, Yunqing Liu, Changmeng Zheng, Yatao Bian, Dongzhan Zhou, Xiao-yong Wei, Qing Li2026-05-25

💬 NLP

Register Always Matters: Analysis of LLM Pretraining Data Through the Lens of Language Variation

تُظهر هذه الدراسة أن السجل اللغوي لبيانات ما قبل التدريب يؤثر بشكل كبير على أداء النماذج اللغوية الكبيرة، كاشفةً أنه في حين تُعد النصوص الإخبارية غير مثالية، فإن دمج سجلات الرأي، والتعليمات الإرشادية، والوصف المعلوماتي يؤدي إلى تحسينات جوهرية في قدرات النموذج.

Amanda Myntti, Erik Henriksson, Veronika Laippala, Sampo Pyysalo2026-05-25

💬 NLP

InfiGFusion: Graph-on-Logits Distillation via Efficient Gromov-Wasserstein for Model Fusion

يقدم InfiGFusion إطار عمل جديد لدمج النماذج يعتمد على الوعي بالبنية، حيث يستخدم تقنية "التقطير القائم على الرسم البياني للنتائج" (Graph-on-Logits Distillation) مع تقريب "غروموف-واسرشتاين" (Gromov-Wasserstein) فعال وذو صيغة مغلقة لالتقاط التبعيات الدلالية بين قنوات المفردات، مما يجعله يتفوق بشكل كبير على النماذج المرجعية الحالية في مهام الاستدلال المعقدة.

Yuanyi Wang, Zhaoyi Yan, Yiming Zhang, Qi Zhou, Yanggan Gu, Fei Wu, Hongxia Yang2026-05-25

💬 NLP

Efficient and Transferable Agentic Knowledge Graph RAG via Reinforcement Learning

تقدم الورقة البحثية KG-R1، وهو إطار عمل وكيل يعتمد على التعلم المعزز يوحد بين الاسترجاع والاستدلال في وكيل واحد لتحقيق استرجاع معزز بالمعرفة (RAG) من الرسوم البيانية للمعرفة يتسم بالكفاءة، والقابلية للنقل، والدقة العالية دون الاعتماد على خطوط معالجة متعددة الثوابت.

Junhong Lin, Shicheng Liu, Jinyeop Song, Song Wang, Julian Shun, Yada Zhu2026-05-25

💬 NLP

Sparser Block-Sparse Attention via Token Permutation

تقدم هذه الورقة البحثية آلية "انتباه الكتل المتبادلة" (Permuted Block-Sparse Attention - PBS-Attn)، وهي طريقة جاهزة للاستخدام تعتمد على تبديل ترتيب الرموز (token permutation) لتحسين التشتت على مستوى الكتل في النماذج اللغوية الكبيرة ذات السياق الطويل، محققةً تسريعاً يصل إلى 2.75 ضعفاً في مرحلة التعبئة المسبقة (prefilling) مع الحفاظ على دقة تضاهي الانتباه الكامل.

Xinghao Wang, Pengyu Wang, Dong Zhang, Chenkun Tan, Shaojun Zhou, Zhaoxiang Liu, Shiguo Lian, Fangxu Liu, Kai Song, Xipe (…)2026-05-25

💬 NLP

DELICATE: Diachronic Entity LInking using Classes And Temporal Evidence

تقدم هذه الورقة DELICATE، وهي طريقة ربط كيانات عصبية-رمزية جديدة للإيطالية التاريخية تستفيد من المعقولية الزمنية وسياق ويكيداتا، إلى جانب مدونة ENEIDE، للتفوق على النماذج العصبية واسعة النطاق مع تقديم قدر أكبر من القابلية للتفسير في مجال العلوم الإنسانية.

Cristian Santini, Sebastian Barzaghi, Paolo Sernani, Emanuele Frontoni, Mehwish Alam2026-05-25

💬 NLP

Fine-Tuning Causal LLMs for Text Classification: Embedding-Based vs. Instruction-Based Approaches

تُثبت هذه الورقة أنه بالنسبة لتصنيف النصوص أحادي التسمية ومحدود الموارد، فإن الضبط الدقيق للنماذج اللغوية الكبيرة السببية باستخدام رأس تصنيف على تضمينات الرمز النهائي يعد أكثر كفاءة في المعلمات من الضبط الدقيق للتعليمات، مع تحقيق أداء مماثل أو متفوق على كل من النماذج اللغوية الكبيرة المضبوطة بالتعليمات ونماذج BERT المتخصصة في مجال معين.

Amirhossein Yousefiramandi, Ciaran Cooney2026-05-25✓ Author reviewed ⓘ

💬 NLP

SciNet: Evaluating AI Agents in Relation-Aware Scientific Literature Retrieval

تقدم الورقة البحثية SciNet، وهي مجموعة بيانات ضخمة ومدركة للعلاقات مخصصة لاسترجاع الأدبيات العلمية، والتي تكشف عن قصور الوكلاء الحاليين في فهم العلاقات الأكاديمية المعقدة وتُظهر تحسناً كبيراً في أدائهم عند تزويدهم بهذا السياق العلاقاتي.

Chenyang Shao, Fengli Xu, Yong Li2026-05-25

💬 NLP

GradingAttack: Exposing Security Vulnerabilities in LLM Based Educational Grading Agents

تقدم هذه الورقة GradingAttack، وهو إطار عمل هجومي دقيق يوضح كيف يمكن للتلاعبات على مستوى الرموز (tokens) ومستوى المطالبات (prompts) أن تضعف بشكل فعال وخفي أمن وكلاء التصحيح التعليمي القائمين على النماذج اللغوية الكبيرة، مما يسلط الضوء على الحاجة الملحة لدفاعات قوية في أنظمة التقييم الآلي.

Xueyi Li, Zhuoneng Zhou, Zitao Liu, Yongdong Wu2026-05-25

💬 NLP

Evaluating Memory Structure in LLM Agents

تقدم هذه الورقة البحثية StructMemEval، وهو معيار مصمم لتقييم قدرة وكلاء النماذج اللغوية الكبيرة على تنظيم الذاكرة طويلة المدى في هياكل معقدة بدلاً من مجرد استرجاع الحقائق، مما يكشف أنه بينما يمكن للوكلاء حل مثل هذه المهام من خلال التوجيه الصريح، إلا أنهم غالباً ما يفشلون في إدراك التنظيم الضروري للذاكرة دون توجيه.

Alina Shutova, Alexandra Olenina, Ivan Vinogradov, Anton Sinitsin2026-05-25

→ السابق التالي ←