💬 Category

cs.CL

12021 ورقة بحثية

💬 NLP

How Large Language Models Get Stuck: Early structure with persistent errors

تتقصى هذه الورقة كيف أن النماذج اللغوية الكبيرة المدربة على مجموعة بيانات BabyLM غالباً ما تفشل في تعلم قواعد نحوية محددة لأن الانحيازات الخاطئة المبكرة، والمدفوعة بإحصاءات ثنائية الكلمات (bigram) مضللة، تصبح متجذرة وتستمر طوال عملية التدريب، مما يعيق التعلم الفعال.

Alokesh Manna, William Snyder, Whitney Tabor2026-03-12
💬 NLP

AdaPonderLM: Gated Pondering Language Models with Token-Wise Adaptive Depth

يُعد AdaPonderLM نموذج لغة متكررًا يعتمد على التعلم الذاتي، يستخدم بوابات توقف تكيفية لكل رمز (token) وإعادة استخدام مفاتيح وقيم (KV reuse) لتخصيص قدرة الحوسبة الاستدلالية ديناميكيًا للرموز الصعبة، محققًا مكاسب كفاءة كبيرة دون التضحية بالأداء مقارنة بالنماذج المرجعية ذات العمق الثابت.

Shixiang Song, He Li, Zitong Wang, Boyi Zeng, Feichen Song, Yixuan Wang, Zhiqin John Xu, Ziwei He, Zhouhan Lin2026-03-12
💬 NLP

GhazalBench: Usage-Grounded Evaluation of LLMs on Persian Ghazals

تقدم الورقة البحثية GhazalBench، وهو معيار مرجعي يوضح أنه بينما تستطيع النماذج اللغوية الكبيرة فهم معنى الغزل الفارسي بشكل عام، إلا أنها تعاني في استرجاع الأبيات بدقة في مهام الإكمال بسبب محدودية التعرض التدريبي، وهي فجوة تتقلص في إعدادات التعرف وتكون أقل وضوحاً بالنسبة للسوناتات الإنجليزية.

Ghazal Kalhor, Yadollah Yaghoobzadeh2026-03-12
🤖 machine learning

Explainable LLM Unlearning Through Reasoning

تقترح هذه الورقة البحثية إطار عمل "إلغاء التعلم بالاستدلال المستهدف" (TRU)، وهو إطار عمل مبتكر يستخدم هدف إلغاء تعلم قائم على الاستدلال لتوجيه النماذج في إزالة معرفة غير مرغوب فيها بدقة مع الحفاظ على القدرات العامة وتعزيز المتانة ضد الهجمات.

Junfeng Liao, Qizhou Wang, Shanshan Ye, Xin Yu, Ling Chen, Zhen Fang2026-03-12
💬 NLP

Large Language Models and Book Summarization: Reading or Remembering, Which Is Better?

تقيم هذه الورقة تجريبيًا ما إذا كانت النماذج اللغوية الكبيرة تلخص الكتب المشهورة بشكل أفضل باستخدام معرفتها التدريبية الداخلية أم من خلال معالجة النص الكامل، كاشفةً أنه في حين أن الوصول إلى النص الكامل يؤدي عمومًا إلى ملخصات أكثر تفصيلًا، إلا أن المعرفة الداخلية يمكن أن تتفوق عليه أحيانًا، مما يتحدى موثوقية تلخيص السياق الطويل.

Tairan Fu, Javier Conde, Pedro Reviriego, Javier Coronado-Blázquez, Nina Melero, Elena Merino-Gómez2026-03-12
💬 NLP

Evolving Demonstration Optimization for Chain-of-Thought Feature Transformation

تقترح هذه الورقة إطار عمل مغلق الحلقة يعمل على تحسين تحويل الميزات المدفوع بالنماذج اللغوية الكبيرة عبر تطوير واختيار مسارات تحويل متنوعة ومحققة للمهام من خلال تسلسل الأفكار، مما يتفوق بذلك على الأساليب الحالية في توليد مشغلات ميزات فعالة لمهام التنبؤ اللاحقة.

Xinyuan Wang, Kunpeng Liu, Arun Vignesh Malarkkan, Yanjie Fu2026-03-12
💬 NLP

A Two-Stage Architecture for NDA Analysis: LLM-based Segmentation and Transformer-based Clause Classification

تقترح هذه الورقة بنية مكونة من مرحلتين تجمع بين نموذج LLaMA-3.1-8B-Instruct لتجزئة اتفاقيات عدم الإفصاح (NDA) ونموذج Legal-Roberta-Large مضبوط بدقة لتصنيف البنود، محققةً دقة عالية (مقياس ROUGE F1 يبلغ 0.95 ووزن F1 يبلغ 0.85) لأتمتة تحليل اتفاقيات عدم الإفصاح المعقدة.

Ana Begnini, Matheus Vicente, Leonardo Souza2026-03-12
💬 NLP

TAMUSA-Chat: A Domain-Adapted Large Language Model Conversational System for Research and Responsible Deployment

تقدم هذه الورقة TAMUSA-Chat، وهو إطار عمل بحثي يُمكّن المؤسسات الأكاديمية من بناء أنظمة ذكاء اصطناعي محادثاتية مسؤولة ومتكيفة مع المجالات من خلال الضبط الدقيق الخاضع للإشراف، والتوليد المعزز بالاسترجاع، والتقييم المنهجي، مع توفير كود برمجي متاح للعموم لدعم التجريب القابل لإعادة الإنتاج والنشر الأخلاقي.

Izzat Alsmadi, Anas Alsobeh2026-03-12
💬 NLP

CEI: A Benchmark for Evaluating Pragmatic Reasoning in Language Models

تقدم هذه الورقة البحثية معيار الاستدلال العاطفي السياقي (CEI)، وهو مجموعة بيانات تضم 300 سيناريو تم التحقق منها بشرياً، صُممت لتقييم قدرة النماذج اللغوية الكبيرة على استنتاج المعنى المقصود بما يتجاوز الدلالات الحرفية من خلال التنقل عبر العبارات الغامضة عبر مختلف ديناميكيات القوة والأنواع الفرعية التداولية.

Jon Chun, Hannah Sussman, Adrian Mangine, Murathan Kocaman, Kirill Sidorko, Abhigya Koirala, Andre McCloud, Gwen Eisenbe (…)2026-03-12
💬 NLP

Evaluating Adjective-Noun Compositionality in LLMs: Functional vs Representational Perspectives

تقيم هذه الورقة البحثية تركيب الصفة والاسم في النماذج اللغوية الكبيرة باستخدام نهجين وظيفي وتمثيلي، مما يكشف عن تباين كبير حيث تطور النماذج بنجاح تمثيلات داخلية تركيبية ولكنها تفشل في ترجمتها باستمرار إلى نجاح وظيفي في المهام.

Ruchira Dhar, Qiwei Peng, Anders Søgaard2026-03-12