💬 Category

cs.CL

11158 ورقة بحثية

💬 NLP

Understanding Is Done Early: A Depth Division of Labor in Large Language Models and Its Use for Unbounded-Context Memory

تقدم هذه الورقة CoMem، وهي آلية ذاكرة تستغل الاستخدام غير الموحد لطبقات الـ Transformer عبر تخزين الحالات المتبقية الوسيطة وإعادة حساب الطبقات العليا، مما يحقق ذاكرة ذات سياق غير محدود بتكاليف حوسبة وذاكرة ثابتة مع التفوق بشكل كبير على النماذج المرجعية ذات السياق الكامل في اختبارات السياق الطويل.

Hanzuo Liu, Xuan Qi, Chunyu Liu, Haotian Zhong, Yulong Wang, Rayying, Key, Alex Lamb, Mingyu Gao2026-07-31
💬 NLP

(Towards) Scalable Reliable Automated Evaluation with Large Language Models

تقدم هذه الورقة إطار عمل قابلاً للتوسع ومستقلاً عن المجال، يستفيد من المقارنات الثنائية بين نماذج لغوية كبيرة متعددة ونظام تصنيف "إيلو" (Elo) لتوليد تقييمات موثوقة بمستوى الخبراء لمخرجات النماذج اللغوية الكبيرة مع عتبات ثقة قابلة للضبط، مما يقلل بشكل كبير من الحاجة إلى التدخل البشري.

Bertil Braun, Martin Forell2026-07-31
💬 NLP

Fairness Pruning: Locating Demographic Bias in GLU-MLP Layers via Differential Activations

تقدم هذه الورقة البحثية "تقليم العدالة" (Fairness Pruning)، وهو تدخل هيكلي خفيف الوزن يحدد ويجعل عصبونات محددة في طبقات (GLU-MLP) قيمتها صفراً لتوطين التحيز الديموغرافي في النماذج اللغوية الكبيرة، مما يثبت أن مثل هذه التعديلات الجراحية يمكن أن تغير استجابات التحيز بشكل كبير مع الحفاظ على أكثر من 99% من قدرات النموذج في الاستنتاج والمعرفة.

Pere Martra, Eugenio Martínez Cámara, Alfonso Ureña López2026-07-31
💬 NLP

WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning

تقدم الورقة البحثية WIDE، وهو أول إطار عمل قابل للتفاضل من طرف إلى طرف يتيح تقليم العرض الديناميكي على مستوى الرمز (token-level) للنماذج اللغوية الكبيرة عبر السماح بالاختيار الدقيق لرؤوس الانتباه وقنوات الشبكات العصبية المغذية (FFN)، مقترناً بتصميم مشترك متخصص للنواة (kernel co-design) لتحقيق تسريع كبير في الاستنتاج من طرف إلى طرف مع الحفاظ على دقة عالية.

Haozhe Hu, Hao Wu, Peiran Yin, Chao Han, Yunpu Ma, Xiaoyu Shen2026-07-31
💬 NLP

Beyond a Single Judge: Simulating Social Persona Panels for Generative UI Evaluation

تقدم هذه الورقة البحثية "لوحة الشخصيات القائمة على الأدلة والموزونة اجتماعياً" (ESPP)، وهي إطار تقييم مبتكر ثلاثي المراحل يحاكي وجهات نظر المستخدمين المتنوعة من خلال شخصيات قائمة على أسس نفسية وآليات إجماع اجتماعي، مما يحسن بشكل كبير من التوافق مع الحكم البشري ويكشف عن الخلافات الجوهرية بين المجموعات الفرعية التي تغفلها طرق الحكم الفردي.

Zheng Wu, Yibo Luo, Pu Zhang, Cheng Yang, Zhuosheng Zhang2026-07-31
💬 NLP

Lightning OPD 2.0: Mitigating Style Bias in Cross-Teacher On-Policy Distillation for Large Reasoning Models

تقدم هذه الورقة Lightning OPD 2.0، وهي طريقة تقطير جديدة قائمة على السياسة (on-policy) تخفف من انحياز الأسلوب في إعدادات المعلم المتعدد عبر توظيف عملية "تخلف الأسلوب المتقاطع" (cross-fitted style residualization) لفصل الاختلافات الأسلوبية عن إشارات الاستدلال الحقيقية، مما يتيح نقلاً فعالاً للمعرفة حتى عندما يكون مولد بيانات الضبط الدقيق للتعليمات (SFT) ومعلم التقطير نموذجين مختلفين.

Yecheng Wu, Song Han, Han Cai2026-07-31
💬 NLP

SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute

تقدم الورقة البحثية إطار عمل "التحسين ذاتي التحقق" (SVR)، وهو إطار تعلم تعزيزي خالٍ من الأوراكل (oracle-free) يُمكّن النماذج اللغوية من تخصيص حوسبة وقت الاختبار ديناميكيًا عبر تعلم استخدام إشارات التحقق الذاتي الداخلية (أحكام الصحة ودرجات الثقة) لتقرير متى تتوقف عن تحسين الإجابات، محققةً دقة متفوقة بعدد أقل من دورات الاستدلال مقارنة بالنماذج المرجعية الحالية.

Hongyu Chen, Liang Lin, Guangrun Wang2026-07-31
💬 NLP

Would You Walk to the Car Wash? Revealing the Salience Bias of Large Language Models in Commonsense Reasoning

تقدم هذه الورقة معيار SaliTrap لتوضيح أن إخفاقات نماذج اللغات الكبيرة في الاستدلال القائم على المنطق العام تنبع أساساً من كبت المعرفة الجوهرية بواسطة المشتتات البارزة وليس من نقص في المعرفة، وهي فجوة يمكن التخفيف من حدتها بفعالية من خلال التلقين الخفيف أثناء وقت الاستدلال.

Zheng Wu, Chenhao Xue, Shijie Zheng, Yijie Lu, Cheng Yang, Zhuosheng Zhang2026-07-31
💬 NLP

Generative AI and linguistic diversity in academic writing and publishing: Perspectives from World Englishes

تقدم هذه الورقة حواراً مهيكلاً بين خمسة من علماء اللغويات الاجتماعية يستكشفون كيفية تأثير الذكاء الاصطناوي التوليدي على التنوع اللغوي في الكتابة الأكاديمية، مع تسليط الضوء على قدرته على تعزيز هرميات اللغة المهيمنة وفي الوقت ذاته قدرته على أن يكون موقعاً للمقاومة من خلال السياسات العادلة، والوعي النقدي، والتصميم الشامل.

Kingsley Ugwuanyi, Christian Mair, Sender Dovchin, Iker Erdocia, Maria Kuteeva, Esther Airemionkhale2026-07-31
💬 NLP

AI systems and the reproduction of (standard) language ideologies in World Englishes

تجادل هذه الورقة بأن أنظمة الذكاء الاصطناعي تعيد إنتاج الأيديولوجيات اللغوية المعيارية من خلال تفضيل معايير "الدائرة المركزية" وتهميش اللغات الإنجليزية غير المهيمنة عبر تصميمها واستخدامها، بينما تُشعل في الوقت ذاته النقاشات حول الشرعية والملكية اللغوية في "الإنجليزية العالمية" من خلال "مفارقة التنميط" التي تعمل على تجانس اللغة وتعددها في آن واحد.

Kingsley Ugwuanyi2026-07-31