cs.CL ورقة بحثية

PrefixMemory-Tuning: Modernizing Prefix-Tuning by Decoupling the Prefix from Attention

تقدم هذه الورقة البحثية PrefixMemory-Tuning، وهي بنية مبتكرة تفصل وحدة البادئة (prefix module) عن رأس الانتباه (attention head) لحل المقايضات المتأصلة في تقنية Prefix-Tuning التقليدية، مما يحسن أداءها بشكل كبير على النماذج اللغوية الكبيرة الحديثة لتحقيق نتائج رائدة.

Haonan Wang, Brian Chen, Siquan Li, Xinhe Liang, Hwee Kuan Lee, Kenji Kawaguchi, Tianyang Hu2026-04-21

💬 NLP

Sparse Feature Coactivation Reveals Causal Semantic Modules in Large Language Models

تُثبت هذه الورقة أن تحليل التنشيط المشترك لميزات المشفّر التلقائي المتناثر في النماذج اللغوية الكبيرة يكشف عن وحدات سببية متماسكة دلاليًا ومتسقة سياقيًا للمفاهيم والعلاقات، مما يتيح تلاعبًا يمكن التنبؤ به ومستهدفًا بمخرجات النموذج من خلال استئصال المكونات وتضخيمها.

Ruixuan Deng, Xiaoyang Hu, Miles Gilberti, Shane Storks, Aman Taxali, Mike Angstadt, Chandra Sripada, Joyce Chai2026-04-21

💬 NLP

On the Predictive Power of Representation Dispersion in Language Models

تُثبت هذه الورقة أن تشتت التمثيل —وهو متوسط مسافة جيب التمام الزاوي بين الأزواج من المتجهات الخفية— يرتبط ارتباطاً وثيقاً وسلبياً مع الحيرة (perplexity) عبر نماذج لغوية ومجالات متنوعة، مما يتيح تطبيقات عملية مثل ترتيب صعوبة البيانات غير المصنفة، والاختيار الأمثل للطبقات في الأساليب القائمة على الاسترجاع، والتحسين المباشر للحيرة من خلال هدف تدريب "الدفع بعيداً" (push-away).

Yanhong Li, Ming Li, Karen Livescu, Jiawei Zhou2026-04-21

💬 NLP

Lizard: An Efficient Linearization Framework for Large Language Models

يُعد Lizard إطار عمل جديد للخطية يحول النماذج اللغوية الكبيرة القائمة على بنية Transformer والمُدربة مسبقاً إلى بنيات ذات تعقيد دون تربيعي باستخدام وحدات قابلة للتعلم وتكيفية وخوارزمية مدركة للأجهزة للتغلب على اختناقات التعقيد التربيعي مع تحقيق استعادة للأداء تقارب غياب الخسارة وتعميم طول متفوق مقارنة بالطرق السابقة.

Chien Van Nguyen, Huy Nguyen, Ruiyi Zhang, Hanieh Deilamsalehy, Puneet Mathur, Viet Dac Lai, Haoliang Wang, Jayakumar Su (…)2026-04-21

💬 NLP

MetaLint: Easy-to-Hard Generalization for Code Linting

إن MetaLint هو إطار عمل للتعلم الفائق يعيد صياغة فحص الكود (linting) كمهام اتباع تعليمات، مما يمكّن النماذج المدربة على بيانات اصطناعية من التعميم من الانتهاكات البسيطة القائمة على القواعد إلى أفضل الممارسات المعقدة المعتمدة على السياق دون إعادة تدريب، كما تم إثباته من خلال مكاسب أداء كبيرة في معيار جديد مُعد بشرياً.

Atharva Naik, Lawanya Baghel, Dhakshin Govindarajan, Darsh Agrawal, Yiqing Xie, Daniel Fried, Carolyn Rose2026-04-21

💬 NLP

Synthia: Scalable Grounded Persona Generation from Social Media Data

تقدم الورقة البحثية "سينثيا" (Synthia)، وهو إطار عمل قابل للتوسع يولد شخصيات افتراضية عالية الدقة ومنصفة قائمة على بيانات حقيقية من منصة "بلو سكاي" (Bluesky) ورسوم بيانية للتفاعلات، مما يظهر توافقاً فائقاً مع توزيعات الآراء البشرية والعدالة مقارنة بالأساليب السابقة الرائدة مع استخدام نماذج لغوية أصغر حجماً.

Vahid Rahimzadeh, Erfan Moosavi Monazzah, Mohammad Taher Pilehvar, Yadollah Yaghoobzadeh2026-04-21

💬 NLP

Cognitive Chain-of-Thought (CoCoT): Structured Multimodal Reasoning about Social Situations

تقدم الورقة البحثية "سلسلة التفكير المعرفي" (CoCoT)، وهي إطار عمل استدلالي مهيكل يعمل على تفكيك المهام الاجتماعية متعددة الوسائط إلى مراحل الإدراك، والموقف، والمعيار، مما يُظهر تحسينات مستمرة في الأداء والقدرة على استيعاب أنماط الاستدلال المهيكلة من خلال الضبط الدقيق الخاضع للإشراف.

Eunkyu Park, Wesley Hanwen Deng, Gunhee Kim, Motahhare Eslami, Maarten Sap2026-04-21

💬 NLP

Culinary Crossroads: A RAG Framework for Enhancing Diversity in Cross-Cultural Recipe Adaptation

تقدم الورقة البحثية إطار عمل CARRIAGE، وهو إطار عمل جديد للجيل المعزز بالاسترجاع (RAG) يعالج ميل أنظمة RAG القياسية إلى إنتاج مخرجات متجانسة في عملية تكييف الوصفات عبر الثقافات، وذلك من خلال تعزيز التنوع صراحةً في كل من عمليات الاسترجاع وتنظيم السياق لاستيعاب تفضيلات المستخدمين المتنوعة بشكل أفضل مع الحفاظ على الجودة.

Tianyi Hu, Andrea Morales-Garzón, Jingyi Zheng, Maria Maistro, Daniel Hershcovich2026-04-21

💬 NLP

PrinciplismQA: A Philosophy-Grounded Approach to Assessing LLM-Human Clinical Medical Ethics Alignment

تقدم الورقة البحثية PrinciplismQA، وهو معيار مرجعي قائم على المبادئ الفلسفية يتكون من 3,648 سؤالاً تم التحقق منها من قبل خبراء، يكشف عن فجوات كبيرة في قدرات الاستدلال الأخلاقي للنماذج اللغوية الكبيرة الطبية رغم دقتها المعرفية العالية، مما يوفر أداة منهجية لتقييم جاهزية نشر الذكاء الاصطناعي السريري.

Chang Hong, Minghao Wu, Qingying Xiao, Yuchi Wang, Xiang Wan, Guangjun Yu, Benyou Wang, Yan Hu2026-04-21

💬 NLP

ToxiFrench: Benchmarking and Enhancing Language Models via CoT Fine-Tuning for French Toxicity Detection

تقدم هذه الورقة ToxiFrench، وهي مجموعة بيانات فرنسية واسعة النطاق للسمية تم إنشاؤها عبر مسار عمل شبه آلي، وتُظهر أن نموذجاً بـ 4 مليارات معلمة تم ضبطه بدقة باستخدام استراتيجية "سلسلة الأفكار" (Chain-of-Thought) مبتكرة وفقدان وزني ديناميكي (Dynamic Weighted Loss) يتفوق على النماذج الأكبر والأنظمة الرائدة في اكتشاف المحتوى الفرنسي السام.

Axel Delaval, Shujian Yang, Haicheng Wang, Han Qiu, Jialiang Lu2026-04-21

→ السابق التالي ←