cs.CL ورقة بحثية

The Condensate Theorem: Transformers are O(n), Not $O(n^2)$

تقدم الورقة البحثية "نظرية التكثيف" (Condensate Theorem)، التي تثبت أن انتباه المحولات (transformer attention) هو خاصية طوبولوجية متعلمة يمكن إسقاطها ديناميكيًا على متشعب متفرق (sparse manifold) لتحقيق تطابق تام بنسبة 100% مع الانتباه الكامل دون أي فقدان، مما يتيح تسريعًا هائلاً في الأجهزة ويقلل التعقيد من $O(n^2)$ إلى $O(n)$ .

Jorge L. Ruiz Williams2026-02-11

💬 NLP

Free(): Learning to Forget in Malloc-Only Reasoning Models

يقدم Free()LM "وحدة حرة" (Free-Module) قابلة للتوصيل والتشغيل تُمكّن نماذج الاستدلال من تحسين الأداء ومنع انهيار السياق من خلال التقليم الديناميكي للمعلومات الزائدة أو المهجورة أثناء عملية الاستدلال.

Yilun Zheng, Dongyang Ma, Tian Liang, Jiahao Xu, Xinting Huang, Lihui Chen, Haitao Mi, Yan Wang2026-02-11

💬 NLP

Improving Data and Reward Design for Scientific Reasoning in Large Language Models

تقدم الورقة البحثية **Dr. SCI**، وهو مسار تدريب لاحق منهجي يتميز بمجموعة بيانات ضخمة في مجالات العلوم والتكنولوجيا والهندسة والرياضيات (STEM) وسير عمل تدريب مُعاد تصميمه — يتكون من ضبط دقيق للتعلم الخاضع للإشراف (SFT) بنمط الاستكشاف والتوسع، ومنهج صعوبة ديناميكي، وتعلم تعزيزي موجه بالمعايير — مما يحسن بشكل كبير قدرات الاستدلال العلمي وحل المشكلات مفتوحة النهايات للنماذج اللغوية الكبيرة.

Zijie Chen, Zhenghao Lin, Xiao Liu, Zhenzhong Lan, Yeyun Gong, Peng Cheng2026-02-11

💬 NLP

Benchmarking the Energy Savings with Speculative Decoding Strategies

تقدم هذه الورقة مسحاً وتحليلاً شاملاً لكيفية تأثير خصائص النماذج، واستراتيجيات فك التشفير التخميني، ومجموعات البيانات على كفاءة استهلاك الطاقة وتوفيرها في عملية استنتاج النماذج اللغوية الكبيرة.

Rohit Dutta, Paramita Koley, Soham Poddar, Janardan Misra, Sanjay Podder, Naveen Balani, Saptarshi Ghosh, Niloy Ganguly2026-02-11

💬 NLP

PABU: Progress-Aware Belief Update for Efficient LLM Agents

إن PABU هو إطار عمل لحالة الاعتقاد يعمل على تحسين كفاءة وأداء وكلاء النماذج اللغوية الكبيرة (LLM agents) من خلال نمذجة تقدم المهمة بشكل صريح والاحتفاظ انتقائياً فقط بالتفاعلات الماضية ذات الصلة لتقليل الإجراءات المتكررة وتكاليف الاستدلال.

Haitao Jiang, Lin Ge, Hengrui Cai, Rui Song2026-02-11

💬 NLP

Overview of PAN 2026: Voight-Kampff Generative AI Detection, Text Watermarking, Multi-Author Writing Style Analysis, Generative Plagiarism Detection, and Reasoning Trajectory Detection

تهدف ورشة عمل PAN 2026 إلى تطوير الأسلوب الحسابي والتحليل الجنائي للنصوص من خلال خمس مهام تقييمية محددة: كشف الذكاء الاصطناعي التوليدي، والعلامات المائية للنصوص، وتحليل أسلوب تعدد المؤلفين، وكشف الانتحال التوليدي، وكشف مسار الاستدلال.

Janek Bevendorff, Maik Fröbe, André Greiner-Petter, Andreas Jakoby, Maximilian Mayerl, Preslav Nakov, Henry Plutz, Marti (…)2026-02-11

💬 NLP

Measuring Inclusion in Interaction: Inclusion Analytics for Human-AI Collaborative Learning

تقدم هذه الورقة "تحليلات الشمول"، وهو إطار عمل قائم على الخطاب مصمم لقياس الشمول في التعلم التعاوني بين الإنسان والذكاء الاصطناًعي كعملية ديناميكية لحظية عبر أبعاد المشاركة، والعاطفة، والمعرفة.

Jaeyoon Choi, Nia Nixon2026-02-11

💬 NLP

Collective Behavior of AI Agents: the Case of Moltbook

يكشف تحليل لمنصة التواصل الاجتماعي "مولتبوك" (Moltbook) المخصصة للذكاء الاصطناعي فقط أنه بينما تُظهر وكلاء الذكاء الاصطناعي سلوكيات جماعية وانتظامات إحصائية مشابهة للمجتمعات البشرية عبر الإنترنت، فإنهم يُظهرون أيضاً اختلافات متميزة في كيفية توسع التفاعل والشعبية.

Giordano De Marzo, David Garcia2026-02-11

💬 NLP

Beyond Uniform Credit: Causal Credit Assignment for Policy Optimization

تقترح الورقة البحثية "توزين الأهمية المقابل للواقع"، وهي طريقة تعمل على تحسين تحسين تدرج السياسة لنماذج اللغة الاستدلالية عبر استخدام تحولات احتمالية النموذج نفسه لتعيين ائتمان أعلى لخطوات الاستدلال الحرجة بدلاً من توزيع الائتمان بشكل موحد على جميع الرموز.

Mykola Khandoga, Rui Yuan, Vinay Kumar Sankarapu2026-02-11

💬 NLP

FM SO.P: A Progressive Task Mixture Framework with Automatic Evaluation for Cross-Domain SOP Understanding

يقدم FM SO.P إطار عمل لمزيج مهام تدريجي ونظام تقييم تلقائي متعدد الوكلاء لتعزيز فهم إجراءات التشغيل القياسية (SOP) عبر المجالات المختلفة من خلال البناء المتسلسل لدقة المصطلحات، والترتيب التسلسلي، وقدرات الاستدلال على القيود.

Siyuan Huang, Ziyu Wang, Chao Pan, Han Zhao2026-02-11

→ السابق التالي ←

cs.CL

The Condensate Theorem: Transformers are O(n), Not O(n2)O(n^2)O(n2)

Free(): Learning to Forget in Malloc-Only Reasoning Models

Improving Data and Reward Design for Scientific Reasoning in Large Language Models

Benchmarking the Energy Savings with Speculative Decoding Strategies

PABU: Progress-Aware Belief Update for Efficient LLM Agents

Overview of PAN 2026: Voight-Kampff Generative AI Detection, Text Watermarking, Multi-Author Writing Style Analysis, Generative Plagiarism Detection, and Reasoning Trajectory Detection

Measuring Inclusion in Interaction: Inclusion Analytics for Human-AI Collaborative Learning

Collective Behavior of AI Agents: the Case of Moltbook

Beyond Uniform Credit: Causal Credit Assignment for Policy Optimization

FM SO.P: A Progressive Task Mixture Framework with Automatic Evaluation for Cross-Domain SOP Understanding

The Condensate Theorem: Transformers are O(n), Not $O(n^2)$