🤖 Category

cs.AI

25400 ورقة بحثية

🤖 AI

Optimizer-Induced Mode Connectivity: From AdamW to Muon

تُثبت هذه الورقة أن المحسنات مثل AdamW وMuon تُحدث مجمعات حلول ذات فقد صفري متميزة، وغالباً ما تكون منفصلة، في الشبكات العصبية، مما يكشف أن اتصال الأنماط يعتمد بشكل أساسي على مُحسن محدد وعلى تنظيمه الضمني بدلاً من كونه خاصية عالمية لمشهد الفقد.

Fangzhao Zhang, Sungyoon Kim, Erica Zhang, Yiqi Jiang, Mert Pilanci2026-05-12
🤖 machine learning

Attention Drift: What Autoregressive Speculative Decoding Models Learn

تحدد هذه الورقة البحثية "انحراف الانتباه" كقصور رئيسي في نماذج فك التشفير التخميني ذات التوليد الذاتي، حيث ينزاح الانتباه من النص الأصلي (prompt) إلى الرموز المولدة بسبب المسارات المتبقية غير المعيرة، وتقترح إصلاحات معمارية مثل "التطبيع البعدي" (post-norm) و"تطبيع RMS لكل حالة مخفية" (per-hidden-state RMSNorm) والتي تحسن بشكل كبير أطوال القبول عبر مختلف المهام وأطوال السياق.

Doğaç Eldenk, Payal Mohapatra, Yigitcan Comlek, Kaan Oktay, Hongyang Zhang, Stephen Xia2026-05-12
🤖 AI

Combining Mechanical and Agentic Specification Inference for Move

تقدم هذه الورقة أداة لاستنتاج المواصفات لـ Move Prover تعمل على دمج تحليل الشرط الأضعف السليم مع واجهة سطر أوامر برمجية وكيلية (agentic coding CLI) لتوليد وتحسين مواصفات التحقق تلقائياً، مما يقلل بفعالية من العمل الروتيني اليدوي مع التعامل مع الخصائص المعقدة مثل ثوابت الحلقات والثوابت الهيكلية.

Wolfgang Grieskamp, Teng Zhang, Vineeth Kashyap2026-05-12
📊 statistics

The two clocks and the innovation window: When and how generative models learn rules

تحدد هذه الورقة "نافذة ابتكار" حرجة في النماذج التوليدية تتمثل في الفجوة الزمنية بين تعلم القواعد المجردة (τrule\tau_{\mathrm{rule}}) وحفظ بيانات التدريب (τmem\tau_{\mathrm{mem}})، وتثبت أن وجود هذه النافذة ومدتها يعتمدان على حجم مجموعة البيانات، وتعقيد القواعد، وسعة النموذج عبر كل من بنيات الانتشار والنماذج ذات التوليد الذاتي.

Binxu Wang, Emma Lucia Byrnes Finn, Bingbin Liu2026-05-12
🤖 AI

Bridging the Cognitive Gap: A Unified Memory Paradigm for 6G Agentic AI-RAN

تقترح هذه الورقة نموذج ذاكرة موحداً لشبكات الراديو الوصول للشبكة المعتمدة على الذكاء الاصطناعي الوكيل (Agentic AI-RAN) لجيل السادس (6G)، يستبدل البنى التقليدية المقيدة بالواجهات بنهج متمحور حول الذاكرة، مما يتيح استمرارية معرفية تشارك فيها وكلاء الاستشعار والاستدلال الحالة عبر النطاقات الزمنية للتغلب على الاختناقات الدلالية وتحقيق استقلالية حقيقية للشبكة.

Xijun Wang, Zhaoyang Liu, Chenyuan Feng, Xiang Chen, Howard H. Yang, Tony Q. S. Quek2026-05-12
🤖 AI

Personalizing LLMs with Binary Feedback: A Preference-Corrected Optimization Framework

تقدم هذه الورقة البحثية C-BPO، وهو إطار تحسين مُعاير بالتفضيلات يعزز تخصيص النماذج اللغوية الكبيرة من خلال الاستفيد من التغذية الراجعة الثنائية للتمييز بين تفضيلات المستخدم الفردية والمعرفة المشتركة، مما يساهم بفعالية في نمذجة الاختلافات بين المستخدمين مع الحفاظ على الفائدة العامة.

Xilai Ma, Liye Zhao, Weijun Yao, Haibing Di, Wenya Wang, Jing Li2026-05-12
🤖 machine learning

Rethinking Loss Reweighting for Imbalance Learning as an Inverse Problem: A Neural Collapse Point of View

تقترح هذه الورقة استراتيجية جديدة لإعادة وزن خسارة الرؤية العكسية للتصنيف طويل الذيل، والتي تستنتج أوزان الفئات ديناميكيًا لتحقيق هدف مثالي يتمثل في تساوي الخسارة لكل فئة مستوحى من الانهيار العصبي، مما يؤدي إلى تقليل عدم توازن الخسارة والتفوق على النماذج المرجعية الحالية.

Jinping Wang, Zixin Tong, Zhiwu Xie, Zhiqiang Gao2026-05-12
🤖 AI

Swarm Skills: A Portable, Self-Evolving Multi-Agent System Specification for Coordination Engineering

تقدم هذه الورقة "مهارات السرب" (Swarm Skills)، وهي مواصفات قابلة للنقل وخوارزمية تطور ذاتي تحول بروتوكولات التنسيق بين الوكلاء المتعددين إلى أصول قابلة للتوزيع وذات قيمة أولية، مما يمكّن فرق الوكلاء من صقل استراتيجياتهم التعاونية بشكل مستقل عبر أطر عمل مختلفة دون إشراف بشري.

Xinyu Zhang, Zhicheng Dou, Deyang Li, Jianjun Tao, Shuo Cheng, Ruifeng Shi, Fangchao Liu, Enrui Hu, Yangkai Ding, Hongbo (…)2026-05-12
🤖 machine learning

Metis: Learning to Jailbreak LLMs via Self-Evolving Metacognitive Policy Optimization

تُعد Metis إطار عمل مبتكر يعيد صياغة عملية كسر حماية النماذج اللغوية الكبيرة (LLM jailbreaking) كعملية تحسين سياسة معرفية فوقية ذاتية التطور ضمن عملية قرار ماركوف لاتخاذ قرار جزئي الملاحظة (POMDP) تنافسية، محققةً معدلات نجاح هجوم هي الأفضل في فئتها مع تقليل تكاليف الرموز (tokens) بشكل كبير عبر استبدال الاستدلالات الثابتة باستدلال سببي موجه لتجاوز دفاعات السلامة المتقدمة.

Huilin Zhou, Jian Zhao, Yilu Zhong, Zhen Liang, Xiuyuan Chen, Yuchen Yuan, Tianle Zhang, Chi Zhang, Lan Zhang, Xuelong L (…)2026-05-12
🤖 AI

Active Testing of Large Language Models via Approximate Neyman Allocation

تقدم هذه الورقة خوارزمية اختبار نشط مبتكرة لنماذج اللغات الكبيرة التوليدية تستفيد من الإنتروبيا الدلالية من النماذج البديلة لتقسيم مجمعات التقييم وإجراء تخصيص "نيمان" تقريبي، مما يقلل بشكل كبير من متوسط مربع الخطأ وتكاليف التوسيم مقارنة بأخذ العينات المنتظمة والخطوط المرجعية الحالية.

Zeli Liu, Jiancheng Zhang, Cong Liu, Yinglun Zhu2026-05-12