🤖 Category

cs.LG

24235 ورقة بحثية

📊 statistics

Spectrum-Adaptive Generalization Bounds for Trained Deep Transformers

تستنتج هذه الورقة حدود تعميم لاحقة متكيفة طيفياً لنماذج المحولات (Transformers) متعددة الطبقات، والتي تستفيد من ملفات تعريف القيم المفردة المتعلمة للموازنة بين التعقيد الطيفي وعوامل الأبعاد والعمق، مما يوفر ضمانات أكثر إحكاماً من النهج القائمة على المعايط (norms) الحالية.

Mana Sakai, Masaaki Imaizumi2026-05-11
🤖 machine learning

Generative Modeling with Flux Matching

تقدم هذه الورقة البحثية "مطابقة التدفق" (Flux Matching)، وهي نموذج توليدي جديد يعمم النماذج القائمة على الدرجة (score-based models) من خلال تخفيف شرط الحقول المتجهة المحافظة، مما يتيح مرونة أكبر في دمج الانحيازات الاستقرائية وتحقيق تطبيقات مثل أخذ العينات الأسرع والديناميكيات القابلة للتفسير.

Peter Pao-Huang, Xiaojie Qiu, Stefano Ermon2026-05-11
🤖 machine learning

Beyond Linear Attention: Softmax Transformers Implement In-Context Reinforcement Learning

تقدم هذه الورقة أول إطار نظري يثبت أن نماذج "ترانسفورمر" (Transformer) القياسية ذات دالة "سوفت ماكس" (softmax) تنفذ التعلم التعزيزي داخل السياق عبر مساواة تمريرها الأمامي عبر الطبقات بخوارزمية "فرق زمن التباين" (temporal difference) جديدة ذات "سوفت ماكس" موزونة، مما يفسر خصائص تقاربها وظهور المعلمات المثلى أثناء مرحلة ما قبل التدريب.

Zixuan Xie, Xinyu Liu, Claire Chen, Shuze Daniel Liu, Rohan Chandra, Shangtong Zhang2026-05-11
🤖 machine learning

CellScientist: Dual-Space Hierarchical Orchestration for Closed-Loop Refinement of Virtual Cell Models

يُعد CellScientist إطار عمل هرمياً ثنائي الفضاء يتيح صقل نماذج الخلايا الافتراضية عبر حلقة مغلقة، وذلك من خلال توجيه تباينات التنفيذ بشكل منهجي بين فضاء الفرضيات رفيع المستوى وفضاء التنفيذ منخفض المستوى لتوليد مراجعات نموذجية مستهدفة وقابلة للتدقيق بدلاً من مجرد إصلاحات برمجية بسيطة.

Mengran Li, Bo Li, Jiaying Wang, Wenbin Xing, Yixuan Dong, Chengyang Zhang, Hongliang Zhang, Yuzhong Peng, Jinlin Wu, Bo (…)2026-05-11
🤖 machine learning

Mage: Multi-Axis Evaluation of LLM-Generated Executable Game Scenes Beyond Compile-Pass Rate

تقدم الورقة البحثية "Mage"، وهو بروتوكول تقييم متعدد المحاور يكشف أن معدلات اجتياز مرحلة التجميع مضللة بالنسبة للمشاهد اللعبية المولدة بواسطة النماذج اللغوية الكبيرة، مما يثبت أنه بينما يؤدي التوليد المباشر من اللغة الطبيعية إلى الكود البرمجي إلى نجاح أعلى في وقت التشغيل، فإن تكييف المدخلات هيكلياً بناءً على تمثيلات وسيطة يعد أمراً ضرورياً لإنتاج مشغلات برمجية وفية وظيفياً ومتوافقة مع المجال.

Hugh Xuechen Liu, Kıvanç Tatar2026-05-11
🤖 machine learning

MISA: Mixture of Indexer Sparse Attention for Long-Context LLM Inference

تقترح الورقة البحثية MISA، وهو نهج يعتمد على "خليط من الخبراء" يستبدل الفهرس متعدد الرؤوس المكلف حاسوبياً في آلية DeepSeek Sparse Attention بموجه خفيف الوزن لتنشيط عدد قليل فقط من الرؤوس لكل استعلام، مما يحقق دقة مقاربة للطريقة الأصلية مع تقليل زمن الاستجاف وتكاليف الذاكرة بشكل كبير في مهام السياق الطويل.

Ruijie Zhou, Fanxu Meng, Yufei Xu, Tongxuan Liu, Guangming Lu, Muhan Zhang, Wenjie Pei2026-05-11
🤖 machine learning

StreamPhy: Streaming Inference of High-Dimensional Physical Dynamics via State Space Models

يُعد StreamPhy إطار عمل متكاملًا يتيح استنتاجًا فعالاً وفوريًا ودقيقًا للديناميكيات الفيزيائية عالية الأبعاد من قياسات متفرقة وغير منتظمة، وذلك عبر دمج مشفر متكيف مع البيانات، ونموذج فضاء حالة مهيكل، وفك تشفير FT-FiLM تعبيري، مما يجعله يتفوق على الطرق الحالية في كل من الدقة وسرعة الاستنتاج.

Panqi Chen, Yifan Sun, Shikai Fang, Xiao Fu, Lei Cheng2026-05-11
🤖 machine learning

Exploring CoCo Challenges in ML Engineering Teams: Insights From the Semiconductor Industry

تقدم هذه الورقة دراسة نوعية حول تحديات التعاون والتواصل داخل فرق هندسة تعلم الآلة في شركة أشباه موصلات، حيث تحدد 16 مشكلة متكررة — وأبرزها عدم وضوح الأدوار والمسؤوليات — وتقدم ممارسات للتخفيف من هذه المشكلات في البيئات ذات القيود العتادية.

A. Azamnouri, M. Haug, L. Woltmann, M. Fritz, J. Bogner, S. Wagner2026-05-11
💬 NLP

Unsolvability Ceiling in Multi-LLM Routing: An Empirical Study of Evaluation Artifacts

تكشف هذه الدراسة التجريبية أن "سقوف عدم القدرة على الحل" المُبلغ عنها في توجيه النماذج اللغوية الكبيرة المتعددة (multi-LLM routing) مبالغ فيها إلى حد كبير بسبب عيوب تقييمية مثل انحياز الحكم والقص، مما يشوه إشارات تدريب الموجه ويؤدي إلى تكاليف فرصة بديلة كبيرة، مما يستلزم بروتوكولات تقييم أكثر موثوقية لتقدير المقايضات بين التكلفة والجودة بدقة.

Saloni Garg, Amit Sagtani2026-05-11
🔢 mathematics

Have Graph -- Will Lift? The Case for Higher-Order Benchmarks

تدافع هذه الورقة الرأيية عن تطوير مجموعات بيانات جديدة وأصلية ذات رتبة عليا لمعالجة الندرة الحالية في المعايير المرجعية في مجال التعلم العميق الطوبولوجي، محاججةً بأن الاعتماد فقط على مجموعات بيانات الرسوم البيانية المرفوعة غير كافٍ للنهوض بهذا المجال.

Bastian Rieck2026-05-11