🤖 machine learning

Tunable MAGMAX: Preference-Aware Model Merging for Continual Learning

تقدم هذه الورقة البحثية Tunable MAGMAX، وهو إطار عمل لدمج النماذج يعتمد على التفضيل من أجل التعلم المستمر، يقوم ببناء ناقلات تفضيل تلقائياً للتحكم في أداء مهام محددة، مما يتيح تكيفاً فعالاً للنماذج المدمجة مع بيئات نشر متنوعة دون الحاجة إلى تحديد يدوي.

Kei Hiroshima, Kento Uchida, Shinichi Shirakawa2026-05-21
🤖 machine learning

Markovian Circuit Tracing for Transformer State Dynamic

تقدم هذه الورقة البحثية تتبع الدوائر الماركوفية (MCT)، وهو إطار تشخيصي يوضح أن تنشيطات المحولات (transformer activations) في مهام نماذج ماركوف المخفية (HMM) الاصطناعية تشفر هياكل انتقالية للحالات خشنة، مما يتيح تجريدات للحالة تعمل على تحسين دقة التنبؤ بالواقع المضاد بشكل كبير من خلال رقع التنشيط (activation patching).

Abdullah X2026-05-21
🤖 machine learning

Activation-Free Backbones for Image Recognition: Polynomial Alternatives within MetaFormer-Style Vision Models

تقدم هذه الورقة PolyNeXt، وهي عائلة من النماذج الرؤيوية الأساسية الخالية من دوال التنشيط التي تستبدل الدوال غير الخطية القياسية ببدائل متعددة الحدود باستخدام نواتج هادامارد ضمن بنيات من طراز MetaFormer، محققةً أداءً هو الأفضل في حالته في مهام التعرف على الصور والتقسيم مع تقليل التكاليف الحسابية.

Jeffrey Wang, Jonathan Gregory, Grigorios G. Chrysos2026-05-21
🤖 machine learning

Finite-Time Regret Analysis of Retry-Aware Bandits

تضع هذه الورقة البحثية أول حد للندم دون الخطي لخوارزمية ReMax في النزاعات متعددة الأذرع العشوائية ذات المكافآت الغاوسية، حيث تُحدد توزيع أخذ العينات الأمثل لها وتفسر تأثير التقليل من التقدير الفريد الذي يمكن أن يؤدي إلى سلوك أكثر استغلالاً من عينة تومسون.

Bingkui Tong, Junpei Komiyama, Soichiro Nishimori, Paavo Parmas2026-05-21
🤖 machine learning

DISC: Decoupling Instruction from State-Conditioned Control via Policy Generation

يقضي إطار عمل DISC على تسرب الملاحظة في عمليات التلاعب المشروطة باللغة من خلال استخدام شبكة فائقة (hypernetwork) لتوليد معلمات سياسة خاصة بالمهمة مباشرة من التعليمات، مما يؤدي إلى فصل هيكلي بين التجذر اللغوي ومعالجة الحالة البصرية، ويحقق أداءً وقدرة على التعميم يتفوقان على النماذج الأساسية المتشابكة والنماذج الضخمة سابقة التدريب.

Hanxiang Ren, Pei Zhou, Xunzhe Zhou, Yanchao Yang2026-05-21
🤖 machine learning

PlexRL: Cluster-Level Orchestration of Serviceized LLM Execution for RLVR

يُعد PlexRL بيئة تشغيل على مستوى العنقود تعمل على تحسين كفاءة تدريب التعلم التعزيزي بالمكافآت القابلة للتحقق (RLVR) من خلال تعدد الإرسال لخدمات النماذج اللغوية الكبيرة الموحدة عبر المهام لملء الفجوات الهيكلية الخاملة، مما يقلل تكاليف وحدات معالجة الرسومات للمستخدم بنسبة تصل إلى 37.58% دون عمليات نقل مكلفة للنماذج.

Yiqi Zhang, Fangzheng Jiao, Tian Tang, Boyu Tian, Hangyu Wang, Qiaoling Chen, Guoteng Wang, Zhen Jiang, Peng Sun, Ping Z (…)2026-05-21
📊 statistics

LOSCAR-SGD: Local SGD with Communication-Computation Overlap and Delay-Corrected Sparse Model Averaging

تقدم هذه الورقة البحثية LOSCAR-SGD، وهي خوارزمية Local SGD مبتكرة تجمع بين تداخل الاتصال والحوسبة، ومتوسط النماذج المتناثرة، وقاعدة دمج مصححة للتأخير لمعالجة اختناقات الاتصال في التعلم الموزع غير المتجانس، مما يوفر أول ضمانات تقارب نظرية لهذا المزيج المحدد من التقنيات إلى جانب التحقق التجريبي من كفاءتها.

Yassine Maziane, Ammar Mahran, Artavazd Maranjyan, Peter Richtárik2026-05-21
⚡ electrical engineering

Runtime-Certified Bounded-Error Quantized Attention

تقدم هذه الورقة بنية ذاكرة تخزين مؤقت (KV cache) متعددة المستويات تتيح انتباهًا مكممًا بحد خطأ محدد ومعتمد وقت التشغيل، وذلك عبر حساب حدود الخطأ عبر الإنترنت لتفعيل الاختيار التكيفي للدقة والرجوع الحتمي إلى صيغة FP16، مما يضمن الاستعادة إلى مخرجات الانتباه الكثيف الدقيقة مع الحفاظ على ضغط عالٍ لاستنتاج النماذج اللغوية الكبيرة ذات السياق الطويل.

Dean Calver2026-05-21✓ Author reviewed
🤖 machine learning

CAdam: Context-Adaptive Moment Estimation for 3D Gaussian Densification in Generative Distillation

تقدم هذه الورقة البحثية CAdam، وهو إطار عمل لتقدير العزم متكيف مع السياق يعالج "معضلة التكثيف" في تقنية Gaussian Splatting ثلاثية الأبعاد التوليدية من خلال الفصل إحصائياً بين الإشارات الهندسية والضوضاء العشوائية، مما يقلل من العناصر الأولية الزائدة بنسبة تتراوح بين 85% و97% مع الحفاظ على الجودة الإدراكية.

SeungJeh Chung, Geonho Park, Misong Kim, HyeongYeop Kang2026-05-21
🤖 machine learning

PlanningBench: Generating Scalable and Verifiable Planning Data for Evaluating and Training Large Language Models

يُعد PlanningBench إطار عمل مبتكر يحول عملية إنشاء بيانات التخطيط من مجموعات ثابتة إلى عملية توليد قابلة للتحكم والتوسع باستخدام تصنيف هيكلي وتخليق مدفوع بالقيود، مما يتيح كلاً من التقييم الصارم لمحدودية النماذج اللغوية الكبيرة الحالية والتدريب الفعال بالتعلم التعزيزي لتعزيز قدرات التخطيط القابلة للتعميم.

Ziliang Zhao, Zenan Xu, Shuting Wang, Hongjin Qian, Yan Lei, Minda Hu, Zhao Wang, Shihan Dou, Zhicheng Dou, Pluto Zhou2026-05-21