🤖 machine learning

A Generalized Tikhonov Layer for Interpretable-by-design Graph Neural Networks

تقدم هذه الورقة طبقة تيكونوف (Tikhonov layer)، وهي مكون لشبكة عصبية رسومية صُمم ليكون قابلاً للتفسير بطبيعته من خلال الربط المباشر بين معاملاته المتعلمة ومساهمات ميزات محددة وتضاريسية، مع تحقيق مجالات استقبال عالمية ومضاهاة أداء النماذج المرجعية غير الشفافة في الوقت ذاته.

Nicolas Tremblay, Benjamin Ricaud, Filippo Maria Bianchi2026-05-28
🤖 machine learning

Outer-Momentum Restarting in High-Dimensional Two-Phase Optimization

تقترح هذه الورقة وتحلل إعادة التشغيل الدوري للزخم الخارجي في التحسين الموزع كفء الاتصال، مبرهنةً على أن هذه الآلية تتخلص من الزخم القديم لاستغلال إلغاء الطور، مما يؤدي إلى توسيع النطاق المستقر للمعلمات الفائقة وتحسين التقارب في الإعدادات عالية الأبعاد.

Kristi Topollai, Allan Ma, Tolga Dimlioglu, Sui Jiet Tay, Anna Choromanska2026-05-28
🤖 machine learning

Thinned Mean Field Langevin Dynamics

تقترح هذه الورقة خوارزمية \texttt{KT-MFLD}، وهي خوارزمية جديدة تقلل من التعقيد الحسابي لديناميات لانجفنز ذات المجال المتوسط من O(N2)O(N^2) إلى O(N3/2)O(N^{3/2}) عن طريق توظيف ترقيق النواة لتقييد تفاعلات الجسيمات بمجموعة أساسية (coreset) بحجم O(N1/2)O(N^{1/2})، مع الحفاظ على نفس ضمانات التقارب الخاصة بالطريقة الأصلية.

Zonghao Chen, Heishiro Kanagawa, François-Xavier Briol, Chris J. Oates, Lester Mackey2026-05-28
🤖 machine learning

PLS in the Mirror of Self-Attention

تقترح هذه الورقة صياغة المربعات الصغرى الجزئية (PLS) كآلية انتباه ذاتي خطية لتمكين دراستها ضمن نموذج الشبكة العصبية، مما يشير إلى أن تقليل أبعاد المربعات الصغرى الجزئية يعني أن الانتباه الذاتي يدمج بطبيعته تطبيع الأبعاد لتحسين التعلم.

Jiangsheng (Jason), You2026-05-28
🤖 machine learning

Transformers Provably Learn to Internalize Chain-of-Thought

تقدم هذه الورقة أول برهان نظري على أن نموذج "ترانسفورمر" متعدد الطبقات، تم تدريبه باستخدام منهجية "Log-ICoT" مبتكرة، يمكنه تعلم الـ "kk-parity" بشكل مثبت بكفاءة عينات متعددة الحدود ومراحل تدريب لوغاريتمية، مما يحقق كفاءة العينات الخاصة بأسلوب "سلسلة الأفكار" (Chain-of-Thought) الصريح مع التخلص من عبء الاستدلال الخاص به عبر استيعاب الخطوات الوسيطة داخلياً.

Yixiao Huang, Hanlin Zhu, Zixuan Wang, Jiantao Jiao, Stuart Russell, Somayeh Sojoudi, Song Mei2026-05-28
🤖 machine learning

Online Irregular Multivariate Time Series Forecasting via Uncertainty-Driven Dual-Expert Calibration

تقترح هذه الورقة Under-Cali، وهو إطار عمل للمعايرة ثنائي الخبراء مدفوع بعدم اليقين، يتيح التنبؤ عبر الإنترنت بكفاءة واستقرار للسلاسل الزمنية متعددة المتغيرات غير المنتظمة من خلال توجيه العينات ديناميكيًا بين خبراء موثوقين وغير موثوقين بناءً على عدم اليقين المقدر، كل ذلك مع إبقاء النموذج المصدر مجمدًا.

Haonan Wen, Hanyang Chen, Songhe Feng2026-05-28
📊 statistics

Implicit Regularization in Perturbed Deep Matrix Factorization: Spectral Conditions and Stability

تُثبت هذه الورقة شروطاً طيفية كافية وضمانات تقارب تُظهر أن تأثير التنظيم الضمني منخفض الرتبة في تحليل المصفوفات العميق يظل مستقراً تحت اضطرابات الضجيج، مع وجود تبعيات صريحة على الطيف المستهدف، والتهيئة، وحجم الاضطراب.

Jingzhe Wang, Hung-Hsu Chou2026-05-28
🤖 machine learning

Single-Rollout Hidden-State Dynamics for Training-Free RLVR Data Selection

تقدم الورقة البحثية SHIFT، وهي طريقة لاختيار البيانات دون الحاجة للتدريب لتعزيز التعلم مع المكافآت القابلة للتحقق (RLVR)، والتي تحدد الحالات ذات الفائدة العالية من خلال قياس تحولات الحالة الخفية الناجمة عن الاستنتاج خلال عملية تشغيل استدلالي واحدة، مما يتيح تدريبًا فعالًا للنموذج دون الوصول إلى تسميات أو إشارات مكافأة.

Jianghao Wu, Jianfei Cai, Weiqiang Wang, Jin Ye, Daniel F. Schmidt, Yasmeen George2026-05-28
🤖 machine learning

Interpretability-Guided Layer Selection over Subspace Projection: SAEs as Stethoscopes, Not Scalpels, for Raw Task Vector Model Editing

توضح هذه الورقة أن إسقاط متجهات المهام على الفضاءات الفرعية لميزات الـ SAE يفشل كاستراتيجية لتعديل النموذج بسبب عدم المحاذاة الهندسية، وتقترح بدلاً من ذلك استخدام الـ SAEs كـ "سماعات طبية" تشخيصية لحقن متجهات المهام الخام انتقائياً في طبقات محددة، مما يحسن أداء الاستدلال الرياضي بشكل كبير دون تكلفة حوسبية إضافية.

Li Lei, Madalina Ciobanu, Qingqing Mao, Ritankar Das2026-05-28
🤖 machine learning

Applications of temporal graph learning for predicting the dynamics of biological systems

تقترح هذه الورقة البحثية، التي لا تزال قيد التطوير، إطار عمل لتعلم الرسوم البيانية الزمنية يعمل على نمذجة الديناميكيات الخلوية كشبكات تنظيم جيني متطورة، مما يثبت تفوقها على النماذج التأسيسية الثابتة مثل scGPT في التنبؤ بالتعبير الجيني والتفاعلات التنظيمية عبر مجموعات بيانات التطور لدى الفئران.

Manuel Dileo, Andrea Sottoriva2026-05-28