🤖 machine learning

Nora: Normalized Orthogonal Row Alignment for Scalable Matrix Optimizer

تقدم الورقة البحثية Nora، وهو مُحسِّن مصفوفات قابل للتوسع يوحد بين الكفاءة والاستقرار والسرعة من خلال توظيف إسقاط الزخم عبر الصفوف لتثبيت معايير الأوزان والسرعات الزاوية مع تقريب التكييف المهيكل بتعقيد حسابي أمثل قدره O(mn)\mathcal{O}(mn).

Jinghui Yuan, Jiaxuan Zou, Shuo Wang, Yong Liu, Feiping Nie2026-05-06
📊 statistics

Task Vector Geometry Underlies Dual Modes of Task Inference in Transformers

تُثبت هذه الورقة أن نماذج المحولات (transformers) تستخدم آليات هندسية متميزة للاستدلال على المهام، حيث يعتمد التعرف على البيانات ضمن التوزيع على تركيبات محدبة من ناقلات المهام المتعلمة، بينما ينبثق التكيف مع البيانات خارج التوزيع من خلال التعلم الاستقرائي في فضاء فرعي شبه متعامد.

Hao Yan, Haolin Yang, Yiqiao Zhong2026-05-06
📊 statistics

Graph Convolutional Support Vector Regression for Robust Spatiotemporal Forecasting of Urban Air Pollution

تقترح هذه الورقة إطار عمل لنموذج انحدار متجه الدعم التلاففي الرسومي (GCSVR) يدمج التعلم المكاني القائم على الرسوم البيانية مع الانحدار الزمني المتين للتنبؤ بدقة بتلوث الهواء في دلهي ومومباي، مع التعامل بفعالية مع القيم المتطرفة وتوفير تقديرات معايرة لعدم اليقين.

Nourin Jahan, Madhurima Panja, Muhammed Navas T, Tanujit Chakraborty2026-05-06
🔬 physics

Towards accurate extreme event likelihoods from diffusion model climate emulators

تُظهر هذه الورقة أن تقديرات كثافة الاحتمالية من نموذج محاكي المناخ القائم على الانتشار cBottle يمكن استخدامها لحساب احتمالات الأحداث المتطرفة مثل الأعاصير المدارية تحت التوجيه، مما يتيح أخذ العينات بالأهمية لتقليل خطأ التقدير وتسهيل تجارب عزو الأحداث المتطرفة.

Peter Manshausen, Noah Brenowitz, Julius Berner, Karthik Kashinath, Mike Pritchard2026-05-06
🤖 machine learning

Agentic-imodels: Evolving agentic interpretability tools via autoresearch

تقدم هذه الورقة نماذج Agentic-imodels، وهو إطار عمل للبحث الذاتي يعمل على تطوير نماذج انحدار متوافقة مع scikit-learn ومُحسّنة من حيث دقة التنبؤ وقابلية التفسير الموجهة للوكلاء، مما يثبت أن النماذج المصممة لتكون "قابلة للمحاكاة" من قبل النماذج اللغوية الكبيرة تعزز بشكل كبير أداء علوم البيانات الوكيلية في المهام اللاحقة.

Chandan Singh, Yan Shuo Tan, Weijia Xu, Zelalem Gero, Weiwei Yang, Michel Galley, Jianfeng Gao2026-05-06
📊 statistics

Realizable Bayes-Consistency for General Metric Losses

تحل هذه الورقة مشكلة مفتوحة في نظرية التعلم من خلال إرساء شروط ضرورية وكافية لاتساق بايز القوي الشامل في الإطار الواقعي مع خسائر مترية عامة، وتوصيف فئة الفرضيات عبر غياب شجرة ليتلستون (γk)(\gamma_k) غير متزايدة لانهائية.

Dan Tsir Cohen, Steve Hanneke, Aryeh Kontorovich2026-05-06
🤖 machine learning

A Domain Incremental Continual Learning Benchmark for ICU Time Series Model Transportability

تقدم هذه الورقة معياراً للتعلم المستمر لزيادة النطاق لنماذج السلاسل الزمنية في وحدات العناية المركزة، والذي يعالج تحدي نقل أنظمة التنبؤ بالنتائج السريرية عبر مناطق أمريكية متنوعة من خلال تقييم أساليب مثل إعادة تشغيل البيانات وتثبيت الوزن المرن لإدارة تحولات التوزيع مع الاحتفاظ بالمعرفة السابقة.

Ryan King, Conrad Krueger, Ethan Veselka, Tianbao Yang, Bobak J. Mortazavi2026-05-06
🔢 mathematics

On Computing Total Variation Distance Between Mixtures of Product Distributions

تقدم هذه المقالة خوارزميات عشوائية وحتمية فعالة لتقريب وحساب، على التوالي، مسافة التباين الكلي بين مخاليط التوزيعات المنتجة والمكعبات البولينية الفرعية، مع إثبات صعوبة الحساب الدقيق من فئة #P عندما يتوسع عدد مكونات الخليط خطياً مع البعد.

Weiming Feng, Yucheng Fu, Minji Yang, Anqi Zhang2026-05-06
🤖 machine learning

Memory-Efficient Continual Learning with CLIP Models

تقترح هذه الورقة طريقة تعلم مستمر فعالة في استهلاك الذاكرة ومتينة توزيعياً، تقوم بإعادة وزن الخسائر ديناميكياً لكل فئة لتمكين نماذج CLIP من التكيف مع المهام الجديدة مع تقليل النسيان الكارثي، حتى مع وجود مخازن ذاكرة ضئيلة.

Ryan King, Gang Li, Bobak Mortazavi, Tianbao Yang2026-05-06
🤖 machine learning

On Adaptivity in Zeroth-Order Optimization

تُثبت هذه الورقة أن المحسنات التكيفية من الدرجة الصفرية القياسية مثل ZO-Adam لا تقدم أي ميزة تقارب مقارنة بـ ZO-SGD في عمليات الضبط الدقيق للنماذج اللغوية الكبيرة (LLM) ذات الذاكرة المحدودة بسبب غياب عدم التجانس في تدرج الإحداثيات في الأبعاد العالية، مما أدى إلى اقتراح MEAZO، وهو بديل فعال من حيث استهلاك الذاكرة يتتبع فقط قيمة عددية واحدة لتكيف حجم الخطوة العالمي مع مطابقة الأداء وتحسين المتانة.

Hassan Dbouk, Nidham Gazagnadou, Matthias Reisser, Christos Louizos2026-05-06