cs.LG ورقة بحثية

Chronicle: A Multimodal Foundation Model for Joint Language and Time Series Understanding

يُعد Chronicle نموذجًا مدمجًا من نوع المحولات المعتمدة على فك التشفين فقط (decoder-only transformer) بـ 324 مليون معلمة، تم تدريبه من الصفر على كل من اللغة الطبيعية والسلاسل الزمنية ضمن بنية موحدة، محققًا أداءً تنافسيًا في كلا المجالين وقدرات فائقة في التنبؤ متعدد الوسائط دون الاعتماد على التكيف اللاحق للنماذج اللغوية سابقة التدريب.

Paul Quinlan, Jeremy Levasseur, Qingguo Li, Xiaodan Zhu2026-05-21

📊 statistics

Multi-Head Attention as Ensemble Nadaraya-Watson Estimation: Variance Reduction, Decorrelation, and Optimal Head Diversity

تؤسس هذه الورقة إطاراً إحصائياً صارماً يثبت أن آلية الانتباه متعدد الرؤوس تعمل كمجموعة غير مترابطة من مُقدِّرات ناداريا-واتسون، حيث يحدد مؤشر تنوع الرؤوس مدى مساهمة فضاءات الإسقاط المتعامدة في تقليل التباين وتحديد قوانين القياس الهيكلية المثلى لتقليل متوسط مربع الخطأ.

Ernest Fokoué2026-05-21

🤖 machine learning

Modality-Decoupled Online Recursive Editing

تقدم الورقة البحثية M-ORE، وهو محرر تكراري عبر الإنترنت منفصل الأنماط، يتيح تكيفاً مستمراً فعالاً وموثوقاً للنماذج اللغوية الكبيرة متعددة الوسائط من خلال الحفاظ على إحصاءات محلية منفصلة للمكونات النصية والبصرية وإجراء تحديثات مستمرة في فضاء فرعي متعامد منخفض الرتبة وثابت لتخفيف الصراع بين الأنماط والتداخل بين عمليات التحرير.

Siyuan Li, Youyuan Zhang, Fangming Liu, Jing Li2026-05-21

🤖 machine learning

Introspective X Training: Feedback Conditioning Improves Scaling Across all LLM Training Stages

تقدم الورقة البحثية التدريب الاستبطاني (IXT)، وهو أسلوب يستفيد من التغذية الراجعة باللغة الطبيعية من نموذج مكافأة تفكيري لربط بيانات التدريب بشرط مسبق عبر جميع مراحل تطوير النماذج اللغوية الكبيرة، مما يحسن كفاءة الحوسبة بشكل كبير ويحقق أداءً فائقاً في الرياضيات والبرمجة مقارنة بأساليب التدريب القياسية.

Brandon Cui, Ximing Lu, Jaehun Jung, Syeda Nahida Akter, Hyunwoo Kim, Yuxiao Qu, David Acuna, Shrimai Prabhumoye, Yejin (…)2026-05-21

💻 computer science

Adaptive Probe-based Steering for Robust LLM Jailbreaking

تقدم هذه الورقة البحثية "التوجيه القائم على المسبار التكيفي" (Adaptive Probe-based Steering)، وهو أسلوب متين لكسر الحماية يستفيد من استخراج النموذج لتقريب ناقلات التوجيه المثالية ويضبط قوة التوجيه تكيفياً بناءً على إحصائيات التنشيط، مما يرفع درجة الضرر لنماذج اللغات الكبيرة المحصنة بشكل كبير من 6% إلى 70% دون الحاجة إلى ضبط يدوي أو مطالبات إضافية.

Junxi Chen, Junhao Dong, Xiaohua Xie2026-05-21

🤖 machine learning

FusionCell: Cross-Attentive Fusion of Layout Geometry and Netlist Topology for Standard-Cell Performance Prediction

يُعد FusionCell إطار عمل جديد للتعلم العميق ثنائي الأنماط يدمج هندسة التخطيط الموجه وتوبولوجيا قائمة الشبكات عبر آلية انتباه تقاطعي موجهة توبولوجياً لتحقيق تنبؤ دقيق وسريع للغاية لمقاييس أداء الخلايا القياسية، متفوقاً بشكل كبير على النماذج المرجعية الحالية وطرق المحاكاة التقليدية.

Haoyi Zhang, Kairong Guo, Bojie Zhang, Yibo Lin, Runsheng Wang2026-05-21

🤖 machine learning

Plug-and-Play Spiking Operators: Breaking the Nonlinearity Bottleneck in Spiking Transformers

تقدم هذه الورقة إطار عمل "plug-and-play" يتيح تحويل الشبكات العصبية الاصطناعية (ANN) إلى شبكات عصبية نبضية (SNN) دون الحاجة للتدريب بالنسبة للنماذج اللغوية الكبيرة، وذلك عبر تنفيذ تقريبات صديقة للنبضات للمؤثرات غير الخطية الحرجة (مثل Softmax والتطبيع) من خلال الحوسبة السكانية النمطية وتدرج إزاحة البتات، مما يحقق دقة مطابقة تقريباً للنماذج الأصلية دون الحاجة لضبط دقيق.

Xinzhe Yuan (IASM, Harbin Institute of Technology), Xiang Peng (IASM, Harbin Institute of Technology), Bin Gu (School of (…)2026-05-21

🤖 machine learning

Closed-form predictive coding via hierarchical Gaussian filters

تقدم هذه الورقة إطار عمل للترميز التنبؤي ذو صيغة مغلقة يعتمد على مرشحات غاوس هرمية يستعيد تمرير الرسائل الموزونة بالدقة، مما يمكّن الشبكات العميقة من تعلم التنشيطات والأوزان والشكوك في آن واحد دون استدلال تكراري أو إشارات خطأ عالمية، وبذلك يضاهي كفاءة الانتشار العكسي مع التفوق في المهام عبر الإنترنت والمهام ذات الكفاءة في البيانات.

Aleksandrs Baskakovs, Sylvain Estebe, Kenneth Enevoldsen, Kristoffer Nielbo, Chris Mathys, Nicolas Legrand2026-05-21

🤖 machine learning

Spectral Unforgetting: Post-Hoc Recovery of Damaged Capabilities Without Retraining

تقدم هذه الورقة البحثية DG-Hard، وهي طريقة إصلاح طيفي لاحقة (post-hoc) تعمل على استعادة القدرات التي تضررت بسبب الضبط الدقيق مع الحفاظ على مكاسب المهام من خلال تطبيق عتبة دونوهو-جافيش (Donoho-Gavish) الصلبة للقيم المفردة على مصفوفة تحديث الأوزان دون الحاجة إلى بيانات إضافية أو إعادة تدريب.

Aarash Abro, Muhammad Tahir2026-05-21

💻 computer science

MedCRP-CL: Continual Medical Image Segmentation via Bayesian Nonparametric Semantic Modality Discovery

يُعد MedCRP-CL إطار عمل للتعلم المستمر خالي من إعادة التشغيل لتقسيم الصور الطبية، حيث يستفيد من عملية "المطعم الصيني" (Chinese Restaurant Process) لاكتشاف تجميعات المهام الدلالية ديناميكيًا من النصوص السريرية، مما يتيح عزل المعلمات القائم على البنية ونقل المعرفة، وهو ما يتفوق بشكل كبير على النماذج المرجعية الحالية مع تقليل حجم النموذج والنسيان بشكل جذري.

Ziyuan Gao2026-05-21

→ السابق التالي ←