🤖 machine learning

Introspective X Training: Feedback Conditioning Improves Scaling Across all LLM Training Stages

تقدم الورقة البحثية التدريب الاستبطاني (IXT)، وهو أسلوب يستفيد من التغذية الراجعة باللغة الطبيعية من نموذج مكافأة تفكيري لربط بيانات التدريب بشرط مسبق عبر جميع مراحل تطوير النماذج اللغوية الكبيرة، مما يحسن كفاءة الحوسبة بشكل كبير ويحقق أداءً فائقاً في الرياضيات والبرمجة مقارنة بأساليب التدريب القياسية.

Brandon Cui, Ximing Lu, Jaehun Jung, Syeda Nahida Akter, Hyunwoo Kim, Yuxiao Qu, David Acuna, Shrimai Prabhumoye, Yejin (…)2026-05-21
🤖 machine learning

FusionCell: Cross-Attentive Fusion of Layout Geometry and Netlist Topology for Standard-Cell Performance Prediction

يُعد FusionCell إطار عمل جديد للتعلم العميق ثنائي الأنماط يدمج هندسة التخطيط الموجه وتوبولوجيا قائمة الشبكات عبر آلية انتباه تقاطعي موجهة توبولوجياً لتحقيق تنبؤ دقيق وسريع للغاية لمقاييس أداء الخلايا القياسية، متفوقاً بشكل كبير على النماذج المرجعية الحالية وطرق المحاكاة التقليدية.

Haoyi Zhang, Kairong Guo, Bojie Zhang, Yibo Lin, Runsheng Wang2026-05-21
🤖 machine learning

Plug-and-Play Spiking Operators: Breaking the Nonlinearity Bottleneck in Spiking Transformers

تقدم هذه الورقة إطار عمل "plug-and-play" يتيح تحويل الشبكات العصبية الاصطناعية (ANN) إلى شبكات عصبية نبضية (SNN) دون الحاجة للتدريب بالنسبة للنماذج اللغوية الكبيرة، وذلك عبر تنفيذ تقريبات صديقة للنبضات للمؤثرات غير الخطية الحرجة (مثل Softmax والتطبيع) من خلال الحوسبة السكانية النمطية وتدرج إزاحة البتات، مما يحقق دقة مطابقة تقريباً للنماذج الأصلية دون الحاجة لضبط دقيق.

Xinzhe Yuan (IASM, Harbin Institute of Technology), Xiang Peng (IASM, Harbin Institute of Technology), Bin Gu (School of (…)2026-05-21
🤖 machine learning

Closed-form predictive coding via hierarchical Gaussian filters

تقدم هذه الورقة إطار عمل للترميز التنبؤي ذو صيغة مغلقة يعتمد على مرشحات غاوس هرمية يستعيد تمرير الرسائل الموزونة بالدقة، مما يمكّن الشبكات العميقة من تعلم التنشيطات والأوزان والشكوك في آن واحد دون استدلال تكراري أو إشارات خطأ عالمية، وبذلك يضاهي كفاءة الانتشار العكسي مع التفوق في المهام عبر الإنترنت والمهام ذات الكفاءة في البيانات.

Aleksandrs Baskakovs, Sylvain Estebe, Kenneth Enevoldsen, Kristoffer Nielbo, Chris Mathys, Nicolas Legrand2026-05-21
🤖 machine learning

Spectral Unforgetting: Post-Hoc Recovery of Damaged Capabilities Without Retraining

تقدم هذه الورقة البحثية DG-Hard، وهي طريقة إصلاح طيفي لاحقة (post-hoc) تعمل على استعادة القدرات التي تضررت بسبب الضبط الدقيق مع الحفاظ على مكاسب المهام من خلال تطبيق عتبة دونوهو-جافيش (Donoho-Gavish) الصلبة للقيم المفردة على مصفوفة تحديث الأوزان دون الحاجة إلى بيانات إضافية أو إعادة تدريب.

Aarash Abro, Muhammad Tahir2026-05-21
🤖 machine learning

Mechanisms of Misgeneralization in Physical Sequence Modeling

تحدد هذه الورقة وتشرح آلية "التعميم الخاطئ الفيزيائي"، حيث تنتج نماذج التسلسل التوليدية المدربة على عروض توضيحية فيزيائية منقحة مسارات فردية تبدو معقولة ولكنها تنتهك جماعياً التوزيعات الإجمالية المقصودة بسبب انتشار الأخطاء المحلية، وتقترح نواة انحراف البيانات للتنبؤ بهذا الفشل والتخفيف من حدته.

Kento Nishi, Raphael Tang, Karun Kumar, Core Francisco Park, Hidenori Tanaka2026-05-21
🤖 machine learning

Robust Subspace-Constrained Quadratic Models for Low-Dimensional Structure Learning

تقترح هذه الورقة نموذجاً تربيعياً متيناً مقيداً بالمنبسط (SCQM) يوسع إطار عمل (SQMF) للتعامل مع توزيعات ضوضاء متنوعة، بما في ذلك الحالات ذات الذيول الثقيلة والخييفة، وتُقدم خوارزمية فعالة قائمة على التدرج مع بحث خطي تراجعي لتحقيق دقة إعادة بناء ومتانة فائقتين في تعلم البنى منخفضة الأبعاد من البيانات عالية الأبعاد.

Zheng Zhai, Xiaohui Li2026-05-21
💻 computer science

Tiny-Engram: Trigger-Indexed Concept Tables for Generative Vision

تقدم الورقة البحثية Tiny-Engram، وهو جدول مفاهيم مدمج مفهرس بالمحفزات يتيح التخصيص البصري النمطي في النماذج التوليدية المجمدة من خلال ربط العبارات التحفيزية النادرة بالهويات المستهدفة صراحةً مع الحفاظ على التحكم التركيبي، مما يظهر فعالية قوية في توليد الصور ولكنه يسلط الضوء على الحاجة إلى اقتران نصي-بصري أوثق لتحقيق استمرارية الهوية المستقرة في الفيديو.

Runyuan Cai, Yiming Wang, Yu Lin, Xiaodong Zeng2026-05-21
🤖 machine learning

Less Data, Faster Training: repeating smaller datasets speeds up learning via sampling biases

تُظهر هذه الورقة أن تكرار مجموعات البيانات الأصغر يمكن أن يسرع التدريب ويوفر الحوسبة مقارنة باستخدام مجموعات بيانات أكبر من خلال استغلال تحيزات أخذ العينات لتمكين نمو طبقي مواتٍ، لا سيما في مهام الاستدلال.

Jingwen Liu, Ezra Edelman, Surbhi Goel, Bingbin Liu2026-05-21
💻 computer science

FullFlow: Upgrading Text-to-Image Flow Matching Models for Bidirectional Vision--Language Generation

تُعد FullFlow طريقةً فعالةً من حيث الكفاءة في المعلمات، حيث تعمل على ترقية نماذج توليد الصور من النصوص القائمة على التدفق المستقيمي (rectified-flow) والمُدربة مسبقاً إلى مولدات ثنائية الاتجاه للرؤية واللغة عبر تدريب محولات خفيفة الوزن فقط، محققةً أداءً رائدًا في كل من توليد الصور والنصوص مع تقليل التكاليف الحسابية بشكل كبير مقارنةً بالأساليب الحالية.

Eric Tillmann Bill, Enis Simsar, Alessio Tonioni, Thomas Hofmann2026-05-21