📊 statistics

Grokking or Glitching? How Low-Precision Drives Slingshot Loss Spikes

توضح هذه المقالة أن "آلية المقلاع" (slingshot mechanism)، التي تتميز بزيادات دورية حادة في الخسارة ونمو سريع في المعلمات أثناء التدريب طويل الأمد، لا تمثل ديناميكية تحسين جوهرية، بل هي بالأحرى نتاج رقمي ناجم عن الحسابات بنظام الفاصلة العائمة منخفض الدقة، حيث تؤدي أخطاء التقريب في التدرجات إلى انتهاك شرط المجموع الصفري وتؤدي إلى حلقة تغذية راجعة إيجابية تُعرف باسم تضخم الميزات الرقمي (NFI).

Liu Hanqing, Jianjun Cao, Yuanze Li, Zijian Zhou2026-05-08
🤖 machine learning

Graphlets as Building Blocks for Structural Vocabulary in Knowledge Graph Foundation Models

تقدم هذه الورقة إطار عمل غير مرتبط بنموذج محدد يعامل الـ "graphlets" المتكررة كرموز بنيوية لإنشاء مفردات عالمية لنماذج التأسيس الخاصة بالرسوم البيانية المعرفية، مما يتيح نقلًا قويًا بصفر من الأمثلة وتحسين التنبؤ بالروابط عبر رسوم بيانية متنوعة وغير مرئية.

Kossi Amouzouvi, Robert Wardenga, Jens Lehmann, Sahar Vahdati2026-05-08
🤖 machine learning

Entropy-Regularized Adjoint Matching for Offline RL

تقترح هذه الورقة إطار عمل "مطابقة الملحق ذات الحد الأقصى من الإنتروبيا" (ME-AM)، وهو إطار موحد يدمج تعظيم إنتروبيا الهبوط المرآتي مع سلف سلوك مختلط في التعلم التعزيزي غير المتصل القائم على مطابقة التدفق للتغلب على انحياز الشعبية وتقييد الدعم، مما يتيح استخراجاً قوياً للسياسات المثلى من مجموعات البيانات ذات المكافآت الشحيحة.

Abdelghani Ghanem, Mounir Ghogho2026-05-08
🤖 machine learning

One Algorithm, Two Goals: Dual Scoring for Parameter and Data Selection in LLM Fine-Tuning

تقدم هذه الورقة البحثية DualSFT، وهو خوارزمية بلمسة واحدة توحد بين اختيار المعلمات واختيار البيانات لضبط النماذج اللغوية الكبيرة (LLM) عبر اشتقاق قاعدة تسجيل مشتركة قائمة على التدرج من إطار تحسين ثنائي المستوى، مما يتيح عملية اختيار مشترك أكثر كفاءة وتنسيقاً من الاستراتيجيات المنفصلة التقليدية.

Xinrui Chen, Liu Yang, Ou Wu2026-05-08
🤖 machine learning

Mean Mode Screaming: Mean--Variance Split Residuals for 1000-Layer Diffusion Transformers

تحدد هذه الورقة "صراخ المتوسط والمنوال" (Mean Mode Screaming) كضعف هيكلي يسبب الانهيار في نماذج محولات الانتشار العميقة (deep Diffusion Transformers)، وتقترح "بقايا تقسيم المتوسط والتباين" (Mean-Variance Split Residuals) لاستقرار التدريب بنجاح حتى 1,000 طبقة.

Pengqi Lu2026-05-08
🤖 machine learning

Teaching LLMs Program Semantics via Symbolic Execution Traces

تقدم هذه الورقة إطار تقييم جديد لـ 500 مهمة تحقق من لغة C وتثبت أن تدريب نموذج Qwen3-8B على حوالي 3,000 مسار تنفيذ رمزي مقترن بالتفكير المتسلسل (chain-of-thought) يحسن بشكل كبير من كشف الانتهاكات والدقة الإجمالية عبر أنواع مختلفة من الخصائص، متفوقاً بذلك على النماذج الأكبر حجماً وكاشفاً عن تآزر فوق إضافي بين التقنيتين.

Jonas Bayer, Stefan Zetzsche, Olivier Bouissou, Remi Delmas, Michael Tautschnig, Soonho Kong2026-05-08
🤖 machine learning

Bridging visual saliency and large language models for explainable deep learning in medical imaging

تقترح هذه الورقة إطار عمل للتفسير متعدد الوسائط يدمج تصنيف وتجزئة الأورام القائم على الشبكات العصبية التلافيفية (CNN) مع خرائط البروز البصري والنماذج اللغوية الكبيرة لتوليد تقارير تشخيصية بأسلوب إشعاعي قابلة للتفسير بشرياً لتحليل رنين أورام الدماغ، مما يعزز الشفافية والاعتماد السريري للذكاء الاصطناعي في التصوير الطبي.

Paul Valery Nguezet, Elie Tagne Fute, Yusuf Brima, Benoit Martin Azanguezet, Marcellin Atemkeng2026-05-08
📊 statistics

When Does Trimming Help Conformal Prediction? A Retained-Law Diagnostic under Calibration Contamination

تُثبت هذه الورقة أن عملية التقليم في التنبؤ المطابق تعمل كآلية تكييف محكومة بـ "قانون مستبقى"، مما يوفر إطاراً تشخيصياً يكشف أن التقليم لا يحسن التغطية إلا عندما تنجح درجات الشذوذ في فصل النقاط الملوثة دون تشويه توزيع درجات المجتمع النقي.

Congye Wang2026-05-08
🤖 machine learning

Taming the Entropy Cliff: Variable Codebook Size Quantization for Autoregressive Visual Generation

تحدد هذه الورقة ظاهرة "منحدر الإنتروبيا" (Entropy Cliff) في التوليد البصري ذاتي الانحدار، حيث تؤدي مجموعات الرموز ثابتة الحجم إلى حفظ سريع، وتقترح التكميم بحجم مجموعة رموز متغير (VCQ) لزيادة سعة مجموعة الرموز ديناميكيًا على طول التسلسل، مما يحقق جودة توليد صور رائدة وهيكلية دلالية ناشئة دون تغيير إطار التدريب القياسي.

Bowen Zheng, Weijian Luo, Guang Yang, Colin Zhang, Tianyang Hu2026-05-08
📊 statistics

Super-Level-Set Regression: Conditional Quantiles via Volume Minimization

تقدم هذه الورقة انحدار المستوى الفائق (SLS)، وهو إطار عمل مبتكر يعمل على تحسين الحدود الهندسية لمناطق التنبؤ الشرطية ذات الحجم الأدنى بشكل مباشر من خلال حل الاقتران الضمني بين تقليل الحجم والكميات الشرطية للخطأ، مما يتجاوز الحاجة إلى التقدير الصريح للكثافة لالتقاط البنى المعقدة ومتعددة الأنماط.

Sacha Braun, Michael I. Jordan, Francis Bach2026-05-08