24014 ورقة بحثية
تثبت هذه الورقة نظرياً أن مُحسِّن "Muon" يحقق الهروب من نقاط السرج (saddle-point) بشكل مستقل عن الأبعاد في مشاعد تدريب النماذج اللغوية الكبيرة عالية الأبعاد، وذلك عبر استخدام آلية تشكيل طيفي غير خطية لتجاوز لعنة الأبعاد التي تسبب حصار المُحسّنات التكيفية للعناصر مثل AdamW.
تقدم هذه الورقة FAR-SIGN، وهي خوارزمية تحسين قوية لأنظمة خادم المعلمات والعامل (parameter-server-worker) غير المتزامنة كلياً، والتي تستخدم تحديثات اتجاهية قائمة على الإشارة وآلية ذات مقياسين زمنيين لتحقيق تعلم مقاوم للخصوم مع تقارب مثبت ومعدلات تقارب شبه مثالية لكل من إعدادات الدرجة الأولى والدرجة صفر.
تحدد هذه الورقة "هضبة اختيار" (Selection Plateau) في عملية تقليم الشبكات العصبية بضربة واحدة، حيث تتقارب جميع المقاييس الرتيبة في الرتبة نحو دقة متطابقة، وتقترح فرضية طيف "التشتت-المعلومات-التعقيد" (Sparsity-Information-Complexity Spectrum - SICS) لإثبات أن الهروب من هذه الهضبة يتطلب سمات غير رتيبة ذات مستويات تعقيد متكيفة خصيصاً مع التشتت المستهدف.
تقدم هذه الورقة نظام استنتاج مجزأ دقيق التفاصيل للمتحكمات الدقيقة الشبكية يتغلب على قيود الذاكرة من خلال تقسيم نماذج الشبكات العصبية الالتفافية (CNN) على مستوى النواة والعصبون عبر أجهزة متعددة، مما يتيح تنفيذ نماذج كانت غير ممكنة لولا ذلك مع الحفاظ على زمن استجابة عملي.
يُعد Skill-R1 إطار عمل للتعلم التعزيزي يعمل على تحسين مهارات اللغة الطبيعية القابلة لإعادة الاستخدام عبر مولد خفيف الوزن تم تدريبه باستخدام هدف ثنائي المستوى، مما يتيح تحسيناً فعالاً من حيث التكلفة ومستقلاً عن النموذج للنماذج اللغوية الكبيرة الوكيلية في المهام المعقدة دون تحديث النموذج الأساسي المجمد.
تُثبت هذه الورقة أنه في الألعاب ذات المواجهة الصفرية بين لاعبين مع تغذية راجعة من نوع "بانديت" (bandit feedback) حيث يراقب اللاعبون أيضاً أفعال الخصم، يمكن لخوارزمية فعالة أن تحقق تقارباً شبه مثالي لآخر تكرار بمعدل باحتمالية عالية، متجاوزةً بذلك القيود السابقة التي حصرت التقارب في معدلات أبطأ عندما كانت التغذية الراجعة تقتصر فقط على الخسارة.
تقدم هذه الورقة نظام GibbsTTS، وهو نظام تحويل النص إلى كلام بنمط (zero-shot) يعزز مطابقة التدفق المتقطع المستحث بالمعايير من خلال الجمع بين مجدول حركي أمثل لا يتطلب تدريباً وتصحيحاً لحظياً لعدد محدد من الخطوات لتحقيق طبيعية أعلى وتشابه في صوت المتحدث مقارنة بالنماذج المرجعية الحالية.
تقترح الورقة البحثية D2ACE، وهي طريقة مبتكرة لاختيار الدفعات متعددة التسميات، تعمل على تحسين كفاءة التدريب والأداء التنبؤي من خلال دمج الديناميكيات المزدوجة (أخذ العينات المرحلي والوزن الديناميكي للتسميات) مع تعزيز الارتباط التكيفي لالتقاط تطور التدريب والاعتمادات المحلية للتسميات بشكل أفضل.
تقدم الورقة البحثية نموذج Gravity-GraphSAGE (GG-SAGE)، وهو نموذج جديد يعتمد على GraphSAGE ويتميز بمفكك شفرة مستوحى من الجاذبية، يعالج بفعالية التحدي غير المستكشف في التنبؤ بالروابط في الرسوم البيانية الموجهة والموصوفة، وذلك من خلال تفوقه على التقنيات الرائدة عبر مجموعات متعددة من البيانات المرجعية والواقعية.
تقدم هذه الورقة مطابقة التوزيع الشرطي (CDM)، وهي فئة جديدة لمشكلات التصميم العكسي تهدف لإيجاد مدخلات تستحث توزيعاً شرطياً مستهدفاً محدداً بدلاً من نقطة واحدة، وتقترح خوارزمية MLGD-F، وهي خوارزمية للاستدلال في وقت التشغيل لا تتطلب تدريباً وتجمع بين نموذج انتشار مُدرب مسبقاً وعينة شرطية سريعة لحل هذه المشكلة بكفاءة.