23088 ورقة بحثية
تقدم هذه الورقة "سطح جهد القرار" (DPS) كإطار نظري لتوصيف حدود القرار في النماذج اللغوية الكبيرة، وتقترح خوارزمية K-DPS، وهي خوارزمية عملية تقرب هذه الحدود باستخدام عدد محدود فقط من العينات مع خطأ ضئيل يمكن إثباته.
تقدم هذه الورقة PO-MPC، وهو إطار عمل موحد لانتظام KL، يدمج المخططين القائمين على التنبؤ بالنماذج كمسبقات في تحسين السياسة لمواءمة سياسات أخذ العينات مع توزيعات المخطط، مما يؤدي إلى تحسين كفاءة العينات والأداء في التعلم المعزز القائم على النماذج عالي الأبعاد.
تقدم هذه الورقة Flashlight، وهو إطار عمل للمترجمات (compiler framework) أصيل في PyTorch يقوم تلقائياً بتوليد نوى (kernels) مدمجة بأسلوب FlashAttention لأنماط انتباه عشوائية ومعتمدة على البيانات دون الاعتماد على قوالب ثابتة، مما يوفر مرونة فائقة وأداءً تنافسياً مقارنة بالحلول الحالية مثل FlexAttention.
تقدم الورقة البحثية خوارزمية "البحث في شجرة مونت كارلو المتسلسلة المزدوجة" (TSMCTS)، وهي خوارزمية مبتكرة تعزز قابلية التوسع والاستقرار لـ "مونت كارلو المتسلسلة" في التعلم التعزيزي القائم على النموذج من خلال التخفيف بفعالية من مشكلات تدهور المسار والتباين، مع الحفاظ على مزاياها في التوازي وتسريع وحدة معالجة الرسومات.
تقدم الورقة البحثية "Murmura"، وهو إطار عمل للتعلم الاتحادي اللامركزي للأجهزة القابلة للارتداء في إنترنت الأشياء، والذي يستفيد من التعلم العميق الاستدلالي لتقدير عدم اليقين المعرفي كقياس منهجي للتوافق بين الأقران، مما يتيح تخصيصاً للنماذج يعتمد على الثقة ويتفوق بشكل كبير على الأساليب الحالية في البيئات غير المتماثلة توزيعياً (non-IID).
تقدم الورقة البحثية AutoBaxBuilder، وهو مسار عمل مؤتمت يستفيد من النماذج اللغوية الكبيرة لتوليد معايير قياسية عالية الجودة لأمن البرمجيات بسرعة وبتكلفة اقتصادية، مما يقلل بشكل كبير من الجهد اليدوي المطلوب لبناء المعايير القياسية مع معالجة مشكلات تلوث البيانات وقابلية التوسع.
تقترح هذه الورقة وسيلة تمثيل جديدة لنماذج المحولات (Transformer) ذات طبقات "خليط الخبراء" (Mixture-of-Experts)، مدعومة بنظرية المجال المتوسط الديناميكي، مما يتيح نقلاً موثوقاً وفعالاً من حيث التكلفة للمعلمات الفائقة عبر نماذج تتراوح أحجامها من 51 مليون إلى أكثر من 2 مليار معلمة عند تغيير الأبعاد المعمارية المختلفة.
تقدم هذه الورقة التصنيف الانتشاري (DiffCLF)، وهو هدف حسابي فعال يعيد صياغة تعلم النماذج القائمة على الطاقة كمسألة تصنيف تحت الإشراف للتغلب على عمى النمط في مطابقة الدرجة والتكلفة الباهظة للاحتمال الأقصى، مما يتيح نماذج قائمة على الطاقة عالية الدقة لمهام توليدية متنوعة.
تقدم هذه الورقة نظاماً للذكاء الاصطناعي يستفيد من النماذج اللغوية الكبيرة لتوليد وتحسين لِمات هندسية قابلة للتنفيذ، محققاً حداً أدنى معتمداً جديداً قدره 0.8559 لنسبة شتاينر، ومحرزاً تقدماً كبيراً نحو حدسية جيلبرت-بولاك العريقة.
تقدم هذه الورقة إطار عمل نموذج الانتشار المقنع المعتمد على الترتيب (OeMDM) ومتغيره القابل للتعلم (LoMDM)، اللذين يوحدان مختلف ترتيبات التوليد ويقومان بتحسين سياسات الترتيب بشكل مشترك مع العمود الفقري للانتشار من الصفر لتحقيق أداء فائق في توليد اللغة مقارنة بنماذج الانتشار المنفصلة الحالية.