25254 ورقة بحثية
تُثبت هذه الورقة أن تطبيق الروابط الفائقة المقيدة بالمنوع (mHC) على نماذج فضاء الحالة (SSMs) يحسن بشكل كبير أداء نمذجة اللغة على مجموعة بيانات WikiText-2 من خلال تقييد خلط التدفق المتبقي بمصفوفات ثنائية العشوائية ودمج محولات متخصصة في التدفق، مما يحقق انخفاضاً في الحيرة مع زيادات طفيفة فقط في تكاليف الذاكرة والإنتاجية.
تقترح هذه الورقة البحثية إطار عمل SGC-RML، وهو إطار موحد وقابل للتفسير يدمج البيانات الواقعية متعددة الوسائط في أطلس أعراض مشترك مع تقدير عدم اليقين والمعايرة المطابقة لتمكين تقييم طولي موثوق وقابل للتدقيق ومتكيف لشدة مرض باركنسون في ظل وجود تسميات غير مكتملة وتحيز ناتج عن اختلاف الأجهزة.
تقترح هذه الورقة إطار عمل للشبكات العصبية الرسومية (GNN) يمثل الأنظمة الإنشائية في هيئة رسوم بيانية للتنبؤ بدقة وكفاءة بإزاحات الهياكل تحت الأحمال الخارجية، متفوقةً بذلك على الشبكات العصبية التقليدية ومقدمةً بديلاً سريعاً وقائماً على البيانات لتحليل طريقة العناصر المحدودة (FEM) المكلفة حاسوبياً من أجل المراقبة اللحظية للحالة الإنشائية.
يعالج FlashSVD الإصدار 1.5 الفجوة بين خفض العمليات الحسابية (FLOPs) النظري وسرعة الاستدلال الفعلية في نماذج المحولات (transformers) المضغوطة بتقنية SVD، وذلك من خلال تقديم بيئة تشغيل موحدة تستخدم نوى (kernels) مخصصة لكل مرحلة، وفك تشفير KV كثيف، وإعادة تشغيل رسوم CUDA البيانية (CUDA-graph replay) لتحقيق تسريع في سرعة فك التشفير يصل إلى 2.55 ضعفًا، مما يثبت أن التسريع العملي منخفض الرتبة يتطلب تصميمًا مشتركًا لبيئة التشغيل وليس مجرد خوارزميات ضغط فحسب.
تُعد RDKV طريقة مبتكرة لضغط ذاكرة التخزين المؤقت لـ KV، حيث تعمل على تحسين طرد الرموز والكمية بشكل مشترك من خلال إطار عمل معدل-التشويه، مما يحقق تقليلاً كبيراً في الذاكرة وتسريعاً في فك التشفير مع الحفاظ على دقة عالية في مهام السياق الطويل.
تقدم هذه الورقة البحثية نموذج "ترانسفورمر الانتباه متعدد المقاييس" (MSAT)، وهو بنية للتعلم العميق تتفوق على المشغلات العصبية القائمة على فوريه وغيرها من النماذج المرجعية في حل المعادلات التفاضلية الجزئية على المجالات غير المنتظمة من خلال الاستفيادة من آليات الانتباه المتعلمة، بينما تضع أيضاً الحدود النظرية والتجريبية لمتى يعمل التنظيم المستند إلى الفيزياء على تحسين أو إعاقة التعميم.
تقدم هذه الورقة البحثية SDG-MoE، وهي بنية "خليط من الخبراء" (Mixture-of-Experts) مبتكرة تعزز الأداء من خلال دمج خطوة تداول خفيفة الوزن ومتكررة حيث يتبادل الخبراء النشطون رسائل ذات إشارات عبر رسوم بيانية للدعم والنقد، مما يحقق نتائج تفوق في مستوى "الارتباك" (perplexity) نماذج الـ MoE التقليدية ونماذج التواصل الرسومي المرجعية مع الحفاظ على الكفاءة الحسابية.
تقترح هذه الورقة إطار عمل FQPDR، وهو شبكة عصبية كمية اتحادية تستفيد من التعلم التعاوني الحافظ للخصوصية لتحقيق كشف مبكر قوي وخفيف الوزن لاعتلال الشبكية السكري من خلال تحديد التمددات الوعائية الدقيقة الدقيقة دون مشاركة بيانات المرضى الحساسة.
تقدم هذه الورقة البحثية CAMAL، وهي طريقة فعالة وقابلة للتوسع تستفيد من أقنعة التجزئة كمنظم مساعد لتحسين كل من الدقة المكانية (المحاذاة) والمعنى السببي (الأمانة) للانتباه في نماذج الرؤية عبر نماذج التعلم العميق والتعلم التعزيزي العميق بشكل كبير، مما يعزز قابلية التفسير دون زيادة تكاليف الاستدلال.
تقترح هذه الورقة طريقة DPA-GRPO، وهي طريقة تدريب للأفعال المزدوجة المقترنة للعبة المولد والمتحقق التي تستخدم حالات ضمان السلامة ومجموعات الأفعال المضادة لتحسين مخرجات النماذج اللغوية الكبيرة المهيكلة، مما يظهر تحسناً في الدقة، وكشف الأخطاء، وسلوك المراجعة المعاير على معيار TaxCalcBench TY24.