24017 ورقة بحثية
تُعد RDKV طريقة مبتكرة لضغط ذاكرة التخزين المؤقت لـ KV، حيث تعمل على تحسين طرد الرموز والكمية بشكل مشترك من خلال إطار عمل معدل-التشويه، مما يحقق تقليلاً كبيراً في الذاكرة وتسريعاً في فك التشفير مع الحفاظ على دقة عالية في مهام السياق الطويل.
تقدم هذه الورقة البحثية نموذج "ترانسفورمر الانتباه متعدد المقاييس" (MSAT)، وهو بنية للتعلم العميق تتفوق على المشغلات العصبية القائمة على فوريه وغيرها من النماذج المرجعية في حل المعادلات التفاضلية الجزئية على المجالات غير المنتظمة من خلال الاستفيادة من آليات الانتباه المتعلمة، بينما تضع أيضاً الحدود النظرية والتجريبية لمتى يعمل التنظيم المستند إلى الفيزياء على تحسين أو إعاقة التعميم.
تقدم هذه الورقة البحثية SDG-MoE، وهي بنية "خليط من الخبراء" (Mixture-of-Experts) مبتكرة تعزز الأداء من خلال دمج خطوة تداول خفيفة الوزن ومتكررة حيث يتبادل الخبراء النشطون رسائل ذات إشارات عبر رسوم بيانية للدعم والنقد، مما يحقق نتائج تفوق في مستوى "الارتباك" (perplexity) نماذج الـ MoE التقليدية ونماذج التواصل الرسومي المرجعية مع الحفاظ على الكفاءة الحسابية.
تقترح هذه الورقة إطار عمل FQPDR، وهو شبكة عصبية كمية اتحادية تستفيد من التعلم التعاوني الحافظ للخصوصية لتحقيق كشف مبكر قوي وخفيف الوزن لاعتلال الشبكية السكري من خلال تحديد التمددات الوعائية الدقيقة الدقيقة دون مشاركة بيانات المرضى الحساسة.
تقدم هذه الورقة البحثية CAMAL، وهي طريقة فعالة وقابلة للتوسع تستفيد من أقنعة التجزئة كمنظم مساعد لتحسين كل من الدقة المكانية (المحاذاة) والمعنى السببي (الأمانة) للانتباه في نماذج الرؤية عبر نماذج التعلم العميق والتعلم التعزيزي العميق بشكل كبير، مما يعزز قابلية التفسير دون زيادة تكاليف الاستدلال.
تقترح هذه الورقة طريقة DPA-GRPO، وهي طريقة تدريب للأفعال المزدوجة المقترنة للعبة المولد والمتحقق التي تستخدم حالات ضمان السلامة ومجموعات الأفعال المضادة لتحسين مخرجات النماذج اللغوية الكبيرة المهيكلة، مما يظهر تحسناً في الدقة، وكشف الأخطاء، وسلوك المراجعة المعاير على معيار TaxCalcBench TY24.
تحل هذه الورقة لغز سبب نجاح مطابقة التدفق غير المشروطة بالزمن من خلال إثبات أن هندسة البيانات عالية الأبعاد تسمح باستعادة الزمن ضمنياً من الملاحظات المشوبة بالضجيج، مما يثبت أن اختيار استراتيجية الاقتران هو عامل أكثر حرجاً لأداء النموذج من التكييف الصريح مع الزمن.
تقدم الورقة البحثية SWE Atlas، وهي مجموعة معايير جديدة مصممة لتقييم وكلاء البرمجة في سير عمل مهني غير ممثل مثل الأسئلة والأجوبة حول قواعد الأكواد، وكتابة الاختبارات، وإعادة الهيكلة، من خلال تقييم كل من الصحة الوظيفية وجودة هندسة البرمجيات، مما يكشف أنه بينما تتصدر النماذج رفيعة المستوى، لا تزال هناك تحديات كبيرة في التعامل مع الحالات الحدية والالتزام بأفضل الممارسات.
تقترح هذه الورقة إطار عمل قائم على الطاقة الحرة للتمييز بين استثارة القدرات، التي تعيد وزن السلوكيات الموجودة ضمن نطاق الدعم المتاح للنموذج، وبين إنشاء القدرات، الذي يوسع ذلك النطاق من خلال آليات مثل البحث أو استخدام الأدوات، محاججةً بأن هذا التمييز أكثر أهمية من الثنائية التقليدية بين الضبط الدقيق الموجه (SFT) والتعلم المعزز (RL) في مرحلة ما بعد التدريب.
تضع هذه الورقة حدوداً دنيا جديدة لبعد التضمين المطلوب لضمان الشمولية للشبكات العصبية المتباينة في الترتيب، وتحديداً من خلال إثبات البعد الأدنى الصحيح (ضمن عامل ثابت) لـ Deep Sets، وتقديم أول حد أدنى غير بديهي لـ -ary Janossy pooling عندما تكون .