24514 ورقة بحثية
تستنتج هذه الورقة هوية دقيقة لعدم توازن معيار الأوزان في الشبكات غير الخطية العميقة لتصنيف دالات التنشيط وتحديد قانون وقت الهروب من العمق الحرج، مما يثبت أن هضاب التدريب محكومة بعدد طبقات عنق الزجاجة بدلاً من العمق الإجمالي للشبكة.
تقترح هذه الورقة وتقيم إطار عمل ثلاثي المصادر يجمع بين تجربة عشوائية صغيرة ومحاكي غير متصل بالإنترنت لتحديد وتصحيح انحياز الاختيار المتأصل في سجلات النماذج اللغوية الملاحظة واسعة النطاق، مما يتيح إجراء مقارنات سببية صالحة لأداء النموذج.
تتحدى هذه الورقة معايير اختيار النماذج التقليدية لنماذج الرؤية واللغة من خلال إثبات أن التشابه الهيكلي بين وسائط الرؤية واللغة، والذي يُقاس عبر مسافة "غروموف-واسرشتاين"، يعد مؤشراً أفضل لأداء المحاذاة مقارنة بحجم المشفر أو دقة التعلم الصفري.
تقترح هذه الورقة إطاراً قوياً لتعلم المعلمات لعمليات ماركوف لاتخاذ القرار غير المؤكدة، يستخدم نماذج ماركوف لاتخاذ القرار معلمية لالتقاط التبعات الجبرية بين الانتقالات، مما يولد نماذج عدم يقين أكثر إحكاماً ومدركة للتبعية من خلال تسلسل هرمي من التقريبات متعددة السطوح السليمة.
تقدم الورقة البحثية PROCO، وهو إطار عمل للتعلم المعزز الآمن غير المتصل (offline) القائم على النموذج، والذي يستفيد من النماذج اللغوية الكبيرة لترسيخ المعرفة باللغة الطبيعية في دالة تكلفة متحفظة، مما يتيح توليد عينات غير آمنة تخيلية (counterfactual) وتعلم سياسات آمنة حتى عندما تفتقر بيانات التدريب إلى الانتهاكات المرصودة.
تقدم هذه الورقة البحثية طريقة PEAR، وهي طريقة تعلم موجهة نحو القرار (Decision-Focused Learning) تتسم بالكفاءة الحسابية، حيث تستنتج تدرجات الندم ذات الصيغة المغلقة عن طريق إسقاط أخطاء التنبؤ على الفضاء المماسي للقيود النشطة، مما يتجنب عملية تمايز الحل (solver differentiation) المكلفة مع تحقيق جودة قرار ومتانة فائقين.
تقدم هذه الورقة بنية "ترانسفورمر" مستوحاة من الفيزياء تدمج المعرفة بالمجال لتحقيق تنبؤات حرارية دقيقة وقابلة للتعميم عبر مختلف المباني السكنية والمناخات دون الحاجة إلى معايرة خاصة بكل مبنى، مما يظهر قدرة واعدة على نقل التعلم الصفري (zero-shot transferability) على مجموعة بيانات CityLearn.
تقترح هذه الورقة MU-SHOT-Fi، وهو إطار عمل للتكيف غير الخاضع للإشراف مع النطاق دون الحاجة للوصول إلى المصدر، يستفيد من التنبؤ بالمجموعات غير المعتمد على الترتيب، وتعظيم المعلومات الموزون بالإشغال، والتعلم الذاتي المكاني لتمكين التعرف القوي على أنشطة مستخدمي الواي فاي المتعددين عبر بيئات متنوعة دون الحاجة إلى بيانات مستهدفة مصنفة.
تقدم هذه الورقة إطارًا موحدًا لتحليل تمثيلات المفاهيم العصبية على محوري الاحتواء وفك التشابك، كاشفةً أن اختيار طريقة التقدير يؤثر بشكل كبير على هذه الخصائص، ومسلطةً الض الضوء على تحديات محددة في تعميم طرق محو المفاهيم وعزل معلومات المتحدث في نماذج الكلام.
تقدم هذه الورقة تحليلاً نظرياً دقيقاً لتعلم المقاييس متعدد الوسائط من خلال إنشاء علاقات هرمية لفئات الدوال واستخلاص حدود جديدة لخطأ التعميم تُظهر كيف يؤدي دمج ميزات الوسائط دقيقة التفاصيل إلى تقليل تعقيد فضاء الفرضيات وتحسين أداء النموذج.