24235 ورقة بحثية
تقدم هذه الورقة DIST2Loss، وهي دالة هدف مدركة للمسافة للنماذج اللغوية ذات التوليد الذاتي المنفصل، والتي تستبدل الأهداف التقليدية بنظام "الهدف ذو الحد الواحد" (one-hot) بتوزيعات مرجحة بالمكافأة لتحسين كفاءة البيانات والأداء عبر مهام متنوعة مثل التأسيس البصري، والروبوتات، وتوليد الصور من خلال الاستفادة من العلاقات المترية بين الرموز.
تُثبت هذه الورقة أن دمج فقدٍ مساعد للترتيب المحلي بسيط وقابل للاشتقاق يُسمى خطأ إشارة الفرق المحدود (FDSE) إلى جانب متوسط مربع الخطأ يمكن أن يحسن بشكل كبير دقة إعادة البناء عند النقاط في المشفرات التلقائية ذات السعة المحدودة للمجالات المكانية المتماسكة، مما يتحدى المفهوم القائل بأن الأهداف الهيكلية يجب أن تضحي بالدقة على مستوى البكسل.
يُرسخ هذا العمل نتيجتين للتقريب الغاوسي المعمم لتعلم ستوكات (SGD) المحلي في التعلم الاتحادي اللامركزي —وهما مبرهنة بيري-إيسين للتكرارات النهائية وتقريبات موحدة عبر الزمن للمسار بأكمله— مما يُمكّن من الاستدلال الإحصائي الصالح والكشف القوي عن الهجمات العدائية عبر إجراءات البوتستراب.
تستخدم هذه الورقة نموذج انتقال حالة غير مرتبط بالتنفيذ لتوضيح أن التعلم العميق يحسن التعميم عندما تقترن مكاسب التقريب السريع بنصف مجموعات انتقالية مهذبة هندسياً تمنع التعقيد الإحصائي من المعاناة من نمو أسي.
تقدم هذه الورقة البحثية خوارزمية PKeX-Shapley، وهي خوارزمية مبتكرة تستفيد من البنية الضربِيّة لنواة الضرب (product kernels) لحساب قيم شابلي (Shapley values) دقيقة وخالية من المعلمات لجميع الميزات في زمن استهلاك أمورتيزد خطي (amortized linear time)، متجاوزةً بذلك عدم القدرة على الحساب وأخطاء التقدير المتأصلة في طرق التقريب الحالية القائمة على النواة (kernel-based) للتفسير والتحليل الإحصائي.
تقدم هذه الورقة "الاستحواذ النشط على الأنماط القائم على الفوج" (CAMA)، وهو إطار عمل جديد لوقت الاختبار يستخدم استراتيجيات قائمة على التضمين لتحديد العينات التي يجب أن تتلقى أنماطاً إضافية مكلفة في الفوج بكفاءة، مما يظهر أداءً فائقاً مقارنة بالطرق الحالية وقابلية للتطبيق في العالم الحقيقي في التنبؤ بالأمراض باستخدام بيانات البروتينات من بنك الحيوية البريطاني (UK Biobank).
تجادل هذه الورقة الموقعة بأن مشكلات التعلم العميق ذات المتطلبات غير القابلة للتفاوض يجب معالجتها من خلال الحل المباشر لعملية التحسين المقيدة المصاغة، بدلاً من الاعتماد على طريقة مجموع الأوزان الثابتة التي لا توفر أي ضمان لاستيفاء القيود، وتُحول المتطلبات الصارمة إلى تسويات ضعيفة، وتتطلب تجربة وخطأ مكلفين في الضبط.
تقدم هذه الورقة نموذج تهديد "حقن البيانات المزيفة" عملي لـ "المقامرين العشوائيين" (stochastic bandits) يتجاوز الافتراضات غير الواقعية للأعمال السابقة من خلال قصر المهاجمين على حقن عينات مزيفة محدودة، وتثبت من خلال النظرية والتجارب أن هذه الاستراتيجية يمكن أن تضلل الخوارزميات بفعالية لاختيار ذراع مستهدفة بتكلفة دون خطية فقط.
تقدم هذه الورقة أول إطار عمل فعال للوقاية في التعلم المعزز القائم على التدرج التحليلي، حيث تثبت أن دمج آليات السلامة القابلة للتفاضل أثناء التدريب يضمن السلامة المثبتة في مهام التحكم دون المساس بأداء التعلم.
تُثبت هذه الورقة أن الشبكات العصبية الدنيا التي تحتوي على ثلاثة معلمات فقط يمكنها عكس إجراء مجموعة إعادة التطبيع احتماليًا لتوليد تكوينات حرجة ثابتة المقياس لنموذج إيزينغ ثنائي الأبعاد، مما يستوعب الخصائص العالمية الجوهرية وقيم مُعاملات مجموعة إعادة التطبيع دون الحاجة إلى بنيات معقدة.