Beyond ReLU: How Activations Affect Neural Kernels and Random Wide Networks
تُوصّف هذه الورقة فضاءات هيلبرت ذات النواة المستنسخة (RKHS) ونعومة مسار العينة لنواة التماس العصبي (NTK) والعمليات الجاوسية للشبكات العصبية (NNGP) لفئة واسعة من دوال التنشيط غير السلسة، كاشفةً كيف يحدد عدم سلاستها عند الصفر اعتماد النواة الناتجة على العمق.