22512 ورقة بحثية
تُثبت هذه الورقة أن الضبط الدقيق لنماذج تضمين النصوص العامة باستخدام تدريب الثلاثيات الخاص بمجال معين يحسن بشكل كبير قدرتها على التمييز بين سجلات الكيانات المتطابقة وتلك المتشابهة للغاية غير المتطابقة، مما يعزز الأداء في مهام حل الكيانات واسترجاع السجلات المكررة.
تقدم هذه الورقة تحليلاً موحداً لعدم استقرار تعلم كيو العميق (deep Q-learning) من خلال تحديد ثلاثة مصادر متفاعلة للخطأ — وهي التحيز على مستوى العامل، وحساسية المقدر، واختلال ديناميكيات المعلمات — وتقترح إطار عمل للاستقرار يتميز بالتمهيد المحكوم (controlled bootstrapping)، وتقدير المئينات التجميعي (ensemble quantile estimation)، وتنظيم المعلمات القائم على النبضات (spike-based parameter regulation)، مما يحقق أداءً تنافسياً مع تحسن في استقرار التدريب على معايير Atari-100K وProcgen.
تُثبت هذه الورقة أنه في مجموعات المراقبة الموثوقة للكشف عن الكود البرمجي الذي يحتوي على أبواب خلفية، تُعد مهارة الكشف الفردية هي المحرك الأساسي للأداء والاتفاق، مما يجعل الاستراتيجية الشائعة المتمثة في تقليل الارتباط الزوجي من خلال سلالات التدريب المسبق المتنوعة غير فعالة في تحسين مكاسب المجموعة.
تقدم هذه الورقة LACE، وهو مُقدِّر شبه مُشرف يستفيد من الإشارات المساعدة الرخيصة والتي قد تكون منحازة لتقدير ملفات أداء النماذج اللغوية الشرطية بكفاءة ودون تحيز دون الحاجة إلى تسميات ذهبية لكل عنصر.
تتحدى هذه الورقة الافتراض القائل بأن تقليل كثافة التنشيطات في الاستدلال التعاوني يحسن الخصوصية، حيث تثبت أن مواقع القيم المتبقية وحدها تشكل خطراً جسيماً على الخصوصية قادراً على تمكين إعادة بناء المدخلات وإعادة تحديد الهوية بدقة عالية، حتى عندما يتم تقليل تكاليف الإرسال بشكل كبير.
تقدم هذه الورقة إطار عمل تفكيك التباين الشامل (HMD)، وهو طبقة شبكة عصبية جديدة ذات كفاءة في المعلمات تتفوق على عمليات تفكيك الموترات التقليدية وتضاهي دقة الشبكات العصبية الالتفافية في تصنيف الصور فائقة الطيف من خلال التقاط الترابطات المكانية-الطيفية المعقدة بفعالية دون الاعتماد على الالتفافات.
تقترح الورقة البحثية إطار عمل SAUL، وهو إطار عمل مبتكر لـ "إلغاء التعلم" (machine unlearning) للنماذج اللغوية الكبيرة، والذي يصيغ عملية النسيان كمسألة تقليل قيود صريحة باستخدام متحكم "أوجمنتد لاغرانج" (Augmented-Lagrangian) تكيُّفي وتحديثات واعية بالحدة (sharpness-aware updates) لموازنة محو المعرفة مع الحفاظ على الفائدة العامة بشكل فعال.
يُعد CoMeT نموذجاً تأسيسياً جديداً للرؤية الطبية يوحد بين علم الأمراض والأشعة عبر أبعاد بيانات ومهام تنبؤية متنوعة، محققاً أداءً هو الأفضل في فئته من خلال التكيف الفعال للمعلمات والتعلم الاتحادي على أجهزة استهلاكية.
تقدم الورقة البحثية DARTopic، وهو إطار عمل للنمذجة الموضوعية العصبية غير المرتبط بنطاق محدد، والذي يعزز القابلية للتفسير في المتون المتخصصة من خلال بناء رسوم بيانية دلالية على مستوى الرموز (tokens) من تضمينات النماذج اللغوية مسبقة التدريب والمجمدة، والتدريب المشترك لمشفر شبكة عصبية رسومية (GNN)، مما يتغلب على قيود فضاء التضمين في الطرق الحالية دون الحاجة إلى ضبط دقيق للمشفر.
تقدم هذه الورقة KNNG-CS، وهي طريقة خفيفة الوزن لاختيار النواة المركزية (coreset) تستفيد من رسوم الجوار لأقرب جار (K-nearest neighbor graphs) لتحديد مجموعات فرعية تمثيلية للبيانات بكفاءة مع تقليل تكاليف الوقت والذاكرة بشكل كبير، مع الحفاظ على دقة تضاهي أساليب تقريب التدرج الحالية.