24131 ورقة بحثية
تقدم الورقة البحثية U2Diffine، وهو نموذج انتشار موحد يقوم في آن واحد بإكمال مسارات الوكلاء المتعددين والتنبؤ بها، مع توفير تقديرات لعدم اليقين المتباين لكل حالة وتصنيفات احتمالية الخطأ للأنماط المولدة، متفوقاً بذلك على الأساليب الرائدة عبر أربع مجموعات بيانات رياضية.
تقدم هذه الورقة AURORA، وهو إطار عمل خفيف الوزن من الوكلاء الدقيقين المتوازيين الذي يستفيد من مبدأ الطاقة الحرة، وحساب "do" السببي، وآلية تنفيذ ثنائية البوابات لتشخيص وتخفيف الإخفاقات الرمادية في المتصل الحوسبي بشكل موثوق مع القضاء على التدخلات التدميرية من خلال الوعي الصارم بعدم اليقين.
تقترح هذه الورقة البحثية وتتحقق من صحة استراتيجية عامة للتدريب المسبق للشبكات العصبية الرسومية على بصمات الاتصال الموسعة (ECFPs) لتحسين أدائها بشكل كبير في مهام علاقة البنية بالنشاط الكمي (QSAR) المتنوعة، مع إثبات مكاسب ذات دلالة إحصائية في المعايير القياسية، مع ملاحظة القيود في السيناريوهات شديدة التباين أو المعقدة خارج نطاق التوزيع.
تقدم هذه الورقة البحثية "الانجراف المتدرج للنواة" (kernel-gradient drifting)، وهو إطار توليدي أحادي الخطوة يعمم نماذج الانجراف القياسية على نواًة عشوائية وفضاءات غير إقليدية من خلال استبدال الإزاحات الثابتة باتجاهات تدرج مستحثة بالنواة، مما يحقق أداءً رائدًا على أنواع بيانات متنوعة دون الحاجة إلى التقطير من نماذج الانتشار سابقة التدريب.
يقدم AdaPaD إطار عمل للتفريغ المتوازي التكيفي لضبط النماذج مسبقة التدريب بكفاءة (PEFT)، والذي يقوم في آن واحد بتدريب مكونات الرتبة-1 مع تقارب خطأ ذاتي التصحيح واكتشاف ديناميكي للرتبة، محققاً أداءً تنافسياً مع أحجام محولات أصغر بكثير مقارنة بطرق LoRA الحالية.
تقترح هذه الورقة البحثية إطار عمل FedMITR، وهو إطار تعلم اتحادي من خطوة واحدة (one-shot) لنماذج المحولات الرؤيوية (Vision Transformers)، يجمع بين عكس النموذج المتناثر (sparse model inversion) لتوليد بيانات اصطناعية متوافقة دلاليًا واستراتيجية إعادة تسمية الرموز (token relabeling) لتعزيز متانة التنبؤ، مما يحقق أداءً فائقًا وحدود تعميم أكثر إحكامًا في ظل ظروف التوزيع غير المتماثل للبيانات (non-IID).
تقدم هذه الورقة طريقة "تعزيز مطابقة الـ adjoint" (RAM)، وهي طريقة قابلة للتوسع للتدريب اللاحق باستخدام التعلم المعزز لنماذج الانتشار ومطابقة التدفق، تحقق محاذاة فائقة مع المكافآت عبر اشتقاق فقد اتساق بسيط يصحح أهداف ما قبل التدريب دون الحاجة إلى عمليات تدفق SDE مكلفة، أو مسوحات adjoint خلفية، أو تدرجات مكافأة.
تثبت هذه الورقة التقارب العالمي لعملية الانحدار الاشتقاقي في الزمن المستمر للشبكات العصبية الضحلة والواسعة ذات اللاخطيات المحدودة وأوزان المخرجات المتجهة، وذلك من خلال إثبات أن جميع القيم الصغرى غير العالمية هي قيم غير مستقرة، مما يوسع النتائج السابقة المتعلقة بشبكات (ReLU) وشبكات (sigmoid) ذات المخرجات القياسية لتشمل طبقات الانتباه متعدد الرؤوس.
تقدم هذه الورقة البحثية DLR-Lock، وهي آلية دفاعية تحمي النماذج اللغوية ذات الأوزان المفتوحة من الضبط الدقيق غير المصرح به عن طريق استبدال طبقات MLP القياسية بشبكات متبقية منخفضة الرتبة وعميقة تستغل عدم التماثل بين الاستدلال والتدريب لخلق عوائق ذاكرة وتحسين باهظة للمهاجمين التكيفيين مع الحفاظ على أداء النموذج.
تحدد هذه الورقة "تدهور التمثيل" كعائق تدريب رئيسي في نماذج الانتشار ناتج عن عدم التوافق في قابلية الاسترداد المستهدفة، وتقترح "انتشار التمثيل الموضح" (ERD)، وهو إطار عمل جاهز للاستخدام يعمل على إعادة تخصيص جهد التحسين ديناميكيًا لاستقرار التعلم وتسريع التقارب.