27306 ورقة بحثية
تحدد هذه الورقة وتخفف من أثر "مصب الانتباه" (attention sink) المنهجي في نماذج الترجمة الآلية العصبية متعددة اللغات، حيث تمتص الرموز غير المحتوية على محتوى كتلة الانتباه المتقاطع بشكل غير متناسب، وذلك عبر تقديم منهجية تصفية تكشف عن أنماط لغوية كانت محجوبة سابقاً وتحسن بشكل كبير من موثوقية تحليلات التفسير القائمة على الانتباه.
تقدم الورقة البحثية CombinationTS، وهو إطار احتمالي معياري يعمل على تفكيك نماذج التنبؤ بالسلاسل الزمنية ليكشف أن تضمينات البيانات وتحويلات المدخلات المصممة جيداً غالباً ما تحقق أداءً واستقراراً متفوقين مقارنة بهياكل المشفرات المعقدة، مما يتحدى ضرورة زيادة تعقيد النموذج.
يُعد Rhamba إطار عمل مبتكر للتدريب المسبق ذاتي الإشراف لصور الرنين المغناطيسي الوظيفي في حالة الراحة، حيث يدمج بين الحجب الموجه تشريحيًا وبنيات Attention-Mamba الهجينة لتحقيق أداء فائق في تصنيف الفصام واضطراب نقص الانتباه مع فرط النشاط (ADHD) مع تحقيق التوازن بين القابلية للتفسير وقابلية التوسع.
يُعد S^3-R1 إطار عمل يعزز التعلم المعزز للإجابة على الأسئلة القائمة على البحث من خلال الجمع بين مسار بيانات اصطناعية لتوليد أسئلة متعددة الخطوات متوسطة الصعوبة وبين هيكل مكافأة كثيف يقيم جودة البحث وصحة الإجابة النهائية، مما يؤدي إلى تحسين التعميم واستراتيجيات البحث.
تقدم هذه الورقة نظرية تضمين كروي سريعة جديدة لإرساء حدود زمن استعلام محسنة قدرها لتقدير متوسطات نواة غاوس، متفوقة بذلك على النتائج السابقة في النطاقات ذات الخطأ الصغير وقطر البيانات المتوسط.
تستنتج هذه الورقة هوية دقيقة لعدم توازن معيار الأوزان في الشبكات غير الخطية العميقة لتصنيف دالات التنشيط وتحديد قانون وقت الهروب من العمق الحرج، مما يثبت أن هضاب التدريب محكومة بعدد طبقات عنق الزجاجة بدلاً من العمق الإجمالي للشبكة.
تقترح هذه الورقة وتقيم إطار عمل ثلاثي المصادر يجمع بين تجربة عشوائية صغيرة ومحاكي غير متصل بالإنترنت لتحديد وتصحيح انحياز الاختيار المتأصل في سجلات النماذج اللغوية الملاحظة واسعة النطاق، مما يتيح إجراء مقارنات سببية صالحة لأداء النموذج.
تتحدى هذه الورقة معايير اختيار النماذج التقليدية لنماذج الرؤية واللغة من خلال إثبات أن التشابه الهيكلي بين وسائط الرؤية واللغة، والذي يُقاس عبر مسافة "غروموف-واسرشتاين"، يعد مؤشراً أفضل لأداء المحاذاة مقارنة بحجم المشفر أو دقة التعلم الصفري.
تقترح هذه الورقة إطاراً قوياً لتعلم المعلمات لعمليات ماركوف لاتخاذ القرار غير المؤكدة، يستخدم نماذج ماركوف لاتخاذ القرار معلمية لالتقاط التبعات الجبرية بين الانتقالات، مما يولد نماذج عدم يقين أكثر إحكاماً ومدركة للتبعية من خلال تسلسل هرمي من التقريبات متعددة السطوح السليمة.
تقدم الورقة البحثية PROCO، وهو إطار عمل للتعلم المعزز الآمن غير المتصل (offline) القائم على النموذج، والذي يستفيد من النماذج اللغوية الكبيرة لترسيخ المعرفة باللغة الطبيعية في دالة تكلفة متحفظة، مما يتيح توليد عينات غير آمنة تخيلية (counterfactual) وتعلم سياسات آمنة حتى عندما تفتقر بيانات التدريب إلى الانتهاكات المرصودة.