24235 ورقة بحثية
تقدم هذه الورقة تحليلاً نظرياً لخوارزمية Adam في ظل أهداف غير مستقرة، حيث تؤسس لمقايضة مثبتة بين الضجيج والانحراف، تظهر تفوق الطرق التكيفية على SGD في الأنظمة التي يهيمن عليها الضجيج، لكنها تعاني من تراكم الأخطاء في الإعدادات التي يهيمن عليها الانحراف بسبب زخم الذاكرة القديم واضطرابات الممهد.
تقدم هذه المقالة نقاط حدود الانحناء المتوسط (MCBP)، وهو إطار عمل جديد للتعلم غير الخاضع للإشراف يستفيد من تقديرات الانحناء المتوسط المنفصلة من الجوارات المحلية لتحديد الحدود وتفكيك البيانات إلى مجموعات فرعية سلسة وحدودية، مما يؤدي إلى تحسين أداء التجميع في مجموعات البيانات عالية الأبعاد والمعقدة دون الاعتماد على المعلمات التقليدية القائمة على الكثافة.
تؤسس هذه الورقة إطاراً نظرياً لديناميكيات الانتباه الذاتي متعدد الرؤوس من خلال إثبات رتابة دالة طاقة طبيعية، وتحديد مصطلحات الظل الشعاعي كعائق رئيسي أمام رتابة كل رأس على حدة، واستخلاص نتائج كمية حول معدلات التجميع وإنتاج الإنتروبيا التي توحد فهم الاستقرار والتجميع في نماذج المحولات (transformers).
تقدم هذه المقالة إطاراً احتمالياً يوظف الشبكات العصبية التوليدية لتصنيف المناطق المناخية للصحراء الكبرى للفترة من 1960 إلى 1989 ولقياس أوجه عدم اليقين، مما يقدم بديلاً أكثر دقة لتصنيفات "كوبن-تريوارثا" الحتمية التقليدية مع تحليل الاتجاهات الزمنية للتصحر في الوقت ذاته.
تقترح هذه المقالة "الاعتلاج الدلالي المطابق المتكيف" (ACSE)، وهي طريقة مبتكرة تقيس عدم اليقين في النماذج اللغوية الكبيرة من خلال القياس المتكيف للتشتت الدلالي عبر استجابات متنوعة وتطبيق المعايرة المطابقة لتوفير ضمانات خطأ في العينات المحدودة دون افتراضات توزيعية، متجاوزةً بذلك الأساليب المرجعية اللفظية والاحتمالية القائمة في التطبيقات ذات الأهمية الحرجة للسلامة.
تقترح هذه المقالة إطار عمل فعال من حيث كفاءة العينات للتوسع المعرفي المستمر في النماذج اللغوية الكبيرة عن طريق تمثيل الذاكرة كمصفوفة انتقال ماركوف وتوظيف استراتيجية تعيين الرمز إلى المفردات مع حد أدنى من تحديثات التضمين لتجنب النسيان الكارثي.
تقدم هذه الورقة LUCAS-MEGA، وهي مجموعة بيانات متعددة الوسائط واسعة النطاق تضم أكثر من 70,000 عينة من التربة والبيئة تم إنشاؤها عبر مسار SoilFuser، وتبرهن على فائدتها من خلال التدريب المسبق لـ SoilFormer، وهو نموذج محول (transformer) ذاتي الإشراف يتعلم تمثيلات قوية ومدركة لعدم اليقين للنمذجة القائمة على البيانات للتربة.
تقدم هذه الورقة إطاراً نظرياً موحداً لتحليل وبناء الشبكات العصبية العميقة من خلال نمذجة عمليات التنسور (tensor) بشكل صريح، مما يكشف عن الروابط التاريخية بين التعقيد الهيكلي والطفرات النوعية، مع تحديد وإطلاق مجموعة بيانات تضم أكثر من 3,000 بنية عالية التعقيد لم تُستكشف بعد.
تقدم هذه المساهمة "Budgeted LoRA"، وهو إطار عمل للتقطير يعامل ضغط النموذج كمسألة مهيكلة لتخصيص الموارد الحسابية لإنتاج نماذج طالبة ذات كفاءة استدلال صريحة عبر إعادة تخصيص السعة ديناميكيًا بين المسارات الكثيفة ومنخفضة الرتبة تحت ميزانية حسابية عالمية.
تثبت هذه الورقة رسميًا التكافؤ الهيكلي بين تأخيرات الملاحظة وتأخيرات الفعل في الأنظمة متعددة الوكلاء التعاونية، حيث تثبت أنها تؤدي إلى حلول مثلى متطابقة مع إظهار أن ديناميكيات تعلمها تختلف اختلافًا جوهريًا، مما يتيح نقل السياسة بنجاح من صفر (zero-shot) من بيئات الملاحظة المتأخرة إلى بيئات الفعل المتأخرة.