24017 ورقة بحثية
تُعد jNO مكتبة موحدة أصلية في JAX تعمل على تبسيط تدريب المشغلات العصبية والنماذج التأسيسية من خلال دمج النهج القائم على البيانات والنهج المستند إلى الفيزياء في نظام تتبع رمزي واحد، مما يتيح انتقالات سلسة بين انحدار المشغل، وتقييم المتبقي المدرك للشبكة، والتحسين المقيد بالمعادلات التفاضلية الجزئية دون الحاجة إلى إعادة هيكلة الكود.
تقدم هذه الورقة OUIDecay، وهو مجدول تضاؤل أوزان تكيفي للشبكات العصبونية الالتفافية (CNNs) يقوم بتعديل قوة التنظيم الخاصة بكل طبقة ديناميكياً عبر الإنترنت باستخدام مؤشرات الإفراط في التخصيص ونقص التخصيص القائمة على التنشيط، محققاً أداءً فائقاً في التحقق عبر بنيات ومجموعات بيانات متعددة دون الحاجة إلى بيانات التحقق.
تقترح هذه الورقة طريقة لتعلم مخططات بيانية موجهة (DAGs) سببية منخفضة الأبعاد من نماذج خطية غير غاوسية عالية الأبعاد ذات دورات، مبرهنةً على أن مثل هذه الملخصات قابلة للتمييز، وثابتة عبر فئات التكافؤ الرصدي، وقابلة للحوسبة في زمن تكعيبي مع حدود صريحة للتعقيد العيني.
تتناول هذه الورقة نقص طرق نقل المعلمات الفائقة للذاكرة الترابطية الكثيفة من خلال اشتقاق وصفات نظرية صريحة لنجاح توسيع نطاق المعلمات الفائقة من النماذج الصغيرة إلى النماذج الكبيرة، وهي مهمة تزداد تعقيداً بسبب الأوزان المشتركة ودوال التنشيط الفريدة، وتتحقق من هذه النتائج عبر توافق تجريبي قوي.
تقترح الورقة البحثية طريقة "الحد الأدنى من التباين المتساوي في الخسارة" (LE-SAM)، وهي طريقة تحسين مبتكرة تستبدل نصف قطر فضاء المعلمات الثابت في "التقليل من الحد الأدنى للحدة" (SAM) بميزانية ثابتة في فضاء الخسارة، وذلك لتعزيز المواءمة مع الطبيعة القائمة على الانحناء للحدود الدنيا المسطحة، مما يحقق أداءً في التعميم هو الأفضل حالياً عبر مختلف المعايير المرجعية.
تقترح الورقة البحثية TRACE، وهي طريقة تقطير ذاتي موجهة بالرموز (token-routed self-distillation) تطبق تباعد كولباك - ليبلر (KL divergence) بشكل انتقائي على الأجزاء الحرجة المحددة من قبل المقيّم أثناء التعلم المعزز بمكافآت قابلة للتحقق، مما يقلل من هدر التدرج وتسرب المعلومات المميزة لتحسين الاستدلال الرياضي طويل المدى والتعميم خارج نطاق التوزيع بشكل كبير مقارنة بنماذج GRPO القياسية ونماذج التقطير الذاتي للاستجابة الكاملة.
تقترح الورقة البحثية SPACE، وهي طريقة فعالة من حيث استهلاك الذاكرة تعمل على استحثاث التناثر بشكل تكراري في معاملات الانتباه المتقاطع لمحو مفاهيم محددة بفعالية من نماذج الانتشار واسعة النطاق مع الحفاظ على المتانة ضد المطالبات العدائية.
تقدم هذه الورقة البحثية "معايرة المهام" (task calibration)، وهي نموذج يهدف إلى تحسين عملية فك التشفير في النماذج اللغوية الكبيرة عبر معايرة التوزيعات التنبؤية ضمن فضاء كامن خاص بالمهمة، مما يحقق بشكل مثبت الحد الأدنى من مخاطر بايز (Minimum Bayes Risk) ويعزز جودة التوليد عبر تطبيقات متنوعة.
تجسّر هذه الورقة الفجوة بين حدود التعميم عالية الاحتمالية لـ SGD اللامركزي وSGD التقليدي من خلال تطوير نظرية تعلم جديدة قائمة على الاستقرار الموحد النقطي تحقق المعدل الأمثل عبر الإعدادات المحدبة، والمحدبة بقوة، وغير المحدبة.
تُظهر هذه الدراسة أن الضغط المنهجي في تقديرات أعمار النجوم الطيفية، بدلاً من تاريخ تكوين انفجاري جوهري، يمكن أن يولّد بشكل اصطناعي علاقات العمر والمعدنية الحادة وجداول التجميع السريعة التي استُخدمت سابقاً لتوصيف القرص السميك لمجرة درب التبانة، مما يشير إلى أن الارتكاز بالقياسات التذبذبية النجمية يكشف عن فترة تكوين ممتدة بشكل أكبر بكثير.