24235 ورقة بحثية
توسع هذه الورقة مفهوم الانحناء ليشمل جميع الدوال تحت المجموعية، بما في ذلك الدوال غير الرتيبة وذات القيم السالبة، لتقديم أول ضمانات تقريب جشع ضربي توحد وتحسن الحدود الحالية لتحسين الدوال تحت المجموعية التعسفية.
تقترح هذه الورقة إطار عمل موحد لتدفق التدرج من نوع "Euclidean-Wasserstein-2" يقوم بشكل مشترك بعمليات أخذ عينات اللاحقة وتحسين المطالبات في الفضاء الكامن لنماذج الانتشار الكامنة للرؤية واللغة، مما يتيح جودة إعادة بناء هي الأفضل في مجالها للمشكلات العكسية بتكاليف حوسبة أقل بكثير وعدد أقل من تقييمات الدوال العصبية دون الحاجة إلى الانتشار العكسي عبر المشفرات التلقائية.
يستعرض هذا البحث أهم المساهمات في الاستدلال الإحصائي باستخدام دالات الاعتقاد، مع التركيز على طرق تعلم مقاييس الاعتقاد من البيانات، لا سيما في السيناريوهات التي تجعل نقص المعلومات من غير العملي تعلم التوزيع الاحتمالي التقليدي.
تُثبت هذه الورقة أن كلاً من تسطح مشهد الخسارة ومحاذاة التدرج ضروريان بنيوياً لتقليل المخاطر الزائدة في التعلم متعدد التوزيعات، مما أدى إلى اقتراح SAGE، وهي طريقة مبتكرة تعمل على تحسين هاتين الخاصيتين في آن واحد عبر الاضطرابات المدركة طيفياً وحقن الضوضاء متناحية الخواص لتحقيق أداء رائد في تعميم النطاق والتعلم متعدد المهام.
تقدم الورقة البحثية Tree SAE، وهو نموذج مشفر تلقائي متناثر (sparse autoencoder) مبتكر يتغلب على قيود الأساليب الهرمية القائمة على التنشيط من خلال دمج شرط إعادة البناء لتعلم هياكل ميزات هرمية وظيفية ودقيقة مباشرة من البيانات، مما يجعله يتفوق على المعايير المرجعية الحالية ويكشف عن تسلسلات هرمية لمفاهيم معقدة في النماذج اللغوية الكبيرة.
تقدم هذه الورقة البحثية طريقة "مطابقة التدفق المنفصل الموجه بالمسار" (TS-DFM)، وهي طريقة تقطير تستبدل القفزات العشوائية العمياء في مسارات النموذج المعلم بالملاحة الموجهة بالطاقة أثناء التدريب، مما يمكّن نموذج الطالب ذو الخطوات القليلة من تحقيق حيرة (perplexity) أقل بكثير وسرعة استدلال أكبر من النماذج المعلمة متعددة الخطوات والنماذج المرجعية الأكبر حجماً.
تقدم هذه الورقة البحثية خوارزمية INO-SGD، وهي خوارزمية مبتكرة صُممت لمعالجة مشكلة عدم توازن المنفعة الحرجة في الخصوصية التفاضلية الفردية من خلال تقليل وزن البيانات استراتيجياً داخل كل دفعة لضمان أداء أفضل للنموذج على البيانات عالية الخصوصية دون المساس بضمانات الخصوصية.
تقدم الورقة البحثية CellRefine، وهي طريقة مبتكرة لما بعد ما قبل التدريب تستفيد من مجموعات الجينات العلامات كعناصر هيكلية مسبقة لتنقيح تمثيلات الخلايا والتغلب على قيود التعميم للنماذج التأسيسية الحالية أحادية الخلية، مما يؤدي إلى تحسين أداء المهام اللاحقة بشكل كبير.
تقدم هذه الورقة TAVIS، وهو معيار شامل وبنية تحتية للتقييم لتعلم التقليد بالرؤية النشطة، يتميز بمجموعات مهام متنوعة، ومنصات مجسدة، ومقاييس مبتكرة مثل "زمن استباق النظرة للفعل" (Gaze-Action Lead Time) للقياس المنهجي لفوائد وقيود النظرة الاستباقية في المعالجة الروبوتية.
تضع هذه الورقة أول ضمانات صارمة لقابلية التدريب لطبقات الانتباه والتكيف منخفض الرتبة (LoRA) تحت خوارزمية التدرج الاشتقاقي العشوائي، حيث تثبت أن التنظيم الطفيف يستحث متباينة بوانكاريه ويضمن التقارب دون الاعتماد على افتراضات تتعلق بالبيانات أو بنية النموذج.