22996 ورقة بحثية
تقدم الورقة البحثية "Rulers"، وهو إطار عمل ثلاثي المراحل أثناء الاستنتاج يعمل على تحويل المعايير البشرية إلى مواصفات مغلقة، ويفرض استناداً هيكلياً للأدلة، ويطبق معايرة لاحقة للتغلب على أوضاع الفشل الشائعة وتحقيق تقييم أكثر موثوقية ومواءمة للبشر من قبل النماذج اللغوية الكبيرة عبر مهام تقييم النصوص المتنوعة.
تقترح هذه الورقة وتحلل خوارزمية من الدرجة صفر تجمع بين متدرات امتداد لوفاز (Lovász extension subgradients) والتنعيم الغاوسي لحل مسائل الحد الأدنى-الأقصى (min-max) غير الملساء التي تتضمن دالات محدبة-تحتية (submodular-concave)، مع إثبات التقارب إلى نقطة سرج في الإعداد غير المتصل (offline setting) وتحديد حد فجوة ثنائية عبر الإنترنت (online duality gap) يبلغ .
تقدم هذه الورقة البحثية "إلغاء تعلم التمثيل" (Representation Unlearning)، وهو إطار عمل يحقق إلغاء تعلم للآلة بكفاءة وموثوقية من خلال تعلم تحويل في فضاء التمثيل لضغط المعلومات المتعلقة بالبيانات المنسية مع الحفاظ على الفائدة للبيانات المستبقاة، مما يوفر بديلاً أكثر استقراراً وكفاءة من حيث الحوسبة لطرق تعديل المعلمات التقليدية.
تقدم هذه الورقة إطاراً موحداً يكمّم تشابه التمثيل من خلال منظور المعلومات القابلة للاستخدام، مما يؤسس روابط رسمية بين أداء التجميع والمعلومات المتبادلة الشرطية، مع إثبات أن تشابه التمثيل نسبي للقدرة التنبؤية وهو كافٍ ولكنه ليس ضرورياً للتشابه الوظيفي.
تُثبت هذه الورقة أن "التدريب المسبق الإجرائي"، الذي يتضمن تعريض النماذج اللغوية في البداية لنسبة ضئيلة من البيانات الهيكلية المجردة الناتجة عن اللغات والخوارزميات الصورية، يعزز قدراتها على الاستنتاج بشكل كبير، ويسرع التقارب، ويقلل التكاليف الحسابية مقارنة بالتدريب المسبق القياسي باستخدام اللغة الطبيعية.
تقترح هذه الورقة إطار عمل REKD، وهو إطار لتقطير المعرفة يعزز الأداء التنبؤي وقابلية التفسير لنماذج استخراج المبررات من خلال تدريب شبكات طالب أصغر للتعلم من مبررات وتنبؤات نموذج معلم أكثر قدرة، مما يتغلب على التحديات الحسابية لتعلم مجموعات الميزات الفرعية تحت الإشراف عن بُعد.
تقترح هذه الورقة طريقة غير خاضعة للإشراف قائمة على القواعد لتقسيم المسارات واكتشاف هياكل مهارات هرمية في بيئات عالية الأبعاد مثل ماينكرافت، مما يثبت أن الهياكل الهرمية الناتجة ذات المعنى الدلالي تتفوق على النماذج المرجعية الحالية وتسرع عملية التعلم التعزيزي في المهام اللاحقة.
تقدم الورقة البحثية طريقة PEAR، وهي طريقة في مرحلة الضبط الدقيق الموجه (SFT) تستخدم أخذ العينات بالأهمية لإعادة وزن خسائر التدريب بناءً على عدم التطابق بين البيانات غير المتصلة (offline data) وسياسات التعلم المعزز المستقبلية، مما يحسن بشكل كبير أداء التعلم المعزز في المهام اللاحقة على مهام الاستدلال مقارنة بالضبط الدقيق الموجه القياسي.
تقدم هذه الورقة إطار عمل متكامل للتحليل المنهجي للأحداث النادرة ولكن الهامة في النماذج اللغوية الكبيرة، حيث توفر أدوات عملية لتوليدها، وتقدير احتمالية حدوثها، وتحليل أخطائها لمعالجة التحديات الناجمة عن الحجم الهائل والطبيعة الاحتمالية لهذه النماذج.
تقترح الورقة طريقة لتهيئ التدرج (gradient preconditioning) تقوم بإسقاط تدرجات المكافأة على مجموعة مسموحة من الضوضاء الغاوسية البيضاء لتمكين التحسين الفعال والموثوق والخالي من الاختراق (hack-free) في وقت الاختبار للنماذج التوليدية ذات الخطوة الواحدة، محققةً أداءً هو الأفضل في فئته مع تقليل التكلفة الحسابية بشكل كبير.