12426 ورقة بحثية
تقترح الورقة البحثية نموذج XDLM، وهو نموذج انتشار منفصل مبتكر يوحد بين نماذج القناع (Masked) والضجيج الموحد (Uniform-noise) من خلال نواة ضجيج ثابتة لتحقيق فهم دلالي فائق وتوليد عالي الجودة في خطوات معدودة في آن واحد، مما يعزز بفعالية جبهة باريتو للأداء عبر مهام النصوص والصور.
تتقصى هذه الورقة وجود التسرب الديموغرافي في تمثيلات المتحدث ذاتية الإشراف وتقيم استراتيجيتين لإزالة الانحياز، كاشفةً أنه بينما يمكن للتدريب التنافسي والاختناقات السببية تقليل معلومات النوع الاجتماعي والعمر واللكنة، إلا أنها تؤدي حتماً إلى مقايضات كبيرة مع أداء التحقق من هوية المتحدث.
تقدم هذه الورقة أول تحليل منهجي لـ "تحسين السياسة النسبي للمجموعات" (GRPO) عبر مجالات استدلال متعددة، كاشفةً أن أداء التدريب يتميز بعدم تماثل واضح، وحساسية للترتيب، واعتماد على الاستراتيجية، مما يستلزم تصميمات تدريب مدركة للمجال ومدركة للترتيب.
تقدم هذه الورقة RISE، وهي طريقة مبتكرة تقيس التأثير الفريد لعناصر السياق الفردية في النماذج اللغوية ذات التوليد الذاتي للتغلب على مشكلات عدم الاستقرار والتكرار في تقنيات التفسير التقليدية، مما يعزز موثوقية وقابلية تفسير مخرجات النماذج اللغوية الكبيرة.
تحلل هذه الورقة بشكل منهجي عملية تقطير المعرفة الانتقائي عبر محاور الموضع والفئة والعينة لتقديم اختيار الموضع الموجه بإنتروبيا الطالب (SE-KD) وامتداده متعدد المحاور (SE-KD 3X)، والذي يحسن الدقة، والالتزام بالمهام، وكفاءة الذاكرة بشكل كبير، مع تقليل وقت التدريب ومتطلبات التخزين بشكل جذري مقارنة بالتقطير الكثيف.
تقدم هذه الورقة Ebisu، وهو معيار مرجعي جديد يتكون من مهمتين تم تعليمهما من قبل خبراء، صُممتا لتقييم التحديات التي تواجهها النماذج اللغوية الكبيرة في فهم الفروق اللغوية والثقافية المعقدة للتمويل الياباني، مما يكشف أن حتى النماذج المتطورة تعاني في استخراج الالتزامات الضمنية والمصطلحات الهرمية رغم الحجم أو التكيف.
تقترح هذه الورقة نظرية الميزانية النسبية للتعلم التعزيزي في استدلال النماذج اللغوية الكبيرة، حيث تُعرّف كمية رئيسية تحكم كفاءة العينات عبر الأنظمة الناقصة والمتوازنة والوفيرة، وتثبت تجريبياً أن الميزانية النسبية بين 1.5 و2.0 ترفع أداء التعلم إلى حده الأقصى.
تقدم هذه الورقة إطار عمل CoDiQ، الذي يستفيد من توسيع نطاق وقت الاختبار لتمكين التحكم الدقيق في صعوبة وقابلية حل الأسئلة المولدة بمستوى المسابقات، مما ينتج عنه مجموعة بيانات CoDiQ-Corpus التي تعزز بشكل كبير أداء نماذج الاستدلال الكبيرة عند استخدامها للتدريب.
تقدم هذه الورقة أداة Prompting4Debugging (P4D)، وهي أداة اختبار اختراق مؤتمتة تكشف عن ثغرات أمنية جسيمة في آليات السلامة لنماذج الانتشار من نوع نص-إلى-صورة عبر إثبات أن العديد من المطالبات التي كانت تُعتبر سابقاً "آمنة" يمكن التلاعب بها لتجاوز الحمايات الحالية، مما يتحدى موثوقية معايير التقييم الحالية.
تقدم هذه الورقة "تحدي التزامن اللفظي"، وهو معيار مرجعي جديد يقيم قدرة النماذج اللغوية الكبيرة على محاكاة العمليات الإدراكية البشرية والتوافق مع أنماط الفكر البشري من خلال مهام الترابط اللفظي الديناميكي، مما يساهم في تطوير تعاون أكثر تعاطفاً ودقة بين الإنسان والآلة.