12021 ورقة بحثية
تقدم هذه الورقة EDINET-Bench، وهو معيار مرجعي مفتوح المصدر وتحدي مستمد من عشر سنوات من التقارير المالية اليابانية لتقييم النماذج اللغوية الكبيرة في مهام معقدة مثل كشف الاحتيال والتنبؤ بالأرباح، مما يكشف أن النماذج الحالية تعاني بشكل كبير دون دعامات متخصصة ويسلط الضوء على الحاجة إلى أطر تقييم أكثر واقعية.
تقدم الورقة البحثية "La Leaderboard"، وهي أول مبادرة مفتوحة المصدر ومدفوعة من المجتمع لتقييم 50 نموذجاً لغوياً كبيراً توليدياً عبر 66 مجموعة بيانات تغطي تنوعات اللغة الإسبانية ولغات إسبانيا وأمريكا اللاتينية، وذلك بهدف وضع معايير للتقييم وتعزيز التنوع اللغوي.
تقدم هذه الورقة TreeBench، وهو معيار تشخيصي لتقييم الاستدلال البصري المرتكز القابل للتتبع، وتقترح TreeVGR، وهو نموذج تدريب قائم على التعلم التعزيزي يعزز أداء النموذج بشكل كبير من خلال الإشراف المشترك على التحديد والاستدلال.
تُقيّم هذه الدراسة بشكل شامل كيف يؤثر تكميم الأوزان والتنشيط على أشكال مختلفة من التحيز في النماذج اللغوية الكبيرة، كاشفةً أنه بينما يمكنه تقليل السمية والحفاظ على المشاعر، فإنه غالباً ما يفاقم الصور النمطية وعدم الإنصاف في المهام التوليدية، لا سيما في ظل الضغط الشديد.
تقترح هذه الورقة نموذج محاذاة قائماً على النقل الأمثل غير المتوازن يعيد صياغة المطابقة الصوتية اللغوية كمسألة كشف للتعامل بفعالية مع عدم التماثل الهيكلي وعدم التطابق التوزيعي، مما يؤدي إلى تحسين أداء نقل المعرفة في أنظمة التعرف التلقائي على الكلام القائمة على نموذج CTC.
تقترح هذه الورقة البحثية بنية TSPC، وهي بنية مبتكرة ثنائية المراحل ترتكز على الفونيمات وتستفيد من مجموعة فونيمات فيتنامية موسعة كتمثيل وسيط لتحسين دقة التعرف على الكلام في التبديل اللغوي بين الفيتنامية والإنجليزية بشكل كبير مع الحفاظ على الكفاءة الحسابية.
تقدم هذه الورقة البحثية Llama-Mimi، وهو نموذج لغوي صوتي يعتمد على فك تشفير Transformer، يقوم بتسطيح رموز RVQ متعددة المستويات من ترميز Mimi إلى تسلسل واحد، مما يظهر أداءً فائقاً على النماذج الهرمية في معظم المهام ويحقق اتساقاً صوتياً هو الأفضل من نوعه.
يقدم "بينش-بيند" (BeyondBench) إطار تقييم مقاوم للتلوث يستخدم التوليد الخوارزمي للمشكلات أثناء التشغيل لتقييم قدرات الاستنتاج الحقيقية لـ 101 نموذج لغوي عبر 44 مهمة، مما يكشف عن فجوات كبيرة في حل المشكلات المعقدة والدور الحاسم لاستخدام الأدوات.
تقدم هذه الورقة إطار عمل تدريب NVFP4 مبتكر يجمع بين تحويلات هادامارد العشوائية، والكمية ثنائية الأبعاد، والتقريب العشوائي، والطبقات الانتقائية عالية الدقة، لتدريب نموذج بـ 12 مليار معلمة بنجاح على 10 تريليونات توكن بأداء يضاهي النماذج المرجعية بمعيار FP8، مما يثبت جدوى التدريب المستقر بدقة 4 بت للنماذج اللغوية الكبيرة.
تقدم هذه الورقة PrefDisco، وهو إطار عمل مرجعي ومنهجية تقييم مبتكرة تحول المهام الاستاتيكية إلى سيناريوهات تفاعلية لتقييم وتحسين قدرة النماذج اللغوية الكبيرة على تحديد تفضيلات المستخدم بشكل استباقي وتكييف سلاسل الاستدلال الخاصة بها من أجل المواءمة الشخصية في حالات البداية الباردة وفي الوقت المناسب.