12380 ورقة بحثية
تُعد FaithRL إطار عمل للتعلم التعزيزي يعمل على الحد من الهلوسة والثقة المفرطة في النماذج اللغوية الكبيرة من خلال تحسين هدف الأمانة على مستوى الخطوة عبر المكافآت الهندسية وتعديل الميزة، مما يؤدي إلى تحسين موثوقية الاستدلال دون التضحية بصحة الإجابة.
تقدم هذه الورقة البحثية "التعلم التبايني المتوافق" (ACL)، وهو إطار عمل يعالج التعارضات بين أهداف الإنتروبيا المتقاطعة والأهداف التباينية من خلال محاذاة الملصقات والتخلص من التدرجات، مع الاستفيد أيضاً من التوجيه عبر الطبقات لتحسين الأداء والكفاءة بشكل كبير لكل من الضبط الدقيق لنموذج BERT القياسي ومتعدد المخارج على معايير GLUE.
تقدم هذه الورقة دراسة تجريبية واسعة النطاق تثبت أنه بالنسبة لوكلاء النماذج اللغوية الكبيرة (LLM) المعتمدين على الملفات، فإن قدرة النموذج هي العامل المهيمن الذي يؤثر على الأداء، بينما تعتمد فعالية استراتيجيات هندسة السياق مثل الاسترجاد القائم على الملفات وتنسيق البيانات بشكل كبير على فئة النموذج المحددة بدلاً من اتباع أفضل الممارسات العالمية.
تقدم هذه الورقة إطار تقييم منهجي يوضح أن التدخلات المتوافقة ثقافياً، مثل التلقين باللغة الأصلية والتعلم من نموذج واحد، تحسن بشكل كبير من متانة النماذج الرؤية-اللغوية عبر الثقافات في كشف الميمات التي تحتوي على كراهية، في حين يؤدي نهج "الترجمة ثم الكشف" الشائع إلى تدهور الأداء والتحيز الغربي.
تقترح هذه الورقة إطار عمل توليدي يتميز بفك تشفير يعتمد على "الانتباه فوق الانتباه" (attention-over-attention) للتعامل في آن واحد مع اكتشاف مقاصد متعددة وتعبئة الفراغات، محققةً أداءً هو الأفضل من نوعه في مجموعات البيانات العامة والمبنية حديثاً والمتعددة المقاصد.
تقدم هذه الورقة AnaBench، وهو معيار واسع النطاق لقياس التحديات في تحليل الجداول والأشكال العلمية، وتقترح Anagent، وهو إطار عمل متعدد الوكلاء يحسن الأداء بشكل كبير من خلال تفكيك المهام المتخصص، والاسترجاع القائم على الأدوات، والتركيب، والتحسين التكراري.
تقترح هذه الورقة نهج BERT-CRF خفيف الوزن ومُحسَّن مع نماذج كيانات متخصصة للقيام بالتعرف على الكيانات المسماة المتداخلة (nested NER) على مجموعة بيانات مُوسومة حديثاً من مقالات أبحاث فيزياء البلازما، مما يسهل البحث والتحليل المتقدم للأدبيات العلمية في هذا المجال.
تقدم هذه الورقة معيار RECOM لتقييم النماذج اللغوية الكبيرة في الأسئلة الحديثة مفتوحة النطاق، كاشفةً عن مفارقة دلالية-لفظية صارخة حيث تحقق النماذج توافقاً دلالياً عالياً رغم انخفاض التداخل اللفظي، مع إثبات أن حجم النموذج لا يضمن أداءً متفوقاً.
تقدم هذه الورقة FalseCite، وهي مجموعة بيانات لتقييم الهلوسة في النماذج اللغوية الكبيرة الناتجة عن الاستشهادات المضللة، وتكشف من خلال تحليل الحالة الداخلية أن النماذج التي تعاني من الهلوسة تظهر نمطاً شبيهاً بالقرن في ناقلات حالتها الخفية.
تُظهر هذه الورقة وجود انفصال مزدوج في نماذج المحولات (Transformer) حيث يحكم اتجاه المتجه بشكل أساسي توجيه الانتباه والنمذجة اللغوية، بينما يعدل مقدار المتجه كثافة المعالجة للأحكام النحوية، وهو تميز كشف عنه تحليل الاضطراب المتوافق مع معيار L2 ويعتمد على الخيارات الهيكلية مثل تسوية الطبقة (LayerNorm) مقابل تسوية جذر متوسط المربعات (RMSNorm).