12021 ورقة بحثية
تقدم هذه الورقة نموذجاً لما بعد التدريب يستفيد من الرسوم البيانية للمعرفة كنموذذجين للمكافأة الضمنية لتوجيه النماذج اللغوية الكبيرة في تعلم الاستدلال التركيبي من الحقائق البديهية، مما يمكّن نموذجاً بحجم 14 مليار معلمة من التفوق على الأنظمة الرائدة في الاستعلامات الطبية المعقدة متعددة الخطوات من خلال الإشراف المستمد من المسارات.
تقدم هذه الورقة NRR-Phi، وهو إطار عمل رسمي يربط النصوص الغامضة بفضاء حالة غير منهار باستخدام خط معالجة استخراج هجين، مما يحافظ على التفسيرات المتعددة ويمنع الالتزام الدلالي المبكر في استدلال النماذج اللغوية الكبيرة.
تقترح هذه الورقة "المكافآت كملصقات" (REAL)، وهو إطار عمل مبتكر يعيد صياغة التعلم التعزيزي بمكافآت قابلة للتحقق كمسألة تصنيف لمعالجة مشكلات سوء تعيين التدرج والهيمنة في أساليب مثل GRPO، مما يحقق استقراراً وتفوقاً في الأداء في التدريب على معايير الاستدلال الرياضي مقارنة بالنماذج المرجعية الحديثة.
تقدم الورقة البحثية SureLock، وهي طريقة لنماذج اللغة ذات الانتشار المقنع (Masked Diffusion-LMs) تقوم بقفل مواضع الرموز المتقاربة ديناميكياً لتخطي الحسابات الزائدة مع تخزين مفاتيحها وقيمها مؤقتاً، مما يقلل من تعقيد كل تكرار من إلى ويحقق وفراً في العمليات الحسابية بنسبة 30-50% دون المساس بجودة التوليد.
تقدم هذه الورقة أول مجموعة بيانات لمعالجة اللغات الطبيعية للهجة "مينزريش" (Meenzerisch) المهددة بالانقراض في مدينة ماينتس، وتُظهر أن النماذج اللغوية الكبيرة الحالية تعاني بشكل كبير في توليد أو تعريف كلماتها، حيث حققت معدلات دقة تقل عن 10% حتى مع استخدام التعلم بلقطات قليلة واستخراج القواعد، مما يسلط الض الضوء على الحاجة الملحة لمزيد من البحث والموارد للحفاظ على اللهجات الألمانية.
تقيم هذه الدراسة النماذج اللغوية الصغيرة مفتوحة المصدر للإجابة على الأسئلة السريرية على الأجهزة الاستهلاكية، وتكشف أنه بينما يوفر نموذج Llama 3.2 أفضل توازن بين الدقة والموثوقية، فإن اتساق المطالبة العالي لا يضمن الصحة، كما أن بعض أساليب المطالبة أو التدريب المسبق المتخصص في المجال دون ضبط التعليمات يمكن أن يؤدي إلى تدهور الأداء بشكل كبير.
تقدم هذه الورقة إطار عمل يعتمد على تحليل المحتوى النوعي لتوسيم السرديات الاقتصادية كرسوم بياسية موجهة غير حلقية، وتثبت من خلال تجربة عاملية أن التمثيلات المقيدة محلياً والمقاييس القائمة على التداخل تحسن بشكل كبير الاتفاق بين الملحظين عبر تقليل التباين في التصنيف البشري.
يستعرض هذا الفصل المشهد الحالي والاستخدام المسؤول لأدوات كشف النصوص التي أنشأها الذكاء الاصطناعي، مع تقديم أدلة تجريبية حول مدى قابليتها للتعميم عبر مختلف نماذج اللغات الكبيرة لتوجيه تطوير أدوات كشف أكثر قوة.
تنتقد هذه الورقة حدود نظام TeX في عصر النماذج اللغوية الكبيرة وتقدم Mogan STEM، وهو محرر هيكلي يعتمد على مبدأ "ما تراه هو ما تحصل عليه" (WYSIWYG)، يوفر كفاءة فائقة في التجميع، وتحديداً دقيقاً لمواضع الأخطاء، وإنتروبيا معلوماتية أقل من أجل ضبط أدق للنماذج اللغوية الكبيرة.
تحدد هذه الورقة تحيزات مستمرة ومستحدثة في نماذج المكافأة اللغوية المتطورة، وتصنف حالات الفشل هذه حسب التعقيد، وتقترح تقنية بسيطة وفعالة من حيث البيانات لتشكيل المكافأة الآلية بهدف التخفيف من التحيزات منخفضة التعقيد دون المساس بجودة المكافأة.