11611 ورقة بحثية
تقدم هذه الورقة البحثية RewardBench 2، وهو معيار جديد صارم متعدد المهارات تم بناؤه من مطالبات بشرية جديدة يوفر تقييماً أكثر تحدياً لنماذج المكافأة مع إظهار ارتباط قوي بأدائها في المهام اللاحقة في كل من توسع وقت الاستدلال والتدريب باستخدام التعلم التعزيزي من التغذية الراجعة البشرية (RLHF).
تقترح هذه الورقة إطار عمل جديد لتعلم "بانديت" (bandit learning) لتخصيص حسابات وقت الاختبار بشكل تكيفي، حيث يقوم بتقدير صعوبة الاستعلام ديناميكياً لإعطاء الأولوية للموارد للحالات الصعبة القابلة للحل، محققاً مكاسب أداء كبيرة مقارنة بالتخصيص الموحد في معايير الرياضيات والبرمجة.
تجادل ورقة الموقف هذه بأن النماذج اللغوية الكبيرة متعددة اللغات، ولا سيما من خلال حلقات التدريب ذاتية الاستهلاك المعروفة باسم "انهيار النموذج"، تشكل تهديداً خفياً للتنوع اللغوي عبر التآكل التدريجي للميزات النحوية النادرة والفروق الثقافية الدقيقة، مما يستوجب تحولاً في معالجة اللغات الطبيعية لحماية الإبداع متعدد اللغات وتقديره بشكل فعال.
تقدم هذه الورقة LLMThinkBench، وهو معيار شامل ودراسة تجريبية لـ 53 نموذجاً من نماذج اللغة الكبيرة تكشف عن مقايضة حرجة بين الدقة والكفاءة، حيث تُظهر أن النماذج غالباً ما "تفرط في التفكير" في المسائل الرياضية الأساسية عبر توليد رموز (tokens) زائدة دون تحسين الدقة، وتتعرض أحياناً لانخفاضات كبيرة في الأداء عندما تكون ميزانيات التفكير مقيدة.
تقدم هذه الورقة منصة EduCoder، وهي منصة مفتوحة المصدر مصممة لمعالجة التعقيدات الفريدة لتوسيم نصوص الحوارات التعليمية من خلال تمكين التعريف التعاوني لكتيب الرموز، ودعم أنواع التوسيم المتنوعة، وتسهيل معايرة الموّسمين لتعزيز موثوقية البيانات.
تحلل هذه الورقة أوجه القصور في أساليب إخفاء الهوية التقليدية ضد عزو التأليف القائم على القياس الأسلوبي، وتقترح استخدام إخفاء المعلومات باستخدام نظام "يونيكود" كاستراتيجية مضادة عدائية لحماية هوية المستخدم في الاتصالات العامة.
تقدم هذه الورقة البحثية خوارزمية CE-GPPO، وهي خوارزمية تعلم تعزيزي جديدة تعمل على تثبيت إنتروبيا السياسة وتحسين أداء الاستنتاج في النماذج اللغوية الكبيرة من خلال إعادة إدخال التدرجات المحدودة من الرموز المقصوصة التي يتم تجاهلها عادةً في خوارزمية PPO القياسية.
تقدم الورقة البحثية ReFACT، وهو معيار مرجعي مستمد من r/AskScience على منصة Reddit، والذي يكشف أن النماذج اللغوية الكبيرة تعاني من عجز جوهري في التجذر الدلالي يتسبب في أخطاء "المشتتات البارزة" وتواجه صعوبة في الأحكام المقارنة، مما يتحدى موثوقية نماذج "النموذج اللغوي الكبير كحَكَم" (LLM-as-Judge) فيما يتعلق بالحقائق العلمية.
تقترح هذه الورقة طريقة معايرة فعالة ومؤسسة نظرياً لتجميع إشارات النماذج اللغوية الكبيرة (LLM) ونماذج المكافأة (PRM) بشكل أمثل باستخدام أوزان متعلمة —بما في ذلك الأوزان السالبة— لتعزيز كفاءة وأداء التوسع في وقت الاختبار بشكل كبير، مع استخدام جزء ضئيل فقط من الحوسبة المطلوبة من النهج القياسية.
يحتوي النص المقدم على عدم تطابق بين العنوان ("SlideAgent") والملخص (الذي يصف إطار عمل باسم "SARA" للـ RAG الهجين)، ولكن بناءً على محتوى الملخص، تقترح الورقة البحثية SARA، وهو إطار عمل هجين لتوليد المخرقات المعززة بالاسترجاع يجمع بين مقتطفات اللغة الطبيعية ومتجهات الضغط الدلالي لتحسين صلة الإجابة وصحتها والتشابه الدلالي بشكل كبير عبر مجموعات بيانات متعددة ونماذج لغوية كبيرة مفتوحة المصدر تحت ميزانيات ثابتة لعدد الرموز (tokens).