12020 ورقة بحثية
تستخدم هذه الدراسة نهجاً متمحوراً حول كيانات المعرفة لقياس ومقارنة الحداثة البحثية، كاشفةً أن الأوساط الأكاديمية تنتج عموماً مخرجات ذات حداثة أعلى — لا سيما في براءات الاختراع وقواعد البيانات — بينما يتفوق القطاع الصناعي في التطورات القائمة على مجموعات البيانات ويستفيد بشكل أكبر من التعاون في ابتكار براءات الاختراع.
تقدم الورقة البحثية تقنية التبريد الطيفي (SpecTemp)، وهي طريقة خالية من التعلم ومستقلة عن النموذج لضغط تضمينات استرجاع الفقرات الكثيفة، حيث تحدد بشكل تكيفي معاملات القياس الطيفي المثلى بناءً على تحليل الإشارة إلى الضوضاء المحلي، مما يحقق أداءً يقارب الأداء الأمثل دون الحاجة إلى بيانات مصنفة أو ضبط للمعلمات الفائقة.
تتحدى هذه الورقة البحثية افتراض تجانس الطبقات في النماذج اللغوية القائمة على المحولات (Transformer) من خلال إثبات وجود تباين تشريحي عميق في نموذج SmolLM2-135M، حيث تُظهر الطبقات اختلافاً شاسعاً في الأهمية ومتطلبات التدريب، مما يثبت في النهاية أن إعادة تخصيص الميزانيات الحسابية بناءً على أهمية الطبقة يمكن أن يقلل التكاليف بشكل كبير مع تحسين الأداء.
تقترح هذه الورقة بنية توجيه مطالبات ذات مرحلتين وقابلة للتوسع، تستفيد من التجميع القائم على الرسوم البيانية لاكتشاف المهام الكامنة بدقة متناهية ومن نموذج خليط من الخبراء لتقدير الجودة المدرك للمهام، مما يحقق أداءً فائقاً وكفاءة في التكلفة عبر مختلف النماذج الرائدة مقارنة بالنماذج المرجعية الحالية.
تجادل هذه الورقة بأن الأدلة القائمة على الاختبارات (probe-based evidence) لإدراك التقييم في النماذج اللغوية الكبيرة من المرجح أن تكون مشوشة بسبب هياكل المطالبات السطحية بدلاً من الفهم الحقيقي للسياق، حيث تفشل هذه الإشارات في التعميم على المطالبات ذات الصيغة الحرة عندما يتم التحكم في التنسيق.
تُظهر هذه الدراسة أن بنية مفردات الكلمات والوحدات الفرعية للكلمات، وليس التمايزات التصنيفية الواسعة مثل ترتيب الكلمات الحر مقابل الترتيب الثابت، هي العامل الأساسي الذي يحدد قابلية تعلم تنوعات ترتيب الكلمات في نماذج المحولات اللغوية.
تقدم الورقة البحثية EvidenceRL، وهو إطار عمل للتعلم التعزيزي يستخدم تحسين السياسة النسبية للمجموعات (GRPO) لفرض الالتزام بالأدلة في النماذج اللغوية الكبيرة، مما يقلل بشكل كبير من الهلوسة ويحسن التأسيس والأمانة في المجالات عالية المخاطر مثل تشخيص أمراض القلب والاستدلال القانوني دون المساس بدقة المهام.
تقدم الورقة البحثية TextReasoningBench، وهو معيار لتقييم استراتيجيات الاستدلال لتصنيف النصوص عبر عشرة نماذج لغوية كبيرة، والذي يكشف أنه في حين توفر طرق الاستدلال البسيطة مكاسب طفيفة في الدقة، فإن الاستراتيجيات المعقدة غالبًا ما تفشل في التفوق على النماذج المرجعية وتتكبد تكاليف رمزية (tokens) باهظة، مما يتحدى الافتراض بأن الاستدلال الصريح يفيد مهام التصنيف بشكل عالمي.
تقدم هذه الورقة إطار عمل مبتكرًا للتلقين ذو بنية ثلاثية المستويات يستفيد من النماذج اللغوية الكبيرة لتحقيق التصحيح الآلي للمقالات المخصص لسمات محددة في اللغة العربية، مما يثبت أن استراتيجيات التلقين الموجهة تتفوق بشكل كبير على حجم النموذج وحده في تقييم سمات الكفاءة اللغوية في مجموعة بيانات QAES الجديدة.
تقدم الورقة البحثية DATAPROPHET، وهو مقياس لا يتطلب تدريباً يتنبأ بفعالية بأداء التعميم للنماذج اللغوية الكبيرة متعددة الوسائط على المعايير المستهدفة من خلال تحليل تنوع البيانات وتشابهها، مما يثبت أن تشابه المهام الحدسي هو مؤشر غير موثوق وأن هذه الطريقة تتفوق على كل من الاختيار الموحد والأساليب المرجعية المتطورة القائمة على التدريب.