12021 ورقة بحثية
تُظهر هذه الورقة أن استراتيجية "التدريب المسبق، والتدريب المتوسط، والضبط الدقيق" باستخدام نصوص سريرية واسعة النطاق تُحسن بشكل كبير التلخيص التلقائي لتقارير الأشعة، محققةً أداءً فائقاً في كل من جودة النص وواقعيته مقارنةً بنهج الضبط الدقيق المباشر التقليدي.
تقدم هذه الورقة URAG، وهو معيار شامل يعيد صياغة مهام التوليد المعزز بالاسترجاع (RAG) مفتوحة النهايات إلى أسئلة متعددة الخيارات لتمكين التكميم المنهجي لعدم اليقين عبر التنبؤ المطابق، مما يكشف عن رؤى نقدية حول كيفية تأثير ضوضاء الاسترجاع، وتعقيد الطريقة، والعوامل النوعية على دقة وموثوقية النماذج اللغوية الكبيرة المعززة بالاسترجاع.
تقدم هذه الورقة أول نهج حوسبي للفهرسة الآلية للموتيفات، باستخدام متن من "ألف ليلة وليلة" مُشروح يدويًا مقترنًا بفهرس الشامي للموتيفات، لإثبات أن نموذج Llama3 الذي تم ضبطه بدقة يمكنه اكتشاف تعبيرات الموتيف بفعالية وبدرجة F1 تبلغ 0.85.
تقترح هذه الورقة نموذجاً عاماً للتنبؤ بأسعار الأسهم يدمج الأسعار التاريخية مع الأخبار اليومية المفلترة عبر تضمينات أسماء الأسهم وآليات التجميع القائمة على الانتباه ضمن إطار عمل لنموذج لغوي كبير، محققاً انخفاضاً بنسبة 7.11% في متوسط الخطأ المطلق مقارنة بالنماذج المرجعية.
تستعرض هذه الورقة التحليل الآلي للتعاون الموجه نحو المهام باستخدام بيانات المحادثات البشرية، مغطيةً النظريات ذات الصلة، ومخططات الترميز، والمهام، ونماذج المحاكاة لتوجيه الأبحاث المستقبلية والتطبيقات العملية.
تقترح الورقة البحثية إطار عمل LLM-MRD، وهو إطار عمل قائم على علاقة المعلم والطالب يستخدم آلية تقطير المعايرة لنقل معرفة الاستدلال متعدد الرؤى المعقدة من نموذج لغوي كبير (المعلم) إلى نموذج طالب فعال، مما يحقق أداءً هو الأفضل في حالته في كشف الأخبار الزائفة متعدد الوسائط مع التغلب على عدم الكفاءة الحسابية للاستخدام المباشر للنماذج اللغوية الكبيرة.
يُعدّ PreferPO إطار عمل أدنى للتحسين القائم على التفضيلات، والذي يستفيد من مميز يعتمد على النماذج اللغوية الكبيرة لتحسين المطالبات بشكل تكراري باستخدام معايير اللغة الطبيعية فقط، محققاً أداءً فائقاً عبر الإعدادات المصنفة وغير المصنفة، مع تقليل الإطناب في المطالبات والتكرار والتعرض لثغرات "اختراق المطالبات" بشكل كبير مقارنة بالطرق الحالية.
تستخدم هذه الدراسة نهجاً متمحوراً حول كيانات المعرفة لقياس ومقارنة الحداثة البحثية، كاشفةً أن الأوساط الأكاديمية تنتج عموماً مخرجات ذات حداثة أعلى — لا سيما في براءات الاختراع وقواعد البيانات — بينما يتفوق القطاع الصناعي في التطورات القائمة على مجموعات البيانات ويستفيد بشكل أكبر من التعاون في ابتكار براءات الاختراع.
تقدم الورقة البحثية تقنية التبريد الطيفي (SpecTemp)، وهي طريقة خالية من التعلم ومستقلة عن النموذج لضغط تضمينات استرجاع الفقرات الكثيفة، حيث تحدد بشكل تكيفي معاملات القياس الطيفي المثلى بناءً على تحليل الإشارة إلى الضوضاء المحلي، مما يحقق أداءً يقارب الأداء الأمثل دون الحاجة إلى بيانات مصنفة أو ضبط للمعلمات الفائقة.
تتحدى هذه الورقة البحثية افتراض تجانس الطبقات في النماذج اللغوية القائمة على المحولات (Transformer) من خلال إثبات وجود تباين تشريحي عميق في نموذج SmolLM2-135M، حيث تُظهر الطبقات اختلافاً شاسعاً في الأهمية ومتطلبات التدريب، مما يثبت في النهاية أن إعادة تخصيص الميزانيات الحسابية بناءً على أهمية الطبقة يمكن أن يقلل التكاليف بشكل كبير مع تحسين الأداء.