11611 ورقة بحثية
تقدم الورقة البحثية إطار عمل ReaLM-Retrieve، الذي يعمل على تحسين توقيت الاسترجاع لنماذج الاستدلال الكبيرة من خلال اكتشاف فجوات المعرفة على مستوى خطوة الاستدلال، مما يحسن دقة الإجابة وكفاءة الاسترجاع بشكل كبير مع تقليل استدعاءات الاسترجاع غير الضرورية مقارنة بالنهج القياسي ونهج الفترات الزمنية الثابتة.
تُثبت هذه الورقة أن إعادة كتابة النصوص باستخدام الخصوصية التفاضلية، رغم حفاظها على المحتوى الدلالي والتماسك النحوي، تعمل بشكل منهجي على إضعاف الأسلوب اللغوي عبر تجريد النصوص من العلامات التفاعلية والبنى المعقدة، مما يفرض على النصوص المتنوعة نمطاً لغوياً متجانساً وغير متفاعل.
تُظهر هذه الدراسة أن نموذج لغة صغير مفتوح المصدر (Qwen2.5-7B)، تم ضبطه بدقة وتكييفه مع مجال محدد، يتفوق بشكل كبير على كل من النماذج المرجعية والنماذج اللغوية الكبيرة المملوكة والمتقدمة في دقة تعيين درجات مؤشر شدة الطوارئ من السرديات السريرية للفرز الطبي، مما يوفر أداة موثوقة لدعم اتخاذ القرار وتحافظ على الخصوصية لأقسام الطوارئ.
تقدم هذه الورقة إطار عمل لفك التشفير التخميني متكامل مع النظام ضمن NeMo-RL، والذي يعمل كأداة تسريع غير فاقدة للمعلومات لعمليات التدفق (rollouts) في مرحلة ما بعد التدريب للتعلم التعزيزي، محققاً تحسناً في الإنتاجية بنسبة 1.8 ضعف عند مقياس 8B، ومتوقعاً تسريعاً يصل إلى 2.5 ضعف في نهاية العملية عند مقياس 235B عند دمجه مع التنفيذ غير المتزامن.
تُثبت هذه الورقة أن نماذج الانتشار المنفصلة القائمة على التوزيع الموحد تعمل كذاكرات ترابطية قادرة على استرجاع بيانات غير مرئية، حيث يتم التحكم في الانتقال من الحفظ إلى التعميم عبر حجم مجموعة التدريب، ويمكن اكتشاف ذلك عملياً من خلال الإنتروبيا الشرطية لتسلسلات الرموز المتوقعة.
تتقصى هذه الدراسة كيف يؤدي التعلم المنهجي، وهو سيناريو تدريب مدفوع بالتطور يتضمن ترتيب الجمل من الأبسط إلى الأكثر تعقيداً، إلى تغيير التحيزات الاستقرائية للنماذج اللغوية وقدرتها على إعادة إنتاج الأنماط اللغوية النمطية بشكل كبير.
تقدم هذه الورقة البحثية MoRFI، وهي طريقة تستخدم المشفرات التلقائية المتناثرة (sparse autoencoders) لتحديد الاتجاهات الكامنة في النماذج اللغوية الكبيرة التي ترتبط ارتباطاً طردياً مع الهلوسة أثناء الضبط الدقيق على معرفة جديدة، مما يثبت أن هذه الميزات المحددة يمكن التدخل فيها لاستعادة قدرة النموذج على استرجاع المعرفة المخزنة.
حقق فريق HealthNLP_Retrievers نتائج تنافسية في مهمة ArchEHR-QA 2026 المشتركة عبر توظيف مسار متتالي مدعوم بنموذج Gemini 2.5 Pro يدمج بين إعادة صياغة الاستعلام، وتصنيف الأدلة، وتوليد استجابات مستندة إلى أدلة، والمواءمة لتقديم إجابات دقيقة ومبنية على الأدلة لأسئلة المرضى المستمدة من السجلات الصحية الإلكترونية.
يقدم هذا البحث ClassEval-Pro، وهو معيار صارم وعابر للمجالات يتكون من 300 مهمة لتوليد الكود على مستوى الفئات، تم التحقق من صحتها بواسطة مجموعة من النماذج اللغوية الكبيرة ومجموعات اختبار عالية التغطية، مما يكشف أن النماذج اللغوية الكبيرة الرائدة حالياً تعاني في إنشاء الكود التركيبي بسبب أخطاء المنطق والتبعية، حيث حققت أفضل معدل Pass@1 بنسبة 45.6% فقط.
تقترح الورقة البحثية إطار عمل "الاختيار من أجل التفكير" (S2T)، الذي يستفيد من الملاحظة القائلة بأن الرموز المفضلة للنماذج اللغوية الكبيرة غالباً ما تقع ضمن توقعات الـ K-الأعلى للنماذج اللغوية الصغيرة لتقطير منطق الاختيار، مما يمكّن النماذج الصغيرة من إعادة ترتيب المرشحين ذاتياً وتعزيز أداء الاستنتاج بشكل كبير دون الاعتماد على استدعاءات خارجية مكلفة للنماذج اللغوية الكبيرة.