12253 ورقة بحثية
تقترح هذه الورقة إطاراً لتفكيك الضجيج يصنف إخفاقات النماذج اللغوية الكبيرة ذات السياق الطويل إلى ضجيج المهمة، وضجيج النموذج، وضجيج المجمع، مما يثبت أن استراتيجيات التجزئة متعددة الوكلاء يمكن أن تتفوق على النماذج المتقدمة ذات الدفعة الواحدة من خلال إدارة مصادر الخطأ المحددة هذه بفعالية.
تُظهر هذه الورقة أن تطبيق النماذج المعرفية لاتخاذ القرار البشري على النماذج اللغوية يكشف عن مقايضات قيمية قابلة للتفسير، مما يبين كيف تشكل جهود الاستدلال، والمطالبات، وديناميكيات ما بعد التدريب سلوك النموذج بشكل منهجي، وتوفر إطاراً مرناً لتشخيص والتحكم في هذه المقايضات أثناء عملية التطوير.
يُعد FrugalRAG إطار عمل للضبط الدقيق يتكون من مرحلتين، حيث يستفيد من التعلم المعزز لتقليم خطوات الاسترجاع بشكل تكيفي بناءً على صعوبة السؤال، محققاً بذلك كفاءة ودقة في أعلى المستويات في مهام الإجابة على الأسئلة متعددة الخطوات مع استخدام عدد أقل بكثير من أمثلة التدريب وخفض التكاليف الحسابية.
تقدم هذه الورقة MultiRole-R1، وهو إطار تدريب معزز بالتنوع يستفيد من توليف المنظور غير الخاضع للإشراف وتنوع مستوى الرمز ضمن إعداد التعلم التعزيزي لتحسين أداء نماذج الاستدلال الكبيرة في المهام الذاتية بشكل كبير، مع تعزيز قدراتها في الاستدلال الموضوعي أيضًا.
تتحدى هذه الورقة البحثية المفهوم القائل بأن التعلم بالتكرر يعيق التعميم، وذلك من خلال إثبات قدرة النماذج اللغوية الكبيرة على إعادة تفسير وتعميم البيانات المحفوظة عديمة المعنى دلالياً بفعالية عند ضبطها بدقة باستخدام مجموعة صغيرة من المطالبات ذات المعنى.
تقدم هذه الورقة DeepSieve، وهو إطار عمل توليدي معزز بالاسترجاع ذو طبيعة وكيلية يعمل على تعزيز عمق الاستدلال ودقة الاسترجاع من خلال تفكيك الاستعلامات المعقدة إلى أسئلة فرعية وتوظيف نموذج لغوي كبير كـ "موجه معرفة" (LLM-as-a-knowledge-router) لغربلة وتوجيه المعلومات ديناميكيًا عبر عملية تقطير متعددة المراحل.
تقدم هذه الورقة TDBench، وهو معيار مرجعي قابل للتوسع يستفيد من قواعد البيانات الزمنية والتقنيات لتقييم الاستدلال الواقعي الحساس للوقت في النماذج اللغوية الكبيرة بشكل منهجي، مكملاً النهج الحالية بمقياس "دقة الوقت" المبتكر وبيانات خاصة بالتطبيقات.
يقدم Uni-CoT إطار عمل موحداً لسلسلة الأفكار (Chain-of-Thought) يستفيد من نموذج استدلال ثنائي المستويات وتدريب مهيكل لتمكين الاستدلال متعدد الوسائط بكفاءة وتماسك عبر النصوص والرؤية، محققاً أداءً هو الأفضل في فئته على معايير توليد الصور وتحريرها بموارد حوسبية محدودة.
تُثبت هذه الورقة أنه بالنسبة لنماذج لغة "خليط الخبراء" (Mixture-of-Experts)، لا يتم تحسين أداء الاستنتاج بمجرد تقليل خسارة ما قبل التدريب فحسب، بل من خلال الموازنة المشتركة بين العمليات الحسابية (FLOPs) النشطة وإجمالي الرموز لكل معلمة، مما يكشف أن مهام الاستنتاج تستهلك الكثير من البيانات وتستفيد من تكوينات ندرة محددة تختلف عن مهام الحفظ.
تقدم هذه الورقة البحثية DQO، وهي طريقة مبتكرة لما بعد التدريب تستفيد من عمليات النقطة المحدد (determinantal point processes) لتحسين النماذج اللغوية الكبيرة بشكل مشترك لإنتاج استجابات عالية الجودة ومتنوعة دلالياً، مما يتغلب بفعالية على ميل التعلم المعزز لإنتاج مخرجات ضيقة ونمطية.