11770 ورقة بحثية
تُثبت هذه الورقة أن استدلال "سلسلة الأفكار" (CoT)، لا سيما مع البيانات دقيقة التفاصيل، يعزز بشكل كبير قدرة النماذج اللغوية على التعميم خارج نطاق التوزيع في المهام المركبة من خلال فرض استيعاب هياكل التبعية الصالحة وتجنب المسارات المختصرة المتأصلة في التدريب المباشر على السؤال والجواب.
تبحث هذه الورقة في استراتيجيات التوليد المعزز بالاسترجاع متعددة اللغات وتقترح CrossRAG، وهي طريقة تقوم بترجمة المستندات المسترجعة إلى لغة مشتركة قبل توليد الاستجابة، لتعزيز الأداء بشكل كبير في المهام كثيفة المعرفة عبر كل من اللغات عالية الموارد ومنخفضة الموارد.
تقترح هذه الورقة مسار تدريب مسبق فعال باستخدام مجموعات نصوص مقسمة زمنياً لإنشاء نماذج لغوية متخصصة تتفوق على النماذج المرجعية المضبوطة بدقة من حيث السرعة والدقة التاريخية، مما يتيح اكتشاف ظواهر لغوية تاريخية متنوعة مثل التغير المعجمي، والنحوي، والدلالي.
يقدم SkillFlow خط أنابيب استرجاع قابل للتوسع يتكون من أربع مراحل، مما يحسن بشكل كبير من أداء وكلاء الذكاء الاصطناعي في اختبارات البرمجة المرجعية من خلال الاختيار الفعال للمهارات ذات الصله من مستودع مجتمعي ضخم، مع التأكيد على أن نجاح النظام النهائي يعتمد بشكل كبير على جودة وقابلية تنفيذ مجموعة المهارات المتاحة.
تتقصى هذه الورقة وجود انحياز الارتكاز في النماذج اللغوية الكبيرة، وآلياته في الطبقات الضحلة، ومحدودية التخفيف منه، وذلك من خلال تقديم مجموعة بيانات SynAnchors الجديدة ومقاييس تقييم منقحة.
تقترح هذه الورقة "تحصين النموذج"، وهو نهج للضبط الدقيق الخاضع للإشراف يقوم بحقن جرعات صغيرة من أزواج (ادعاء كاذب، تصحيح) منسقة في بيانات التدريب لتعليم النماذج اللغوية الكبيرة مباشرة رفض الأنماط اللغوية المقنعة للمعلومات المضللة، مما يؤدي إلى تحسينات كبيرة في الدقة مع الحفاظ على القدرات العامة للنموذج.
تقدم الورقة البحثية UnsafeChain، وهي مجموعة بيانات لمحاذاة السلامة تم إنشاؤها من مطالبات صعبة مع استكمال غير آمن تم تصحيحه صراحةً، مما يعزز بشكل كبير سلامة نماذج الاستدلال الكبيرة مع الحفاظ على قدراتها الاستدلالية العامة.
تعالج هذه الورقة ندرة الموارد لنمذجة المواضيع باللغة البنغالية من خلال تقديم GHTM، وهي بنية هجينة مبتكرة قائمة على الرسوم البيانية تجمع بين تضمينات GloVe الموزونة بـ TF-IDF، والشبكات العصبية التلافيفية للرسوم البيانية، وتحليل المصفوفات غير السالبة لتحقيق تماسك وتنوع فائقين في المواضيع، إلى جانب إصدار NCTBText، وهو مجموعة بيانات مرجعية متنوعة تضم 8,650 وثيقة من الكتب المدرسية.
تقدم الورقة البحثية L-MARS، وهو إطار عمل متعدد الوكلاء يحسن بشكل كبير من الإجابة على الأسئلة القانونية في المهام التي تتطلب معلومات حديثة من خلال تفكيك الاستعلامات وإجراء بحث ويب وكيلِيّ، إلى جانب إنشاء معيار LegalSearchQA لتقييم مثل هذه القدرات المعتمدة على الاسترجاع.
تقترح الورقة البحثية "التفكير بالقدر الكافي" (JET)، وهو إطار عمل للتعلم التعزيزي يدرب نماذج الاستدلال الضخمة على إنهاء خطوات الاستدلال الزائدة بشكل استباقي من خلال الاستفادة من تقليم المسار ومكافآت الطول الخاضعة لضبط الجودة، مما يؤدي إلى تحسين الكفاءة الحسابية بشكل كبير دون التضحية بالدقة.