11750 ورقة بحثية
تثبت هذه الورقة تجريبيًا أن التعلم داخل السياق متعدد الأمثلة (many-shot in-context learning) يحسن الترجمة الآلية للغات ذات الموارد المنخفضة بشكل كبير، حيث يوفر استرجاع الأمثلة القائم على خوارزمية BM25 مكاسب جوهرية في كفاءة البيانات من خلال مضاهاة أداء مجموعات أمثلة أكبر بكثير غير مسترجعة.
تقترح هذه الورقة إطار عمل للتعلم التعزيزي يستخدم نموذج لغة كبير (LLM) كحَكَمٍ أحادي الرمز لتوفير إشارات مكافأة فعالة وخالية من الملصقات لعملية تقطير المعرفة، مما يعزز قدرات الاستدلال بشكل كبير في الاختبارات المرجعية للرياضيات حتى عند دمجه مع مكافآت قابلة للتحقق.
تقدم هذه الورقة LLMimic، وهو درس تعليمي تفاعلي قائم على لعب الأدوار يقوم بتحويل عملية تدريب النماذج اللغوية الكبيرة إلى لعبة لتعزيز الثقافة الذكاء الاصطناعي، والتي أظهرت دراسة أجريت على 274 مشاركاً أنها تقلل بشكل كبير من القابلية للتأثر بالإقناع من قبل الذكاء الاصطناعي وتعزز الصدق والمسؤولية الاجتماعية.
تقدم هذه الورقة أول استقصاء منهجي للتدريب المسبق المستمر طويل السياق على نموذج ذي درجة صناعية، كاشفةً أن التوسع الهائل في البيانات ضروري لتجنب الإنهاء المبكر، ومقترحةً إطار عمل هرمي باستخدام الحيرة (perplexity) وأنماط الانتباه للتغلب على قيود المعايير التقليدية مثل "الإبرة في كومة القش".
تقدم هذه الورقة محاكياً للمستخدم مشروطاً بالشخصية لاختبار قدرة الذكاء الاصطناه التوليدي الحواري في السياقات الحساسة عاطفياً وأخلاقياً، مما يكشف عن انهيارات تفاعلية متكررة مثل عدم الاتساق الوجداني وإخفاقات التوجيه الأخلاقي، وتقترح تصنيفاً لتوجيه تصميم أنظمة حوارية أكثر تماسكاً وحساسية.
تقدم هذه الورقة IndustryCode، وهو أول معيار مرجعي شامل يمتد عبر مجالات صناعية ولغات برمجة متعددة لمعالجة أوجه القصور في التقييمات الحالية لتوليد الكود البرمجي في عكس التعقيد الصناعي الواقعي.
تتقصى هذه الورقة البحثية سبب فشل دمج نماذج فضاء الأوزان القياسية في الترجمة الآلية متعددة اللغات، كاشفةً أن الضبط الدقيق يعيد توزيع العصبونات الخاصة بكل لغة لزيادة التباعد التمثيلي في الطبقات العليا، مما يقوض التوافق الهندسي المطلوب لعملية الدمج الناجحة.
تقدم هذه الورقة BioUNER، وهو مجموعة بيانات مرجعية معيارية لتعرّف الكيانات المسماة الطبية باللغة الأردية، تم إنشاؤها من 153 ألف رمز من النصوص الطبية مع اتفاق عالٍ بين المقيّمين، وتتحقق من فائدتها من خلال تقييم نماذج مختلفة من تعلم الآلة والتعلم العميق.
تُثبت هذه الورقة أن النماذج اللغوية الكبيرة المعززة بالاستدلال تحقق مثالية شبه كاملة في مهام التخطيط المعقدة لـ "عالم الكتل" (Blocksworld) و"المسار-النجم" (Path-Star) عبر الاستفادة من المحاكاة الخوارزمية النشطة والذاكرة الهندسية، متفوقةً بشكل كبير على المخططات التقليدية التي تكتفي بتحقيق الحلول المرضية حتى عند تجريدها من الأوليات الدلالية.
تقدم هذه الورقة "وضع المجلس" (Council Mode)، وهو إطار عمل جديد للتوافق بين الوكلاء المتعددين يعمل على التخفيف من الهلوسة والتحيزات في النماذج اللغوية الكبيرة عبر توجيه الاستعلامات من خلال مصنف فرز، وتوليد استجابات متوازية من نماذج رائدة متنوعة، وتركيبها عبر آلية توافق مهيكلة، مما يؤدي إلى تحسينات كبيرة في الدقة الواقعية وتقليل تباين التحيز.