11610 ورقة بحثية
تقدم هذه الورقة "Lighthouse Attention"، وهي خوارزمية اختيار هرمي تعتمد على التدريب فقط وخالية من التدرج، تغلف آلية الانتباه القياسية بنظام الضرب النقطي المقيّس لتمكين التدريب المسبق عالي الكفاءة وغير التربيعي لنماذج المحولات السببية عند أطوال تسلسل قصوى، والتي يمكن إزالتها بسلاسة عبر مرحلة استرداد قصيرة لإنتاج نموذج انتباه كامل يتميز بتدريب أسرع وفقدان نهائي أقل.
تقترح الورقة البحثية UniSD، وهو إطار عمل موحد للتقطير الذاتي يدمج بشكل منهجي آليات متكاملة لمعالجة موثوقية الإشراف واستقرار التدريب في النماذج اللغوية الكبيرة، محققاً أداءً فائقاً عبر معايير قياس متنوعة دون الاعتماد على معلمين خارجيين أقوى.
تقدم هذه الورقة إطاراً رسمياً ومجموعة بيانات لتحليل المقايضة بين قابلية الكشف وقابلية الاستيعاب في استراتيجيات التهرب بـ "لغة الخوارزميات" (Algospeak)، مع تحديد عتبة "تعديل الفهم بالأغلبية" لقياس مدى تأثير التغييرات اللغوية على كل من الفهم البشري وكشف الذكاء الاصطناي.
يُعد MASPO إطار عمل مبتكر يعمل تلقائياً على تحسين المطالبات لأنظمة الوكلاء المتعددة القائمة على النماذج اللغوية الكبيرة من خلال توظيف آلية تقييم مشتركة وبحث شعاعي تطوري لمواءمة أهداف الوكلاء المحليين مع الأهداف العالمية للنظام، مما يجعله يتفوق على الأساليب الحالية عبر مختلف المهام التعاونية.
تقدم هذه الورقة إطار تقييم مبتكر يستخدم محلل أشجار الإعراب المجردة (AST) لتقييم التقارير البحثية التي تولدها النماذج اللغوية الكبيرة عبر صحة الروابط، والصلة، والدقة الواقعية، مما يكشف عن فجوة حرجة حيث تحافظ حتى النماذج الرائدة على إمكانية وصول عالية للاقتباسات والصلة بالموضوع، لكنها تعاني من صعوبة في الاتساق الواقعي، وهي مشكلة تزداد سوءاً مع زيادة عمق الاسترجاع.
تقدم الورقة البحثية "تحسين الوكيل المتكرر" (RAO)، وهو إطار عمل للتعلم التعزيزي يدرب الوكلاء على تفويض المهام الفرعية لأنفسهم بشكل متكرر، مما يؤدي إلى تحسين كفاءة التدريب، وتمكين القابلية للتوسع بما يتجاوز حدود السياق، وتعزيز القدرة على التعميم في المشكلات المعقدة من خلال استراتيجيات فرق تسد.
تقدم هذه الورقة البحثية "تحسين السياسة الإيجابية فقط" (POPO)، وهو إطار عمل جديد للتعلم المعزز من خلال التغذية الراجعة من نماذج اللغة الكبيرة (RLVR) يلغي الحاجة إلى التدحرجات السلبية عبر الاستفادة من أخذ العينات بأهمية محدودة والتدرجات السلبية الضمنية لتحقيق أداء متفوق في الاستدلال الرياضي مقارنة بـ GRPO.
تقدم هذه الورقة إطاراً للتحقق من صحة درجات سلامة النماذج اللغوية الكبيرة المقارنة في ظل غياب معايير مرجعية حقيقية، وذلك عبر إنشاء سلسلة صلاحية أداتية قائمة على التباينات المنضبطة ومقاييس الاستقرار، مبرهنةً من خلال أداة SimpleAudit أن تصنيفات السلامة تعتمد على السياق ويجب الإبلاغ عنها جنباً إلى جنب مع ظروف التدقيق الخاصة بها بدلاً من تقديمها كدرجة واحدة مدمجة.
تقدم هذه الورقة البحثية VHG، وهو إطار عمل مدعوم بمدقق يستخدم آلية لعب ذاتي ثلاثية الأطراف تشمل واضعاً، وحلالاً، ومدققاً مستقلاً لتوليد مسائل رياضية صالحة، وتحدّية، ومبتكرة، متفوقةً بشكل كبير على النماذج المرجعية الحالية التي تعاني من عدم الصلاحية أو التلاعب بالمكافأة.
يقدم EMO بنية مبتكرة لخليط الخبراء (Mixture-of-Experts) تستفيد من حدود المستندات أثناء مرحلة ما قبل التدريب لتمكين نمطية خبراء متخصصة دلالياً وناشئة، مما يسمح بنشر انتقائي للخبراء مع حد أدنى من تدهور الأداء مقارنة بالنماذج المتجانسة القياسية أو نماذج خليط الخبراء التقليدية.