25400 ورقة بحثية
تقترح هذه الورقة مُقدِّر إعادة المعلمة الهامشية (MRP) للتغلب على التباين العالي لطرق نسبة الاحتمال القياسية في سياسات المزيج، مما يثبت أن هذا النهج يمكّن سياسات المزيج من مضاهاة أو تجاوز أداء السياسات الغاوسية في مهام التعلم التعزيزي للفعل المستمر.
تقدم هذه الورقة مفهوم "الحوار المتعدد" (polylogue) لتحليل المحاذاة الديناميكية لمتجهات الشخصية مع التنشيطات الخفية أثناء استدلال النماذج اللغوية الكبيرة، مما يثبت أن مراقبة هذه الميزات السلاسل الزمنية تتيح تدخلات قابلة للتفسير ومعتمدة على المراحل، مما يحسن دقة النموذج في مهام الاستدلال المعقدة.
تقدم الورقة البحثية FORTIS، وهو معيار مرجعي يوضح أن وكلاء النماذج اللغوية الكبيرة يظهرون بشكل روتيني سلوكاً مفرط الامتياز عبر اختيار وتنفيذ مهارات ذات صلاحيات مفرطة، مما يكشف أن طبقة المهارات نفسها هي مصدر أساسي لتصعيد الامتيازات بدلاً من كونها آلية احتواء.
تقدم الورقة البحثية WorldSpeech، وهو متن لغوي ضخم متعدد اللغات يحتوي على 65,000 ساعة من البيانات الصوتية والنصية المتوافقة عبر 76 لغة، مما يحسن بشكل كبير أداء التعرف التلقائي على الكلام للغات ذات الموارد المنخفضة من خلال تقليل معدلات خطأ الكلمات بمتوسط قدره 63.5%.
تقدم الورقة البحثية CIVeX، وهو مُتحقق من التدخل السببي يضمن الاستخدام الموثوق للأدوات في الوكلاء اللغويين عبر رسم خرائط للإجراءات المقترحة إلى استعلامات سببية هيكلية لضمان آثار سببية قابلة للتحديد، مما يمنع التنفيذات الخاطئة في تدفقات العمل المختلطة حيث تفشل ضمانات التحقق القياسية.
تقدم هذه الورقة معياراً موحداً للتفنيد لإثبات أن الادعاء القائل بأن اختناقات التنبؤ تكتشف البنية السببية هو ادعاء باطل، كاشفةً بدلاً من ذلك أن المزايا الملحوظة هي في الغالب عوامل مربكة متعلقة بحجم العينة أو تأثيرات غير مرتبطة بمنهجية محددة تتفوق عليها الأساليب الكلاسيكية مثل سببية غرانجرر (Granger causality) ولاسو (Lasso).
تقدم هذه الدراسة مراجعة شاملة لخوارزميات التحسين للنماذج اللغوية الكبيرة، حيث تصنف الأساليب من النهج الكلاسيكية من الدرجة الأولى إلى المحسنات المتقدمة القائمة على المصفوفات مثل Muon، مع الدعوة إلى إجراء تقييم مرجعي صارم ومراعٍ للحجم يقيم بشكل مشترك التقارب، والاستقرار، وكفاءة الذاكرة، وتعقيد التنفيذ.
تقدم هذه الورقة "Open Ontologies"، وهو نظام مفتوح المصدر قائم على لغة Rust، يوضح أن المطابقة المستقرة بنسبة 1 إلى 1 هي العامل الحاسم للمحاذاة عالية الجودة للأنطولوجيا، وأن الوصول المنظم إلى أدوات بروتوكول سياق النموذج (MCP) يتفوق بشكل كبير على كل من قراءة الملفات الخام والأساسات التي لا تعتمد على الملفات في التفاعل مع الأنطولوجيا المدفوع بالنماذج اللغوية الكبيرة.
تقدم هذه الورقة إطار عمل وكيلِيّاً يستفيد من النماذج اللغوية الكبيرة لتوليد والتحقق من وتقييم معالجات قيود SCIP لبرمجة الأعداد الصحيحة المختلطة بشكل مستقل، مما نجح في استعادة هياكل القيود العالمية واكتشاف استراتيجيات انتشار مبتكرة تُحسن أداء الحلّال على النماذج المرجعية.
تُثبت هذه الورقة أن فهم الأدوار الدلالية يظهر جزئياً في نماذج المحولات المكونة من فك تشفير فقط (decoder-only transformers) والمجمدة أثناء مرحلة ما قبل التدريب، كما يتضح من خلال المسابير الخطية، رغم أن الأداء الكامل يتطلب الضبط الدقيق، كما يصبح التمثيل الداخلي لهذه الأدوار موزّعاً بشكل متزايد مع زيادة حجم النموذج.