24017 ورقة بحثية
تقدم الورقة البحثية "المسبار الميتا-معرفي" (Metacognitive Probe)، وهو أداة تشخيصية مكونة من خمس مهام تقيم سلوكيات الثقة لدى النماذج اللغوية الكبيرة عبر خمسة أبعاد متميزة للكشف عن جيوب خفية من الثقة المفرطة التي تغفل عنها الاختبارات القياسية التجميعية، مما يظهر تباينًا كبيرًا قدره 47 نقطة بين معايرة النموذج الخاصة بمهمة معينة وقدراته على التنبؤ بصعوبة المهام عبر مختلف المهام.
تقترح الورقة البحثية "التحسين المدفوع بالاستكشاف" (EDO)، وهو إطار عمل مبتكر يدمج أهداف الاستكشاف المعززة للتنوع في طرق ما بعد التدريب التكرارية مثل iDPO وGRPO لحل التوتر بين تنوع أخذ العينات في وقت الاستدلال وبين حدة التوزيع الناجمة عن التعلم المعزز، مما يعزز أداء الاستنتاج واستقرار النماذج اللغوية الكبيرة عبر المهام داخل التوزيع وخارجه.
تتناول هذه الورقة تحدي المعايرة المتعددة في إعدادات التعلم الخاضع لإشراف ضعيف حيث لا تتوفر تسميات نظيفة، وذلك عبر اقتراح إطار عمل موحد يجمع بين إعادة كتابة مخاطر مصفوفة التلوث والقيود القائمة على الشهود لتقدير وتصحيح أخطاء المعايرة المتعددة، إلى جانب خوارزمية عامة لما بعد المعالجة تسمى تعزيز المعايرة متعددة التسميات الضعيفة (WLMC) والتي توفر ضمانات العينة المحدودة.
تقترح هذه الورقة إطار عمل UFO، وهو إطار عمل موحد موجه نحو التدفق يعالج التحديات المزدوجة المتمثلة في النسيان الكارثي والإشراف الضوضائي في التعلم المستمر للرسوم البيانية، وذلك من خلال توظيف النمذجة التوليدية القائمة على التدفق لإعادة التشغيل واستخدام تسجيل الموثوقية على مستوى العينة للتخفيف من المعرفة الفاسدة.
تُثبت هذه الورقة أن تزويد نماذج المحولات (transformers) برموز سياقية كامنة مستمرة يُمكّنها من تنفيذ خوارزميات التعلم عبر الإنترنت بكفاءة، مثل "الأغلبية الموزونة" (weighted majority) و"تعلم كيو" (Q-learning)، مما يسمح للنماذج الصغيرة بالتفوق بشكل ملحوظ على النماذج اللغوية الكبيرة (LLMs) في المهام التكيفية طويلة الأمد.
تقدم الورقة البحثية "أوساط المفتاح والقيمة" (Key-Value Means - KVM)، وهي آلية تكرار كتلية (block-recurrence) مبتكرة لآلية الانتباه توحد فوائد نماذج المحولات (Transformers) والشبكات العصبية المتكررة الخطية (linear RNNs) من خلال تمكين تدريب فعال قابل للتوازي عبر الكتل مع نمو مرن للحالة ووقت استباقي (prefill time) دون تربيعي، وكل ذلك باستخدام عمليات قياسية وبأقل قدر من المعلمات الإضافية.
تطبق هذه الورقة تقنيات التفسير الآلي على نموذج "بارتيكل ترانسفورمر" (Particle Transformer) لتصنيف الكوارك العلوي، كاشفةً أن دائرة مكونة من ست رؤوس متفرقة تحاكي بفعالية أداء النموذج الكامل عبر استخدام تمثيل قائم على مسبب الارتباط الطاقي لتحديد البنية الفرعية ثنائية الرؤوس، مما يثبت أن الانحدار الاشتقاقي يمكنه إعادة اكتشاف سمات ذات معنى فيزيائي في فيزياء النفاثات دون إشراف.
تُثبت هذه الورقة أن قوانين القياس للمشفرات التلقائية المتناثرة عبر طبقات الشبكة العصبية ليست عالمية، بل يتم تحديدها بدلاً من ذلك من خلال البنية الهندسية الكامنة لمنطوِق التنشيط، وتحديداً انحنائه وأبعاده الجوهرية، والتي تملي بشكل يمكن التنبؤ به مستويات خطأ إعادة البناء وأُسس العرض بطريقة قابلة للنقل عبر النماذج المختلفة.
تقدم هذه الورقة "مسافة واسرستاين الملحوظة"، وهي إطار عمل فعال حاسوبياً يستمد حدوداً دنيا لمسافة واسرستاين عن طريق إسقاط مقاييس الاحتمال على الخط الحقيقي عبر ملاحظات لبتشيتز-1، مما يؤسس تسلسلاً هرمياً نظرياً يضمن الاسترداد الفريد بناءً على بُعد تغطية المقياس لدعم المقياس.
تقدم الورقة البحثية NaiAD، وهي أول مجموعة بيانات شاملة للإعلانات الأصلية في النماذج اللغوية الكبيرة (LLM-native advertising) تضم ما يقرب من 59,000 استجابة مدمجة بالإعلانات وخط إنتاج توليدي منفصل، مما يمكّن النماذج من تحسين تجربة المستخدم والإيرادات التجارية في آن واحد من خلال استراتيجيات دلالية متميزة وتعلم سياقي قابل للتحكم.