24235 ورقة بحثية
تستهل هذه الورقة دراسة التحديد والإنشاء التبايني في الحد الأقصى من خلال توصيف الفئات القابلة للتعلم عبر رسم بياني تقاطعي مشترك، وتأسيس شروط وأبعاد هندسية جديدة، وإثبات أن البيانات التباينية يمكن أن تكون أكثر متانة تجاه الفساد العدائي من الأمثلة التقليدية التي تقتصر على الإيجاب فقط.
تقترح الورقة البحثية TIDE، وهي بنية ترانسفورمر (transformer) مبتكرة تستبدل نظام حقن الرموز أحادي الحقن القياسي بنظام "ذاكرة التضمين" (EmbeddingMemory) الذي يحقن متجهات دلالية خالية من السياق في كل طبقة، وذلك لمعالجة نقص تدريب الرموز النادرة والانهيار السياقي للرموز المتشابهة لتحسين أداء نمذجة اللغة.
تُعد "Memory Inception" طريقةً لا تتطلب تدريباً، تعمل على توجيه النماذج اللغوية الكبيرة عبر حقن بنوك مفتاح-قيمة مستمدة من النصوص بشكل انتقائي في طبقات الانتباه الكامنة، مما يحقق تحكماً فائقاً وأداءً في الاستدلال المهيكل مع تقليل عبء التخزين بشكل كبير مقارنة بتقنيات التلقين التقليدية وتوجيه التنشيط.
تقدم هذه الورقة "تدرج السياسة الحتمية الناعمة" (Soft-DPG)، وهو إطار عمل جديد للتعلم المعزز يستخدم التنعيم الغاوسي لإلغاء الحاجة إلى تدرجات إجراءات الناقد، مما يضمن استقرار التعلم وتحسين الأداء في مهام التحكم المستمر ذات المكافآت المتناثرة أو المنفصلة حيث تفشل طرق تدرج السياسة الحتمية (DPG) القياسية.
تقدم هذه الورقة بروتوكولاً تشخيصياً مُعايرًا يجمع بين تنقيب المخططات الفرعية وخطوط الأساس القائمة على التمهيد (bootstrap) لإثبات أنه بينما تعتمد نماذج لغة المخططات في البداية على الحفظ، إلا أنها يمكن أن تتعلم انتظامات هيكلية حقيقية عند المقاييس الكبيرة، لا سيما للأنماط عالية التكرار، رغم أن قدرتها على التعميم لتشمل البنى النادرة تظل محدودة.
تضع هذه الورقة حدوداً عليا وسفلى محكمة وشفافة ذات صيغة مغلقة لدالة المقايضة الخاصة بخوارزمية التدرج الاشتقاقي العشوائي ذي الخصوصية التفاضلية (DP-SGD) مع أخذ العينات بالخلط العشوائي، مما يثبت أن هذه الطريقة توفر قدرة فائقة على التفسير ومقايضات أفضل بين الخصوصية والمنفعة مقارنة بأخذ العينات بأسلوب "بواسون"، لا سيما في الحالات التي يكون فيها مضاعف الضجيج كبيراً بما يكفي.
تقدم الورقة البحثية TARDIS، وهو إطار عمل للتحسين أثناء الاستدلال يستخدم "تحسين تشامفر ثنائي الاتجاه" (Bidirectional Chamfer Refinement) لتحسين مخرجات نموذج انتشار مدرب مسبقاً ومجمد، مما يؤدي إلى سد الفجوة بين البيانات الاصطناعية والواقعية وتحقيق أداء في المهام النهائية يتجاوز النماذج المدربة على بيانات حقيقية دون الحاجة إلى إعادة التدريب.
تقترح هذه الورقة إطار عمل للنسب الهرمي للقيادة الذاتية من طرف إلى طرف، يستخرج الإشارات الإحصائية من المدخلات متعددة الرؤى للتنبؤ بفعالية بمخاطر التخطيط وتحديد الاصطدامات المحتملة دون الاعتماد على نماذج مراقبة مساعدة.
تقترح الورقة البحثية "إسقاط الدوال لتدفق المطابقة" (FP-FM)، وهي خوارزمية تتيح تكيفاً فعالاً وخالياً من التدريب للنماذج التوليدية مع التوزيعات غير المرئية عبر تعلم دوال أساس لمجالات السرعة وإسقاط العينات المستهدفة على هذا الأساس عند وقت الاستدلال.
تُقدم الورقة البحثية إطار عمل PACE، وهو إطار عمل ثنائي المراحل يتناوب بين التوليد النظري وتقليم المتعلمين لإنشاء نماذج تجميعية مدمجة وقوية مع تمكين التحكم المنهجي في الدقة تجاه النموذج التجميعي الأصلي.