Depth-adaptive Inference of Looped Language Models via Continuous Depth Batching
تقدم هذه الورقة البحثية "التجميع المستمر للعمق" (CDB)، وهو إطار جدولة مبتكر يتيح استنتاجاً فعالاً ومتكيفاً مع العمق من البداية إلى النهاية للنماذج اللغوية الحلقية، وذلك عبر فصل تكرارات الحلقة عن مراحل الحدود وتداخل الجدولة مع الحوسبة في وحدة معالجة الرسومات، مما يحقق إنتاجية أعلى بما يصل إلى 1.9 ضعفاً وزمن انتقال أقل بكثير مقارنة بالطرق القياسية.