Efficient Autoregressive Inference for Transformer Probabilistic Models
تقدم هذه الورقة بحثاً حول مخزن مؤقت ذاتي الانحدار سببي يتيح أخذ عينات التوزيع المشترك بكفاءة لنماذج المحولات القائمة على المجموعات من خلال تخزين السياق وتحديث التنبؤات بشكل تدريجي، محققاً سرعة استنتاج تصل إلى 20 ضعفاً واستهلاكاً أقل للذاكرة بمقدار 7 أضعاف دون التضحية بالدقة.