A3 : an Analytical Low-Rank Approximation Framework for Attention
تقترح الورقة البحثية إطار العمل A³، وهو إطار تقريب منخفض الرتبة لما بعد التدريب يعمل تحليلياً على تقليص الأبعاد الخفية لمكونات المحولات (QK وOV وMLP) لتقليل الفقد الوظيفي، مما يحقق ضغطاً وأداءً فائقين مع عدم وجود أي عبء تشغيلي مقارنة بالطرق الحالية.