AsymSpec: Context-Asymmetric Speculative Decoding for Agentic LLMs
يُعد AsymSpec إطار عمل لفك التشفير الاستنتاجي غير المتماثل يُمكّن المُسود الخفيف من الوصول إلى سياق المدخلات الكامل بينما يعمل المُحقِّق الضخم على رؤية مضغوطة، مما يوازن بفعالية بين سرعة الاستدلال والدقة للنماذج اللغوية الكبيرة الوكيلية عبر تحقيق أداء يقارب السياق الكامل بتكاليف حوسبة أقل بكثير.