BlockBatch: Multi-Scale Consensus Decoding for Efficient Diffusion Language Model Inference
يُعد BlockBatch إطار عمل للاستنتاج خالٍ من التدريب يعمل على تسريع نماذج اللغة الانتشارية عبر تنفيذ فروع متعددة ذات حجم كتلي بالتوازي ودمجها من خلال المزامنة المعتمدة على الثقة، مما يقلل خطوات إزالة الضجيج ويحسن السرعة النهائية دون التضحية بالدقة.