Evolution Strategy-Based Calibration for Low-Bit Quantization of Speech Models
Deze paper introduceert ESC, een kalibratiemethode gebaseerd op evolutiestrategieën die specifiek is ontworpen voor spraakmodellen om near-lossless prestaties te bereiken bij low-bit (INT4 en INT8) kwantisatie door de unieke uitdagingen van audioactivaties aan te pakken.