Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
Este artículo demuestra que los atajos de la decodificación especulativa y su combinación con técnicas de compresión de modelos pueden socavar significativamente la seguridad de los modelos de lenguaje al introducir cambios distributivos dominados por la filtración del modelo de borrador, lo que propone la aceptación con compuerta de alineación para restaurar las garantías de seguridad.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.