Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
Este artigo demonstra que os atalhos de decodificação especulativa e sua combinação com técnicas de compressão de modelos podem comprometer significativamente a segurança de modelos de linguagem ao introduzir desvios distributivos dominados pelo vazamento do modelo de rascunho, propondo o uso de aceitação com portão de alinhamento para restaurar as garantias de segurança.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.