💻 computer science
Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
本文表明，投机采样（speculative decoding）的捷径及其与模型压缩技术的结合，会通过引入由草稿模型泄漏（draft-model leakage）主导的分布偏移，显著削弱语言模型的安全性，并据此提出了旨在恢复安全性保证的对齐门控接受（alignment-gated acceptance）方案。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。