💻 computer science
Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
本論文は、投機的デコーディングのショートカットおよびそれらとモデル圧縮技術との組み合わせが、ドラフトモデルのリークに支配された分布シフトを導入することによって、言語モデルの安全性を著しく損なう可能性があることを示し、安全性の保証を回復するためのアライメント・ゲーテッド・アクセプタンス(alignment-gated acceptance)の提案を行うものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
自分の分野の論文に埋もれていませんか?
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。