Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
Diese Arbeit zeigt auf, dass Abkürzungen beim spekulativen Dekodieren und deren Kombination mit Techniken zur Modellkompression die Sicherheit von Sprachmodellen erheblich untergraben können, indem sie Distributionsverschiebungen induzieren, die von Leckagen des Entwurfsmodells dominiert werden, was den Vorschlag einer Alignment-gesteuerten Akzeptanz zur Wiederherstellung von Sicherheitsgarantien zur Folge hat.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.