Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
Dit artikel으로 toont aan dat shortcuts bij speculatieve decodering en hun combinatie met modelcompressietechnieken de veiligheid van taalmodellen aanzienlijk kunnen ondermijnen door het introduceren van distributieverschuivingen die gedomineerd worden door lekken vanuit het draft-model, wat leidt tot de voorstel van alignment-gated acceptatie om veiligheidsgaranties te herstellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.