Speculative Decoding Shortcuts Can Undermine Language Model Safety Guarantees
Cet article démontre que les raccourcis de décodage spéculatif et leur combinaison avec des techniques de compression de modèles peuvent considérablement compromettre la sécurité des modèles de langage en introduisant des décalages de distribution dominés par la fuite du modèle de brouillon, ce qui conduit à la proposition d'une acceptation à porte d'alignement pour restaurer les garanties de sécurité.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.