Sockpuppetting: Jailbreaking LLMs by Combining Prefilling with Optimization
Dit artikel verbetert het jailbreaken van LLM's door aan te tonen dat het ensemble van eenvoudige prefill-varianten de succespercentages van aanvallen aanzienlijk verhoogt, en door "sockpuppetting" in te voeren, een nieuwe hybride methode die adversariale suffixen binnen het assistant-berichtblok optimaliseert om superieure prompt-agnostische prestaties te bereiken.