Sockpuppetting: Jailbreaking LLMs by Combining Prefilling with Optimization
Questo lavoro potenzia il jailbreaking degli LLM dimostrando che l'ensemble di semplici varianti di prefill aumenta significativamente i tassi di successo degli attacchi e introducendo lo "sockpuppetting", un nuovo metodo ibrido che ottimizza i suffissi avversari all'interno del blocco del messaggio dell'assistente per ottenere prestazioni superiori indipendenti dal prompt.