Exposing Long-Tail Safety Failures in Large Language Models through Efficient Diverse Response Sampling
Dit paper introduceert PDPS, een efficiënte methode voor het genereren van diverse antwoorden om zeldzame maar kritieke veiligheidsfouten in grote taalmodellen op te sporen door de outputruimte te verkennen, wat leidt tot aanzienlijk hogere jailbreak-succespercentages bij een fractie van de rekenkosten.