Intelligent Prompt Filtering and Jailbreak Detection for Safe Deployment of Generative
Este artículo propone un Marco de Datos Múltiples Adaptativo (AMDF, por sus siglas en inglés) que integra tres conjuntos de datos de referencia con Sentence-BERT y XGBoost para detectar y filtrar eficazmente ataques de inyección de prompts y de jailbreak, alcanzando un 84% de precisión y mejorando la generalización de las defensas de los LLM contra amenazas en evolución.