Intelligent Prompt Filtering and Jailbreak Detection for Safe Deployment of Generative
本論文は、Sentence-BERTとXGBoostを用いて3つのベンチマークデータセットを統合することで、プロンプトインジェクションおよびジェイルブレイク攻撃を効果的に検出しフィルタリングする適応型マルチデータセットフレームワーク(AMDF)を提案し、84%の精度を達成するとともに、進化する脅威に対するLLM防御の汎用性を高めるものである。