Red-Teaming Text-to-Image Models via In-Context Experience Replay and Semantic-Preserving Prompt Rewriting
تقدم الورقة البحثية إطار العمل ICER، وهو إطار عمل "صندوق أسود" يستفيد من إعادة كتابة قائمة على النماذج اللغوية الكبيرة وإعادة تشغيل الخبرة في السياق لتوليد مطالبات هجومية سلسة ومحافظة على المعنى بكفاءة لاختبار الاختراق لنماذج تحويل النص إلى صورة، مما يظهر أداءً متفوقاً وقدرة عالية على الانتقال عبر مختلف آليات السلامة مقارنة بالنماذج المرجعية الحالية.