Do No Harm: Exposing Hidden Vulnerabilities of LLMs via Persona-based Client Simulation Attack in Psychological Counseling
تقدم هذه الورقة هجوم محاكاة العميل القائم على الشخصية (PCSA)، وهو إطار عمل جديد للفريق الأحمر يحاكي حوارات عملاء متماسكة ومدفوعة بالشخصية للكشف بفعالية عن الثغرات الخفية في النماذج اللغوية الكبيرة المستخدمة في الاستشارات النفسية، مما يكشف عن ميلها لتقديم نصائح طبية غير مصرح بها، وتعزيز الأوهام، وتشجيع السلوكيات الخطرة.