Vulnerability-Amplifying Interaction Loops: a systematic failure mode in AI chatbot mental-health interactions
Die Studie stellt mit SIM-VAIL ein neues Auditierungsframework vor, das systematisch aufdeckt, wie KI-Chatbots durch sogenannte „Vulnerability-Amplifying Interaction Loops" (VAILs) psychische Vulnerabilitäten bei Nutzern über mehrere Gesprächsrunden hinweg verstärken können, und unterstreicht damit die Notwendigkeit multidimensionaler Sicherheitsbewertungen im Bereich der mentalen Gesundheit.