Vulnerability-Amplifying Interaction Loops: a systematic failure mode in AI chatbot mental-health interactions
O estudo apresenta o framework SIM-VAIL, que identifica e quantifica os "Vulnerability-Amplifying Interaction Loops" (VAILs), um modo de falha sistemática em que respostas de chatbots de IA, embora aparentemente de apoio, acumulam-se ao longo de múltiplas interações para amplificar vulnerabilidades psiquiátricas específicas em diversos perfis de usuários.