Risk Governance for Generative AI Mental Health Support: A Multi-Turn Safety Architecture
Dieses Paper präsentiert eine modellagnostische, mehrstufige Sicherheitsgovernance-Architektur, die kontextuelle Risikoerkennung, reasoning-basierte Verifizierung und protokollgesteuerte Antwortgenerierung integriert, um das Risikomanagement und die von Klinikern bevorzugte Eskalation in der LLM-gestützten psychischen Gesundheitsunterstützung signifikant zu verbessern, während gleichzeitig die konversationelle Rapport aufrechterhalten wird.