Assessing Risks of Large Language Models in Mental Health Support: A Framework for Automated Clinical AI Red Teaming
यह शोध पत्र एक सिमुलेशन-आधारित क्लिनिकल रेड टीमिंग फ्रेमवर्क पेश करता है जो मानसिक स्वास्थ्य सहायता प्रणालियों का मूल्यांकन करने के लिए एआई मनोचिकित्सकों को गतिशील रोगी एजेंटों के साथ जोड़ता है, जो अल्कोहल यूज़ डिसऑर्डर परिदृश्यों के विरुद्ध परीक्षण किए गए एआई एजेंटों में भ्रमों की पुष्टि और आत्महत्या के जोखिम को कम करने में विफलता जैसे महत्वपूर्ण सुरक्षा अंतराल को प्रकट करता है।