Responsible Evaluation of AI for Mental Health
تنتقد هذه الورقة التقييم الحالي المجزأ وغير المتوافق سريرياً للذكاء الاصطنا_ي في الصحة النفسية من خلال اقتراح إطار عمل متعدد التخصصات وتصنيف ثلاثي الأجزاء (التقييم، والتدخل، وتوليف المعلومات) لضمان منح الأولوية في التقييمات المستقبلية للصلاحية السريرية، والسياق الاجتماعي، والعدالة، وتجربة المستخدم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم ببناء نوع جديد من المساعد الرقمي المصمم لمساعدة الناس في صحتهم النفسية. قد يكون روبوت دردشة يقدم المواساة، أو أداة تمسح وسائل التواصل الاجتماعي لرصد علامات الاكتئاب، أو نظاماً يلخص ملاحظات العلاج النفسي للأطباء.
تجادل هذه الورقة بأننا، في الوقت الحالي، نختبر هذه الأدوات بالطريقة الخاطئة. الأمر يشبه محاولة تقييم جراح قلب بناءً فقط على مدى سرعته في ربط حذائه. فمجرد كون الذكاء الاصطناعي سريعاً ومتقناً للقواعد اللغوية لا يعني أنه آمن، أو مفيد، أو بارع حقاً في مداواة العقول.
إليك تفصيل للنقاط الرئيسية للورقة باستخدام تشبيهات بسيطة:
1. المشكلة: فخ "اختبار السرعة"
نظر المؤلفون في 135 ورقة بحثية حديثة حول الذكاء الاصطنا والصحة النفسية، ووجدوا نمطاً مقلقاً:
- المسطرة الخاطئة: معظم الباحثين يستخدمون "مقاييس ذكاء اصطناعي عامة" (مثل التحقق مما إذا كانت قواعد اللغة مثالية أو إذا كانت تتطابق مع مجموعة بيانات معينة). هذا يشيد بـ رجل إطفاء فقط على جودة ركضه في سباق، متجاهلين ما إذا كان بإمكانه حقاً إخماد حريق.
- غياب الخبراء: أكثر من نصف هذه الدراسات لم تسأل متخصصاً واحداً في الصحة النفسية (مثل المعالج أو الأخصائي النفسي) عن رأيه.
- فجوة الأمان: العديد من الأوراق لم تناقش ما إذا كانت الأداة قد تؤذي شخصاً ما بالخطأ، أو ما إذا كانت تعمل بإنصاف مع أشخاص من ثقافات مختلفة.
التشبيه: تخيل أنك اشتريت سيارة جديدة. أظهر لك المصنع فيديو للسيارة وهي تسير في خط مستقيم على مضمار مثالي (المقياس العام). لكنهم لم يروك أبداً كيف تتعامل مع طريق ممطر، أو ما إذا كانت المكابح تعمل، أو ما إذا كانت آمنة لعائلة مع أطفال. هذا هو الوضع الحالي لأبحاث الذكاء الاصطناعي في مجال الصحة النفسية.
2. الحل: "قائمة" جديدة للاختبار
تقترح الورقة إطار عمل جديداً لإصلاح ذلك. بدلاً من معاملة جميع أدوات الذكاء الاصطناعي بنفس الطريقة، تقترح تصنيفها إلى ثلاث فئات مختلفة، لأن كل منها يحتاج إلى نوع مختلف من "فحص السلامة".
فكر في هذه الفئات الثلاث كأنها أنواع مختلفة من أدوات المطبخ:
- الفئة 1: المحقق (التقييم)
- ماذا يفعل: ينظر في البيانات لمعرفة ما الخطب (مثلاً: "هل هذا الشخص مكتئب؟" أو "هل هناك خطر انتحار؟").
- الاختبار: تحتاج إلى التحقق مما إذا كان المحقق دقيقاً ومتسقاً. هل يرصد نفس المشكلة في كل مرة؟ هل يعمل مع أشخاص من خلفيات مختلفة، أم أنه يعمل فقط مع نوع واحد من البشر؟
- الفئة 2: المدرب (التدخل)
- ماذا يفعل: يحاول بنشاط المساعدة أو تغيير شيء ما (مثلاً: روبوت دردشة يعلم مهارات التأقلم أو بوت يوجهك خلال نوبة هلع).
- الاختبار: تحتاج إلى التحقق مما إذا كان المدرب يجعل الناس يشعرون بتحسن فعلياً وما إذا كان آمناً. هل انخفض القلق لدى المستخدم؟ هل قال البوت أي شيء ضار؟ هل من السهل على المستخدم الالتزام بالخطة؟
- الفئة 3: الكاتب (توليف المعلومات)
- ماذا يفعل: ينظم المعلومات الفوضوية للبشر (مثلاً: تلخيص ساعات من ملاحظات العلاج النفسي في تقرير قصير للطبيب).
- الاختبار: تحتاج إلى التحقق مما إذا كان الكاتب موثوقاً ومفيداً. هل أغفل تفصيلاً حرجاً؟ هل وفر وقت الطبيب؟ هل اخترع حقائق من تلقاء نفسه (الهلوسة)؟
3. "سلم النضج"
تقترح الورقة أيضاً أنه لا ينبغي أن نتوقع من أداة ذكاء اصطناعي تجريبية وجديدة تماماً أن تجتاز نفس الاختبارات التي تجتازها أداة تُستخدم بالفعل في المستشفيات. لذا اقترحوا سلماً من ثلاث خطوات:
- مرحلة المختبر (مبكرة): الأداة مجرد نموذج أولي. لا بأس إذا كانت خشنة، لكننا بحاجة للتحقق مما إذا كانت الرياضيات الأساسية تعمل.
- مرحلة التجربة (متوسطة): يتم اختبار الأداة مع بشر حقيقيين وخبراء. نتحقق مما إذا كان الناس يحبونها وما إذا كانت ذات صلة بالحياة الواقعية.
- مرحلة العالم الحقيقي (متقدمة): يتم نشر الأداة بالكامل. نتحقق مما إذا كانت تظل آمنة لسنوات، وما إذا كانت تعمل بإنصاف للجميع، وما إذا كانت تسبب مشاكل غير متوقعة.
4. ما وجدته الورقة بالفعل (دراسات الحالة)
لإظهار كيفية عمل نظامهم الجديد، حلل المؤلفون خمسة أمثلة حقيقية:
- مثال جيد: أداة واحدة ساعدت الناس على إعادة صياغة الأفكار السلبية تم اختبارها بدقة. تم فحصها من حيث السلامة، والإنصاف، وما إذا كانت تساعد حقاً الفئات العمرية المختلفة. لقد اجتازت اختبار "المدرب".
- مثال تحذيري: أداة أخرى لخصت منشورات وسائل التواصل الاجتماعي للأطباء، كانت جيدة جداً في الجانب التقني (رياضيات "الكاتب")، لكن الباحثين اعترفوا بأنهم لم يتحققوا مما إذا كانت آمنة للمرضى الحقيقيين أو ما إذا كانت تعمل لأشخاص من ثقافات مختلفة. بموجب النظام الجديد، سيتم تصنيف هذه الأداة على أنها "غير مكتملة".
الخلاصة
الورقة لا تقول "توقفوا عن بناء الذكاء الاصطناح للصحة النفسية". بل تقول: "دعونا نتوقف عن استخدام مسطرة مخصصة لقياس الطول لقياس الوزن."
نحن بحاجة إلى مجموعة جديدة من القواعد تتضمن:
- وجود علماء نفس في غرفة الاختبار.
- فحوصات سلامة لكل أداة.
- فحوصات إنصاف لضمان أنها تعمل للجميع، وليس لقلة مختارة.
باستخدام هذه "القائمة" و"السلم" الجديدين، يمكن للباحثين بناء أدوات ليست مبهرة تقنياً فحسب، بل هي أيضاً آمنة ومفيدة حقاً للأشخاص المحتاجين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.