Detecting Suicide Risk with AI Chatbots: Real-World Performance Within a Clinically Supervised Workflow
تُظهر هذه الدراسة الاستعادية للأتراب أن وكيل سلامة متكامل مع روبوت محادثة، يعمل ضمن سير عمل خاضع للإشراف السريري، قد حقق حساسية عالية (93.2%) ونوعية (99.7%) في اكتشاف وتصعيد مخاطر الانتحار القابلة للتنفيذ من محادثات واقعية، حيث نجح في تحديد جميع حالات المخاطر الفورية المصنفة من قبل الأطباء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الرقمي، يتجه الناس بشكل متزايد إلى الذكاء الاصطناعي لطلب المساعدة في صحتهم النفسية، وغالبًا ما يجدون أذنًا صاغية في برامج الدردشة الآلية (chatbots) التي يمكنها التواجد في أي ساعة. صُممت هذه الأدوات لتقديم الدعم، لكنها تواجه تحديًا حاسمًا: معرفة متى تحولت المحادثة من ضيق عام إلى حالة طوارئ تهدد الحياة. وبخلاف المعالج البشري الذي يمكنه قراءة النبرة، ولغة الجسد، والسياق، يجب على برنامج الكمبيوتر أن يعتمد فقط على الكلمات التي يكتبها المستخدم ليقرر ما إذا كان شخص ما في خطر محدق بإيذاء نفسه. إن مسألة ما إذا كانت هذه الآلات يمكنها رصد العلامات الدقيقة لخطر الانتحار بدقة ليست مجرد لغز تقني؛ بل هي مسألة تتعلق بالسلامة العامة. فإذا فشل النظام في التعرف على صرخة استغاثة، ستكون العواقب وخيمة، ومع ذلك، إذا أطلق الإنذار كثيرًا من أجل مشكلات بسيطة، فقد يؤدي ذلك إلى إرباك المهنيين البشريين الذين يحتاجون للتدخل.
ولمعالجة ذلك، أجرى باحثون في "Spring Health" دراسة واسعة النطاق لمعرفة مدى فعالية نظام سلامة محدد في العالم الحقيقي. لقد ركزوا على عملية "الاستقبال الموجه"، وهي محادثة قصيرة مدتها خمس دقائق يجريها المستخدم مع برنامج دردشة آلي قبل مقابلة معالج بشري للمرة الأولى. خلال هذه الدردشة، يشارك المستخدم ما يزعجه، ويقوم "وكيل سلامة" متخصص — وهو قطعة من البرمجيات مصممة لمراقبة الخطر — بتحليل كل رسالة. لا يطرح هذا الوكيل أسئلة مباشرة حول الانتحار في كل دردشة؛ بل يستمع بدلاً من ذلك إلى الإشارات التي قد تدل على أن المستخدم يفكر في إنهاء حياته، مثل ذكر اليأس، أو خطط محددة، أو إيذاء النفس مؤخرًا. وعندما يكتشف الوكيل خطرًا جسيمًا، فإنه يوقف المحادثة القياسية فورًا ويصعد الحالة، منبهًا فريقًا من الأطباء البشر الذين يمكنهم التواصل مع المستخدم على الفور.
أراد الباحثون معرفة ما إذا كان هذا "الحارس الرقمي" دقيقًا. لقد فحصوا أكثر من 30,000 محادثة لبالغين من جميع أنحاء الولايات المتحدة استخدموا الخدمة بين أغسطس 2025 ويونيو 2026. ونظرًا لأن خطر الانتحار الجسيم نادر في عامة السكان، فإن مجرد النظر في عينة عشوائية لم يكن ليوفر بيانات كافية للحكم على أداء النظام. بدلاً من ذلك، استخدم الفريق طريقة أخذ عينات دقيقة لضمان امتلاكهم ما يكفي من الأمثلة لكل من الدردشات منخفضة المخاطر وعالية المخاطر لإجراء تقييم عادل. ثم استعانوا باثنين من الأخصائيين النفسيين المرخصين لمراجعة مجموعة مختارة من هذه المحادثات. قرأ هؤلاء الخبراء النصوص دون معرفة ما قرره وكيل السلامة، حيث عملوا كمعيار ذهبي لمعرفة ما إذا كانت الآلة على صواب. وقد قاموا بتقييم كل محادثة على مقياس يتراوح من عدم وجود خطر إلى الخطر المباشر، تمامًا كما فعل البرنامج.
أظهرت النت la أن وكيل السلامة كان فعالاً للغاية في مهمته. فعندما حدد الخبراء البشريون محادثة تحتوي على خطر يستوجب اتخاذ إجراء — أي أن المستخدم يعبر عن أفكار انتحارية تتطلب اهتمامًا فوريًا — قام الوكيل بتحديد وتصعيد 93.2 بالمائة من تلك الحالات بشكل صحيح. والأهم من ذلك، أن النظام لم يفت أيًا من الحالات الأكثر خطورة؛ فلم تذهب ولا محادثة واحدة صنفها الخبراء البشريون كحالة طوارئ فورية دون أن يكتشفها البرنامج. ومن جانب آخر، عندما قرر الخبراء أن المحادثة لا تحتاج إلى تصعيد، فقد تراجع الوكيل عن التصعيد بنسبة 99.7 بالمائة من الوقت. وهذا يعني أن النظام نادرًا ما يطلق إنذارًا كاذبًا، وهو أمر حيوي لمنع إرهاق الفريق السريري البشري بتنبيهات غير ضرورية. ومن بين المحادثات التي قام الوكيل بتصعيدها، تم تأكيد حوالي 81 بالمائة منها من قبل الخبراء البشريين كحالات تحتاج بالفعل إلى تدخل.
كما سلطت الدراسة الضوء على كفاءة هذا النهج. فبينما قد يستغرق الطبيب البشري حوالي دقيقة ونصف لمراجعة نص واحد، بتكلفة تصل إلى دولار واحد للعمالة، قام وكيل السلامة الآلي بإجراء نفس الفحص مقابل أربعة سنتات فقط لكل تفاعل. وعبر المجموعة بأكملها التي تضم أكثر من 30,000 مستخدم، بلغت التكلفة الإجمالية لتشغيل الفحص الآلي حوالي 1,200 دولار، في حين أن مراجعة كل محادثة من قبل بشر كانت ستكلف ما بين 28,000 و35,000 دولار. يشير هذا إلى أن الذكاء الاصطناعي يمكن أن يعمل كخط دفاع أول قوي ومنخفض التكلفة، حيث يلتقط المخاطر التي قد تفلت لولا ذلك. وأشار الباحثون إلى أنه في بعض الحالات، كشف المستخدمون عن أفكار خطيرة لبرنامج الدردشة الآلي لم يعترفوا بها في الاستبيانات المكتوبة السابقة، مما يشير إلى أن الناس قد يشعرون بأمان أكبر في مشاركة مخاوفهم المظلمة مع آلة بدلاً من شخص أو نموذج ورقي.
ومع ذلك، أشارت الدراسة أيضًا إلى حدود ما يمكن أن تفعله هذه التكنولوجيا. فقد صُمم النظام خصيصًا للكشف عن مخاطر الانتحار ولم يقم بتقييم الأخطار الأخرى، مثل التهديدات بإلحاق الأذى بالآخرين أو الأعراض الشديدة مثل الذهان. علاوة على ذلك، كان المشاركون في هذه الدراسة جميعهم بالغين، لذا لا يمكن افتراض تطبيق النتائج على المراهقين أو الأطفال، وهي فئة تستخدم هذه الأدوات بشكل متزايد أيضًا. وأكد الباحثون أنه بينما كان نظام الكشف يعمل بشكل جيد، فإن الهدف النهائي ليس مجرد العثور على الخطر، بل ضمان أن تكون الاستجابة مفيدة وآمنة. وتخلص الدراسة إلى أنه عندما يتم دمج نظام الكشف في سير عمل يكون فيه الأطباء البشريون مستعدين للتدخل، يمكن لوكلاء السلامة القائمين على الذكاء الاصطناعي توفير وسيلة موثوقة وقابلة للتوسع لحماية المستخدمين، مما يوفر طبقة جديدة من الأمان لأولئك الذين يسعون للحصول على دعم الصحة النفسية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.