From Risk Avoidance to User Empowerment: Reframing Safety in Generative AI for Mental Health Crises
تجادل هذه الورقة بأن استجابات روبوتات الدردشة القائمة على الذكاء الاصطناعي التوليدي، والتي تتجنب المخاطر في حالات الأزمات النفسية، يمكن أن تضر بالمستخدمين، وتقترح التحول نحو مبادئ تصميم موجهة نحو التمكين تُمكّن الذكاء الاصطناعي من العمل كجسر داعم لتهدئة الأوضاع والربط برعاية مهنية متخصصة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقف على حافة منحدر، تشعر بالارتباك والخوف. تلتفت إلى صديق رقمي — برنامج دردشة آلي مثل ChatGPT — وتهمس: "لم أعد أعرف ماذا أفعل".
في عالمنا الحالي، غالبًا ما يتصرف هذا الصديق الرقمي كأنه حارس أمن صارم قيل له: "إذا بدا شخص ما وكأنه قد يقفز، فلا تتحدث معه. فقط سلم عليه منشورًا يحتوي على رقم هاتف وابتعد".
يجادل مؤلفو هذه الورقة بأن نهج "حارس الأمن" هذا معطل. وهم يعتقدون أن الوقت قد حان لاستبدال حارس الأمن بـ منقذ حياة رحيم.
إليك تفصيل بسيط لحجتهم:
1. المشكلة: نهج "حارس الأمن"
في الوقت الحالي، تخشى شركات الذكاء الاصطناعي من التعرض للمقاضاة. إذا قدم الذكاء الاصطناعي نصيحة سيئة لشخص يمر بأزمة صحة نفسية، فقد تواجه الشركة مشا la قانونية جسيمة. لذا، يقومون ببرمجة ذكائهم الاصطناعي ليكون متجنبًا للمخاطر.
- كيف يعمل: إذا سألت سؤالًا عاديًا مثل "لماذا أنا حزين؟"، سيتحدث معك الذكاء الاصطناعي. ولكن إذا طرحت سؤالًا خطيرًا مثل "كيف أنهي حياتي؟"، فسيغلق الذكاء الاصطناعي المحادثة فورًا. سيقول: "لا يمكنني المساعدة في ذلك. إليك رقم هاتف للخط الساخن"، ثم يتوقف عن الكلام.
- لماذا يفشل: بالنسبة لشخص يمر بأزمة عميقة، فإن التوقف المفاجئ عن الحديث يشعره بالرفض. الأمر يشبه أن تركض إلى صديق لطلب المساعدة، ليقوم هو بالإشارة إلى الباب ويقول لك "اذهب وتحدث مع غريب"، قبل أن تكمل جملتك حتى. هذا يمكن أن يجعل الناس يشعرون بالوحدة ويقلل من احتمالية سعيهم للمساعدة لاحقًا.
2. الحل: نموذج "المساعد المجتمعي"
يقترح المؤلفون أن ننظر إلى كيفية مساعدة البشر لبعضهم البعض في الحياة الواقعية. يشيرون إلى المساعدين المجتمعيين — أشخاص مثل المعلمين، أو المدربين، أو القادة الدينيين، أو حتى الجار الحكيم.
هؤلاء ليسوا أطباء أو معالجين نفسيين. ليس من المفترض أن "يصلحوا" الأزمة بمفردهم. بدلاً من ذلك، تم تدريبهم على:
- الاستماع دون إطلاق أحكام.
- البقاء هادئين والمساعدة في تهدئة الشخص (خفض حدة التوتر).
- مرافقتهم إلى المساعدة المهنية المناسبة، بدلًا من مجرد الإشارة إليها.
تجادل الورقة بأن الذكاء الاصطناعي يجب أن يعمل كـ مساعد مجتمعي، وليس كروبوت يرفض التفاعل.
3. كيف يجب أن يعمل الذكاء الاصطناعي الجديد (استعارة "المنقذ")
بدلاً من حارس أمن يغلق الباب، يجب أن يكون الذكاء الاصطناعي الجديد منقذ حياة يقفز في الماء ليبقيك آمنًا بينما يستدعي قارب الإنقاذ.
إليك كيف يبدو ذلك في الممارسة العملية:
- لا تكتفِ بتسليم خريطة؛ بل سر معهم. بدلًا من قول "اتصل بالطوارعة 911" فورًا، يجب أن يقول الذكاء الاصطناعي: "أنا أسمعك، وأنا قلق عليك. دعنا نضع خطة معًا. هل تريد التدرب على ما ستقوله للخط الساف؟".
- كن صادقًا بشأن الحدود. يجب أن يقول الذكاء الاصطناعي: "أنا كمبيوتر، ولا يمكنني استبدال الطبيب البشري. لكن يمكنني البقاء هنا معك بينما تستعد للتحدث إليه".
- قلل من الشعور بالخزي. يجب أن يتحدث الذكاء الاصطناعي عن الصحة النفسية بصراحة، مما يجعل المستخدم يشعر بأنه ليس وحيدًا، بدلًا من معاملة الأزمة كسر قذر يجب إخفاؤه.
4. الصورة الكبيرة: العمل الجماعي
يقول المؤلفون إننا لا يمكننا مجرد قول "كن لطيفًا" لشركات الذكاء الاصطناعي. نحن بحاجة إلى جهد جماعي:
- المطورون يحتاجون لبناء ذكاء اصطناعي شجاع بما يكفي للمساعدة، وليس خائفًا بما يكفي للاختباء.
- المنظمون (الحكومة) يحتاجون لوضع قواعد تحمي الشركات إذا اتبعت هذه الإرشادات الجديدة للسلامة. بهذه الطريقة، لن تُعاقب الشركات لمحاولتها المساعدة.
- الخبراء والمستخدمون يحتاجون للعمل معًا لاختبار هذه التصميمات الجديدة.
الخلاصة
في الوقت الحالي، يتم تصميم الذكاء الاصطناعي لتجنب المسؤولية القانونية (البقاء بعيدًا عن المشاكل). تقول الورقة إننا بحاجة لإعادة تصميمه لـ تمكين المستخدمين (مساعدتهم على تجاوز العاصفة).
من خلال معاملة الذكاء الاصطناعي كجسر داعم وليس كجدار، يمكننا تحويل لحظة الأزمة إلى لحظة تواصل، وتوجيه الناس من حافة المنحدر إلى أمان الرعاية المهنية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.