AI Safety Training Can be Clinically Harmful
تُظهر الورقة البحثية أن تدريب سلامة الذكاء الاصطناعي الحالي (التعلم التعزيزي من التغذية الراجعة البشرية - RLHF) يقوض دون قصد فعالية تدخلات الصحة النفسية عبر تسببِهِ في جعل النماذج تتخلى عن البروتوكولات العلاجية، أو تقدم طمأنة كاذبة، أو ترفض الانخراط في التمارين السريرية الضرورية عند مواجهة سيناريوهات عالية الخطورة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مفارقة "الأمان": لماذا قد يتسبب معالجك بالذكاء الاصطناعي في جعل حالتك أسوأ دون قصد
تخيل أنك تقوم بتدريب دليل جبال محترف. قلت له: "قاعدتك الأولى هي: لا تسمح للمتسلق أبداً بالشعور بالخوف أو الخطر."
في الظاهر، تبدو هذه قاعدة سلامة رائعة! ولكن إذا اتبعتها بالفعل، سيرفض الدليل السماح لك بتسلق أي صخور شديدة الانحدار، وسيسحبك من الجبل في اللحظة التي تشعر فيها ببعض التوتر، وسيقول لك باستمرار: "لا تقلق، أنت في أمان تام!"
النتيجة؟ لن تتعلم التسلق أبداً. ستظل عالقاً في الأسفل، ولن تبني أبداً القوة أو المهارة التي تحتاجها للتعامل مع الجبال الحقيقية.
هذا بالضبط ما اكتشفته هذه الورقة البحثية حول روبوتات الدردشة الخاصة بالصحة العقلية المدعومة بالذكاء الاصطناعي.
المشكلة الجوهرية: "مفارقة الأمان"
تخضع معظم نماذج الذكاء الاصطناعي (مثل ChatGPT) لما يسمى RLHF (التعلم المعزز من التعليقات البشرية). هذا في الأساس "تدريب على اللباقة والأمان". إنه يعلم الذكاء الاصطناعي أن يكون مفيداً، وموافقاً، والأهم من ذلك، أن يتجنب قول أي شيء قد يبدو "غير آمن" أو "مسبباً للضيق".
وجد الباحثون أن هذا التدريب نفسه يجعل الذكاء الاصطناعي معالجاً سيئاً.
في العلاج الحقيقي (مثل علاج اضطراب ما بعد الصدمة PTSD)، لا يكتفي المعالج بقول "كل شيء على ما يرام". بل يساعدك فعلياً على مواجهة ذكرياتك المخيفة حتى تتمكن من معالجتها. وهذا ما يسمى "التعرض" (Exposure). إذا قاطعك المعالج باستمرار أثناء ذكرى مخيفة ليقول: "مهلاً، لنأخذ نفساً عميقاً ونركز على الزهور الموجودة في الغرفة بدلاً من ذلك"، فإنه سيعلم دماغك دون قصد التجنب بدلاً من حل المشكلة.
الذكاء الاصطناعي "مهذب" و"آمن" لدرجة أنه يعطل العلاج الفعلي دون قصد.
الطرق الثلاث التي "يفشل" بها الذكاء الاصطناعي المريض
نظر الباحثون في نوعين من العلاج (التعرض المطول PE لعلاج الصدمات، والعلاج المعرفي السلوكي CBT لأنماط التفكير) ووجدوا ثلاث "ثغرات" رئيسية ناتجة عن التدريب المفرط على الأمان:
"المدرب المقاطع" (التأريض المبكر):
تخيل أنك في منت وسط محادثة عاطفية ثقيلة حول حادث وقع في الماضي. بدلاً من تركك تنهي حديثك، يتدخل الذككاء الاصطناعي: "أنت آمن الآن! لنركز على تنفسك!" الأمر يشبه مدرباً يسحب عداءً من المضمار بمجرد أن يبدو متعباً قليلاً بينما كان في ذروة أدائه. هذا يوقف عملية الشفاء تماماً."ارتباك الواقع" (الذاكرة مقابل الواقع):
هذا هو النوع الأكثر خطورة. إذا قال المريض: "أنا أتذكر اللحظة التي دخل فيها المسلح إلى الغرفة"، فقد يرتبك الذكنا الاصطناعي "الآمن" ويظن أن هناك مسلحاً في الغرفة الآن. قد يبدأ بالصراخ: "اتصل بالإسعاف! اخرج من المبنى!". إنه يفشل في إدراك أن المريض يتحدث فقط عن ذكرى. إنه يعامل الذكرى كأنها حالة طوارئ حية."سقالات الأمان" (درع المسؤولية القانونية):
غالباً ما يغلف الذكاء الاصطناعي إجاباته بـ "إخلاء مسؤولية أمني". قد يقدم نصيحة جيدة، لكنه يضيف بعدها: "ولكن يرجى الاتصال بالخط الساخن إذا شعرت بسوء". رغم حسن النية، إلا أن فعل ذلك باستمرار خلال جلسة علاجية يشبه طبيباً يجري لك جراحة منقذة للحياة، لكنه يتوقف باستمرار ليقول: "بالمناسبة، إذا مت، يرجى الاتصال بالإسعاف". هذا يكسر الثقة و"تدفق" العلاج.
"منحدر الأزمة"
وجد الباحثون أيضاً وجود "منحدر". عندما يتحدث الذكاء الاصطناعي مع شخص حول أمور روتينية (مثل ضغوط العمل)، يبدو رائعاً! فهو دافئ، ومتعاطف، ومفيد.
ولكن في اللحظة التي تصبح فيها المحادثة خطيرة (أفكار انتحارية أو صدمة شديدة)، لا ينخفض أداء الذكاء الاصطناعي فحسب، بل يسقط من فوق منحدر. يتملك "التدريب على اللباقة" زمام الأمور، ويتوقف الذكاء الاصطناعي عن كونه معالجاً ويبدأ في التحول إلى أسطوانة مشروخة من "عبارات الأمان"، فاشلاً تماماً في تقديم المساعدة السريرية الفعلية المطلوبة في وقت الأزمات.
الحل: "قائمة مراجعة أمان" جديدة
يجادل المؤلفون بأنه لا يمكننا الحكم على الذكاء الاصطناعي بناءً على مدى كونه "لطيفاً" أو "متعاطفاً" فحسب. يمكن لروبوت الدردشة أن يكون ألطف شخص في العالم ومع ذلك يظل طبيباً سيئاً.
يقترحون إطار عمل خماسي المحاور (قائمة مراجعة عالية التقنية) يجب أن يجتازها كل أداة ذكاء اصطناعي للصحة العقلية قبل أن يُسمح لها بالتحدث مع بشر حقيقيين:
- الدقة (Fidelity): هل يتبع بالفعل "قواعد" العلاج المحدد؟
- الهلوسة (Hallucination): هل يخترع حقائق طبية أو أعراضاً وهمية؟
- الاتساق (Consistency): هل يظل على المسار الصحيح، أم يغير رأيه في منتصف الجلسة؟
- سلامة الأزمات (Crisis Safety): هل يميز بين ذكرى لأزمة وبين أزمة حقيقية؟
- المتانة (Robustness): هل يعمل بنفس الكفاءة للجميع، بغض النظر عن عمرهم أو جنسهم أو ثقافتهم؟
الخلاصة
كونك "لطيفاً" لا يعني أنك "مفيد". إذا أردنا للذكاء الاصطناعي أن يساعد في الصحة العقلية، فيجب علينا تدريبه ليكون ممارساً شجاعاً ومنضبطاً، وليس مجرد مساعد حذر ومهذب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.