Incongruent Positivity: When Miscalibrated Positivity Undermines Online Supportive Conversations
تتقصى هذه الورقة ظاهرة "الإيجابية غير المتوافقة"، حيث تؤدي الاستجابات الإيجابية التي تفتقر إلى التقدير الصحيح رغم حسن النية إلى تقويض الدعم عبر الإنترنت، مما يكشف عن كون النماذج اللغوية الكبيرة عرضة بشكل خاص لهذا التفاؤل الاستخفافي في السياقات العاطفية عالية المخاطر، وتقترح إطار عمل للكشف يهدف إلى توجيه تطوير أنظمة حوار داعمة أكثر وعياً بالسياق وحفاظاً على الثقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تمر بيوم سيء للغاية. تذهب إلى صديق لك طلباً للمواساة، وبدلاً من الاستماع إليك، يقول لك: "فقط ابتسم! كل شيء سيكون على ما يرام!" قد تشعر بسوء أكبر، وليس بتحسن. ستشعر وكأنه لا يسمع ألمك حقاً.
هذه الورقة البحثية تتحدث عن هذا الشعور تحديداً، ولكن عندما يحدث مع روبوتات الدردشة المدعومة بالذكاء الاصطالي (مثل تلك التي تتحدث إليها في هاتفك). يطلق عليها الباحثون اسم "الإيجابية غير المتوافقة" (Incongruent Positivity).
إليك قصة بحثهم، مقسمة إلى أجزاء بسيطة:
1. المشكلة: "المشجع السام"
لاحظ الباحثون أنه عندما يكون الناس حزانى، أو قلقين، أو في حالة حداد، غالباً ما يحاول روبوت الدردال الذكي أن يكون مفيداً عبر أن يكون إيجابياً بشكل مبالغ فيه. إنه يتصرف كأنه مشجع لا يتوقف عن الصراخ "أنت تستطيع فعلها!" بينما أنت تبكي.
يطلق البحث على هذا اسم "الإيجابية المضللة" (Misguided Positivity). وهي تحدث بثلاث طرق رئيسية:
- المستخف (The Dismissive): يقول الذكاء الاصطناعي، "توقف عن التفكير الزائد في الأمر"، وهو ما يعني فعلياً أن مشاعرك لا تهم.
- المقلل من الشأن (The Minimizing): يقول الذكاء الاصطناعي، "الجميع يمر بهذا"، مما يجعل مشكلتك الكبيرة تبدو وكأنها مجرد إزعاج بسيط وشائع.
- غير الواقعي (The Unrealistic): يقول الذكاء الاصطناعي، "فقط آمن بنفسك وستحدث المعجزات!"، ويقدم حلاً لا وجود له في الواقع.
التشبيه: تخيل أن قدمك مكسورة. الطبيب الجيد يضع لك جبيرة. أما الطبيب "الإيجابي المضلل" فيعطيك لاصقة جروح صغيرة ويقول لك: "فقط اركض لتتجاوز الأمر! ستصبح عداء ماراثون بحلول الغد!" يبدو الكلام لطيفاً، لكنه عديم الفائدة ويؤذيك في الواقع لأنه يتجاهل حقيقة أن قدمك مكسورة.
2. التجربة: البشر مقابل الروبوتات
ذهب الباحثون إلى موقع "ريديت" (منتدى ضخم عبر الإنترنت) للعثور على محادثات حقيقية. بحثوا عن نوعين من المشكلات:
- المخاوف الطفيفة: مثل دراما العلاقات أو النصائح العامة.
- المخاوف الشديدة: مثل الحزن العميق، القلق، أو الاكتئاب.
وقارنوا بين كيفية استجابة البشر لهذه المشكلات مقابل استجابة الذكاء الاصطناني (نماذج اللغات الكبيرة - LLMs).
النتائج:
- في المواقف الطفيفة: كان الذكاء الاصطناعي جيداً في الواقع. بدا داعماً بما يكفي.
- في المواقف الشديدة: انهار الذكاء الاصطناعي. كان أكثر عرضة لكونه مستخفاً أو تقديم نصائح غير واقعية مقارنة بالبشر. البشر عرفوا متى يصمتون ويستمعون فقط؛ أما الذكاء الاصطناعي فاستمر في محاولة "إصلاح" الأمور بتفاؤل فارغ.
النتيجة: عندما سُئل الناس، "من الذي جعلك تشعر بتحسن؟"، فاز البشر بسهولة في المواقف الجادة. أما الذكاء الاصطناعي فلم يفز إلا في الدردشات الخفيفة والعابرة.
3. الحل: هل يمكننا تدريب الذكاء الاصطناعي ليكون أذكى؟
حاول الباحثون تعليم الذكاء الاصطناعي ليكون أفضل. أخذوا الذكاء الاصطناعي و"أطعموه" آلاف الأمثلة من المحادثات حيث تفاعل الناس بـ مشاعر ضعيفة (هادئة) ومشاعر قوية (حادة).
التشبيه: فكر في الذكاء الاصطناعي كطالب.
- قبل التدريب: الطالب هو روبوت يقول دائماً "عمل جيد!" بغض النظر عن أي شيء.
- بعد التدريب على "المشاعر القوية": تعلم الطالب أن يكون أكثر جدية، لكنه ظل يميل لتقديم نصائح سطحية وعامة (مثل المشجع "المقلل من الشأن").
- بعد التدريب على "المشاعر الضعيفة": أصبح الطالب أكثر توازناً وحذراً، وتجنب أسوأ الأخطاء، لكنه ظل يعاني في القدرة على الشعور حقاً بألم المستخدم.
الدرس: لا يمكنك فقط تعليم الذكاء الاصطناعي أن يكون "ألطف". يجب عليك تعليمه أن يكون دقيقاً. عليه أن يعرف متى يكون إيجابياً ومتى يكتفي بالجلوس معك في الظلام.
4. الحل: "جهاز كشف الكذب" الجديد
بما أن الذكاء الاصطناني يرتكب هذه الأخطاء كثيراً، فقد بنى الباحثون أداة خاصة (برنامج كمبيوتر) لرصد "الإيجابية المضللة".
- الأداة: أنشأوا "فريقاً" من كاشفين ذكيين (يُسميان DeBERTa و MentalBERT) يعملان معاً.
- المهمة: يقرأ هذا الفريق ردود الذكاء الاصطناعي ويضع علامة تحذير إذا كان مستخفاً، أو مقللاً من الشأن، أو غير واقعي.
- النجاح: هذه الأداة جيدة جداً في ضبط الذكاء الاصطناعي عندما يحاول لعب دور "المشجع المزيف"، خاصة في المواقف الجادة.
5. لماذا يهم هذا المستقبل؟
تخلص الورقة البحثية إلى تحذير مهم للغاية: لا يمكننا ببساطة ترك الذكاء الاصطناني يتعامل مع أزماتنا العاطفية الأكثر عمقاً.
- للمشكلات الصغيرة: الذكاء الاصطناني رائع. يمكنه تقديم تشجيع سريع أو نصيحة عامة.
- للمشكلات الكبيرة (الحزن، الانتحار، الصدمات): الذكاء الاصطناني خطير إذا تُرِك بمفرده. قد يجعل الأمور أسوأ عن غير قصد من خلال كونه متفائلاً جداً أو مستخفاً.
الاستعارة النهائية:
فكر في الدعم العاطفي مثل إطفاء الحرائق.
- إذا كان لديك حريق صغير في سلة مهملات، فإن مرشة الماء الآلية (الذكاء الاصطناني) مثالية؛ فهي تطفئه بسرعة.
- أما إذا كان لديك مبنى يحترق (حزن شديد/صدمة)، فأنت بحاجة إلى إطفائي بشري. أنت بحاجة لشخص يمكنه شم الدخان، والشعور بالحرارة، واتخاذ قرارات معقدة. إذا أرسلت مرشة ماء آلية إلى مبنى يحترق، فقد ترش الماء في المكان الخطأ وتجعل النار تنتشر.
الخلاصة:
نحن بحاجة لبناء ذكاء اصطناعي يعرف الفرق بين "حريق سلة المهملات" و"المبنى المحترق". يحتاج للتوقف عن محاولة أن يكون سعيداً طوال الوقت والبدء في تعلم كيف يكون متعاطفاً، وواقعياً، وآمناً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.