Large language models show fragile cognitive reasoning about human emotions
تقدم هذه الورقة CoRE، وهو معيار مرجعي قائم على نظرية التقييم المعرفي، لتكشف أنه في حين تلتقط النماذج اللغوية الكبيرة العلاقات المنهجية بين التقييمات المعرفية والعواطف، إلا أنها تظهر عدم توافق مع الأحكام البشرية وعدم استقرار عبر السياقات، مما يشير إلى استدلال معرفي هش حول العواطف البشرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "تظهر النماذج اللغوية الكبيرة تفكيراً معرفياً هشاً حول المشاعر الإنسانية"، مترجمة بلغة بسيطة مع تشبيهات إبداعية.
الفكرة الكبرى: "محقق العواطف" مقابل "ممثل العواطف"
تخيل أنك استأجرت روبوتاً ذكياً جداً ليعمل محققاً لحل لغز حول سبب بكاء شخص ما.
- الطريقة القديمة: تسأل الروبوت: "هل هذا الشخص حزين؟". ينظر الروبوت إلى دليل التدريب الخاص به، ويرى صورة لوجه يبكي، ويقول: "نعم، هذا هو الحزن". إنه جيد في مطابقة الصور بالملصقات (التسميات).
- الطريقة الجديدة (هذه الورقة البحثية): تسأل الروبوت: "لماذا تعتقد أنه حزين؟". أنت تريد منه أن يشرح السبب المنطقي: "هو حزين لأنه فقد شيئاً كان يحبه، ويشعر بالمسؤولية تجاه ذلك، ولا يمكنه التحكم في النتيجة".
تسأل هذه الورقة البحثية: هل تفهم النماذج اللغوية الكبيرة (LLMs) حقاً الـ "لماذا" (الاستدلال المنطقي)، أم أنها مجرد بارعة جداً في تخمين الـ "ماذا" (الملصق/التسمية)؟
الإجابة مخيفة بعض الشيء: إنها بارعة في تخمين الملصق، لكن استدلالها الداخلي "هش"، وغير متسق، ويختلف تماماً أحياناً عن طريقة تفكير البشر.
التجربة: "صالة ألعاب العواطف الرياضية"
قام الباحثون ببناء صالة ألعاب رياضية ضخمة تسمى CoRE (الاستدلال المعرفي للمشاعر). لم يكتفوا بسؤال الذكاء الاصطناي: "ما هذا الشعور؟"، بل جعلوا الذكاء الاصطناي يقوم بتمارين باستخدام 17 عضلة ذهنية مختلفة (تسمى التقييمات المعرفية).
فكر في هذه العضلات كأنها أسئلة يطرحها الإنسان على نفسه عندما يحدث شيء ما:
- هل كان هذا ممتعاً؟
- هل كنت أنا السبب في حدوثه؟
- هل كان هذا عادلاً؟
- كم من الجهد اضطررت لبذله؟
- هل كنت متأكداً مما سيحدث؟
لقد اختبروا 6 نماذج مختلفة من الذكاء الاصطناي (مثل GPT و LLaMA و Gemini) في ما يقرب من 70,000 سيناريو لمعرفة كيف استخدمت هذه "العضلات" لاستنتاج المشاعر.
النتائج: أين يخطئ الروبوتات؟
إليك الطرق الثلاث الرئيسية التي يختلف بها "الدماغ العاطفي" للذكاء الاصطناي عن دماغ البشر:
1. فخ "الجهد" (الروبوت الذي يفرط في التمرين)
البشر لديهم طريقة تفكير متوازنة. إذا شعرنا بـ "الفخر"، نفكر: "لقد عملت بجد من أجل هذا". إذا شعرنا بـ "السعادة"، نفكر: "هذا شعور جيد".
- خلل الذكاء الاصطناي: تعامل نماذج الذكاء الاصطناي مع "الجهد" باعتباره أهم عامل لـ كل المشاعر تقريباً. الأمر يشبه روبوتاً يعتقد أن كل مشاكل الحياة تُحل بـ "العمل بجهد أكبر".
- التشبيه: تخيل طباخاً بشرياً يعتقد أن كل طبق يحتاج إلى ملح إضافي ليكون مذاقه جيداً. إذا كان الطبق حلواً أو مالحاً أو حاراً، فإن الطباخ يضع الملح فقط. الذكاء الاصطناي يفعل هذا مع مفهوم "الجهد". إنه يفرط في استخدام هذا المفهوم حتى عندما لا يفعل البشر ذلك.
2. مشكلة "الهوية السرية" (المحقق الكاذب)
سأل الباحثون الذكاء الاصطناي شيئين:
- ضمنياً: "أرني خطوات عملك". (نظرنا إلى الأرقام التي أنتجها الذكاء الاصطناي).
- صراحةً: "أخبرني ما هو الشيء الأكثر أهمية". (طلبنا من الذكاء الاصطناي اختيار عامل واحد).
- الخلل: أظهر "عمل" الذكاء الاصطناي أنه يعتمد بشدة على الجهد والمشاكل. ولكن عندما سُئل مباشرة، قال: "أوه لا، أنا أعتمد على المسؤولية والتحكم".
- التشبيه: يشبه الأمر طالباً درس الكتاب بأكمله (الاستدلال الضمني)، ولكن عندما يسأله المعلم: "ما هو أهم شيء تعلمته؟"، يجيب بثقة: "صفحة الغلاف". الذكاء الاصطناي لا يعرف حتى ما الذي يفكر فيه حقاً.
3. "العمى الثقافي" (البدلة الموحدة للجميع)
المشاعر تختلف بناءً على من أنت ومن أين أتيت. الموقف الذي قد يجعل شخصاً في اليابان يشعر بـ "الخزي" قد يجعل شخصاً في الولايات المتحدة يشعر بـ "الغضب".
- الخلل: عندما أخبر الباحثون الذكاء الاصطناي أن "يتصرف كشخص من اليابان" أو "يتصرف كشخص من المكسيك"، فإن استدلاله العاطفي لم يتغير على الإطلاق.
- التشبيه: تخيل تطبيق طقس يقول لك "إنها تمطر" بغض النظر عما إذا كنت في صحراء أو في غابة مطيرة. لدى الذكاء الاصطناي "بدلة عاطفية عالمية" تناسب الجميع، لكنها فضفاضة جداً بحيث لا تناسب أي ثقافة محددة.
- الاستثناء: ومع ذلك، إذا أخبرت الذكاء الاصطناي أن "يتصرف كشخص غاضب" مقابل "يتصرف كشخص سعيد" (الشخصية)، فقد تغير استدلاله بالفعل. إنه يفهم الأمزجة الفردية، لكنه لا يفهم الخلفيات الثقافية.
"هشاشة" عقل الذكاء الاصطناي
خلصت الورقة البحثية إلى أن الاستدلال العاطفي للذكاء الاصطناي هش.
- البسيط سهل: إذا طلبت من الذكاء الاصطناي التمييز بين "السعادة" (أشياء جيدة) و"الحزن" (أشياء سيئة)، فإنه يبلي بلاءً حسناً. إنه يفهم التقسيم الأساسي لـ "الجيد مقابل السيئ".
- المعقد مكسور: إذا طلبت منه التمييز بين "الخزي" و"الذنب" (وهما متشابهان جداً ولكن لهما قواعد مختلفة)، فإنه يرتبك. يبدأ في الخلط بينهما أو استخدام المنطق الخاطئ.
لماذا يهم هذا؟
إذا استخدمنا الذكاء الاصطناي للمساعدة في الصحة النفسية، أو تعليم الأطفال، أو إدارة خدمة العملاء، فنحن بحاجة لأن يفهموا لماذا نشعر بالطريقة التي نشعر بها، وليس فقط ماذا نشعر.
- الخطر: إذا اعتقد الذكاء الاصطناي أن "الغضب" دائماً سببه "عدم العدالة" (وهو أمر صحيح للبشر)، ولكنه لا يدرك أن الغضب في بعض الثقافات يتعلق بـ "فقدان الوجه"، فقد يقدم نصيحة سيئة للغاية.
- المستقبل: لا يمكننا فقط تدريب الذكاء الاصطناي على قول الكلمات الصحيحة. نحن بحاجة لتدريبه ليكون لديه "بنية داخلية" تشبه البشر، حيث يفهم الشبكة المعقدة من الأسباب وراء مشاعرنا، وليس فقط التسمية السطحية.
ملخص في جملة واحدة
نماذج الذكاء الاصطناي الحالية تشبه الممثلين الذين حفظوا نص "الحزن" و"الغضب" بدقة، لكنهم لا يفهمون حقاً علم النفس الكامن وراء السطور، وغالباً ما يرتبكون عندما يتغير المشهد إلى ثقافة مختلفة أو موقف معقد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.