Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments

المحاكاة الأخلاقية العظيمة: عندما تتفق الروبوتات ولكنها لا تفهم

تخيل أنك تعلم روبوتاً كيف يكون شخصاً صالحاً. تعرض عليه آلاف القصص عن أشخاص يفعلون الصواب أو الخطأ، وتطلب منه إعطاء درجة بسيطة: "جيد" أو "سيئ". إذا بدأ الروبوت في إعطاء نفس الدرجات التي يعطيها أصدقاؤك البشر تماماً، فقد تعتقد: "رائع! لقد تعلم الروبوت قيمنا!". هذا هو عالم محاذاة الذكاء الاصطناعي (AI alignment)، وهو مجال يحاول فيه العلماء جعل الذكاء الاصطناعي (تحديداً النماذج اللغوية الكبيرة، أو LLMs) يتصرف بطرق تتوافق مع التوقعات البشرية.

لفترة طويلة، كانت الطريقة الرئيسية للتحقق مما إذا كان الذكاء الاصطناعي "محاذياً" هي النظر إلى الإجابة النهائية. إذا قال إنسان: "هذا الفعل خاطئ"، وقال الذكاء الاصطناعي أيضاً: "هذا الفعل خاطئ"، فإننا نعتبر ذلك نجاحاً. الأمر يشبه طالباً يحصل على الإجابة الصحيحة في اختبار رياضيات؛ نحن نفترض أنه قام بالعمليات الحسابية بشكل صحيح. ولكن ماذا لو حصل الطالب على الإجابة الصحيحة عن طريق التخمين، أو باستخدام معادلة مختلفة تماماً نجحت بالصدفة هذه المرة؟ في عالم أخلاقيات الذكاء الاصطناعي، الحصول على التسمية الصحيحة ليس كافياً. نحن بحاجة لمعرفة لماذا يعتقد الذكاء الاصطناعي أن شيئاً ما خطأ. إذا كان المنطق الداخلي للذكاء الاصطناعي مختلفاً تماماً عن منطقنا، فقد يتصرف بغرابة عند مواجهة موقف جديد وصعب. تغوص هذه الورقة البحثية في هذا السؤال تحديداً: هل تفهم نماذج الذكاء الاصطناعي حقاً أسبابنا الأخلاقية، أم أنها مجرد بارعة جداً في التظاهر؟

وهم "الإجابة الصحيحة" العظيم

قرر الباحثون وراء هذه الدراسة، وهم فريق من جامعة ليوبليانا، وضع افتراض "الإجابة الصحيحة" هذا قيد الاختبار. لقد أنشأوا تحدياً خاصاً باستخدام 500 سيناريو أخلاقي، تتراوح بين المعضلات اليومية (مثل "هل من المقبول الكذب على صديق؟") إلى الألغاز الفلسفية الأكثر تعقيداً حول العدالة والوعود. طلبوا من المتطوعين البشر ومن عدة نماذج ذكاء اصطناعي متقدمة القيام بشيئين لكل سيناريو: أولاً، إعطاء حكم نهائي (التسمية)، وثانياً، شرح منطقهم (التعليل).

فكر في الأمر كأنه لعبة "حقيقتان وكذبة"، ولكن بدلاً من تخمين أي عبارة هي المزيفة، أنت تحاول معرفة ما إذا كان الذكاء الاصطناعي والإنسان يفكران بنفس الأفكار. نظر الفريق في مجموعتين مختلفتين من النماذج: النماذج "الرائدة" (Frontier models) (وهي النماذج فائقة الذكاء والأحدث مثل Claude وChatGPT) والنماذج "المفتوحة" (Open models) (وهي نسخ أصغر قليلاً ومفتوحة المصدر).

إليك المفاجأة التي وجدوها: كانت نماذج الذكاء الاصطناعي بارعة للغاية في الحصول على الدرجة النهائية الصحيحة، لكنها غالباً ما كانت مخطئة بشأن سبب صحتها.

عندما نظر الباحثون فقط في تسميات "جيد" أو "سيئ" النهائية، اتفقت نماذج الذكاء الاصطناعي مع أغلبية البشر بنسبة 88% إلى 89%. هذه نتيجة ضخمة! إذا كنت تتحقق فقط من الإجابات النهائية، فستقول: "مثالي! الذكاء الاصطناعي متوافق معنا". ولكن بعد ذلك، ألقى الباحثون نظرة تحت الغطاء على التفسيرات.

"لماذا" تهم أكثر من "ماذا"

كشفت الدراسة أنه بينما يهبط الذكاء الاصطناعي والبشر غالباً على نفس الوجهة، إلا أنهم يسلكون طرقاً مختلفة تماماً للوصول إلى هناك. يطلق المؤلفون على هذا "الأسس الأخلاقية المتباعدة".

لاستخدام تشبيه مرح: تخيل أن إنساناً وروبوتاً يحكمان على شخص سرق سيارة.

• الإنسان قد يقول: "هذا سيء لأنه كسر وعداً لصاحب السيارة وأظهر نقصاً في الثقة". هو يركز على العلاقة والوعد المكسور.
• الروبوت، ومع ذلك، قد يقول: "هذا سيء لأنه يسبب ضرراً وغير محترم". الروبوت يركز على الضرر والأدب.

كلاهما يقول "سيء"، لذا فإن النتيجة النهائية متطابقة. لكن منطقه الداخلي مختلف تماماً. الإنسان يفكر في عقد اجتماعي محدد (الوعود)، بينما يفكر الروبوت في السلامة العامة والآداب.

وجدت الورقة أن هذا التباين يحدث طوال الوقت. في قسم "علم الواجبات" (Deontology) (الذي يتعامل مع الواجبات والقواعد)، غالباً ما نظر البشر إلى ما إذا كان العذر ذا صلة بالقاعدة. على سبيل المثال، إذا قال شخص ما: "لا يمكنني تمشية الكلب لأنني مشيته بالأمس"، فقد يقول الإنسان: "هذا العذر غير ذي صلة؛ لا يزال عليك واجب اليوم". لكن نماذج الذكاء الاصطناعي غالباً ما تجاهلت منطق العذر وقالت فقط: "هذا الموقف خاطئ أخلاقياً". كان الذكاء الاصطناعي مشغولاً جداً برؤية "الخطأ الأخلاقي" للفعل لدرجة أنه نسي التحقق مما إذا كان العذر منطقياً في هذا السياق المحدد.

الأرقام لا تكذب (لكنها لا تروي القصة كاملة)

كانت البيانات واضحة تماماً. عندما قاس الباحثون مدى تطابق منطق الذكاء الاصطناعي مع منطق البشر، انخفضت الدرجات بشكل كبير.

• بالنسبة للقواعد الأخلاقية "الشيائعة" (Commonsense)، اتفق الذكاء الاصطناعي والبشر على الأسباب المحددة بنسبة 35% فقط (تداخل جاکارد بمقدار 0.350).
• بالنسبة لقواعد "علم الواجبات" (Deontology)، كان الأمر أسوأ، حيث بلغت نسبة الاتفاق على الأسباب 23.5% فقط.

على الرغم من أن النماذج "الرائدة" (الأكثر ذكاءً) اتفقت مع البشر في الإجابة النهائية بنسبة 88.9% من الوقت، إلا أن أسبابها كانت ذات نكهة مختلفة تماماً. فقد مالوا إلى الإفراط في استخدام كلمات مثل "الضرر" و"عدم الاحترام" والإفراط في تقليل استخدام كلمات مثل "الوفاء بالوعد" أو "الثقة". يبدو الأمر كما لو أن لدى الذكاء الاصطناعي مفردات ضيقة للغاية؛ فهو يرى كل مشكلة تقريباً كقضية سلامة أو تصرف فظ، متجاهلاً الفروق الدقيقة والعلاقية التي يهتم بها البشر.

لماذا يغير هذا كل شيء

الخلاصة الرئيسية من هذه الورقة هي تحذير لطيف: الاتفاق ليس هو المحاذاة.

مجرد كون الذكاء الاصطناعي يعطيك نفس الإجابة التي كنت ستعطيها، لا يعني أنه يفهم العالم كما تفهمه أنت. إذا كنا نتحقق فقط من الإجابات النهائية، فقد نقع في شعور زائف بالأمان. قد نعتقد أن ذكاءنا الاصطناعي رفيق حكيم، بينما في الواقع، هو مجرد محاكٍ بارع يستخدم قاموساً مختلفاً.

يقترح المؤلفون أننا بحاجة إلى التوقف عن مجرد النظر إلى درجة "A" أو "F" في الاختبار والبدء في قراءة المقال. نحن بحاجة لسؤال الذكاء الاصطناعي لماذا اتخذ قراراً ما. إذا قال الذكاء الاصطناعي إن شيئاً ما خطأ لأنه "غير آمن"، بينما تراه أنت خطأ لأنه "غير عادل"، فهذه مشكلة. في العالم الحقيقي، هذه الاختلافات مهمة. إذا كان الذكاء الاصطناعي يدير غرفة دردشة أو يقدم نصيحة قانونية، وكان يستخدم "الضرر" كعدسة وحيدة بينما يفكر البشر في "العدالة" أو "الوعود"، فقد يتخذ قرارات تبدو صحيحة على السطح ولكنها تبدو خاطئة بعمق للأشخاص المعنيين.

لذا، في المرة القادمة التي ترى فيها ذكاءً اصطناعياً يبدو متوافقاً معك تماماً، تذكر الدرس من هذه الدراسة: قد يكون مجرد لاعب بارع جداً في لعبة "خمن الإجابة"، دون أن يفهم حقاً القصة الكامنة وراءها. إن الطريق نحو ذكاء اصطناعي آمن ومفيد حقاً لا يقتصر فقط على الحصول على الدرجة الصحيحة؛ بل يتعلق بمشاركة نفس الأسباب.