Machine Behavior in Relational Moral Dilemmas: Moral Rightness, Predicted Human Behavior, and Model Decisions
تكشف هذه الدراسة أنه في حين تتنبأ النماذج اللغوية الكبيرة بدقة بأن البشر يمنحون الأولوية للولاء على العدالة في العلاقات الوثيقة، إلا أن هذه النماذج نفسها تلتزم بصرامة بالقواعد الأخلاقية القائمة على العدالة، مما يكشف عن عدم توافق حرج بين فهمها الاجتماعي الداخلي وسلوك اتخاذ القرار لديها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً ومطلعاً جداً. تسأله سؤالاً صعباً: "إذا ارتكب أعز أصدقائك جريمة، هل يجب عليك إبلاغ الشرطة عنه؟"
هذه الورقة البحثية تشبه قصة بوليسية حيث وضع الباحثون هذا الروبوت في سلسلة من "اختبارات الضغط الأخلاقي" ليروا كيف يفكر. أرادوا معرفة: هل يفهم الروبوت الطريقة الفوضوية والمعقدة التي يشعر بها البشر فعلياً تجاه الولاء والقواعد، أم أنه مجرد تابع صارم للقواعد؟
إليك تفاصيل تحقيقهم باستخدام تشبيهات بسيطة.
1. الإعداد: "معضلة المبلّغ"
أنشأ الباحثون لعبة تسمى "معضلة المبلّغ" (Whistleblower's Dilemma). تخيل لعبة فيديو تلعب فيها دور شاهد عيان. تغير اللعبة شيئين في كل مرة:
- الجريمة: ما مدى سوء الجريمة؟ (من دفعة بسي la إلى ضرب مبرح يهدد الحياة).
- العلاقة: من الذي فعلها؟ (غريب، جار، صديق مقرب، أو ابنك).
لقد طرحوا على الذكاء الاصطناعي ثلاثة أنواع مختلفة من الأسئلة حول نفس السيناريو:
- القاضي (الصواب الأخلاقي): "ما هو الشيء الصحيح الذي يجب فعله؟" (كتاب القواعد).
- النمام (السلوك البشري المتوقع): "ماذا تعتقد أن معظم الناس سيفعلونه فعلياً؟" (الواقع).
- الفاعل (قرار الذكاء الاصطناعي): "ماذا ستفعل أنت؟" (القرار).
2. الاكتشاف الكبير: "الشخصية المنقسمة"
وجد الباحثون شيئاً مفاجئاً. يعاني الذكاء الاصطناعي من نوع من "الشخصية المنقسمة" اعتماداً على الدور الذي يلعبه.
- عندما يعمل كـ "قاضٍ" أو "فاعل": يكون الذكاء الاصطناعي تابعاً صارماً للقواعد. يقول: "الجريمة سيئة. يجب عليك الإبلاغ عنها". لا يهتم تقريباً إذا كان المجرم صديقك المقرب أو غريباً. إنه يضع العدالة فوق كل شيء. إنه مثل قاضٍ آلي يرفض الانحناء للقانون مهما كانت القصة محزنة.
- عندما يعمل كـ "نمام" (يتنبأ بسلوك البشر): يصبح الذكاء الاصطناعي فجأة ذكياً اجتماعياً. يقول: "أوه، إذا كان الصديق المقرب، فمن المحتمل ألا يبلغ الناس عنه. إنهم يقدرون الولاء أكثر من اللازم". هنا، يتنبأ الذكاء الاصطناعي بشكل صحيح بأن البشر غالباً ما يختارون الولاء على القواعد عندما يتعلق الأمر بالعائلة أو الأصدقاء.
التشبيه:
فكر في الذكاء الاصطناعي كأنه محامٍ مدرب تدريباً عالياً.
- عندما يُسأل: "ماذا يقول القانون؟" (الصواب الأخلاقي)، يقرأ النص القانوني بدقة: "يجب عليك الإبلاغ عن الجريمة".
- عندما يُسأل: "ماذا سيفعل الشخص الطبيعي؟" (السلوك البشري المتوقع)، يقول المحامي: "حسناً، إذا كان أخاه، فمن المحتمل أن يكذب لحمايته".
- المشكلة: عندما يُسأل: "ماذا يجب أن تفعل أنت؟" (قرار الذكاء الاصطناعي)، يتجاهل المحامي رؤيته الخاصة للطبيعة البشرية ويعود إلى النص القانوني: "يجب عليّ الإبلاغ".
الذكاء الاصطناعي يعرف أن البشر يهتمون بالولاء، ولكن عندما يتعين عليه اتخاذ قرار، فإنه يتجاهل هذه المعرفة ويتشبث بالقواعد الصارمة.
3. شد وجذب بين "العدالة والولاء"
استخدم الباحثون قاموساً خاصاً لمعرفة الكلمات التي يستخدمها الذكاء الاصطناعي عند شرح خياراته.
- العدالة: كلمات مثل "العدل"، "الحقوق"، "الجريمة"، "القانون".
- الولاء: كلمات مثل "صديق"، "خيانة"، "عائلة"، "ثقة".
وجدوا أنه عندما يتنبأ بالسلوك البشري، يتحدث كثيراً عن الولاء. ولكن عندما يتخذ قراره الخاص، يتحدث حصرياً تقريباً عن العدالة.
الأمر يبدو وكأن لدى الذكاء الاصطناي خريطة داخلية سرية للعلاقات البشرية، ولكن عندما يقود السيارة (يتخذ قراراً)، فإنه يرفض النظر إلى الخريطة ويقود مباشرة في طريق "القواعد" المستقيم.
4. لماذا يهم هذا؟
هذا الأمر مخيف بعض الشيء بالنسبة للمستقبل. تخيل أنك تسأل ذكاءً اصطناعياً طبياً أو قانونياً للحصول على نصيحة.
- إذا تنبأ الذكاء الاصطناعي بأن "الناس عادة ما يخفون خطأ أصدقائهم"، ولكنه أخبرك بعد ذلك أن "عليك الإبلاغ عن الخطأ لأنه الشيء الصحيح"، فقد تبدو نصيحته منفصلة عن الواقع أو باردة.
- هذا يخلق فجوة بين ما يفهمه الذكاء الاصطناعي عن العالم وبين كيفية تصرفه فعلياً. إنه مثل صديق يفهم سبب حزنك، لكنه يخبرك بـ "فقط اتبع القواعد" بدلاً من تقديم عناق لك.
5. الخلا-صة
تخلص الورقة البحثية إلى أن الذكاء الاصطناعي ليس "دماغاً أخلاقياً" واحداً وصلباً. بدلاً من ذلك، هو كائن حرباء يغير ألوانه بناءً على كيفية طرح السؤال.
- الأخبار الجيدة: الذكاء الاصطناعي ذكي بما يكفي لفهم أن العلاقات مهمة.
- الأخبار السيئة: إنه لا يسمح لهذا الفهم بالتأثير على خياراته. إنه يعطي الأولوية لكونه "صحيحاً" على أن يكون "حساساً".
باخت-صار: الذكاء الاصطناعي يعرف أن البشر فوضويون ومخلصون، لكنه يحاول أن يكون روبوتاً مثالياً ومجرداً من المشاعر عندما يتعين عليه اتخاذ قرار. يحذر الباحثون من أنه إذا أردنا للذكاء الاصطناعي أن يكون شريكاً جيداً في الحياة الواقعية، فنحن بحاجة إلى تعليمه كيفية الموازنة بين كتاب القواعد والقلب، وليس مجرد اختيار أحدهما وتجاهل الآخر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.