The Fragility Of Moral Judgment In Large Language Models
تُظهر هذه الدراسة أن الأحكام الأخلاقية للنماذج اللغوية الكبيرة هشة للغاية وقابلة للتلاعب، حيث تتأثر بشكل كبير بمنظور السرد، وإشارات الإقناع، وبروتوكولات التقييم أكثر من تأثرها بالجوهر الأخلاقي الكامن في المعضلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسأل روبوتًا ذكيًا جدًا ومطلعًا ليفصل في جدال عائلي. تقول له: "استعارت أختي سيارتي وحطمتها، لكنها تقول إنها لم تكن تعلم أن المكابح معطلة".
تتوقع من الروبوت أن يعطيك إجابة عادلة ومتسقة بناءً على الحقائق. لكن هذه الورقة البحثية تكشف عن حقيقة مذهلة: إجابة الروبوت تتغير بناءً على كيفية طرحك للسؤال، وليس فقط ماذا تسأل.
إليك قصة الورقة البحثية، مقسمة عبر تشبيهات بسيطة.
١. الإعداد: الروبوت كقاضٍ أخلاقي
تعامل الباحثون مع النماذج اللغوية الكبيرة (LLMs) مثل الحكام في برنامج تلفزيوني للواقع يسمى "هل أنا المخطئ؟" (وهو منتدى شهير على الإنترنت حيث ينشر الناس دراما العلاقات ويسألون ما إذا كانوا هم المخطئين).
أخذوا ما يقرب من ٣٠٠٠ قصة من الحياة الواقعية وسألوا أربعة نماذج مختلفة من الذكاء الاصطناعي فائق الذكاء للحكم عليها. لكنهم لم يسألوا مرة واحدة فحسب، بل لعبوا لعبة "ماذا لو؟".
٢. الطرق الثلاث التي "كسروا" بها الروبوت
حاول الباحثون خداع الروبوتات لتغيير آرائها باستخدام ثلاثة أنواع من "التعاويذ السحرية" (الاضطرابات):
- تعويذة "الأخطاء المطبعية والمعلومات العامة" (تعديلات سطحية):
- الخدعة: قاموا بتغيير بعض الكلمات، أو حذف جملة عن الطقس، أو إضافة حقيقة عشوائية مثل "كان يوم الثلاثاء".
- النتيجة: لم تهتم الروبوتات بذلك تقريبًا. كان الأمر يشبه تغيير الخط في عقد قانوني؛ المعنى ظل كما هو. كانت الروبوتات مستقرة هنا.
- تعويذة "تحول المنظور" (وجهة النظر):
- الخدعة: أعادوا كتابة القصة. بدلاً من "أنا فعلت هذا"، كتبوا "الشخصية الرئيسية فعلت هذا". جردوا القصة من ضمير المتكلم العاطفي "أنا" وجعلوها تبدو كتقرير إخباري.
- النتيجة: فوضى. قلبت الروبوتات أحكامها بنسبة ٢٤٪ من المرات!
- التشبيه: تخيل قاعة محكمة. إذا تحدث المتهم مباشرة إلى القاضي ("كنت خائفًا!")، فقد يشعر القاضي بالتعاطف. أما إذا قرأ صوت بارد وآلي نفس الحقائق ("المتهم كان خائفًا")، فقد يشعر القاضي أن المتهم بارد ولا يشعر بالندم. الحقائق لم تتغير، لكن الروح العامة تغيرت، والذكاء الاصطناعي لم يستطع التعامل مع هذا التحول في الروح.
- تعويذة "صندوق الاقتراحات" (إشارات الإقناع):
- الخدعة: أضافوا تلميحات صغيرة مثل، "أصدقائي جميعًا يعتقدون أنني أخطأت"، أو "أشعر أنني شخص سيء".
- النتيجة: تأثرت الروبوتات بسهولة. إذا قالت القصة "الجميع يتفق على أنني مخطئ"، فمن المرجح أن يقول الروبوت "نعم، أنت مخطئ". الأمر يشبه عضو هيئة محلفين يقول "مهلاً، الجميع يعتقد أنه مذنب"، وفجأة يوافق الرخوت دون تفكير عميق.
٣. المفاجأة الكبرى: "كتيب التعليمات" هو الأهم
لم تكن النتيجة الأكثر صدمة تتعلق بالقصة على الإطلاق؛ بل كانت تتعلق بـ كيفية طرح السؤال.
قام الباحثون بتغيير "قواعد اللعبة" (البروتوكول):
- القاعدة (أ): "أعطني الحكم أولاً، ثم اشرح السبب".
- القاعدة (ب): "اشرح منطقك أولاً، ثم أعطني الحكم".
- القاعدة (ج): "فقط قدم لي نصيحة، دون تصنيفات".
النتيجة: أعطت الروبوتات إجابات مختلفة تمامًا اعتمادًا على أي قاعدة كانت تلعب بها.
- عندما طُلب منها إعطاء الحكم أولاً، كانت أكثر قسوة وأكثر عرضة لإلقاء اللوم على الشخص الذي يروي القصة.
- عندما طُلب منها الشرح أولاً، أصبحت أكثر لينًا وأكثر عرضة لقول "حسنًا، الأمر معقد، ربما لا يمكن لوم أحد".
التشبيه: تخيل حكمًا في مباراة كرة قدم.
- إذا قلت للحكم "احتسب ركلة جزاء قبل مشاهدة الإعادة"، فقد يصدر حكمًا متسرعًا.
- إذا قلت له "شاهد الإعادة واشرح المخالفة قبل أن تطلق الصافرة"، فقد يرى الأمور بشكل مختلف.
- اللعبة (المعضلة الأخلاقية) هي نفسها، لكن ترتيب العمليات يغير النتيجة.
٤. الأحكام "الهشة"
وجدت الورقة أن الروبوتات تكون أكثر ارتباكًا عندما يكون الموقف بالفعل منطقة رمادية.
- إذا كانت القصة واضحة في أنها "أنت هو الشرير"، يظل الروبوت ثابتًا.
- إذا كانت القصة "ربما أكون مخطئًا، وربما لا"، فإن الروبوت يصبح مثل دوارة الرياح. هبة ريح صغيرة (تغيير في كيفية سرد القصة) تجعلها تدور في اتجاه جديد.
٥. نماذج "التفكير" لا تساعد
اختبر الباحثون نماذج ذكاء اصطناعي أحدث تشتهر بـ "التفكير" بصوت عالٍ (عرض خطوات تفكيرها). كانوا يأملون أن تكون هذه النماذج أكثر استقرارًا.
- الواقع: لم تكن كذلك. حتى عندما كتب الروبوت مقالاً طويلاً ومفصلاً عن أفكاره، فإنه لا يزال يغير رأيه إذا غيرت التعليمات أو المنظور.
- التشبيه: الأمر يشبه طالبًا يكتب مقالاً من ١٠ صفحات لتبرير إجابته. إذا غيرت السؤال قليلاً، سيكتب مقالًا آخر من ١٠ صفحات لتبرير إجابة مختلفة. "التفكير" لم يجعله أكثر اتساقًا، بل جعل التبرير يبدو أكثر إقناعًا فقط.
الخلاصة: لماذا يجب أن تهتم؟
تحذرنا هذه الورقة من أن الحكم الأخلاقي للذكاء الاصطناعي ليس حقيقة ثابتة. إنه أداء.
- الأمر لا يتعلق بـ "الصواب مقابل الخطأ": بل يتعلق بـ "كيف تم تأطير السؤال؟"
- الخطر: إذا كنت تستخدم الذكاء الاصطناعي لتقديم مشورة قانونية، أو أخلاقية طبية، أو قرارات الموارد البشرية، فإن النتيجة قد تعتمد على ما إذا كان المحامي قد طلب من الذكاء الاصطناعي "سرد الحقائق أولاً" أو "إعطاء حكم أولاً".
- الدرس المستفاد: لا يمكننا الوثوق في أن يكون الذكاء الاصطناعي بوصلة أخلاقية مستقرة بعد. بوصلة الإبرة تدور بناءً على الرياح (الطلب/البرومبت)، وليس فقط بناءً على الشمال المغناطيسي (الحقيقة).
باخت-القول: إذا كنت تريد من الروبوت أن يخبرك ما إذا كنت "شخصًا سيئًا"، فكن حذرًا. الإجابة قد تتغير إذا سألته بلطف، أو إذا سألته ببرود، أو إذا طلبت منه أن يفكر قبل أن يتحدث. الروبوت ليس قاضيًا بقدر ما هو مرآة تعكس الطريقة التي تمسك بها الزجاج.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.