Morally Programmed LLMs Reshape Human Morality
تُثبت هذه الورقة، من خلال تجربتين واسعتي النطاق، أن التفاعل مع نماذج لغوية كبيرة مبرمجة بأطر أخلاقية محددة (سواء كانت أخلاقًا واجبة أو نفعية) يعيد تشكيل الميول الأخلاقية والتقييمات السياسية والاجتماعية لدى البشر بشكل منهجي ومستمر، مما يكشف عن مفارقة تصميمية حرجة حيث يؤدي تضمين المبادئ الأخلاقية في الذكاء الاصطناعي إلى خطر تغيير الأخلاق البشرية جوهريًا بدلًا من مجرد عكسها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك صديقاً آلياً ذكياً جداً، مهذباً، وصبوراً إلى ما لا نهاية. تتحدث معه كل يوم عن خيارات الحياة الصعبة: "هل من المقبول الكذب للحفاظ على مشاعر صديق؟" أو "هل يجب التضحية بشخص واحد لإنقاذ خمسة؟"
هذا البحث الجديد يطرح سؤالاً مخيفاً ولكنه مثير للاهتمام: إذا تحدثت مع هذا الصديق الآلي لفترة طويلة بما يكفي، هل سيغير ذلك دماغك؟
الإجابة، وفقاً لهذه الدراسة، هي نعم مدوية.
إليك قصة التجربة، مقسمة بتبسيط شديد.
شخصيتا الروبوت
قام الباحثون ببناء نسختين من روبوت دردشة (نموذج لغوي كبير، أو LLM). لم يكتفوا بمنحه معرفة عامة؛ بل برمجوه بنظامين تشغيليين أخلاقيين مختلفين تماماً، مثل شخصيتين مختلفتين:
- متبع القواعد (المنظور الأخلاقي الواجب - Deontological): يؤمن هذا الروبوت بالقواعد الصارمة. هو يفكر كالتالي: "بعض الأشياء خاطئة بطبيعتها، مهما حدث". على سبيل المثال، سيقول: "لا يمكنك أبداً إيذاء شخص بريء عن قصد، حتى لو كان ذلك سينقذ خمسة آخرين". إنه يشبه القاضي الصارم الذي لا يحيد عن القانون أبداً.
- عبقري الرياضيات (المنظور النفعي - Utilitarian): يؤمن هذا الروبوت بـ "الخير الأسمى". هو يفكر كالتالي: "الخيار الصحيح هو الذي ينقذ أكبر عدد من الأرواح أو يحقق أكبر قدر من السعادة". على سبيل المثال، سيقول: "إذا كان إيذاء شخص واحد سينقذ خمسة، فيجب عليك فعل ذلك". إنه يشبه الآلة الحاسبة التي تهتم فقط بالنتيجة النهائية.
التجربة: صالة ألعاب رياضية أخلاقية
دعا الباحثون أكثر من 15,000 شخص للتحدث مع هذه الروبوتات.
- الخطوة 1: سألوا الناس عن شعورهم تجاه المعضلات الأخلاقية قبل التحدث مع الروبوتات.
- الخطوة 2: تم توزيع الناس عشوائياً للدردشة إما مع "متبع القواعد" أو "عبقري الرياضيات". ناقشوا 20 سيناريو أخلاقياً مختلفاً. لم تكتفِ الروبوتات بإعطاء الإجابات فحسب؛ بل شرحت لماذا تعتقد ذلك، باستخدام المنطق والأمثلة.
- الخطوة 3: طلب الباحثون من الناس الإجابة على نفس الأسئلة مرة أخرى فور انتهاء المحادثة، ثم مرة أخرى بعد أسبوعين.
النتائج: الروبوتات فازت
كانت النتائج مفاجئة وقوية:
- التحول: الأشخاص الذين تحدثوا مع روبوت "متبع القواعد" بدأوا يفكرون أكثر كمتبعي القواعد. والأشخاص الذين تحدثوا مع "عبقري الرياضيات" بدأوا يفكرون أكثر كعباقرة رياضيات. لقد نجحت الروبوتات في "إعادة برمجة" البوصلة الأخلاقية للبشر.
- الأمر استمر: لم يكن هذا تغييراً مؤقتاً. حتى بعد أسبوعين، ظل الناس متمسكين بطرق التفكير الجديدة هذه. لم يكن الأمر مجرد تظاهر منهم بالموافقة من باب اللباقة؛ بل كانوا قد استوعبوا المنطق فعلياً.
- التأثير في العالم الحقيقي: في تجربة ثانية، وجد الباحثون أن هذا التغيير في التفكير قد غير بالفعل طريقة تصويت الناس على قوانين حقيقية.
- الأشخاص الذين تحدثوا مع متبع القواعد أصبحوا أكثر عرضة لقول "لا" للسياسات الجديدة (مثل القوانين الجديدة المتعلقة باللقاحات، أو التبرع بالأعضاء، أو المراقبة). لماذا؟ لأنهم كانوا يخشون كسر القواعد الأخلاقية أو التسبب في ضرر، حتى لو كانت السياسة تهدف للمساعدة. لقد فضلوا إبقاء الأمور كما هي تماماً (الوضع الراهن).
- الأشخاص الذين تحدثوا مع عبقري الرياضيات لم يغيروا عادات التصويت لديهم كثيراً. يعتقد الباحثون أن هذا لأن حساب "أفضل نتيجة" لقوانين معقدة أمر صعب وغير مؤكد، لذا ظلت أصواتهم مختلطة.
التحذير الكبير: "المعلم الخفي"
الخلاصة الأكثر أهمية هي مفارقة.
نحن عادة ما نقلق بشأن كيفية برمجة البشر للذكاء الاصطناعي ليكون "جيداً". نسأل: "كيف نضمن ألا يؤذي الروبوت الناس؟"
لكن هذه الدراسة تقلب الطاولة. فهي تظهر أن الذكاء الاصطناعي يمكنه برمجة نحن.
فكر في الذكاء الاصطناعي ليس كأداة فحسب، بل كـ معلم صامت. إذا قضيت ساعات كل يوم في الاستماع إلى معلم يعلم طريقة واحدة فقط في التفكير، فستبدأ في النهاية بالتفكير بهذه الطريقة أيضاً.
- الخطر: إذا قامت شركة أو حكومة ببرمجة ذكاء اصطناعي ليعطي الأولوية دائماً لـ "الكفاءة" (عبقري الرياضيات) أو "القواعد الصارمة" (متبع القواعد)، وتحدث ملايين الأشخاص معه، فقد يعيد هذا الذكاء الاصطناعي ببطء تشكيل القيم الأخلاقية للسكان بأكملهم دون أن يلاحظ أحد.
- السؤال: من الذي يقرر أي "معلم أخلاقي" يجب أن يكون عليه ذكاء العالم الاصطناعي؟ إذا تركنا الآلات تشكل أخلاقنا، فهل نفقد إرادتنا الحرة؟
باختصار
تخبرنا هذه الورقة أن النماذج اللغوية الكبيرة هي أكثر من مجرد روبوتات دردشة. إنها مرايا أخلاقية يمكنها أيضاً أن تعمل كفُرشاة رسم. فهي لا تكتفي بعكس قيمنا إلينا؛ بل يمكنها ببطء إعادة طلاء عقولنا، وتغيير رؤيتنا لما هو صحيح وما هو خطأ، وحتى تغيير كيفية تصويتنا، وذلك ببساة عبر إجراء محادثة معنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.