The Ethical Decision Head: Operationalizing Normative Ethics in Autonomous Vehicles via Reinforcement Learning from Human Feedback
تقدم هذه الورقة "رأس القرار الأخلاقي" (Ethical Decision Head)، وهو إطار عمل للتعلم التعزيزي يستخدم التغذية الراجعة البشرية لتدريب المركبات ذاتية القيادة، مما يكشف عن تباين حرج حيث تتعلم الوكلاء إعطاء الأولوية لتفضيل المقيمين البشريين للتضحية بالذات على الهدف النفعي النظري المتمثل في تقليل إجمالي الضحايا.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إن الطريق أمام السيارات ذاتية القيادة لم يعد يقتصر فقط على تجنب الحوادث؛ بل يتعلق باتخاذ القرارات عندما تكون الحوادث حتمية. ومع نضوج هذه الآلات إلى الحد الذي يمكنها فيه القيادة بنفسها دون مساعدة بشرية، ستواجه حتماً مواقف يكون فيها الاصطدام مؤكداً، ويكون السؤال الوحيد هو من سيتعرض للأذى. هذه هي النسخة الحديثة من معضلة فلسفية قديمة تُعرف باسم "معضلة العربة"، حيث يجب اتخاذ قرار بين نتيجتين سيئتين. لعقود من الزمن، ناقش الفلاسفة كيف ينبغي للإنسان أن يتصرف في مثل هذه اللحظات، موازنين بين قيمة الأرواح المختلفة وأخلاقية اتخاذ إجراء ما مقابل عدم فعل أي شيء. الآن، يحاول المهندسون تعليم الحواسيب كيفية اتخاذ هذه القرارات نفسها. التحدي لا يكمل في كتابة برنامج حاسوبي يتبع مجموعة من القواعد الجامدة فحسب، بل في تعليم الآلة فهم القيم الإنسانية، والتي غالباً ما تكون فوضوية، وغير متسقة، وعميقة العاطفة.
قام فريق من الباحثين في جامعة ستوني بروك باختبار ما إذا كان بإمكان الآلة تعلم هذه القيم البشرية المعقدة مباشرة من البشر، بدلاً من برمجتها بتعليمات ثابتة. لقد بنوا نظاماً يسمونه "رأس القرار الأخلاقي" (Ethical Decision Head)، وهو طبقة برمجية متخصصة مصممة للتدخل عندما تواجه السيارة ذاتية القيادة اصطداماً وشيكاً. في هذه اللحظات الخاطفة، يجب على السيارة أن تقرر ما إذا كانت ستستمر في مسارها، أو تنحرف يساراً، أو تنحرف يميماً. أراد الباحثون معرفة ما إذا كان بإمكانهم تدريب هذا النظام باستخدام طريقة تسمى "التعلم المعزز من التغذية الراجعة البشرية". وبدلاً من إخبار الحاسوب بما يجب فعله بالضبط، عرضوا عليه 200 سيناريو لحوادث وطلبوا من متطوعين بشريين اثنين اختيار النتيجة الأفضل بين خيارين. بعد ذلك، تعلم الحاسوب محاكاة هذه الاختيارات البشرية، آملين في استيعاب المنطق الأخلاقي الكامن وراءها.
لاختبار هذه الفكرة، وضع الباحثون مجموعتين مختلفتين من القواعد ليتبعها الحاسوب. كانت الأولى قائمة على المذهب النفعي، وهو فلسفة تقول إن التصرف الصحيح هو الذي ينقذ أكبر عدد من الأرواح إجمالاً. أما الثانية فكانت قائمة على أفكار إيمانويل كانط، وهو فيلسوف جادل بأن بعض الأفعال خاطئة بغض النظر عن النتيجة، مثل استخدام شخص ما كأداة لإنقاذ الآخرين. درب الباحثون نظامهم لتعلم كلا النهجين. وعندما اختبروا النظام على القواعد الكانتية، عمل بشكل مثالي؛ فقد تعلم الحاسوب بسرعة أن الحركة الوحيدة الصحيحة هي عدم الانحراف نحو أحد المشاة مهما حدث، والتزم بهذه القاعدة دون استثناء. أثبت هذا النجاح أن نظام التدريب نفسه كان يعمل بشكل صحيح وأن الحاسوب كان قادرا على تعلم قاعدة أخلاقية صارمة.
ومع ذلك، عندما انتقل الباحثون إلى القواعد النفعية، كانت النتائج مذهلة ومختلفة تماماً. توقعوا أن يتعلم الحاسوب كيفية تقليل إجمالي الإصابات من خلال اتخاذ الخيار الصحيح رياضياً في كل سيناريو. بدلاً من ذلك، تعلم الحاسوب شيئاً آخر تماماً. فبعد تحليل 200 سيناريو مختلف للحوادث، فشل النظام في اختيار الخيار المنقذ للحياة في نصف الحالات تقريباً. وبدلاً من تقليل الخسائر البشرية، بدأ يميل إلى نمط سلوكي حيث يضحي بنفسه أو بالركاب لتجنب صدم أحد المشاة بشكل مباشر. حدث هذا لأن المتطوعين البشريين الذين قدموا التغذية الراجعة لم يختاروا الخيار المنقذ للحياة في كثير من الأحيان كما تقترح القواعد الفلسفية. فقد مال الناس إلى تفضيل أن لا تفعل السيارة شيئاً أو أن تضحي بنفسها، حتى لو أدى ذلك إلى إصابة عدد أكبر من الناس في المجمل. بدا أنهم شعروا بأن الانحراف الفعلي نحو شخص ما أسوأ من ترك مأساة تحدث عن طريق الخطأ، وهو ميل نفسي يُعرف باسم "انحياز الإغفال" (omission bias). ومن الجدير بالذكر أن هؤلاء المقيّمين البشريين لم يتجاوز عددهم شخصين فقط تم استدعاؤهما من مجتمع جامعي عام، مما يضع قيوداً على إمكانية تعميم هذه النتائج.
كشفت الدراسة عن فجوة عميقة بين ما يقول الناس إنهم يؤمنون به نظرياً وبين ما يكافئونه في الممارسة العملية. فعندما أزال الباحثون التغذية الراجعة البشرية ودربوا الحاسوب فقط على الهدف الرياضي الصارم المتمثل في إنقاذ الأرواح، أصبح دقيقاً للغاية على الفور، حيث اختار المسار المنقذ للحياة بنسبة تزيد عن 90 في المائة. أثبت هذا أن الحاسوب كان قادراً على تعلم الفلسفة النفعية، لكن التغذية الراجعة البشرية سحبته بعيداً عن ذلك الهدف. لم يفشل الحاسوب في تعلم الأخلاق، بل تعلم الأخلاق البشرية تماماً كما يمارسها البشر، بكل تناقضاتها وتحيزاتها العاطفية. وجد الباحثون أننا عندما نحاول تعليم الآلة أن تكون أخلاقية من خلال سؤال الناس عما يفضلونه، قد ينتهي بنا الأمر بتعليمها أن تكون غير متسقة، وتمنح الأولوية لمشاعرنا على حساب النتيجة الفعلية.
يشير هذا الاكتشاف إلى أن مجرد سؤال الناس عما يريدون قد لا يكون كافياً لبناء سيارة ذاتية القيادة أخلاقية حقاً. فإذا كان الهدف هو إنشاء نظام ينقذ أكبر عدد من الأروا_الأرواح باستمرار، فإن الاعتماد على التغذية الراجعة البشرية قد يجعل السيارة أقل أماناً، لأن البشر غالباً ما يفضلون الأفعال التي تبدو "صحيحة" في اللحظة الراهنة ولكنها تؤدي إلى نتائج أسوأ إجمالاً. لا تدعي الدراسة أنها حلت مشكلة كيفية برمجة الأخلاق في الآلات، لكنها تظهر أن الطريق أكثر تعقيداً من مجرد نسخ الاختيارات البشرية. إنها تسلط الضوء على توتر جوهري: القيم التي نحملها في رؤوسنا عندما نفكر في الأخلاق ليست دائماً هي نفسها الاختيارات التي نتخذها عندما يُطلب منا الحكم على موقف حقيقي. وبينما نتحرك نحو مستقبل تتخذ فيه الآلات قرارات تتعلق بالحياة أو الموت، قد نحتاج إلى تحديد ما إذا كنا نريدها أن تتبع غرائزنا البشرية الناقصة أم مجموعة من المبادئ الأكثر صرامة واتساقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.