Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics
تجادل هذه الورقة بأن الأهمية الحقيقية لمعضلة العربة في أخلاقيات المركبات ذاتية القيادة لا تكمن في تقديم حلول حاسمة لحوادث التصادم، بل في كونها إطاراً ديناميكياً للتنازع يعمل باستمرار على تشكيل وإعادة صياغة وتوسيع نطاق الاستقصاء الأخلاقي من السيناريوهات القصوى إلى قضا questões أوسع تتعلق بحوكمة المخاطر والمسؤولية المؤسسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تقود فيه السيارات نفسها، وتتخذ فيه قرارات خاطفة كانت في السابق حكراً على السائقين البشر. وبينما نتحرك نحو هذا المستقبل، تصدرت معضلة أخلاقية مألوفة المشهد في النقاش حول "مشكلة العربة". في شكلها الكلاسيكي، تطلب هذه التجربة الفكرية من الشخص الاختيار بين نتيجتين مروعتين، مثل سحب رافعة لتحويل مسار قطار جامح ليقتل شخصاً واحداً بدلاً من خمسة أشخاص. لسنوات، استُخدم هذا السيناريو للتساؤل عما إذا كان ينبغي برمجة السيارات ذاتية القيادة لتضحي بالراكب لإنقاذ مجموعة من المشاة، أو العكس. لقد تعامل الجمهور والصحافة مع هذه المعضلة باعتبارها الاختبار النهائي لأخلاقيات المركبات ذاتية القيادة، بافتراض أن التحدي الحقيقي يكمثل ببساطة في تحديد من سيصطدم به الحادث. ومع ذلك، يشير منظور جديد إلى أن التركيز فقط على لحظات الاصطدام القصوى هذه يغفل الصورة الأكبر لكيفية بناء القواعد الأخلاقية في الآلات.
يرى الباحثان لينج بينج ودان وان من جامعة هونان العادية أن القيمة الحقيقية لمشكلة العربة في عصر السيارات ذاتية القيادة لا تكمن في كونها تقدم إجابة جاهزة حول كيفية تصرف السيارة في حالة الكوارث. بدلاً من ذلك، يقترحان أن المشكلة تعمل كأداة قوية لتشكيل الأسئلة التي نطرحها في المقام الأول. ومن خلال دراسة كيفية استخدام هذا اللغز الأخلاقي الشهير، ونقده، وتكييفه من قبل المهندسين وعلماء الأخلاق، يوضح المؤلفان أن الجدل قد وسع مجال الدراسة بالفعل. فبدلاً من تضييق المحادثة لتقتصر فقط على سيناريوهات التصادم، أجبرت الجدل المحيط بمشكلة العربة الخبراء على النظر في القرارات اليومية والروتينية التي تتخذها السيارات، وكيفية إدارة المخاطر بمرور الوقت، ومن المسؤول عندما تسوء الأمور. إن مشكلة العربة، من هذا المنظور، ليست طريقاً مسدوداً بل هي نقطة انطلاق تبقي المحادثة مستمرة في المضي قدماً.
لفهم هذا التحول، يجب على المرء أولاً أن ينظر إلى كيفية عمل مشكلة العربة في الفلسفة. فهي ليست مجرد قصة عن خيار صعب؛ بل هي وسيلة لمقارنة موقفين يبدوان متشابهين جداً ولكن يجعلان الناس يشعرون بشكل مختلف تجاه ما هو صحيح. على سبيل المثال، في نسخة واحدة من القصة، يمكن لشخص أن ينقذ خمسة أشخاص عن طريق سحب رافعة لتغيير المسار، مما يؤدي إلى قتل شخص واحد في الجانب الآخر. يشعر معظم الناس أن هذا مقبول. وفي نسخة أخرى، الطريقة الوحيدة لإنقاذ الخمسة هي دفع شخص ضخم من فوق جسر لإيقاف القطار. هنا، يشعر معظم الناس أن هذا خطأ، رغم أن النتيجة هي نفسها: يموت شخص واحد لإنقاذ خمسة. يستخدم الفلاسفة هذه الفجوة في الشعور لتحديد التفاصيل المحددة التي تهم أخلاقياً. ويوضح الباحثان أنه عندما ينتقل هذا المنهج إلى عالم السيارات ذاتية القيادة، فإنه يتوقف عن كونه مجرد قصة عن لحظة أزمة ويصبح إطاراً لتنظيم طريقة تفكيرنا في التكنولوجيا.
عند تصميم السيارات ذاتية القيادة، فإنها لا تنتظر وقوع حادث قبل اتخاذ قرارها. فقواعدها تُكتب قبل وقت طويل من خروجها إلى الطريق. يصف المؤلفان كيف تتحول مشكلة العربة في هذا السياق؛ فهي تتوقف عن كونها سؤالاً عما يجب أن يفعله الإنسان في حالة الطوارج، وتصبح سؤالاً عما يجب أن يكتبه المهندسون في البرمجيات. وهذا يغير طبيعة المشكلة تماماً. فبدلاً من السؤال "بمن يجب أن تصطدم السيارة؟"، يصبح السؤال "كيف نبني نظاماً يتخذ هذه الخيارات؟". تساعد مشكلة العربة الباحثين في تحديد القيم التي يتم دمجها في كود السيارة، مثل ما إذا كانت السيارة تعطي الأولوية لسلامة ركابها أو الأشخاص في الشارع. إنها تعمل كعدسة تسلط الضوء على قضايا أخلاقية معينة، وبالتحديد توزيع الضرر وترتيب القيم.
ومع ذلك، يشير المؤلفان إلى أن لهذه العدسة حداً. فإذا نظرنا فقط إلى مشكلة العربة، فقد نفوت الجزء الأكبر مما تفعله السيارات ذاتية القيادة بالفعل. وقد جادل النقاد بأن السيناريوهات الكلاسيكية شديدة التطرف وغير واقعية. فالسيارات الحقيقية لا تواجه خيارات واضحة ومثالية بين قتل شخص واحد أو خمسة. بل تواجه مواقف فوضوية وغير مؤكدة في كل ثانية من كل يوم. وجد الباحثون أنه بينما كان الناس يتجادلون حول ما إذا كانت مشكلة العربة مناسبة للسيارات ذاتية القيادة، فإن الجدل دفع المجال فعلياً للنظر إلى ما وراء التصادم. إن النقد بأن المشكلة كانت ضيقة للغاية أجبر الخبراء على التفكير في "المواقف العادية" للقيادة. وهذه هي اللحظات الروتينية، مثل قرار السيارة بشأن مدى قربها من أحد المشاة عند ممر المشاة أو سرعة قيادتها في تقاطع مزدحم. هذه القرارات الروتينية، التي تحدث ملايين المرات يومياً، توزع المخاطر عبر المجتمع بطرق لا يمكن لسيناريو تصادم واحد أن يستوعبها.
تشير الورقة البحثية إلى أن مشكلة العربة قيمة تحديداً لأنها محل نزاع. فالآراء المعارضة لها — بالقول إنها بسيطة للغاية، أو درامية للغاية، أو نادرة للغاية — ليست علامات على وجوب التخلي عن الفكرة. بدلاً من ذلك، تعمل هذه الانتقادات كآلية توسع المحادثة الأخلاقية. فعندما يقول الخبراء إن مشكلة العربة تتجاهل المخاطر اليومية للقيادة، فإنهم يُدفعون لابتكار طرق جديدة للتفكير في إدارة المخاطر والمسؤولية. ينتقل الجدل من "ماذا يجب أن تفعل السيارة في حالة التصادم؟" إلى "كيف يجب أن تتصرف السيارة لمنع التصادمات؟" و"من المسؤول عن المخاطر التي تخلقها السيارة أثناء القيادة العادية؟". تعمل مشكلة العربة كنقطة مرجعية تساعد في هيكلة هذه الأسئلة الجديدة، حتى وهي تتعرض للنقد. إنها تجبر المجال على تحديد حدوده وتحديد ما يعتبر مشكلة أخلاقية في المقام الأول.
في النهاية، يخلص الباحثون إلى أن مشكلة العربة لا تحل التحديات الأخلاقية للسيارات ذاتية القيادة. فهي لا تخبرنا بالإجابة الصحيحة حول كيفية برمجة المركبة. بدلاً من ذلك، هي تشكل الطريقة التي نصيغ بها المشكلات التي نحتاج إلى حلها. ومن خلال تسليط الضوء على قضايا معينة وإخفاء أخرى، ومن خلال التعرض للنقد بسبب فعل ذلك بالضبط، تبقي مشكلة العربة البحث الأخلاقي حياً ومتطوراً. إنها تذكرنا بأن الجزء الأهم في أخلاقيات التكنولوجيا ليس مجرد إيجاد الإجابة الصحيحة، بل فهم كيفية تقريرنا لما هو السؤال. إن الجدل نفسه، بكل ما فيه من خلافات وتنقيحات، هو ما يسمح لنا برؤية التعقيد الكامل للمشهد الأخلاقي الذي تدخل إليه السيارات ذاتية القيادة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.