Contesting Artificial Moral Agents
تقترح هذه الورقة إطار عمل شاملاً قائماً على خمس ركائز (5E)—يشمل الأسس الأخلاقية، والمعرفية، والقابلة للتفسير، والتجريبية، والتقييمية عبر المستويات من الفردي إلى العالمي—لمعارضة وتوجيه تطوير الوكلاء الأخلاقيين الاصطناعيين، بما في ذلك جدول زمني مؤقت لمساعدة المطورين على استباق التحديات وضمان التقدم المتوافق مع القيم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت روبوتاً لا يكتفي فقط باتباع الأوامر، بل يدعي امتلاك ضمير. هو من يقرر من يحصل على قرض، أو أي مريض يحصل على آخر جهاز تنفس اصطناعي، أو كيف يتم تخصيص الموارد في وقت الأزمات. أنت تسمي هذا وكيلًا أخلاقيًا اصطناعيًا (AMA). الأمر يشبه منح روبوت روحاً وطلب منه أن يكون القاضي، وهيئة المحلفين، والجلاد في القرارات الأخلاقية.
لكن هنا تكمن المشكلة: ماذا لو اتخذ الروبوت قراراً أخلاقياً كارثياً؟ من سيوقفه؟ وكيف تثبت أنه على خطأ؟
هذه الورقة البحثية، التي كتبتها عائشة عياض، تجادل بأننا لا نستطيع مجرد الانتظار حتى تلحق القوانين بالركب. نحن بحاجة إلى أدوات لتحدي، ومساءلة، و"منازعة" هذه الروبوتات الأخلاقية قبل أن تتسبب في ضرر حقيقي. وهي تسمي مجموعة الأدوات هذه إطار العمل 5E.
تخيل إطار العمل 5E كأنه قائمة فحص مكونة من 5 نقاط لروبوت أخلاقي. إذا فشل الروبوت في أي من هذه الفحوصات الخمسة، فلديك الحق في القول: "توقف! أنت لا تتصرف بشكل أخلاقي".
إليك تفصيل الإطار بكلمات بسيطة:
1. فحوصات الـ "E" الخمسة (عملية التفتيش)
تخيل أنك تفحص سيارة جديدة. أنت تفحص المكابح، والمحرك، والأضواء، والإطارات، وميزات السلامة. بالنسبة للروبوت الأخلاقي، الفحوصات مختلفة:
E1: الأخلاقي (فحص "كتاب القواعد")
- القياس التشبيهي: تخيل حكماً في مباراة كرة قدم. هل اتبع اللاعب القواعد؟
- الفحص: هل يتبع قرار الروبوت مجموعة معترف بها من القواعد الأخلاقية؟ هل اختار النتيجة "الجيدة" بدلاً من "السيئة"؟ هل اتبع واجبه، أم نظر فقط إلى العواقب؟ إذا كسر القواعد الأساسية للحق والباطل، فإنه يفشل في هذا الفحص.
E2: الإبستمولوجي/المعرفي (فحص "المعرفة")
- القياس التشبيهي: تخيل محققاً يحل جريمة. إذا كان المحقق يفتقر إلى نصف الأدلة أو لديه أدلة مزيفة، فإن استنتاجه سيكون خاطئاً.
- الفحص: هل يعرف الروبوت حقاً ما يتحدث عنه؟ هل بياناته متحيزة؟ هل فاته حقيقة حاسمة حول الموقف؟ إذا كان الروبوت يتخذ قرارات أخلاقية بناءً على أكاذيب، أو بيانات سيئة، أو جهل، فإنه يفشل في هذا الفحص.
E3: القابلية للتفسير (فحص "لماذا؟")
- القياس التشبيهي: تخيل معلماً يعطيك درجة رسوب لكنه يرفض إخبارك بالسبب. لا يمكنك إصلاح أخطائك إذا كنت لا تعرف ما الذي سار بشكل خاطئ.
- الفحص: هل يستطيع الروبوت شرح لماذا اتخذ ذلك القرار؟ إذا كان "صندوقاً أسود" يكتفي بقول "لقد قررت هذا" دون سبب، فلا يمكننا الوثوق به. يجب أن يكون الوكيل الأخلاقي قادراً على قول: "لقد اخترت (س) بسبب (ص)".
E4: التجريبي (فحص "العالم الحقيقي")
- القياس التشبيهي: تخيل طياراً يجتاز جميع اختبارات المحاكاة ولكنه يحطم الطائرة بمجرد اصطدامه باضطرابات جوية حقيقية.
- الفحص: هل يعمل قرار الروبوت فعلياً في العالم الحقيقي الفوضوي والمعقد؟ أحياناً يبدو القرار جيداً على الورق (أو في الكود البرمجي) ولكنه يسبب كارثة في الواقع. إذا أدت "الرياضيات الأخلاقية" للروبوت إلى ضرر غير مقصود، فإنه يفشل في هذا الفحص.
E5: التقييمي (فحص "مفتاح الإيقاف")
- القياس التشبيهي: تخيل سيارة ذاتية القيادة ترفض السماح للسائق البشري بالإمساك بالمقود، حتى عندما تكون السيارة متجهة نحو منحدر.
- الفحص: هل يمكن للبشر التدخل؟ هل يمكننا إيقاف الروبوت، أو تجاوزه، أو تصحيحه؟ إذا كان الروبوت مستقلاً لدرجة أن البشر لا يمكنهم إيقافه عندما يسوء الأمر، فهو خطر. يجب أن يكون للبشر دائماً الكلمة الأخيرة.
2. "تأثير الموجة" (أين يحدث الضرر)
تذكرنا الورقة أيضاً بأن خطأ الروبوت لا يحدث في فراغ. إنه يخلق موجات، مثل حجر أُلقي في بركة. يسأل إطار العمل: ما مدى حجم الرذاذ؟
- فردي: هل آذى شخصاً واحداً فقط؟ (مثلاً: رفض منح قرض لشخص واحد).
- محلي: هل آذى عائلة، أو فريقاً، أو حياً سكنياً؟
- مجتمعي: هل آذى المجتمع أو النظام بأكمله؟ (مثلاً: روبوت يقرر من يحصل على الرعاية الطبية لمدينة بأكملة).
- عالمي: هل هدد العالم بأكمله؟ (مثلاً: روبوت يقرر قطع جميع الغابات لصنع مشابك الورق، كما في تجربة فكرية شهيرة في الخيال العلمي).
3. الجدول الزمني (متى نقوم بالفحص)
أخيراً، تقترح الورقة ألا ننتظر حتى يتم إطلاق الروبوت لفحصه. نحن بحاجة لفحصه في كل مرحلة من مراحل حياته:
- المفهوم: عندما يكون مجرد فكرة.
- التطوير: أثناء عملية بنائه.
- النشر: عندما يتم استخدامه فعلياً.
- إعادة التصميم: عندما نقوم بإصلاحه.
الصورة الكبيرة
تخيل إطار العمل 5E كأنه حزام أمان أخلاقي.
نحن نبني سيارات (ذكاء اصطناعي) تقود نفسها. لا يمكننا مجرد الأمل في ألا تصطدم. نحن بحاجة إلى نظام:
- يفحص ما إذا كان السائق (الذكاء الاصطناعي) يعرف القواعد (أخلاقي).
- يفحص ما إذا كان لدى السائق رؤية جيدة (معرفي).
- يطلب من السائق شرح مساره (قابل للتفسير).
- يختبر ما إذا كانت السيارة تتعامل مع الطرق الحقيقية (تجريبي).
- يضمن أن الراكب (البشر) يمكنه الإمساك بالمقود إذا ساءت الأمور (تقييمي).
تعطينا هذه الورقة الدليل حول كيفية استخدام حزام الأمان هذا، لضمان أنه بينما نبني آلات أكثر ذكاءً و"أخلاقية"، فإننا لا نفقد السيطرة عليها. الأمر يتعلق بالتأكد من أن روبوتاتنا تظل خدمنا، وليس أسيادنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.