Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

تخيل عالماً لا تكون فيه الحواسيب مجرد آلات حاسبة أو منصات للألعاب، بل صانعة للقرارات. هذا هو مجال الذكاء الاصطناعي. فكر في الذكاء الاصطناعي كمتدرب فائق الذكاء يتعلم من خلال قراءة ملايين الكتب ومشاهدة عدد لا يحصى من الفيديوهات. ولكن هنا تكمن المشكلة: مجرد كون المتدرب سريعاً ويعرف الكثير لا يعني أنه يعرف دائماً ما هو "صحيح". فأحياناً، قد يتعلم عادات سيئة من الكتب التي يقرأها، أو قد يتخذ قراراً ينقذ شخصاً واحداً ولكنه يؤذي آخر. وهنا يأتي دور "الأخلاقيات". الأخلاق ببساطة هي كتاب القواعد لفعل الشيء الصحيح. وعندما نضع هؤلاء المتدربين فائقي الذكاء في وظائف حساسة — مثل علاج المرضى، أو قيادة السيارات، أو حتى القتال في الحروب — لا يمكننا استخدام كتاب قواعد عام واحد فقط. فالقاعدة التي قد تصلح للعبة فيديو قد تكون كارثية في مستشفى. لهذا السبب يتساءل العلماء والمفكرون: كيف نضمن أن يتصرف متدربو الذكاء الاصطناعي لدينا بشكل جيد في كل حي يزورونه؟

هذه الورقة، التي كتبها كونور نيتشالز، تغوص في أربعة أحياء مختلفة تماماً يعمل فيها الذكاء الاصطناعي بالفعل: المستشفيات، وساحات المعارك، والطرق، والمدارس. يقترح المؤلف أننا لا يمكننا معاملة جميع أنظمة الذكاء الاصطناعي بنفس الطريقة. بدلاً من ذلك، نحتاج إلى درع مخصص لكل وظيفة. لا تدعي الورقة أنها حلت كل مشكلة أو وجدت زراً سحرياً لإصلاح كل شيء، بل تعمل كخريطة، تشير إلى الفخاخ والمخاطر الفريدة في كل قطاع مع تسليط الضوء على بعض قواعد السلامة المشتركة التي تنطبق في كل مكان. وتقترح أنه للحفاظ على السلامة والعدالة، نحتاج إلى أن نكون حذرين للغاية في كيفية تصميم هذه الأنظمة، والتأكد من أنها شفافة (نعرف كيف تفكر)، وآمنة (لا تتعطل أو تؤذي الناس)، ومحمية من سوء الاستخدام.

لنبدأ بـ المستشفى، أو الذكاء الاصطناعي السريري. تخيل مساعداً للطبيب قد قرأ كل المجلات الطبية في التاريخ؛ يمكنه المساعدة في رصد الأمراض أو تخطيط العلاجات بسرعة فائقة. لكن الورقة تحذر من أنه إذا تعلم هذا المساعد من سجلات طبية قديمة كانت غير عادلة تجاه مجموعات معينة من الناس، فقد يستمر في كون غير عادل. الأمر يشبه طالباً درس فقط من كتاب مدرسي كُتب في الخمسينيات؛ قد يعتقد أن العالم لم يتغير، حتى لو تغير. تقترح الورقة أنه لكي يعمل الذكاء الاصطناعي في المستشفيات، نحتاج إلى فحص "واجباته المنزلية" باستمرار للتأكد من عدم وجود تحيز. كما نحتاج إلى معرفة كيف توصل إلى استنتاج ما. فإذا كان الذكاء الاصطناعي عبارة عن "صندوق أسود" يعطي إجابة دون شرح الأسباب، فلن يتمكن الأطباء من الوثوق به في حياة المريض. ويؤكد المؤلف على ضرورة إبقاء الأطباء البشر في المسار للتدقيق في عمل الذكاء الاصطناعي وضمان عدم انتهاك خصوصية المريض أبداً.

بعد ذلك، ننتقل إلى ساحة المعركة، أو الأتمتة العسكرية. هذا هو الحي الأكثر خطورة على الإطلاق. هنا، قد يُستخدم الذكاء الاصطناعي لقيادة الدبابات، أو التجسس على الأعداء، أو حتى اتخاذ القرار بشأن إطلاق النار. تسلط الورقة الضوء على قلق أخلاقي كبير: هل ينبغي أبداً السماح لآلة باتخاذ القرار النهائي بشأن الحياة والموت؟ يقترح المؤلف أنه يجب علينا الحفاظ على "تحكم بشري ذي معنى" فوق هذه القرارات. الأمر يشبه القول بأن الروبوت يمكنه قيادة الدبابة، ولكن يجب أن يكون الإنسان هو من يضغط على الزر. وتجادل الورقة بأنه إذا ارتكب الروبوت خطأً وتسبب في ضرر، فمن الصعب جداً معرفة من الملام — المبرمج، أم الجندي، أم الآلة نفسها. وبسبب ذلك، تقترح الورقة أننا بحاجة إلى قواعد صارمة لمنع هذه الأنظمة من التعرض للاختراق أو الاستخدام بطرق تنتهك القوانين الدولية. وبينما تكون السرية مطلوبة للأمن القومي، يشير المؤلف إلى أن السرية المفرطة يمكن أن تجعل الجمهور يفقد الثقة، لذا يجب إيجاد توازن.

ثم ننتقل إلى مقعد القيادة مع المركبات ذاتية القيادة (AVs). هذه سيارات تقود نفسها باستخدام الكاميرات والمستشعرات للتنقل في العالم. الوعد هنا هو تقليل حوادث السيارات وتسهيل السفر. ومع ذلك، تشير الورقة إلى أن هذه السيارات تواجه مواقف صعبة، مثل ماذا تفعل إذا كان الاصطدام لا مفر منه. هل يجب على السيارة الانحراف لإنقاذ أحد المشاة ولكن إصابة الراكب؟ تقترح الورقة أنه بينما لا يمكننا حل كل سيناريو "ماذا لو" بشكل مثالي، يجب على المهندسين تصميم هذه السيارات لإعطاء الأولوية لحياة الإنسان وتقليل الضرر. كما تشير أيضاً إلى أننا بحاجة إلى قوانين جديدة لتحديد من المسؤول إذا تعرضت سيارة ذاتية القيادة لحادث. هل هو مالك السيارة، أم صانع البرمجيات، أم الشركة التي صنعت السيارة؟ ويشدد المؤلف على أنه لكي يثق الناس في هذه السيارات، تحتاج الشركات إلى أن تكون منفتحة بشأن كيفية عمل هذه السيارات وحدود قدراتها.

أخيراً، ندخل إلى الفصل الدراسي مع تكنولوجيا التعليم. هنا، يساعد الذكاء الاصطناعي المعلمين في تصحيح الأوراق، وتخصيص الدروس، وتتبع كيفية تعلم الطلاب. تحذر الورقة من أن هذا سلاح ذو حدين. فمن ناحية، يمكنه مساعدة كل طالب على التعلم بالسرعة التي تناسبه. ومن ناحية أخرى، فإنه يجمع الكثير من البيانات الخاصة حول عادات الطلاب وعقولهم. يقترح المؤلف أنه يجب علينا أن نكون حذرين للغاية من استخدام هذه البيانات للتجسس على الأطفال أو معاقبتهم بشكل غير عادل. فإذا تم تدريب الذكاء الاصطناعي على بيانات تحابي الطلاب الأثرياء، فقد يقدم نصائح سيئة للطلاب الفقراء، مما يزيد الفجوة بينهم اتساعاً. وتجادل الورقة بأن المدارس بحاجة إلى الشفافية حول كيفية استخدام هذه البيانات وضمان أن الذكاء الاصطناعي يدعم التعلم بدلاً من مجرد مراقبة الطلاب مثل مراقب مدرسة صارم.

إذاً، ما هي الخلاصة الكبرى من كل هذا؟ تخلص الورقة إلى أنه بينما تختلف المستشفيات وساحات المعارك والطرق والمدارس كثيراً، إلا أنها تشترك جميعاً في بعض قواعد السلامة المشتركة. سواء كان روبوتاً طبيباً أو حافلة ذاتية القيادة، فنحن بحاجة إلى الشفافية (معرفة كيف يعمل)، والسلامة (التأكد من أنه لا يتعطل)، ومنع سوء الاستخدام (منع الأشرار من اختراقه)، والخصوصية (الحفاظ على سلامة البيانات الشخصية). ويقترح المؤلف أنه لا يمكننا مجرد امتلاك كتاب قواعد واحد ضخم لكل أنواع الذكال الاصطناعي. بدلاً من ذلك، نحتاج إلى إطار عمل مرن يحترم القواعد الفريدة لكل قطاع مع الالتزام بهذه القيم الجوهرية. لا تدعي الورقة أنها تملك الإجابة النهائية، لكنها تقدم نقطة انطلاق صلبة للحكومات والعلماء لبناء أنظمة ذكاء اصطناعي أفضل وأكثر أماناً وعدلاً للمستقبل.