Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
تقدم هذه الورقة نتائج ورشة عمل ضمت أصحاب مصلحة متعددين في المملكة المتحدة، حيث قام ممثلون عن المجتمع وضباط شرطة وأكاديميون بتقييم أدوات الشرطة القائمة على الذكاء الاصطناعي بشكل تعاوني، مما كشف عن أن إعطاء الأولوية للعدالة العرقية أدى إلى قبول واسع لمعظم حالات الاستخدام بناءً على تركيز مشترك على الفعالية والمنفعة الشاملة بدلاً من الرفض القاطع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قبطان لسفينة ضخمة، متهالكة قليلاً، تُدعى "المجتمع". على متن سفينتك نظام ملاحة جديد ولامع: الذكاء الاصطنا_عي (AI). هذا ليس مجرد بوصلة؛ بل هو روبوت فائق الذكاء يمكنه التنبؤ بالعواصف، ورصد الشعاب المرجانية المخفية، وحتى اقتراح أسرع طريق إلى وجهتك. في عالم العمل الشرطي، يُطلب من هذا الروبوت المساعدة في القبض على الأشرار، وتحديد من قد يرتكب مخالفات قانونية مرة أخرى، ومعرفة أين يرسل الضباط. لكن العقدة تكمكمن في أن السفينة لها تاريخ في التوجه قريباً جداً من جزر معينة، مما ألحق الضرر بسكانها، وقد يكون الروبوت قد تعلم تلك العادات السيئة من الخرائط القديمة.
يغوص هذا البحث في ركن محدد للغاية من العلم حيث تلتقي التكنولوجيا بالعدالة الإنسانية. إنه يستكشف كيف يمكننا استخدام أدوات الذكاء الاصطناعي القوية هذه دون أن نتسبب عن غير قصد في تفاقم المظالم القديمة. الفكرة الأساسية هي "التحيز" — وهو يشبه نظارة تجعلك ترى العالم بشكل مشوه. إذا كانت نظارات الروبوت ملونة بآثار أخطاء الماضي، فقد يعتقد أن الشخص المسالم خطير لمجرد هويته أو مكان سكنه. السؤال الكبير ليس فقط "هل يستطيع الروبوت القيام بالمهمة؟" بل "هل سيقوم بالمهمة بعدالة للجميع؟" وهذا أمر مهم، لأننا إذا تركنا الروبوت يقود السفينة دون فحص رؤيته، فقد نصطدم بالناس الذين نحاول حمايتهم.
إذن، ماذا فعل الباحثون حقاً؟ لم يكتفوا بالجلوس في مختبر وإجراء محاكاة حاسوبية. بدلاً من ذلك، نظموا "اجتماع سفينة" ضخاً لمدة يوم واحد مع 30 شخصاً. كانت هذه المجموعة مزيجاً من ضباط الشرطة، وقادة المجتمع (أولئك الذين يعرفون الشوارع ومعاناة جيرانهم)، والعلماء. جلسوا معاً للنظر في 13 طريقة مختلفة قد تستخدم بها الشرطة الذكاء الاصطناعي. لم يسألوا فقط: "هل هذه تقنية رائعة؟"، بل سألوا: "هل تعمل؟ هل تساعد؟ وهل تساعد الجميع؟"
كانت النتائج دقيقة ومتعددة الأوجه بشكل مفاجئ. لم يرفض الفريق فكرة الذكاء الاصطناعي برمتها؛ بل كانوا منفتحين عليها في الواقع! لقد قالوا "لا، قطعياً" لثلاث استخدامات محددة فقط. كان أكبر رفض موجه للأدوات التي تحاول التنبؤ بما إذا كان شخص ما سيرتكب جريمة مرة أخرى (ما يسمى "خطر العودة للإجرام"). شعر المشاركون أن فكرة التنبؤ بسلوك شخص مستقبلي هي فكرة معيبة، وليس الكود البرمجي فحداً. وجادلوا بأن النظام إذا بُني على سجلات الاعتقال الماضية، فسوف يستمر في معاقبة نفس الأشخاص مراراً وتكراراً، مثل عجلة الهامستر التي لا تتوقف عن الدوران.
ومع ذلك، بالنسبة لأدوات أخرى، مثل استخدام الذكاء الاصطناعي لتحديد بؤر الجريمة الساخنة أو لمساعدة الضباط في كتابة التقار، كان الفريق أكثر استعداداً لتجربتها. لكنهم وضعوا قواعد صارمة؛ لم يريدوا للروبوت أن يكون هو القبطان، بل أرادوا أن يكون مساعد طيار مفيداً. وأصروا على أن يكون الضابط البشري هو دائماً صاحب القرار النهائي. كما طالبوا بأن يكون الذكاء الاصطناعي شفافاً — لا "صناديق سوداء" سحرية. إذا كان سيتم استخدام الأداة، فعليها أن تثبت أنها تعمل بالفعل ولا تخلق مجرد شعور زائف بالكفاءة.
من أكثر الأمور إثارة للاهتمام التي وجدها الباحثون هي الطريقة التي تحدث بها الفريق. على الرغم من أن الاجتماع كان من المفترض أن يركز بشدة على التحيز العرقي، إلا أن المحادثة نمت بشكل طبيعي لتصبح شيئاً أكبر. بدأ المشاركون بطرح نفس الأسئلة الثلاثة لكل أداة: "هل تعمل حقاً؟ هل ستجلب فوائد حقيقية؟ وهل ستصل تلك الفوائد للجميع، وليس فقط للمحظوظين القليلين؟"
هذا يشبه "تأثير منحدر الرصيف" في تصميم المدن. أنت تعلم كيف أن المنحدر المبني لمستخدم كرسي متحرك يساعد أيضاً شخصاً يدفع عربة أطفال، أو عامل توصيل بعربة، أو مسافراً بحقيبة سفر؟ وجد الباحثون أنه من خلال تصميم الذكاء الاصطناعي مع مراعاة المجتمعات الأكثر تهميشاً، انتهى بهم الأمر إلى طرح أسئلة أفضل جعلت الأدوات أكثر أماناً وفائدة للجميع. أدركوا أنه إذا أصلحت الأداة من أجل الأشخاص الأكثر عرضة للتضرر منها، فستقوم عادةً بإصلاحها للجميع أيضاً.
في النهاية، يشير هذا البحث إلى أن أفضل طريقة لبناء ذكاء اصطناعي عادل ليست في امتلاك قائمة من "الممنوعات" أو ترك الخبراء التقنيين وحدهم ليقرروا. بل هي في إشراك المجتمع بأكمعه في وقت مبكر. أظهر المشاركون أنه عندما تمزج أصواتاً مختلفة — الشرطة، وأفراد المجتمع، والعلماء — تحصل على صورة أوضح للمخاطر. لم يرفضوا التقدم؛ بل طالبوا بأن يكون التقدم صادقاً، ومفيداً، وعادلاً. لقد أثبتوا أنه إذا كنت تريد روبوتاً يساعد السفينة على الإبحار بأمان، فعليك الاستماع إلى الناس الذين يعرفون المياه جيداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.