Before Prediction Becomes Punishment: Governing AI in Bangladesh's Criminal Justice System

تخيل عالماً يساعد فيه برنامج حاسوبي في تقرير من يتم اعتقاله، ومن يبقى في السجن قبل محاكمته، ومدة قضاء العقوبة. هذا ليس خيالاً علمياً؛ بل هو الواقع الناشئ للعدالة الجنائية في أماكن كثيرة، بما في ذلك بنغلاديش. الفكرة الجوهرية وراء هذه الأنظمة هي "الشرطة التنبؤية" أو "تقييم المخاطر". فبدلاً من أن يعتمد ضابط الشرطة أو القاضي فقط على ذاكرته أو ملف واحد، يستخدمون برمجيات تمسح كميات هائلة من البيانات — مثل الاعتقالات السابقة، وأماكن سكن الناس، وأعمارهم، أو تاريخ عائلاتهم — لتخمين من قد يرتكب جريمة في المستقبل أو من يحتمل أن يهرب إذا أُطلق سراحه. الوعد هنا هو الكفاءة: القبض على الأشرار بشكل أسرع ومعاملة الجميع على قدم المساواة. لكن الخطر حقيقي بنفس القدر. فإذا تعلم الحاسوب من أخطاء الماضي، مثل قوة شرطة كانت تكتفي بالدوران في الأحياء الفقيرة فقط، فسيخبر الشرطة ببساطة بضرورة الدوران في تلك الأحياء نفسها مرة أخرى، مما يخلق حلقة مفرغة حيث يُعاقب الفقراء بشكل متكرر، ليس لأنهم أسوأ، بل لأنهم كانوا تحت المراقبة بشكل أوثق. السؤال الذي تواجه الدول اليوم ليس ما إذا كان ينبغي استخدام هذه الأدوات، بل كيف نستخدمها دون تحويل الظلم التاريخي إلى عقاب مؤتمت.

لقد بحثت باحثة تُدعى شانجيدا إسرات جيهان إفات، من جامعة نوتردام بنغلاديش، في هذه اللحظة تحديداً بالنسبة لبلدها. تعمل بنغلاديش حالياً على بناء الأساس الرقمي لمثل هذا النظام. فقد أدخلت الحكومة أجهزة محمولة يمكنها مسح بصمة إصبع الشخص واستحضار هويته وجواز سفره وسجله الجنائي فوراً. وتسمح القوانين الجديدة باستخدام السجلات الرقمية كأدلة في المحكمة، كما يجري إعداد مسودة سياسة وطنية لتوجيه كيفية استخدام الذكاء الاصطناعي من عام 2026 إلى 2030. ومع ذلك، لا تمتلك البلاد بعد قواعد واضحة حول متى يكون تخمين الحاسوب قوياً بما يكفي لتبرير سلب حرية شخص ما. إن عمل "إفات" هو بمثابة خارطة طريق مصممة لمنع البلاد من ارتكاب خطأ فادح: وهو تبني تكنولوجيا تبدو حديثة ولكنها في الواقع تعمق عدم المساواة القديمة.

يبدأ البحث برسم خريطة دقيقة لأماكن دخول هذه الأنظمة الحاسوبية في عملية العدالة، بدءاً من اللحظة التي يخطط فيها رجال الشرطة لدورياتهم وصولاً إلى اليوم الذي يُطلق فيه سراح السجين. وتحدد الباحثة سبع مراحل رئيسية يمكن أن تسوء فيها الأمور. على سبيل المثال، عندما تستخدم الشرطة برمجيات للتنبؤ بأماكن وقوع الجرائم، قد يقوم النظام ببساطة بإرسال المزيد من الضباط إلى المناطق التي تخضع بالفعل لرقابة شديدة. وهذا يخلق دورة حيث يجد المزيد من الضباء المزيد من المخالفات البسيطة، والتي يستخدمها الحاسوب بعد ذلك كدليل على أن المنطقة خطيرة، مما يبرر إرسال المزيد من الضباط. هذا ليس ملاحظة محايدة للجريمة؛ بل هو نبوءة ذاتية التحقق. وبالمثل، عندما تُستخدم البرمجيات لتحديد المشتبه بهم من خلال التعرف على الوجه أو بصمات الأصابع، فإن خطأً في النظام يمكن أن يؤدي إلى اعتقال خاطئ. وتشير الورقة إلى أن هذه الأنظمة غال كثيراً ما تعاني من نقص الدقة مع مجموعات معينة، مثل النساء ذوات البشرة الداكنة أو الأشخاص الذين يرتدون ملابس دينية، مما يؤدي إلى زيادة احتمال الخطأ بالنسبة لأولئك الأكثر ضعفاً.

تجادل "إفات" بأن القوانين الحالية في بنغلاديش ليست كافية لوقف هذه المشكلات. فبينما توجد قواعد جديدة بشأن حماية البيانات الشخصية، إلا أن تلك القواعد تحتوي على ثغرة كبيرة تسمح للشرطة بتجاوز حماية الخصوصية عندما يدّعون أنهم يحققون في جريمة ما. القانون يحمي البيانات نفسها، لكنه لا يشرح كيف يجب على القاضي التعامل مع تنبؤ الحاسوب عند اتخاذ قرار بشأن إبقاء شخص ما في السجن. وتشير الباحثة إلى أن مجرد وجود "بشر في الحلقة" — أي أن بشراً ينظر في إجابة الحاسوب قبل اتخاذ القرار — ليس كافياً. فإذا شعر القاضي أو ضابط الشرطة بالضغط للوثوق بالآلة، أو إذا لم يفهموا كيف توصلت الآلة إلى استنتاجها، فإن وجودهم لا يحل المشكلة. إن الشخص الذي يكتفي بالتوقيع على نتيجة دون فهم حدودها ليس بمثابة رقابة حقيقية؛ بل هو مجرد ختم للموافقة.

ولحل ذلك، تقترح الورقة اختباراً صارماً يتكون من خمس خطوات، أو "خمس بوابات"، يجب أن تجتازها أي منظومة جديدة قبل أن يُسمح لها باتخاذ قرارات تتعلق بحرية الناس. تسأل البوابة الأولى عن وجود قانون واضح؛ إذ يجب أن يكون لدى الحكومة قاعدة مكتوبة محددة تنص بدقة على ما يسمح للحاسوب بفعله، ومن يمكنه استخدامه، وما هي البيانات التي يمكنه رؤيتها. فالرغبة العامة في "محاربة الجريمة" ليست كافية لتبرير المراقبة الجماعية. وتتطلب البوابة الثانية إثبات الضرورة؛ إذ يجب على السلطات إثبات أن لديهم مشكلة حقيقية لا يمكن حلها بطرق أبسط وأقل اقتحاماً للخصوصية، وأن فوائد النظام الجديد تستحق المخاطر.

البوابة الثالثة هي ربما الأكثر أهمية: الصلاحية المحلية. فالنظام الذي يعمل جيداً في بلد ما، أو حتى في مدينة واحدة، قد يفشل تماماً في مكان آخر. وتصر الورقة على أن أي أداة تُستخدم في بنغلاديش يجب أن تُختبر على مواطنين بنغلاديشيين حقيقيين، في ظروف محلية، وبلغات محلية وبيانات محلية. لا يمكنك ببساطة شراء نظام من الخارج وافتراض أنه سيعمل. وتركز البوابة الرابعة على العدالة؛ إذ يجب فحص النظام لمعرفة ما إذا كان يرتكب المزيد من الأخطاء مع مجموعات معينة من الناس، مثل الفقراء أو النساء أو الأقليات العرقية. فإذا كان الحاسوب أكثر عرضة لاتهام مجموعة معينة ظلماً، فلا يمكن استخدامه. أما البوابة الأخيرة فهي تتعلق بالحق في الاعتراض؛ فإذا استُخدمت مخرجات الحاسوب لاعتقال شخص أو الحكم عليه، فيجب إبلاغ هذا الشخص بكيفية اتخاذ القرار، ومنحه فرصة للاطلاع على البيانات، والسماح له بطلب مراجعة بشرية للنتيجة. وإذا كان النظام عبارة عن "صندوق أسود" سري لا يمكن لأحد مساءلته، فإنه يفشل في اجتياز هذه البوابة.

وتوضح الباحثة ما لا ينبغي فعله. فتقول الورقة إنها تعارض استخدام الحواسيب للتنبؤ بسلوك الشخص المستقبلي بناءً فقط على شخصيته أو خلفيته. كما تعارض استخدام هذه الأدوات لاتخاذ القرار النهائي بشأن الاعتقال أو الاحتجاز أو إصدار الأحكام دون مراجعة بشرية مستقلة وقوية. ولا تدعي الورقة أن الذكاء الاصطناعي ليس له مكان في العدالة؛ بل على العكس، تشير إلى أن هذه الأدوات يمكن أن تكون مفيدة جداً للمهام غير القسرية، مثل العثور على المفقودين، أو اكتشاف الاحتيال، أو تنظيم أكوام ضخمة من الأدلة للعثور على وثائق تثبت براءة شخص ما. الهدف هو استخدام التكنولوجيا لمساعدة النظام على العمل بشكل أفضل، وليس السماح للتكنولوجيا بالسيطرة على الحكم بين الحق والباطل.

تختتم الورقة بخطة عملية لبنغلاديش للمضي قدماً. وتقترح أن تقوم الحكومة أولاً بجرد لجميع الأنظمة التي تمتلكها بالفعل أو تخطط لشرائها. ويجب عليها تجميد أي استخدام للتكنولوجيا التي تنتهك البوابات الخمس. ثم، يجب عليها إنشاء قائمة عامة بجميع الخوارزميات المستخدمة من قبل الشرطة والمحاكم، بحيث يعرف المواطنون ما الذي يُستخدم. وأخيراً، يتعين عليها إنشاء مجموعة مستقلة من الخبراء — بما في ذلك القضاة والمحامون وممثلو المجتمع — للإشراف على هذه الأدوات وإيقافها إذا بدأت في التسبب في الضرر. الرسالة هي رسالة تفاؤل حذر؛ فلدى بنغلاديش الفرصة لبناء نظام عدالة يكون حديثاً وعادلاً في آن واحد، ولكن فقط إذا وضعت قواعد واضحة قبل أن تصبح التكنولوجيا متجذرة لدرجة يصعب معها التغيير. إن مستقبل العدالة الجنائية لا ينبغي أن يكون اختياراً بين مؤسسات غير فعالة وعدالة مؤتمتة؛ بل هناك طريق ثالث حيث تخدم التكنولوجيا القانون، بدلاً من استبداله.