Correcting AI-generated false criminal allegations: a human-rights framework for remedial closure
تقترح هذه المقالة إطاراً قائماً على حقوق الإنسان لـ "الإغلاق العلاجي" الذي يضع معياراً قانونياً واعياً بالانتشار لتحديد متى تكتمل الإجراءات التصحيحية ضد الاتهامات الجنائية الكاذبة الناتجة عن الذكاء الاصطناعي عبر جميع عقد النظام ذات الصلة، جامعاً بين التحليل العقائدي والمتطلبات التقنية للطعن الميسر، وتصحيح السجلات، والتنفيذ القابل للتحقق، والضمانات المتناسبة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً حيث يقوم برنامج حاسوبي، صُمم للإجابة على الأسئلة ورواية القصص، بابتكار جريمة فجأة. إنه لا يرتكب مجرد خطأ بسيط في تاريخ أو اسم؛ بل يختلق قصة مفادها أن شخصاً معيناً، لا يزال على قيد الحياة، قد قتل أطفاله ويقضي عقوبة طويلة في السجن. هذا ليس مشهداً من رواية إثارة، بل هو احتمال حقيقي أوجده الذكاء الاصطناه الحديث. عندما تظهر مثل هذه الكذبة على الشاشة، يكون الأمر سيئاً بما يكفي، لكن الخطر لا يتوقف عند هذا الحد. فالقصة الزائفة يمكن أن تختبئ داخل ذاكرة الحاسوب، وتنتقل عبر أنظمته الداخلية، وتُرسل إلى منظمات أخرى تستخدم إجابات الحاسوب لاتخاذ قرارات مهمة تتعلق بالوظائف أو القروض أو السلامة. وهذا يخلق وضعاً يُعامل فيه الشخص كمجرم ليس لأنه ارتكب جريمة، بل لأن آلة اختلقت واحدة وفشلت في محوها تماماً. إن السؤال الجوهري الذي يواجه الخبراء ليس فقط كيفية حذف الكذبة من الشاشة، بل كيفية معرفة متى توقفت الكذبة حقاً عن الانتشار عبر النظام الرقمي بأكره.
لقد طور فريق من الباحثين طريقة جديدة للتفكير في هذه المشكلة، متجاوزين الحلول البسيطة لإنشاء معيار واضح لمتى يكون التصحيح قد اكتمل حقاً. ويجادلون بأن مجرد إخبار الحاسوب بالتوقف عن قول الكذبة ليس كافياً. بدلاً من ذلك، يقترحون عملية خطوة بخطوة تتحقق من كل مكان يمكن أن تختبئ فيه الكذبة، بدءاً من الإجابة الأولية وصولاً إلى السجلات الداخلية والقرارات التي اتخذها أشخاص آخرون تلقوا هذه المعلومات. ويشير عملهم إلى أن التصحيح لا يكون مكتملاً إلا عندما تتمكن الشركة المسؤولة من إثبات أنها تحققت من كل مكان يمكن أن تصل إليه الكذبة، وأصلحت السجلات هناك، وأخبرت أي شخص ربما استخدم الكذبة لاتخاذ قرار بأنها خاطئة. يعامل هذا النهج المشكلة ليس كخطأ واحد يجب حذفه، بل كتموج يجب إيقافه عند كل نقطة يمكن أن يسبب فيها ضرراً.
بنى الباحثون فكرتهم على فهم أن أنظمة الذكاء الاصطناعي هي شبكات معقدة. فعندما يولد الحاسوب قصة كاذبة، يمكن تخزين هذه القصة بطرق مختلفة. فقد تُحفظ في ذاكرة مؤقتة تساعد الحاسوب على تذكر محادثة، أو قد تُسحب من قائمة حقائق يستخدمها الحاسوب للإجابة على الأسئلة. كما يمكن إرسالها عبر اتصالات رقمية إلى حواسيب أخرى أو استخدامها من قبل بنك أو وكالة توظيف لتحديد ما إذا كان الشخص جديراً بالثقة. ويطلق الفريق على هذا الانتشار للمعلومات الكاذبة اسم "الانتشار" (propagation). وقد وجدوا أن القواعد الحالية لإصلاح الأخطاء غالباً ما تركز فقط على الإجابة النهائية المعروضة للمستخدم. ومع ذلك، إذا ظلت القصة الكاذبة في ذاكرة الحاسوب أو في سجلات شركة تلقتها، فقد يكرر الحاسوب نفس الكذبة لاحقاً، أو قد تستمر الشركة في معاملة الشخص البريء كأنه مذنب.
ولحل هذه المشكلة، أنشأ الباحثون إطار عمل يعمل كقائمة مراجعة لإصلاح المشكلة. الخطوة الأولى هي أن يوضح الشخص المتضرر ماهية الكذبة بوضوح ويقدم دليلاً على أنها كاذبة. وبمجرد القيام بذلك، يجب على الشركة المسؤولة إجراء تحقيق. لا يمكنهم الاكتفاء بالقول "لقد أصلحنا الأمر". بل يجب عليهم إظهار أين بحثوا بالضبط. ويتضمن ذلك التحقق من الإجابة الرئيسية، والذاكرة الداخلية، وقوائم الحقائق، وأي اتصالات بأنظمة أخرى. وإذا وجدت الشركة أن الكذبة قد استُخدمت لاتخاذ قرار، مثل رفض وظيفة أو تصنيف شخص كخطر، فيجب عليهم أيضاً التحقق مما إذا كان هذا القرار يمكن مراجعته أو تغييره. الهدف هو ضمان عدم إخفاء الكذبة عن الأنظ {فقط}، بل إزالتها من الأماكن التي يمكن أن تسبب ضرراً حقيقياً.
ويتمثل جزء رئيسي من هذا المعيار الجديد في فكرة "الإغلاق المعقول" (reasonable closure). يقر الباحثون بأنه قد يكون من المستحيل فحص كل حاسوب في العالم أو ضمان أن الكذبة لن تظهر مرة أخرى بمليون طريقة مختلفة. بدلاً من ذلك، يقترحون أن الشركة تكون قد فعلت ما يكفي عندما تتحقق من كل مكان يمكنها الوصول إليه والتحكم فيه بشكل معقول. يجب عليهم توثيق عملهم، وتوضيح الأجزاء التي أصلحوها من النظام والأجزاء التي لم يتمكنوا من الوصول إليها. وإذا لم يتمكنوا من الوصول إلى جزء معين، فيجب عليهم شرح سبب كون ذلك صعباً أو مستحيلاً. يعمل هذا التوثيق كدليل على أنهم قاموا بواجبهم. وهو ينقل التركيز من الضمان المثالي المستحيل إلى جهد عملي قابل للتحقق يحترم حدود التكنولوجيا مع حماية حقوق الشخص المتضرر.
اختبر الباحثون فكرتهم باستخدام مثال من الواقع حيث اتُهم شخص زوراً بجريمة فظيعة من قبل روبوت دردشة شهير. في تلك الحالة، لم تكن الشكوى تتعلق فقط بكون روبوت الدردشة يقول شيئاً خاطئاً، بل بخصوص إمكانية بقاء الكذبة حية في النظام. ومن خلال تطبيق قائمة المراجعة الجديدة هذه، أظهر الباحثون كيف يمكن للشركة أن تنتقل من مجرد حذف الإجابة إلى عملية أكثر شمولاً. سيتضمن ذلك التحقق من الذاكرة الداخلية لضمان عدم حفظ الكذبة هناك، والتحقق من أن الكذبة لم تُخزن بطريقة يمكن استرجاعها لاحقاً، والاتصال بأي منظمات قد تكون تلقت المعلومات الكاذبة. وإذا كانت منظمة ما قد استخدمت الكذبة لاتخاذ قرار، فستحتاج الشركة إلى مساعدتها على فهم الخطأ حتى يمكن إعادة النظر في القرار.
يوضح هذا النهج أيضاً من المسؤول عن ماذا. في نظام معقد قد تشارك فيه شركات مختلفة، يقول الباحثون إن كل شركة مسؤولة عن الأجزاء التي تتحكم فيها من النظام. فإذا أرسلت شركة قصة كاذبة إلى شركة أخرى، يجب على الشركة الأولى أن تخبر الشركة الثانية بأن القصة كاذبة. ومع ذلك، فإن الشركة الأولى ليست مسؤولة عن إصلاح الأنظمة الداخلية للشركة الثانية. يجب على كل شركة إصلاح الأجزاء التي تملكها. وهذا يمنع الارتباك الناتج عن محاولة تحميل شخص واحد مسؤولية الشبكة العالمية بأكملها، بينما يضمن في الوقت نفسه أن يقوم كل رابط في السلسلة بدوره في إيقاف انتشار الكذبة.
ويلاحظ الباحثون بعناية أن هذا المعيار ليس عصا سحرية تجعل جميع الأخطاء تختفي للأبد. فهم يقرون بأن التكنولوجيا تتغير باستمرار، وقد تظهر طرق جديدة لانتشار الأكاذب. إن معيارهم مصمم ليكون مرناً، مما يسمح بالمراجعة إذا ظهرت الكذبة في شكل جديد. كما يؤكدون أن هذه العملية يجب أن تحترم حقوق الآخرين، مثل حرية الإبلاغ عن الجرائم الحقيقية أو مناقشة الأحداث العامة. الهدف هو إزالة الأكاذب الكاذبة والضارة فقط، وليس محو التاريخ أو إسكات الخطاب المشروع. ومن خلال التركيز على الأكاذب الموثقة عالية الخطورة التي تسبب ضرراً حقيقياً، يهدف إطار العمل إلى حماية الناس دون إنشاء نظام ثقيل للغاية أو مقيد للعمل.
في نهاية المطاف، يقدم هذا البحث طريقة لجلب النظام إلى مشكلة فوضوية. إنه ينقل النقاش من السؤال "هل حذفت الكذبة؟" إلى "هل يمكنك إثبات أنك أوقفت الكذبة عن التسبب في مزيد من الضرر؟". إنه يوفر مساراً واضحاً يمكن للشركات اتباعه وللمنظمين التحقق منه. ومن خلال طلب إثبات للعمل بدلاً من مجرد الوعود، فإنه يمنح الأشخاص الذين تضرروا من الذكاء الاصطناعي فرصة أفضل للحصول على العدالة. ويشير العمل إلى أنه بينما لا يمكننا دائماً منع الآلات من ارتكاب الأخطاء، يمكننا بناء أنظمة صادقة بشأن تلك الأخطاء ودقيقة في إصلاحها. وهذا يخلق مستقبلاً حيث توازي قوة الذكاء الاصطناعي طريقة واضحة وخاضعة للمساءلة لتصحيح أخطائه، مما يضمن ألا تُدمر سمعة الشخص بسبب "هلوسة" آلة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.