Opening the Black Box or Responding to Demands? Rethinking and Reconstructing the European Standard of Algorithmic Explanation
تنتقد هذه الورقة أوجه القصور في المعيار الحالي للاتحاد الأوروبي بشأن التفسير الخوارزمي ونهج التخفيف أو الاستبدال القائم، مقترحةً بدلاً من ذلك إطاراً موجهاً بالطلب يعيد بناء المعيار من خلال تصنيف احتياجات التفسير بناءً على نقاط تحكم الفاعلين وتحقيقها عبر مخططات استبدال قابلة للتنفيذ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الحديث، تتخذ الحواسيب قرارات لا حصر لها تشكل حياتنا اليومية، بدءاً من تحديد ما إذا كنا سنحصل على قرض وصولاً إلى تقرير نوع الأخبار التي نراها. لعقود من الزمن، كانت الفكرة السائدة هي أنه إذا اتخذ الكمبيوتر قراراً، فيجب أن نكون قادرين على مطالبته بإظهار طريقة عمله، تماماً كما يظهر الطالب خطوات حل مسألته الرياضية لإثبات صحة الإجابة. يُعرف هذا المفهوم باسم "التفسير الخوارزمي"، وهو حجر الزاوية في قوانين الخصوصية في الاتحاد الأوروبي ومناطق أخرى. يفترض القانون أنه إذا تأثر شخص ما بقرار مؤتمت، فمن حقه فهم المنطق الكامن وراءه. ومع ذلك، ظهرت مشكلة كبيرة: لقد تغيرت الحواسيب التي تتخذ هذه القرارات. كانت الأنظمة القديمة تتبع قواعد واضحة وخطوات محددة يمكن تتبعها بسهولة. أما الأنظمة الأكثر قوة اليوم، والتي تُسمى غالباً الشبكات العصبية، فهي تتعلم من كميات هائلة من البيانات بطرق معقدة ومترابطة لدرجة أن صانعيها أنفسهم لا يستطيعون رسم خريطة كاملة لكل خطوة داخلية. وهذا يخلق حالة "الصندوق الأسود"، حيث تدخل المدخلات وتخرج النتيجة، لكن المسار بينهما يظل مخفياً. وعندما يطالب القانون برؤية ما بداخل صندوق لا تستطيع التكنولوجيا فتحه بالكامل، ينهار النظام، مما يؤدي إلى الارتباك، والتهرب القانوني، وفقدان الثقة.
وقد اقترح باحث يدعى فينغ زي، يعمل في مدرسة الذكاء الاصطناعي والقانون في تشونغتشينغ بالصين، طريقة جديدة لحل هذا المأزق. فبدلاً من محاولة فتح صندوق أسود لا يمكن فتحه بالقوة، تقترح الدراسة أنه ينبغي لنا التوقف عن محاولة رؤية الآليات الداخلية والبدء في طرح أسئلة تتناسب مع ما يمكن للمسؤولين الإجابة عليه فعلياً. وتتمثل النتيجة الجوهرية لهذا العمل في أننا بحاجة إلى تقسيم الطلب على التفسير إلى لحظتين زمنيتين مختلفتين، بناءً على من يمسك بزمام السيطرة على النظام الحاسوبي. اللحظة الأولى هي عندما يتم بناء النظام وإعداده؛ واللحظة الثانية هي عندما يتخذ النظام قراراً فعلياً بشأن شخص معين. ومن خلال الفصل بين هاتين المرحلتين، يرى المؤلف أنه يمكننا استبدال الطلب المستحيل لرؤية الكود البرمجي بمطالب عملية تكون فعالة بنفس القدر في حماية حقوق الناس.
وتجادل الورقة البحثية بأن النهج الحالي، الذي يحاول تقديم مستويات مختلفة من التفاصيل اعتماداً على من يسأل، يفشل لأنه لا يزال يتطلب نفس الإنجاز التقني المستحيل: وهو التلصص داخل الصندوق الأسود. وسواء طرح المستخدم سؤالاً بسيطاً أو معقداً، لا يزال على الكمبيوتر الكشف عن منطقه الداخلي للإجابة، وهو أمر لا يستطيع القيام به غالً دون فقدان الدقة أو كشف أسرار تجارية. وهناك فكرة شائعة أخرى تتمثل في مجرد الثقة في النظام إذا بدا آمناً أو إذا كان الأشخاص الذين بنوه مؤهلين. ويرفض المؤلف هذا أيضاً، مشيراً إلى أن النظام يمكن أن يُبنى بواسطة أشخاص جيدين ومع ذلك يتخذ قرارات سيئة لاحقاً، أو أن الثقة في الباني لا تفسر سبب رفض طلب قرض لشخص معين. كما تشير الدراسة إلى أن مجرد التحقق مما إذا كان من الممكن الطعن في النتيجة النهائية بعد وقوعها هو أيضاً أمر غير كافٍ، لأنه بحلول ذلك الوقت، قد يكون الضرر قد وقع وأصبح من المستحים تداركه.
ولحل هذه المشكلة، تقدم الورقة إطاراً قائماً على "العقد الزمنية"، وهي ببساطة نقاط زمنية محددة يمسك فيها أشخاص مختلفون بزمام السيطرة. المرحلة الأولى هي "مرحلة السلوك". وتحدث هذه المرحلة قبل استخدام النظام مع الجمهور. خلال هذا الوقت، يمتلك المطورون والشركات التي تنشر النظام سيطرة كاملة؛ فهم يقررون نوع البيانات المستخدمة، وكيفية تدريب النموذج، وما هي تدابير السلامة التي يجب وضعها. ولأنهم يمتلكون السيطرة، فإن الطلب على التفسير في هذه المرحلة لا ينبغي أن يكون حول القرار النهائي، بل حول المخاطر. وتقترح الدراسة أنه بدلاً من إظهار الكود، يجب إلزام هؤلاء الفاعلين بتقديم بيانات مفصلة حول كيفية تقييمهم للمخاطر والخطوات التي اتخذوها لمنع الضرر. كما يجب عليهم الاحتفاظ بسجلات لأنشطة النظام. وهذا ينقل التركيز من "كيف تعمل الرياضيات؟" إلى "هل قمت بعملك للتأكد من أن هذا آمن؟". وإذا حدثت مشكلة لاحقاً، فإن هذه السجلات تسمح للمنظمين بالتتبع ومعرفة ما إذا كان المبدعون قد اتبعوا القواعد، مما يحدد المسؤولية بفعالية دون الحاجة إلى فهم الرياضيات غير القابلة للتفسير.
المرحلة الثانية هي "مرحلة النتيجة". وهذه هي المرحلة التي يعمل فيها النظام ويتخذ قرارات تؤثر على بشر حقيقيين. عند هذه النقطة، يكون المطورون قد فقدوا السيطرة؛ إذ يتفاعل النظام مع بيانات جديدة في الوقت الفعلي. وهنا، يتغير الطلب على التفسير. لم يعد الهدف هو التحقق من ضوابط المخاطر، بل بناء الثقة في النتيجة. وتقترح الورقة أن الناس لا يحتاجون إلى فهم المنطق الداخلي المعقد للثقة في قرار ما؛ بل يحتاجون إلى معرفة ما إذا كان القرار منطقياً بناءً على الخبرة البشرية العامة. فعلى سبيل المثال، إذا رفض نظام تقييم الائتمان منح قرض، فإن المستخدم لا يحتاج إلى رؤية الأوزان الخاصة بالشبكة العصبية؛ بل يحتاج إلى معرفة ما إذا كان القرار يتماشى مع ما يعتبره المجتمع عامة عادلاً، مثل مستويات الدخل أو نسب الديون. وتقترح الدراسة أن الشركات يجب أن تنشر هذه القواعد الاجتماعية العامة حتى يتمكن الناس من مقارنة القرار بها. وإذا انحرف قرار ما عما قد يوحي به المنطق السليم، يجب أن يطلق النظام مراجعة بشرية. وعندها، يجب على شخص حقيقي النظر في الحالة وتقديم تفسير واضح ومسبب لسبب اتخاذ هذا القرار غير المعتاد.
لا يطلب هذا النهج حماية أقل؛ بل يطلب نوعاً مختلفاً من الحماية يمكن تقديمه فعلياً. ومن خلال استبدال الطلب برؤية الكود الداخلي بالطلب على سجلات المخاطر والطلب على الاتساق مع المنطق السليم، يمكن للنظام أن يعمل دون أن ينهار. ويشير المؤلف إلى أن هذا ليس اختراعاً جديداً ولكنه إعادة تنظيم للأدوات القانونية الموجودة، مثل متطلبات احتفاظ الشركات بسجلات أنشطتها المعالجة. وتؤكد الدراسة أن هذه الطريقة تحترم واقع التكنولوجيا الحديثة بينما لا تزال تفي بالوعد القانوني بالمساءلة. إنها تنقل النقاش بعيداً عن المهمة المستحيلة المتمثلة في فتح الصندوق الأسود، ونحو المهمة العملية المتمثلة في ضمان أن أولئك الذين يبنون ويستخدمون هذه الأنظمة مسؤولون عن أفعالهم وأن النتائج التي ينتجونها منطقية بالنسبة للناس الذين يعيشون معها. وتخلص البحث إلى أن هذا التحول في المنظور ضروري لاستعادة القيمة العملية للتفسير الخوارزمي، مما يضمن بقاء القانون ذا صلة في عصر الآلات الذكية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.