Making Ethical AI Measurable & Auditable: A Construct Validity Framework for Fairness, Transparency, & Explainability
تقترح هذه الورقة إطاراً لصلاحية البناء يصيغ الذكاء الاصطناًلي الأخلاقي بوصفه مفهوماً من رتبة عليا يعتمد على السياق، ويتألف من العدالة والشفافية والقابلية للتفسير، مما يوفر مساراً مؤصلاً نظرياً لتطوير معايير قياس قابلة للتدقيق لغرض الامتثال التنظيمي والبحث التجريبي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم المعاصر، انتقل الذكاء الاصطناعي من كونه ضرباً من الخيال العلمي إلى كونه جزءاً من الآليات الهادئة في الحياة اليومية، حيث يقوم بفرز طلبات التوظيف، وتشخيص الأمراض، والموافقة على القروض. ومع ازدياد قوة هذه الأنظمة، ظهر حوار عالمي حول كيفية ضمان عملها بشكل أخلاقي. لسنوات طويلة، اتفق الخبراء على قائمة من الأهداف النبيلة: يجب أن تكون هذه الآلات عادلة، وأن تكون شفافة بشأن كيفية عملها، وأن تكون قادرة على شرح قراراتها بطريقة يمكن للبشر فهمها. ومع ذلك، فجوة كبيرة انفتحت بين هذه الوعود رفيعة المستوى وبين واقع التحقق منها. فبينما تطالب الحكومات والشركات الآن بإثبات أن الذكاء الاصطناعي أخلاقي، لم تكن هناك طريقة متفق عليها لقياس ما يعنيه ذلك فعلياً. الأمر يشبه مطالبة مجلس مدينة بأن تكون جميع المباني الجديدة "آمنة"، لكنه يرفض تحديد معنى السلامة أو كيفية اختبارها، تاركاً المعماريين للتخمين بشأن المواد التي قد تصلح. وبدون تعريف واضح، يصبح الادعاء بالعدالة مجرد تعبير عن النوايا، وليس حقيقة قابلة للتحقق.
يخلق هذا الغموض مشكلة للأشخاص الذين يُفترض بهم مراجعة العمل. فالمدققون، والمنظمون، وقادة الشركات يُطالبون بالمصادقة على أن نظام الذكاء الاصطناعي أخلاقي، ومع ذلك فهم يفتقرون إلى مسطرة يقيسون بها ذلك. لقد حاول بعض الباحثين حل هذه المشكلة عبر سؤال الناس عما يعتقدون بشأن الذكاء الاصطناعي، بينما حاول آخرون استخدام رياضيات معقدة لإيجاد أخطاء إحصائية في كيفية معاملة الآلات لمجموعات مختلفة. كلا النهجين له قيمته، لكن لا أحد منهما يعامل "الذكاء الاصطناعي الأخلاقي" كشيء واحد قابل للقياس يمكن اختباره بصرامة؛ فهما يركزان إما على المشاعر الإنسانية أو على الأرقام المنعزلة، مما يجعلهما يغفلان الصورة الأكبر لكيفية سلوك نظام الذكاء الاصطناعي في العالم الحقيقي.
تقترح دراسة جديدة أجرتها شيبة حسنين، وهي باحثة في الجامعة البريطانية بدبي، طريقة لسد هذه الفجوة. تجادل الورقة البحثية بأنه يجب علينا التوقف عن محاولة إيجاد رقم واحد يمثل "الذكاء الاصطناعي الجيد"، وبدلاً من ذلك، يجب التعامل مع الجودة الأخلاقية كبنية معقدة مبنية من ثلاثة أجزاء متميزة. تقترح المؤلفة أنه لكي نقيس الذكاء الاصطناعي حقاً، يجب أن ننظر إليه من خلال ثلاث عدسات محددة: العدالة، والشفافية، والقابلية للتفسير. هذه ليست مجرد كلمات رنانة، بل هي أبعاد منفصلة يجب تعريفها وقياسها بشروطها الخاصة قبل دمجها في حكم واحد. فالعدالة تتعلق بما إذا كان النظام يعامل مجموعات مختلفة من الناس بالتساوي. والشفافية تتعلق بما إذا كان الأشخاص المعنيون لديهم القدرة على الوصول إلى المعلومات التي يحتاجونها لفهم النظام. أما القابلية للتفسير، فتتعلق بما إذا كان بإمكان النظام تقديم سبب واضح ومفيد لقراراته للشخص الذي يتعين عليه استخدامها.
جوهر عمل حسنين هو إطار عمل جديد يعمل بمثابة مخطط لبناء هذه القياسات. فبدلاً من اختيار معادلة رياضية عشوائية وتسميتها اختبار عدالة، يتطلب إطار العمل منا أولاً تحديد ما تعنيه العدالة بالضبط لحالة معينة. على سبيل المثال، ما يعتبر نتيجة عادلة في مستشفى قد يختلف تماماً عما يعتبر عادلاً في بنك. وبمجرد وضوح التعريف، يوجه إطار العمل الباحثين لاختيار علامات محددة وقابلة للملاحظة تثبت استيفاء التعريف. تضمن هذه العملية أن الأدلة المجموعة تدعم بالفعل الادعاء المقدم. وتؤكد الدراسة أنه لا يمكنك ببساال جرد الأرقام للحصول على درجة نهائية؛ بل يجب عليك أولاً فهم السياق الذي يعمل فيه الذكاء الاصطناعي. فقد يكون النظام شفافاً تماماً ولكنه غير عادل، أو قد يكون عادلاً جداً ولكن من المستحيل فهمه. ولأن هذه الأجزاء مختلفة، فلا يمكنها ببساطة أن تلغي بعضها البعض أو تُجمع كمتوسط حسابي.
ولإظهار كيفية عمل ذلك في الممارسة العملية، تستعرض الورقة مثالاً افتراضياً لنظام ذكاء اصطناعي يستخدم في الرعاية الصحية لمساعدة الأطباء في تقييم مخاطر المرضى. في هذا السيناريو، يوضح الباحثون كيفية تطبيق القواعد الجديدة. أولاً، يعرّفون العدالة ليس كفكرة عامة، بل تحديداً كـتجنب الاختلافات غير العادلة في كيفية معاملة النظام لمجموعات المرضى المختلفة. بعد ذلك، يختارون مؤشرات محددة، مثل التحقق مما إذا كانت معدلات الخطأ هي نفسها لجميع المجموعات، بدلاً من مجرد النظر إلى الدقة الإجمالية. ثم يتحققون مما إذا كان الأطباء الذين يستخدمون النظام قادرين فعلياً على فهم الأسباب التي يقدمها الذكاء الاصطناعي لاقتراحاته. وأخيراً، ينظرون فيما إذا كان أداء النظام يؤدي إلى نتائج أفضل للمرضى، وهو ما يعمل كفحص نهائي للتأكد من أن المنظومة بأكملها تعمل كما هو مخطط لها. هذا النهج خطوة بخطوة يحول الوعد الغامض بـ "الذكاء الاصطناعي الأخلاقي" إلى عملية ملموسة وقابلة للتدقيق.
كما تتناول الدراسة كيفية ملاءمة إطار العمل هذا مع عالم القوانين واللوائح. فالحكومات في أوروبا والولايات المتحدة والشرق الأوسط تمرر قوانين جديدة تتطلب من الشركات إثبات أن ذكاءها الاصطناعي آمن وعادل. ومع ذلك، غالباً ما تحدد هذه القوانين "ما" يجب تحقيقه دون تحديد "كيفية" قياسه. ويقدم إطار عمل حسنين حلاً من خلال توفير طريقة معيارية لإنشاء هذا الإثبات. وتقترح بدلاً من محاولة إنشاء درجة عالمية واحدة لكل ذكاء اصطناعي، أن يركز المنظمون على توحيد عملية القياس. يجب عليهم مطالبة الشركات بتوضيح ما تقيسه، وكيف تقيسه، ولماذا تعتبر هذه الطريقة صالحة لحالتها الخاصة. يسمح هذا النهج بالمرونة، مع الاعتراف بأن الذكاء الاصطناعي المستخدم في التوظيف يحتاج إلى اختبارات مختلفة عن ذلك المستخدم في التشخيص الطبي، مع الحفاظ في الوقت نفسه على معيار صارم للأدلة.
أحد أهم النتائج التي توصلت إليها الورقة هو أن الجودة الأخلاقية ليست خاصية ثابتة في كود الكمبيوتر نفسه، بل هي خاصية للنظام أثناء تفاعله مع الناس والمنظمات والمجتمع. فقد يكون نفس الخوارزمي أخلاقياً في سياق ما وغير أخلاقي في سياق آخر، اعتماداً على من يستخدمه وما هي العواقب المترتبة على ذلك. لذلك، يجب دائماً معايرة القياس ليتناسب مع السياق المحدد. وتحذر الورقة من إغراء نسخ أدوات القياس من بلد أو صناعة إلى أخرى دون تعديل. فالاختبار المصمم لدولة غنية تمتلك بيانات مفصلة عن العرق والإثنية قد يكون عديم الفائدة في منطقة تعتمد فيها الانقسامات الأساسية على اللغة أو الجغرافيا المحلية. إن القياس الأخلاقي الحقيقي يتطلب فهماً للمشهد المحلي.
تختتم الدراسة بتقديم مسار للمستقبل. تقر المؤلفة بأن إطار العمل هذا هو حالياً مقترح، أي هيكل نظري لم يتم اختباره بعد على آلاف الأنظمة في العالم الحقيقي. إنها دعوة للعمل للباحثين لبناء الأدوات والاختبارات المحددة التي تناسب هذا النموذج الجديد. الهدف ليس إنتاج رقم واحد يعلن أن الذكاء الاصطناعي "جيد" أو "سيء"، بل إنشاء صلة دفاعية بين ما يفترض بالنظام القيام به وبين الأدلة التي تظهر أنه يقوم بذلك بالفعل. ومن خلال التعامل مع الذكاء الاصطناعي الأخلاقي كبناء قابل للقياس مع تعريفات واضحة ومؤشرات تراعي السياق، توفر الدراسة وسيلة للانتقال من الوعود الغامضة إلى عالم يمكن فيه التحقق من الادعاءات الأخلاقية وتدقيقها والثقة بها. وهذا التحول ضروري إذا أراد المجتمع تسخير قوة الذكاء الاصطناعي مع ضمان بقائه متماشياً مع القيم الإنسانية وأهداف التنمية المستدامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.