A Systems Thinking Approach to Algorithmic Fairness
تقترح هذه الورقة إطار عمل للتفكير المنظومي يدمج بين تعلم الآلة، والاستدلال السببي، وديناميكيات النظم لنمذجة العدالة الخوارزمية، مما يمكّن صانعي السياسات من التعامل مع المقايضات المعقدة وتصميم لوائح للذكاء الاصطناعي تتماشى مع القيم الديمقراطية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول إصلاح صنبور يتسرب منه الماء في منزل حيث الأنابيب مخفية داخل الجدران. معظم المهندسين (باحثي الذكاء الاصطناعي) حاولوا طوال الوقت إصلاح التسريب من خلال النظر فقط إلى الماء الخارج من الفوهة، وقياس تدفقه، ومحاولة ضبط المقبض. إنهم يفترضون أنه إذا كان الماء يبدو نظيفاً، فإن النظام عادل.
لكن هذه الورقة تجادل بأنك لا تستطيع إصلاح التسريب بمجرد النظر إلى الماء. يجب أن تفهم نظام السباكة بأكمله، وتاريخ المنزل، ولماذا انسدت الأنابيب في المقام الأول.
إليك حجة الورقة، مقسمة إلى مفاهيم وأمثلة توضيحية بسيطة.
١. المشكلة الجوهرية: فخ "الصندوق الأسود"
لسنوات، بنينا أنظمة ذكاء اصطناعي مثل "الصناديق السوداء". تضع بيانات في الداخل (مثل سيرة ذاتية أو درجة ائتمانية)، ويخرج قرار (توظيف أو قرض). إذا عامل الذكاء الاصطناعي الناس بعدم إنصاف، فإننا عادة ما نحاول فقط تعديل الرياضيات داخل الصندوق لجعل الأرقام تبدو متساوية.
يقول الكاتب، كريس لام، إن هذا يشبه محاولة إصلاح محرك سيارة عن طريق طلاء غطاء المحرك. هذا لا ينجح لأن العدالة ليست مجرد مسألة رياضيات؛ بل هي مسألة قصة. فالبيانات التي يتعلم منها الذكاء الاصطناعي ملطخة بالفعل بالتاريخ، والتحيز، والهياكل الاجتماعية.
٢. العدسات الثلاث: كيف تنظر إلى المشكلة
تقترح الورقة أننا بحاجة للنظر إلى عدالة الذكاء الاصطناعي من خلال ثلاث "عدسات" أو أدوات مختلفة، مثل استخدام المجهر، والتلسكوب، والآلة الزمنية في آن واحد.
العدسة أ: وجهة نظر تعلم الآلة (اللقطة)
- المثال التوضيحي: صورة فوتوغرافية.
- ماذا تفعل: تلتقط صورة للبيانات في اللحظة الراهنة. إنها ترى: "هذا هو المدخل، وهذا هو المخرج".
- القصور: الصورة ثابتة. هي تظهر لك ماذا حدث، ولكن ليس لما لماذا حدث أو ماذا سيحدث لاحقاً. إنها تغفل القصة الكامنة وراء الصورة.
العدسة ب: الاستدلال السببي (المحقق)
- المثال التوضيحي: مخطط تدفقي لمحقق.
- ماذا تفعل: بدلاً من مجرد النظر إلى الصورة، يرسم المحقق أسهمًا لتوضيح السبب والنتيجة. "هل رُفض الشخص لأنه فقير (السبب)، أم لأن لديه سجل ائتماني سيء (النتيجة)؟"
- الرؤية: يساعدنا هذا في معرفة ما إذا كان الذكاء الاصطناعي يتخذ قراره بناءً على سمة محمية (مثل العرق) بشكل مباشر، أم أنه يستخدم "وسيطاً" (مثل الرمز البريدي) الذي يمثل العرق سراً. يساعدنا هذا في تحديد: هل هذا غير عادل بسبب هوية الشخص، أم بسبب النظام الذي يعيش فيه؟
العدسة ج: ديناميكيات النظام (الآلة الزمنية)
- المثال التوضيحي: لعبة فيديو ذات حلقة تغذية راجعة.
- ماذا تفعل: هذا هو الجزء الأهم في الورقة. وهي تسأل: "ماذا سيحدث غداً بسبب ما فعلناه اليوم؟"
- الرؤية: إذا رفض الذكاء الاصطناعي قروضاً لمجموعة معينة اليوم، فإن هذه المجموعة ستملك مالاً أقل غداً. ولأنهم يملكون مالاً أقل، ستبدو درجاتهم الائتمانية أسوأ في العام المقبل. وسيرى الذكاء الاصطناعي الدرجة السيئة ويرفض منحهم قروضاً مرة أخرى.
- هذا يخلق حلقة مفرغة (حلقة تغذية راجعة). يصبح النظام عالقاً في حلقة تزداد سوءاً مع مرور الوقت.
- تساعدنا ديناميكيات النظام في رؤية هذه الحلقات حتى نتمكن من كسرها قبل أن تدمر النظام.
٣. الانقسام السياسي: "لعبة اللوم"
تشرح الورقة سبب جدال السياسيين كثيراً حول العدالة. الأمر يتعلق بـ أين نعتقد أن المشكلة تبدأ.
الرؤية "الداخلية" (غالباً ما تكون يمينية): "المشكلة هي الفرد".
- المثال التوضيحي: إذا رسب طالب في اختبار، فذلك لأنه لم يدرس بجد كفاية.
- الحل: لا تنظر إلى العرق أو الجنس. فقط انظر إلى درجة الاختبار. (وهذا ما يسمى "العدالة من خلال عدم المعرفة").
- المخاطرة: إذا كان الاختبار نفسه منحازاً ضدهم، فإن هذا النهج يتجاهل عدم الإنصاف فحسب.
الرؤية "الخارجية" (غالباً ما تكون يسارية): "المشكلة هي النظام".
- المثال التوضيحي: إذا رسب طالب في اختبار، فذلك لأن المدرسة لم توفر له معلماً أو مكاناً هادئاً للدراسة.
- الحل: نحن بحاجة للمساعدة بنشاط الفئات المحرومة لإصلاح عدم التوازن. (وهذا ما يسمى "التمييز الإيجابي").
- المخاطرة: إذا قدمنا مساعدة كبيرة دون إصلاح المهارات الأساسية، فقد نجهزهم للفشل لاحقاً (مثل إعطاء قرض لشخص لا يستطيع سداده).
٤. "نماذج الأنظمة" (الفخاخ)
تستخدم الورقة ثلاثة أنماط شهيرة من "تفكير الأنظمة" لتفسير سبب صعوبة عدالة الذكاء الاصطناعي:
- "النجاح للمتوفقين": إذا حصلت المجموعة (أ) على ميزة صغيرة، سيعطيها الذكاء الاصطناعي المزيد من المزايا. والمجموعة (ب) تحصل على مزايا أقل. بمرور الوقت، تصبح المجموعة (أ) غنية والمجموعة (ب) فقيرة، ويستمر الذكاء الاصطناعي في تعزيز هذه الفجوة.
- "الحدود للنجاح": لا يمكنك الاستمرار في إعطاء الموارد للمجموعة (أ) للأبد؛ ففي النهاية سيصطدم النظام بجدار (مثل سقف الميزانية أو حدود السوق).
- "تحويل العبء": هذا هو الفخ الأكثر خطورة.
- السيناريو: نرى المجموعة (ب) تعاني، لذا نجبر الذكاء الاصطناعي على منحهم قروضاً (تدخل خارجي).
- على المدى القصير: يبدو الأمر رائعاً! يتم الموافقة على المزيد من القروض.
- على المدى الطويل: ولأن القروض لم تكن مبنية على القدرة الفعلية، تتعثر المجموعة (ب) في السداد. الآن، يبدون أسوأ في المرة القادمة. والآن، نشعر أننا بحاجة للتدخل بشكل أكبر. نصبح مدمنين على "الإصلاح" ونتوقف عن محاولة إصلاح السبب الجذري (المهارات أو الفرص الفعلية).
٥. الصورة الكبيرة: "خريطة النظام"
تخلص الورقة إلى أننا بحاجة إلى خريطة جديدة للإبحار في هذا المجال.
- الخريطة القديمة: انظر فقط إلى الكود والرياضيات.
- الخريطة الجديدة: جسر يربط بين علم الاجتماع (كيف يعمل المجتمع)، والسياسة (ما نقدره)، وعلوم الحاسوب (كيف يعمل الكود).
تقترح الورقة أننا بحاجة إلى "تسلسل هرمي سببي":
- المستوى ١ (التنبؤ): ماذا تقول البيانات؟ (تعلم الآلة)
- المستوى ٢ (التدخل): ماذا يحدث إذا غيرنا القواعد؟ (الاستدلال السببي)
- المستوى ٣ (المحاكاة): ماذا سيحدث خلال ١٠ سنوات؟ (ديناميكيات النظام)
الخلاصة
لبناء ذكاء اصطناعي عادل حقاً، لا يمكننا أن نكون مجرد مبرمجين. يجب أن نكون سباكين، ومحققين، ومؤرخين في آن واحد.
يجب أن نتوقف عن السؤال: "هل الرياضيات عادلة؟" ونبدأ في السؤال: "كيف تغير هذه الرياضيات العالم بمرور الوقت، وهل نسجن الناس بالخطأ في حلقة من الفقر أو الامتياز؟" باستخدام تفكير الأنظمة، يمكننا تصميم ذكاء اصطناعي لا يبدو عادلاً على الورق فحسب، بل يساعد المجتمع فعلياً على النمو بطريقة صحية ومستدامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.