Equity Bias: An Ethical Framework for AI Design
ترتكز الورقة البحثية، استناداً إلى الفلسفة الهيرمينوطيقية ونظرية الظلم المعرفي، على مقترح "تحيز الإنصاف"، وهو إطار عمل يعيد صياغة تحيز الذكاء الاصطناğı بوصفه انعكاساً شفافاً للمعرفة المرمزة بدلاً من كونه خطأً يجب استئصاله، وذلك عبر توظيف دورة حياة ثلاثية المراحل تشمل التنقيب الأثري، والتصميم التشاركي، والمساءلة المستمرة لتعزيز أنظمة ذكاء اصطناعي مسؤولة أخلاقياً ومنصفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة ماري لوكهود، "التحيز للعدالة" (Equity Bias)، مترجمة إلى لغة بسيطة ويومية مع بعض التشبيهات الإبداعية.
الفكرة الكبرى: توقف عن محاولة أن تكون "محايداً"
تخيل أنك تخبز كعكة لحفلة ضخمة. لسنوات طويلة، حاول الخبازون صنع كعكة "مثالية ومحايدة" لها نفس المذاق للجميع. ظنوا أنهم إذا أزالوا كل النكهات الغريبة، فستكون الكعكة عادلة.
لكن ماري لوكهود تقول: هذا مستحيل.
كل كعكة تُصنع بمكونات محددة اختارها خباز معين. إذا استخدمت فقط دقيقاً من مطحنة واحدة وسكراً من مصنع واحد، فإن الكعكة سيكون طعمها مثل تلك المطحنة وذلك المصنع، بغض النظر عن مدى محاولتك لتكون "محايداً".
التحيز للعدالة (Equity Bias) هو طريقة تفكير جديدة في الذكاء الاصطناعي. بدلاً من محاولة تنظيف الذكاء الاصطناعي من كل "التحيز" (وهو أمر مستحيل)، يجب أن نعترف بأن الذكاء الاصطناعي يشبه كعكة مصنوعة من مكونات محددة. الهدف ليس إزالة المكونات؛ بل التأكد من أن لدينا مجموعة متنوعة أكبر بكثير من المكونات في الوعاء حتى يكون طعم الكعكة جيداً للجميع، وليس فقط للأشخاص الذين اعتادوا الخبز عادةً.
المشكلة: مطبخ "غرفة الصدى"
في الوقت الحالي، يتم بناء معظم أنظمة الذكاء الاصطناعي مثل مطبخ لا يُسمح إلا لنوع واحد من الأشخاص بالطبخ فيه.
- الوصفة: يتعلم الذكاء الاصطناعي من البيانات (المكونات). إذا كانت البيانات تأتي في الغالب من وجهات نظر غربية، ثرية، وذكورية، فإن الذكال الاصطناعي سيعتقد أن هذه هي الطريقة الوحيدة التي يعمل بها العالم.
- الخطأ: عندما يحاول الذكاء الاصطناعي مساعدة شخص من خلفية مختلفة (مثل امرأة، أو شخص ملون، أو شخص من قرية ريفية)، فإنه يفشل. الأمر يشبه محاولة استخدام وصفة لـ "كاري حار" لصنع "حساء باهت"؛ فالنكهات ببساطة لا تتطابق.
تسمي الورقة هذا "الظلم المعرفي" (Epistemic Injustice). وهي طريقة معقدة للقول: "نحن نتجاهل معرفة وقصص فئات معينة من الناس، ونعامل تجاربهم كما لو أنها لا تهم."
التشبيه: تخيل تطبيق نظام ملاحة (GPS) يحتوي فقط على خرائط لمدينة نيويورك. إذا حاولت استخدامه للقيادة في قرية صغيرة في كينيا، فسيخبرك بأن تنعطف في شوارع غير موجودة أصلاً. نظام الملاحة ليس "معطلاً" تقنياً؛ هو فقط يفتقر إلى الخريطة التي تمثل واقعك.
الحل: نهج "الوليمة المشتركة" (Potluck)
بدلاً من محاولة حذف التحيز، تقول "التحيز للعدالة": دعونا ندعو المزيد من الناس إلى الوليمة.
تقترح الورقة أن نعامل الذكاء الاصطناعي ليس كآلة حاسبة باردة، بل كـ راوٍ للقصص يحتاج لسماع قصص متنوعة ليفهم العالم.
1. الوصفة ذات الخطوات الثلاث (دورة حياة الذكاء الاصطناعي)
تقترح ماري طريقة جديدة لبناء الذكاء الاصطناعي، مقسمة إلى ثلاث مراحل:
المرحلة الأولى: علم آثار العدالة (التنقيب عن الحقيقة)
قبل أن تبدأ في الطبخ، عليك فحص مخزن المؤن الخاص بك.
- ماذا يوجد في الحقيبة؟ من كتب هذه البيانات؟ ومن هي الأصوات الغائبة؟
- الاستعارة: الأمر يشبه عالم آثار ينقب في موقع قديم. أنت لا تبحث عن الذهب فحرصاً على القيمة فحسب؛ بل تبحث عن الفخار المكسور الذي يخبرك من عاش هناك ومن تم تجاهله. أنت بحاجة لمعرفة لماذا كُتبت الوصفة بهذه الطريقة في المقام الأول.
المرحلة الثانية: المشاركة في صنع المعنى (الوليمة المشتركة)
لا تكتفِ بطلب رأي الناس في طعم الطعام في النهاية، بل اطلب منهم المساعدة في طبخه.
- الاستعارة: بدلاً من شيف يطبخ وحيداً في مطبخ مغلق، تخيل "وليمة مجتمعية" (Potluck). أنت تدعو الأشخاص الذين سيأكلون الطعام فعلياً (المجتمع) لإحضار أطباقهم الخاصة والمساعدة في تحديد قائمة الطعام.
- لماذا؟ إذا كنت تبني ذكاءً اصطناعياً للمساعدة في الصحة النفسية، فأنت بحاجة للتحدث مع أشخاص عاشوا تجارب مع الصحة النفسية، وليس فقط مع الأطباء. إذا كنت تبني ذكاءً اصطناعياً للدفاع، فأنت بحاجة للاستماع إلى الجنود في الميدان، وليس فقط الجنرالات في المكاتب.
المرحلة الثالثة: المساءلة المستمرة (اختبار المذاق)
الطبخ لا يتوقف عند تقديم الطعام.
- الاستعارة: تخيل مطعماً يمكن للزبائن فيه إعادة الطعام إذا لم يكن بالمستوى المطلوب، ويجب على الشيف تغيير الوصفة.
- كيف يعمل: لا ينبغي أن يكون الذكاء الاصطناعي نظاماً "يُضبط ويُنسى". يحتاج إلى حلقة تغذية راجعة. إذا بدأ الذكاء الاصطناعي في اتخاذ قرارات سيئة لمجموعة معينة، يجب أن يكون النظام قادراً على التوقف، والاستماع لتلك المجموعة، وتحديث "وصفته".
لماذا يهم هذا الأمر: أمثلة من الواقع
1. تشبيه الطبيب
تخيل طبيباً درس فقط على مرضى ذكور. إذا جاءت امرأة تعاني من أعراض نوبة قلبية تختلف عما يظهر على الرجال، فقد يخطئ الطبيب في التشخيص.
- الطريقة القديمة: "البيانات قالت إن المريضة بخير، لذا كان الكمبيوتر على حق."
- طريقة "التحيز للعدالة": "أدركنا أن بياناتنا تفتقر لقصص النساء. دعونا نعود ونتعلم من المريضات لكي يتمكن الذكاء الاصطناعي من إنقاذ الأرواح للجميع فعلياً."
2. تشبيه العسكر
تخيل جنرالاً يستخدم طائرة بدون طيار (درون) لخوض حرب. الذكاء الاصطناعي الخاص بالطائرة يعرف فقط قواعد بلد الجنرال. إنه لا يفهم الثقافة المحلية، أو اللغة المحلية، أو التضاريس المحلية.
- النتيجة: يرتكب الذكاء الاصطناعي خطأً لأنه يعتقد أن العدو يتصرف مثل جندي من بلد الجنرال، بينما هم في الواقع يتصرفون كأهل المنطقة.
- طريقة "التحيز للعدالة": يتم تدريب الذكاء الاصطناعي بمدخلات من أدلاء محليين وجنود صغار يعرفون الوضع الحقيقي، مما يجعل النظام أكثر ذكاءً وأماناً.
الحقيقة الصعبة: الأمر لا يتعلق بـ "رياضيات العدالة"
يعتقد الكثيرون أنه يمكننا إصلاح تحيز الذكاء الاصطناعي باستخدام الرياضيات. يقولون: "إذا وازنا الأرقام فقط، فسيكون عادلاً".
تقول ماري: لا.
لا يمكنك إصلاح رؤية مشوهة للعالم باستخدام آلة حاسبة.
- أسطورة الحياد: الاعتقاد بأن الذكاء الاصطناعي يمكن أن يكون محايداً يشبه الاعتقاد بأن المرآة يمكن أن تكون محايدة. المرآة تعكس فقط ما هو أمامها. إذا وقفت أمام المرآة وأنت ترتدي عصابة على عينيك، فإن المرآة ستعكس شخصاً أعمى. المرآة ليست هي المشكلة؛ العصابة هي المشكلة.
- الحل: نحتاج لنزع العصابة والنظر إلى الغرفة بأكملها.
الملخص: ماذا يجب أن نفعل؟
هذه الورقة هي دعوة للعمل لكل من يبني الذكاء الاصطناعي:
- توقفوا عن التظاهر بأن الذكاء الاصطناعي محايد. اعترفوا بأن له وجهة نظر.
- توقفوا عن محاولة محو التحيز. بدلاً من ذلك، اجعلوا التحيز مرئياً ومتاحاً للنقاش.
- أشركوا المزيد من الناس. لا تكتفوا بطلب التعليقات، بل دعوا المجموعات المختلفة تشارك في تصميم النظام منذ البداية.
- تقبلوا أن الأمر قد يكون فوضوياً. وجود آراء مختلفة هو أمر جيد! هذا يعني أن النظام يتعلم من العالم الحقيقي والمعقد.
الخلاصة:
إذا أردنا ذكاءً اصطناعياً يعمل من أجل الجميع، فلا يمكننا مجرد بناء آلة أفضل. يجب أن نبني حواراً أفضل. يجب أن نتأكد من أن "المعرفة" التي تغذي الذكاء الاصطناعي تأتي من العائلة البشرية بأكملها، وليس فقط من نادٍ صغير ومتميز.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.