Spatial Fairness: The Case for its Importance, Limitations of Existing Work, and Guidelines for Future Research
تجادل هذه الورقة الموقفة بضرورة الملحة لإرساء "العدالة المكانية" في أنظمة اتخاذ القرار القائمة على البيانات من خلال تسليط الضوء على كيفية تسبب الارتباط الذي غالباً ما يتم إغفاله بين الموقع والخصائص المحمية في تكريس الضرر، وانتقاد حدود الأبحاث الحالية حول الذكاء الاصطناٍ العادل ودراسات العدالة المكانية القائمة، واقتراح مبادئ توجيهية متعددة التخصصات لمعالجة هذه التحيزات الفريدة.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتقدم بطلب للحصول على قرض، أو تشتري تأميناً للسيارة، أو تبحث عن رحلة عبر تطبيق للنقل التشاركي. قد تعتقد أن الكمبيوتر الذي يتخذ القرار ينظر فقط إلى تفاصيلك الشخصية: دخلك، أو سجل قيادتك، أو درجتك الائتمانية. قد تقول لنفسك: "أنا شخص جيد، أدفع فواتيري بانتظام، وأقود بأمان".
ولكن ماذا لو كان الكمبيوتر في الواقع ينظر إلى أين تعيش؟
تجادل هذه الورقة البحثية بأنه في عالم الذكاء الاصطناعي (AI)، غالباً ما يُعامل مكان سكنك كشفرة سرية تكشف عن هويتك. فبسبب التاريخ، غالباً ما يخبر الرمز البريدي الخاص بك الكمبيوتر عن عرقك، أو دخلك، أو أصلك القومي، حتى لو لم يكن مسموحاً للكمبيوتر صراحةً بالسؤال عن هذه الأمور.
إليك شرح مبسط للنقاط الرئيسية للورقة، باستخدام تشبيهات من الحياة اليومية.
1. المشكلة: "الرمز البريدي كبديل" (The Zip Code Proxy)
تخيل أنك تتقدم لوظيفة، لكن مدير التوظيف غير مسموح له بالسؤال عن عرقك. لذا، بدلاً من السؤال، يكتفي بالنظر إلى عنوان سكنك.
- الواقع: في أماكن كثيرة، تكون الأحياء السكنية مجزأة طبقياً وعرقياً. إذا كنت تعيش في حي معين، يمكن للكمبيوتر تخمين عرقك بدقة عالية.
- الفخ: يعتقد الكمبيوتر: "أنا لا أنظر إلى العرق؛ أنا فقط أنظر إلى العنوان". ولكن لأن العنوان مرتبط ارتباطاً وثيقاً بالعرق، ينتهي الأمر بالكمبيوتر بممارسة التمييز رغم ذلك. الأمر يشبه الحكم على كتاب من غلافه، لكن الغلاف في الحقيقة ليس سوى خريطة للحي الذي كُتب فيه هذا الكتاب.
أمثلة من الواقع الواردة في الورقة:
- التأمين: غالباً ما يدفع السائقون في أحياء الأقليات أقساطاً أعلى من السائقين الذين لدأهم نفس سجل القيادة تماماً في أحياء البيض.
- التوصيل: قد تتخطى خدمة "أمازون برايم" أحياناً أحياء الأقليات في خدمة التوصيل في نفس اليوم، ليس بسبب الدخل، بل بسبب تاريخ المنطقة.
الرحلات: قد تدفع مبلغاً أكبر مقابل رحلة إذا كنت متوجهاً إلى حي فقير أو قادماً منه.
2. لماذا لا تنجح "الحلول" الحالية للذكاء الاصطنا العام؟
حاول العلماء معالجة تحيز الذكاء الاصطناعي من قبل، وعادة ما جربوا أمرين:
- التعامي (Blindness): "لنتجاهل عمود العرق في قاعدة البيانات".
- سبب الفشل: الكمبيوتر ذكي. فهو يجد أدلة أخرى (مثل الرمز البريدي) تعمل كـ "باب خلفي" للوصول إلى العرق. تجاهل عمود العرق لا يمنع الكمبيوتر من تخمينه.
- الإصلاح (Repair): "لنقم بإصلاح البيانات بحيث لا تتطابق الرموز البريدية مع العرق".
- سبب الفشل: لا يمكنك ببساطة "إصلاح" التاريخ. السبب وراء كون حي ما فقيراً أو مجزءاً يعود غالباً إلى قضايا هيكلية عميقة (مثل سياسة "الخطوط الحمراء" Redlining في الماضي). لا يمكنك مجرد حذف تلك الأنماط دون فهم الواقع الحقيقي.
3. التعقيد الفريد لـ "المكان"
توضح الورقة أن التعامل مع الموقع أصعب بكثير من التعامل مع التصنيفات البسيطة مثل "ذكر/أنثى" أو "أسود/أبيض".
- خيارات كثيرة جداً: هناك أعراق قليلة، ولكن هناك آلاف الرموز البريدية. محاولة وضع قاعدة لكل زاوية شارع تشبه محاولة طلاء كل حبة رمل على الشاطئ؛ إنها كمية هائلة من البيانات.
- الخريطة مقابل الطريق: تقيس الحواسيب المسافة غالباً في خط مستقيم (كما يطير الغراب). لكن البشر يسافرون عبر الطرق. قد يكون منزلك على بعد 5 أميال من مستشفى في خط مستقيم، ولكن إذا وجد نهر ولا يوجد جسر، فقد يستغرق الوصول إلى هناك 45 دقيقة. غالباً ما يفتقر الذكاء الاصطناعي إلى هذا الفهم الدقيق.
- تحيز صانع الخريطة (MAUP): تخيل أنك ترسم خريطة. إذا رسمت حدود المدينة بطريقة معينة، ستبدو البيانات عادلة. وإذا رسمتها بشكل مختلف قليلاً، ستبدو البيانات غير عادلة. الطريقة التي نقطع بها الخريطة تغير النتائج. وهذا ما يسمى "مشكلة الوحدة المساحية القابلة للتعديل". الأمر يشبه قطع البيتزا: إذا قطعتها إلى 4 قطع، ستحصل على قطع كبيرة؛ وإذا قطعتها إلى 100 قطعة، ستحصل على فتات. البيتزا لم تتغير، لكن القطع هي التي تغيرت.
4. الحل المقترح: خارطة طريق جديدة
يقترح المؤلفون أننا بحاجة إلى نهج جديد يسمى "العدالة المكانية" (Spatial Fairness). إليكم هذه الإرشادات بلغة بسيطة:
- عامل "مكان سكنك" كصفة محمية:
بالنسبة للكثير من الناس، وخاصة الأسر ذات الدخل المنخفض، فإن الانتقال إلى حي "أفضل" ليس خياراً متاحاً. لا يمكنهم ببساطة حزم أمتعتهم والرحيل بسبب التمييز، أو نقص المال، أو رفض الملاك لقسائم الإسكان. لذلك، يجب معاملة موقعك كشيء لا يمكنك تغييره (مثل العرق أو الجنس)، ويجب على الذكاء الاصطناعي احترام ذلك. - لا تكتفِ بالتخمين، بل اسأل الخبراء:
لا ينبغي لعلماء الكمبيوتر العمل في معزل عن العالم. عليهم التحدث مع المحامين، ومخططي المدن، وأفراد المجتمع لفهم القواعد وتاريخ الأحياء التي يدرسونها. - اختبر الخريطة، وليس الرياضيات فقط:
قبل إطلاق أي نظام ذكاء اصطناعي، اختبره بحدود خرائط مختلفة. هل يبدو النظام عادلاً إذا استخدمنا الرموز البريدية؟ ماذا لو استخدمنا المناطق المدرسية؟ ماذا لو استخدمنا تقسيمات التعداد السكاني؟ إذا تغيرت الإجابة بناءً على كيفية رسم الخطوط، فإن النظام ليس عادلاً حقاً. - استكشف المجهول:
تميل أنظمة الذكاء الاصطناعي إلى الالتزام بما تعرفه (على سبيل المثال، التوصيل فقط للمناطق الغنية لأن البيانات تقول إن الناس يطلبون منها). نحن بحاجة إلى دفع الذكاء الاصطناعي لـ "استكشاف" المناطق المهملة لكسر دورة الإهمال.
5. الصورة الكبيرة: لماذا يهم هذا؟
يجادل البعض بأن: "هذه مشكلة اجتماعية وليست تقنية. أصلحوا القوانين، لا الأكواد البرمجية".
يتفق المؤلفون على أن القوانين تحتاج إلى إصلاح. ولكن، يجادلون بأن الذكاء الاصطناعي لم يعد مجرد مراقب سلبي. الذكاء الاصطناعي يقوم فعلياً بإعادة تشكيل مدننا. إذا تركنا الذكاء الاصطناعي المتحيز يدير المشهد، فإنه سيسرع من وتيرة الفصل العنصري وعدم المساواة، مما يؤدي فعلياً إلى "أتمتة" عنصرية الماضي.
الخلاصة:
لا يمكننا بناء ذكاء اصطناعي "عادل" بمجرد تجاهل الموقع. علينا بناء ذكاء اصطناعي يفهم أن مكان سكنك هو في كثير من الأحيان نتيجة للتاريخ، وليس اختياراً. إذا لم نصلح هذا، فستستمر حواسيبنا في تصنيف الناس إلى أحياء "جيدة" وأخرى "سيئة"، مما يعزز نفس عدم المساواة التي نحاول حلها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.