Implementing Causal Perception: Competing SCMs and Situated Fairness

تخيل أنك تحاول حل لغز، مثل معرفة سبب ذبول نبات في غرفتك. قد تنظر إلى ضوء الشمس، أو الماء، أو التربة. في عالم الذكاء الاصطناعي، يستخدم العلماء خرائط خاصة تسمى "النماذج السببية الهيكلية" للقيام بالأمر نفسه. هذه الخرائط تشبه المخططات الانسيابية التي توضح كيف يتسبب شيء ما في حدوث أشياء أخرى. على سبيل المثال، قد تظهر خريطة أن "الدخل المنخفض" يسبب "درجة ائتمانية ضعيفة". ولكن هنا تكمن المفاجأة: قد ينظر شخصان مختلفان (أو برنامجان للذكاء الاصطناعي) إلى نفس النبتة ويرسما خريطتين مختلفتين تماماً. قد يعتقد أحدهما أن التربة هي المشكلة، بينما يعتقد الآخر أن ضوء الشمس هو السبب. هذا ليس مجرد خطأ؛ بل هو اختلاف في كيفية رؤيتهما للعالم. هذه الفكرة جوهرية لأننا عندما نطلب من الذكاء الاصطناعي اتخاذ قرارات عادلة—مثل من يحصل على قرض أو وظيفة—تعتمد تلك القرارات كلياً على الخريطة التي يستخدمها الذكاء الاصطناعي. إذا اختلفت الخرائط، فإن فكرة "العدالة" يمكن أن تتغير بناءً على من ينظر إليها.

هذه الورقة البحثية، التي كتبها خوسيه م. ألفاريز، تتخذ خطوة كبيرة من النظرية إلى الواقع عبر بناء أول برنامج حاسوبي يمكنه فعلياً قياس هذه "الخرائط المتصادمة". يطلق المؤلف على هذه الظاهرة اسم "الإدراك السببي". فكر في الأمر كصديقين يشاهدان فيلماً؛ حتى لو شاهدا نفس المشاهد، فقد يفسران دوافع الشخصيات بشكل مختلف بناءً على تجاربهما الحياتية. في عالم الذكاء الاصطناعي، يعني هذا أن "مستقبِلَين" (أو وكيلين) قد ينظران إلى نفس المجموعة من المتقدمين للقروض ويريان قصتين مختلفتين حول سبب رفض بعضهم. تختبر الورقة ذلك باستخدام مجموعة بيانات حقيقية لـ 1,000 متقدم للحصول على قرض من ألمانيا. لقد أنشأ الباحثون "مسؤولَي ائتمان" رقميين اتفقا في معظم الأمور، لكنهما اختلفا في قاعدة واحدة محددة: ما إذا كان جنس الشخص يؤثر بشكل مباشر على مخاطره الائتمانية.

كانت النتائج مذهلة. على الرغم من أن المسؤولين لم يختلفا إلا في رابط واحد في خرائطهما الذهنية، إلا أنهما انتهيا برؤية العالم بشكل مختلف تماماً. عندما قاس الباحثون مدى التباعد بين وجهات نظرهما، وجدا أن المسؤولين اختلفا في حوالي 21.7% من قرارات القروض الفردية. كما تسلط الورقة الضوء على أن مثل هذه الخلافات يمكن أن تؤدي إلى تقييمات مختلفة تماماً للعدالة؛ فعلى سبيل المثال، في سيناريو افتراضي موصوف في المقدمة، يمكن لمستقبِلَين يختلفان في حافة سببية واحدة أن يصلا إلى فجوات في التكافؤ الديموغرافي تتراوح بين -0.594 و -0.170. واكتشفت الورقة أيضاً أن الإجابة على سؤال "هل يرى كل منهما الأشياء بشكل مختلف؟" تعتمد كلياً على أداة القياس المستخدمة. فإذا استخدمت نوعاً واحداً من المساطر (مقياس مسافة يسمى Wasserstein-2)، فقد يبدوان متشابهين تقريباً. ولكن إذا استخدمت مسطرة أخرى (مثل تباعد كولباك-ليبلر أو التباين الكلي)، فإن الفجوة ستبدو هائلة.

في نهاية المطاف، تظهر الورقة أن التحيز ليس مجرد حقيقة ثابتة تطفو في الهواء؛ بل هو "موقعي"، مما يعني أنه يعتمد على الرؤية العالمية المحددة للشخص أو الذكاء الاصطناعي الذي يقوم بالحكم. ويجادل المؤلف بأنه لا يمكننا مجرد تجاهل هذه الرؤى المتضاربة أو إجبار الجميع على الاتفاق على خريطة واحدة "صحيحة". بدلاً من ذلك، نحن بحاجة إلى الاعتراف بأنه في عالم مليء بالخبراء المتعددين، سيدرك الناس بالفعل العدالة بشكل مختلف، وعلينا أن تكون أدواتنا مستعدة للتعامل مع هذا الاختلاف بدلاً من التظاهر بعدم وجوده.