Implementing Causal Perception: Competing SCMs and Situated Fairness

कल्पना कीजिए कि आप किसी रहस्य को सुलझाने की कोशिश कर रहे हैं, जैसे कि यह पता लगाना कि आपके कमरे में एक पौधा क्यों मुरझा रहा है। आप धूप, पानी या मिट्टी पर ध्यान दे सकते हैं। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, वैज्ञानिक इन सब चीजों को करने के लिए "स्ट्रक्चरल कॉज़ल मॉडल्स" (Structural Causal Models) नामक विशेष मानचित्रों का उपयोग करते हैं। ये मानचित्र फ्लोचार्ट की तरह होते हैं जो दिखाते हैं कि कैसे एक चीज़ दूसरी चीज़ होने का कारण बनती है। उदाहरण के लिए, एक मानचित्र दिखा सकता है कि "कम आय" का कारण "खराब क्रेडिट स्कोर" है। लेकिन यहाँ एक मोड़ है: दो अलग-अलग लोग (या AI प्रोग्राम) बिल्कुल एक ही पौधे को देख सकते हैं और दो पूरी तरह से अलग मानचित्र बना सकते हैं। एक को लग सकता है कि मिट्टी समस्या है, जबकि दूसरे को लगता है कि धूप समस्या है। यह केवल एक गलती नहीं है; यह दुनिया को देखने के उनके अलग तरीके का अंतर है। यह विचार महत्वपूर्ण है क्योंकि जब हम AI से निष्पक्ष निर्णय लेने के लिए कहते हैं—जैसे कि किसे ऋण मिले या किसे नौकरी—तो वे निर्णय पूरी तरह से इस बात पर निर्भर करते हैं कि AI किस मानचित्र का उपयोग कर रहा है। यदि मानचित्र असहमत हैं, तो "निष्पक्षता" का विचार इस बात पर निर्भर कर सकता है कि कौन देख रहा है।

जोस एम. अल्वारेज़ द्वारा लिखा गया यह शोध पत्र सिद्धांत से वास्तविकता की ओर एक बड़ा कदम बढ़ाता है, क्योंकि यह पहला कंप्यूटर प्रोग्राम बनाता है जो वास्तव में इन "टकराते हुए मानचित्रों" को माप सकता है। लेखक इस घटना को "कॉज़ल परसेप्शन" (causal perception) कहते हैं। इसे ऐसे समझें जैसे दो दोस्त एक फिल्म देख रहे हों। भले ही वे एक ही दृश्य देखें, वे अपने जीवन के अनुभवों के आधार पर पात्रों के उद्देश्यों की व्याख्या अलग-अलग तरीके से कर सकते हैं। AI की दुनिया में, इसका अर्थ है कि दो एजेंट (या "प्राप्तकर्ता") ऋण आवेदकों के एक ही समूह को देख सकते हैं और कुछ लोगों को अस्वीकार किए जाने के कारणों के बारे में दो अलग-अलग कहानियाँ देख सकते हैं। यह शोध पत्र जर्मनी के 1,000 ऋण आवेदकों के वास्तविक डेटासेट का उपयोग करके इसका परीक्षण करता है। शोधकर्ताओं ने दो डिजिटल "क्रेडिट अधिकारियों" को बनाया जो अधिकांश चीजों पर सहमत थे लेकिन एक विशिष्ट नियम पर असहमत थे: क्या किसी व्यक्ति का लिंग सीधे तौर पर उसके क्रेडिट जोखिम को प्रभावित करता है।

परिणाम चौंकाने वाले थे। भले ही दोनों अधिकारी अपने मानसिक मानचित्रों में केवल एक संबंध पर असहमत थे, फिर भी वे दुनिया को बहुत अलग तरह से देखते थे। जब शोधकर्ताओं ने उनके विचारों के बीच की दूरी को मापा, तो उन्होंने पाया कि दोनों अधिकारी व्यक्तिगत ऋण निर्णयों के लगभग 21.7% मामलों में असहमत थे। शोध पत्र यह भी उजागर करता है कि इस तरह के मतभेद निष्पक्षता के आकलन को बहुत अलग बना सकते; उदाहरण के लिए, प्रस्तावना में वर्णित एक काल्पनिक परिदृश्य में, एक एकल कॉज़ल एज (causal edge) पर भिन्न होने वाले दो प्राप्तकर्ता -0.594 बनाम -0.170 के डेमोग्राफिक पैरिटी गैप तक पहुँच सकते हैं। शोध पत्र ने यह भी खोजा कि "क्या वे चीजों को अलग तरह से देख रहे हैं?" का उत्तर पूरी तरह से इस बात पर निर्भर करता है कि आप किस मापने वाले उपकरण का उपयोग करते हैं। यदि आप एक प्रकार के पैमाने (एक दूरी मीट्रिक जिसे Wasserstein-2 कहा जाता है) का उपयोग करते हैं, तो वे लगभग एक जैसे दिख सकते हैं। लेकिन यदि आप दूसरे पैमाने (जैसे Kullback-Leibler divergence या Total Variation) का उपयोग करते हैं, तो अंतर बहुत बड़ा दिखता है।

अंततः, यह शोध पत्र दिखाता है कि पूर्वाग्रह (bias) केवल हवा में तैरता हुआ कोई निश्चित तथ्य नहीं है; यह "स्थित" (situated) है, जिसका अर्थ है कि यह उस व्यक्ति या AI के विशिष्ट दृष्टिकोण पर निर्भर करता है जो निर्णय ले रहा है। लेखक का तर्क है कि हम इन प्रतिस्पर्धी विश्वदृष्टिकोणों को अनदेखा नहीं कर सकते या सभी को एक ही "सही" मानचित्र पर सहमत होने के लिए मजबूर नहीं कर सकते। इसके बजाय, हमें यह स्वीकार करने की आवश्यकता है कि कई विशेषज्ञों वाली दुनिया में, अलग-अलग लोग वास्तव में निष्पक्षता को अलग तरह से समझेंगे, और हमारे उपकरणों को यह मानने के बजाय कि यह अस्तित्व में नहीं है, उस असहमति को संभालने के लिए तैयार रहने की आवश्यकता है।