Population-Aware Bayesian Fairness in AI under Complex Survey Designs
यह शोध पत्र एक बेयसियन जनसंख्या-जागरूक निष्पक्षता ढांचे (Bayesian population-aware fairness framework) का प्रस्ताव करता है जो जटिल सर्वेक्षण भारण (complex survey weighting), पदानुक्रमित आंशिक पूलिंग (hierarchical partial pooling), और अनिश्चितता अंशांकन (uncertainty calibration) को एकीकृत करता है ताकि भविष्य कहनेवाला प्रणालियों में समूह असमानताओं का सटीक अनुमान और प्रमाणन किया जा सके, और सिमुलेशन तथा वास्तविक डेटा के माध्यम से यह प्रदर्शित करता है कि सर्वेक्षण डिजाइन की अनदेखी करने से पक्षपाती निष्पक्षता निष्कर्ष निकलते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक कंप्यूटर प्रोग्राम डेटा के एक संग्रह का अध्ययन करके भविष्यवाणियां करना सीखता है, ठीक वैसे ही जैसे एक छात्र पाठ्यपुस्तक से सीखता है। लेकिन एक पाठ्यपुस्तक शायद ही कभी वास्तविक दुनिया का सटीक दर्पण होती है। इसमें एक पड़ोस के बहुत अधिक उदाहरण हो सकते हैं और दूसरे के बहुत कम, या यह किसी विशिष्ट वर्ष पर केंद्रित हो सकती है जबकि दुनिया आगे बढ़ चुकी है। जब हम कंप्यूटर से निष्पक्षता का निर्णय करने के लिए कहते हैं—जैसे कि क्या वह लोगों के दो अलग-अलग समूहों के साथ समान व्यवहार करता है—तो हमें एक कठिन प्रश्न पूछना पड़ता है: क्या हम कंप्यूटर का न्याय उस अपूर्ण पुस्तक के आधार पर कर रहे जिसे उसने पढ़ा है, या उस वास्तविक जनसंख्या के आधार पर जिसकी वह सेवा करेगा? यदि पुस्तक पक्षपाती है, तो उस पुस्तक पर कंप्यूटर का प्रदर्शन वास्तविक दुनिया में उसके प्रदर्शन से भिन्न होगा। नमूने (sample) और जनसंख्या (population) के बीच का यह अंतर सांख्यिकीविदों के लिए एक क्लासिक समस्या है, लेकिन यह आर्टिफिशियल इंटेलिजेंस के लिए अत्यंत महत्वपूर्ण हो गई है, जहाँ नौकरियों, ऋणों और सुरक्षा के बारे में निर्णय तेजी से स्वचालित होते जा रहे हैं।
देबाशिस चटर्जी द्वारा किया गया एक नया अध्ययन इसी समस्या का समाधान करने के लिए एक विधि विकसित करके इस सटीक समस्या को संबोधित करता है जो यह मापता है कि डेटा कैसे एकत्र किया गया था। यह शोध "समान अवसर" (equal opportunity) नामक एक विशिष्ट प्रकार की निष्पक्षता पर केंद्रित है, जो यह पूछता है कि क्या एक प्रणाली विभिन्न समूहों के लोगों के लिए सकारात्मक परिणामों, जैसे कि नौकरी पाना, को सही ढंग से पहचानती है। लेखक का तर्क है कि केवल डेटासेट से कच्चे आंकड़ों (raw numbers) को देखना अक्सर भ्रामक होता है क्योंकि डेटासेट स्वयं असंतुलित हो सकता है। इस समस्या को हल करने के लिए, यह अध्ययन दो शक्तिशाली विचारों को जोड़ता है: एक तरीका जो गणितीय रूप से डेटा की संरचना के प्रभाव को कंप्यूटर के वास्तविक व्यवहार से अलग करता है, और एक सांख्यिकीय दृष्टिकोण जो बड़े सरकारी सर्वेक्षणों द्वारा प्रदान किए गए भार (weights) का उपयोग करके उन असंतुलनों को ठीक करता है। लक्ष्य यह पूछने से "इस विशिष्ट लोगों की सूची पर कंप्यूटर ने कैसा प्रदर्शन किया?" से बदलकर "पूरी जनसंख्या पर कंप्यूटर कैसा प्रदर्शन करेगा?" तक पहुँचना है।
शोधकर्ताओं ने दो अलग-अलग दृष्टिकोणों का उपयोग करके अपने तरीके का परीक्षण किया। सबसे पहले, उन्होंने कंप्यूटर सिमुलेशन की एक श्रृंखला चलाई जहाँ उन्होंने तीस हजार लोगों की एक नकली जनसंख्या बनाई और फिर पांच अलग-अलग नियमों का उपयोग करके उससे छोटे नमूने लिए। कुछ नियम सरल और यादृच्छिक (random) थे, जबकि अन्य जटिल बनाए गए थे, जैसे कि एक ऐसा नियम जिसने नमूने में कुछ प्रकार के लोगों को खोजना कठिन बना दिया। इन सिमुलेशन में, उन्होंने एक मानक, असंतुलित दृश्य (unadjusted view) की तुलना अपने नए, सुधारे हुए दृश्य से की। उन्होंने पाया कि जब नमूना लेने की विधि जटिल थी, तो मानक दृश्य अक्सर गलत था, कभी-कभी बड़े अंतर से। उदाहरण के लिए, एक परिदृश्य में जहाँ नमूना कंप्यूटर की अपनी भविष्यवाणियों पर निर्भर था, असंतुलित विधि ने प्रदर्शन के वास्तविक अंतर को महत्वपूर्ण मात्रा में मिस कर दिया। हालाँकि, जब उन्होंने अपना सुधार लागू किया, तो परिणाम सत्य के बहुत करीब आ गए। अध्ययन ने यह भी दिखाया कि केवल डेटा में सांख्यिकीय भार जोड़ना पर्याप्त नहीं था; शोधकर्ताओं को अपने परिणामों की अनिश्चितता को सर्वेक्षण डिजाइन की जटिलता के अनुरूप सावधानीपूर्वक समायोजित करना था, अन्यथा वे अपने निष्कर्षों में बहुत अधिक आश्वस्त हो जाते।
यह देखने के लिए कि क्या यह वास्तविक दुनिया में काम करता है, टीम ने संयुक्त राज्य अमेरिका के जनगणना ब्यूरो के एक वास्तविक डेटासेट, विशेष रूप से 2018 के लिए अलबामा राज्य के अमेरिकन कम्युनिटी सर्वे पर अपने तरीके को लागू किया। उन्होंने 2018 में लोगों के रोजगार की स्थिति की भविष्यवाणी करने के लिए 2017 के डेटा पर प्रशिक्षित एक कंप्यूटर मॉडल का उपयोग किया। जब उन्होंने बिना किसी सुधार के कच्चे डेटा को देखा, तो मॉडल ने श्वेत और अश्वेत व्यक्तियों के साथ बहुत अलग व्यवहार किया, जिससे उनके रोजगार की सही पहचान करने की दर में 0.0536 का अंतर दिखाई दिया। इस संख्या ने एक महत्वपूर्ण अन्याय का संकेत दिया। हालाँकि, जब उन्होंने नमूने को राज्य की जनसंख्या का सटीक प्रतिनिधित्व करने के लिए सर्वेक्षण भार (survey weights) लागू किए, तो यह अंतर नाटकीय रूप से घटकर 0.0212 रह गया। यह कमी इसलिए नहीं हुई क्योंकि कंप्यूटर ने अपना निर्णय बदल लिया था या मॉडल को ठीक किया गया था; मॉडल बिल्कुल वैसा ही रहा। परिवर्तन इसलिए हुआ क्योंकि शोधकर्ताओं ने वह प्रश्न बदल दिया था जो वे पूछ रहे थे, जिससे ध्यान विशिष्ट नमूने के लोगों से हटकर अलबामा के वास्तविक लोगों पर चला गया।
इस सुधार के बावजूद, अध्ययन निश्चितता के बारे में एक गंभीर निष्कर्ष प्रस्तुत करता है। शोधकर्ताओं ने पाया कि सर्वोत्तम सुधारों के साथ भी, कभी-कभी पूरी कहानी जानना असंभव होता है। यदि लोगों का एक विशिष्ट समूह नमूने में पूरी तरह से गायब है, तो कोई भी सांख्यिकीय युक्ति उस अंतर को वास्तविक डेटा से नहीं भर सकती। अपने सिमुलेशन में, जब एक समूह नमूने में पूरी तरह से अनुपस्थित था, तो शोधकर्ता केवल संभावित उत्तरों की एक विस्तृत श्रृंखला प्रदान कर सके, यह स्वीकार करते हुए कि वास्तविक मान अज्ञात था। वास्तविक दुनिया के अलबामा उदाहरण में, सुधारा गया अंतर छोटा था और कम अन्याय का सुझाव देता था, लेकिन परिणाम की सटीकता को मापने के लिए उपयोग किए गए सांख्यिकीय उपकरण अभी भी पूर्ण नहीं थे। जनगणना ब्यूरो द्वारा उपयोग किए जाने वाले मानक तरीकों और अध्ययन में उपयोग किए गए नए बेयसियन (Bayesian) तरीकों ने परिणाम की भिन्नता का अनुमान लगाने के लिए थोड़े अलग अनुमान दिए। इसका अर्थ यह है कि हालांकि शोधकर्ता यह कह सकते हैं कि अंतर पहली बार की तुलना में कम होने की संभावना है, लेकिन वे इस बात को निर्णायक रूप से प्रमाणित नहीं कर सकते कि सिस्टम पूरी तरह से निष्पक्ष है या पूरी तरह से अनुचित।
अध्ययन अंततः यह प्रदर्शित करता है कि निष्पक्षता कोई एकल संख्या नहीं है जिसे एक कंप्यूटर एक बार में गणना कर सके। यह एक ऐसा गुण है जो इस बात पर निर्भर करता है कि किसे गिना जा रहा है और उन्हें कैसे गिना जा रहा है। यह शोध इन अंतरों को दृश्यमान बनाने के लिए एक स्पष्ट ढांचा प्रदान करता है, यह दिखाते हुए कि प्रदर्शन में अंतर पूरी तरह से इस कारण हो सकता है कि कमरे में कौन मौजूद है, न कि इस कारण कि कंप्यूटर कैसे सोचता है। समूह की संरचना को मॉडल के व्यवहार से अलग करके, अध्ययन हमें यह देखने की अनुमति देता है कि एक प्रणाली पक्षपाती नमूने पर अन्यायपूर्ण लग सकती है लेकिन पूरी जनसंख्या के दृष्टिकोण से देखने पर उसका प्रदर्शन भिन्न हो सकता है। यह कार्य एल्गोरिदम संबंधी भेदभाव की समस्या को हल करने का दावा नहीं करता है, न ही यह सिद्ध करता है कि कोई विशिष्ट प्रणाली पूर्वाग्रह से मुक्त है। इसके बजाय, यह मापने का एक अधिक ईमानदार तरीका प्रदान करता है, जो यह स्वीकार करता है कि डेटा अपर्याप्त है और यह स्पष्ट करता है कि कथित असमानता वास्तव में सर्वेक्षण डिजाइन का प्रतिबिंब है। यह दृष्टिकोण यह सुनिश्चित करता है कि जब हम कृत्रिम बुद्धिमत्ता की निष्पक्षता के बारे में निर्णय लेते हैं, तो हम डेटा संग्रह की आकस्मिकताओं से भ्रमित होने के बजाय सही जनसंख्या और सही उपकरणों को देख रहे होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।