Equity Bias: An Ethical Framework for AI Design
हर्मेन्यूटिक दर्शन और एपिस्टेमिक इनजस्टिस थ्योरी (ज्ञान संबंधी अन्याय के सिद्धांत) पर आधारित, यह शोध पत्र "इक्विटी बायस" (समता पक्षपात) का प्रस्ताव करता है, जो एक ढांचा है जो एआई पक्षपात को समाप्त करने योग्य त्रुटि के बजाय एनकोडेड ज्ञान के एक पारदर्शी प्रतिबिंब के रूप में पुनर्गठित करता है, और नैतिक रूप से जवाबदेह एवं समतापूर्ण एआई प्रणालियों को बढ़ावा देने के लिए पुरातत्व, सहभागी डिजाइन और निरंतर जवाबदेही के तीन चरणों वाले जीवन चक्र का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ मैरी लॉकवुड के पेपर, "इक्विटी बायस" (Equity Bias) का सरल, रोजमर्रा की भाषा और कुछ रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।
मुख्य विचार: "तटस्थ" (Neutral) बनने की कोशिश छोड़ दें
कल्पना कीजिए कि आप एक बड़ी पार्टी के लिए केक बना रहे हैं। सालों से, बेकर्स (Bakers) एक "परफेक्ट, न्यूट्रल" केक बनाने की कोशिश करते रहे हैं जिसका स्वाद सभी के लिए बिल्कुल एक जैसा हो। उन्हें लगा कि अगर वे सभी अजीब स्वादों को हटा दें, तो केक निष्पक्ष हो जाएगा।
लेकिन मैरी लॉकवुड कहती हैं: यह असंभव है।
हर केक विशिष्ट सामग्री से बनाया जाता है जिसे एक विशिष्ट बेकर द्वारा चुना जाता है। यदि आप केवल एक ही मिल के आटे और एक ही फैक्ट्री की चीनी का उपयोग करते हैं, तो केक का स्वाद उसी मिल और उसी फैक्ट्री जैसा होगा, चाहे आप कितना भी "न्यूट्रल" होने की कोशिश करें।
इक्विटी बायस (Equity Bias) आर्टिफिशियल इंटेलिजेंस (AI) के बारे में सोचने का एक नया तरीका है। AI से सभी "बायस" (पूर्वाग्रह) को मिटाने की कोशिश करने के बजाय (जो कि असंभव है), हमें यह स्वीकार करना चाहिए कि AI एक विशिष्ट सामग्री से बने केक की तरह है। लक्ष्य सामग्री को हटाना नहीं है; बल्कि यह सुनिश्चित करना है कि हमारे पास कटोरे में सामग्री की बहुत अधिक विविधता हो ताकि केक उन लोगों के लिए भी स्वादिष्ट हो सके जो आमतौर रूप से बेकिंग करते हैं।
समस्या: "इको चैंबर" वाला किचन
अभी, अधिकांश AI एक ऐसे किचन की तरह बनाया गया है जहाँ केवल एक ही प्रकार के व्यक्ति को खाना पकाने की अनुमति है।
- रेसिपी: AI डेटा (सामग्री) से सीखता है। यदि डेटा मुख्य रूप से धनी, पश्चिमी, पुरुष दृष्टिकोणों से आता है, तो AI सोचता है कि दुनिया इसी तरह काम करती है।
- गलती: जब AI किसी अलग पृष्ठभूमि के व्यक्ति (जैसे एक महिला, एक अश्वेत व्यक्ति, या किसी ग्रामीण गाँव के व्यक्ति) की मदद करने की कोशिश करता है, तो वह विफल हो जाता है। यह एक तीखी करी की रेसिपी का उपयोग करके एक सादी सूप बनाने जैसा है; स्वाद आपस में मेल नहीं खाते।
पेपर इसे एपिस्टेमिक इनजस्टिस (Epistemic Injustice) कहता है। यह एक भारी-भरकम शब्द है जिसका अर्थ है: "हम कुछ लोगों के ज्ञान और कहानियों को अनदेखा कर रहे हैं, और उनके अनुभवों को इस तरह मान रहे हैं जैसे उनका कोई महत्व ही न हो।"
उपमा: कल्पना कीजिए कि एक GPS ऐप है जिसमें केवल न्यूयॉर्क शहर के नक्शे हैं। यदि आप केन्या के एक छोटे से गाँव में गाड़ी चलाने की कोशिश करते हैं, तो वह आपको उन सड़कों पर मुड़ने के लिए कहेगा जो अस्तित्व में ही नहीं हैं। GPS तकनीकी रूप से "टूटा" हुआ नहीं है; यह बस आपकी वास्तविकता के नक्शे को नहीं जानता।
समाधान: "पोटलक" (Potluck) दृष्टिकोण
बायस को हटाने के बजाय, इक्विटी बायस कहता है: आइए और अधिक लोगों को पोटलक (मिलकर खाना खाने) के लिए आमंत्रित करें।
पेपर सुझाव देता है कि हम AI को एक ठंडे, गणना करने वाले रोबोट के रूप में नहीं, बल्कि एक कहानीकार (Storyteller) के रूप में देखें जिसे दुनिया को समझने के लिए कई अलग-अलग कहानियों को सुनने की आवश्यकता है।
1. तीन-चरणीय रेसिपी (AI जीवन चक्र)
मैरी एक नया तरीका प्रस्तावित करती हैं जिससे AI बनाया जा सकता है, जिसे तीन चरणों में बांटा गया है:
चरण 1: इक्विटी आर्कियोलॉजी (सत्य की खुदाई करना)
खाना बनाना शुरू करने से पहले, आपको अपनी रसोई (पेंट्री) को देखना होगा।
- थैले में क्या है? डेटा किसने लिखा? किसकी आवाज़ें गायब हैं?
- रूपक (Metaphor): यह एक पुरातत्वविद् (Archaeologist) की तरह है जो एक पुराने स्थल की खुदाई कर रहा है। आप केवल सोने की तलाश नहीं कर रहे हैं; आप उस टूटे हुए मिट्टी के बर्तनों की तलाश कर रहे हैं जो बताते हैं कि वहां कौन रहता था और किसे अनदेखा किया गया था। आपको यह पता लगाने की जरूरत है कि मूल रूप से रेसिपी इस तरह क्यों लिखी गई थी।
चरण 2: अर्थ का सह-निर्माण (पोटलक)
लोगों से अंत में खाना चखने के लिए ही न पूछें; उन्हें खाना पकाने में मदद करने के लिए कहें।
- रूपक: एक बंद किचन में अकेले खाना पकाने वाले शेफ के बजाय, एक सामुदायिक पोटलक की कल्पना करें। आप उन लोगों को आमंत्रित करते हैं जो वास्तव में भोजन खाएंगे (समुदाय) ताकि वे अपने व्यंजन ला सकें और मेनू तय करने में मदद कर सकें।
- क्यों? यदि आप मानसिक स्वास्थ्य में मदद के लिए AI बना रहे हैं, तो आपको उन लोगों से बात करने की आवश्यकता है जो मानसिक स्वास्थ्य समस्याओं के साथ जी रहे हैं, न कि केवल डॉक्टरों से। यदि आप एक डिफेंस AI बना रहे हैं, तो आपको ऑफिस में बैठे जनरलों के बजाय ज़मीन पर मौजूद सैनिकों की बात सुननी होगी।
चरण 3: निरंतर जवाबदेही (टेस्टिंग)
खाना परोसने के बाद खाना बनाना समाप्त नहीं होता।
- रूपक: एक ऐसे रेस्टोरेंट की कल्पना करें जहाँ ग्राहक खाना वापस भेज सकते हैं यदि वह सही नहीं है, और शेफ को रेसिपी बदलनी ही होगी।
- यह कैसे काम करता है: AI को "सेट एंड फॉरगेट" (बनाओ और भूल जाओ) नहीं होना चाहिए। इसे फीडबैक लूप की आवश्यकता है। यदि AI किसी विशिष्ट समूह के लिए गलत निर्णय लेने लगता है, तो सिस्टम को रुकने, उस समूह की बात सुनने और अपनी "रेसिपी" को अपडेट करने में सक्षम होना चाहिए।
यह क्यों महत्वपूर्ण है: वास्तविक दुनिया के उदाहरण
1. मेडिकल डॉक्टर की उपमा
कल्पना कीजिए कि एक डॉक्टर जिसने केवल पुरुष रोगियों पर अध्ययन किया है। यदि एक महिला आती है जिसके हृदय रोग (Heart Attack) के लक्षण पुरुषों से अलग दिखते हैं, तो डॉक्टर उसे पहचान नहीं पाएगा।
- पुराना तरीका: "डेटा ने कहा कि मरीज ठीक था, इसलिए कंप्यूटर सही था।"
- इक्विटी बायस तरीका: "हमें एहसास हुआ कि हमारा डेटा महिलाओं की कहानियों को मिस कर रहा है। आइए महिला रोगियों से सीखने के लिए वापस जाएं ताकि AI वास्तव में सभी के जीवन बचा सके।"
2. सैन्य (Military) की उपमा
कल्पना कीजिए कि एक जनरल युद्ध लड़ने के लिए ड्रोन का उपयोग कर रहा है। ड्रोन का AI केवल जनरल के देश के नियमों को जानता है। यह स्थानीय संस्कृति, स्थानीय भाषा या स्थानीय इलाके को नहीं समझता।
- परिणाम: AI गलती करता है क्योंकि वह सोचता है कि दुश्मन जनरल के देश के सैनिक की तरह व्यवहार कर रहा है, जबकि वे वास्तव में स्थानीय लोग हैं।
- इक्विटी बायस तरीका: AI को स्थानीय गाइडों और जूनियर सैनिकों के इनपुट के साथ प्रशिक्षित किया जाता है जो वास्तविक स्थिति को जानते हैं, जिससे सिस्टम अधिक स्मार्ट और सुरक्षित बनता है।
कड़वा सच: यह "फेयरनेस मैथ" (Fairness Math) के बारे में नहीं है
कई लोग सोचते हैं कि हम AI बायस को गणित से ठीक कर सकते हैं। वे कहते हैं, "यदि हम बस नंबरों को संतुलित कर दें, तो यह निष्पक्ष हो जाएगा।"
मैरी कहती हैं: नहीं।
आप एक कैलकुलेटर से गलत विश्वदृष्टि (Worldview) को ठीक नहीं कर सकते।
- "तटस्थता का मिथक" (The Neutrality Myth): यह सोचना कि AI न्यूट्रल हो सकता है, वैसा ही है जैसे यह सोचना कि एक दर्पण न्यूट्रल हो सकता है। दर्पण केवल वही दर्शाता है जो उसके सामने होता है। यदि आप आंखों पर पट्टी बांधकर दर्पण के सामने खड़े होते हैं, तो दर्पण एक अंधे व्यक्ति को दर्शाता है। दर्पण समस्या नहीं है; पट्टी समस्या है।
- समाधान: हमें पट्टी हटानी होगी और पूरे कमरे को देखना होगा।
सारांश: हमें क्या करना चाहिए?
यह पेपर AI बनाने वाले हर व्यक्ति के लिए एक आह्वान है:
- AI न्यूट्रल है, यह दावा करना छोड़ दें। स्वीकार करें कि इसका एक दृष्टिकोण है।
- बायस को मिटाने की कोशिश छोड़ दें। इसके बजाय, बायस को दृश्यमान बनाएं और बहस के लिए खुला रखें।
- अधिक लोगों को शामिल करें। केवल फीडबैक के लिए न पूछें; विभिन्न समूहों को शुरुआत से ही सिस्टम डिजाइन करने में मदद करने दें।
- स्वीकार करें कि यह जटिल है। अलग-अलग राय होना अच्छा है! इसका मतलब है कि सिस्टम वास्तविक, जटिल दुनिया से सीख रहा है।
मुख्य बात:
यदि हम ऐसा AI चाहते हैं जो सभी के लिए काम करे, तो हम केवल एक बेहतर मशीन नहीं बना सकते। हमें एक बेहतर संवाद (Conversation) बनाना होगा। हमें यह सुनिश्चित करना होगा कि AI को खिलाने वाला "ज्ञान" केवल एक छोटे, विशेषाधिकार प्राप्त क्लब से नहीं, बल्कि पूरे मानव परिवार से आए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।