Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools
यह शोध पत्र एक गुणात्मक उपयोगकर्ता अध्ययन प्रस्तुत करता है जो यह पता लगाता है कि क्रेडिट रेटिंग एआई (AI) से प्रभावित व्यक्ति अपने स्वयं के कस्टम निष्पक्षता मानदंडों को कैसे स्पष्ट और संचालित कर सकते हैं, जिससे विशेषज्ञों को अधिक समावेशी और मूल्य-संवेदनशील एआई मूल्यांकन उपकरण डिजाइन करने में मदद करने के लिए अनुभवजन्य अंतर्दृष्टि प्राप्त हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"फेयरनेस रेसिपी" की समस्या: AI के निर्णयों को अधिक मानवीय बनाना
कल्पना कीजिए कि आप एक बैंक में ऋण (लोन) के लिए आवेदन कर रहे हैं। एक मानव बैंकर द्वारा आपके जीवन का आकलन करने के बजाय, एक "रोबोट" (एक AI सिस्टम) निर्णय लेता है।
वर्तमान में, जब विशेषज्ञ यह जाँचते हैं कि क्या यह रोबोट "निष्पक्ष" (fair) है, तो वे एक बहुत ही कठोर, गणितीय चेकलिस्ट का उपयोग करते हैं। वे यह जाँच सकते हैं: "क्या रोबोट महिलाओं को पुरुषों की तुलना में अधिक बार अस्वीकार करता है?" यदि गणित कहता है "नहीं," तो विशेषज्ञ उस रोबोट को "निष्पक्ष" घोषित कर देते हैं।
समस्या क्या है? यह एक शेफ द्वारा यह तय करने जैसा है कि कोई भोजन "अच्छा" है या नहीं, सिर्फ यह जाँचकर कि उसमें ठीक 500 कैलोरी है। यह स्वाद, बनावट और इस बात को अनदेखा कर देता है कि इसे खाने वाले व्यक्ति को वह वास्तव में पसंद आया या नहीं। रोबोट के निर्णय से सबसे अधिक प्रभावित होने वाले लोग—आम जनता—को कभी यह कहने का मौका ही नहीं मिलता कि "निष्पक्षता" वास्तव में कैसी दिखती है।
इस शोध ने क्या किया
शोधकर्ताओं की एक टीम ने "गणित विशेषज्ञों" से यह पूछना बंद करने का निर्णय लिया कि निष्पक्षता क्या है, और उन्होंने "हॉट सीट पर बैठे लोगों" से पूछना शुरू किया।
वे 18 आम लोगों के साथ बैठे और उन्हें क्रेडिट-स्कोरिंग AI का एक सिमुलेशन दिया। केवल यह पूछने के बजाय कि, "क्या आपको यह रोबोट पसंद है?" उन्होंने उन्हें एक डिजिटल टूलकिट दिया ताकि वे रोबोट के पालन करने के लिए अपने खुद के नियम लिख सकें।
खोज: लोग निष्पक्षता को कैसे "बनाते" हैं
शोधकर्ताओं ने पाया कि लोग केवल एक तरह से निष्पक्षता के बारे में नहीं सोचते हैं। वे एक ऐसी प्रक्रिया का पालन करते हैं जो एक कस्टम रेसिपी बनाने जैसी दिखती है:
- सामग्री की जाँच (विशेषताओं की खोज - Exploring Features): सबसे पहले, लोग देखते हैं कि रोबोट क्या "खा" रहा है (डेटा)। वे उम्र, नौकरी और बचत जैसी चीजों को देखते हैं।
- "क्या होगा अगर" का खेल (पूर्वाग्रह की पहचान - Identifying Bias): वे विभिन्न परिदृश्यों की कल्पना करना शुरू करते हैं। "क्या होगा अगर रोबोट प्रवासियों के प्रति पक्षपाती है?" या "क्या होगा अगर यह युवाओं के प्रति पक्षपाती है?"
- सीमाएं निर्धारित करना (बिनिंग - Setting the Boundaries): वे तय करते हैं कि किसे विशेष सुरक्षा की आवश्यकता है। केवल "आयु" कहने के बजाय, वे कह सकते हैं, "25 से कम या 65 से अधिक आयु के लोगों के साथ विशेष देखभाल की जानी चाहिए।"
परिणाम: एक "फेयरनेस बुफे"
शोधकर्ताओं ने पाया कि लोगों को केवल एक नियम नहीं चाहिए था; उन्हें सुरक्षा का एक पूरा मेनू चाहिए था। उन्होंने तीन मुख्य प्रकार की "फेयरनेस रेसिपी" बनाईं:
- "परिणाम" की रेसिपी (The Outcome Recipe): "मुझे परवाह नहीं है कि आप इसे कैसे करते हैं, बस यह सुनिश्चित करें कि समान आय वाले लोगों को लिंग की परवाह किए बिना समान परिणाम मिले।"
- "कॉम्बो" की रेसिपी (The Combo Recipe): "मैं चाहता हूँ कि रोबोट समूहों (जैसे पुरुष बनाम महिला) के प्रति निष्पक्ष हो और साथ ही व्यक्तियों (दो समान लोगों के साथ समान व्यवहार करना) के प्रति भी निष्पक्ष हो।"
- "प्रक्रिया" की रेसिपी (The Process Recipe): यह एक बड़ा आश्चर्य था! कई लोगों को केवल अंतिम उत्तर की परवाह नहीं थी; उन्हें इस बात की परवाह थी कि रोबोट कैसे सोचता है। उन्होंने कहा, "निर्णय लेते समय रोबोट को आपके फोन नंबर या आपके लिंग को देखने की अनुमति भी नहीं दी जानी चाहिए। वे सामग्रियां रसोई में होनी ही नहीं चाहिए!"
यह क्यों महत्वपूर्ण है?
अभी, AI निष्पक्षता एक "टॉप-डाउन" प्रक्रिया है: विशेषज्ञ जनता को बताते हैं, "हम पर भरोसा करें, गणित निष्पक्ष है।"
यह पेपर एक "बॉटम-अप" दृष्टिकोण का समर्थन करता है। यह सुझाव देता है कि हमें ऐसे उपकरण बनाने चाहिए जो आम लोगों को मेज पर बैठने और यह कहने की अनुमति दें: "यहाँ वे नियम हैं जिनका मैं चाहता हूँ कि आप पालन करें। यहाँ वह तरीका है जिससे मैं निष्पक्षता को परिभाषित करता हूँ। अब, मुझे दिखाओ कि क्या आप उनका पालन कर रहे हैं।"
बड़ी तस्वीर: लोगों को उनकी अपनी "फेयरनेस रेसिपी" परिभाषित करने के उपकरण देकर, हम ठंडे, रोबोटिक गणित से दूर जा सकते हैं और ऐसे AI सिस्टम की ओर बढ़ सकते हैं जो वास्तव में मानवीय मूल्यों का सम्मान करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।