The role of team diversity in AI systems development
चार एआई-केंद्रित टीमों के पेशेवरों के साथ 25 साक्षात्कारों के ग्राउंडेड थ्योरी विश्लेषण के माध्यम से, यह अध्ययन प्रदर्शित करता है कि टीम विविधता पूर्वाग्रह की पहचान के लिए दृष्टिकोणों को विविध बनाकर, सहानुभूति को बढ़ावा देकर, प्रणालीगत भेदभाव को संबोधित करके और समावेशी निर्णय लेने को प्रोत्साहित करके एआई सिस्टम विकास को महत्वपूर्ण रूप से बढ़ाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप पूरी दुनिया के लिए भोजन पकाने के लिए एक विशाल, स्वचालित रोबोट शेफ बना रहे हैं। आप चाहते हैं कि यह रोबोट निष्पक्ष हो, ताकि यह गलती से किसी ऐसे व्यक्ति को तीखा भोजन न दे सके जो गर्मी बर्दाश्त नहीं कर सकता, या ऐसा आहार न परोसे जिससे किसी विशिष्ट समूह के लोग बीमार पड़ जाएं।
यह शोध पत्र इस बारे में है कि आप उस रोबोट शेफ को बनाने के लिए किसे काम पर रखते हैं, और आपके निर्माण दल (construction crew) में लोगों का मिश्रण यह निर्धारित करने में कैसे तय करता है कि वह रोबोट एक जीनियस बनेगा या एक आपदा।
यहाँ इस शोध की कहानी है, जिसे सरल शब्दों में विभाजित किया गया है:
समस्या: सजातीय टीमों (Homogeneous Teams) का "अंधा मोड़" (Blind Spot)
शोधकर्ताओं ने पाया कि जब AI बनाने वाली टीम उन लोगों से बनी होती है जो दिखने में एक जैसे हैं, एक जैसा सोचते हैं और जिनका जीवन अनुभव एक जैसा रहा है, तो उनमें अंधे मोड़ (blind spots) होते हैं।
इसे ऐसे समझें जैसे लोगों का एक समूह जिसने केवल पिज्जा खाया है। यदि वे पूरी दुनिया के लिए मेनू डिजाइन करने की कोशिश करते हैं, तो वे भूल सकते हैं कि कुछ लोगों को पनीर से एलर्जी है, कुछ शाकाहारी (vegan) हैं, और कुछ सुशी पसंद करते हैं। वे बुरे होने की कोशिश नहीं कर रहे हैं; वे बस सचमुच एक ऐसी दुनिया की कल्पना नहीं कर सकते जहाँ पिज्जा मुख्य व्यंजन न हो।
वास्तविक दुनिया में, ऐसा ही AI के साथ होता है। यदि चेहरे की पहचान (facial recognition) प्रणाली केवल हल्के रंग की त्वचा वाले लोगों द्वारा बनाई गई है, तो रोबोट गहरे रंग की त्वचा वाले व्यक्ति को देखकर भ्रमित हो सकता है। यदि नौकरी देने वाला बॉट केवल पुरुषों द्वारा बनाया गया है, तो वह गलती से सोच सकता है कि "CEO" एक पुरुष जैसा नाम लगता है।
समाधान: "सुपर-टीम"
शोधकर्ताओं ने ब्राजील और पुर्तगाल में AI परियोजनाओं पर काम करने वाले 25 सॉफ्टवेयर पेशेवरों का साक्षात्कार लिया। उन्होंने पाया कि जब आप एक विविध मिश्रण वाली टीम (विभिन्न लिंग, नस्ल, पृष्ठभूमि, क्षमता और जीवन अनुभवों) के साथ निर्माण करते हैं, तो वह टीम एक "सुपर-टीम" बन जाती है जो उन चीजों को देख सकती है जिन्हें अन्य लोग छोड़ देते हैं।
उन्होंने पाया कि विविध टीमों के पास छह महाशक्तियाँ (superpowers) होती हैं:
1. "डिटेक्टिव" की शक्ति (दृष्टिकोणों का विविधीकरण)
कल्पना कीजिए कि जासूसों की एक टीम सुराग ढूंढ रही है। यदि वे सभी एक जैसी वर्दी पहनते हैं और एक जैसा सोचते हैं, तो वे कोने में छिपे सुराग को मिस कर सकते हैं। लेकिन यदि एक जासूस पूर्व कलाकार है, दूसरा डॉक्टर है, और तीसरा शिक्षक है, तो वे सभी अपराध स्थल को अलग तरह से देखते हैं।
- AI में: एक बधिर (deaf) टीम का सदस्य एक साइन लैंग्वेज ट्रांसलेशन ऐप के साथ समस्या को पकड़ सकता जिसे सुनने में सक्षम टीम कभी नहीं देख पाएगी। एक विविध टीम कोड लिखे जाने से पहले ही पूछती है, "हम किसे भूल रहे हैं?"
2. "एम्पैथी इंजन" (सहानुभूति लाना)
सहानुभूति (Empathy) दूसरों की भावनाओं को समझने की क्षमता है। आप वास्तव में किसी और के जूतों में रहकर यह महसूस नहीं कर सकते जब तक कि आपने वे जूते पहने न हों।
- AI में: जब एक टीम में ऐसे लोग शामिल होते हैं जिन्होंने भेदभाव या कठिनाई का सामना किया है, तो वे कह सकते हैं, "रुको, यदि हम इसे इस तरह से बनाते हैं, तो यह इस समूह के लोगों को चोट पहुँचा सकता है।" यह रोबट को एक ठंडी मशीन से बदलकर मानवीय भावनाओं की परवाह करने वाली चीज़ में बदल देता है।
3. "सिस्टम फिक्सर" (प्रणालीगत भेदभाव को संबोधित करना)
कभी-कभी, समस्या केवल एक खराब सेब की नहीं होती; बल्कि पूरे बगीचे की होती है। समाज में कुछ अनुचित नियम बने हुए हैं (जैसे ऐतिहासिक पूर्वाग्रह)।
- AI में: एक विविध टीम इन गहरे-जड़े हुए अनुचित नियमों को पहचानने में बेहतर होती है। वे कह सकते हैं, "हम जो डेटा उपयोग कर रहे हैं वह पुराना और अनुचित है। चलिए इसका उपयोग नहीं करते।" वे रोबोट को अतीत की बुरी आदतें सीखने से रोकते हैं।
4. "फेयर जज" (समावेशी निर्णय लेने को बढ़ावा देना)
एक समूह में निर्णय लेना एक गोलमेज चर्चा की तरह है। यदि सभी तुरंत सहमत हो जाते हैं, तो हो सकता है कि आप गलती कर रहे हों।
- AI में: विविध टीमें अधिक बहस करती हैं (अच्छे तरीके से!)। वे "डिफ़ॉल्ट" सेटिंग्स पर सवाल उठाती हैं। केवल सबसे आसान रास्ता चुनने के बजाय, वे पूछती हैं, "क्या यह सभी के लिए निष्पक्ष है?" इससे बेहतर, अधिक संतुलित विकल्प मिलते हैं।
5. "स्विस आर्मी नाइफ" (विविध विशेषज्ञता का लाभ उठाना)
कुछ समस्याओं के लिए एक उपकरण बहुत छोटा होता है। आपको एक साथ हथौड़ा, पेचकश और रिंच (wrench) की आवश्यकता होती है।
- AI में: जटिल पूर्वाग्रह (bias) की समस्याओं के लिए विभिन्न प्रकार के दिमागों की आवश्यकता होती है। तकनीकी विशेषज्ञों और वास्तविक जीवन के अनुभव रखने वाले लोगों के मिश्रण वाली टीम उन पेचीदा समस्याओं को हल कर सकती है जहाँ केवल कोडर वाली टीम अटक सकती है।
6. "सेफ्टी नेट" (सुरक्षा जाल के रूप में विविधता का उपयोग)
कल्पना कीजिए कि रस्सी पर चलने वाले (tightrope walker) के नीचे एक सुरक्षा जाल है। यदि चलने वाला फिसलता है, तो जाल उसे पकड़ लेता है।
- AI में: विविधता एक सुरक्षा जाल के रूप में कार्य करती है। भले ही एक व्यक्ति किसी पूर्वाग्रह को मिस कर दे, टीम का दूसरा व्यक्ति उसे पकड़ लेगा। यह जिम्मेदारी को फैला देता है ताकि निष्पक्षता केवल एक व्यक्ति का काम न होकर, सबका काम बन जाए।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि विविधता केवल HR कारणों के लिए एक "अच्छा-से-हो" (nice-to-have) नहीं है। यह एक महत्वपूर्ण तकनीकी उपकरण है।
यदि आप ऐसा AI बनाना चाहते हैं जो सुरक्षित, निष्पक्ष और सभी के लिए काम करे, तो आप इसे समान लोगों के एक समूह के साथ एक अलग कमरे (silo) में नहीं बना सकते। आपको एक ऐसी टीम की आवश्यकता है जो उस दुनिया की तरह दिखे जिसकी वह सेवा करने की कोशिश कर रही है। ठीक वैसे ही जैसे अलग-अलग आवाजों के साथ एक क्वायर (choir) बेहतर सुनाई देता है, विविध दृष्टिकोणों के साथ एक टीम बेहतर सुनाई देती है (और बेहतर रोबोट बनाती है)।
संक्षेप में: पूरी दुनिया को समझने वाले रोबोट को बनाने के लिए, आपको एक ऐसी टीम की आवश्यकता है जो पूरी दुनिया का प्रतिनिधित्व करती हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।