Navigating the muddy waters of bias in artificial intelligence research: Understanding divergent meanings and conceptions

कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) अनुसंधान की दुनिया एक विशाल, हलचल भरे शहर की तरह है जहाँ हजारों आर्किटेक्ट विभिन्न प्रकार के रोबोट बना रहे हैं। यह शहर एक समस्या का सामना कर रहा है: ये रोबोट कभी-कभी अनुचित या "पक्षपाती" (biased) निर्णय लेते हैं। इस शोध पत्र के शोधकर्ताओं ने इस समस्या के बारे में स्वयं आर्किटेक्ट कैसे बात कर रहे हैं, यह समझने के लिए इस शहर की सैर करने का निर्णय लिया।

उन्होंने केवल कुछ किताबें ही नहीं पढ़ीं; उन्होंने एक शक्तिशाली कंप्यूटर टूल (एक अत्यंत बुद्धिमान लाइब्रेरियन की तरह) का उपयोग करके 6,520 अलग-अलग शोध पत्रों को स्कैन किया ताकि यह समझा जा सके कि इन प्रणालियों को बनाने वाले लोगों के लिए "बायस" (पक्षपात/पूर्वाग्रह) का वास्तव में क्या अर्थ है।

यहाँ उन्होंने जो पाया है, उसे सरल रूप में समझाया गया है:

1. शहर अलग-अलग बोलियाँ बोल रहा है

सबसे बड़ी खोज यह है कि AI अनुसंधान समुदाय इस बात पर सहमत नहीं है कि "बायस" क्या है। यह उन लोगों के समूह की तरह है जो एक लीक होती नाव को ठीक करने की कोशिश कर रहे हैं, लेकिन कुछ सोचते हैं कि लीक पतवार में छेद है, अन्य सोचते हैं कि यह एक टूटा हुआ चप्पू है, और कुछ सोचते हैं कि पानी वास्तव में एक विशेषता है जो नाव को तैरने में मदद करता है!

शोधकर्ताओं ने पाया कि समुदाय 18 अलग-अलग तरीकों से बायस को परिभाषित करता है, जिन्हें उन्होंने चार मुख्य मोहल्लों में वर्गीकृत किया है:

मोहल्ला A: मैकेनिक (एल्गोरिद्मिक बायस)

• दृष्टिकोण: यहाँ, इंजीनियर बायस को एक सांख्यिकीय त्रुटि (statistical glitch) के रूप में देखते हैं।
• उपमा: एक ऐसे तराजू की कल्पना करें जो थोड़ा असंतुलित है। यदि आप एक तरफ एक भारी पत्थर रखते हैं, तो वह झुक जाता है। इन शोधकर्ताओं के लिए, "बायस" वह वजन है जिसे शून्य पढ़ने के लिए समायोजित करने की आवश्यकता है।
• ट्विस्ट: इस मोहल्ले में, बायस को हमेशा "बुरा" नहीं माना जाता है। कभी-कभी, वे इसे एक रेडियो के डायल की तरह देखते हैं। आप डायल (बायस) को घुमा सकते हैं (एडजस्ट कर सकते हैं) ताकि संगीत (AI का प्रदर्शन) बेहतर सुनाई दे। वे इसे एक उपकरण के रूप में देखते जिसे ट्यून किया जाना है, न कि एक अपराध जिसे दंडित किया जाना चाहिए।

मोहल्ला B: विशेषज्ञ (एप्लीकेशन-विशिष्ट बायस)

• दृष्टिकोण: यह मोहल्ला चिकित्सा निदान (medical diagnosis), साइबर सुरक्षा (cybersecurity), या छवियों को खोजने जैसे विशिष्ट कार्यों में बायस को देखता है।
• उपमा: एक डॉक्टर की एक्स-रे मशीन के बारे में सोचें। कभी-कभी मशीन में एक "स्टैटिक शोर" (बायका) होता है जो छवि को धुंधला कर देता है। यहाँ के शोधकर्ता उस स्टैटिक को ठीक करने की कोशिश कर रहे हैं ताकि डॉक्टर हड्डी को स्पष्ट रूप रूप से देख सके।
• ट्विस्ट: कुछ मामलों में, जैसे साइबर सुरक्षा में, वे सिस्टम को बेहतर बनाने के लिए जानबूझकर थोड़ा सा बायस जोड़ते हैं। यह एक सुरक्षा गार्ड की तरह है जो संदिग्ध दिखने पर बैगों की अधिक सावधानी से जाँच करने के लिए "पक्षपाती" है।

मोहल्ला C: कच्चा माल (डेटा बायस)

• दृष्टिकोण: यह समूह उन सामग्रियों के बारे में चिंतित है जिन्हें AI खाता है।
• उपमा: कल्पना करें कि आप एक बच्चे को खाना बनाना सिखा रहे हैं, लेकिन आप उसे केवल तीखे भोजन की रेसिपी ही देते हैं। बच्चा यह सोचेगा कि सभी भोजन तीखा होना चाहिए। यही डेटा बायस है। यदि प्रशिक्षण डेटा अव्यवसा, अधूरा या पक्षपाती है, तो AI गलत सबक सीख जाएगा।
• फोकस: ये शोधकर्ता "गुणवत्ता नियंत्रण" टीम हैं, जो खाना शुरू करने से पहले सामग्रियों को साफ करने की कोशिश कर रहे हैं।

मोहल्ला D: समाज के दृष्टा (सामाजिक और नैतिक बायस)

• दृष्टिकोण: यह समूह लोगों पर वास्तविक दुनिया के प्रभाव को देखता है।
• उपमा: एक अदालत में एक रोबोट जज की कल्पना करें। यदि रोबोट को पुराने अदालती रिकॉर्ड पर प्रशिक्षित किया गया था जहाँ कुछ समूहों के साथ अन्यायपूर्ण व्यवहार किया गया था, तो रोबोट उस अन्याय को जारी रख सकता है। यह मोहल्ला भेदभाव, निष्पक्षता और इस बात पर ध्यान देता है कि क्या रोबोट विशिष्ट समूहों को नुकसान पहुँचा रहा है।
• फोकस: वे तर्क देते हैं कि आप इसे केवल "डायल ट्यून" करके ठीक नहीं कर सकते। यह एक गहरा सामाजिक मुद्दा है जिसके लिए यह देखने की आवश्यकता है कि समाज कैसे काम करता है, न कि केवल यह कि कोड कैसे काम करता है।

2. दो मुख्य दर्शन

यह शोध पत्र तर्क देता है कि पूरा शहर सोचने के दो तरीकों के बीच विभाजित है:

1. "तकनीकी" दृष्टिकोण: बायस एक गणितीय समस्या है। यह एक संख्या है जो बहुत अधिक या बहुत कम है। यदि हम बेहतर कोड लिखें या डेटा को साफ करें, तो हम इसे ठीक कर सकते हैं।
2. "सोशियोटेक्निकल" (सामाजिक-तकनीकी) दृष्टिकोण: बायस कोड में लिपटी एक मानवीय समस्या है। यह इतिहास, संस्कृति और असमानता से आती है। आप इसे केवल गणित से ठीक नहीं कर सकते; आपको उन लोगों और समाज को समझने की आवश्यकता है जिसमें रोबक रह रहा है।

3. बड़ी समस्या: कोई सामान्य भाषा नहीं है

शोध पत्र निष्कर्ष निकालता है कि क्योंकि हर कोई अलग-अलग परिभाषाओं का उपयोग कर रहा है, इसलिए वास्तविक बातचीत करना कठिन है।

• एक शोधकर्ता कह सकता है, "मैंने बायस को ठीक कर दिया!" (जिसका अर्थ है कि उन्होंने रोबोट को तेज़ बनाने के लिए एक संख्या को समायोजित किया)।
• दूसरा कह सकता है, "लेकिन रोबोट अभी भी महिलाओं के प्रति अनुचित है!" (जिसका अर्थ है कि सामाजिक परिणाम अभी भी बुरा है)।

वे एक-दूसरे की बात को समझे बिना ही बात कर रहे हैं। शोध पत्र सुझाव देता है कि AI समुदाय को यह मानने का नाटक करना बंद करना चाहिए कि बायस की एक एकल परिभाषा है। इसके बजाय, उन्हें यह स्वीकार करने की आवश्यकता है कि बायस गणित, डेटा और मानव समाज का एक जटिल मिश्रण है।

निचोड़ (The Bottom Line)

लेखक यह नहीं कह रहे हैं कि हमें AI बनाना बंद कर देना चाहिए। वे कह रहे हैं कि यदि हम निष्पक्ष AI बनाना चाहते हैं, तो हम कोड को एक टूटी हुई मशीन की तरह नहीं देख सकते। हमें यह महसूस करना होगा कि बायस कभी-कभी एक उपकरण होता है (चीजों को बेहतर ढंग से चलाने के लिए) और कभी-कभी एक घाव होता है (जो लोगों को चोट पहुँचाता है), और हमें इसे एक रिंच (wrench) और एक दिल, दोनों के साथ संभालने की आवश्यकता है।