The Consensus Trap: Dissecting Subjectivity and the "Ground Truth" Illusion in Data Annotation
यह व्यवस्थित साहित्य समीक्षा मशीन लर्निंग में "ग्राउंड ट्रुथ" (ground truth) प्रतिमान की एक प्रत्यक्षवादी भ्रांति के रूप में आलोचना करती है जो मानवीय असहमति को शोर के रूप में गलत व्याख्या करती है, और इसके बजाय बहुलवादी एनोटेशन बुनियादी ढांचों का तर्क देती है जो विविध व्यक्तिपरक दृष्टिकोणों को सांस्कृतिक रूप से सक्षम मॉडल बनाने के लिए आवश्यक उच्च-सटीकता वाले संकेतों के रूप में देखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को समझना सिखाने की कोशिश कर रहे हैं। इसे करने के लिए, आपको उसे लाखों उदाहरण दिखाने होंगे और बताना होगा कि वे क्या हैं। यदि आप रोबोट को बिल्ली की तस्वीर दिखाते हैं, तो आपको उसे "बिल्ली" (cat) लेबल करना होगा। यदि आप उसे तूफानी आसमान की तस्वीर दिखाते हैं, तो आपको उसे "खतरनाक" (dangerous) लेबल करना होगा।
लेबलिंग की इस प्रक्रिया को डेटा एनोटेशन (Data Annotation) कहा जाता है। यह शोध पत्र (paper) तर्क देता है कि वर्तमान में हम इसे जिस तरह से कर रहे हैं वह गलत है, और यह एक खतरनाक भ्रम पैदा कर रहा है जिसे "ग्राउंड ट्रुथ" (Ground Truth) कहा जाता है।
यहाँ शोध पत्र के मुख्य विचारों का विवरण दिया गया है, जिसमें सरल उपमाओं (analogies) का उपयोग किया गया है।
1. "ग्राउंड ट्रुथ" का भ्रम: एक एकल मानचित्र बनाम वास्तविक क्षेत्र
मशीन लर्निंग में, "ग्राउंड ट्रुथ" का विचार यह है कि डेटा के हर टुकड़े के लिए एक ही एकल, पूर्ण, वस्तुनिष्ठ उत्तर होता है। यह एक शहर के केवल एक सही मानचित्र होने पर विश्वास करने जैसा है।
शोध पत्र का तर्क: लेखक कहते हैं कि यह एक झूठ है। दुनिया अव्यवस्थित है, और लोग अपनी पहचान, अपने स्थान और अपने अनुभवों के आधार पर चीजों को अलग तरह से देखते हैं।
- उपमा: कल्पना कीजिए कि लोगों का एक समूह एक पेंटिंग को देख रहा है। एक बच्चा उसमें एक ड्रैगन देखता है; एक इतिहासकार उसमें एक युद्ध देखता है; एक कवि उसमें एक रूपक (metaphor) देखता है। यदि आप उन सभी को एक ही लेबल (जैसे, "ड्रैगन") पर सहमत होने के लिए मजबूर करते हैं, तो आपने "सत्य" नहीं खोजा है। आपने बस कहानी के अन्य 90% हिस्से को चुप करा दिया है। शोध पत्र इसे "कंसेंसस ट्रैप" (Consensus Trap - सहमति का जाल) कहता है। हम गणित को आसान बनाने के लिए सभी को एक ही उत्तर पर सहमत होने के लिए मजबूर करते हैं, लेकिन ऐसा करके हम मानवीय अनुभव की वास्तविकता को मिटा देते हैं।
2. असेंबली लाइन: मनुष्यों के साथ रोबोट जैसा व्यवहार करना
वर्तमान में, डेटा एनोटेशन को एक फैक्ट्री असेंबली लाइन की तरह माना जाता है। कंपनियाँ हजारों श्रमिकों को (अक्सर "ग्लोबल साउथ" या कम आय वाले क्षेत्रों से) बटन क्लिक करने और डेटा लेबल करने के लिए काम पर रखती हैं।
- समस्या: यह प्रणाली इन श्रमिकों के साथ मशीन के पुर्जों या स्क्रू की तरह व्यवहार करती है, जो आपस में बदले जा सकते हैं। यह मान लेती है कि केन्या का एक श्रमिक दुनिया को ठीक उसी तरह देखता है जैसे कैलिफोर्निया का एक श्रमिक।
- "परफॉर्मेटिव एलाइनमेंट" (Performative Alignment): क्योंकि इन श्रमिकों को बहुत कम भुगतान किया जाता है और नियमों का पालन न करने पर उन्हें तुरंत निकाला जा सकता है, इसलिए वे ईमानदार होना बंद कर देते हैं। वे वह बताने के बजाय जो वे वास्तव में सोचते हैं, वह अनुमान लगाने लगते हैं जो उनका बॉस (शोधकर्ता) सुनना चाहता है।
- उपमा: एक रेस्तरां की कल्पना करें जहाँ शेफ वेटरों से पूछता है, "क्या यह सूप बहुत नमकीन है?" यदि वेटरों को पता है कि शेफ उन्हें "हाँ" कहने के लिए नौकरी से निकाल देगा, तो वे सभी "नहीं" कहेंगे, भले ही सूप नमकीन हो। शेफ फिर सोचता है कि सूप एकदम सही है, लेकिन वास्तव में वह खाने लायक भी नहीं है। "ग्राउंड ट्रुथ" (सूप ठीक है) एक झूठ है जो डर से पैदा हुआ है।
3. "ह्यूमन-एज़-वेरिफायर" (मानव-एक-सत्यापनकर्ता) का जाल: रोबोट ही बॉस है
हाल ही में, कंपनियों ने AI (लार्ज लैंग्वेज मॉडल्स) का उपयोग पहले लेबलिंग करने के लिए करना शुरू कर दिया है, और फिर मनुष्य केवल काम की जाँच करते हैं।
- समस्या: यह एक फीडबैक लूप बनाता है। AI अपने प्रशिक्षण डेटा (जो पहले से ही पक्षपाती है) के आधार पर उत्तर का अनुमान लगाता है। मनुष्य, AI के आत्मविश्वास भरे अनुमान को देखकर, गहराई से सोचने के बजाय केवल "सहमत" बटन दबाने की अधिक संभावना रखता है।
- उपमा: एक छात्र की कल्पना करें जो परीक्षा दे रहा है। शिक्षक (AI) पहले उत्तर कुंजी (answer key) लिखता है। फिर, छात्र (मानव) को परीक्षा जांचने के लिए कहा जाता है। यदि छात्र शिक्षक का उत्तर देख लेता है, तो संभावना है कि वह उसे ही कॉपी कर लेगा, भले ही वह जानता हो कि वह गलत है। अंततः, शिक्षक और छात्र केवल एक-दूसरे से सहमत होते जा रहे हैं, और कोई नया सीखना नहीं होता है। लूप से मानवीय आवाज हटा दी जाती है।
4. भौगोलिक आधिपत्य (Geographic Hegemony): "पश्चिमी" फिल्टर
शोध पत्र का तर्क है कि अधिकांश डेटा पश्चिमी, अंग्रेजी बोलने वाले, समृद्ध देशों से आता है। लेकिन AI को सभी के लिए काम करना चाहिए।
- समस्या: जब हम AI को दुनिया के केवल एक हिस्से के डेटा पर प्रशिक्षित करते हैं, तो हम यह मान लेते हैं कि दुनिया का वह हिस्सा बाकी सबके लिए "मानक" है।
- उपमा: कल्पना कीजिए कि आप एक कुत्ते को "भोजन" पहचानना सिखा रहे हैं। आप उसे केवल हैमबर्गर और पिज्जा की तस्वीरें दिखाते हैं। फिर आप उस कुत्ते को भारत के एक गाँव में ले जाते हैं जहाँ लोग चावल और दाल खाते हैं। कुत्ता चावल को देखकर कहेगा, "मुझे नहीं पता कि यह क्या है।" कुत्ता मूर्ख नहीं है; उसे बस एक संस्कृति के आधार पर "भोजन" की बहुत संकीर्ण परिभाषा सिखाई गई थी। शोध पत्र कहता है कि हम AI के साथ ऐसा ही कर रहे हैं, पूरी दुनिया को एक पश्चिमी बॉक्स में फिट होने के लिए मजबूर कर रहे हैं।
5. समाधान: "अव्यवस्थित" असहमति को अपनाना
लेखक एक क्रांतिकारी बदलाव का प्रस्ताव देते हैं। डेटा को साफ करने और सभी को सहमत करने के बजाय (जो एक नकली "साफ" वास्तविकता बनाता है), हमें असहमति को बनाए रखना चाहिए।
- नया दृष्टिकोण: यदि 10 लोग एक वाक्य को "हेट स्पीच" (घृणास्पद भाषण) के रूप में लेबल करते हैं और 5 लोग इसे "मजाक" के रूप में लेबल करते हैं, तो औसत निकालने के लिए उन 5 वोटों को फेंक न दें। दोनों को रखें।
- उपमा: एक गायक दल (choir) के बारे में सोचें। यदि हर कोई बिल्कुल एक ही स्वर गाता है, तो यह उबाऊ और सपाट होता है। एक सुंदर गीत के लिए सामंजस्य (harmony) की आवश्यकता होती—अलग-अलग स्वर जो एक साथ फिट बैठते हैं। डेटा में "असहमति" ही वह सामंजस्य है। यह हमें बताता है कि विषय जटिल है और विभिन्न लोगों के पास वैध दृष्टिकोण हैं।
सारांश: हमें क्या करना चाहिए?
शोध पत्र सुझाव देता है कि हमें डेटा श्रमिकों को मशीन के अदृश्य पुर्जे के रूप में देखना बंद करना चाहिए और उन्हें अद्वितीय जीवन वाले विशेषज्ञों के रूप में देखना शुरू करना चाहिए।
- लोगों की सुनें: उन लोगों को काम पर रखें जो वास्तव में उस अनुभव को जीते हैं (उदाहरण के लिए, विकलांगता के बारे में डेटा लेबल करने के लिए किसी रैंडम कार्यकर्ता के बजाय एक विकलांग व्यक्ति से पूछें)।
- सहमति के लिए मजबूर करना बंद करें: यह स्वीकार करें कि हमेशा एक "सही" उत्तर नहीं होता है।
- टूल्स (औजारों) को सुधारें: सुनिश्चित करें कि डेटा लेबल करने के लिए उपयोग किए जाने वाले सॉफ़्टवेयर सस्ते फोन पर भी काम करें, न कि केवल महंगे कंप्यूटरों पर, ताकि दुनिया भर के लोग इसमें भाग ले सकें।
मुख्य बात:
हम मानवता को समझने के लिए AI बना रहे हैं। लेकिन यदि हम इसे ऐसे सिस्टम का उपयोग करके बनाते हैं जो मानवीय असहमति को चुप कराता है और दुनिया के एक एकल, पश्चिमी, कॉर्पोरेट दृष्टिकोण को थोपता है, तो AI हमें कभी वास्तव में समझ नहीं पाएगा। यह केवल हमारे अपने पूर्वाग्रहों को प्रतिबिंबित करने वाला एक दर्पण होगा, जिसे "सत्य" के रूप में पॉलिश किया गया है। शोध पत्र हमसे उस दर्पण को तोड़ने और विविध, वास्तविक मानवीय आवाजों को बोलने देने के लिए कहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।