Can Data Work be Reparative?
यह नृवंशविज्ञान संबंधी अध्ययन तर्क देता है कि एआई (AI) में सुधारात्मक न्याय प्राप्त करने के लिए डेटा कार्य को ऑनलाइन हानियों से सर्वाधिक प्रभावित लोगों पर केंद्रित एक नारीवादी, सहयोगात्मक दृष्टिकोण के माध्यम से पुनोरिोंतित करना आवश्यक है, जिसके लिए जवाबदेही संबंधों और डेटासेट पर सामूहिक शासन का एक मौलिक पुनर्रचना की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: टूटी हुई असेंबली लाइन को ठीक करना
कल्पना कीजिए कि आप एक विशाल, अत्यंत बुद्धिमान रोबोट (एक AI) बना रहे जिसे यह सीखने की आवश्यकता है कि मानवीय भाषा को कैसे समझा जाए, विशेष रूप से तब जब लोग ऑनलाइन बुरा व्यवहार या हानिकारक बातें कर रहे हों। इस रोबोट को सिखाने के लिए, आपको उदाहरणों के एक विशाल पुस्तकालय (एक डेटासेट) की आवश्यकता होती है।
आमतौर पर, यह पुस्तकालय एक टूटी हुई असेंबली लाइन पर बनाया जाता है। कंपनियाँ हजारों श्रमिकों को बटन क्लिक करने और शब्दों को लेबल करने के लिए काम पर रखती हैं। इन श्रमिकों को अक्सर बहुत कम भुगतान किया जाता है, उन्हें मशीन के बदले जाने योग्य पुर्जों की तरह माना जाता है, और बिना किसी सहायता के भयानक, विषाक्त सामग्री (toxic content) देखने के लिए मजबूर किया जाता है। वे लोग जो वास्तव में जानते हैं कि उस नुकसान को महसूस करना कैसा होता है—पीड़ित और विशेषज्ञ—दुर्लभ ही वे लोग होते हैं जो इस पुस्तकालय का निर्माण करते हैं।
यह शोध पत्र एक बड़ा सवाल पूछता है: क्या हम इस असेंबली लाइन को फिर से बना सकते हैं ताकि यह केवल डेटा ही न बनाए, बल्कि पुराने तरीके से हुए नुकसान की भरपाई (heal) भी कर सके?
लेखकों ने भारत में टैटल सिविक टेक (Tattle Civic Tech) नामक एक समूह का अध्ययन किया कि क्या यह संभव है। उन्होंने पाया कि हालांकि यह कठिन है, लेकिन आगे बढ़ने का एक रास्ता मौजूद है।
टैटल की कहानी: "कम्युनिटी किचन" बनाम "फास्ट फूड फैक्ट्री"
पारंपरिक तरीके से AI डेटा बनाने के तरीके को एक फास्ट फूड फैक्ट्री के रूप में सोचें।
- प्रक्रिया: आपको कार्यों का एक मेनू मिलता है (इस ट्वीट को "बुरा" के रूप में लेबल करें)। आप इसे जल्दी से, अकेले, कुछ पैसों के लिए करते हैं।
- परिणाम: भोजन (डेटा) मानकीकृत होता है लेकिन अक्सर इसका स्वाद गलत होता है क्योंकि शेफ स्थानीय संस्कृति या ग्राहकों के विशिष्ट दर्द को नहीं समझते थे।
अब, देखें कि टैटल क्या करने की कोशिश कर रहा है। वे एक कम्युनिटी किचन (सामुदायिक रसोई) चला रहे हैं।
- प्रक्रिया: अजनबियों को बटन क्लिक करने के लिए काम पर रखने के बजाय, वे उन लोगों को आमंत्रित करते हैं जिन्होंने वास्तव में ऑनलाइन उत्पीड़न, घृणास्पद भाषण (hate speech), या लिंग-आधारित हिंसा का सामना किया है। ये सामाजिक कार्यकर्ता, पत्रकार, कार्यकर्ता और मनोवैज्ञानिक हैं।
- विधि: वे केवल आपसे डेटा को लेबल करने के लिए नहीं कहते। वे एक साथ बैठते हैं (वर्चुअल वर्कशॉप में) और चर्चा करते हैं कि कोई शब्द क्यों हानिकारक है, वह कैसा महसूस होता है, और कौन सा संदर्भ (context) छूट रहा है। वे मिलकर डेटा को "पकाते" हैं।
- लक्ष_य: एक ऐसा डेटासेट बनाना जो भारतीय भाषाओं में नुकसान की बारीकियों को वास्तव में समझ सके, न कि केवल अंग्रेजी के नियमों को किसी दूसरी संस्कृति में अनुवादित करे।
दो बड़ी बाधाएं (तनाव)
भले ही टैटल सही काम करने की कोशिश कर रहा है, लेकिन वे दो बड़ी दीवारों से टकराते हैं। शोध पत्र का तर्क है कि इन दीवारों को ठीक करना ही "सुधारात्मक" (reparative) कार्य की कुंजी है।
1. वेतन की समस्या: "विशेषज्ञता बनाम श्रम"
पुरानी प्रणाली में, डेटा श्रमिकों को फैक्ट्री मजदूरों की तरह भुगतान किया जाता है। टैटल के किचन में, योगदानकर्ता विशेषज्ञ हैं जिनके पास गहरा, वास्तविक अनुभव है।
- संघर्ष: टैटल उन्हें विशेषज्ञों की तरह भुगतान करना चाहता है (जिसमें अधिक लागत आती है), लेकिन AI उद्योग बहुत कम भुगतान करने का आदी है।
- वास्तविकता: कुछ योगदानकर्ता समृद्ध अकादमिक विद्वान हैं जो इसे समाज के लिए एक "उपहार" के रूप में देखते हैं। अन्य फ्रीलांसर हैं जिन्हें खाने के लिए पैसे की जरूरत है। टैटल ने सभी को एक उचित, उच्च दर (उद्योग मानक से लगभग 10 गुना अधिक) देने की कोशिश की, फिर भी उन्हें संघर्ष करना पड़ा।
- सबक: आप लोगों के वास्तविक जीवन के अनुभव को "विशेषज्ञ ज्ञान" के रूप में तभी मान सकते हैं जब आप उन्हें न्यूनतम मजदूरी के बजाय उनकी विशेषज्ञता के लायक भुगतान करें। वास्तविक सुधार का अर्थ है लोगों को उनके वास्तविक मूल्य के अनुसार भुगतान करना, भले ही इससे परियोजना महंगी हो जाए।
2. स्वामित्व की समस्या: "रेसिपी का मालिक कौन है?"
पुरानी प्रणाली में, एक बार डेटा बन जाने के बाद, बड़ी टेक कंपनी हमेशा के लिए उसकी मालिक बन जाती है। वे इसका उपयोग कैसे भी कर सकते हैं, भले ही वे उन लोगों को अनदेखा कर दें जिन्होंने इसे बनाने में मदद की।
- संघर्ष: टैटल के योगदानकर्ताओं को चिंता है: "यदि हम यह डेटा बड़ी टेक कंपनियों (जैसे इंस्टाग्राम या X) को देते हैं, तो क्या वे वास्तव में हमारी मदद करने के लिए इसका उपयोग करेंगे, या वे इसे बस ले लेंगे और हमें फिर से अनदेखा कर देंगे?"
- वास्तविकता: अधिकांश योगदानकर्ताओं को लगा कि ऑनलाइन सुरक्षा उनके बड़े संघर्षों (जैसे शारीरिक हिंसा या जातिगत भेदभाव) का केवल एक छोटा हिस्सा थी। वे डेटा देने के लिए तैयार थे क्योंकि उन्हें लगा कि परिणाम पाने का यही एकमात्र तरीका है, भले ही यह अनुचित लगे।
- सबक: शोध पत्र का तर्क है कि हमें एक नए प्रकार के शासन (governance) की आवश्यकता है। यह केवल इस बारे में नहीं है कि डेटा का मालिक कौन है; यह इस बारे में है कि यह तय करने का अधिकार किसके पास है कि इसका उपयोग कैसे किया जाए। यदि पीड़ित लोगों की नियमों पर कोई राय नहीं है, तो यह कार्य वास्तव में "सुधारात्मक" नहीं है।
मुख्य संदेश: "जवाबदेही" को रीसेट करना
लेखक "सुधारात्मक न्याय" (Reparative Justice) की अवधारणा का उपयोग करते हैं।
- पुराना तरीका: "हमने रोबोट को ठीक कर दिया। हमने और डेटा जोड़ा। हमारा काम खत्म।"
- सुधारात्मक तरीका: "हमने रोबोट को ठीक किया, लेकिन हमने रोबोट बनाने वालों और उन लोगों के बीच के संबंध को भी ठीक किया जो इससे आहत हुए थे।"
शोध पत्र निष्कर्ष निकालता है कि डेटा कार्य सुधारात्मक (reparative) तभी हो सकता है जब हम AI या डेटासेट को मुख्य पात्र के रूप में देखना बंद कर दें। इसके बजाय, हमें पीड़ित लोगों को केंद्र में रखना चाहिए।
यह एक टूटे हुए पुल को ठीक करने जैसा है।
- पुराना तरीका: केवल दरारों के ऊपर और कंक्रीट (डेटा) डाल देना।
- सुधारात्मक तरीका: उन लोगों से पूछना जो पुल से गिरे थे कि क्या गलत हुआ, उन्हें इसे ठीक करने में मदद करने के लिए उनके समय का भुगतान करना, और उन्हें निर्माण स्थल की चाबियाँ सौंप देना ताकि वे सुनिश्चित कर सकें कि ऐसा दोबारा न हो।
सारांश
शोध पत्र का तर्क है कि AI को वास्तव में सुरक्षित और निष्पक्ष बनाने के लिए, हमें डेटा श्रमिकों को अदृश्य मशीनों की तरह मानना बंद करना होगा। हमें:
- उन्हें केवल मजदूरों के रूप में नहीं, बल्कि मूल्यवान ज्ञान रखने वाले विशेषज्ञों की तरह भुगतान करना होगा।
- उनके डेटा का उपयोग और शासन कैसे किया जाए, इसमें उन्हें आवाज देनी होगी।
- लोगों पर ध्यान केंद्रित करना होगा जो तकनीक से आहत हुए हैं, जिससे वे केवल डेटा के स्रोत के बजाय समाधान के केंद्र बनें।
यह एक साहसिक दृष्टिकोण है। यह सुझाव देता है कि "जिम्मेदार AI" का मार्ग केवल बेहतर कोड के बारे में नहीं है; यह बेहतर, अधिक निष्पक्ष और अधिक मानवीय संबंधों के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।