Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science
यह शोध पत्र प्रदर्शित करता है कि कम्प्यूटेशनल सोशल साइंस में उपयोग किए जाने वाले ओपन-सोर्स एलएलएम (LLM) एनोटेटर्स विविध और अप्रत्याशित सामाजिक-वांछनीयता पूर्वाग्रह (social-desirability biases) प्रदर्शित करते हैं जो प्रॉम्प्टिंग रणनीतियों के बावजूद बने रहते हैं, जिससे अक्सर भ्रामक समग्र मीट्रिक्स प्राप्त होते हैं जो मौलिक रूप से सारगर्भित अनुभवजन्य निष्कर्षों को विकृत कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शोधकर्ता हैं जो यह समझने की कोशिश कर रहे हैं कि एक विवादास्पद विषय, जैसे कि गर्भपात या घृणास्पद भाषण (hate speech), के बारे में जनता क्या सोचती है। वास्तविक लोगों के हजारों लोगों से पूछने के बजाय, आप एआई (AI) "रोबोट्स" की एक टीम का उपयोग करने का निर्णय लेते हैं जो सोशल मीडिया पोस्ट को पढ़ने और उन्हें आपके लिए लेबल करने के लिए काम करेंगे। आप आशा करते हैं कि ये एआई रोबोट ईमानदार, तटस्थ न्यायाधीशों की तरह कार्य करेंगे।
यह शोध पत्र तीन लोकप्रिय एआई रोबोट्स (जिन्हें ज़ेफ़िर, मिस्ट्रल और क्वेन कहा जाता है) के एक सुरक्षा निरीक्षण (safety inspection) की तरह है, यह देखने के लिए कि क्या वे वास्तव में अच्छा काम कर रहे हैं, या वे गुप्त रूप से डेटा के साथ इस तरह से छेड़छाड़ कर रहे हैं जो आपके शोध को बर्बाद कर सकता है।
यहाँ लेखकों द्वारा की गई खोजों का विवरण दिया गया, जिसे सरल उपमाओं (analogies) का उपयोग करके समझाया गया है:
1. "गोल्डिलॉक्स" (Goldilocks) की समस्या: वे सभी एक जैसे नहीं हैं
आप सोच सकते हैं, "यदि मैं एक एआई का उपयोग करता हूँ, तो वह बस एक एआई ही होगा।" लेकिन लेखकों ने पाया कि इन रोबोट्स के व्यक्तित्व बहुत अलग हैं, और वे सभी विपरीत दिशाओं में गलतियाँ करते हैं।
- ज़ेफ़िर (Zephyr) एक "अत्यधिक विनम्र" रोबोट है: एक ऐसे सुरक्षा गार्ड की कल्पना करें जो इतना डरा हुआ है कि वह बदतमीजी करने के डर से किसी को भी नियम तोड़ने के लिए टोकने से इनकार कर देता है। यदि कोई वास्तव में घृणास्पद व्यवहार कर रहा है, तो ज़ेफ़िर कहता है, "ओह, यह ठीक है, कोई नुकसान नहीं हुआ।" यह बहुत सारी खराब गतिविधियों को अनदेखा कर देता है (जिसे उदारता पूर्वाग्रह/Leniity Bias कहा जाता है)।
- मिस्ट्रल (Mistral) और क्वेन (Qwen) "शंकित" (Paranoid) रोबोट हैं: एक ऐसे सुरक्षा गार्ड की कल्पना करें जो किसी खतरे को चूक जाने के डर से इतना डरा हुआ है कि वह हर उस व्यक्ति को गिरफ्तार कर लेता है जो थोड़ा भी संदिग्ध दिखता है। यदि कोई कुछ थोड़ा सा भी कड़वा कहता है, तो ये रोबोट चिल्लाते हैं, "घृणास्पद भाषण (HATE SPEECH)!" वे बहुत से निर्दोष पोस्ट को बुरा बताकर उन्हें फ्लैग कर देते हैं (जिसे अति-सुधार/Overcorrection कहा जाता है)।
- "तटस्थ" (Neutral) रोबोट: जब मजबूत राजनीतिक विचारों के बारे में पूछा जाता है (जैसे, "क्या आप गर्भपात के पक्ष में हैं या विपक्ष में?"), तो तीनों रोबोट एक अस्पष्ट मध्यस्थ की तरह व्यवहार करते हैं। "कड़ाई से विरोध" या "कड़ाई से समर्थन" कहने के बजाय, वे सभी बीच की ओर झुक जाते हैं और कहते हैं, "यह जटिल है/तटस्थ है।" वे लोगों की भावनाओं की वास्तविक तीव्रता को छिपा देते हैं (जिसे तटस्थता पूर्वाग्रह/Neutrality Bias कहा जाता है)।
2. "आकस्मिक निरस्तीकरण" (Accidental Cancellation) का "जादुई खेल"
यही सबसे खतरनाक हिस्सा है। लेखकों ने एक ऐसा मामला पाया जहाँ ज़ेफ़िर कागजों पर तो एकदम सही लग रहा था, लेकिन वास्तव में वह बुरी तरह विफल हो रहा था।
- परिदृश्य: वास्तविक दुनिया में 43% घृणास्पद भाषण (hate speech) है।
- ज़ेफ़िर की गलती: इसने वास्तविक घृणास्पद भाषणों में से 31% को मिस कर दिया (बहुत विनम्र होने के कारण), लेकिन साथ ही इसने 24% निर्दोष लोगों पर भी झूठा आरोप लगाया (बहुत अधिक शंकित होने के कारण)।
- परिणाम: ये दोनों बड़ी गलतियाँ एक-दूसरे को काट देती हैं। अंतिम संख्या जो ज़ेफ़िर ने रिपोर्ट की, वह ठीक 43% थी।
- जाल: एक शोधकर्ता जो केवल अंतिम संख्या को देखता है, वह कहेगा, "शानदार! ज़ेफ़िर एकदम सटीक है!" लेकिन यदि वे विशिष्ट पोस्ट को देखते हैं जिन्हें लेबल किया गया था, तो वे देखेंगे कि ज़ेफ़िर लगभग आधे व्यक्तिगत मामलों में गलत था। यह एक टूटे हुए तराजू की तरह है जो सही वजन दिखाता है क्योंकि वह बाईं ओर से 5 पाउंड कम कर रहा है और दाईं ओर से 5 पाउंड जोड़ रहा है।
3. "प्रॉम्प्ट" (Prompt) इसे ठीक नहीं करता
शोधकर्ताओं ने उन निर्देशों (प्रॉम्प्ट्स) को बदलकर, जो वे उन्हें दे रहे थे, इन रोबोट्स को "ठीक" करने की कोशिश की। उन्होंने प्रयास किया:
- "सुरक्षित और निष्पक्ष रहें।"
- "बस एक मशीन की तरह व्यवहार करें, एक व्यक्ति की तरह नहीं।"
- "उत्तर देने से पहले चरण-दर-चरण सोचें।"
परिणाम: इनमें से कोई भी ट्रिक लगातार काम नहीं करती थी। कभी-कभी, रोबोट को "सुरक्षित" रहने के लिए कहने से राजनीतिक विचारों का पता लगाने में वे और भी बुरे हो गए। कभी-कभी, "चरण-दर-चरण सोचने" के लिए कहने से एक रोबोट को मदद मिली लेकिन दूसरे को नुकसान पहुँचा। आप इन गहरे बैठे पूर्वाग्रहों से बाहर निकलने के लिए केवल "प्रॉम्प्ट इंजीनियरिंग" का सहारा नहीं ले सकते।
4. यह विज्ञान के लिए क्यों महत्वपूर्ण है
लेखक तर्क देते हैं कि सामाजिक विज्ञान में, सटीकता केवल सही स्कोर प्राप्त करने के बारे में नहीं है; यह सही कहानी बताने के बारे में है।
- यदि आप घृणास्पद भाषण का अध्ययन करने के लिए विनम्र रोबोट (Zephyr) का उपयोग करते हैं, तो आप निष्कर्ष निकाल सकते हैं, "वाह, इंटरनेट वास्तव में काफी सुरक्षित है!" (जबकि यह नहीं है)।
- यदि आप शंकित रोबोट (Mistral) का उपयोग करते हैं, तो आप निष्कर्ष निकाल सकते हैं, "इंटरनेट एक जहरीला दुस्वप्न है!" (जबकि यह उतना बुरा भी नहीं है)।
- यदि आप राजनीतिक अध्ययनों के लिए तटस्थ रोबोट का उपयोग करते हैं, तो आप निष्कर्ष निकाल सकते हैं, "हर कोई काफी मध्यम विचारों वाला है," जबकि वास्तव में लोग बहुत भावुक और विभाजित हैं।
निचोड़ (The Bottom Line)
लेखक निष्कर्ष निकालते हैं कि आप एआई एनोटेटर्स (annotators) को अदृश्य, पूर्ण उपकरणों के रूप में नहीं मान सकते। वे आपके मापने वाले उपकरण का हिस्सा हैं, ठीक वैसे ही जैसे एक रूलर या थर्मामीटर।
सलाह: किसी अध्ययन के लिए डेटा को लेबल करने हेतु एआई पर भरोसा करने से पहले, आपको:
- यह जांचना चाहिए कि क्या यह बहुत विनम्र या बहुत शंकित है।
- यह जांचना चाहिए कि क्या यह तटस्थ उत्तरों के पीछे मजबूत विचारों को छिपा रहा है।
- इसे उत्तरों के एक छोटे, ज्ञात सेट (एक "गोल्ड सैंपल") पर टेस्ट करना चाहिए ताकि यह देखा जा सके कि क्या यह आपके अंतिम निष्कर्ष को बदल देता है।
यदि आप ऐसा नहीं करते हैं, तो आप एक ऐसा अध्ययन प्रकाशित कर सकते हैं जो वैज्ञानिक तो दिखता है, लेकिन समाज कैसा महसूस करता है, इसके बारे में पूरी तरह से गलत कहानी बताता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।