Happy Young Women, Grumpy Old Men? Emotion-Driven Demographic Biases in Synthetic Face Generation
यह शोध पत्र पश्चिमी और चीनी संस्थानों के आठ अत्याधुनिक टेक्स्ट-टू-इमेज मॉडलों का एक व्यवस्थित ऑडिट प्रस्तुत करता है, जो यह प्रकट करता है कि उनकी सांस्कृतिक उत्पत्ति के बावजूद, सभी सिंथेटिक चेहरे उत्पन्न करने में निरंतर जनसांख्यिकीय और भावना-आधारित पूर्वाग्रह प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, अति-बुद्धिमान कलाकार है जो आपके द्वारा बताए गए किसी भी व्यक्ति का चित्र बना सकता है। आप कहते हैं, "एक खुश व्यक्ति बनाओ," और अचानक! एक तस्वीर सामने आ जाती है। आप कहते हैं, "एक क्रोधित व्यक्ति बनाओ," और एक और तस्वीर उभर आती है।
यह पेपर इन आठ जादुई कलाकारों के गुण नियंत्रण निरीक्षण (quality control inspection) की तरह है (चार पश्चिम के, जैसे अमेरिका और यूरोप, और चार चीन के)। शोधकर्ता यह देखना चाहते थे: क्या ये कलाकार निष्पक्ष हैं, या उनके भीतर छिपे हुए पूर्वाग्रह हैं?
यहाँ उन्होंने जो पाया है, उसे सरल कहानियों में विभाजित किया गया है:
1. "डिफ़ॉल्ट सेटिंग" पक्षपाती है
भले ही आप कलाकार को यह न बताएं कि किसे बनाना है (सिर्फ "एक व्यक्ति" कहें), तो भी कलाकार दुनिया भर के लोगों का रैंडम मिश्रण नहीं बनाते। इसके बजाय, उनके पास एक डिफ़ॉल्ट सेटिंग है जो अत्यधिक पक्षपाती है।
- "यूथ क्लब" (युवाओं का क्लब): यदि आप एक सामान्य व्यक्ति बनाने के लिए कहते हैं, तो कलाकार लगभग हमेशा किसी युवा (20 से 39 वर्ष के बीच) का चित्र बनाते हैं। वे बच्चों या बुजुर्गों को शायद ही कभी बनाते हैं। ऐसा लगता है जैसे कलाकारों के लिए "वयस्क" का अर्थ केवल "युवा वयस्क" है।
- "व्हाइट वॉल" (श्वेत दीवार): कलाकार भारी रूप से सफेद चेहरों को चित्रित करते हैं, भले ही दुनिया की आबादी में श्वेत लोग अल्पसंख्यक हों। वे ब्लैक, एशियन या अन्य नस्लीय समूहों को शायद ही कभी चित्रित करते हैं।
- "जेंडर इम्बैलेंस" (लिंग असंतुलन): कुछ कलाकार पुरुषों को बनाना पसंद करते हैं (90% बार तक), जबकि अन्य महिलाओं को बनाना पसंद करते हैं (80% बार तक)। बहुत कम कलाकार सही संतुलन बना पाते हैं।
बड़ा आश्चर्य: शोधकर्ताओं को उम्मीद थी कि चीनी कलाकार अधिक एशियाई चेहरों को बनाएंगे क्योंकि उन्हें चीन में प्रशिक्षित किया गया है। वे ऐसा नहीं हुआ। चीनी कलाकारों ने भी ज्यादातर सफेद चेहरे बनाए, ठीक वैसे ही जैसे पश्चिमी कलाकारों ने। ऐसा लगता है कि ये सभी कलाकार एक ही "ग्लोबल इंटरनेट" लाइब्रेरी से सीख रहे हैं, जो पश्चिमी छवियों से हावी है, जिससे वे सभी एक जैसे ही दिखते हैं।
2. भावनाएं चित्र को बदल देती हैं ("मूड रिंग" प्रभाव)
सबसे दिलचस्प हिस्सा यह है कि जब आप अनुरोध में एक भावना जोड़ देते हैं, तो क्या होता है। शोधकर्ताओं ने कलाकारों से ऐसे लोगों को बनाने के लिए कहा जो "खुश," "दुखी," "क्रोधित," "डरे हुए," आदि थे।
उन्होंने पाया कि भावना ने केवल व्यक्ति के चेहरे को ही नहीं बदला; इसने यह भी बदल दिया कि वह व्यक्ति कौन था।
- "हैप्पी" (खुशी का) पूर्वाग्रह: जब "खुश" व्यक्ति को चित्रित करने के लिए कहा गया, तो कलाकारों ने ऐसे चेहरे बनाए जो उनके "डिफ़ॉल्ट" सेटिंग के सबसे करीब थे: युवा, सफेद, और अक्सर महिला। खुशी एक विशिष्ट, आदर्श रूप से जुड़ी हुई लगती है।
- "एंग्री/सैड" (क्रोध/उदासी) बदलाव: जब किसी "क्रोधित," "घृणास्पद," या "दुखी" व्यक्ति को चित्रित करने के लिए कहा गया, तो कलाकारों ने अपनी शैली बदल दी। वे अचानक बहुत अधिक वृद्ध लोगों, पुरुषों, और सफेद चेहरों को चित्रित करने लगे।
- उपमा: यह एक फिल्म के कास्टिंग डायरेक्टर की तरह है। यदि स्क्रिप्ट कहती है "हैप्पी लीड," तो वे एक युवा, सुंदर स्टार को चुनते हैं। लेकिन यदि स्क्रिप्ट कहती है "एंग्री विलेन" या "गुस्सैल बूढ़ा आदमी," तो वे अचानक एक वृद्ध श्वेत पुरुष को कास्ट करते हैं। भावना एक रूढ़िबद्ध धारणा (stereotype) को सक्रिय कर देती है कि कौन उस भावना को महसूस कर सकता है।
3. "ग्रंपी ओल्ड मेन" बनाम "हैप्पी यंग वुमेन" शीर्षक
पेपर का शीर्षक पूछता है: "हैप्पी यंग वुमेन, ग्रंपी ओल्ड मेन?"
इसका उत्तर है हाँ।
- खुशी (Happiness) लगभग विशेष रूप से युवा महिलाओं (और आम तौर पर युवाओं) को सौंपी गई है।
- नकारात्मक भावनाएं (क्रोध, घृणा, भय) असमान रूप से वृद्ध पुरुषों और श्वेत पुरुषों को सौंपी गई हैं।
यह एक ऐसी दृश्य दुनिया बनाता है जहाँ युवा महिलाएं "खुशी का चेहरा" हैं, जबकि वृद्ध पुरुष "क्रोध का चेहरा" हैं।
4. "ब्लैक बॉक्स" की समस्या
शोधकर्ताओं ने नोट किया कि ये कलाकार "ब्लैक बॉक्स" हैं। हमें ठीक से नहीं पता कि उन्हें किन चित्रों पर प्रशिक्षित किया गया है क्योंकि कंपनियां अपना प्रशिक्षण डेटा साझा नहीं करती हैं। हालांकि, उनके आउटपुट को देखकर, हम देख सकते हैं कि इन कलाकारों ने इंटरनेट के पूर्वाग्रहों को आत्मसात कर लिया है।
भले ही चीनी मॉडल चीन में प्रशिक्षित किए गए थे, फिर भी उन्होंने सफेद चेहरों को चित्रित करने के पश्चिमी पूर्वाग्रह की नकल की। यह सुझाव देता है कि "इंटरनेट संस्कृति" जिससे ये मॉडल सीखते हैं, इतनी प्रभावी है कि वह स्थानीय सांस्कृतिक संदर्भों को भी दबा देती है।
सारांश
पेपर निष्कर्ष निकालता है कि ये AI कलाकार तटस्थ नहीं हैं। वे दर्पण की तरह हैं जो वास्तविक दुनिया को नहीं, बल्कि उसके एक विकृत और रूढ़िबद्ध संस्करण को दर्शाते हैं।
- वे बुजुर्गों को अनदेखा करते हैं।
- वे गैर-श्वेत लोगों को अनदेखा करते हैं।
- वे खुशी को युवावस्था और सुंदरता से जोड़ते हैं।
- वे क्रोध और नकारात्मकता को वृद्ध पुरुषों से जोड़ते हैं।
शोधकर्ता चेतावनी देते हैं कि यदि हम इन उपकरणों का उपयोग सामग्री (जैसे विज्ञापन, फिल्में या समाचार) बनाने के लिए करते हैं, तो हम अनजाने में इन रूढ़ियों को सुदृढ़ करेंगे, जिससे दुनिया ऐसी दिखने लगेगी जहाँ केवल युवा, श्वेत लोग ही खुश हैं, और केवल वृद्ध, श्वेत पुरुष ही क्रोधित हैं। वे सुझाव देते हैं कि हमें इन उपकरणों की अधिक बार जांच करनी चाहिए और यह मांग करनी चाहिए कि उन्हें कैसे बनाया गया है, इसके बारे में अधिक पारदर्शिता हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।