Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
यह अध्ययन टेक्स्ट-टू-इमेज मॉडलों का सबसे बड़ा वैश्विक विश्लेषण प्रस्तुत करता है, जो यह प्रकट करता है कि वे व्यवस्थित रूप से पुरुष निरूपणों को डिफ़ॉल्ट के रूप में अपनाते हैं, कठोर लैंगिक रूढ़ियों को लागू करते हैं, और गैर-बाइनरी पहचानों को हाशिए पर धकेलते हैं, जिससे संरचनात्मक लैंगिक पूर्वाग्रहों में वृद्धि होती है और कम प्रतिनिधित्व वाले समूहों को मनोवैज्ञानिक हानि पहुँचती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक सर्वर फार्म की शांत गूँज में, एक नए प्रकार का कलाकार काम कर रहा है। इसके पास न तो कोई ब्रश है और न ही कैमरा, बल्कि यह शब्दों को सुनता है और चित्र बनाता है। यह तकनीक, जिसे 'टेक्स्ट-टू-इमेज जनरेशन' (पाठ-से-चित्र निर्माण) के रूप में जाना जाता है, लोकप्रियता के शिखर पर पहुँच गई है, जिसने कुछ ही वर्षों में अरबों चित्र बनाए हैं। इन प्रणालियों को इंटरनेट से प्राप्त फोटो और टेक्स्ट के विशाल संग्रह पर प्रशिक्षित किया गया है, जिससे वे "डॉक्टर" या "माँ" जैसे शब्दों को उन दृश्य विवरणों से जोड़ना सीखती हैं जो उन्होंने पहले देखे हैं। क्योंकि ये उपकरण अब विज्ञापनों, कहानियों और डिजाइनों को बनाने के लिए लाखों लोगों द्वारा उपयोग किए जा रहे हैं, इसलिए इनके द्वारा उत्पादित चित्र दुनिया को देखने के हमारे नज़रिए को आकार देने में एक शक्तिशाली बल बन गए हैं। यदि कोई मशीन लगातार एक डॉक्टर को पुरुष के रूप में और एक नर्स को महिला के रूप में चित्रित करती है, तो यह केवल एक गलती नहीं है; यह इस विश्वास को पुख्ता करती है कि ये भूमिकाएँ विशिष्ट लिंगों के लिए हैं। शोधकर्ता अब केवल यह नहीं पूछ रहे हैं कि क्या ये मशीनें गलतियाँ करती हैं, बल्कि यह भी कि वे हमारे लिए, एक समय में एक चित्र के माध्यम से, किस तरह की दुनिया चुपचाप बना रही हैं।
शोधकर्ताओं की एक टीम ने लगभग दस लाख चित्र बनाने के लिए चार प्रमुख 'टेक्स्ट-टू-इमेज' मॉडलों का उपयोग करके इस छिपे हुए परिदृश्य की जांच करने का निर्णय लिया। उन्होंने केवल यादृच्छिक (रैंडम) चित्र नहीं मांगे; उन्होंने एक विशाल, वैश्विक प्रयोग का निर्माण किया। उन्होंने मॉडलों से बीस-दोдцать अलग-अलग देशों के लोगों को सौ से अधिक नौकरियों में काम करते हुए और विभिन्न दैनिक गतिविधियों को करते हुए चित्रित करने के लिए कहा। महत्वपूर्ण रूप से, उन्होंने अक्सर व्यक्ति का लिंग निर्दिष्ट नहीं किया, बल्कि केवल "एक भारतीय व्यक्ति जो अनुवादक के रूप में काम कर रहा है" या "एक जर्मन व्यक्ति जो बागवानी कर रहा है" जैसा अनुरोध किया। परिणामों का विश्लेषण करते हुए, टीम ने एक सुसंगत पैटर्न पाया: जब प्रॉम्प्ट (निर्देश) में लिंग निर्दिष्ट नहीं किया गया था, तो मॉडलों ने लगभग हमेशा एक पुरुष को चित्रित करने का विकल्प चुना। औसतन, इन तटस्थ अनुरोधों से उत्पन्न 68.6 प्रतिशत चित्रों में पुरुषों को दिखाया गया था, और यह आंकड़ा उन नौकरियों के लिए और भी अधिक बढ़ गया जिनमें अधिकार या शक्ति शामिल थी। पुरुषों के प्रति यह झुकाव पूरे विश्व में एक समान नहीं था; यह उन देशों में सबसे अधिक स्पष्ट था जहाँ लैंगिक असमानता का स्तर उच्च और आय कम थी, जो यह सुझाव देता है कि यह तकनीक उन स्थानों के सामाजिक पूर्वाग्रहों को आत्मसात और प्रसारित करती है जहाँ इसका उपयोग किया जाता है।
अध्ययन ने उत्पादित चित्रों की गुणवत्ता पर भी बारीकी से नज़र डाली। जब शोधकर्ताओं ने विशिष्ट लिंगों के बारे में पूछा, तो उन्होंने पाया कि पुरुषों के चित्रों को लगातार उच्च गुणवत्ता वाला, अधिक यथार्थवादी और कंप्यूटर द्वारा बेहतर समझा गया। महिलाओं के मामले में यह अंतर तब सबसे अधिक था जब उन्हें उन नौकरियों में दिखाया गया था जो पारंपरिक रूप से पुरुषों द्वारा निभाई जाती हैं। इन मामलों में, महिलाओं के चित्रों को अक्सर पुरुषों के समान भूमिकाओं वाले चित्रों की तुलना में कम विश्वसनीय या कम यथार्थवादी माना गया। मॉडल पुरुषों और महिलाओं के दिखने के तरीके के संबंध में कठोर रूढ़ियों में भी फंस गए। पुरुषों को अक्सर गंभीर, मांसल और उम्रदराज दिखाया गया, जबकि महिलाओं को लगभग हमेशा युवा, दुबली, मुस्कुराती हुई और आकर्षक दिखाया गया। यह "द्विदिश रूढ़िवादिता" (bidirectional stereotyping) का अर्थ है कि मशीनें न केवल पुरुषों को डिफ़ॉल्ट बना रही हैं, बल्कि वे सक्रिय रूप से प्रत्येक लिंग के लिए दो बहुत अलग और सीमित दृश्य स्क्रिप्ट का निर्माण भी कर रही हैं।
सबसे चौंकाने वाला निष्कर्ष उन लोगों के बारे में था जो पुरुष या महिला की द्विआधारी (बाइनरी) श्रेणियों में फिट नहीं होते। जब शोधकर्ताओं ने मॉडलों से गैर-बाइनरी (nonbinary) लोगों की छवियां बनाने के लिए कहा, तो सिस्टम को काफी संघर्ष करना पड़ा। उत्पादित चित्र अक्सर खराब गुणवत्ता के थे, प्रॉम्प्ट को पकड़ने में विफल रहे, या डिफ़ॉल्ट रूप से युवा पुरुषों को दिखाने लगे। यह सुझाव देता है कि इन मॉडलों के लिए, गैर-बवाइनरी पहचान केवल कम प्रतिनिधित्व वाली ही नहीं है, बल्कि वे काफी हद तक अपठनीय भी हैं। इन निष्कर्षों के मानवीय प्रभाव को समझने के लिए, शोधकर्ताओं ने हजारों लोगों को स्वयं के चित्र देखने के लिए आमंत्रित किया—वे लोग जिनका राष्ट्रीयता और लिंग चित्रों के विषयों के समान था। फीडबैक काफी खुलासा करने वाला था। कई प्रतिभागियों ने महसूस किया कि जब उन्होंने अपनी पहचान को संकीर्ण, रूढ़िबद्ध टेम्पलेट्स में सिमटा हुआ देखा, तो उन्हें अलगाव या असुरक्षा की भावना हुई। एक व्यक्ति ने उल्लेख किया कि उनकी पहचान के "टेम्पलेट" को देखना अजीब था, जैसे कि मशीन के पास उनके देश के व्यक्ति के रूप में दिखने के बारे में एक बहुत ही विशिष्ट और सीमित विचार हो। हालाँकि, जब चित्रों ने इन रूढ़ियों को तोड़ा—जैसे कि एक महिला को उच्च-शक्ति वाली भूमिका में या एक गैर-बाइनरी व्यक्ति को प्रामाणिक रूप से दिखाया—तो प्रतिभागियों ने स्वयं को सशक्त और समर्थित महसूस करने का वर्णन किया।
शोधकर्ता इस बात पर जोर देते हैं कि ये परिणाम किसी एक मॉडल या किसी एक कंपनी की गलती नहीं हैं। उन्होंने जर्मनी, यूनाइटेड किंगडम और चीन के डेवलपर्स पर आधारित चार अलग-अलग प्रणालियों का परीक्षण किया और सभी में एक ही पैटर्न पाया। यह निरंतरता एक गहरे मुद्दे की ओर इशारा करती है जो इन तकनीकों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले साझा डेटा और विधियों में निहित है। अध्ययन निष्कर्ष निकालता है कि ये मशीनें तटस्थ उपकरण नहीं हैं; वे लैंगिक तर्क (gender logics) का एक सेट एनकोड कर रही हैं जो पुरुषों को मानक मानव मानती हैं, महिलाओं को पारंपरिक भूमिकाओं से बाहर निकलने के लिए दंडित करती हैं, और गैर-बाइनरी पहचानों को मिटा देती हैं। जैसे-जैसे ये सिस्टम हमारे दैनिक जीवन में एकीकृत होते जा रहे हैं, इनके द्वारा उत्पन्न चित्र एक आत्म-सिद्ध भविष्यवाणी (self-fulfilling prophecy) बनने का जोखिम उठाते हैं, जो चुपचाप हमारी सामूहिक कल्पना को इस बात पर सीमित कर रहे हैं कि कौन कहाँ रहने योग्य है और किसे देखा जाना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।