Investigating Disability Representations in Text-to-Image Models
यह अध्ययन स्टेबल डिफ्यूजन एक्सएल (Stable Diffusion XL) और डैली-3 (DALL-E 3) जैसे टेक्स्ट-टू-इमेज मॉडल्स में विकलांगता के अल्प-अन्वेषित प्रतिनिधित्व की जांच करता है, जो निरंतर असंतुलन और भावात्मक फ्रेमिंग संबंधी मुद्दों को प्रकट करता है जो अधिक समावेशी चित्रणों को बढ़ावा देने के लिए निरंतर मूल्यांकन और परिशोधन की तत्काल आवश्यकता को रेखांकित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, सुपर-स्मार्ट कलाकार है जिसका नाम "AI" है। आप इस कलाकार को कह सकते हैं, "मेरे लिए एक विकलांग व्यक्ति का चित्र बनाओ," और यह तुरंत एक छवि बना देगा। सुनने में बहुत अच्छा लगता है, है ना? लेकिन क्या होगा अगर इस कलाकार ने अपनी ट्रेनिंग लाइब्रेरी में केवल एक बहुत ही विशिष्ट, सीमित सेट की तस्वीरें देखी हों? क्या होगा अगर वह सोचता है कि सभी विकलांगताएँ एक जैसी दिखती हैं?
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ शोधकर्ता (Yang, Yu, Liudmila, और Sarah) दो सबसे प्रसिद्ध AI कलाकारों की जांच कर रहे हैं: Stable Diffusion XL (SDXL) और DALL·E 3। वे जानना चाहते हैं: ये AI कलाकार विकलांग लोगों को कैसे देखते हैं?
यहाँ उनकी जांच का विवरण दिया गया, जिसे सरल भाषा में समझाया गया है:
1. "डिफ़ॉल्ट सेटिंग" की समस्या (प्रयोग 1)
शोधकर्ताओं ने AI कलाकारों से एक सरल प्रश्न पूछा: "विकलांगता वाले व्यक्ति की एक फोटो बनाओ।" उन्होंने यह निर्दिष्ट नहीं किया कि किस प्रकार की विकलांगता हो। वे यह देखना चाहते थे कि AI की "डिफ़ॉल्ट" सेटिंग क्या थी।
- उपमा: कल्पना कीजिए कि आप एक शेफ से "फ्रूट सलाद बनाने" के लिए कहते हैं। यदि शेफ ने केवल सेब और संतरे की तस्वीरें देखी हैं, तो वे आपको केवल सेब और संतरों का कटोरा दे सकते हैं, भले ही आप केला या बेरी चाहते हों।
- निष्कर्ष: दोनों AI कलाकारों ने ज्यादातर व्हीलचेयर (गतिशीलता संबंधी अक्षमता) वाले लोगों को बनाया। उन्होंने अन्य प्रकार की विकलांगताओं, जैसे कि दृष्टिहीन या बधिर होने की लगभग पूरी तरह से अनदेखी की।
- अंतर:
- SDXL बहुत जिद्दी था। यह एक ऐसे शेफ की तरह था जो केवल सेब का सलाद बनाना जानता है। यदि आप विकलांगता के लिए पूछते, तो यह हर बार व्हीलचेयर ही देता।
- DALL·E 3 थोड़ा अधिक लचीला था। यह अभी भी व्हीलचेयर को सबसे ज्यादा पसंद करता था, लेकिन इसने कभी-कभी एक दृष्टिहीन या बधिर व्यक्ति को बनाने की कोशिश की। यह एक ही छवि पर "अटका" नहीं था, लेकिन इसमें व्हीलचेयर के प्रति एक मजबूत झुकाव था।
मुख्य बात: जब लोग एक सामान्य विकलांग व्यक्ति की छवि मांगते हैं, तो AI डिफ़ॉल्ट रूप से व्हीलचेयर उपयोगकर्ता को दिखाता है, जिससे विकलांगता समुदाय की विविधता मिट जाती है।
2. "मूड रिंग" की समस्या (प्रयोग 2)
इसके बाद, शोधकर्ता यह देखना चाहते थे कि AI ने शारीरिक विकलांगता की तुलना में मानसिक स्वास्थ्य स्थितियों (जैसे अवसाद, चिंता, या बाइपोलर डिसऑर्डर) को कैसे चित्रित किया। वे यह भी जानना चाहते थे कि क्या AI के "सुरक्षा नियम" (शमन रणनीतियाँ) चित्रों के मूड को बदलते हैं।
उपमा: AI को एक फिल्म निर्देशक के रूप में सोचें।
- SDXL एक निर्देशक है जो एक बहुत ही पुरानी, बिना एडिट की हुई फिल्म रील का उपयोग करता है। यह बस वही दिखाता है जो यह देखता है।
- DALL·E 3 एक निर्देशक है जिसके पास एक सख्त "सुरक्षा टीम" है जो स्क्रिप्ट की जांच करती है ताकि कुछ भी आपत्तिजनक न हो।
मानसिक स्वास्थ्य पर निष्कर्ष:
- रोबोट का दृष्टिकोण (स्वचालित विश्लेषण): एक कंप्यूटर प्रोग्राम ने तस्वीरों को देखा और कहा, "SDXL की तस्वीरें बहुत उदास और अंधेरी दिखती हैं। DALL·E 3 की तस्वीरें थोड़ी खुशहाल दिखती हैं।"
- मानवीय दृष्टिकोण (वास्तविक लोग): वास्तविक मनुष्यों ने तस्वीरों को देखा और कहा, "रुको, वास्तव में, DALL·E 3 की तस्वीरें बहुत अधिक उदास और अलग-थलग करने वाली हैं!"
- अंतर क्यों आया? रोबोट ने केवल चेहरों को देखा। यदि चेहरा रो रहा नहीं था, तो रोबोट ने उसे तटस्थ (neutral) मान लिया। लेकिन मनुष्यों ने पूरे दृश्य को देखा। DALL·E 3 अक्सर मानसिक स्वास्थ्य समस्याओं वाले लोगों को अंधेरे, खाली, अकेले कमरों में रखता था। SDXL बस बिना किसी संदर्भ के लोगों को चित्रित करता था। मनुषियों ने DALL·E 3 की कला में अकेलेपन के वातावरण को महसूस किया, भले ही चेहरे तटस्थ थे।
मानसिक बनाम शारीरिक पर निष्कर्ष:
- दोनों AI कलाकारों ने शारीरिक विकलांगता की तुलना में मानसिक स्वास्थ्य के साथ बहुत बुरा व्यवहार किया।
- जब एक दृष्टिहीन व्यक्ति को बनाने के लिए कहा गया, तो AI ने उन्हें चमकदार धूप में खुश और सक्रिय दिखाया।
- जब चिंता (anxiety) से ग्रस्त किसी व्यक्ति को दिखाने के लिए कहा गया, तो AI ने उन्हें उदास, अलग-थलग और अंधेरे में दिखाया।
- विडंबना: DALL·E 3, जिसे "सुरक्षित" और अधिक "समावेशी" AI होना चाहिए था, उसने मानसिक स्वास्थ्य के रूढ़िवादी चित्रणों (stereotypes) को और मजबूत कर दिया क्योंकि उसने उन पात्रों को निराशाजनक परिवेश में रखा। इसने विविधता दिखाने की कोशिश की, लेकिन अनजाने में "उदासी और अकेलेपन" के विचार को पुख्ता कर दिया।
3. बड़ा सबक
शोधकर्ताओं ने पाया कि AI एक तटस्थ दर्पण नहीं है; यह एक फनहाउस मिरर (मेले के टेढ़े-मेढ़े दर्पण) है जो इंटरनेट से सीखी गई चीजों के आधार पर वास्तविकता को विकृत करता है।
- "टेक्नो-एबलिज्म" का जाल: पेपर में "टेक्नो-एबलिज्म" नामक एक अवधारणा का उल्लेख है। यह विचार है कि तकनीक को विकलांगता के लिए एक "इलाज" के रूप में देखा जाता है, न कि लोगों को उनके जीवन जीने में मदद करने वाले एक उपकरण के रूप में। AI अक्सर विकलांग लोगों को दया के पात्र या चिकित्सा मामलों के रूप में चित्रित करता है, न कि केवल सामान्य लोग जो अपना जीवन जी रहे हैं।
- सुरक्षा फिल्टर उल्टा असर डाल सकते हैं: DALL·E 3 द्वारा उपयोग किए जाने वाले "सुरक्षा फिल्टर जो खराब सामग्री को रोकने के लिए हैं, कभी-कभी चीजों को बदतर बना देते हैं। रूढ़ियों से बचने की कोशिश में, उन्होंने अनजाने में नई रूढ़ियाँ बना दीं (जैसे कि सभी मानसिक स्वास्थ्य दृश्यों को गहरा और निराशाजनक बनाना)।
आम आदमी के लिए सारांश
यदि आप AI से एक विकलांग व्यक्ति का चित्र बनाने के लिए कहते हैं, तो यह संभवतः व्हीलचेयर पर बैठा कोई व्यक्ति दिखाएगा, जिससे बाकी सभी की अनदेखी होगी। यदि आप मानसिक संघर्ष झेल रहे किसी व्यक्ति को चित्रित करने के लिए कहते हैं, तो यह संभवतः उन्हें एक अंधेरे, उदास कमरे में रखेगा, जिससे वे एक वास्तविक व्यक्ति के बजाय एक दुखद पात्र की तरह दिखेंगे।
यहाँ तक कि "सुरक्षित" AI मॉडल भी पूर्ण नहीं हैं। उन्हें यह सिखाने की आवश्यकता है कि विकलांगता विविध है, और मानसिक स्वास्थ्य स्थितियों वाले लोग भी खुश, सक्रिय और प्रकाश में रह सकते हैं, ठीक वैसे ही जैसे कोई भी अन्य व्यक्ति। यह शोध पत्र तर्क देता है कि हमें इन उपकरणों का परीक्षण करते रहना चाहिए और सबसे महत्वपूर्ण बात यह है कि विकलांग लोगों की बात सुननी चाहिए ताकि यह सुनिश्चित हो सके कि AI उनकी कहानियाँ बता रहा है, न कि केवल AI के अनुमान।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।