Generating Fearful Images: Investigating Potential Emotional Biases in Image-Generation Models
यह शोध पत्र प्रकट करता है कि जनरेटिव एआई मॉडल, जिनमें स्टेबल डिफ्यूजन, चैटजीपीटी और जेमिनी शामिल हैं, इनपुट प्रॉम्प्ट के बावजूद भय उत्पन्न करने वाली छवियां बनाने की ओर एक व्यवस्थित पूर्वाग्रह प्रदर्शित करते हैं, जो संभवतः उनके प्रशिक्षण डेटा में भयपूर्ण सामग्री की अत्यधिक उपस्थिति के कारण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई आर्ट मशीन है। आप इसे एक सरल निर्देश देते हैं, जैसे "एक धूप वाला पिकनिक बनाओ," और यह एक तस्वीर उगल देती है। आप उम्मीद कर सकते हैं कि वह तस्वीर बिल्कुल वैसी ही खुशहाल और शांत होगी जैसा कि आपके शब्द थे।
यह शोध पत्र इस बात की जांच करता है कि क्या वह जादुई मशीन वास्तव में आपकी बात सुन रही है, या उसके पास हर चीज़ को हॉरर मूवी (डरावनी फिल्म) में बदलने की एक गुप्त आदत है।
"अधर्मी चक्र" (The Unvirtuous Cycle)
लेखक हमारे डिजिटल जगत में हो रहे एक डरावने लूप का वर्णन करते हैं। इसे एक फीडबैक इको चैंबर (प्रतिध्वनि कक्ष) की तरह समझें:
- इंसान कंटेंट बनाते हैं: लोग ऑनलाइन ऐसी तस्वीरें पोस्ट करते हैं जिन्हें बहुत ध्यान मिलता है। दुख की बात है कि खुशी भरी तस्वीरों की तुलना में डरावनी या गुस्से वाली तस्वीरें अधिक क्लिक प्राप्त करती हैं।
- AI सीखता है: आर्टिफिशियल इंटेलिजेंस (AI) ड्राइंग करना सीखने के लिए इन सभी तस्वीरों को "ट्रेनिंग डेटा" के रूप में खा जाता है।
- AI उसे वापस उगल देता है: जब हम AI से कुछ नया बनाने के लिए कहते हैं, तो वह जो उसने सीखा है उसका उपयोग करता है। यदि उसने सीखा है कि "डरावना" होना सबसे अधिक ध्यान आकर्षित करता है, तो वह अनजाने में डरावनी चीजें बना सकता है, भले ही आपने कुछ अच्छा बनाने के लिए कहा हो।
- लूप बंद होता है: हम अधिक AI आर्ट देखते हैं, हम उस पर क्लिक करते हैं, और AI और भी अधिक सीखता है कि "डरावना" ही वह चीज़ है जो लोग चाहते हैं।
शोधकर्ता यह देखना चाहते थे कि क्या वास्तव में यह लूप चल रहा है।
प्रयोग: "फियर फैक्ट्री" (The Fear Factory)
इसकी जांच करने के लिए, शोधकर्ताओं ने जासूसों की तरह काम किया। उन्होंने DiffusionDB नामक डेटाबेस से टेक्स्ट प्रॉम्प्ट्स (निर्देशों) की एक बड़ी सूची ली। ये निर्देश उन वास्तविक लोगों से आए थे जो एक AI (विशेष रूप से Stable Diffusion) को चीजें बनाने के लिए कह रहे थे।
- इनपुट (Input): उन्होंने टेक्स्ट को देखा। क्या व्यक्ति ने "उत्साह" (excitement), "प्रसन्नता" (joy), या "भय" (fear) के बारे में पूछा था?
- आउटपुट (Output): उन्होंने उन तस्वीरों को देखा जो AI ने वास्तव में बनाई थीं।
- जासूसी का काम: उन्होंने तस्वीरों का विश्लेषण करने के लिए एक विशेष कंप्यूटर प्रोग्राम (एक "स्मार्ट आंख" जिसे "विज़न ट्रांसफॉर्मर" कहा जाता है) का उपयोग किया और पूछा: "यह तस्वीर आपको कैसा महसूस कराती है?"
उन्होंने शब्दों में मौजूद भावना और तस्वीरों में मौजूद भावना की तुलना की।
बड़ी खोज: AI एक "डर का चुंबक" है
परिणाम आश्चर्यजनक थे। AI केवल निर्देशों की नकल नहीं कर रहा था; वह अपना खुद का स्वाद जोड़ रहा था।
- "डर" का ग्लिच (त्रुटि): प्रॉम्प्ट चाहे जो भी हो, AI डरावनी चीजें बनाने के लिए जुनूनी लगता था।
- मेल का अभाव (Mismatch): यदि किसी व्यक्ति ने "उत्साह" के लिए पूछा, तो AI अक्सर ऐसी तस्वीर बनाता था जो "भयभीत" करने वाली लगती थी।
- सबूत: शोधकर्ताओं ने इसे "ट्रू पॉजिटिव रेट" (AI कितनी बार भावना को सही पहचानता है) और "फॉल्स पॉजिटिव रेट" (AI कितनी बार वह भावना जोड़ देता है जो वहां नहीं थी) का उपयोग करके मापा।
- भय (Fear) के लिए, AI इसे खोजने में बहुत कुशल था और इसे जोड़ने के लिए बहुत उत्सुक था। भले ही प्रॉम्प्ट में कोई डर नहीं था, फिर भी तस्वीर में अक्सर डर का अहसास होता था।
- प्रसन्नता (Joy) या क्रोध (Anger) जैसी अन्य भावनाओं के लिए, AI उनके होने पर भी उन्हें जोड़ने की संभावना बहुत कम रखता था।
उन्होंने अन्य "एंटरप्राइज" मॉडल्स (जैसे GPT-Image-1.5 और SDXL, जो नए और अधिक शक्तिशाली वर्ज़न हैं) पर भी इसका परीक्षण किया और पाया कि यह एक ही टूटी हुई मशीन की समस्या नहीं थी; यह पूरी AI आर्ट जनरेटर फैमिली की एक साझा आदत लग रही थी।
यह क्यों हो रहा है?
शोध पत्र सुझाव देता है कि AI एक ऐसे छात्र की तरह है जिसने केवल हॉरर फिल्मों और क्राइम सीन की तस्वीरों से भरी लाइब्रेरी से पढ़ाई की है। भले ही आप उसे पिल्ले (puppy) के बारे में कहानी लिखने के लिए कहें, वह अनजाने में एक ऐसा साया शामिल कर सकता है जो राक्षस जैसा दिखता है क्योंकि वही वह सबसे अच्छी तरह जानता है।
शोधकर्ताओं का मानना है कि ट्रेनिंग डेटा (लाखों छवियां जिनसे AI ने सीखा है) पहले से ही डरावनी सामग्री से भरा हुआ है क्योंकि वह ऑनलाइन सबसे अधिक ध्यान आकर्षित करती है। AI केवल उस पूर्वाग्रह (bias) को वापस प्रतिबिंबित कर रहा है, लेकिन उसे और भी बदतर बना रहा है।
"दोषपूर्ण दर्पण" (सीमाएं)
लेखक ईमानदार हैं कि उनके उपकरण पूर्ण नहीं हैं।
- लेबलिंग की समस्या: AI को प्रत्येक तस्वीर के लिए एक भावना (जैसे "भय" या "प्रसन्नता") चुननी पड़ती थी, लेकिन वास्तविक जीवन जटिल है। तूफान की तस्वीर एक ही समय में "डरावनी" और "विस्मयकारी" दोनों महसूस हो सकती है। AI को केवल एक चुनने के लिए मजबूर करने से विश्लेषण थोड़ा कठिन हो गया।
- अनुवाद की समस्या: यह पूरी तरह से मेल खाना कठिन है कि हम जिन शब्दों का उपयोग करते हैं (जैसे "उत्साह") और जो भावनाएं एक तस्वीर देती हैं, वे आपस में कैसे जुड़ते हैं। शोधकर्ताओं को टेक्स्ट भावनाओं और छवि भावनाओं के बीच अनुवाद करने के लिए एक "डिक्शनरी" का उपयोग करना पड़ा, जो हमेशा सटीक 1-to-1 मैच नहीं होता।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि वर्तमान AI आर्ट जनरेटर्स में भय के प्रति एक व्यवस्थित पूर्वाग्रह (systemic bias) है। वे ऐसी छवियां बनाने की अधिक संभावना रखते हैं जो हमें डरा दें, भले ही हमने इसकी मांग न की हो।
यह चिंताजनक है क्योंकि, जैसा कि लेखक कहते हैं, नकारात्मक भावनाएं संक्रामक होती हैं। यदि हमारी डिजिटल दुनिया AI द्वारा निर्मित ऐसी छवियों से भर जाती है जो वास्तविकता की तुलना में सूक्ष्म रूप से अधिक डरावनी हैं, तो यह पूरे इंटरनेट को अधिक चिंतित और खतरनाक महसूस करा सकती है, जिससे एक ऐसा चक्र बन सकता है जिसे तोड़ना कठिन है। लेखक यह नहीं कह रहे हैं कि यह कोई मेडिकल डायग्नोसिस या थेरेपी का विशिष्ट टूल है; वे केवल एक अलार्म बजा रहे हैं कि हमारे डिजिटल आर्ट टूल्स अनजाने में दुनिया को थोड़ा और अंधेरा बना रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।