तकनीकी सारांश: नैरेटिव इमेज जनरेशन में सामाजिक पूर्वाग्रह की जांच

समस्या विवरण

यद्यपि टेक्स्ट-टू-इमेज (T2I) जनरेशन मॉडल मीडिया, शिक्षा और डिजाइन में तेजी से तैनात किए जा रहे हैं, फिर भी सामाजिक पूर्वाग्रहों को दोहराने की उनकी प्रवृत्ति के संबंध में चिंताएं बनी हुई हैं। पूर्व शोध ने व्यापक रूप से प्रलेखित किया है कि T2I मॉडल विशिष्ट जनसांख्यिकी को व्यवसायों, गुणों और सामाजिक भूमिकाओं के साथ जोड़ते हैं। हालांकि, मौजूदा पूर्वाग्रह मूल्यांकन मुख्य रूप से सिंगल-शॉट फोटोरियलिस्टिक इमेज जनरेशन पर केंद्रित हैं। यह संकीर्ण दायरा एक महत्वपूर्ण अंतराल छोड़ देता है: यह स्पष्ट नहीं है कि नैरेटिव विजुअल फॉर्मेट्स (जैसे स्टोरीबोर्ड और कॉमिक्स) में सामाजिक पूर्वाग्रह कैसे प्रकट होते हैं, जहाँ अर्थ चरित्र निरंतरता (character continuity), घटनाओं के अनुक्रम, सामयिक प्रगति, और दृश्य एवं पाठ्य तत्वों के बीच परस्पर क्रिया के माध्यम से निर्मित होता है। लेखक तर्क देते हैं कि जो पूर्वाग्रह स्थिर फोटो में सूक्ष्म या अदृश्य रह सकते हैं, वे क्रमिक कहानी कहने वाले प्रारूपों में स्पष्ट या अधिक तीव्र हो सकते हैं।

कार्यप्रणाली

यह अध्ययन BBG (Bias Benchmark for Generation) ढांचे को अनुकूलित करता है, जिसे मूल रूप से टेक्स्ट जनरेशन के लिए डिज़ाइन किया गया था, ताकि इमेज जनरेशन मॉडल का मूल्यांकन किया जा सके। इस कार्यप्रणाली में निम्नलिखित घटक शामिल हैं:

• प्रॉम्प्ट निर्माण: लेखकों ने सात सामाजिक पूर्वाग्रह श्रेणियों: आयु, विकलांगता, लिंग, शारीरिक उपस्थिति, नस्ल/राष्ट्रीयता, धर्म, और सामाजिक-आर्थिक स्थिति (SES) को कवर करने के लिए BBG डेटासेट से 140 सीड प्रॉम्प्ट्स का चयन किया। ये प्रॉम्प्ट्स जानबूझकर प्रासंगिक रूप से अस्पष्ट रखे गए थे, जिससे प्रमुख गुण (जैसे, कौन सा पात्र विशिष्ट गुण या परिणाम रखता है) अनिर्दिष्ट रहे। क्रॉस-लिंग्विस्टिक पूर्वाग्रह की जांच के लिए डेटासेट में 70 अंग्रेजी और 70 कोरियाई प्रॉम्प्ट शामिल हैं।
• मूल्यांकित मॉडल: छह अत्याधुनिक T2I मॉडलों का परीक्षण किया गया:
  • प्रोपराइटरी (Proprietary): GPT-Image-1.5, GPT-Image-2, Gemini-3.1-Flash-Image, और Gemini-3-Pro-Image।
  • ओपन-सोर्स: FLUX.1-Dev और SDXL।
• जनरेशन सेटिंग्स: प्रत्येक प्रॉम्प्ट के लिए, आउटपुट तीन अलग-अलग प्रारूपों में उत्पन्न किए गए:
  1. फोटोरियलिस्टिक इमेज: एक एकल स्थिर छवि।
  2. स्टोरीबोर्ड: शॉट फ्रेमिंग और कैमरा कवरेज पर केंद्रित रफ स्केच, जिसमें टेक्स्ट नहीं है।
  3. फोर-पैनल कॉमिक: स्पीच बबल्स, कैप्शन और नरेशन के साथ विजुअल तत्वों को एकीकृत करने वाला एक क्रमिक नैरेटिव।
• मूल्यांकन प्रोटोकॉल: चार लेखकों ने BBG प्रश्नों के निहित उत्तरों के आधार पर उत्पन्न छवियों (कुल 2.4K) को मैन्युअल रूप से एनोटेट किया। आउटपुट को बायस्ड (biased), काउंटर-बायस्ड (counter-biased), या न्यूट्रल (neutral) के रूप में लेबल किया गया। अध्ययन ने आवर्ती दृश्य और नैरेटिव पैटर्न की पहचान करने के लिए थीमैटिक कोडिंग का भी उपयोग किया। वीडियो जनरेशन (Sora-Pro-2 और Veo-3.1) पर एक केस स्टडी टेम्पोरल मीडिया तक निष्कर्षों का विस्तार करने के लिए आयोजित की गई थी।

मुख्य परिणाम

मात्रात्मक निष्कर्ष

• नैरेटिव प्रारूप पूर्वाग्रह को बढ़ाते हैं: प्रोपराइटरी मॉडलों ने फोटो की तुलना में नैरेटिव प्रारूपों में काफी अधिक बायस्ड आउटपुट उत्पन्न किए। औसतन, प्रोपराइटरी मॉडलों ने फोटो जनरेशन में 25.9% बायस्ड आउटपुट बनाए। स्टोरीबोर्ड जनरेशन में यह दर 9.6 प्रतिशत अंक (pp) और कॉमिक जनरेशन में 18.2 pp बढ़ गई।
• भाषाई विषमताएं: अंग्रेजी प्रॉम्प्ट की तुलना में कोरियाई प्रॉम्प्ट में पूर्वाग्रह की व्यापकता अधिक थी, जिसमें कोरियाई सेटिंग्स ने औसतन 7.2 pp अधिक बायस्ड-आउटपुट दर दिखाई। सबसे बड़ा अंतर फोटो जनरेशन में दिखा (उदाहरण के लिए, Nano Banana 2 ने 17.4 pp की वृद्धि दिखाई)।
• ओपन मॉडल प्रदर्शन: ओपन मॉडलों (FLUX.1-Dev और SDXL) ने औसतन 93.6% मामलों में न्यूट्रल आउटपुट उत्पन्न किए। हालांकि, लेखक इसे प्रभावी पूर्वाग्रह शमन के बजाय एक कमजोर इंस्ट्रक्शन-फॉलोइंग क्षमता के रूप में देखते हैं, यह नोट करते हुए कि ये मॉडल अक्सर जनसांख्यिकीय संकेतों को शामिल करने में विफल रहे या सांस्कृतिक रूप से बेमेल सामग्री उत्पन्न की।

गुणात्मक निष्कर्ष

• स्पष्ट बनाम निहित पूर्वाग्रह: फोटो जनरेशन में, पूर्वाग्रह अक्सर सूक्ष्म दृश्य संकेतों (जैसे, विशिष्ट कपड़े, सहायक उपकरण, या भाव) के माध्यम से एनकोड किए जाते हैं। इसके विपरीत, स्टोरीबोर्ड और कॉमिक्स घटना अनुक्रम, पात्रों की स्थिति, नैरेटिव समाधान और पाठ्य तत्वों (जैसे, रूढ़िवादी कथनों को स्पष्ट रूप से कहते हुए स्पीच बबल्स) के माध्यम से पूर्वाग्रहों को अधिक स्पष्ट रूप से प्रकट करते हैं।
• दृश्य जुड़ाव की निरंतरता: रूढ़िवादी दृश्य जुड़ाव (जैसे, "रचनात्मक" व्यक्तियों को कैजुअल/हिप्पी फैशन या बल्ब के प्रतीकों के साथ चित्रित करना) सभी प्रारूपों में बने रहे, भले ही आउटपुट स्टाइल बदल गया हो।
• स्तरित रूढ़िवादिता (Layered Stereotypes): नैरेटिव प्रारूपों ने साधारण भूमिका असाइनमेंट से परे के पूर्वाग्रहों को उजागर किया। उदाहरण के लिए, किसी पात्र की विफलता या निर्भरता के पीछे का तर्क रूढ़िवाद के अनुसार भिन्न था (जैसे, एक महिला नर्स की निर्भरता को भावनात्मक भेद्यता के रूप में फ्रेम किया गया बनाम एक दृष्टिहीन व्यक्ति की निर्भरता को व्यावहारिक आवश्यकता के रूप में फ्रेम किया गया)।
• सतही शमन (Surface-Level Mitigation): मॉडलों ने कभी-कभी एंटी-स्टीरियोटाइपिकल तत्वों या नैतिक अंत (जैसे, संघर्षरत पड़ोसियों को सुलझाना) को पेश करके पूर्वाग्रहों से बचने का प्रयास किया। हालांकि, लेखक नोट करते हैं कि यह आवश्यक रूप से अंतर्निहित जुड़ावों को नहीं हटाता है, क्योंकि सूक्ष्म दृश्य संकेत अभी भी रूढ़ियों को सुदृढ़ कर सकते हैं।
• सांस्कृतिक मिसअलाइनमेंट: कोरियाई संदर्भों में, मॉडल अक्सर सांस्कृतिक बारीकियों के साथ संरेखित होने में विफल रहे, अंग्रेजी या मिश्रित भाषाओं में टेक्स्ट उत्पन्न किया, या पश्चिमी/अत्यधिक पारंपरिक पूर्वी एशियाई इमेजरी बनाई जो प्रॉम्प्ट के सांस्कृतिक संदर्भ से मेल नहीं खाती थी।

महत्व और योगदान

पेपर तीन प्राथमिक योगदानों का दावा करता है:

1. नैरेटिव बायस का पहला अध्ययन: यह फोटोरियलिस्टिक इमेज की तुलना स्टोरीबोर्ड और फोर-पैनल कॉमिक्स के साथ करके नैरेटिव इमेज जनरेशन प्रारूपों में सामाजिक पूर्वाग्रह की पहली व्यवस्थित जांच प्रस्तुत करता है।
2. फॉर्मेट-डिपेंडेंट बायवास का प्रमाण: यह प्रदर्शित करता है कि प्रोपराइटरी मॉडल सिंगल-इमेज जनरेशन की तुलना में नैरेटिव प्रारूपों (स्टोरीबोर्ड और कॉमिक्स) में काफी अधिक बायस्ड आउटपुट दिखाते हैं, जो सुझाव देता है कि मॉडल पूर्वाग्रह के पूर्ण दायरे को पकड़ने के लिए सिंगल-इमेज मूल्यांकन अपर्याप्त हैं।
3. गुणात्मक तंत्र: यह गुणात्मक साक्ष्य प्रदान करता है कि पूर्वाग्रह विभिन्न प्रारूपों में कैसे अलग तरह से प्रकट होते हैं—फोटो में सूक्ष्म दृश्य संकेतों से लेकर कॉमिक्स में स्पष्ट नैरेटिव और पाठ्य सुदृढीकरण तक।

लेखक निष्कर्ष निकालते हैं कि नैरेटिव इमेज प्रारूप सिंगल-फोटो जनरेशन की तुलना में मॉडल पूर्वाग्रह के लिए एक मजबूत प्रोब (probe) के रूप में कार्य करते हैं। उनका तर्क है कि T2I सिस्टम के मूल्यांकन के लिए विविध जनरेशन प्रारूपों को ध्यान में रखते हुए सिंगल-इमेज आउटपुट से आगे बढ़ने की आवश्यकता है, क्योंकि जो पूर्वाग्रह स्थिर छवियों में कम दृश्यमान होते हैं, वे क्रमिक कहानी कहने के संदर्भों में सतह पर आ सकते हैं और अधिक हानिकारक हो सकते हैं। अध्ययन बहुभाषी और क्रॉस-सांस्कृतिक क्षमताओं के मूल्यांकन की आवश्यकता पर भी प्रकाश डालता है, यह नोट करते हुए कि वर्तमान मॉडल अक्सर अपने विशिष्ट सांस्कृतिक संदर्भों में प्रॉम्प्ट को ग्राउंड करने में विफल रहते हैं।