Synthetic History: Evaluating Visual Representations of the Past in Diffusion Models
यह शोध पत्र एक बेंचमार्क प्रस्तुत करता है जिसमें 30,000 सिंथेटिक छवियों का एक डेटासेट और एक पुनरुत्पादक मूल्यांकन प्रोटोकॉल शामिल है ताकि यह आकलन किया जा सके कि टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल ऐतिहासिक संदर्भों को कैसे चित्रित करते हैं, जो यह प्रकट करता है कि ये मॉडल रूढ़िबद्ध दृश्य शैलियों, कालभ्रम (anachronisms), और अवास्तविक जनसांख्यिकीय वितरणों के माध्यम से व्यवस्थित रूप से त्रुटिपूर्ण निरूपण उत्पन्न करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, अत्यंत बुद्धिमान कलाकार है जिसका नाम "AI" है। आप इस कलाकार को कह सकते हैं, "मेरे लिए 18वीं शताब्दी में खाना बनाते हुए लोगों का एक दृश्य बनाओ," या "मुझे 1950 के दशक में काम कर रहे लोगों का एक समूह दिखाओ।" यह कलाकार अविश्वसनीय रूप से प्रतिभाशाली है और सेकंडों में सुंदर चित्र बना सकता है।
लेकिन यहाँ एक पेंच है: क्या यह कलाकार वास्तव में इतिहास जानता है, या यह केवल पुरानी फिल्मों और रूढ़ियों (stereotypes) के आधार पर अनुमान लगा रहा है?
यह शोध पत्र, जिसका शीर्षक "सिंथेटिक हिस्ट्री" (Synthetic History) है, इन AI कलाकारों के लिए एक रिपोर्ट कार्ड की तरह है। शोधकर्ताओं ने यह देखना चाहा कि क्या AI मॉडल (विशेष रूप से "डिफ्यूजन मॉडल्स" जैसे Stable Diffusion और FLUX) सटीक रूप से अतीत का चित्रण कर सकते हैं, या वे केवल एक "नकली इतिहास" बना रहे हैं जो दिखने में तो अच्छा है लेकिन तथ्यात्मक रूप से गलत है।
इसकी जांच करने के लिए, उन्होंने एक विशाल "इतिहास परीक्षा" बनाई जिसे HistVis नाम दिया गया।
सेटअप: AI की इतिहास परीक्षा
शोधकर्ताओं ने AI से किसी विशिष्ट प्रसिद्ध व्यक्ति (जैसे नेपोलियन) या विशिष्ट घटनाओं (जैसे चंद्रमा पर उतरना) को चित्रित करने के लिए नहीं कहा। इसके बजाय, उन्होंने इसे सार्वभौमिक मानवीय गतिविधियों (जैसे "खाना खाना," "नाचना," "काम करना," या "प्रार्थना करना") को 10 अलग-अलग समय अवधियों (1600 के दशक से आज तक) में चित्रित करने के लिए कहा।
उन्होंने तीन अलग-अलग AI कलाकारों से इन दृश्यों को 10-10 बार बनाने को कहा। इसके परिणामस्वरूप 30,000 चित्र प्राप्त हुए। फिर उन्होंने इन चित्रों को तीन विशिष्ट विषयों पर ग्रेड दिया:
1. "शैली" परीक्षण (The Style Test): क्या AI सोचता है कि अतीत ब्लैक एंड व्हाइट था?
रूपक (Metaphor): कल्पना कीजिए कि आपने एक फोटोग्राफर को 17वीं शताब्दी के गाँव की तस्वीर लेने के लिए कहा। यदि वह बिना मांगे ही आपको एक ब्लैक-एंड-ホワイト स्केच या एक पुराना उत्कीर्णन (engraving) दे देता है, भले ही आपने ऐसा नहीं मांगा था, तो वह एक रूढ़ि (stereotype) पर निर्भर है।
निष्कर्ष: AI कलाकारों के पास हर युग के लिए एक "डिफ़ॉल्ट सेटिंग" होती है।
- 17वीं और 18वीं शताब्दी के लिए, AI लगभग हमेशा उन्हें पुराने उत्कीर्णन (engravings) या चित्रों (paintings) की तरह दिखाता है, भले ही उसे एक वास्तविक फोटो बनाने के लिए कहा गया हो।
- 19वीं शताब्दी के लिए, वे ड्राइंग्स (drawings) में बदल जाते हैं।
- 20वीं शताब्दी के लिए, वे अंततः फोटोग्राफ बनाने लगते हैं।
- समस्या: AI यह नहीं सोच रहा है कि दुनिया वास्तव में कैसी दिखती थी; यह बस एक विजुअल नियम पुस्तिका का पालन कर रहा है जो उसने अपने प्रशिक्षण डेटा से सीखी है। वह मान लेता है कि अतीत को एक पुरानी पेंटिंग जैसा दिखना ही चाहिए।
2. "टाइम ट्रैवल" परीक्षण (The "Time Travel" Test): क्या AI 1700 के दशक में स्मार्टफोन ले आया?
रूपक: यह "बैक टू द फ्यूचर" वाला परीक्षण है। यदि आप 1885 में मार्टी मैकफ्लाई को अपने स्नीकर्स पहने देखते हैं, तो यह एक गलती है। शोधकर्ताओं ने कालभ्रम (anachronisms) की तलाश की—ऐसी वस्तुएं जो उस समय अवधि में मौजूद नहीं थीं।
निष्कर्ष: AI एक बहुत बुरा टाइम ट्रैवलर है।
- उन्हें 18वीं शताब्दी के संगीत दृश्यों में आधुनिक हेडफ़ोन मिले।
- उन्हें 19वीं शताब्दी के घरों में वैक्यूम क्लीनर मिले।
- उन्हें 1950 के दशक की तस्वीरों में स्मार्टफोन मिले।
- समस्या: AI गतिविधि (जैसे "संगीत सुनना") पर बहुत अधिक ध्यान केंद्रित करता है और समय (जैसे "1700 का दशक") को भूल जाता है। वह सोचता है, "संगीत = हेडफ़ोन," यह भूल जाता है कि हेडफ़ोन का अस्तित्व ही नहीं था। एक मॉडल (SD3) इस मामले में विशेष रूप से खराब था, जिसने अपने 1930 के दशक के लगभग 25% चित्रों में आधुनिक गैजेट्स डाल दिए।
3. "वहाँ कौन था?" परीक्षण (The "Who Was There?" Test): क्या लोग वास्तविक हैं?
रूपक: 17वीं शताब्दी के एक स्कूल नाटक की कल्पना करें। यदि निर्देशक हर भूमिका के लिए केवल श्वेत पुरुषों को कास्ट करता है, भले ही उन दृश्यों में महिलाएं और अन्य नस्लों के लोग ऐतिहासिक रूप से मौजूद थे, तो वह नाटक गलत लगता है।
निष्कर्ष: AI को लोगों के सही मिश्रण का अनुमान लगाने में कठिनाई होती है।
- लिंग (Gender): AI अक्सर "खाना पकाने" या "भोजन करने" जैसी भूमिकाओं में पुरुषों को अधिक कास्ट करता है, भले ही ऐतिहासिक डेटा बताता है कि महिलाओं ने इस काम में बहुत योगदान दिया था। इसके विपरीत, शिक्षा में महिलाओं की उपस्थिति होने के बावजूद, वह कभी-कभी उन्हें कम दिखाता है।
- नस्ल (Race): AI पुराने समय के लगभग सभी लोगों को श्वेत (White) दिखाने की प्रवृत्ति रखता है, और वर्तमान के करीब आने पर ही विविधता जोड़ता है। वह अतीत में एक विविध दुनिया की कल्पना करने में संघर्ष करता है, और अक्सर एक "पश्चिमी-केंद्रित" दृष्टिकोण अपना लेता है।
- समस्या: AI या तो आज के पूर्वाग्रहों को प्रोजेक्ट कर रहा है या अतीत की एक सरल व्याख्या पेश कर रहा है, बजाय इसके कि वह उस जटिल वास्तविकता को दर्शाए कि वास्तव में वहां कौन मौजूद था।
बड़ा निष्कर्ष
शोधकर्ताओं ने AI को बेहतर निर्देश देकर (जैसे, "इसे एक असली फोटो की तरह बनाएं, न कि एक ड्राइंग की तरह") "ठीक" करने की कोशिश की। लेकिन AI जिद्दी रहा। वह अपनी पुरानी आदतों पर वापस आता रहा।
सरल शब्दों में:
वर्तमान AI मॉडल उन पर्यटकों की तरह हैं जिनके पास कैमरा तो है लेकिन उन्होंने उन जगहों का वास्तव में कभी दौरा नहीं किया है जिनकी वे तस्वीरें ले रहे हैं। वे किसी जगह कैसी दिखती है, इसका अनुमान लगाने के लिए पोस्टकार्ड और फिल्मों पर निर्भर करते हैं। वे सामान्य माहौल तो सही पकड़ लेते हैं, लेकिन विवरणों में चूक जाते हैं, गलत सामान साथ ले आते हैं, और अक्सर लोगों को भी गलत दिखाते हैं।
यह क्यों मायने रखता है?
यदि स्कूल, संग्रहालय या समाचार आउटलेट हमें इतिहास सिखाने या अतीत को दिखाने के लिए इन AI छवियों का उपयोग करने लगते हैं, तो वे अनजाने में हमें नकली इतिहास पढ़ा सकते हैं। हम यह मानने लग सकते हैं कि अतीत हमेशा ब्लैक एंड व्हाइट था, केवल पुरुष ही कुछ खास काम करते थे, या आधुनिक तकनीक हमेशा से मौजूद थी।
यह शोध पत्र एक चेतावनी है: इससे पहले कि हम अपने अतीत के बारे में कहानियाँ सुनाने के लिए AI पर भरोसा करें, हमें इसे एक बेहतर कलाकार के बजाय एक बेहतर इतिहासकार बनने के लिए प्रशिक्षित करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।