Depictions of Depression in Generative AI Video Models: A Preliminary Study of OpenAI's Sora 2
OpenAI के Sora 2 का यह प्रारंभिक अध्ययन यह प्रकट करता है कि जहाँ मॉडल अवसाद को चित्रित करने के लिए लगातार एक संकीकृत, सांस्कृतिक रूप से व्युत्पन्न दृश्य शब्दावली पर निर्भर रहता है, वहीं उपभोक्ता ऐप संस्करण डेवलपर API की तुलना में अधिक उज्ज्वल, अधिक गतिशील और समाधान-उन्मुख आख्यानों के साथ एक महत्वपूर्ण "रिकवरी बायस" (सुधार पूर्वाग्रह) प्रदर्शित करता है, जो यह रेखांकित करता है कि नैदानिक ज्ञान के बजाय प्लेटफॉर्म-स्तरीय बाधाएं एआई-जनित मानसिक स्वास्थ्य सामग्री को आकार देती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास सोरा (Sora) नाम का एक जादुई, अति-बुद्धिमान रोबोट कलाकार है। आप उसे केवल एक शब्द कह सकते हैं—जैसे "डिप्रेशन" (अवसाद)—और वह तुरंत आपके लिए 10 सेकंड की एक फिल्म बना देगा।
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ दो शोधकर्ताओं ने सोरा से "डिप्रेशन" बनाने के लिए कहा और फिर उन्होंने बारीकी से देखा कि वास्तव में वह रोबोट क्या सोचता है कि उदासी कैसी दिखती है। लेकिन इसमें एक मोड़ है, उन्होंने सोरा से दो अलग-अलग तरीकों से पूछा, और परिणाम आश्चर्यजनक रूप से भिन्न थे।
रोबोट के दो दरवाजे
सोरा को मानव कहानियों, फिल्मों और तस्वीरों के एक विशाल पुस्तकालय के रूप में समझें। आप इस पुस्तकालय में दो अलग-अलग दरवाजों से प्रवेश कर सकते हैं:
- कंज्यूमर ऐप (द फ्रेंडली फ्रंट डोर - "दोस्ताना मुख्य द्वार"): यह वह ऐप है जिसे आप अपने फोन पर डाउनलोड करेंगे। इसे आम लोगों के लिए डिज़ाइन किया गया है, इसमें क्या अनुमति है इसके सख्त नियम हैं, और यह चीज़ों को आकर्षक और "सुरक्षित" बनाए रखना चाहता है।
- डेवलपर एपीआई (द बैक ऑफिस - "बैक ऑफिस"): यह कंप्यूटर प्रोग्रामरों के लिए एक सीधा संपर्क है। यह कच्चा, बिना किसी फिल्टर के है, और यह आपको बिना किसी अतिरिक्त "पॉलिशिंग" या सुरक्षा फिल्टर के रोबोट का सीधा आउटपुट देता है।
शोधकर्ताओं ने फ्रंट डोर के माध्यम से सोरा से 50 बार और बैक ऑफिस के माध्यम से 50 बार "डिप्रेशन" बनाने के लिए कहा।
बड़ा आश्चर्य: "हैप्पी एंडिंग" का पूर्वाग्रह
जब शोधकर्ताओं ने फिल्में देखीं, तो उन्हें कहानियों में एक बड़ा अंतर मिला:
- फ्रंट डोर (ऐप) की फिल्में: लगभग 10 में से 8 वीडियो रिकवरी (सुधार) की कहानी बताते थे। वे अंधेरे और उदासी से शुरू होते थे, लेकिन अंत तक, पात्र खड़ा हो जाता है, सूरज निकलता है, और संगीत आशावादी हो जाता है। यह एक ऐसी फिल्म की तरह थी जिसका अंत होना ही चाहिए एक सुखद अंत।
- बैक ऑफिस (एपीआई) की फिल्में: केवल 7 में से 1 वीडियो रिकवरी दिखाता था। इनमें से अधिकांश वीडियो बस एक व्यक्ति को एक अंधेरे कमरे में, फर्श को घूरते हुए दिखाते थे, जिसमें कोई बदलाव नहीं था। यह भावना का एक कच्चा, बिना संपादित स्नैपशॉट था, जिसमें कोई जबरदस्ती का समाधान नहीं था।
उपमा: कल्पना कीजिए कि आप किसी इंसान से टायर पंचर होने के बारे में कहानी बताने को कहते हैं।
- ऐप वाला संस्करण कहता है: "मेरा टायर पंचर हो गया, मैं दुखी था, लेकिन फिर मैंने एक दोस्त को फोन किया, उसे ठीक किया, और सूर्यास्त की ओर बढ़ गया!" (क्योंकि यह दर्शकों के लिए एक संतोषजनक कहानी है)।
- एपीआई वाला संस्करण कहता है: "मेरा टायर पंचर हो गया। मैं सड़क किनारे बैठा हूँ। बारिश हो रही है। मैं अभी भी यहीं बैठा हूँ।" (क्योंकि यह उस क्षण की वास्तविकता है)।
"डिप्रेशन" का दृश्य शब्दकोश
भले ही कहानियाँ अलग थीं, लेकिन दोनों समूहों में दृश्य आश्चर्यजनक रूप से एक जैसे थे। सोरा ने उदासी दिखाने के नए तरीके नहीं खोजे; इसने बस फिल्मों और कला के इतिहास से पुराने घिसे-पिटे ढर्रों (clichés) को पुनर्चक्रित किया।
- पात्र: लगभग हमेशा एक युवा व्यक्ति (20 के दशक का), अकेला बैठा हुआ, नीचे देखते हुए।
- पहनावा: एक ग्रे हुडी (उदासी का सार्वभौमिक यूनिफॉर्म)।
- सेटिंग: एक बेडरूम जिसमें एक खिड़की हो।
- मौसम: बाहर लगभग हमेशा बारिश हो रही थी।
- रूपक (Metaphors): दुख वाले हिस्सों के लिए वीडियो में "भारी" (heavy), "डूबना" (drowning), और "अंधेरा" (darkness) जैसे शब्दों का उपयोग किया गया, और खुशी वाले हिस्सों के लिए "प्रकाश" (light), "सांस" (breath), और "सूर्योदय" (sunrise) का उपयोग किया गया।
ऐसा लगता है जैसे सोरा के पास एक "डिप्रेशन टूलकिट" है जिसमें बारिश, ग्रे हुडी और अंधेरे कमरे भरे हुए हैं, और यह हर बार उन्हीं चीजों को निकालता है।
यह क्यों मायने रखता है?
लेखकों का तर्क है कि सोरा कोई डॉक्टर नहीं है; यह एक दर्पण है।
- यह संस्कृति को दर्शाता है, विज्ञान को नहीं: रोबोट ने मेडिकल टेक्स्टबुक से डिप्रेशन के बारे में नहीं सीखा। इसने इसे लाखों फिल्मों, टिकटॉक वीडियो और विज्ञापनों से सीखा है। यदि फिल्में हमेशा दिखाती हैं कि डिप्रेशन का अंत इलाज के साथ होता है, तो सोरा आपको इलाज ही दिखाएगा।
- "ऐप" एक फिल्टर है: ऐप संस्करण कंपनी द्वारा भारी रूप से संपादित किया गया है ताकि यह सुनिश्चित किया जा सके कि सामग्री "शेयरेबल" हो और लोगों को बहुत अधिक निराश न करे। वे कहानी को आशा की ओर ले जाने के लिए मजबूर करते हैं।
- जोखिम: यदि कोई व्यक्ति बहुत कम महसूस कर रहा है और वह ऐप पर "डिप्रेशन" खोजता है, तो उसे एक वीडियो दिख सकता है जो कहता है, "देखो, तुम बेहतर हो सकते हो!" जो कि अच्छा है, लेकिन यह उसे और भी बुरा महसूस करा सकता है यदि वह अभी बेहतर नहीं हो पा रहा है। या, उसे एक ऐसा वीडियो दिख सकता है जो कहता है, "उदासी बस एक ग्रे हुडी वाला व्यक्ति है," जो कि एक जटिल मानवीय अनुभव का बहुत संकीर्ण दृष्टिकोण है।
निष्कर्ष (The Takeaway)
यह अध्ययन भविष्य के लिए एक चेतावनी लेबल है। जैसे-जैसे एआई मानसिक स्वास्थ्य के बारे में अधिक वीडियो बनाने लगेगा, हमें याद रखना होगा:
- एआई नहीं जानता कि उदासी कैसा महसूस होता है; यह बस जानता है कि फिल्मों में उदासी कैसी दिखती है।
- प्लेटफ़ॉर्म मायने रखता है: आप जिस ऐप का उपयोग करते हैं वह आपको मिलने वाली कहानी को बदल देता है।
- रोबोट को थेरेपिस्ट न समझें: ये वीडियो सांस्कृतिक कार्टून हैं, क्लिनिकल सलाह नहीं। ये पुराने आर्ट, पॉप कल्चर और कंपनी के नियमों का मिश्रण हैं, न कि मानव होने के वास्तविक, उलझे हुए और विविध अनुभव का प्रतिबिंब।
संक्षेप में: सोरा एक प्रतिभाशाली कलाकार है, लेकिन वह "उदासी 101" की एक बहुत पुरानी, बहुत विशिष्ट किताब से पेंटिंग कर रहा है, और ऐप बस उस किताब को संपादित कर रहा है ताकि अंत सुखद रहे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।