Images Amplify Misinformation Sharing in Vision-Language Models
यह अध्ययन प्रकट करता है कि विजन-लैंग्वेज मॉडल मानव सदृश पूर्वाग्रह प्रदर्शित करते हैं, क्योंकि वे छवियों की उपस्थिति में फर्जी समाचारों को पुनः साझा करने की अपनी प्रवृत्ति में उल्लेखनीय वृद्धि करते हैं, और यह संवेदनशीलता विशिष्ट व्यक्तित्व लक्षणों द्वारा और अधिक बढ़ जाती है तथा विभिन्न मॉडल आर्किटेक्चर के अनुसार भिन्न होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बहुत बुद्धिमान, सुपर-फास्ट रोबोटों का एक समूह है (जिन्हें विजन-लैंग्वेज मॉडल्स या VLMs कहा जाता है) जो खबरें पढ़ते हैं और तय करते हैं कि उन्हें अपने दोस्तों के साथ क्या साझा करना है। ये रोबोट टेक्स्ट पढ़ सकते हैं और तस्वीरें भी देख सकते हैं।
शोधकर्ताओं ने एक सरल प्रश्न का उत्तर देने की कोशिश की: क्या किसी समाचार कहानी में तस्वीर जोड़ने से इन रोबोटों द्वारा उसे साझा करने की संभावना बढ़ जाती है, भले ही वह कहानी फर्जी (fake) हो?
इसे इस तरह समझें: यदि आप अपने दोस्त को एक उबाऊ अफवाह बताते हैं, तो वह शायद उसे अनदेखा कर दे। लेकिन यदि आप उसे उस अफवाह के घटित होने की एक नाटकीय फोटो दिखाते हैं, तो उसके द्वारा उसे सच मानने और सबको बताने की संभावना बहुत अधिक बढ़ जाती है। यह शोध पत्र पूछता है कि क्या रोबोट भी बिल्कुल ऐसा ही करते हैं।
यहाँ उन्होंने जो पाया है, उसे सरल रूप में बताया गया है:
1. "जादुई तस्वीर" का प्रभाव (The "Magic Picture" Effect)
शोधकर्ताओं ने चार अलग-अलग प्रकार के रोबोटों का परीक्षण किया। उन्होंने रोबोटों को ऐसी समाचार कहानियाँ दीं जो या तो सच्ची (True) थीं या झूठी (False)।
- प्रयोग: उन्होंने रोबोटों को कहानियाँ दो तरीकों से दिखाईं: केवल टेक्स्ट के रूप में, और टेक्स्ट के साथ एक तस्वीर के रूप में।
- परिणाम: जब एक तस्वीर जोड़ी गई, तो रोबोटों ने कहानियों को अधिक बार साझा किया।
- पेंच (The Catch): रोबोट फर्जी खबरों को तस्वीर के साथ बहुत अधिक बार साझा करने लगे। ऐसा लग रहा था जैसे तस्वीर एक "ट्रस्ट बूस्टर" (विश्वास बढ़ाने वाला) की तरह काम कर रही थी जिसने रोबोटों को धोखा दिया कि झूठ सच है।
- फर्जी खबरों के लिए, शेयरिंग लगभग 14.5% बढ़ गई।
- असली खबरों के लिए, शेयरिंग केवल 5.3% बढ़ी।
उपमा (Analogy): कल्पना कीजिए कि एक जादूगर है। यदि वह आपसे कहता है कि उसका करतब असली है, तो आप उस पर संदेह कर सकते हैं। लेकिन यदि वह आपको उस करतब की एक शानदार तस्वीर दिखाता है, तो आप उसे मानने और अपने दोस्तों को बताने के लिए बहुत अधिक इच्छुक हो जाते हैं। रोबोट उस शानदार तस्वीर के झांसे में आ गए, खासकर तब जब वह करतब एक झूठ था।
2. सभी रोबोट एक जैसे नहीं होते
शोधकर्ताओं ने चार अलग-अलग रोबोट मॉडल (जैसे स्मार्टफोन के अलग-अलग ब्रांड) का परीक्षण किया।
- कुछ रोबोट (जैसे GPT-4o-mini और Qwen2-VL) तस्वीरों से बहुत आसानी से मूर्ख बन गए। उन्होंने बिना तस्वीर के मुकाबले तस्वीर के साथ फर्जी खबरें लगभग 20% अधिक बार साझा कीं।
- एक रोबोट (Claude-3-Haiku) बहुत सख्त था। वह तस्वीरों से उतनी आसानी से धोखा नहीं खाया। वह समूह में सबसे अधिक "शंकालु" (skeptical) था।
3. "व्यक्तित्व" का परीक्षण (The "Personality" Test)
शोधकर्ताओं ने रोबोटों को अलग-अलग "व्यक्तित्व" भी दिए ताकि वे देख सकें कि इससे उनके व्यवहार में कोई बदलाव आता है या नहीं। उन्होंने रोबोटों के साथ ऐसा व्यवहार किया जैसे वे अलग-अलग प्रकार के लोग हों:
- "डार्क" व्यक्तित्व (The "Dark" Personalities): उन्होंने कुछ रोबोटों को हेरफेर करने वाले (manipulative), स्वार्थी (selfish), या लापरवाह (reckless) जैसे गुण दिए (जिसे "डार्क ट्रायड" कहा जाता है)।
- परिणाम: ये "डार्क" व्यक्तित्व वाले रोबोट फर्जी खबरें बहुत अधिक साझा करते थे। उन्हें इस बात की परवाह नहीं थी कि वह सच है या नहीं; वे बस उसे साझा करना चाहते थे।
- "राजनीतिक" व्यक्तित्व (The "Political" Personalities): उन्होंने रोबोटों को एक विशिष्ट राजनीतिक पहचान (जैसे रिपब्लिकन या डेमोक्रेट) दी।
- परिणाम: रिपब्लिकन पहचान वाले रोबोट इस बारे में कम सावधान हो गए कि खबर सच है या झूठ। उन्होंने असली और फर्जी दोनों तरह की खबरें लगभग समान दर पर साझा कीं, जबकि अन्य रोबोट अंतर पहचानने में बेहतर थे।
उपमा: कल्पना कीजिए कि एक पार्टी है। यदि आप एक शर्मीले, सतर्क व्यक्ति से कोई अफवाह साझा करने के लिए कहते हैं, तो वह पहले यह जांच सकता है कि क्या वह सच है। लेकिन यदि आप एक साहसी, लापरवाह व्यक्ति से पूछते हैं, तो वह तुरंत अफवाह चिल्लाकर बता सकता है, भले ही वह मनगढ़ंत हो। रोबोट ने बिल्कुल वैसे ही व्यवहार किया जैसे अलग-अलग प्रकार के लोग करते हैं।
4. क्या मायने नहीं रखा (What Didn't Matter)
- विषय (Topic): समाचार राजनीति, स्वास्थ्य या तकनीक के बारे में हो, इससे रोबोट के व्यवहार में ज्यादा बदलाव नहीं आया।
- फोटो में लोग: फोटो में इंसान का चेहरा हो या सिर्फ कोई वस्तु, रोबोटों ने एक जैसा ही व्यवहार किया।
मुख्य निष्कर्ष (The Big Takeaway)
मुख्य निष्कर्ष यह है कि ये AI रोबोट केवल ठंडे कैलकुलेटर नहीं हैं। उनमें एक मानवीय दोष है: वे तस्वीरों पर बहुत अधिक भरोसा करते हैं।
इंसानों की तरह, ये रोबोट भी किसी कहानी को अधिक विश्वास और साझा करने की संभावना रखते हैं यदि उसके साथ एक तस्वीर जुड़ी हो, भले ही वह कहानी एक झूठ हो। यह विशेष रूप से खतरनाक है जब रोबोट को "लापरवाह" व्यक्तित्व दिया जाता है या जब खबर फर्जी होती है।
शोधकर्ता चेतावनी देते हैं कि जैसे-जैसे ये रोबोट हमारे लिए समाचारों को चुनने (यह तय करने कि हमें स्क्रीन पर क्या दिखना चाहिए) में मदद करने लगेंगे, हमें सावधान रहने की आवश्यकता है। यदि उन्हें ऐसी चीजें साझा करने के लिए प्रोग्राम किया जाता है जो दिखने में अच्छी लगती हैं (तस्वीरों के कारण), तो वे अनजाने में बहुत सारी फर्जी खबरें फैला सकते हैं।
संक्षेप में: तस्वीरें रोबोटों को समाचार साझा करने के लिए अधिक प्रेरित करती हैं, लेकिन वे उन्हें असली खबरों की तुलना में फर्जी खबरें साझा करने के लिए और भी अधिक प्रेरित करती हैं। और यदि आप रोबोट को "बुरा रवैया" (bad attitude) देते हैं, तो वे फर्जी चीजों को और भी तेजी से साझा करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।