The Effects of Visual Priming on Cooperative Behavior in Vision-Language Models
यह शोध पत्र इस बात की जांच करता है कि कैसे विजुअल प्राइमिंग (visual priming), जिसमें व्यवहारिक इमेजरी और कलर-कोडेड रिवॉर्ड मैट्रिसेस शामिल हैं, इटरेटेड प्रिज़नर्स डिलेमा (Iterated Prisoner's Dilemma) में विजन-लैंग्वेज मॉडल्स के सहकारी निर्णय लेने की प्रक्रिया को प्रभावित करती है, जो विजुअल संकेतों के प्रति महत्वपूर्ण संवेदनशीलता और विभिन्न मॉडल्स में शमन रणनीतियों (mitigation strategies) की परिवर्तनशील प्रभावशीलता को प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रोबोटों के एक समूह को, जो बहुत बुद्धिमान लेकिन थोड़े ही प्रभाव में आने वाले हैं, "प्रिज़नर्स डिलेमा" (Prisoner's Dilemma) नामक एक क्लासिक खेल खेलना सिखा रहे हैं। इस खेल में, दो खिलाड़ियों को यह तय करना होता है कि वे सहयोग (मिलकर काम करना) करेंगे या डिफेक्ट (केवल अपने फायदे के बारे में सोचना) करेंगे। आमतौर पर, इन रोबोटों को तर्कसंगत विकल्प बनाने के लिए प्रशिक्षित किया जाता है।
हालाँकि, यह शोध पत्र एक सरल लेकिन डरावना सवाल पूछता है: क्या होगा अगर हम निर्णय लेने से ठीक पहले इन रोबोटों को एक तस्वीर दिखा दें?
शोधकर्ताओं ने पाया कि, मनुष्यों की तरह, ये AI मॉडल भी "प्राइम" (prime) किए जा सकते हैं—जिसका एक फैंसी तरीका यह कहना है कि वे जो देखते हैं उससे सूक्ष्म रूप से प्रभावित हो सकते हैं, भले ही वह चित्र खेल के गणित से संबंधित न हो।
यहाँ उनके निष्कर्षों का रोजमर्रा के उदाहरणों का उपयोग करके विवरण दिया गया है:
1. "मूड रिंग" प्रभाव (विजुअल प्राइमिंग)
शोधकर्ताओं ने रोबोटों को दो प्रकार की तस्वीरें दिखाईं:
- "अच्छी" तस्वीर: दयालुता, मदद करने वाले हाथ, या मुस्कुराते हुए चेहरों वाली छवियां।
- "बुरी" तस्वीर: आक्रामकता, स्वार्थ, या लड़ाई दिखाने वाली छवियां।
परिणाम: जब रोबोटों ने "बुरी" तस्वीरें देखीं, तो उनके स्वार्थी होने की संभावना बहुत अधिक थी। जब उन्होंने "अच्छी" तस्वीरें देखीं, तो उनके सहयोग करने की संभावना अधिक थी।
- उपमा: यह उस कमरे में जाने जैसा है जहाँ किसी ने अभी-अभी एक चुटकुला सुनाया हो। आप हल्का महसूस कर सकते हैं और साझा करने के लिए अधिक इच्छुक हो सकते हैं। लेकिन यदि किसी ने आप पर चिल्लाया है, तो आप रक्षात्मक हो सकते हैं और अपने लंच बॉक्स को अपने पास ही रखना चाहेंगे। रोबंतुओं का "मूड" तस्वीर द्वारा हाईजैक कर लिया गया, जिससे उनकी रणनीति बदल गई।
2. "ट्रैफिक लाइट" प्रभाव (कलर प्राइमिंग)
इसके बाद, शोधकर्ताओं ने लोगों की तस्वीरें नहीं बल्कि केवल रंगों का उपयोग किया। उन्होंने रोबोटों को पुरस्कारों का एक चार्ट दिखाया जहाँ "सहयोग" (Cooperate) के विकल्प को लाल रंग से हाइलाइट किया गया था और "डिफेक्ट" (Defect) के विकल्प को हरे रंग से (या इसके विपरीत)।
परिणाम: रोबोटों को हरा रंग पसंद आया और लाल रंग से नफरत हुई। यदि "डिफेक्ट" हरा था, तो उन्होंने डिफेक्ट किया। यदि "सहयोग" हरा था, तो उन्होंने सहयोग किया।
- उपमा: ट्रैफिक लाइट के बारे में सोचें। भले ही साइन बोर्ड कहता हो "रुकें", यदि लाइट हरी है, तो आपका पैर स्वाभाविक रूप से एक्सीलेटर दबाने की ओर झुकता है। रोबोट रंगों को अनदेखा नहीं कर सके; रंग एक विशाल, चमकते हुए तीर की तरह काम कर रहा था जो उन्हें एक विशिष्ट विकल्प की ओर इशारा कर रहा था, जिससे उनका वास्तविक तर्क दब गया।
3. रोबोटों के "अलग-अलग व्यक्तित्व"
सभी रोबोटों ने एक जैसा व्यवहार नहीं किया। शोधकर्ताओं ने छह अलग-अलग AI मॉडल का परीक्षण किया, और उनके व्यक्तित्व बहुत अलग थे:
- आसानी से प्रभावित होने वाले: GPT-4o और Qwen जैसे मॉडल "बुरे/अच्छे" चित्रों और "लाल/हरे" रंगों दोनों से आसानी से प्रभावित हो गए। वे उस व्यक्ति की तरह थे जो भीड़ से आसानी से प्रभावित हो जाता है।
- जिद्दी वाले: एक मॉडल, LLaMA-3.2, आश्चर्यजनक रूप से सख्त था। उसे चित्रों या रंगों की कोई परवाह नहीं थी। वह एक खच्चर की तरह अपने तर्क पर अडिग रहा।
- पिकी ईटर्स (चुनने वाले): कुछ मॉडल केवल चित्रों से प्रभावित हुए लेकिन रंगों से नहीं, जबकि अन्य केवल रंगों से प्रभावित हुए लेकिन चित्रों से नहीं।
4. क्या हम रोबोटों को "धोखा देने से बचा" सकते हैं? (मिटिगेशन)
शोधकर्ताओं ने रोबोटों को इन प्रभावों से रोकने के लिए तीन तरकीबें आजमाईं:
तरकीब 1: "इसे अनदेखा करें" कमांड (प्रॉम्प्टिंग)
उन्होंने रोबोटों को कहा, "कृपया इस छवि को अनदेखा करें।"- क्या यह काम आया? वास्तव में नहीं। यह एक बच्चे को यह कहने जैसा था, "बिस्कुट की तरफ मत देखो," जबकि उसके सामने एक बड़ा बिस्कुट रखा हो। रोबोटों ने अभी भी बिस्कुट देखा और अपना मन बदल लिया।
तरकीब 2: "बोलने से पहले सोचें" विधि (चेन ऑफ थॉट)
उन्होंने रोबोटों को निर्णय लेने से पहले चरण-दर-चरण अपने तर्क को लिखने के लिए मजबूर किया।- क्या यह काम आया? कुछ के लिए हाँ! यह एक विचलित छात्र को उत्तर देने से पहले अपना गणित का होमवर्क लिखने के लिए कहने जैसा था। उन्हें तर्क पर ध्यान केंद्रित करने के लिए मजबूर करके, उन्होंने ध्यान भटकाने वाली तस्वीर पर ध्यान देना बंद कर दिया। हालाँकि, इसमें अधिक समय और कंप्यूटिंग शक्ति लगी।
त्रकीब 3: "धुंधले चश्मे" की विधि (विजुअल टोकन रिडक्शन)
उन्होंने छवियों के कुछ हिस्सों को धुंधला या ब्लॉक करके छिपाने की कोशिश की, इस उम्मीद में कि वे "बुरे" चेहरों या "हरे" रंगों को छिपा सकें।- क्या यह काम आया? केवल तभी जब उन्होंने लगभग सब कुछ (90%) धुंधला कर दिया, लेकिन इतना धुंधला करने पर रोबोट खेल के नियम भी नहीं देख पा रहे थे। यह किसी को आंखों पर पट्टी बांधकर ट्रैफिक लाइट देखने से रोकने जैसा था; वे लाइट देखना बंद कर देते हैं, लेकिन वे सड़क भी नहीं देख पाते।
मुख्य निष्कर्ष
मुख्य बात यह है कि ये AI सिस्टम शुद्ध तर्कसंगत मशीनें नहीं हैं; वे दृश्य संकेतों (visual cues) के प्रति संवेदनशील हैं। ठीक वैसे ही जैसे एक इंसान गुस्से में या चमकीले साइन बोर्ड से विचलित होकर गलत निर्णय ले सकता है, ये AI मॉडल एक तस्वीर या एक विशिष्ट रंग दिखाकर बदलने के लिए मजबूर किए जा सकते हैं।
शोध पत्र निष्कर्ष निकालता है कि हमें इन AI मॉडलों को महत्वपूर्ण निर्णय लेने के लिए नियुक्त करते समय बहुत सावधान रहने की आवश्यकता है, विशेष रूप से यदि वे उन छवियों को देख रहे हैं जिन्हें हम उन्हें दिखाना नहीं चाहते थे। हमने यह भी सीखा कि सभी AI मॉडल एक जैसे नहीं बने हैं—कुछ स्वाभाविक रूप से इन चालों के प्रति अधिक प्रतिरोधी होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।