SIGNPOST-Bench: Benchmarking Text-Vision Conflict Resolution in Multimodal Large Language Models
यह शोध पत्र SIGNPOST-Bench प्रस्तुत करता है, जो एक नियंत्रित काउंटरफैक्टुअल बेंचमार्क है जिसमें 25,555 इमेज वेरिएंट शामिल हैं ताकि यह मूल्यांकन किया जा सके कि मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स विजुअल और टेक्स्टुअल संकेतों के बीच संघर्षों को कैसे हल करते हैं, जो यह प्रकट करता है कि प्रतिकूल टेक्स्ट हस्तक्षेप जियोलोकेशन सटीकता को महत्वपूर्ण रूप से कम कर देते हैं और मूल्यांकित किए गए 20 मॉडल्स में विशिष्ट मध्यस्थता व्यवहारों को उजागर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: "यह फोटो कहाँ ली गई थी?" आपके पास मदद के लिए दो सुराग हैं। पहला है दृश्य दृश्य (visual scene): वास्तुकला, पेड़, कारें, और इमारतों पर पड़ती रोशनी का तरीका। दूसरा है फोटो में लगे साइन बोर्ड, दुकानों या विज्ञापनों पर लिखा टेक्स्ट (text)। आमतौर पर, ये सुराग आपस में मेल खाते हैं। "पेरिस" लिखा हुआ एक साइन बोर्ड ऐसी इमारत पर लगा होता है जो पेरिस में ही दिखती है। लेकिन जब वे असहमत होते हैं तो क्या होता है? क्या होगा यदि फोटो में पहाड़ों में एक बर्फीली, लकड़ी की केबिन दिखाई दे, लेकिन खिड़की में लगा एक चमकीला नियॉन साइन चिल्लाकर कह रहा हो "सहारा रेगिस्तान में आपका स्वागत है"?
यही मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) की दुनिया है। ये सुपर-स्मार्ट एआई कंप्यूटर हैं जो एक साथ छवियों को "देख" सकते हैं और टेक्स्ट को "पढ़" सकते हैं। वैज्ञानिकों ने उन्हें दुनिया के बारे में अनुमान लगाने के लिए इन सुरागों को जोड़ने के लिए प्रशिक्षित किया है। लेकिन एक बड़ा सवाल है: जब दृश्य सुराग और टेक्स्ट सुराग आपस में लड़ते हैं, तो एआई किस पर भरोसा करता है? क्या वह भ्रमित करने वाले साइन को अनदेखा कर देता है और बर्फ को देखता है? या क्या वह अंधे होकर साइन पर विश्वास कर लेता है और बर्फ को भूल जाता है? अब तक, हमारे पास इस विशिष्ट प्रकार के भ्रम को परखने का कोई अच्छा तरीका नहीं था।
यहाँ SIGNPOST-Bench आता है, जो शोधकर्ताओं द्वारा एक "एआई को बेवकूफ बनाने वाला खेल" खेलने के लिए डिज़ाइन किया गया एक नया प्रयोग है। उन्होंने हजारों वास्तविक दुनिया की तस्वीरें लीं और प्रत्येक के लिए एक विशेष सेट के "काउंटरफैक्टुअल" (counterfactual) संस्करण बनाए। इसे एक फोटो एडिटिंग वर्कशॉप की तरह समझें जहाँ वे एक मूल तस्वीर लेते हैं और उसकी चार नई प्रतियां बनाते हैं:
- द ब्लैंक (The Blank): उन्होंने टेक्स्ट को पूरी तरह से मिटा दिया।
- द सिमिलर (The Similar): उन्होंने साइन को एक अलग साइन से बदल दिया जो अभी भी स्थान के लिए तर्कसंगत है (जैसे, "वेलकम टू मिशिगन" को "वेलकम टू डेट्रॉइट" में बदलना)।
- द रैंडम (The Random): उन्होंने एक ऐसा साइन लगाया जिसका उस जगह से कोई लेना-देना नहीं है (जैसे, "वेलकम टू द मून")।
- द एडवर्सरियल (The Adversarial): यह सबसे पेचीदा है। उन्होंने साइन को एक ऐसे झूठ से बदल दिया जो एक विशिष्ट, अलग स्थान की ओर इशारा करता है (जैसे, "वेलकम टू मिशिगन" को "वेलकम टू न्यूयॉर्क" में बदलना)।
फिर शोधकर्ताओं ने सात प्रमुख तकनीकी कंपनियों के 20 अलग-अलग एआई मॉडल्स से हर फोटो के सभी पांच संस्करणों के लिए स्थान का अनुमान लगाने को कहा। वे यह देखना चाहते थे कि क्या एआई झूठ को पकड़ पाता है या वह नए साइन से धोखा खा जाता है।
परिणाम काफी चौंकाने वाले थे। जब एआई ने मूल फोटो को देखा, तो वह स्थान का अनुमान लगाने में काफी अच्छा था। लेकिन जब उन्होंने एडवर्सरियल (Adversarial) झूठ पेश किए, तो मॉडल भ्रमित हो गए। औसतन, एआई का अनुमान 4.8 गुना कम सटीक हो गया। लगभग 282 किलोमीटर दूर होने के बजाय, अब एआई 1,347 किलोमीटर दूर था।
इससे भी अधिक दिलचस्प बात यह थी कि एआई केवल खराब नहीं हुआ; वह गुमराह भी हुआ। जब साइन पर "न्यूयॉर्क" लिखा था, तो एआई ने केवल रैंडम अनुमान नहीं लगाया; बल्कि उसने वास्तव में अपने अनुमान को न्यूयॉर्क के करीब ले आया। वास्तव में, परीक्षण किए गए प्रत्येक मॉडल के लिए, विरोधाभासी टेक्स्ट ने उत्तर को झूठ की ओर खींच लिया। लगभग 6.5% से 20.1% बार, एआई का अनुमान उस नकली स्थान से 50 किलोमीटर से भी कम दूरी पर था, जिसकी ओर साइन इशारा कर रहा था।
अध्ययन में यह भी पाया गया कि साइन पढ़ने या तस्वीरें देखने में "स्मार्ट" होना, संघर्ष को पहचानने में कुशल होने की गारंटी नहीं देता। कुछ मॉडल जो साफ-सुथरी, ईमानदार तस्वीरों के साथ स्थान का अनुमान लगाने में उत्कृष्ट थे, वे वास्तव में कुछ छोटे मॉडल्स की तुलना में झूठ को अनदेखा करने में बदतर थे। यह सच है कि साइन पढ़ने में सक्षम होने का मतलब यह नहीं है कि आप जानते हैं कि उसे कब अनदेखा करना है यदि वह बाकी तस्वीर के साथ विरोधाभास करता है।
अंत में, शोधकर्ताओं ने एआई को "कोचिंग" देने की कोशिश की, जिसमें विशेष रूप से उसे संघर्षों के प्रति सचेत रहने के लिए कहा गया। हालांकि इससे एआई को यह समझने में मदद मिली कि कुछ गलत है (49% समय), लेकिन इसने वास्तव में उसे सही स्थान का अनुमान लगाने में बेहतर नहीं बनाया। एआई जानता था कि वह भ्रमित है, लेकिन वह अभी भी यह नहीं समझ सका कि पहेली को कैसे हल किया जाए।
संक्षेप में, यह पेपर दिखाता है कि वर्तमान एआई मॉडल अभी भी बहुत आसानी से धोखा खा जाते हैं जब टेक्स्ट और इमेज आपस में असहमत होते हैं। वे टेक्स्ट पर बहुत अधिक भरोसा करते हैं, भले ही वह एक स्पष्ट झूठ हो। शोधकर्ताओं ने इस नए "SIGNPOST-Bench" टेस्ट को बनाया है ताकि भविष्य के एआई डेवलपर्स को यह समझने में मदद मिल सके कि उनके मॉडल वास्तव में कहाँ विफल हो रहे हैं, ताकि वे उन्हें बेहतर जासूस बनने के लिए सिखा सकें जो जानते हों कि कब अपनी आँखों पर भरोसा करना है और कब संकेतों पर सवाल उठाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।