Rethinking CD: A Reproducibility Study and Extension on the Ineffectiveness of Contrastive Decoding at Mitigating Object Hallucinations in MLLMs
यह शोध पत्र पिछले शोध को पुनरुत्पादित और विस्तारित करता है ताकि यह प्रदर्शित किया जा सके कि कंट्रास्टिव डिकोडिंग (contrastive decoding) मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में ऑब्जेक्ट हैलुसिनेशन (object hallucinations) को वास्तव में कम करने में विफल रहती है, क्योंकि POPE जैसे बेंचमार्क पर इसके स्पष्ट प्रदर्शन लाभ अक्सर भ्रामक होते हैं और बेहतर विजुअल ग्राउंडिंग को नहीं दर्शाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक तस्वीर देखकर उसका वर्णन करना सिखा रहे हैं। आप चाहते हैं कि रोबोट ईमानदार हो, और केवल वही बताए जो वास्तव में वहां मौजूद है। लेकिन कभी-कभी, ये सुपर-स्मार्ट रोबोट थोड़े ज़्यादा रचनात्मक हो जाते हैं। वे एक शांत समुद्र तट की फोटो देखकर आत्मविश्वास से कह सकते हैं, "मुझे गेंद के साथ खेलता हुआ एक कुत्ता दिख रहा है!" भले ही तस्वीर में कोई कुत्ता न हो। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है। ऐसा नहीं है कि रोबोट जानबूझकर झूठ बोल रहा है; यह बस इसलिए है क्योंकि उसने समुद्र तटों पर कुत्तों के बारे में इतनी कहानियाँ पढ़ी हैं कि वह मान लेता है कि एक कुत्ता वहां ज़रूर होगा, भले ही दृश्य प्रमाण गायब हो।
इसे ठीक करने के लिए, वैज्ञानिक रोबोट को अपने ही विचारों को "दोबारा जांचने" (double-check) के लिए सिखाने की कोशिश कर रहे हैं। एक लोकप्रिय विचार, जिसे कॉन्ट्रास्टिव डिकोडिंग (Contrastive Decoding) कहा जाता है, "अंतर पहचानें" (Spot the Difference) के खेल की तरह काम करता है। रोबity को एक ही तस्वीर को दो तरीकों से देखने के लिए कहा जाता है: एक स्पष्ट और तीक्ष्ण (विशेषज्ञ का दृश्य) और एक धुंधला या शोर वाला (नौसिखिया दृश्य)। सिद्धांत यह है कि यदि रोबोट धुंधले दृश्य में "कुत्ता" कहने की अधिक संभावना रखता है बजाय स्पष्ट दृश्य के, तो वह केवल अपनी कल्पना के आधार पर अनुमान लगा रहा है, न कि फोटो के आधार पर। इसलिए, यह विधि उन "धुंधले-दृश्य" वाले अनुमानों को दबाने की कोशिश करती है ताकि रोबोट सच्चाई पर टिका रहे। यह एक शिक्षक की तरह है जो छात्र से कहता है, "अगर तुम इसे स्पष्ट रूप से नहीं देख सकते, तो इसे लिखो मत।"
लेकिन यहाँ एक मोड़ है: एक नया अध्ययन बताता है कि यह चतुर "दोबारा जांचने" वाला तरीका हमें मूर्ख बना रहा है। शोधकर्ताओं ने पाया कि वास्तव में रोबोट की दृष्टि बेहतर करने के बजाय, यह विधि रोबोट को अधिक बार "हाँ" कहने के लिए उकसा रही है, चाहे वस्तु वास्तव में वहां हो या न हो। यह एक ऐसे छात्र की तरह है जो विषय को सीखने के बजाय, केवल इसलिए हर सवाल का जवाब "हाँ" देना शुरू कर देता है क्योंकि उसे पता है कि शिक्षक सकारात्मक उत्तर पसंद करते हैं। यह अध्ययन यह साबित करने के लिए गहराई तक जाता है कि यह लोकप्रिय समाधान वास्तव में रोबोट की दृष्टि को ठीक नहीं कर रहा है; यह केवल रोबोट के मूड को बदल रहा है।
"हाँ" का महान भ्रम (The Great "Yes" Illusion)
आप जो पेपर पढ़ने जा रहे हैं, वह भारतीय प्रौद्योगिकी संस्थान, रुड़की के शोधकर्ताओं की एक टीम द्वारा लिखी गई एक जासूसी कहानी है। उन्होंने "कॉन्ट्रास्टिव डिकोडिंग" विधि को सूक्ष्मदर्शी के नीचे रखकर यह देखने का फैसला किया कि क्या यह वास्तव में इसके विज्ञापित दावे के अनुसार काम करती है। उनका मुख्य लक्ष्य इस ज्वलंत प्रश्न का उत्तर देना था: क्या यह विधि वास्तव में रोबोट को भ्रम (hallucination) पैदा करने से रोक रही है, या यह केवल परिणामों को दिखावा कर रही है?
शोधकर्ताओं ने पिछले अध्ययन (Yin et al., 2026 द्वारा) के प्रयोगों को दोहराया, लेकिन नए, अधिक शक्तिशाली रोबोट दिमागों (विशेष रूप से LLaVA और Qwen नामक मॉडल) का उपयोग किया। वे देखना चाहते थे कि क्या "कॉन्ट्रास्टिव डिकोडिंग" का जादू ताज़ा डेटा पर परीक्षण किए जाने पर भी कायम रहता है। उन्हें जो मिला वह उनके प्रशंसकों के लिए थोड़ा निराशाजनक था, लेकिन उन सभी के लिए बहुत रोमांचक था जो ईमानदार रोबोट चाहते हैं।
"हाँ" का पूर्वाग्रह (The "Yes" Bias)
पहली बड़ी खोज यह है कि कॉन्ट्रास्टिव डिकोडिंग वास्तव में रोबोट को तस्वीर को अधिक ध्यान से देखने के लिए प्रेरित नहीं करता है। इसके बजाय, यह रोबोट को बहुत अधिक बार "हाँ" कहने के लिए धकेलता है। कल्पना कीजिए कि एक परीक्षा है जहाँ रोबोट को "क्या इस तस्वीर में एक बिल्ली है?" जैसे सवालों के जवाब में "हाँ" या "नहीं" देना है। यदि रोबोट आमतौर पर बहुत अधिक "नहीं" कहता है (भले ही वहां वास्तव में एक बिल्ली हो), तो यह विधि उसे "हाँ" अधिक कहने के लिए प्रेरित करती है।
शोधकर्ताओं ने पाया कि यह बदलाव रोबोट को कागज़ पर स्मार्ट दिखाता है क्योंकि वह गलती से अधिक सवालों के सही जवाब दे देता है। लेकिन यहाँ एक पेंच है: रोबोट ऐसी तस्वीरों के लिए भी "हाँ" कह रहा है जहाँ बिल्ली है ही नहीं, जिससे नई गलतियाँ पैदा हो रही हैं। यह एक ऐसे छात्र की तरह है जो विषय को सीखने के बजाय, बस हर सवाल का जवाब "हाँ" देने का फैसला करता है। वे भाग्यशाली होकर कुछ सही उत्तर पा सकते हैं, लेकिन वे गलत उत्तर भी बना रहे हैं। अध्ययन ने दिखाया है कि आप बिल्कुल समान "सुधारित" स्कोर प्राप्त कर सकते हैं यदि आप रोबट को बस यह कहें, "हे, अधिक 'हाँ' कहने की कोशिश करो," बिना किसी फैंसी डिकोडिंग ट्रिक के।
"लालची" जाल (The "Greedy" Trap)
दूसरे रहस्य में "एडेप्टिव प्लाउज़िबिलिटी कंस्ट्रेंट" (Adaptive Plabilities Constraint) नामक एक सुरक्षा वाल्व शामिल है। यह एक नियम है जिसका उद्देश्य रोबोट को अजीब या असंभव चीजें कहने से रोकना है। हालाँकि, शोधकर्ताओं ने पाया कि यह नियम इतना सख्त है कि यह मूल रूप से रोबोट को एक "लालची" विचारक में बदल देता है।
सोचिए कि "सैंपलिंग" (sampling) रोबोट द्वारा अपने अगले शब्द को चुनने के लिए पासा फेंकने जैसा है, जो उसे रचनात्मक होने और विभिन्न विकल्पों को खोजने का मौका देता है। "लालची" दृष्टिकोण ऐसा है जैसे रोबोट हमेशा सबसे स्पष्ट शब्द चुनता है, अन्य सभी संभावनाओं को अनदेखा करता है। अध्ययन में पाया गया कि सुरक्षा नियम रोबोट को पासा फेंकना बंद करने और हर बार सबसे स्पष्ट शब्द चुनने के लिए मजबूर करता है। इसलिए, जब यह विधि काम करती हुई दिखती है, तो वास्तव में ऐसा इसलिए होता है क्योंकि रोबोट रचनात्मक होना बंद कर चुका है और उबाऊ रूप से अनुमान लगाने योग्य बन गया है। "सुधार" इसलिए नहीं है क्योंकि रोबोट बेहतर देख रहा है; बल्कि इसलिए है क्योंकि वह जोखिम लेने से डर रहा है।
"शोर" का प्रयोग (The "Noise" Experiment)
यह साबित करने के लिए कि विधि का "नौसिखिया" हिस्सा (धुंधला दृश्य) वास्तव में कोई वास्तविक काम नहीं कर रहा था, शोधकर्ताओं ने कुछ अजीब करने की कोशिश की। उन्होंने "नौसिखिया" रोबोट को शुद्ध रैंडम नॉइज़ (random noise) से बदल दिया—जैसे कि रेडियो सिग्नल में आने वाली खरखराहट। उन्हें उम्मीद थी कि बिना नौसिखिया रोबोट के यह विधि पूरी तरह विफल हो जाएगी। इसके बजाय, विधि लगभग एक समान ही काम करती रही!
यह एक शेफ की तरह है जो एक गुप्त सामग्री जोड़कर अपने सूप का स्वाद बेहतर बनाने की कोशिश कर रहा है। यदि आप उस गुप्त सामग्री को हटा देते हैं और उसकी जगह सादा पानी डाल देते हैं, और सूप का स्वाद फिर भी वैसा ही रहता है, तो आपको एहसास होता है कि वह गुप्त सामग्री कभी कुछ कर ही नहीं रही थी। शोधकर्ताओं ने निष्कर्ष निकाला कि "नौसिखिया" दृश्य सत्य देखने में मदद नहीं कर रहा है; यह केवल रैंडम शोर जोड़ रहा है जो मायने नहीं रखता। वास्तविक कारण केवल "हाँ" का पूर्वाग्रह और "लालची" नियम है।
गहराई से विश्लेषण: मस्तिष्क के अंदर क्या हो रहा है? (The Deep Dive: What's Happening Inside the Brain?)
शोधकर्ता केवल सतह तक ही नहीं रुके। उन्होंने रोबोट के "मस्तिष्क" (इसके न्यूरल नेटवर्क लेयर्स) के अंदर झाँका कि जादू कहाँ हो रहा है। उन्होंने पाया कि रोबोट वास्तव में जानता है कि कोई वस्तु वहाँ है या नहीं, उसके लेयर्स के गहरे स्तरों में। उसके पास जानकारी है! लेकिन जब कॉन्ट्रास्टिव डिकोडिंग विधि सक्रिय होती है, तो वह उस जानकारी का उपयोग गलती को सुधारने के लिए नहीं करती है। इसके बजाय, यह हर चीज़ के लिए "हाँ" बटन को और ज़ोर से दबा देती है, गलत उत्तरों के लिए भी।
यह एक ऐसे छात्र की तरह है जो जानता है कि उत्तर "नहीं" है, लेकिन शिक्षक (डिकोडिंग विधि) उसे थपथपाते हुए फुसफुसाता रहता है, "हाँ कहो!" छात्र अंततः "हाँ" ही कहता है, भले ही वह बेहतर जानता हो। विधि छात्र के ज्ञान को ठीक नहीं कर रही है; यह केवल एक समान दबाव के साथ उसे ओवरराइड कर रही है।
निष्कर्ष (The Verdict)
तो, इस अध्ययन से अंतिम निष्कर्ष क्या है? शोधकर्ता अपने निष्कर्षों के प्रति काफी आश्वस्त हैं। उन्होंने दिखाया है कि लोकप्रिय "कॉन्ट्रास्टिव डिकोडिंग" विधि काफी हद तक एक भ्रम है। यह वास्तव में रोबोट को दुनिया को अधिक स्पष्ट रूप से देखने में मदद नहीं करती है या उसे चीजें बनाने से नहीं रोकती है। इसके बजाय, यह केवल रोबोट के व्यवहार को बदलकर उसे अधिक "हाँ" कहने और रचनात्मक जोखिम लेना बंद करने के लिए प्रेरित करती है।
यह एक बड़ी बात है क्योंकि बहुत से लोग इस विधि का उपयोग सुरक्षित, अधिक विश्वसनीय AI बनाने के लिए कर रहे हैं। अध्ययन हमें चेतावनी देता है कि हम शायद एक नकली जीत का जश्न मना रहे हैं। यदि हम ऐसे रोबोट चाहते हैं जो भ्रम (hallucinate) पैदा न करें, तो हम केवल यह नहीं बदल सकते कि वे अपने शब्दों को कैसे चुनते हैं; हमें वास्तव में उन्हें उन तस्वीरों को समझने में मदद करने का तरीका खोजना होगा जिन्हें वे देख रहे हैं। तब तक, "कॉन्ट्रास्टिव डिकोडिंग" का यह तरीका केवल एक चालाकी भरा तरीका है जिससे रोबोट ऐसा दिखता है जैसे वह ध्यान दे रहा है, जबकि वास्तव में, वह पूरी दुनिया के साथ "हाँ, मैं देख रहा हूँ!" का खेल खेल रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।