GHOST: Hallucination-Inducing Image Generation for Multimodal LLMs
यह शोध पत्र GHOST को प्रस्तुत करता है, जो एक स्वचालित विधि है जो इमेज एम्बेडिंग्स को ऑप्टिमाइज़ करके प्राकृतिक दिखने वाली, वस्तु-रहित छवियां उत्पन्न करती है ताकि मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucination) की कमजोरियों को सक्रिय रूप से प्रेरित और उजागर किया जा सके, जो पिछले दृष्टिकोणों की तुलना में काफी उच्च सफलता दर प्राप्त करती है और साथ ही फाइन-ट्यूनिंग के माध्यम से मॉडल की मजबूती (robustness) में सुधार करने के लिए एक उपकरण के रूप में भी कार्य करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "GHOST: Hallucination-Inducing Image Generation for Multimodal LLMs" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए विवरण दिया गया है।
बड़ी समस्या: "अति-कल्पनाशील" AI
कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट रोबोट सहायक है जो तस्वीरों को देख सकता है और उनका वर्णन कर सकता है। वह अधिकांश चीजों में बहुत अच्छा है, लेकिन उसमें एक अजीब सी खराबी (glitch) है: कभी-कभी, वह ऐसी चीजें देखता है जो वहाँ हैं ही नहीं।
यदि आप उसे प्लेट पर रखे केले की तस्वीर दिखाते हैं, तो वह आत्मविश्वास से कह सकता है, "हाँ, मैं केले के बगल में एक चाकू देख रहा हूँ," भले ही वहाँ कोई चाकू न हो। AI की दुनिया में, इसे हैलुसिनेशन (hallucination) कहा जाता है। यह एक ऐसे व्यक्ति की तरह है जो दूसरों को खुश करने के लिए इतना उत्सुक है या पैटर्न को समझने में इतना माहिर है कि वह खाली जगहों को भरने के लिए मनगढ़ंत विवरण बना लेता है।
पुराना तरीका: एक स्थिर सूची की जाँच करना
पहले, शोधकर्ता इन गलतियों को खोजने के लिए AI को तस्वीरों की एक निश्चित सूची (जैसे कि एक बहुविकल्पीय परीक्षा) दिखाते थे। वे पूछते थे, "क्या आप चाकू देख रहे हैं?" और देखते थे कि क्या AI गलत होता है।
- खामी: यह एक ड्राइवर का परीक्षण करने जैसा है जो केवल एक विशिष्ट, खाली पार्किंग स्थल में गाड़ी चला रहा है। आप इस तथ्य को मिस कर सकते हैं कि जब सड़क पर एक लाल गेंद लुढ़क कर आती है, तो वह घबरा जाता है। पुराने परीक्षण बहुत कठोर थे और वे AI के विफल होने के नए या अजीब तरीकों को नहीं खोज सके।
नया समाधान: GHOST (एक "जादुई ट्रिक" कलाकार)
लेखक GHOST (Generating Hallucinations via Optimizing Stealth Tokens) पेश करते हैं। GHOST को एक ऐसे जादूगर के रूप में सोचें जो AI को केवल एक तस्वीर नहीं दिखाता; बल्कि वह एक नई तस्वीर पेंट करता है जिसे विशेष रूप से AI को एक 'भूत' (ghost) देखने के लिए फँसाने के लिए डिज़ाइन किया गया है।
GHOST इस प्रकार काम करता है, चरण-दर-चरण:
1. "अदृश्य स्याही" अनुकूलन (The "Invisible Ink" Optimization)
GHOST एक सामान्य फोटो (जैसे प्लेट पर रखा केला) से शुरू होता है। इसका लक्ष्य AI को यह विश्वास दिलाना है कि वहाँ एक चाकू है।
- एक चाकू बनाने के बजाय (जो कि इंसान के लिए स्पष्ट होगा), GHOST एक "गुप्त भाषा" में काम करता है जिसे एम्बेडिंग्स (embeddings) कहा जाता है। इसे AI की आंतरिक स्वप्न अवस्था (dream state) के रूप में समझें।
- GHOST इस स्वप्न अवस्था में बहुत मामूली बदलाव करता है। यह "अदृश्य स्याही" वाले संकेत जोड़ता है। शायद यह केले के डंठल के घुमाव को थोड़ा बदल देता है ताकि AI के लिए वह चाकू के हैंडल जैसा दिखे, लेकिन एक इंसान के लिए, वह अभी भी बिल्कुल केले जैसा ही दिखता है।
2. "अनुवादक" (The "Translator" - The Mapper)
एक समस्या है: तस्वीर को देखने वाला AI (MLLM) उस AI की भाषा अलग बोलता है जो तस्वीर पेंट कर रहा है (Diffusion Model)।
- GHOST एक अनुवादक (जिसे मैपर कहा जाता है) बनाता है। यह अनुवादक पेंटर के "गुप्त स्वप्न बदलावों" को लेता है और उन्हें ऐसे निर्देशों में बदल देता जिन्हें पेंटर समझ सके, बिना हर सेकंड देखने वाले (MLLM) से मदद मांगे। यह प्रक्रिया को बेहद तेज़ बनाता है।
3. "स्वप्न चित्रकार" (The "Dream Painter" - Diffusion)
एक बार जब गुप्त निर्देश तैयार हो जाते हैं, तो GHOST एक डिफ्यूजन मॉडल (AI का एक प्रकार जो शोर/noise से चित्र बनाता है) का उपयोग करके अंतिम चित्र पेंट करता है।
- यह मूल केले की तस्वीर से शुरू होता है और गुप्त निर्देशों के आधार पर धीरे-धीरे "डिनोइज़िंग" (denoising) करता है।
- परिणाम: अंतिम छवि एक इंसान के लिए 100% प्राकृतिक दिखती है। यह अभी भी प्लेट पर रखा एक केला ही है। लेकिन AI के लिए, प्रकाश या आकार में सूक्ष्म बदलाव इतने पर्याप्त होते हैं कि वह चिल्ला उठे, "मैं एक चाकू देख रहा हूँ!"
यह क्यों एक बड़ी बात है?
पेपर का दावा है कि GHOST तीन बड़ी जीत हासिल करता है:
यह एक मास्टर डिटेक्टिव है:
- पुराने तरीकों ने हैलुसिनेशन के लगभग 1% मामलों को पाया।
- GHOST ने 28% से अधिक मामलों को खोज निकाला। यह एक ऐसे मेटल डिटेक्टर से अपग्रेड करने जैसा है जो 99% सिक्कों को मिस कर देता है, और अब वह लगभग सभी को ढूंढ लेता है।
यह एक सार्वभौमिक जाल है (Transferability):
- GHOST एक AI (जैसे Qwen) को चकमा दे सकता है और फिर उसी "धोखेबाज" इमेज को एक पूरी तरह से अलग AI (जैसे GPT-4o) को दिखा सकता है।
- परिणाम: दूसरा AI भी हैलुसिनेट करता है! यह साबित करता है कि विभिन्न AI मॉडल्स की कमियां (blind spots) समान होती हैं। यह एक विशिष्ट प्रकार का ऑप्टिकल इल्यूजन (दृष्टि भ्रम) खोजने जैसा है जो आपकी आँखों और आपके दोस्त की आँखों, दोनों को एक साथ धोखा दे सके, भले ही आपकी दृष्टि अलग हो।
यह केवल एक टेस्ट नहीं, बल्कि एक इलाज है:
- लेखकों ने केवल चीज़ों को तोड़ने के लिए GHOST का उपयोग नहीं किया; उन्होंने इसका उपयोग उन्हें ठीक करने के लिए किया।
- उन्होंने GHOST द्वारा बनाए गए "धोखेबाज" चित्रों को AI को सही उत्तर के साथ दिखाया ("नहीं, यहाँ कोई चाकू नहीं है")।
- परिणाम: AI भविष्य में हैलुसिनेट न करने में बेहतर हो गया। यह एक छात्र को उन सटीक कठिन प्रश्नों को दिखाने जैसा है जिनमें उसने गलती की थी, ताकि वह सही उत्तर सीख सके।
निचोड़ (The Bottom Line)
GHOST एक ऐसा टूल है जो स्वचालित रूप से "ट्रिक फोटोज" बनाता है ताकि AI विज़न सिस्टम का तनाव परीक्षण (stress-test) किया जा सके। यह साबित करता है कि वर्तमान AI मॉडल नाजुक हैं और सूक्ष्म, प्राकृतिक दिखने वाले बदलावों से आसानी से भ्रमित हो सकते हैं। लेकिन इससे भी महत्वपूर्ण बात यह है कि यह उन्हें ठीक करने का एक तरीका प्रदान करता है, जिससे AI अधिक विश्वसनीय बनता है, यह सुनिश्चित करता है कि जब वह कहे कि उसे चाकू दिख रहा है, तो वह वास्तव में एक चाकू ही देख रहा हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।