💬 NLP

Do We Really Need External Tools to Mitigate Hallucinations? SIRA: Shared-Prefix Internal Reconstruction of Attribution

SIRA एक प्रशिक्षण-मुक्त (training-free), आंतरिक कंट्रास्टिविव डिकोडिंग फ्रेमवर्क है जो बाद की परतों में मास्क्ड अटेंशन के माध्यम से उसी ट्रांसफार्मर के भीतर भाषा-प्राथमिकता-प्रधान काउंटरफैक्चुअल संदर्भ उत्पन्न करके बड़े विजन-लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करता है, जिससे बाहरी उपकरणों और अतिरिक्त फॉरवर्ड पासेज पर निर्भरता कम होती है और वर्णनात्मक कवरेज भी सुरक्षित रहता है।

मूल लेखक: Tian Qin, Junzhe Chen, Yuqing Shi, Tianshu Zhang, Qiang Ju, Lijie Wen

प्रकाशित 2026-05-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tian Qin, Junzhe Chen, Yuqing Shi, Tianshu Zhang, Qiang Ju, Lijie Wen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सुशिक्षित सहायक (एक लार्ज विजन-लैंग्वेज मॉडल) है जो आपके द्वारा दिखाई गई तस्वीर का वर्णन करने की कोशिश कर रहा है। कभी-कभी, यह सहायक उस चीज़ के बारे में बताने में बहुत अधिक आत्मविश्वासी हो जाता है जो वे वास्तव में देखते हैं, बजाय उसके जो वास्तव में वहां मौजूद है। वे कह सकते हैं, "मुझे एक लाल साइकिल दिख रही है," जबकि तस्वीर वास्तव में केवल एक धुंधली आकृति है जो एक साइकिल हो सकती है, या वे विवरणों का आविष्कार कर सकते हैं क्योंकि उन्होंने साइकिलों के बारे में इतनी कहानियाँ पढ़ी हैं कि उनका मस्तिष्क खाली जगहों को भर देता है। इसे हैलुसिनेशन (hallucination) कहा जाता है।

यह पेपर एक चतुर नया तरीका पेश करता है जिसे SIRA कहा जाता है, ताकि इस तरह की गलतियों को रोका जा सके, बिना सहायक को फिर से प्रशिक्षित किए या काम की दोबारा जाँच करने के लिए किसी दूसरे व्यक्ति को नियुक्त किए।

पुराने तरीकों के साथ समस्या

पहले, सहायक को झूठ बोलने से रोकने के लिए, शोधकर्ताओं ने इस तरह की विधि का प्रयास किया:

सहायक को मूल तस्वीर दिखाएं।
फिर, उन्हें उसी तस्वीर का एक धुंधला या बिगड़ा हुआ संस्करण दिखाएं।
दोनों उत्तरों की तुलना करें। यदि धुंधली तस्वीर होने पर सहायक अपनी बात बदल देता है, तो शायद वह केवल अनुमान लगा रहा था।

दोष: यह किसी को एक पेंटिंग का वर्णन करने के लिए कहने जैसा है, और फिर उसी पेंटिंग का वर्णन करने के लिए कहने जैसा है जब उन्होंने धुंधले चश्मे पहने हों। "धुंधले चश्मे" वाला संस्करण एक निष्पक्ष तुलना नहीं है क्योंकि चश्मे स्वयं छवि को विकृत कर देते हैं। यह अव्यवस्थित है, इसमें दोगुना समय लगता है (आपको तस्वीर को दो अलग-अलग बार देखना पड़ता है), और विकृति नई त्रुटियां भी पैदा कर सकती है।

SIRA समाधान: "शेयर्ड प्रीफिक्स" (Shared Prefix)

SIRA एक अलग दृष्टिकोण अपनाता है। तस्वीर के साथ छेड़छाड़ करने के बजाय, यह सहायक की आंतरिक विचार प्रक्रिया के साथ छेड़छाड़ करता है जबकि वे अभी सोच रहे होते हैं।

सोचिए कि सहायक का मस्तिष्क एक फैक्ट्री असेंबली लाइन की तरह है जिसमें कई स्टेशन (परतें) हैं जो छवि और प्रश्न को प्रोसेस करती हैं।

साझा शुरुआत (The Shared Start): सहायक तस्वीर और प्रश्न को एक साथ देखना शुरू करता है। वे फैक्ट्री के शुरुआती स्टेशनों में दृश्य की एक ठोस समझ बनाते हैं। यह "शेयर्ड प्रीफिक्स" है। SIRA यह सुनिश्चित करता है कि दोनों संस्करण इस प्रारंभिक समझ पर सहमत हों।
रास्ते का विभाजन (The Fork in the Road): प्रारंभिक समझ बनने के बाद, SIRA एक ही मस्तिष्क के भीतर दो समानांतर ट्रैक में प्रक्रिया को विभाजित करता है:
- ट्रैक A (पूर्ण दृश्य - The Full View): सहायक अपना वाक्य पूरा करते समय चित्र के विवरणों को देखना जारी रखता है।
- ट्रैक B ("अंधा" दृश्य - The "Blind" View): सहायक ठीक उसी शुरुआती बिंदु से आगे बढ़ता है, लेकिन बाद के स्टेशनों में, वे विशिष्ट चित्र विवरणों के लिए आंखों पर पट्टी बंधे होते हैं। वे केवल अपने सामान्य ज्ञान और उस वाक्य पर निर्भर रह सकते हैं जो उन्होंने पहले ही लिखना शुरू कर दिया है।

यह झूठ को कैसे ठीक करता है

अब, SIRA वाक्य लिखने के हर चरण पर इन दोनों ट्रैकों की तुलना करता है:

यदि सहायक कहता है, "मुझे एक कुत्ता दिख रहा है," और ट्रैक A (कुत्ते को देखते हुए) और ट्रैक B (आंखों पर पट्टी बंधे हुए) दोनों उच्च आत्मविश्वास के साथ "कुत्ता" कहते हैं, तो SIRA जानता है कि यह केवल सामान्य भाषा पर आधारित एक अनुमान है (शायद कहानियों में कुत्ते आम हैं)। यह "कुत्ता" के लिए स्कोर कम कर देता है क्योंकि अंधे वर्जन को यह कहने के लिए तस्वीर की आवश्यकता नहीं थी।
यदि सहायक कहता है, "मुझे एक बैंगनी हाथी दिख रहा है," और ट्रैक A "बैंगनी हाथी" कहता है (क्योंकि वे देख रहे हैं) लेकिन ट्रैक B "बिल्कुल नहीं, यह कहानी में नहीं है" कहता है (क्योंकि वे देख नहीं सकते), तो SIRA जानता है कि यह दावा केवल तस्वीर के कारण है। यह "बैंगनी हाथी" के लिए स्कोर बढ़ाता है।

यह बेहतर क्यों है

कोई अतिरिक्त चरण नहीं: इसे तस्वीर को दो बार देखने की आवश्यकता नहीं है। यह सब एक बार में करता है, बस विचार प्रक्रिया को विभाजित करके।
कोई अव्यवस्थित विकृति नहीं: यह तस्वीर को धुंधला नहीं करता है। यह केवल विचार प्रक्रिया के एक संस्करण के लिए विजुअल इनपुट को अस्थायी रूप से "बंद" कर देता है, जिससे बाकी का संदर्भ पूरी तरह से संरेखित रहता है।
किसी प्रशिक्षण की आवश्यकता नहीं: यह मौजूदा मॉडलों पर तुरंत काम करता है। आपको मॉडल को कुछ भी नया सिखाने की आवश्यकता नहीं है।

परिणाम

परीक्षणों में, SIRA ने सहायकों को ऐसी चीजें बनाने से सफलतापूर्वक रोका जो वहां नहीं थीं (जैसे कि एक "केला" जो फोटो में नहीं है) जबकि उन्हें वास्तविक चीजों को सटीक रूप से वर्णित करने भी दिया। यह एक अंतर्निहित "रियलिटी चेक" की तरह है जो मॉडल के अपने मस्तिष्क के भीतर तुरंत होता है, यह सुनिश्चित करता है कि वे जो कहते हैं वह वास्तव में उनके द्वारा देखे गए दृश्यों द्वारा समर्थित है, न कि केवल उस पर जो वे देखने की उम्मीद करते हैं।

तकनीकी सारांश: SIRA – एट्रिब्यूशन का साझा-प्रिफिक्स आंतरिक पुनर्निर्माण (Shared-Prefix Internal Reconstruction of Attribution)

समस्या विवरण

लार्ज विजन-लैंग्वेज मॉडल्स (LVLMs) अक्सर हैलुसिनेशन (hallucinations) से ग्रस्त होते हैं, जहाँ मॉडल वस्तुओं, गुणों या संबंधों के ऐसे विवरण उत्पन्न करता है जो भाषाई रूप से तो सटीक लगते हैं लेकिन दृश्य इनपुट द्वारा समर्थित नहीं होते हैं। यह समस्या विशेष रूप से तब गंभीर हो जाती है जब दृश्य साक्ष्य कमजोर या अस्पष्ट होते हैं, जिससे उच्च-संभाव्यता वाले भाषा पूर्वाग्रह (language priors) टोकन भविष्यवाणी पर हावी हो जाते हैं।

मौजूदा शमन रणनीतियाँ (mitigation strategies), विशेष रूपकर कॉन्ट्रास्टिव डिकोडिंग (contrastive decoding), इस समस्या को एक मूल या विकृत इनपुट (जैसे धुंधली या मास्क की गई छवियों) से प्राप्त संदर्भ भविष्यवाणी की तुलना करके संबोधित करने का प्रयास करती हैं। हालाँकि, लेखक इन बाहरी दृष्टिकोणों में दो महत्वपूर्ण सीमाओं की पहचान करते हैं:

कंप्यूटेशनल ओवरहेड (Computational Overhead): इनके लिए आमतौर पर मॉडल के माध्यम से दूसरे, पूर्ण फॉरवर्ड पास की आवश्यकता होती है।
ऑफ-मैनिफोल्ड आर्टिफ़ैक्ट्स (Off-Manifold Artifacts): इनपुट इमेज को विकृत करने से ऐसे आर्टिफ़ैक्ट्स उत्पन्न हो सकते हैं जो वास्तविक विजुअल डिस्ट्रीब्यूशन का प्रतिनिधित्व नहीं करते हैं। फलस्वरूप, परिणामी लॉजिट विसंगतियाँ (logit discrepancies) केवल विजुअल साक्ष्य बनाम भाषा पूर्वाग्रह के शुद्ध एट्रिब्यूशन के बजाय, विकृति (perturbation) के कारण होने वाले बेमेल को दर्शा सकती हैं।

यह शोध पत्र तर्क देता है कि एक प्रभावी काउंटरफैक्चुअल संदर्भ (counterfactual reference) को इनपुट स्पेस में बाहरी रूप से निर्मित करने की आवश्यकता नहीं है। इसके बजाय, इसका तर्क है कि मुख्य आवश्यकता एक एलाइन्ड संदर्भ (aligned reference) की है जो यह प्रकट करे कि यदि बाद के प्रोसेसिंग चरणों में सूक्ष्म-स्तरीय दृश्य साक्ष्य तक पहुँच को प्रतिबंधित कर दिया जाए, तो एक ही मल्टीमॉडल स्टेट कैसे विकसित होगी।

कार्यप्रणाली: SIRA

लेखक SIRA (Shared-Prefix Internal Reconstruction of Attribution) का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, इंटरनल कॉन्ट्रास्टिव डिकोडिंग फ्रेमवर्क है। SIRA इनपुट इमेज को बदलने के बजाय, ट्रांसफार्मर लेयर्स के भीतर सूचना प्रवाह (information flow) में हेरफेर करके एक ही LVLM इन्फरेंस ट्रेजेक्टरी के भीतर एक काउंटरफैक्चुअल संदर्भ का निर्माण करता है।

मुख्य तंत्र (Core Mechanism)

SIRA दो सिंक्रोनाइज्ड डिकोडिंग शाखाओं (branches) को बनाए रखकर कार्य करता है जो एक सामान्य "प्रिफिक्स" साझा करती हैं और केवल एक विशिष्ट स्प्लिट बाउंड्री ( $b$ ) के बाद अलग होती हैं:

साझा प्रिफिक्स ($0 $से$ b-1$): दोनों शाखाएँ—फुल ब्रांच (Full Branch) (मानक इन्फरेंस) और काउंटरफैक्चुअल ब्रांच (Counterfactual Branch)—एक ही प्रॉम्प्ट, मॉडल पैरामीटर्स, डिकोडिंग हिस्ट्री, पोजीशनल स्ट्रक्चर और शुरुआती-लेयर कंप्यूटेशन को साझा करती हैं। यह सुनिश्चित करता है कि दोनों शाखाएँ एक ही स्थिर मल्टीमॉडल व्याख्या और प्रारंभिक विजुअल ग्राउंडिंग को विरासत में प्राप्त करें।
लेट ब्रांचिंग ( $b$ से $L-1$ ): बाउंड्री लेयर $b$ $b$ के बाद, शाखाएँ अलग हो जाती हैं:
- फुल ब्रांच (Full Branch): मानक मल्टीमॉडल इन्फरेंस जारी रखती है, जिससे इमेज टोकन्स पर अटेंशन संभव होता है।
- काउंटरफैक्चुअल ब्रांच (Counterfactual Branch): एक विशिष्ट अटेंशन मास्क ( $M_{cf}$ ) लागू करती है जो इमेज-टोकन पोजीशन्स तक पहुँच को ब्लॉक कर देती है। इस शाखा में, इमेज टोकन्स को क्वेरीज़ द्वारा पढ़ा नहीं जा सकता, न ही वे टेक्स्ट स्ट्रीम को फीड करने के लिए क्वेरीज़ उत्पन्न कर सकते हैं।
आंतरिक कंट्रास्ट (Internal Contrast): प्रत्येक डिकोडिंग स्टेप पर, SIRA दोनों शाखाओं के लॉजिट्स ( $z_{full}$ $z_{f u l l}$ और $z_{cf}$ $z_{c f}$ ) की गणना करता है। अंतिम डिकोडिंग लॉजिट ( $z_{cd}$ $z_{c d}$ ) की गणना इस प्रकार की जाती है:
$z_{cd}(v) = (1 + \alpha)z_{full}(v) - \alpha z_{cf}(v)$
जहाँ $\alpha$ $α$ कंट्रास्ट स्ट्रेंथ को नियंत्रित करता है।
- वे टोकन जो काउंटरफैक्चुअल ब्रांच में (विजुअल एक्सेस के बिना) मजबूत रहते हैं, उन्हें दंडित किया जाता है, क्योंकि वे संभवतः भाषा पूर्वाग्रहों (language priors) द्वारा संचालित होते हैं।
- वे टोकन जिन्हें विशेष रूप से फुल ब्रांच में लाभ मिलता है, उन्हें प्राथमिकता दी जाती है, क्योंकि उनकी संभाव्यता निरंतर विजुअल साक्ष्य पर निर्भर करती है।

दक्षता (Efficiency)

दो पूर्ण फॉरवर्ड पास की आवश्यकता वाले तरीकों (जैसे VCD) के विपरीत, SIRA पहले $b$ लेयर्स के लिए गणना साझा करता है। यह केवल काउंटरफैक्चुअल ब्रांच के लिए अंतिम $K$ लेयर्स की लागत वहन करता है। इसके परिणामस्वरूप आदर्श प्रति-टोकन लागत अनुपात $1 + K/L$ (मध्य-लेयर स्प्लिट के लिए लगभग $1.5\times$ ) होता है, जो बाहरी कॉन्ट्रास्टिव तरीकों के $2\times$ लागत की तुलना में काफी कम है।

मुख्य योगदान

सूचना-प्रवाह परिप्रेक्ष्य (Information-Flow Perspective): यह शोध पत्र हैलुसिनेशन मिटिगेशन का पुनर्मूल्यांकन करता है और तर्क देता है कि प्रभावी संदर्भों को प्रारंभिक मल्टीमॉडल ग्राउंडिंग को संरक्षित करना चाहिए जबकि बाद के इमेज-टोकन एक्सेस को प्रतिबंधित करना चाहिए, न कि बाहरी इनपुट परवलर्टेशन पर निर्भर होना चाहिए।
SIRA फ्रेमवर्क: साझा-प्रिफिक्स लेट ब्रांचिंग और पोस्ट-बाउंड्री इमेज-टोकन मास्किंग के माध्यम से एक काउंटरफैक्चुअल संदर्भ का निर्माण करने वाले एक ट्रेनिंग-फ्री, इंटरनल कॉन्ट्रास्टिव डिकोडिंग मेथड का प्रस्ताव।
अनुभवजन्य सत्यापन (Empirical Validation): व्यापक प्रयोग जो प्रदर्शित करते हैं कि SIRA, वर्णनात्मक कवरेज (descriptive coverage) को बनाए रखते हुए और बाहरी तरीकों की तुलना में कम ओवरहेड के साथ हैलुसिनेशन को कम करता है।

प्रयोगात्मक परिणाम

लेखकों ने Qwen2.5-VL और LLaVA-v1.5 को तीन बेंचमार्क पर मूल्यांकित किया: POPE (ऑब्जेक्ट-लेवल हैलुसिनेशन), CHAIR (कैप्शनिंग हैलुसिनेशन), और AMBER (मल्टीडायमेंशनल कैप्शनिंग)।

POPE: SIRA ने सभी 36 मेट्रिक्स (बैकबोन, डेटासेट और नेगेटिव-सैंपलिंग रणनीति के संयोजन) में सर्वश्रेष्ठ परिणाम प्राप्त किए। इसने Qwen2.5-VL पर औसत +5.4 अंक और LLaVA-v1.5 पर +4.9 अंक की सुधार दर्ज की, जो बेस डिकोडर्स से बेहतर है। उल्लेखनीय रूप से, सुधार उन "एडवर्सरियल" (Adversarial) स्प्लिट्स में भी सुसंगत थे जहाँ भाषा पूर्वाग्रह प्रबल होते हैं।
CHAIR: SIRA ने सेंटेंस-लेवल (CHAIRs) और इंस्टेंस-लेवल (CHAIRi) दोनों हैलुसिनेशन दरों को कम किया। उदाहरण के लिए, LLaVA-v1.5 पर, लेंथ 64 पर CHAIRs 31.5 से घटकर 23.1 हो गया, जो केवल ओमिशन (छूटने) के बजाय स्प्यूरियस ऑब्जेक्ट मेंशन (मिथ्या उल्लेख) में कमी को दर्शाता है।
AMBER: SIRA ने हैलुसिनेशन मेट्रिक्स (Hal, Cog) को कम किया जबकि वर्णनात्मक कवरेज (Cover) को बनाए रखा या बढ़ाया। यह OPERA और VCD जैसे बेसलाइन्स के विपरीत है, जो अक्सर कैप्शन को छोटा करके या संशयपूर्ण (hedging) बनाकर हैलुसिनेशन को कम करते हैं। SIRA ने विशेष रूप से "कॉग्निटिव" (Cognitive) हैलुसिनेशन (Cog) को कम किया, जो भाषा पूर्वाग्रहों के साथ मजबूती से जुड़े होते हैं।
दक्षता: SIRA ने मानक डिकोडिंग की तुलना में लगभग 1.4–1.5 $\times$ का लेटेंसी ओवरहेड उठाया, जो VCD ( $\sim2.1\times$ ) और OPERA ( $\sim5.9\times$ ) की तुलना में काफी कम है।

महत्व और सीमाएं

महत्व:
शोध पत्र का दावा है कि SIRA, बाहरी रूप से निर्मित संदर्भों की तुलना में अधिक प्रत्यक्ष और स्वच्छ टोकन-लेवल एट्रिब्यूशन प्रॉक्सी प्रदान करता है। एक ही मॉडल मैनिफोल्ड पर काउंटरफैक्चुअल ब्रांच को रखकर और शुरुआती सिमेंटिक स्टेट को साझा करके, SIRA पर्टर्बेशन आर्टिफ़ेक्ट्स को पेश किए बिना विजुअल साक्ष्य के योगदान को अलग करता है। यह बिना किसी मॉडल रिट्रेनिंग, बाहरी वेरीफायर या विकृत इनपुट के स्टेट-ऑफ-द-आर्ट हैलुसिनेशन रिडक्शन प्राप्त करता है, जिससे यह व्हाइट-बॉक्स एक्सेस वाले ओपन-वेट LVLMs के लिए लागू करने योग्य बन जाता है।

सीमाएं:
लेखक दो प्राथमिक सीमाओं को स्वीकार करते हैं:

ओवरहेड: हालांकि यह टू-पास मेथड्स से कम है, फिर भी SIRA में काउंटरफैक्चुअल ब्रांच के पुनर्मूल्यांकन के कारण प्रति-स्टेप डिकोडिंग लागत का गैर-शून्य भार रहता है।
एक्सेस आवश्यकताएं: आंतरिक कंट्रास्ट के निर्माण के लिए हिडन स्टेट्स, अटेंशन मास्क और कैश स्टेट्स के व्हाइट-बॉक्स एक्सेस की आवश्यकता होती है, जो ब्लैक-बॉक्स API के बजाय केवल ओपन-वेट या नियंत्रणीय (controllable) LVLMs के उपयोग को सीमित करता है।