💻 computer science

Spectral Query-Key Product Weight Steering for Training-Free VLM Hallucination Mitigation

यह शोध पत्र QK प्रोडक्ट स्टीयरिंग (QK Product Steering) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) और डेटा-मुक्त (data-free) विधि है जो क्वेरी-की (query-key) उत्पादों में प्रमुख सिंगुलर मोड्स (singular modes) को दबाकर और क्वेरी वेट्स (query weights) पर एक क्लोज्ड-फॉर्म अपडेट लागू करके विजन-लैंग्वेज मॉडल्स (Vision-Language Models) में ऑब्जेक्ट हैलुसिनेशन (object hallucinations) को कम करती है, जिससे बिना किसी अतिरिक्त इन्फरेंस ओवरहेड के महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।

मूल लेखक: Karn Tiwari, Varnith Chordia, Prathosh A P

प्रकाशित 2026-06-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Karn Tiwari, Varnith Chordia, Prathosh A P

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट सहायक है जो फोटो देखता है और उनका वर्णन करता है। वह बात करने में बहुत अच्छा है, लेकिन कभी-कभी वह थोड़ा ज़रूरत से ज़्यादा आत्मविश्वासी हो जाता है। यदि आप उसे कालीन पर बैठी एक बिल्ली की तस्वीर दिखाते हैं, तो वह कह सकता है, "फूलों के गुलदस्ते के पास लाल कालीन पर एक प्यारी बिल्ली बैठी है।" लेकिन यदि आप ध्यान से देखें, तो वहाँ कोई फूल नहीं हैं। रोबोट ने बस यह मान लिया कि फूल वहाँ थे क्योंकि, उसके प्रशिक्षण डेटा (training data) में बिल्लियाँ और फूल अक्सर एक साथ दिखाई देते हैं। इसे हैलुसिनेशन (hallucination) कहा जाता है: ऐसी चीज़ें बनाना जो वास्तव में वहाँ नहीं हैं।

यह शोध पत्र एक चतुर, "एक बार के समाधान" (one-time fix) के रूप में QK Product Steering पेश करता है, ताकि रोबोट को इसे फिर से प्रशिक्षित किए बिना या इसकी गति धीमी किए बिना ये गलतियाँ करने से रोका जा सके।

यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

1. समस्या: रोबोट की "डिफ़ॉल्ट सेटिंग्स"

रोबोट के मस्तिष्क को "क्या चीज़ किसके साथ जाती है" के एक विशाल पुस्तकालय के रूप में समझें। जब वह किसी चित्र को देखता है, तो उसके सिर के अंदर दो आवाज़ें होती हैं:

आवाज़ A (आँखें): "मैं एक बिल्ली देख रहा हूँ। मैं एक कालीन देख रहा हूँ।"
आवाज़ B (याददाश्त): "बिल्लियाँ आमतौर पर ऊन के साथ होती हैं, और ऊन फूलों के साथ जाती है।"

जब रोबोट विवरण तैयार कर रहा होता है, तो आवाज़ B कभी-कभी बहुत तेज़ हो जाती है। यह आवाज़ A पर हावी हो जाती है और उन फूलों का वर्णन करने लगती है जो वहाँ हैं ही नहीं। शोध का तर्क है कि रोबोट का आंतरिक "अटेंशन" तंत्र (यह तय करने का तरीका कि उसे किस पर ध्यान केंद्रित करना चाहिए) में कुछ बहुत ही तेज़, प्रभावी चैनल हैं जो इन "डिफ़ॉल्ट धारणाओं" को ले जाते हैं।

2. समाधान: धारणाओं के लिए एक "वॉल्यूम नॉब" (Volume Knob)

शोधकर्ताओं ने पाया कि रोबोट के पूरे मस्तिष्क को बदले बिना, उन विशिष्ट तेज़ चैनलों की आवाज़ को कम करने का एक तरीका है।

"स्पेक्ट्रल" (Spectral) दृश्य: कल्पना करें कि रोबंड का अटेंशन मैकेनिज्म एक जटिल साउंड मिक्सिंग बोर्ड की तरह है। अधिकांश नॉब्स सामान्य स्तर पर सेट हैं, लेकिन कुछ विशिष्ट नॉब्स (जिन्हें "डोमिनेंट सिंगुलर मोड्स" कहा जाता है) पूरी तरह से ऊपर की ओर हैं। ये विशिष्ट नॉब्स ही वे हैं जो रोबोट को तब "फूलों" के बारे में कहने पर मजबूर करते हैं जब उसे नहीं कहना चाहिए।
संपादन (The Edit): यह विधि रोबोट के मस्तिष्क की मध्य परतों में इन विशिष्ट "तेज़" नॉब्स की पहचान करती है और उन्हें धीरे से कम (या "डैम्प") करती है।
परिणाम: रोबोट अभी भी चित्र को स्पष्ट रूप से सुनता/देखता है, लेकिन वह अपनी धारणाओं के साथ खाली जगहों को अपने आप भरना बंद कर देता है। वह जो वास्तव में देखता है, उसके प्रति अधिक ईमानदार हो जाता है।

3. यह क्यों विशेष है: "सर्जिकल" दृष्टिकोण

इस समस्या को ठीक करने के अन्य अधिकांश तरीके घड़ी को ठीक करने के लिए उसे पूरी तरह से खोलने और फिर से बनाने (retraining) जैसे हैं, या रोबोट को बात करते समय लगातार निर्देश चिल्लाकर देने (प्रक्रिया को धीमा करने) जैसे हैं।

एक बार का समाधान: यह तरीका एक सर्जन द्वारा एक बहुत ही सटीक और छोटा सा कट लगाने जैसा है। आप रोबोट के 'वेट्स' (weights) को इस्तेमाल करने से पहले केवल एक बार संपादित करते हैं। इसके बाद, रोबोट बिल्कुल पहले की तरह तेज़ चलता है, बिना किसी अतिरिक्त लागत के।
नया डेटा नहीं: आपको रोबोट को सिखाने के लिए हज़ारों नई तस्वीरें दिखाने की आवश्यकता नहीं है। आप बस उसके आंतरिक गणित को थोड़ा बदल देते हैं।
ग्रुपेड हेड्स (Grouped Heads) के लिए सुरक्षित: आधुनिक रोबोटों के मस्तिष्क के कुछ हिस्से अक्सर संसाधनों को साझा करते हैं (जिसे "ग्रुपेड-क्वेरी अटेंशन" कहा जाता है)। उनके साझा हिस्से को बदलने से आमतौर पर पूरा सिस्टम बिगड़ जाता है। लेखकों ने एक विशेष गणितीय ट्रिक बनाई है जो केवल कनेक्शन के "क्वेरी" (Query) हिस्से को बदलती है, जबकि साझा "की" (Key) हिस्से को अकेला छोड़ देती है। यह कार के ड्राइवर की सीट को एडजस्ट करने जैसा है बिना उस स्टीयरिंग व्हील को हिलाए जिसे हर कोई साझा करता है।

4. गुप्त सामग्री: समरूपता (Symmetry) बनाम दिशा (Direction)

शोध पत्र ने यह भी खोजा कि रोबोट हैलुसिनेट क्यों करता है। उन्होंने रोबोट के अटेंशन को दो प्रकार के पैटर्न में विभाजित किया:

सिमेट्रिक (Symmetric - पारस्परिक): "मैं तुम्हें देखता हूँ, और तुम मुझे देखते हो।" (यहीं हैलुसिनेशन यहीं रहते हैं)।
एंटी-सिमेट्रिक (Antisymmetric - दिशात्मक): "मैं तुम्हारी ओर देख रहा हूँ।"

शोधकर्ताओं ने पाया कि "हैलुसिनेशन शोर" लगभग पूरी तरह से सिमेट्रिक चैनल में है। जब उन्होंने सिमेट्रिक चैनल की आवाज़ कम की, तो हैलुसिनेशन रुक गए। जब उन्होंने एंटी-सिमेट्रिक चैनल को छुआ, तो कोई बदलाव नहीं हुआ। यह साबित करता है कि वे केवल बेतरतीब ढंग से रोबोट को खराब नहीं कर रहे हैं; वे सर्जिकल रूप से मस्तिष्क के उस विशिष्ट हिस्से को हटा रहे हैं जो झूठ बोलता है।

5. परिणाम

जब उन्होंने तीन अलग-अलग बड़े रोबोट मॉडलों पर इसका परीक्षण किया:

हैलुसिनेशन में गिरावट आई: रोबोटों ने वस्तुओं के बारे में मनगढ़ंत बातें बनाना लगभग 4% कम कर दिया (एक महत्वपूर्ण सुधार)।
रैंडम चेक विफल रहे: जब उन्होंने विशिष्ट "हैलुसिनेशन" नॉब्स के बजाय रैंडम नॉब्स को कम किया, तो रोबोट बेहतर नहीं हुए। यह साबित करता है कि उन्होंने सही लक्ष्य ढूँढ लिया था।
कौशल बरकरार रहे: रोबोट प्रश्नों के उत्तर देने या चीजों को पहचानने में कमज़ोर नहीं हुए। वे बस चित्रों का वर्णन करते समय सच्चाई पर टिके रहने में बेहतर हो गए।

सारांश

QK Product Steerng एक "सेट-इट-एंड-फॉरगेट-इट" (एक बार सेट करें और भूल जाएँ) वाला समाधान है। यह विज़न-लैंग्वेज मॉडल में उन विशिष्ट आंतरिक सेटिंग्स को ढूँढता है जो रोबोट को उन वस्तुओं के बारे में सपने देखने पर मजबूर करते हैं जो वहाँ नहीं हैं, उन सेटिंग्स को कम करता है, और रोबोट की बाकी बुद्धिमत्ता को अछूता छोड़ देता है। यह AI के विवरणों को अधिक विश्वसनीय बनाने का एक हल्का, मुफ्त और तेज़ तरीका है।

तकनीकी सारांश: स्पेक्ट्रल क्वेरी-की प्रोडक्ट वेट स्टीयरिंग (Spectral Query-Key Product Weight Steering) - ट्रेनिंग-मुक्त VLM मतिभ्रम (Hallucination) शमन हेतु

समस्या विवरण (Problem Statement)

विज़न-लैंग्वेज मॉडल्स (VLMs) अक्सर ऑब्जेक्ट हैलुसिनेशन (वस्तु मतिभ्रम) से ग्रस्त होते हैं, जहाँ मॉडल उन वस्तुओं के सुसंगत विवरण उत्पन्न करते हैं जो इनपुट इमेज में मौजूद नहीं होती हैं। यह समस्या विजुअल साक्ष्य (visual evidence) और प्री-ट्रेनिंग के दौरान सीखे गए मजबूत विज़न-लैंग्वेज प्रायर्स (जैसे कि ऑब्जेक्ट को-अकरेंस पैटर्न) के बीच प्रतिस्पर्धा से उत्पन्न होती है। जब ये प्रायर्स हावी हो जाते हैं, तो मॉडल विश्वसनीय लेकिन विजुअली अनसपोर्टेड आउटपुट देता है। मौजूदा शमन रणनीतियाँ आम तौर पर दो श्रेणियों में आती हैं:

ट्रेनिंग-आधारित विधियाँ: इनके लिए अतिरिक्त डेटा, पर्यवेक्षण (supervision) और महत्वपूर्ण कंप्यूट की आवश्यकता होती है (जैसे कि इंस्ट्रक्शन ट्यूनिंग, प्रेफरेंस ऑप्टिमाइज़ेशन)।
इन्फरेंस-टाइम हस्तक्षेप (Inference-time interventions): ये डिकोडिंग प्रक्रियाओं को संशोधित करती हैं (जैसे कि कॉन्ट्रास्टिव डिकोडिंग, लॉजिट एडजस्टमेंट, अटेंशन रीवेटिंग), जिससे प्रत्येक जनरेशन स्टेप पर कम्प्यूटेशनल ओवरहेड बढ़ जाता है।

एक ऐसी डेटा-मुक्त, ट्रेनिंग-मुक्त और शून्य-इन्फरेंस-लागत (zero-inference-cost) समाधान की आवश्यकता है जो मानक डिकोडिंग पथ या फाइन-ट्यूनिंग की आवश्यकता के बिना मतिभ्रम को कम कर सके।

कार्यप्रणाली: QK प्रोडक्ट स्टीयरिंग (Methodology: QK Product Steering)

लेखक QK प्रोडक्ट स्टीयरिंग का प्रस्ताव करते हैं, जो एक वन-शॉट वेट एडिटिंग विधि है जो मतिभ्रम पैदा करने वाले पैटर्न को दबाने के लिए मॉडल के आंतरिक अटेंशन मैकेनिज्म को सीधे संशोधित करती है।

मुख्य तंत्र (Core Mechanism)

यह विधि क्वेरी-की (QK) प्रोडक्ट ( $M_h = W_{q,h}^\top W_{k,g}$ ) को लक्षित करती है, जो प्री-सॉफ्टमैक्स अटेंशन लॉजिट्स उत्पन्न करने के लिए जिम्मेदार बाइलिनियर ऑपरेटर है। परिकल्पना यह है कि इस प्रोडक्ट के डोमिनेंट सिंगुलर मोड्स (dominant singular modes) "जेनेरिक विज़न-लैंग्वेज प्रायर्स" को एनकोड करते हैं जो विजुअल साक्ष्य पर भारी पड़ते हैं।

प्रक्रिया में तीन मुख्य चरण शामिल हैं:

स्पेक्ट्रल विश्लेषण और दमन (Spectral Analysis & Suppression):
- चुनिटे मिडिल-लेयर अटेंशन हेड्स के लिए, QK प्रोडक्ट का थिन सिंगुलर वैल्यू डिकम्पोजिशन (SVD) किया जाता है।
- टॉप- $k$ डोमिनेंट सिंगुलर मोड्स (जो हाई-एनर्जी अटेंशन दिशाओं का प्रतिनिधित्व करते हैं) की पहचान की जाती है।
- इन मोड्स को एक फैक्टर $\alpha$ द्वारा दबाया (damp) जाता है, जो प्रभावी रूप से इन विशिष्ट प्रायर-ड्रिवन दिशाओं के प्रभाव को कम करता है।
- एडिटिंग को QK प्रोडक्ट के सिमेट्रिक कंपोनेंट ( $S_h$ ) पर किया जाता है, जो आपसी कंटेंट-सिमिलरिटी पैटर्न को कैप्चर करता है, जबकि एंटी-सिमेट्रिक कंपोनेंट ( $\Omega_h$ ) को काफी हद तक अछूता छोड़ दिया जाता है या पाया जाता है कि यह मतिभ्रम के लिए कम प्रासंगिक है।
GQA-सेफ क्वेरी रिकवरी (GQA-Safe Query Recovery):
- आधुनिक VLMs अक्सर ग्रुपेड-क्वेरी अटेंशन (GQA) का उपयोग करते हैं, जहाँ कई क्वेरी हेड्स एक ही की/वैल्यू हेड साझा करते हैं। साझा की (key) वेट्स को सीधे एडिट करना जोखिम भरा है क्योंकि यह कई हेड्स को प्रभावित करता है।
- साझा की वेट्स ( $W_k$ ) को सुरक्षित रखने के लिए, विधि एक कंस्ट्रेंड ऑप्टिमाइज़ेशन समस्या को हल करती है ताकि क्वेरी वेट्स ( $W_q$ ) में न्यूनतम अपडेट पाया जा सके जो एडिट किए गए QK प्रोडक्ट ( $M_h^\star$ ) को साकार करे।
- यह एक क्लोज्ड-फॉर्म, रिज-स्टेबलाइज्ड अपडेट के माध्यम से प्राप्त किया जाता है:
  $\Delta W_{q,h} = (W_{k,g}W_{k,g}^\top + \lambda I)^{-1} W_{k,g} \Delta M_h^\top$
- यह सुनिश्चित करता है कि एडिट GQA आर्किटेक्चर के अनुकूल है और इन्फरेंस प्रक्रिया को अपरिवर्तित रखता है।
लेयर सिलेक्शन (Layer Selection):
- विधि नेटवर्क के मिडल लेयर्स को लक्षित करती है। अनुभवजन्य विश्लेषण (Empirical analysis) से पता चलता है कि शुरुआती लेयर्स बहुत अधिक रैंक-कंसंट्रेटेड होती हैं (उन्हें एडिट करने से जनरेशन कोलैप्स हो जाता है), जबकि बाद की लेयर्स का मतिभ्रम पर पर्याप्त प्रभाव नहीं पड़ता। मिडल लेयर्स एक "सर्जिकल" हस्तक्षेप बिंदु प्रदान करती हैं जहाँ डोमिनेंट मोड्स कुल ऑपरेटर एनर्जी का एक छोटा हिस्सा होते हैं।

सिमेट्रिक बनाम एंटी-सिमेट्रिक डिकम्पोजिशन (Symmetric vs. Antisymmetric Decomposition)

लेखक QK प्रोडक्ट को सिमेट्रिक ( $S_h$ ) और एंटी-सिमेट्रिक ( $\Omega_h$ ) घटकों में विभाजित करते हैं।

सिमेट्रिक ( $S_h$ ): आपसी कंटेंट-सिमिलरिटी (पारस्परिक अटेंशन) को कैप्चर करता है।
एंटी-सिमेट्रिक ( $\Omega_h$ ): दिशात्मक अटेंशन पैटर्न को कैप्चर करता है।
निष्कर्ष: मतिभ्रम सिग्नल मुख्य रूप से सिमेट्रिक चैनल में स्थानीयकृत (localized) होते हैं। सिमेट्रिक मोड्स को दबाने से मतिभ्रम कम होता है, जबकि एंटी-सिमेट्रिक मोड्स को दबाने से मतिभ्रम कम नहीं होता है और सामान्य क्षमताओं में गिरावट आ सकती है।

मुख्य योगदान (Key Contributions)

QK प्रोडक्ट स्टीयरिंग: एक नवीन, डेटा-मुक्त, और ट्रेनिंग-मुक्त वेट एडिटिंग विधि जो QK प्रोडक्ट के वन-शॉट एडिट के माध्यम से ऑब्जेक्ट हैलुसिनेशन को कम करती है।
GQA-कम्पैटिबल प्रोजेक्शन: एक क्लोज्ड-फॉर्म, क्वेरी-ओनली अपडेट मैकेनिज्म जो साझा की वेट्स को स्थिर रखते हुए एडिट किए गए QK प्रोडक्ट को साकार करता है, जिससे यह विधि आधुनिक GQA-आधारित VLMs के लिए लागू करने योग्य बन जाती है।
मैकेनिस्टिक इंटरप्रिटेबिलिटी: सिमेट्रिक/एंटी-सिमेट्रिक डिकम्पोजिशन और एब्लेशन स्टडीज के माध्यम से, पेपर यह प्रदर्शित करता है कि मतिभ्रम विशिष्ट डोमिनेंट QK मोड्स से संबंधित है और यह मुख्य रूप से सिमेट्रिक म्यूचुअल-अटेंशन चैनल द्वारा संचालित होता है।

प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन तीन GQA-आधारित VLMs पर किया गया: Qwen2.5-VL-7B, InternVL3-8B, और Pixtral-12B।

मतिभ्रम में कमी: तीनों मॉडल्स में, QK प्रोडक्ट स्टीयरिंग ने औसतन 4.0% की सापेक्ष CHAIRs कमी हासिल की।
- Qwen2.5-VL-7B पर, CHAIRs 31.44 (बेसलाइन) से गिरकर 28.56 हो गया।
- InternVL3-8B पर, CHAIRs 33.81 से गिरकर 33.23 हो गया।
- Pixtral-12B पर, CHAIRs 34.14 से गिरकर 33.81 हो गया।
कंट्रोल प्रयोग:
- रैंडम मोड कंट्रोल्स: रैंडम सिंगुलर मोड्स (मैच की गई रैंक में) को दबाने से नगण्य परिवर्तन हुआ, जिससे पुष्टि हुई कि प्रभाव विशिष्ट डोमिनेंट मोड्स के कारण है, न कि मनमाने लो-रैंक परटर्बेशन के।
- सिमेट्रिक बनाम एंटी-सिमेट्रिक: केवल सिमेट्रिक चैनल को एडिट करने से अधिकांश मतिभ्रम में कमी आई। केवल एंटी-सिमेट्रिक चैनल को एडिट करने से मतिभ्रम कम नहीं हुआ और अक्सर अन्य बेंचमार्क पर प्रदर्शन में गिरावट आई।
क्षमता संरक्षण (Capability Preservation): सामान्य मल्टीमॉडल क्षमताओं (MME और MMMU द्वारा मापा गया) को रैंडम कंट्रोल्स के नॉइज़ बजट के भीतर काफी हद तक संरक्षित रखा गया। एकमात्र व्यवस्थित क्षमता लागत Pixtral-12B में विशिष्ट कॉन्फ़िगरेशन पर देखी गई, जो सुझाव देती है कि यह एक ऐसा ट्रेड-ऑफ है जिसे हाइपरपैरामीटर ट्यूनिंग के माध्यम से प्रबंधित किया जा सकता है।
एब्लेशन (Ablations):
- लेयर सेंसिटिविटी: केवल मिडल-लेयर एडिट्स ही ऐसे थे जिन्होंने जनरेशन को कोलैप्स किए बिना (अर्ली लेयर्स) या मतिभ्रम को प्रभावित करने में विफल हुए बिना (लेट लेयर्स) मतिभ्रम को कम किया।
- डैम्पिंग स्ट्रेंथ: $\alpha=1$ (टॉप मोड्स को पूरी तरह हटाना) डैम्पिंग स्ट्रेंथ के साथ $k=3$ मोड्स ने मतिभ्रम में कमी और क्षमता संरक्षण के बीच सबसे अच्छा संतुलन प्रदान किया।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि QK प्रोडक्ट स्टीयरिंग डिकोडिंग-टाइम हस्तक्षेपों के लिए एक व्यावहारिक विकल्प प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

शून्य इन्फरेंस लागत: अन्य विधियों (जैसे कॉन्ट्रास्टिव डिकोडिंग) के विपरीत जो डिकोडिंग को बदलती हैं, यह विधि मॉडल के वेट्स को एक बार संशोधित करती है, जिससे इन्फरेंस के दौरान मानक ग्रीडी डिकोडिंग पथ पूरी तरह से अपरिवर्तित रहता है।
कोई ट्रेनिंग ओवरहेड नहीं: इसके लिए किसी अतिरिक्त डेटा, फाइन-ट्यूनिंग या प्रेफरेंस ऑप्टिमाइज़ेशन की आवश्यकता नहीं होती है।
मैकेनिस्टिक अंतर्दृष्टि: यह मतिभ्रम के लिए एक स्पष्ट मैकेनिस्टिक स्पष्टीकरण प्रदान करता है, जो इसे डोमिनेंट, सिमेट्रिक अटेंशन मोड्स के परिणाम के रूप में पहचानता है जो जेनेरिक प्रायर्स को एनकोड करते हैं। इन मोड्स को सर्जिकल तरीके से दबाकर, विधि सीखा गया प्रायर-ड्रिवन व्यवहार को कमजोर करती है जबकि मॉडल की सामान्य गणना को सुरक्षित रखती है।
स्केलेबिलिटी: यह विधि हल्का (lightweight) है और GQA जैसे आधुनिक, कुशल आर्किटेक्चर के साथ संगत है।

लेखक निष्कर्ष निकालते हैं कि हालांकि यह विधि मॉडल की अंतर्निष्ट धारणा (perception) में सुधार नहीं करती है या नया विजुअल ज्ञान नहीं जोड़ती है, लेकिन यह अटेंशन मैकेनिज्म को सीखा गया प्रायर्स पर अत्यधिक निर्भरता से दूर करके ऑब्जेक्ट हैलुसिनेशन के विशिष्ट फेल्योर मोड को प्रभावी ढंग से कम करती है।