Wiener Representation Filtering for VLM Hallucination Suppression
यह शोध पत्र वीनर रिप्रेजेंटेशन फ़िल्टरिंग (Wiener Representation Filtering) का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त, पोस्ट-हॉक तकनीक है जो लैंग्वेज बैकबोन के हिडन स्टेट्स में हैलुसिनेशन-जुड़े घटकों को कम करने के लिए एक क्लोज्ड-फॉर्म, वीनर-प्रकार के एस्टिमेटर को लागू करके विजन-लैंग्वेज मॉडल्स में ऑब्जेक्ट हैलुसिनेशन को दबाती है, जिससे इन्फरेंस स्पीड और फ्लुएंसी को बनाए रखते हुए विभिन्न बेंचमार्क पर सटीकता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, विद्वान मित्र से बात कर रहे हैं जिसने लाखों किताबें, फिल्में और समाचार लेख याद कर रखे हैं। यह मित्र चित्रों का वर्णन करने में माहिर है, लेकिन उसकी एक अजीब आदत है: कभी-कभी, जब वह समुद्र तट की एक शांत तस्वीर देखता है, तो वह समुद्र तट के 'विचार' से इतना उत्साहित हो जाता है कि वह आत्मविश्वास के साथ कहता है कि एक सर्फर लहर पर सवार है, भले ही पानी पूरी तरह से शांत हो। वह जानबूझकर झूठ नहीं बोल रहा है; उसका मस्तिष्क बस उन "समुद्र तट की कहानियों" से इतना भरा हुआ है कि वह अनजाने में उन चीजों को भर देता है जो वहां होनी चाहिए, लेकिन वास्तव में नहीं हैं। यह बिल्कुल वैसा ही है जैसा आधुनिक "विज़न-लैंग्वेज मॉडल्स" (VLMs) के साथ होता है। ये शक्तिशाली कंप्यूटर प्रोग्राम हैं जो एक कैमरे की आंखों को एक भाषा विशेषज्ञ के मस्तिष्क के साथ जोड़ते हैं। वे छवियों का वर्णन करने में अद्भुत हैं, लेकिन वे "ऑब्जेक्ट हैलुसिनेशन" (वस्तु भ्रम) से ग्रस्त होते हैं, जहाँ वे ऐसी वस्तुओं, रंगों या क्रियाओं का आविष्कार करते हैं जो चित्र में मौजूद ही नहीं हैं। यह एक बड़ी समस्या है क्योंकि यदि कोई रोबोट डॉक्टर या खुद चलने वाली कार किसी ऐसी स्टॉप साइन को "देखने" का भ्रम पाल ले जो वहां नहीं है, या एक्स-रे पर एक नकली ट्यूमर देख ले, तो इसके परिणाम खतरनाक हो सकते हैं। वैज्ञानिकों ने इसे ठीक करने के लिए मॉडल को अधिक कठिन रूप से सोचने के लिए मजबूर करने या उनके बोलने के तरीके को बदलने की कोशिश की है, लेकिन इन सुधारों से अक्सर मॉडल धीमे हो जाते हैं या उन्हें भारी पुन: प्रशिक्षण (retraining) की आवश्यकता होती है।
अब, इस टीम से मिलिए जो तेल अवीव विश्वविद्यालय (Tel Aviv University) से है, जिन्होंने एक अलग दृष्टिकोण अपनाने का निर्णय लिया। मॉडल को सब कुछ फिर से सिखाने या उसे धीमा करने के बजाय, उन्होंने हैलुसिनेशन (भ्रम) को रेडियो सिग्नल पर आने वाले एक स्थिर शोर (static noise) की तरह माना। उन्होंने महसूस किया कि जब मॉडल "हैलुसिनेट" करता है, तो वह केवल यादृच्छिक गलतियाँ नहीं करता; बल्कि वह अपने आंतरिक विचारों में एक विशिष्ट, संरचित प्रकार का "शोर" जोड़ रहा होता है। इस मॉडल के मस्तिष्क को एक जटिल ऑर्केस्ट्रा की तरह सोचें जो एक सिम्फनी बजा रहा है। कभी-कभी, कुछ वाद्य यंत्र एक तेज़, बेसुरा नोट बजाने लगते हैं जो वास्तविक संगीत को दबा देता है। लेखकों की विधि, जिसे "वीनर रिप्रेजेंटेशन फ़िल्टरिंग" (Wiener Representation Filtering) कहा जाता है, एक अत्यंत बुद्धिमान ऑडियो इंजीनियर की तरह है जो ऑर्केस्ट्रा को सुनता है, यह पता लगाता है कि कौन से वाद्य यंत्र बेसुरा नोट बजा रहे हैं, और फिर केवल उन विशिष्ट आवृत्तियों (frequencies) का वॉल्यूम धीरे से कम कर देता है। उन्होंने ऑर्केस्ट्रा को बेहतर ढंग से बजाना नहीं सिखाया; उन्होंने बस एक बार, ऑफलाइन, मिक्सिंग बोर्ड को एडजस्ट किया, ताकि बेसुरे नोट्स हर बार बजने पर स्वाभाविक रूप से दब जाएं।
उन्होंने इसे कैसे किया और उन्हें क्या मिला, यहाँ बताया गया है। सबसे पहले, उन्हें इस "शोर" को समझने की आवश्यकता थी। उन्होंने मॉडल को कई तस्वीरें दिखाईं और उसे उनका वर्णन करने के लिए कहा। फिर, उन्होंने मॉडल के "हैलुसिनेटेड" विवरणों (जहाँ उसने चीजें बनाईं) की "सत्यनिष्ठ" विवरणों (जहाँ वह सही था) के साथ तुलना की। मॉडल के मस्तिष्क के भीतर की गणित को देखते हुए, उन्होंने पाया कि हैलुसिनेशन यादृच्छिक अराजकता नहीं है। इसके बजाय, वे एक विशिष्ट प्रकार का पैटर्न बनाते हैं, जैसे कि एक नक्शा जहाँ मॉडल अक्सर भटक जाता है। उन्होंने एक क्लासिक सिग्नल प्रोसेसिंग तकनीक का उपयोग किया जिसे "वीनर फ़िल्टर" कहा जाता है—एक ऐसा उपकरण जिसका उपयोग आमतौर पर पुरानी फोन कॉल को साफ करने या क्षतिग्रस्त फोटो को बहाल करने के लिए किया जाता है—यह गणना करने के लिए कि उन विशिष्ट "हैलुसिनेशन दिशाओं" को कैसे कम किया जाए, जबकि "सत्यनिष्ठ दिशाओं" को स्पष्ट और तेज रखा जाए।
उनके तरीके का जादू यह है कि यह एक "पोस्ट-हॉक" (post-hoc) सुधार है, जिसका अर्थ है कि उन्हें मॉडल को शुरू से फिर से प्रशिक्षित करने की आवश्यकता नहीं थी। उन्होंने एक छोटे से युग्मित उदाहरणों के सेट का उपयोग करके एक बार, हल्के गणनात्मक कार्य के माध्यम से "शोर के पैटर्न" को पहचाना। फिर, उन्होंने इस सुधार को मॉडल के मौजूदा भार (weights) में सीधे समाहित कर दिया। यह एक गिटार को थोड़ा सा सुर से बाहर होने के बाद, उन विशिष्ट तारों को कसने जैसा है जो बहुत ढीले हैं, और फिर गिटार को बिल्कुल वैसा ही छोड़ देना। उस बिंदु से, गिटार बिना किसी अतिरिक्त प्रयास के पूरी तरह से सुर में बजता है।
परिणाम प्रभावशाली थे। जब उन्होंने अपने इस "वीनर फ़िल्टर" का परीक्षण LLaVA-1.5, MiniGPT-4 और mPLUG-Owl2 जैसे कई लोकप्रिय AI मॉडल्स पर किया, तो मॉडल्स ने बहुत कम गलतियाँ करना शुरू कर दिया। हैलुसिनेशन को पकड़ने के लिए डिज़ाइन किए गए परीक्षणों (जैसे CHAIR और POPE बेंचमार्क) पर, मॉडल्स ने फर्जी वस्तुओं का आविष्कार कम किया। उदाहरण के लिए, CHAIR टेस्ट पर, वाक्य-स्तर के हैलुसिनेशन की त्रुटि दर काफी कम हो गई (LLaVA-1.5 के लिए 18.87 से घटकर 14.93 हो गई)। महत्वपूर्ण रूप से, मॉडल्स उबाऊ या धीमे नहीं हुए; वे अभी भी प्रवाहमयी, रचनात्मक कैप्शन लिख रहे थे, वे बस उन चीजों को बनाना बंद कर दिए जो वहां नहीं थीं। लेखकों ने यह भी दिखाया कि यह ट्रिक वीडियो समझ (video understanding) के कार्यों और विभिन्न प्रकार के लैंग्वेज मॉडल्स पर भी काम करती है, जो यह सुझाव देती है कि यह "शोर पैटर्न" कैसे AI मस्तिष्क काम करते हैं, इसकी एक सामान्य विशेषता है, न कि केवल एक विशिष्ट मॉडल की खामी।
यह शोध पत्र सुझाव देता है कि हैलुसिनेशन को ज्ञान की कमी के बजाय एक संरचित विरूपण (structured distortion) के रूप में देखकर, हम इसे एक सरल, गणितीय रूप से सुंदर फ़िल्टर के साथ ठीक कर सकते हैं। उन्होंने इस विचार को खारिज कर दिया कि हैलुसिनेशन केवल एक साधारण "बायस" (पक्षपात) के कारण होता है जिसे एक औसत संख्या घटाकर ठीक किया जा सकता है; इसके बजाय, त्रुटि जटिल और दिशात्मक है, जिसके लिए एक सूक्ष्म, आवृत्ति-आधारित दृष्टिकोण की आवश्यकता है। हालांकि उन्होंने यह दावा नहीं किया कि उन्होंने AI हैलुसिनेशन की समस्या को हमेशा के लिए हल कर दिया है, लेकिन उनकी विधि एक शक्तिशाली, प्रशिक्षण-मुक्त उपकरण प्रदान करती है जो उनकी गति या रचनात्मकता से समझौता किए बिना इन दृश्य AI प्रणालियों को अधिक विश्वसनीय बनाती है। यह एक याद दिलाता है कि कभी-कभी, एक शोर वाले सिग्नल को ठीक करने का सबसे अच्छा तरीका ज़ोर से चिल्लाना नहीं, बल्कि ध्यान से सुनना और स्टेटिक (शोर) को कम करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।