🤖 AI

FINER: MLLMs Hallucinate under Fine-grained Negative Queries

यह शोध पत्र FINER प्रस्तुत करता है, जो एक फ्रेमवर्क और बेंचमार्क है जिसे सूक्ष्म-स्तरीय नकारात्मक प्रश्नों (fine-grained negative queries) के कारण मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में होने वाले मतिभ्रम (hallucinations) को उजागर करने और विश्लेषण करने के लिए डिज़ाइन किया गया है, और यह समग्र मॉडल प्रदर्शन को बढ़ाते हुए इन त्रुटियों को महत्वपूर्ण रूप से कम करने के लिए FINER-Tuning का प्रस्ताव करता है।

मूल लेखक: Rui Xiao, Sanghwan Kim, Yongqin Xian, Zeynep Akata, Stephan Alaniz

प्रकाशित 2026-03-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rui Xiao, Sanghwan Kim, Yongqin Xian, Zeynep Akata, Stephan Alaniz

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान, दुनिया घूमने वाला दोस्त है जिसे तस्वीरें देखना और उनका वर्णन करना बहुत पसंद है। यह दोस्त एक मल्टीमॉडल लार्ज लैंग्वेज मॉडल (MLLM) है। वे कहने में माहिर हैं, "मुझे एक कुत्ता दिख रहा है!" या "वह एक लाल कार है!"

लेकिन यहाँ एक पेंच है: कभी-कभी, यह दोस्त ज़रूरत से ज़्यादा आत्मविश्वासी हो जाता है और अपनी ओर से बातें बनाने लगता है। इसे हैलुसिनेशन (hallucination) कहा जाता है। वे कह सकते हैं, "मुझे एक टोपी पहने हुए कुत्ता दिख रहा है," भले ही कुत्ते ने सिर पर कुछ न पहना हो।

समस्या: "फाइन-ग्रेन्ड" (बारीकी का) जाल

मौजूदा एआई दोस्तों के लिए परीक्षण "अंतर पहचानो" के खेल की तरह हैं, जहाँ बदलाव बड़े और स्पष्ट होते हैं।

पुराना टेस्ट: "क्या इस तस्वीर में एक कुत्ता है?" (यदि वहाँ बिल्ली है, तो एआई कहेगा "नहीं।" आसान है!)
वास्तविक दुनिया: लोग पेचीदा, विस्तृत प्रश्न पूछते हैं जैसे, "क्या वह एक भूरे रंग का कुत्ता है जिसके लटकते कान हैं और जो मेज के नीचे बैठा है?"

यह शोध तर्क देता है कि वर्तमान एआई मॉडल इसमें बहुत खराब हैं। यदि आप पूछते हैं, "क्या वहाँ एक बैंगनी कुत्ता है?" और वहाँ एक भूरा कुत्ता है, तो एआई भ्रमित हो जाता है। उसे एक कुत्ता दिखता है, इसलिए वह रंग को अनदेखा कर देता है और "हाँ!" कह देता है। वह उस विशिष्ट विवरण को पहचानने में विफल रहता है जो उस कथन को गलत बनाता है।

समाधान: FINER (द "फाइन-ग्रेन्ड नेगेटिव क्वेरी" डिटेक्टिव)

शोधकर्ताओं ने परीक्षणों का एक नया सेट बनाया जिसे FINER कहा जाता है। इसे एक "ट्रिक क्वेश्चन" (धोखे वाले सवाल) परीक्षा के रूप में समझें, जिसे विशेष रूप से एआई को छोटी बारीकियों के बारे में झूठ बोलने से पकड़ने के लिए डिज़ाइन किया गया है।

उन्होंने दो विशाल प्रश्न बैंक बनाए:

FINER-CompreCap: सावधानीपूर्वक हाथ से जाँचे गए फोटो पर आधारित।
FINER-DOCCI: हजारों फोटो पर आधारित जिनमें लंबे, विस्तृत विवरण दिए गए हैं।

यह टेस्ट कैसे काम करता है (एक उपमा):
कल्पना कीजिए कि आप एआई को एक लाल सेब की फोटो दिखा रहे हैं।

ट्रैप क्वेश्चन (जाल वाला सवाल): "क्या आप हरा सेब देख सकते हैं?"
एआई की पुरानी आदत: "हाँ! मुझे एक सेब दिख रहा है!" (उसने रंग को मिस कर दिया)।
FINER का लक्ष्य: एआई को कहना चाहिए, "नहीं, मैं एक लाल सेब देख रहा हूँ, हरा नहीं।"

उन्होंने चार प्रकार के जालों का परीक्षण किया:

मल्टी-ऑब्जेक्ट (बहु-वस्तु): "क्या आपको एक बिल्ली और एक टोस्टर दिख रहा है?" (वहाँ एक बिल्ली और एक लैंप है)।
मल्टी-एट्रीब्यूट (बहु-विशेषता): "क्या आपको नीले फर वाली बिल्ली दिख रही है?" (बिल्ली का रंग नारंगी है)।
मल्टी-रिलेशन (बहु-संबंध): "क्या आप सोफे पर बैठी हुई बिल्ली देख सकते हैं?" (बिल्ली सोफे के नीचे है)।
"क्या" वाला सवाल: "वह नीली बिल्ली किस पर बैठी है?" (वहाँ कोई नीली बिल्ली नहीं है)।

खोज:
शोधकर्ताओं ने पाया कि जैसे-जैसे प्रश्न अधिक विस्तृत (अधिक "फाइन-ग्रेन्ड") होते गए, एआई का प्रदर्शन गिरता गया। आपने झूठ में जितने अधिक विवरण जोड़े, एआई के उस पर विश्वास करने की संभावना उतनी ही बढ़ गई। यह एक जादूगर की तरह है जो गायब हुए कार्ड को तो पहचान सकता है, लेकिन अगर आप उसके सूट और नंबर को बदल दें, तो वह धोखा खा जाता है।

समाधान: FINER-ट्यूनिंग (द "ट्रुथ सीरम")

इसे ठीक करने के लिए, उन्होंने केवल एआई को यह नहीं बताया कि "झूठ बोलना बंद करो।" उन्होंने इसे सवालों में ही झूठ का पता लगाना सिखाया।

उन्होंने DPO (डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन) नामक तकनीक का उपयोग किया। एक कुत्ते को प्रशिक्षित करने की कल्पना करें:

पुराना तरीका: आप कुत्ते को एक गेंद दिखाते हैं और यदि वह भौंकता है तो कहते हैं "अच्छा कुत्ता"।
FINER-ट्यूनिंग वाला तरीका: आप कुत्ते को एक गेंद की तस्वीर दिखाते हैं और पूछते हैं, "क्या यह एक जूता है?"
- यदि कुत्ता कहता है, "हाँ," तो आप कहते हैं, "नहीं, यह गलत है। ध्यान से देखो।"
- यदि कुटा कहता है, "नहीं, यह एक गेंद है," तो आप कहते, "बहुत बढ़िया! तुमने चाल को पकड़ लिया!"

उन्होंने एआई को ऐसे हजारों "ट्रिक क्वेश्चन" खिलाए जहाँ सही उत्तर हमेशा "नहीं, लेकिन मैं [असली चीज़] देख रहा हूँ" था। इसने एआई को एक क्रिटिकल रीडर (गंभीर पाठक) बनने के बजाय केवल एक निष्क्रिय वर्णक (describer) बनने से रोका।

परिणाम: एक स्मार्ट, अधिक ईमानदार एआई

इस प्रशिक्षण (FINER-ट्यूनing) के बाद:

एआई ने हॉलुसिनेशन करना बंद कर दिया: जब कोई विवरण गलत होता था, तो "ना" कहने में वह बहुत बेहतर हो गया।
वह आलसी नहीं हुआ: कभी-कभी, जब आप किसी एआई को अधिक सावधान होने के लिए प्रशिक्षित करते हैं, तो वह कुछ भी बोलने से डरने लगता है। लेकिन इस पद्धति ने एआई को डराए बिना स्मार्ट बनाया! वास्तव में, यह सामान्य कार्यों में भी बेहतर हो गया!
उसने दिग्गजों को हराया: यहाँ तक कि सबसे बड़े, सबसे शक्तिशाली एआई मॉडल (जैसे InternVL और Qwen) भी काफी सुधरे, कभी-कभी 20% से भी अधिक।

बड़ी तस्वीर

यह शोध पत्र एक बच्चे को मेनू ध्यान से पढ़ना सिखाने जैसा है। पहले, बच्चा बस "पिज्जा" देखता और ऑर्डर कर देता, भले ही मेनू में "वीगन पिज्जा" लिखा हो और वह मांस चाहता हो। अब, FINER के साथ, एआई हर शब्द को पढ़ना, हर सामग्री की जाँच करना और यह स्वीकार करना सीखता है कि विवरण चित्र से मेल नहीं खाता है।

यह एआई को भरोसेमंद बनाने की दिशा में एक महत्वपूर्ण कदम है, विशेष रूप से चिकित्सा या कानून जैसे क्षेत्रों में, जहाँ एक छोटी सी बारीक विवरण (जैसे "सौम्य" बनाम "घातक" ट्यूमर) बड़े चित्र से कहीं अधिक मायने रखती है।

यहाँ शोध पत्र "FINER: MLLMs Hallucinate under Fine-grained Negative Queries" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) ने विजुअल परसेप्शन में महत्वपूर्ण प्रगति की है, लेकिन वे हैलुसिनेशन (hallucinations) से ग्रस्त हैं—अर्थात ऐसी सामग्री उत्पन्न करना जो छवि द्वारा समर्थित नहीं है। जबकि मौजूदा बेंचमार्क (जैसे POPE, DASH, AMBER) मोटे तौर पर होने वाले हैलुसिनेशन (जैसे किसी वस्तु की उपस्थिति/अनुपस्थिति) का प्रभावी ढंग से पता लगाते हैं, वे सूक्ष्म-स्तरीय त्रुटियों (fine-grained errors) को पकड़ने में विफल रहते हैं।

वास्तविक दुनिया के प्रश्न अक्सर कई वस्तुओं, गुणों (attributes) और स्थानिक संबंधों (spatial relations) के जटिल संयोजनों में शामिल होते हैं। वर्तमान मॉडल तब संघर्ष करते हैं जब किसी प्रश्न में एक सूक्ष्म विरोधाभास होता है (जैसे, "कुर्सी के नीचे बैठी भूरे रंग के बालों वाली बिल्ली" जब बिल्ली वास्तव में कुर्सी के ऊपर बैठी हो)। शोध पत्र यह पहचानता है कि MLLMs सूक्ष्म-स्तरीय नकारात्मक प्रश्नों (fine-grained negative queries) के प्रति "भंगुरता" (brittleness) प्रदर्शित करते हैं, जहाँ मॉडल एक ऐसे प्रश्न को खारिज करने में विफल रहता है जिसमें अन्य सही जानकारी के बीच एक भी गलत विवरण मौजूद हो, जिससे उच्च फाल्स-पॉजिटिव दर (false-positive rates) होती है।

2. कार्यप्रणाली (Methodology)

लेखक एक व्यापक रूपरेखा प्रस्तावित करते हैं जिसमें नए बेंचमार्क, एक डेटा निर्माण पाइपलाइन और एक नवीन प्रशिक्षण रणनीति शामिल है।

A. FINER बेंचमार्क

लेखक FINER (FIne-grained NEgative queRies) पेश करते हैं, जिसमें दो बेंचमार्क शामिल हैं:

FINER-CompreCap: CompreCap डेटासेट (COCO छवियों) से मानव-एनोटेटेड सीन ग्राफ पर आधारित।
FINER-DOCCI: DOCCI डेटासेट से सघन, मानव-एनोटेटेड कैप्शन पर आधारित, जो COCO ऑब्जेक्ट क्लास से परे बड़े पैमाने पर मूल्यांकन की अनुमति देता है।

निर्माण पाइपलाइन (Construction Pipeline):

सीन ग्राफ निष्कर्षण (Scene Graph Extraction): DOCCI के लिए, Gemini-2.0-Flash और Qwen2.5-VL-72B का उपयोग करने वाला एक मल्टी-स्टेज पाइपलाइन लंबे कैप्शन से वस्तुओं, गुणों और संबंधों को निकालता है, जिसे सटीकता सुनिश्चित करने के लिए मानव सैंपलिंग द्वारा सत्यापित किया गया है।
नकारात्मक जनरेशन (Negative Generation): प्रत्येक सकारात्मक तत्व (Object, Attribute, Relation) के लिए, सिस्टम चार अर्थपूर्ण रूप से प्रशंसनीय लेकिन गलत नकारात्मक समकक्ष उत्पन्न करता है (जैसे, "door frame" को "pillar" से बदलना)।
प्रश्न निर्माण (Query Construction): बेंचमार्क विशिष्ट हैलुसिनेशन प्रकारों का परीक्षण करने के लिए चार अलग-अलग सेटिंग्स बनाते हैं:
- Multi-obj: कई वस्तुएं, जिनमें से एक गलत है।
- Multi-attr: एक वस्तु के लिए कई गुण, जिनमें से एक गलत है।
- Multi-rel: कई संबंध, जिनमें से एक गलत है।
- Wh-questions: "क्या/कौन" वाले प्रश्न जहाँ आधार (premise) में एक गलत गुण शामिल है (जैसे, "लाल कुत्ता क्या कर रहा है?" जबकि कुत्ता काला है)।
मूल्यांकन मीट्रिक (Evaluation Metric): मॉडल्स को केवल "No" पैटर्न को याद करने से रोकने के लिए, बेंचमार्क बहुविकल्पीय प्रश्न (MCQs) का उपयोग करते हैं। प्राथमिक मीट्रिक पेयर्ड एक्यूरेसी ( $Acc_{paired}$ ) है, जिसके लिए मॉडल को दोनों सकारात्मक प्रश्न (Yes) और संबंधित नकारात्मक प्रश्न (No) का सही उत्तर देना आवश्यक है।

B. FINER-Tuning

इन कमजोरियों को दूर करने के लिए, लेखक Direct Preference Optimization (DPO) पर आधारित एक प्रशिक्षण रणनीति, FINER-Tuning प्रस्तावित करते हैं।

डेटा जनरेशन: ओपन-सोर्स Phi-4-14B मॉडल का उपयोग करते हुए एक स्केलेबल पाइपलाइन के माध्यम से, वे लंबे कैप्शन (Pixmo-caption) से प्रशिक्षण डेटा उत्पन्न करते हैं।
- सकारात्मक वाक्यांश ( $\Psi^+$ ): कैप्शन से निकाले गए (Objects, Attributes, Relations, Wh-contexts)।
- नकारात्मक वाक्यांश ( $\Psi^-$ ): सूक्ष्म-स्तरीय विरोधाभास पेश करने के लिए $\Psi^+$ को संशोधित करके बनाए गए।
प्रेफरेंस टुपल्स (Preference Tuples): प्रशिक्षण डेटा $(x, q, a^+, a^-)$ $(x, q, a^{+}, a^{-})$ के जोड़ों से बना है जहाँ:
- $q^+$ (सकारात्मक प्रश्न) को एक स्वीकृत उत्तर $a^+$ (छवि की पुष्टि करने वाला) और एक अस्वीकृत उत्तर $a^-$ (छवि को नकारने वाला) के साथ जोड़ा गया है।
- $q^-$ (नकारात्मक प्रश्न) को एक स्वीकृत उत्तर $a^+$ (छवि को नकारने वाला) और एक अस्वीकृत उत्तर $a^-$ (छवि की पुष्टि करने वाला) के साथ जोड़ा गया है।
प्रशिक्षण उद्देश्य (Training Objective): मॉडल को सकारात्मक और नकारात्मक दोनों इनपुट के लिए सही प्रतिक्रिया ( $a^+$ ) को गलत प्रतिक्रिया ( $a^-$ ) से उच्च रैंक देने के लिए अनुकूलित किया जाता है, जिससे मॉडल सूक्ष्म विसंगतियों का पता लगाना सीखता है।

3. मुख्य योगदान (Key Contributions)

FINER बेंचमार्क: पहले बेंचमार्क जो विशेष रूप से MLLMs को सूक्ष्म-स्तरीय नकारात्मक प्रश्नों पर मूल्यांकन करने के लिए डिज़ाइन किए गए हैं, जिसमें एक साथ कई वस्तुओं, गुणों और संबंधों का समावेश है।
FINER-Tuning: एक मॉडल-अज्ञेयवादी (model-agnostic), DPO-आधारित प्रशिक्षण रेसिपी जो डेटा एनोटेशन के लिए महंगे क्लोज्ड-सोर्स मॉडल्स की आवश्यकता के बिना (Phi-4-14B का उपयोग करके) हैलुसिनेशन को काफी कम करती है।
व्यवस्थित विश्लेषण: एक व्यापक अध्ययन जो प्रकट करता है कि जैसे-जैसे प्रश्न की सूक्ष्मता (granularity) बढ़ती है, MLLM का प्रदर्शन रैखिक रूप से गिरता है, और वर्तमान "हैलुसिनेशन-जागरूक" फाइन-ट्यूनिंग विधियाँ (जैसे RLAIF-V) सूक्ष्म-स्तरीय त्रुटियों पर अच्छी तरह से सामान्यीकृत नहीं होती हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने सीमांत मॉडल्स (LLaVA-1.6, Qwen2.5-VL, InternVL-3.5) का FINER और अन्य मानक बेंचमार्क पर मूल्यांकन किया।

FINER पर प्रदर्शन:
- बेसलाइन मॉडल्स प्रश्न की सूक्ष्मता बढ़ने के साथ सटीकता में भारी गिरावट दिखाते हैं (उदाहरण के लिए, InternVL-3.5-14B सिंगल-ऑब्जेक्ट प्रश्नों पर ~75% से गिरकर जटिल मल्टी-रिलेशन प्रश्नों पर ~20% हो जाता है)।
- FINER-Tuning भारी सुधार लाता है। InternVL-3.5-14B के लिए, इसने Multi-rel सेटिंग में 24.2% तक की वृद्धि हासिल की, जो इसके अपने 38B पैरामीटर वाले संस्करण से बेहतर प्रदर्शन करता है।
- FINER-DOCCI पर, FINER-Tuned InternVL-3.5-14B ने 4 में से 3 सेटिंग्स में Gemini-2.5-Flash के प्रदर्शन के बराबर या उसके करीब प्रदर्शन किया।
अन्य बेंचमार्क पर सामान्यीकरण (Generalization):
- FINER-Tuning ने मौजूदा हैलुसिनेशन बेंचमार्क (DASH, POPE, AMBER, HallusionBench, MMHal-Bench) पर लगातार प्रदर्शन में सुधार किया।
- विशेष रूप से, इसने जेनेरेटिव बेंचमार्क पर हैलुसिनेशन दर को कम किया (जैसे, InternVL-3.5-14B के लिए MMHal-Bench हैलुसिनेशन दर को 10% तक कम करना)।
- कुछ पूर्व विधियों के विपरीत जो "एलाइनमेंट टैक्स" (क्षमता की कीमत पर सुरक्षा में सुधार) से जूझती हैं, FINER-Tuning ने हैलुसिनेशन में कमी के साथ-साथ सामान्य क्षमताओं (MMStar, TextVQA, ChartQA) में सुधार किया।
एब्लेशन स्टडीज (Ablation Studies):
- सकारात्मक और नकारात्मक दोनों प्रश्नों पर प्रशिक्षण लेना अत्यंत महत्वपूर्ण है; केवल नकारात्मक प्रश्नों पर प्रशिक्षण लेने या सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) का उपयोग करने से निम्न प्रदर्शन या विनाशकारी विस्मृति (catastrophic forgetting) हुई।
- चारों उपसमुच्चयों (Obj, Attr, Rel, Wh) पर प्रशिक्षण देने से सबसे संतुलित और मजबूत परिणाम मिले।

5. महत्व और निष्कर्ष (Significance and Conclusion)

यह शोध पत्र सिद्ध करता है कि वर्तमान MLLMs सूक्ष्म-स्तरीय हैलुसिनेशन के प्रति अत्यधिक संवेदनशील हैं, विशेष रूप से जब प्रश्न जटिल अर्थपूर्ण संयोजनों में शामिल होते हैं। FINER का परिचय उन सूक्ष्म विफलताओं के मूल्यांकन के लिए एक कठोर मानक प्रदान करता है, जिन्हें पहले मोटे बेंचमार्क द्वारा अनदेखा कर दिया गया था।

FINER-Tuning विधि यह प्रमाणित करती है कि DPO के माध्यम से मॉडल्स को सूक्ष्म-स्तरीय नकारात्मक इनपुट को अस्वीकार करने के लिए संरेखित (align) करना एक अत्यंत प्रभावी रणनीति है। यह न केवल विशिष्ट हैलुसिनेशन प्रकारों को ठीक करता है, बल्कि मॉडल की समग्र दृश्य समझ और तर्क क्षमताओं को भी बढ़ाता है। यह कार्य सुझाव देता है कि भविष्य के MLLM विकास को वास्तविक दुनिया के अनुप्रयोगों (जैसे मेडिकल इमेजिंग या ऑटोनॉमस ड्राइविंग) में सच्ची विश्वसनीयता प्राप्त करने के लिए सूक्ष्म-स्तरीय निषेध जागरूकता (granular negation awareness) को प्राथमिकता देनी चाहिए, जहाँ एक एकल गुण त्रुटि भी गंभीर हो सकती है।

संसाधन: कोड, बेंचमार्क और मॉडल, प्रोजेक्ट वेबसाइट पर सार्वजनिक रूप से उपलब्ध हैं।