DO-Bench: An Attributable Benchmark for Diagnosing Object Hallucination in Vision-Language Models
DO-Bench एक नैदानिक बेंचमार्क है जिसे संरचित बहुविध हस्तक्षेपों (multimodal interventions) के माध्यम से यह अलग करने के लिए डिज़ाइन किया गया है कि क्या त्रुटियाँ टेक्स्टुअल प्रायर्स (textual priors) के प्रभाव से उत्पन्न होती हैं या दृश्य धारणा की सीमाओं से, ताकि विजन-लैंग्वेज मॉडल्स में ऑब्जेक्ट हॉलुसिनेशन (object hallucinations) को स्पष्ट रूप से समझा जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शिक्षक हैं जो किसी छात्र की परीक्षा का मूल्यांकन कर रहे हैं। यदि छात्र को 70% अंक मिलते हैं, तो आप जानते हैं कि वह संघर्ष कर रहा था, लेकिन आप यह नहीं जानते कि क्यों। क्या उसने प्रश्न को गलत पढ़ा? क्या उसे तथ्य ही नहीं पता थे? या क्या वह किसी "ट्रिक क्वेश्चन" (चाल वाले प्रश्न) के जाल में फंस गया जो सुनने में तो सही लग रहा था लेकिन वास्तव में गलत था?
वर्तमान में, जब हम AI मॉडल्स (विज़न-लैंग्वेज मॉडल्स) का परीक्षण यह देखने के लिए करते हैं कि क्या वे एक तस्वीर में वस्तुओं को "देख" सकते हैं, तो हम उन्हें केवल एक ग्रेड देते हैं: "आपने कितने सही उत्तर दिए?"
DO-Bench के पीछे के शोधकर्ता तर्क देते हैं कि यह ग्रेड देने का एक बुरा तरीका है। उनका कहना है कि "हैलुसिनेशन" (जब एक AI ऐसी चीज़ देखता है जो वहां नहीं है, या किसी चीज़ को देखने में चूक जाता है) केवल एक प्रकार की गलती नहीं है। यह वास्तव में दो बहुत अलग प्रकार की त्रुटियां हैं।
इसे समझाने के लिए, आइए एक "डिटेक्टिव और क्राइम सीन" (जासूस और अपराध स्थल) के उदाहरण का उपयोग करें।
"खराब जासूस" के दो प्रकार के काम
शोधकर्ताओं ने पाया कि जब एक AI विफल होता है, तो यह आमतौर पर दो कारणों में से एक की वजह से होता है:
1. "धुंधली दृष्टि" की समस्या (परसेप्शन-लिमिटेड/अनुभूति-सीमित)
एक जासूस की कल्पना करें जो एक विशाल, बिखरे हुए अपराध स्थल को देख रहा है। वह फर्श पर एक बहुत ही छोटी, विशिष्ट बाली (earring) को ढूंढ रहा है। क्योंकि कमरा बहुत अव्यवस्थित है और बाली बहुत छोटी है, जासूस उसे देख ही नहीं पाता। वह झूठ नहीं बोल रहा है; बस उसने उसे स्पष्ट रूप से देखा नहीं।
- AI के संदर्भ में: वस्तु वहां मौजूद है, लेकिन वह बहुत छोटी है या भीड़भाड़ वाली छवि में छिपी हुई है। AI "हैलुसिनेट" करता है कि वह गायब है क्योंकि उसकी "आंखें" पर्याप्त तेज नहीं हैं।
2. "सुझाव देने वाले गवाह" की समस्या (प्रायर-ओवरराइड/पूर्वग्रह-अधिभावी)
अब एक अलग जासूस की कल्पना करें। बाली फर्श पर स्पष्ट रूप से दिखाई दे रही है। लेकिन जासूस के कमरे में प्रवेश करने से पहले, एक वकील फुसफुसाता है, "मुझे लगभग यकीन है कि इस दृश्य में कोई आभूषण नहीं था।" जासूस अंदर आता है, बाली को देखता है, लेकिन चूंकि वह वकील की बात से बहुत अधिक प्रभावित था, इसलिए वह कहता है, "नहीं, यहाँ कोई बाली नहीं है।"
- AI के संदर्भ में: AI वस्तु को देखता है, लेकिन टेक्स्ट प्रॉम्प्ट (संदर्भ) इतना प्रभावशाली है कि वह छवि को "ओवरराइड" कर देता है। AI शब्दों के प्रभाव में आकर "धोखा" खा जाता है।
DO-Bench क्या है? (एक "स्ट्रेस टेस्ट")
केवल AI को एक तस्वीर दिखाकर, "क्या यहाँ एक बिल्ली है?" पूछने के बजाय, DO-Bench एक वैज्ञानिक स्ट्रेस टेस्ट की तरह काम करता है। यह एक ही दृश्य को लेता है और उसे दो विशिष्ट तरीकों से बदलता है ताकि यह देखा जा सके कि AI किस "जासूसी त्रुटि" को करता है:
- ज़ूम टेस्ट (दृष्टि का परीक्षण): वे छवि को लेते हैं और वस्तु पर धीरे-धीरे ज़ूम करते हैं (एक वाइड शॉट से क्लोज-अप तक)। यदि AI अचानक ज़ूम करने पर वस्तु को "ढूंढ" लेता है, तो हमें पता चल जाता है कि समस्या धुंधली दृष्टि (Blurry Vision) की थी।
- व्हिस्पर टेस्ट (सुझावशीलता का परीक्षण): वे छवि को बिल्कुल वैसा ही रखते हैं लेकिन टेक्स्ट को बदलते हैं। वे एक तटस्थ प्रश्न से शुरू करते हैं ("क्या यहाँ एक बिल्ली है?") और धीरे-धीरे एक बहुत ही जोरदार कथन की ओर बढ़ते हैं ("मुझे पूरा यकीन है कि यहाँ कोई बिल्ली नहीं है। क्या है?")। यदि AI अपना उत्तर बदलकर "नहीं" कर देता है, तो हमें पता चल जाता है कि समस्या सुझावशीलता (Suggestibility) की थी।
यह क्यों मायने रखता है?
इस पेपर से पहले, यदि कोई AI कंपनी कहती थी, "हमारा नया मॉडल 10% अधिक सटीक है!", तो हमें यह नहीं पता चलता था कि उन्होंने वास्तव में AI की "आंखों" को बेहतर बनाया है या उन्होंने बस AI को "जिद्दी" बना दिया है ताकि वह चालाकी भरे सवालों को न सुने।
DO-Bench हमें एक "डायग्नोस्टिक रिपोर्ट" देता है। यह हमें बताता है:
- PerceptionAbility (अनुभूति क्षमता): जब हम किसी चीज़ की ओर इशारा करते हैं, तो AI उसे देखने में कितना अच्छा है?
- PriorRobust (पूर्वग्रह मजबूती): AI को शब्दों से बेवकूफ बनाना कितना कठिन है?
बड़ी खोज: शोधकर्ताओं ने पाया कि केवल AI को "बड़ा" (अधिक शक्तिशाली) बनाने से दोनों समस्याओं को एक साथ ठीक नहीं किया जा सकता। एक AI छोटी वस्तुओं को देखने में बहुत बेहतर (बेहतर आंखें) हो सकता है, लेकिन वह शब्दों के प्रभाव में आने के लिए अभी भी उतना ही आसान (वही सुझावशीलता) हो सकता है।
इन दोनों को अलग करके, DO-Bench इंजीनियरों को अनुमान लगाने के बजाय यह समझने में मदद करता है कि उन्हें अपने AI के 'हैलुसिनेशन' के विशिष्ट कारण को कैसे ठीक करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।