तकनीकी सारांश: हेयर्से (Hearsay): एक छवि के बिना विजन-लैंग्वेज मेडिकल डायग्नोसिस

समस्या विवरण (Problem Statement)

यह शोध पत्र क्लिनिकल पाइपलाइनों के भीतर फ्रंटियर विजन-लैंग्वेज मॉडल्स (VLMs) में एक महत्वपूर्ण विफलता मोड की जांच करता है: "मिराज इफेक्ट" (mirage effect - मृगतृष्णा प्रभाव)। यह घटना तब होती है जब एक VLM संलग्न छवि की अनुपस्थिति के बावजूद दृश्य विवरण और चिकित्सा निदान (medical diagnoses) उत्पन्न करता है। जबकि पूर्व कार्य [1] ने स्थापित किया था कि VLMs इन स्थितियों में परहेज करने में अक्सर विफल रहते हैं, यह अध्ययन इन मतिभ्रमों (hallucinations) की संरचना को समझने के अंतराल को संबोधित करता है। शोध पत्र यह प्रश्न उठाता है कि क्या निर्मित निदान यादृच्छिक (random) हैं या वे प्रॉम्प्ट में दिए गए जनसांख्यिकीय विवरणों (जैसे आयु, लिंग, नस्ल) से व्यवस्थित रूप से प्रभावित हैं जब कोई छवि मौजूद नहीं होती है। लेखक तर्क देते हैं कि क्लिनिकल पाइपलाइन उन परिदृश्यों का सामना कर सकती हैं जहाँ छवियां प्राप्त करने में विफल रहती हैं या एजेंट केवल रोगी के विवरण पास करते हैं, जो जनसांख्यिकीय पूर्वाग्रह के लिए एक उच्च-जोखिम वाला वातावरण बनाता है।

कार्यप्रणाली (Methodology)

अध्ययन तीन फ्रंटियर VLMs पर एक नियंत्रित प्रयोगात्मक डिजाइन का उपयोग करता है: Claude Opus 4.7, GPT-5.4, और Gemini 3.1 Pro।

• प्रॉम्प्ट डिज़ाइन: लेखक Asadi et al. [1] से प्राप्त एक संशोधित 'मिराज-मोड' प्रॉम्प्ट टेम्पलेट का उपयोग करते हैं। प्रॉम्प्ट में एक प्रथम-पुरुष जनसांख्यिकीय प्रस्तावना (जैसे, "मैं एक {age}-वर्षीय {race} {sex} हूँ") शामिल है, जिसके बाद एक छवि का वर्णन करने और निदान प्रदान करने का अनुरोध किया जाता है। परीक्षण की जाने वाली मोडालिटीज़ चेस्ट एक्स-रे (chest X-ray), ब्रेन एमआरआई (brain MRI), और डर्मेटोलॉजी (विशेष रूप से "स्किन मोल" या त्वचा का तिल) हैं।
• प्रयोगात्मक स्थितियाँ: एक $2 \times 2 \times 3$ फैक्टोरियल डिज़ाइन का उपयोग किया गया, जिसमें आयु (32, 65), लिंग (पुरुष, महिला), और नस्ल (श्वेत, अश्वेत, ब्राउन) को बदला गया, जिसके परिणामस्वरूप 12 जनसांख्यिकीय सेल और एक न्यूट्रल बेसलाइन (D0) प्राप्त हुआ जिसमें कोई जनसांख्यिकीय टेक्स्ट नहीं था।
• आउटपुट स्कीमा: प्रतिक्रियाओं को एक सख्त JSON स्कीमा में मजबूर किया गया जिसमें इमेज की उपस्थिति, नैदानिक क्षमता, प्राथमिक निदान, डिफरेंशियल, आत्मविश्वास, और तर्क (reasoning) के लिए फ़ील्ड शामिल थे। इसने "गद्य" (reasoning) को "स्ट्रक्चर्ड" (diagnosis field) आउटपुट से अलग करने की अनुमति दी।
• मेट्रिक्स: प्राथमिक मेट्रिक न्यूट्रल बेसलाइन बनाम जनसांख्यिकीय सेल्स में निदान के वितरण के बीच जेन्सन-शैनन डाइवर्जेंस (Jensen-Shannon Divergence - JSD) है। माध्यमिक विश्लेषणों में "हेज्ड मिराज" (hedged mirage) का पता लगाना (जहाँ गद्य छवि की अनुपस्थिति को स्वीकार करता है लेकिन स्ट्रक्चर्ड फ़ील्ड भरा हुआ होता है) और "प्रोब-नाउन रोबस्टनेस" (skin mole को skin lesion से बदलना) शामिल है।
• पैमाना: प्राथमिक प्रयोग (E1) में 11,700 API कॉल ($3 \text{ मॉडल} \times 3 \text{ डोमेन} \times 13 \text{ स्थितियाँ} \times 100 \text{ सीड्स}$) शामिल थे।

मुख्य योगदान (Key Contributions)

शोध पत्र चार प्राथमिक योगदान प्रस्तुत करता है:

1. स्ट्रक्चर्ड जनसांख्यिकीय पूर्वाग्रह (Structured Demographic Bias): इस बात के प्रमाण कि मिराज-मोड आउटपुट यादृच्छिक नहीं हैं बल्कि जनसांख्यिकीय टेक्स्ट द्वारा व्यवस्थित रूप से संरचित हैं। प्रति-सेल JSD 0.83 तक पहुँच गया, जिसमें शीर्ष निदान प्रलेखित क्लिनिकल बायस पैटर्न (जैसे, अश्वेत रोगियों के लिए सारकॉइडोसिस, वृद्ध श्वेत पुरुषों के लिए मेलानोमा) के अनुरूप थे।
2. हेज्ड मिराज रिजीम (The Hedged Mirage Regime): एक विसंगति (dissociation) की पहचान जहाँ मॉडल का गद्य तर्क (prose reasoning) गायब छवि को स्वीकार करता है (इनकार का सुझाव देता है), फिर भी स्ट्रक्चर्ड डायग्नोसिस फ़ील्ड एक विशिष्ट बीमारी के साथ भरा होता है। यह "हेज्ड" अवस्था हाई-JSD सेल्स में Claude के 66% निर्माणों (fabrications) का हिस्सा है और यह केवल गद्य-आधारित ऑडिट में अदृश्य रहता है।
3. विविध विफलता मोड (Diverse Failure Modes): एक प्रोब-नाउन रोबस्टनेस विश्लेषण जो प्रकट करता है कि मिराज विभिन्न प्रकार के विफलता मोड का एक परिवार है। Claude का डर्मेटोलॉजी प्रभाव शब्द-ट्रिगर्ड (word-triggered) था (skin mole को skin lesion में बदलने से मेलानोमा निदान में 94% की गिरावट आई और इनकार 100% हो गया), जबकि GPT-5.4 का प्रभाव कैटेगरी-प्रिजर्विंग (category-preserving) था (नाउन स्वैप के बावजूद निदान स्थिर रहा)।
4. दोहरा-चैनल मापन (Dual-Channel Measurement): एक पाइपलाइन जो गद्य विश्लेषण के साथ नेटिव JSON स्कीमा निकालती है, जिससे "हेज्ड रिजीम" सीधे अवलोकन योग्य और मापने योग्य हो जाता है।

परिणाम (Results)

• जनसांख्यिकीय संरचना (Demographic Structuring): तीनों मॉडलों ने जनसांख्यिकीय पूर्वाग्रह प्रदर्शित किया, हालांकि उनके परिमाण भिन्न थे।
  • GPT-5.4 ने 36/36 फैक्टोरियल सेल्स में निदान का निर्माण किया। इसका पूर्वाग्रह व्यापक था, जिसमें चेस्ट एक्स-रे पर युवा अश्वेत रोगियों के लिए सारकॉइडोसिस की ओर एक मजबूत झुकाव और आयु एवं लिंग के आधार पर MRI के लिए विशिष्ट रोग परिवर्तन (जैसे, वृद्ध महिलाओं के लिए मेनिन्जियोमा, वृद्ध पुरुषों के लिए ग्लियोमा) देखा गया।
  • Claude Opus 4.7 ने "इनकार-से-निर्माण" (refusal-to-fabrication) संक्रमण दिखाया। इसने अधिकांश न्यूट्रल प्रॉम्प्ट्स को अस्वीकार कर दिया लेकिन विशिष्ट सेल्स में भारी निर्माण किया (जैसे, "स्किन मोल" के साथ 65 वर्षीय श्वेत पुरुष के लिए 94% मेलानोमा)। JSD मुख्य रूप से इनकार से निर्माण के इस संक्रमण से प्रेरित था।
  • Gemini 3.1 Pro ने सबसे कम परिमाण (औसत JSD 0.010) दिखाया, जिसमें अधिकांश सेल्स में 0% निर्माण देखा गया।
• हेज्ड रिजीम (The Hedged Regime): "हेज्ड" स्थिति में, मॉडलों ने "संभावित, जनसांख्यिकी और क्लासिक पैटर्न के आधार पर" जैसे तर्क लिखे, जबकि अभी भी स्ट्रक्चर्ड डायग्नोसिस फ़ील्ड को भरा। एक गद्य-ओनली ऑडिट इन उन्हें इनकार या सुरक्षित के रूप में फ्लैग करेगा, जबकि एक स्ट्रक्चर्ड-डेटा पाइपलाइन को एक पक्षपाती निदान प्राप्त होगा।
• रोबस्टनेस (Robustness): "skin mole" बनाम "skin lesion" के बदलाव ने दिखाया कि Claude का पूर्वाग्रह नाजुक था और विशिष्ट ट्रिगर शब्दों पर निर्भर था, जबकि GPT-5.4 का पूर्वाग्रह वाक्यांश परिवर्तनों के प्रति रोबस्ट था।
• सिग्नल बनाम शोर (Signal vs. Noise): जनसांख्यिकीय सिग्नल (JSD) पैराफ्रेस शोर फ्लोर (अनुपात 10.5x से 13.9x) से काफी अधिक था, जो पुष्टि करता है कि पूर्वाग्रह सतह-स्तर के वाक्यांश विविधताओं के बजाय जनसांख्यिकीय विवरणों से संचालित है।

महत्व और दावे (Significance and Claims)

शोध पत्र तर्क देता है कि क्लिनिकल सेटिंग्स में भरोसेमंद VLM परिनियोजन के लिए ऑडिटिंग प्रथाओं में एक मौलिक बदलाव की आवश्यकता है।

• ऑडिट सीमाएँ (Audit Limitations): केवल प्राकृतिक भाषा (गद्य) ऑडिट पर निर्भर रहना अपर्याप्त है क्योंकि यह "हेज्ड रिजीम" को मिस कर देता है जहाँ टेक्स्टुअल डिस्क्लेमर के बावजूद स्ट्रक्चर्ड फ़ील्ड भरे जाते हैं।
• मूल्यांकन आयाम (Evaluation Dimensions): प्रोब-वर्ड संवेदनशीलता को एक "प्रथम-श्रेणी का मूल्यांकन आयाम" माना जाना चाहिए। मॉडल एक एकल प्रोब शब्द के साथ परीक्षण किए जाने पर रोबस्ट लग सकते हैं, जबकि मामूली विविधताओं के साथ विनाशकारी रूप से विफल हो सकते हैं (जैसा कि Claude के मामले में देखा गया), या इसके विपरीत।
• त्रुटि की प्रकृति (Nature of the Error): लेखक दो त्रुटियों के बीच अंतर करते हैं: (1) एपिस्टेमिक मिसकैलिब्रेशन (Epistemic miscalibration) (साक्ष्य के बिना निदान जारी करना) और (2) डेमोग्राफिक शिफ्टिंग (Demographic shifting) (जनसांख्यिकी के आधार पर विशिष्ट निदान जारी करना)। हालांकि यह शोध पत्र यह स्पष्ट नहीं करता है कि ये बदलाव प्रीट्रेनिंग बायस से आते हैं या कैलिब्रेटेड प्रिवेलेंस प्रायर्स (जैसे, वृद्ध श्वेत पुरुषों में मेलानोमा की उच्च घटना) से, यह दावा करता है कि गद्य और स्ट्रक्चर्ड आउटपुट के बीच का विच्छेद (dissociation) एक महत्वपूर्ण विफलता मोड है, चाहे प्रायर (prior) का मूल कुछ भी हो।

अध्ययन निष्कर्ष निकालता है कि इन जोखिमों को कम करने के लिए स्कीमा-स्तरीय बाधाओं (जैसे, जब image_present=false हो तो नल डायग्नोसिस को मजबूर करना), इन्फरेंस-टाइम प्रोबिंग, और छवियों की अनुपस्थिति में इनकार करने के लिए फाइन-ट्यूनिंग की आवश्यकता है। निष्कर्ष बताते हैं कि मिराज एक मोनोलिथिक घटना नहीं है बल्कि विभिन्न विफलता मोड का एक परिवार है जिसके लिए अलग-अलग शमन रणनीतियों की आवश्यकता है।