Auditing Multimodal LLM Raters: Central Tendency Bias in Clinical Ordinal Scoring
यह शोध पत्र प्रकट करता है कि जहाँ फ्रंटियर मल्टीमॉडल एलएलएम (LLMs) ऑर्डिनल स्केल्स पर क्लिनिकल छवियों को स्कोर करने में प्रतिस्पर्धी हो सकते हैं, वहीं वे एक व्यवस्थित केंद्रीय प्रवृत्ति पूर्वाग्रह (central tendency bias) प्रदर्शित करते हैं जो भविष्यवाणियों को स्केल के मध्य की ओर संकुचित कर देता है, जिससे उच्च और निम्न चरम सीमाओं पर महत्वपूर्ण त्रुटियां होती हैं जिन्हें उच्च-जोखिम वाले क्लिनिकल स्क्रीनिंग में तैनाती से पहले अंशांकन (calibration) की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक नया, अविश्वसनीय रूप से स्मार्ट रोबोट सहायक है। आप इसका उपयोग छात्रों द्वारा बनाई गई घड़ियों के चित्रों को ग्रेड देने के लिए करना चाहते हैं—जो डॉक्टरों द्वारा याददाश्त या सोचने की समस्याओं की जांच करने के लिए उपयोग किया जाने वाला एक सामान्य परीक्षण है। यह परीक्षण सरल है: 11:10 का समय दिखाने वाली एक घड़ी बनाइए। डॉक्टर इन चित्रों को 0 (पूरी तरह से खराब) से 5 (बिल्कुल सही) तक का स्कोर देते हैं।
शोधकर्ताओं ने पूछा: क्या यह रोबोट सहायक इन चित्रों को एक मानव डॉक्टर या एक विशेष कंप्यूटर प्रोग्राम की तरह ही अच्छी तरह से ग्रेड दे सकता है?
उन्होंने क्या पाया, इसे यहाँ सरल भाषा में समझाया गया है:
1. रोबोट "बहुत सुरक्षित" है
रोबोट (जो एक प्रकार का उन्नत AI है जिसे मल्टीमॉडल लार्ज लैंग्वेज मॉडल कहा जाता है) चित्र को देखने और उसमें जो दिख रहा है उसे समझने में बहुत अच्छा है। हालाँकि, जब स्कोर देने की बात आती है, तो इसकी एक अजीब आदत है: यह चरम (extreme) होने से बचता है।
स्कोरिंग स्केल को रेडियो के वॉल्यूम नॉब की तरह समझें, जो 0 (म्यूट) से 5 (अधिकतम वॉल्यूम) तक जाता है।
- मानव/कंप्यूटर विशेषज्ञ: यदि कोई ड्राइंग बहुत खराब है, तो वे आत्मविश्वास के साथ नॉब को 0 पर कर देते हैं। यदि वह एकदम सही है, तो वे इसे 5 पर कर देते हैं।
- रोबोट: भले ही ड्राइंग बहुत खराब हो, रोबोट इसे 0 देने में हिचकिचाता है। वह सोचता है, "शायद यह इतना भी बुरा नहीं है," और इसे 1 दे देता है। जब ड्राइंग एकदम सही होती है, तो वह 5 देने में हिचकिचाता है, यह सोचते हुए कि "शायद यह पूरी तरह से परफेक्ट नहीं है," और इसे 4 दे देता है।
रोबोट स्कोर को बीच की ओर (2 या 3 पर) खींचता रहता है। यह एक ऐसे शिक्षक की तरह है जो किसी को भी "A" या "F" देने से डरता है, इसलिए वह सुरक्षित रहने के लिए सबको "B" या "C" दे देता है।
2. "औसत" स्कोर समस्या को छिपा देता है
यदि आप केवल रोबोट के समग्र औसत स्कोर को देखते हैं, तो यह काफी अच्छा दिखता है। यह अक्सर मानव स्कोर के "काफी करीब" (एक अंक के भीतर) होता है।
शोधकर्ताओं ने इसकी तुलना मौसम के पूर्वानुमान से की। यदि कोई पूर्वानुमान कहता है कि "तापमान 70 डिग्री रहेगा" हर दिन, और वास्तविक तापमान कभी 60 और कभी 80 होता है, तो औसत त्रुटि (error) कम होती है। लेकिन यदि आपको यह जानने की आवश्यकता है कि क्या बारिश होने वाली है (एक विशिष्ट चरम स्थिति), तो वह पूर्वानुमान बेकार है।
इसी तरह, रोबोट के "सुरक्षित" मध्यम स्कोर कागजों पर अच्छे दिखते हैं, लेकिन वे सबसे महत्वपूर्ण मामलों में विफल हो जाते हैं:
- खतरा: यदि किसी मरीज की ड्राइंग बहुत खराब है (स्कोर 0 या 1), तो रोबोट उसे 2 कह सकता है। इसका मतलब यह हो सकता है कि एक बीमार व्यक्ति छूट गया और उसे आवश्यक मदद नहीं मिल पाई।
- भ्रम: यदि किसी मरीज की ड्राइंग एकदम सही है (स्कोर 5), तो रोबोट उसे 4 कह सकता है। इससे एक स्वस्थ व्यक्ति के लिए अनावश्यक चिंता या अतिरिक्त परीक्षण हो सकते हैं।
3. रोबोट को ठीक करने की कोशिश काम नहीं आई
शोधकर्ताओं ने रोबोट को कुछ अच्छे और बुरे चित्रों के उदाहरण दिखाकर उसे अधिक आत्मविश्वासी बनने के लिए "सिखाने" की कोशिश की (इसे "फ्यू-शॉट प्रॉम्प्टिंग" कहा जाता है)।
- परिणाम: यह थोड़ा बेहतर हुआ, लेकिन फिर भी इसने चरम स्कोर देने से इनकार कर दिया। यह अभी भी बहुत सतर्क था।
उन्होंने निर्देशों से सभी चिकित्सा शब्दों को हटाकर भी कोशिश की, और रोबोट से केवल "कला" को ग्रेड करने के लिए कहा, न कि "चिकित्सा परीक्षण" को।
- परिणाम: इसने वास्तव में रोबोट को और भी खराब बना दिया। यह पता चला कि चिकित्सा संदर्भ ने रोबोट को कार्य समझने में मदद की, लेकिन उस मदद के बावजूद, वह चरम स्कोर देने से बचता रहा।
4. विशेष कंप्यूटर जीत जाता है
शोधकर्ताओं ने एक विशेष कंप्यूटर प्रोग्राम (एक डीप लर्निंग मॉडल) का भी परीक्षण किया जिसे विशेष रूप से इन हजारों घड़ी के चित्रों पर प्रशिक्षित किया गया था।
- परिणाम: इस विशेष कंप्यूटर में "सुरक्षा" वाली समस्या नहीं थी। इसने खराब ड्राइंग को आत्मविश्वास से 0 और अच्छी ड्राइंग को 5 दिया। यह उन चरम स्थितियों में बहुत अधिक सटीक था जहाँ इसकी सबसे अधिक आवश्यकता होती है।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि हालांकि ये शानदार AI रोबोट प्रभावशाली हैं और सही उत्तर के "काफी करीब" पहुँच सकते हैं, लेकिन उनमें बीच के स्तर की ओर झुकने का एक अंतर्निहित पूर्वाग्रह (bias) है। वे एक ऐसे घबराए हुए छात्र की तरह हैं जो "मुझे उत्तर पता है" या "मुझे उत्तर नहीं पता" कहने के लिए हाथ उठाने से डरता है, इसलिए वह बस बीच का रास्ता चुन लेता है।
इसी कारण से, शोधकर्ताओं का कहना है कि हमें रोगी के स्वास्थ्य परीक्षणों पर अंतिम निर्णय लेने के लिए अकेले इन रोबोटों का उपयोग नहीं करना चाहिए। वे सबसे महत्वपूर्ण मामलों (बहुत खराब या बहुत अच्छे) को मिस करने की संभावना रखते हैं क्योंकि वे बहुत अधिक चरम होने से डरते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।