Hallucination Filtering in Radiology Vision-Language Models Using Discrete Semantic Entropy
यह अध्ययन प्रदर्शित करता है कि उच्च-अनिश्चितता वाले प्रश्नों को बाहर करने के लिए डिस्क्रीट सिमेंटिक एंट्रॉपी (discrete semantic entropy) को लागू करना रेडियोलॉजी में ब्लैक-बॉक्स विजन-लैंग्वेज मॉडल्स की नैदानिक सटीकता में महत्वपूर्ण सुधार करता है क्योंकि यह मतिभ्रम (hallucinations) का प्रभावी ढंग से पता लगाने और उन्हें अस्वीकार करने में सक्षम है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बेहद प्रतिभाशाली, सुपर-फास्ट मेडिकल छात्र है जिसने दुनिया की हर किताब पढ़ ली है। यह छात्र एक एक्स-रे या एमआरआई को देखकर बिल्कुल बता सकता है कि क्या गलत है। लेकिन एक शर्त है: यह छात्र तब तक झूठ बोलने का आदी है जब तक वह 100% निश्चित न हो।
जब वह आश्वस्त होता है, तो वह सही होता है। लेकिन जब वह केवल अनुमान लगा रहा होता है, तो वह आत्मविश्वास के साथ एक ऐसा निदान (diagnosis) गढ़ देता है जो सुनने में तो एकदम सटीक लगता है लेकिन पूरी तरह से मनगढ़ंत होता है। एआई (AI) की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है।
यह पेपर इस "झूठ पकड़ने वाले यंत्र" को सिखाने के बारे में है कि कैसे इस छात्र को गलत उत्तर देने से पहले पकड़ा जाए।
समस्या: आत्मविश्वासी झूठा (The Confident Liar)
रेडियोलॉजिस्ट (वे डॉक्टर जो स्कैन पढ़ते हैं) काम के बोझ से दबे हुए हैं। वे एआई का उपयोग करने में मदद चाहते हैं। लेकिन वर्तमान एआई मॉडल (जैसे GPT-4o) उस मेडिकल छात्र की तरह हैं: वे अद्भुत हो सकते हैं, लेकिन वे तथ्य भी बना लेते हैं।
डरावनी बात क्या है? एआई यह नहीं कहता, "मुझे यकीन नहीं है।" वह कहता है, "यह निश्चित रूप से एक टूटी हुई हड्डी है," भले ही वह केवल एक छाया हो। यदि कोई डॉक्टर इस गलत उत्तर पर भरोसा करता है, तो मरीज को गलत इलाज मिल सकता है।
समाधान: "ग्रुप चैट" टेस्ट
शोधकर्ताओं ने एक चतुर तकनीक निकाली जिसे डिस्क्रीट सिमेंटिक एंट्रॉपी (Discrete Semantic Entropy - DSE) कहा जाता है। इसे ऐसे समझें जैसे एआई से एक ही सवाल को लगातार 15 बार पूछना, लेकिन एक छोटे से ट्विस्ट के साथ: वे एआई को हर बार थोड़ा अधिक "रैंडम" या "रचनात्मक" होने के लिए कहते हैं।
यहाँ इसका उदाहरण है:
कल्पना कीजिए कि आप अपने दोस्त से पूछते हैं, "मैंने नाश्ते में क्या खाया था?"
- परिदृश्य A (सत्य): आप उनसे 15 बार पूछते हैं। वे 15 बार "टोस्ट" कहते हैं। वे सुसंगत (consistent) हैं।
- परिदृश्य B (झूठ/अनुमान): आप उनसे 15 बार पूछते हैं। वे 5 बार "टोस्ट", 4 बार "अंडे", 3 बार "सीरियल" और 3 बार "मुझे नहीं पता" कहते हैं। वे बहुत ही बिखरे हुए हैं।
शोधकर्ताओं ने महसूस किया कि जब एआई अनिश्चित होता है, तो उसके उत्तर पक्षियों के झुंड की तरह बिखर जाते हैं। जब वह आश्वस्त होता है, तो उत्तर एक घने समूह में रहते हैं।
उन्होंने इसे कैसे मापा
उन्होंने एंट्रॉपी (Entropy) की एक गणितीय अवधारणा का उपयोग किया (जो केवल "अराजकता" या "अव्यवस्था" के लिए एक फैंसी शब्द है)।
- कम एंट्रॉपी (Low Entropy): एआई ने हर बार एक ही उत्तर (या बहुत समान उत्तर) दिया। परिणाम: उत्तर पर भरोसा करें।
- उच्च एंट्रॉपी (High Entropy): एआई ने 15 अलग-अलग उत्तर दिए। परिणाम: एआई भ्रमित (hallucinating) हो रहा है। उत्तर को खारिज करें।
जब उन्होंने इसे आज़माया तो क्या हुआ?
उन्होंने दो विशाल मेडिकल इमेज और सवालों के सेट पर इसका परीक्षण किया।
- बेसलाइन (The Baseline): बिना फिल्टर के, एआई केवल 52% बार सही था। वह मूल रूप से एक सिक्का उछालने जैसा था, लेकिन बहुत अधिक आत्मविश्वास के साथ।
- फिल्टर (The Filter): उन्होंने एआई को बताया: "यदि आपके उत्तर अस्त-व्यस्त (high entropy) हैं, तो मुझे उत्तर न दें।"
- परिणाम:
- उन्होंने लगभग आधे सवालों को हटा दिया क्योंकि एआई बहुत भ्रमित था।
- लेकिन जिन सवालों के जवाब उन्होंने दिए, उनमें सटीकता बढ़कर 76% हो गई।
ट्रेड-ऑफ (The Trade-off): यह एक क्लब के सुरक्षा गार्ड की तरह है। यदि गार्ड सख्त (high filter) है, तो वह कम लोगों को अंदर आने देता है, लेकिन अंदर मौजूद लगभग हर कोई वीआईपी (VIP) होता है। यदि गार्ड लापरवाह है, तो हर कोई अंदर आ जाता है, लेकिन वहां बहुत सारे समस्या पैदा करने वाले लोग भी होते हैं। शोधकर्ताओं ने पाया कि सख्त होकर, उन्होंने "समस्या पैदा करने वालों" (गलत उत्तरों) को हटा दिया और "वीआईपी" (सही उत्तरों) को बनाए रखा।
पेच (The "Confident Liar" Problem)
पेपर स्वीकार करता है कि यह कोई जादुई छड़ी नहीं है।
- समस्या: यदि एआई लगातार झूठ बोल रहा है (उदाहरण के लिए, वह आत्मविश्वास से 15 बार लगातार कहता है कि "यह एक टूटी हुई हड्डी है"), तो फिल्टर उसे नहीं पकड़ पाएगा। उत्तर सुसंगत हैं, इसलिए "अराजकता मीटर" (chaos meter) कम रहता है, लेकिन उत्तर फिर भी गलत होता है।
- वास्तविकता: यह तरीका एआई को तब पकड़ता है जब वह भ्रमित होता है, लेकिन यह उसे नहीं पकड़ सकता जब वह आत्मविश्वास के साथ गलत होता है।
यह क्यों महत्वपूर्ण है
यह एक बड़ी प्रगति है क्योंकि यह "ब्लैक बॉक्स" एआई पर काम करता है। आपको यह जानने की ज़रूरत नहीं है कि एआई का दिमाग अंदर से कैसे काम करता; आप बस देखते हैं कि वह क्या कहता है। यह एक छात्र के काम की जाँच करने जैसा है जिसमें उससे एक ही चीज़ को पाँच अलग तरीकों से समझाने के लिए कहा जाता है। यदि वह लड़खड़ाता है, तो आप जानते हैं कि वह वास्तव में उत्तर नहीं जानता।
संक्षेप में: यह पेपर हमें सिखाता है कि कैसे एआई डॉक्टरों को सुरक्षित बनाया जाए। यह उन्हें पूर्ण नहीं बनाता, लेकिन यह हमें यह कहने का एक तरीका देता है कि, "हे, यह एआई अनुमान लगा रहा है। आइए इस उत्तर पर भरोसा न करें और इसके बजाय एक मानव डॉक्टर से पूछें।" यह एक जोखिम भरे, आत्मविश्वासी झूठे को एक सतर्क, सहायक में बदल देता है जो जानता है कि कब चुप रहना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।