Toward Guarantees for Clinical Reasoning in Vision Language Models via Formal Verification
यह शोध पत्र एक न्यूरोसिम्बोलिक सत्यापन ढांचे (neurosymbolic verification framework) को प्रस्तुत करता है जो विजन-लैंग्वेज मॉडल द्वारा जनरेट किए गए रेडियोलॉजी रिपोर्टों के तार्किक निरंतरता की औपचारिक रूप से ऑडिट करने और गारंटी देने के लिए SMT सॉल्वर और क्लिनिकल नॉलेज बेस का उपयोग करता है, जो प्रभावी रूप से उन मतिभ्रम (hallucinations) और निगमनात्मक विफलताओं (deductive failures) की पहचान करता है और उन्हें समाप्त करता है जिन्हें पारंपरिक मेट्रिक्स नहीं पकड़ पाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास "AI-Robot" नाम का एक बेहद प्रतिभाशाली, तेज़ बोलने वाला मेडिकल इंटर्न है। यह इंटर्न एक्स-रे को देखने और उसमें जो कुछ भी दिख रहा है उसे सटीक, धाराप्रवाह अंग्रेजी में वर्णित करने में अविश्वसनीय रूप से कुशल है। यह पूरे आत्मविश्वास के साथ कह सकता है, "मुझे यहाँ एक छाया (shadow) दिख रही है" या "वहाँ हृदय बड़ा लग रहा है।"
हालाँकि, एक पेंच है: AI-Robot एक बहुत ही बुरा तर्कशास्त्री (logician) है।
कभी-कभी, AI-Robot को एक छाया दिखाई देती है लेकिन वह यह निष्कर्ष देना भूल जाता है कि, "इसका अर्थ है कि फेफड़ों में तरल पदार्थ (fluid) है।" अन्य समय में, यह एक पूरी तरह से स्वस्थ फेफड़े को देखता है लेकिन आत्मविश्वास के साथ लिख देता है, "मैं निमोनिया का निदान करता हूँ," क्योंकि यह सोचता है कि आमतौर पर ऐसा ही होता है। यह एक ऐसे छात्र की तरह है जिसने परीक्षा के उत्तर तो रट लिए हैं लेकिन उसके पीछे के गणित को नहीं सीखा है। वे भाग्य से सही उत्तर दे सकते हैं, या वे एक सुंदर निबंध लिख सकते हैं जिसका कोई तार्किक अर्थ नहीं निकलता।
चिकित्सा जगत में, यह खतरनाक है। डॉक्टर केवल इंटर्न की "धाराप्रवाह" रिपोर्ट पर भरोसा नहीं कर सकते; उन्हें हर एक वाक्य की दोबारा जांच करनी होगी ताकि यह सुनिश्चित हो सके कि निष्कर्ष वास्तव में साक्ष्यों से मेल खाता है। यह थका देने वाला है और काम की गति को धीमा कर देता है।
समस्या: "प्रवाह का जाल" (The Fluency Trap)
वर्तमान में, हम इन AI इंटर्न का परीक्षण एक "गोल्ड स्टैंडर्ड" रिपोर्ट से तुलना करके करते हैं जो एक मानव डॉक्टर द्वारा लिखी गई होती है। हम कंप्यूटर मेट्रिक्स (जैसे शब्दों की गिनती) का उपयोग करके उन्हें ग्रेड देते हैं।
लेकिन यह एक गणित के छात्र को केवल उसकी लिखावट के आधार पर ग्रेड देने जैसा है। यदि छात्र एक सुंदर, लंबा निबंध लिखता है जिसमें कहता है "2 + 2 = 5," लेकिन फैंसी शब्दों का उपयोग करता है, तो एक शब्द-गिनती वाला सिस्टम उसे अच्छा स्कोर दे सकता है क्योंकि शब्द एक वास्तविक रिपोर्ट के समान दिखते हैं। यह पकड़ने में विफल रहता है कि तर्क टूटा हुआ है।
समाधान: "लॉजिक पुलिस" (न्यूरोसिम्बोलिक वेरिफिकेशन)
शोधकर्ताओं ने इन AI इंटर्न के लिए एक नया सिस्टम बनाया है जो "लॉजिक पुलिस ऑफिसर" के रूप में कार्य करता है। वे इसे "न्यूरोसिम्बोलिक वेरिफिकेशन फ्रेमवर्क" कहते हैं।
यह कैसे काम करता है, एक सरल उपमा (analogy) का उपयोग करते हुए:
1. अनुवादक (Autoformalization)
सबसे पहले, AI की अव्यवस्थित, मुक्त रूप से बहने वाली अंग्रेजी रिपोर्ट को एक सख्त, कठोर भाषा में अनुवादित किया जाता है जिसे एक कंप्यूटर पूरी तरह से समझ सके।
- उपमा: कल्पना कीजिए कि AI एक कहानी लिखता है: "आसमान काला है और ज़मीन गीली है।"
- अनुवादक इसे एक सख्त कोड में बदल देता है:
IF (Sky == Dark) AND (Ground == Wet) THEN (It is Raining). - यह टेक्स्ट से सभी अस्पष्टता और "फालतू बातों" को हटा देता है।
2. नियम पुस्तिका (Clinical Knowledge Base)
सिस्टम के पास वास्तविक डॉक्टरों द्वारा लिखी गई एक विशाल, सटीक नियम पुस्तिका है।
- उपमा: यह नियम पुस्तिका कहती है जैसे: "यदि आप फेफड़े के निचले हिस्से में एक गहरा साया देखते हैं, तो इसका अर्थ है कि वहाँ तरल पदार्थ होना चाहिए।" यह पूर्ण कानून है।
3. न्यायाधीश (The SMT Solver)
अब, सिस्टम AI के अनुवादित कोड और नियम पुस्तिका को एक अत्यंत सख्त न्यायाधीश (एक कंप्यूटर प्रोग्राम जिसे Z3 कहा जाता है) के सामने लाता है। न्यायाधीश एक सरल प्रश्न पूछता है: "क्या साक्ष्य इस निष्कर्ष को अनिवार्य रूप से सिद्ध करते हैं?"
न्यायाधीश तर्क को गणितीय रूप से जाँचता है, अनुमान नहीं लगाता। यह तीन प्रकार की त्रुटियाँ ढूंढ सकता है जिन्हें सामान्य परीक्षण चूक जाते हैं:
- भ्रम (The Hallucination): AI कहता है, "मुझे एक टूटी हुई हड्डी दिख रही है," लेकिन साक्ष्य वाले भाग में कभी हड्डी का उल्लेख ही नहीं किया गया। न्यायाधीश कहता है: "असत्य (FALSE)। आपने यह मनगढ़ंत बनाया है।"
- छूटा हुआ निष्कर्ष (The Missed Deduction): AI कहता है, "मुझे एक टूटी हुई हड्डी दिख रही है," लेकिन यह लिखना भूल जाता है कि, "इसलिए, रोगी को प्लास्टर की आवश्यकता है।" न्यायाधीश कहता है: "असत्य (FALSE)। आपने साक्ष्य देखे लेकिन गणित लगाने में विफल रहे।"
- सुसंगत रिपोर्ट (The Consistent Report): AI साक्ष्यों को देखता है, नियमों को लागू करता है, और सही निष्कर्ष लिखता है। न्यायाधीश कहता है: "सत्य (TRUE)। यह तर्क सुदृढ़ है।"
उन्होंने क्या पाया?
शोधकर्ताओं ने चेस्ट एक्स-रे का उपयोग करके सात अलग-अलग AI मॉडलों पर इस "लॉजिक पुलिस" का परीक्षण किया।
- पुराने परीक्षण विफल रहे: मानक शब्द-मिलान परीक्षण उन मॉडलों को उच्च स्कोर देते थे जो वास्तव में तार्किक गलतियाँ कर रहे थे। वे एक ऐसे शिक्षक की तरह थे जो केवल यह देखते थे कि निबंध सुंदर दिख रहा है या नहीं।
- लॉजिक पुलिस ने खामियों को उजागर किया: नए सिस्टम ने पाया कि कई AI मॉडल "स्टोकेस्टिक हैलुसिनेटर्स" (stochastic hallucinators) थे—वे केवल पैटर्न के आधार पर निदान का अनुमान लगा रहे थे, तर्क नहीं कर रहे थे।
- "सेफ्टी फिल्टर": जब उन्होंने इस सिस्टम का उपयोग रिपोर्टों को ठीक करने के लिए किया (अर्थात, किसी भी ऐसे निदान को हटा दिया जो साक्ष्यों द्वारा तार्किक रूप से सिद्ध नहीं किया जा सकता था), तो रिपोर्ट बहुत अधिक सुरक्षित हो गईं।
- समझौता (Trade-off): AI थोड़ा कम "बातूनी" हो गया (उसने कुछ चीजों का अनुमान लगाना बंद कर दिया), लेकिन जब वह बोलता था, तो वह बहुत अधिक सटीक हो गया। उसने झूठ बोलना बंद कर दिया।
बड़ी तस्वीर (The Big Picture)
यह पेपर चिकित्सा में AI पर हमारे भरोसे के तरीके में बदलाव का प्रस्ताव देता है। यह पूछने के बजाय कि, "क्या यह रिपोर्ट ऐसी लगती है जैसे किसी इंसान ने लिखी हो?" हमें पूछना चाहिए, "क्या इस रिपोर्ट को सख्त तर्क का उपयोग करके सत्य सिद्ध किया जा सकता है?"
यह एक ऐसे जादूगर पर भरोसा करने और एक इंजीनियर पर भरोसा करने के बीच का अंतर है जो चीजों को वास्तविक दिखाने में माहिर है, बनाम एक ऐसे इंजीनियर पर जो गणित के साथ यह सिद्ध कर सकता है कि पुल ढहेगा नहीं। इस "लॉजिक पुलिस" चरण को जोड़कर, हम अंततः अस्पतालों में AI सहायकों का उपयोग बिना इस डर के कर सकते हैं कि वे आत्मविश्वास के साथ मनगढ़ंत बातें बना रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।