Reverse Probing: Supervised Token-level Uncertainty Quantification for Large Language Models in Clinical Text
यह शोध पत्र रिवर्स प्रोबिंग (Reverse Probing) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो बिना किसी नए सैंपलिंग के क्लिनिकल टेक्स्ट सारांशीकरण में टोकन-स्तरीय अनिश्चितता का अनुमान लगाने के लिए आंतरिक मॉडल सक्रियणों (internal model activations) का लाभ उठाता है, जिससे यह सटीकता और दक्षता में मौजूदा बेसलाइनों से बेहतर प्रदर्शन करते हुए मॉडल आत्मविश्वास में व्याख्यात्मक अंतर्दृष्टि प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डॉक्टर हैं जो एक बहुत ही बुद्धिमान, लेकिन कभी-कभी अति-आत्मविश्वासी AI सहायक द्वारा लिखे गए मरीज के सारांश को पढ़ रहे हैं। AI मरीज के अस्पताल में रहने के बारे में एक लंबा रिपोर्ट लिखता है। अधिकांश समय, रिपोर्ट एकदम सही होती है। लेकिन कभी-कभी, AI कोई लक्षण खुद से बना लेता है या कोई संख्या गलत लिख देता है—जिसे "हैलुसिनेशन" (hallucination) कहा जाता है। वास्तविक दुनिया में, एक गलत शब्द भी खतरनाक हो सकता है।
समस्या यह है: हमें यह कैसे पता चलेगा कि AI किस विशिष्ट शब्द को लेकर अनिश्चित है?
वर्तमान की अधिकांश विधियाँ इस समस्या को हल करने के लिए AI से एक ही रिपोर्ट दस बार लिखने के लिए कहती हैं और देखती हैं कि क्या कहानियाँ बदलती हैं। यदि कहानियाँ अलग हैं, तो AI अनिश्चित है। लेकिन यह एक थके हुए डॉक्टर से एक ही डिस्चार्ज सारांश को दस बार लिखने के लिए कहने जैसा है ताकि उनकी आत्मविश्वास की जांच की जा सके। इसमें बहुत समय लगता है, बहुत अधिक पैसा खर्च होता है, और यह लंबे चिकित्सा दस्तावेजों के लिए व्यावहारिक नहीं है।
यह शोध पत्र एक नई विधि पेश करता है जिसे रिवर्स प्रोबिंग (Reverse Probing) कहा जाता है। यह इस प्रकार काम करता है, सरल उपमाओं का उपयोग करते हुए:
1. "रिवर्स" विचार: मुँह नहीं, मन को पढ़ना
AI से यह देखने के लिए कि वह कितना आत्मविश्वासी है कि वह बोलता (नया टेक्स्ट बनाता) है, इसके बजाय शोधकर्ताओं ने निर्णय लिया कि वे AI को उसका अपना मौजूदा टेक्स्ट खिलाएंगे और देखेंगे कि उसका मस्तिष्क कैसे प्रतिक्रिया करता है।
सोचिए कि AI का आंतरिक मस्तिष्क कनेक्शनों का एक विशाल पुस्तकालय है।
- सामान्य विधि: आप लाइब्रेरियन से पूछते हैं, "इस मरीज के बारे में एक कहानी सुनाओ।" यदि लाइब्रेरियन हकलाता है या अलग-अलग कहानियाँ सुनाता है, तो आप जानते हैं कि वह अनिश्चित है।
- रिवर्स प्रोबिंग: आप लाइब्रेरियन को एक पूरी कहानी देते हैं और कहते हैं, "यह वाक्य मुझे वापस पढ़कर सुनाओ, लेकिन ऐसा व्यवहार करो जैसे तुम्हें आखिरी शब्द का पता नहीं है।" फिर, आप लाइब्रेरियन की आँखों (आंतरिक संकेतों) को देखते हैं।
- यदि वाक्य सत्य है (मरीज के वास्तविक रिकॉर्ड द्वारा समर्थित है), तो लाइब्रेरियन की आँखें उत्तर के स्पष्ट, आत्मविश्वासी पथ के साथ चमक उठती हैं।
- यदि वाक्य नकली है (असमर्थित है), तो लाइब्रेरियन की आँखें भ्रमित दिखती हैं, या वे गलत दिशा में देखती हैं। वे वास्तविक रिकॉर्ड में "ग्राउंडिंग" (आधार) नहीं खोज पाते।
शोधकर्ता इसे "रिवर्स" इसलिए कहते हैं क्योंकि वे यह नहीं देख रहे हैं कि AI क्या उत्पन्न करता है; वे यह देख रहे हैं कि AI पहले से मौजूद चीज़ों को कैसे प्रोसेस करता है।
2. "प्रोब" (Probe): नाड़ी की जाँच करना
शोधकर्ता प्रोबिंग नामक एक तकनीक का उपयोग करते हैं। कल्पना कीजिए कि AI एक ब्लैक बॉक्स है। आप इसके अंदर नहीं देख सकते, लेकिन आप इसे एक छड़ी (एक "प्रोब") से मार सकते (poke कर सकते) हैं ताकि देख सकें कि यह कैसे कंपन करता है।
इस अध्ययन में, वे एक क्लिनिकल सारांश और एक "ब्रीफ हॉस्पिटल्स कोर्स" (अस्पताल के कच्चे, तथ्यात्मक नोट्स) लेते हैं। वे दोनों को AI में फीड करते हैं।
- परीक्षण: वे एक बार में एक शब्द छिपा देते हैं (जैसे "रिक्त स्थान भरें") और AI को संदर्भ के आधार पर इसका अनुमान लगाने के लिए कहते हैं।
- संकेत: वे AI के मस्तिष्क के भीतर चार प्रकार के "कंपनों" को मापते हैं:
- आंतरिक संकेत: AI के "विचार" उसके मस्तिष्क की एक परत से दूसरी परत तक कितनी तरह से बदलते हैं।
- अनिश्चितता संकेत: AI का आत्मविश्वास कितना "बिखरा हुआ" है। क्या वह 99% सही होने के बारे में निश्चित है, या वह 50/50 विकल्पों के बीच अनुमान लगा रहा है?
- चिकित्सा ज्ञान: क्या AI इस शब्द को एक चिकित्सा शब्द के रूप में पहचानता है?
- डिस्ट्रीब्यूशनल संकेत (वितरण संबंधी संकेत): यह सबसे महत्वपूर्ण है। वे तुलना करते हैं कि AI वास्तविक अस्पताल नोट्स को देखते समय बनाम जब वह उन्हें नहीं देखता, तब कैसे प्रतिक्रिया करता है। यदि वास्तविक नोट्स हटा दिए जाने पर AI का आत्मविश्वास काफी कम हो जाता है, तो वह शब्द संभवतः असमर्थित है।
3. "डिटेक्टिव" (जासूस): झूठ को पकड़ना
एक बार जब उनके पास प्रत्येक शब्द के लिए ये "कंपन" (डेटा बिंदु) आ जाते हैं, तो वे एक स्मार्ट कंप्यूटर प्रोग्राम (क्लासिफायर) को एक जासूस के रूप में प्रशिक्षित करते हैं।
- जासूस सीखता है: "जब AI का मस्तिष्क भ्रम का यह विशिष्ट पैटर्न दिखाता है, तो वह शब्द शायद एक झूठ है।"
- परिणाम एक दस्तावेज़ का मानचित्र है जहाँ प्रत्येक शब्द को 0 से 1 तक स्कोर किया जाता है। एक उच्च स्कोर का अर्थ है "यह शब्द संदिग्ध है; इसकी जाँच करें।"
4. परिणाम: तेज़ और सटीक
शोधकर्ताओं ने वास्तविक चिकित्सा डेटा पर इसका परीक्षण किया जहाँ विशेषज्ञों ने पहले ही नकली हिस्सों को चिह्नित कर दिया था।
- गति: क्योंकि उन्हें AI को नई कहानियाँ लिखने के लिए नहीं कहना पड़ा, इसलिए यह प्रक्रिया अविश्वसनीय रूप से तेज़ थी। वे 10 मिनट में 100 दस्तावेजों की जाँच कर सके। पुरानी विधियों (AI को 10 बार लिखने के लिए कहना) को समान कार्य के लिए 7 घंटे लगे।
- सटीकता: उनकी "रिवर्स प्रोबिंग" विधि अगले सबसे अच्छे तरीके की तुलना में नकली शब्दों को खोजने में 4 गुना बेहतर थी।
- आश्चर्य: उन्होंने पाया कि छोटे AI मॉडल (7 बिलियन पैरामीटर्स) वास्तव में विशाल 70-बिलियन पैरामीटर वाले मॉडलों की तुलना में अपनी अनिश्चितता दिखाने में बेहतर थे। विशाल मॉडल इतने अति-आत्मविश्वासी थे कि उन्होंने अपने भ्रम को छिपा दिया, जिससे झूठ को पकड़ना कठिन हो गया।
सारांश
रिवर्स प्रोबिंग AI टेक्स्ट के लिए एक झूठ पकड़ने वाले यंत्र (Lie Detector) की तरह है। यह देखने के लिए कि AI अधिक बातें करता है या घबराया हुआ है, उसे और अधिक बोलने के बजाय, आप उसे एक वाक्य खिलाते हैं और उसके आंतरिक "पल्स" (स्पंदन) को देखते हैं। यदि वास्तविक चिकित्सा तथ्यों से किसी शब्द को जोड़ने के प्रयास में उसकी पल्स एक बार चूक जाती है, तो आप जानते हैं कि वह शब्द संभवतः एक 'हैलुसिनेशन' है। यह लंबे मेडिकल रिपोर्ट्स में विशिष्ट त्रुटियों को खोजने के लिए तेज़, सस्ता और अधिक सटीक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।