💻 computer science

ChainTrust-LLM: Secure and Auditable Hallucination Mitigation in Medical LLMs Using Blockchain and Expert Feedback

यह शोध पत्र ChainTrust-LLM को प्रस्तुत करता है, जो एक नवीन ढांचा है जो मेडिकल लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) का पता लगाने और उन्हें कम करने के लिए विशेषज्ञ फीडबैक को एक DAG-आधारित ब्लॉकचेन लेजर के साथ एकीकृत करता है, जिससे न्यूनतम विलंबता (latency) के साथ सुरक्षित, ऑडिट योग्य इंटरैक्शन सुनिश्चित करते हुए त्रुटि दरों में 64.8% की कमी आती है।

मूल लेखक: Muhammad Ismail Mohamand

प्रकाशित 2026-07-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Muhammad Ismail Mohamand

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक ऐसी दुनिया की कल्पना करें जहाँ आप एक सुपर-स्मार्ट रोबोट लाइब्रेरियन से बात कर सकते हैं जिसने अब तक की लिखी गई हर मेडिकल टेक्स्टबुक पढ़ ली है। यह रोबोट, जिसे लार्ज लैंग्वेज मॉडल (LLM) कहा जाता है, बातचीत करने, सवालों के जवाब देने और यहाँ तक कि डॉक्टरों को मरीजों को चीजें समझाने में मदद करने में अद्भुत है। लेकिन यहाँ एक पेंच है: कभी-कभी, यह रोबोट बहुत अधिक आत्मविश्वासी हो जाता है और अपनी ओर से बातें बनाने लगता है। यह आपको बता सकता है कि एक निश्चित दवा उस बीमारी को ठीक करती है जिसे वह नहीं करती, या एक लक्षण का मतलब कुछ ऐसा है जो वह नहीं है। चिकित्सा की दुनिया में, इन मनगढ़ंत तथ्यों को "हैलुसिनेशन" (hallucinations) कहा जाता है, और ये खतरनाक हैं क्योंकि ये गलत निर्णय लेने की ओर ले जा सकते हैं।

इसे ठीक करने के लिए, वैज्ञानिक एक ऐसा सिस्टम बनाने की कोशिश कर रहे हैं जो एक सख्त संपादक (editor) की तरह काम करे। वे एक ऐसा तरीका चाहते हैं जिससे रोबोट के काम की जाँच की जा सके, हर सुधार का एक स्थायी रिकॉर्ड रखा जा सके, और यह सुनिश्चित किया जा सके कि रोबोट अपनी गलतियों से सीखे बिना उन्हें भूले नहीं। यहीं पर "ट्रस्ट" (विश्वास) का विचार आता है। यदि रोबोट एक सवाल का सही जवाब देता है, तो हम उस पर अधिक भरोसा करते हैं; यदि वह गलत होता है, तो हम उस पर कम भरोसा करते हैं। लेकिन इस भरोसे को ट्रैक करना और यह सुनिश्चित करना कि कोई गुप्त रूप से रिकॉर्ड को बदल न सके, एक बड़ी चुनौती है। इसीलिए शोधकर्ता मानव विशेषज्ञों को एक विशेष प्रकार के डिजिटल लेजर "ब्लॉकचेन" के साथ जोड़ने पर विचार कर रहे हैं, जो एक सार्वजनिक नोटबुक की तरह है जिसे एक बार लिखने के बाद कोई मिटा या बदल नहीं सकता।

यही बात "ChainTrust-LLM" के बारे में है। शोधकर्ताओं ने, मुहम्मद इस्माइल मोहम्मद और उनकी टीम के नेतृत्व में, मेडिकल हैलुसिनेशन की समस्या को हल करने का प्रयास किया, विशेष रूप से हाइपोथायरायडिज्म (थायराइड ग्रंथि की एक समस्या) नामक स्थिति के लिए। उन्होंने देखा कि जब रोबोट थकान, वजन बढ़ने या मासिक धर्म चक्र में समस्या जैसे लक्षणों के बारे में बात करते हैं, तो वे अक्सर विवरणों को गलत बताते हैं। इसे ठीक करने के लिए, उन्होंने एक नया फ्रेमवर्क बनाया जिसे ChainTrust-LLM कहा जाता है। इसे एक हाई-टेक सुरक्षा जाल (safety net) के रूप में समझें जो रोबोट की गलतियों और सुधारों को सुरक्षित रूप से लॉग करता है, जिससे भविष्य के प्रदर्शन को बेहतर बनाने के लिए एक ऑडिट योग्य ट्रेल (auditable trail) बनता है।

यह प्रणाली कैसे काम करती है, इसे एक सरल कहानी से समझते हैं: कल्पना कीजिए कि मेडिकल रोबोट एक परीक्षा दे रहा छात्र है। हर बार जब वह एक प्रश्न का उत्तर देता है, तो तीन वास्तविक जीवन के डॉक्टर (विशेषज्ञ) उस उत्तर की जाँच करते हैं। यदि छात्र सही है, तो वे थम्स-अप देते हैं; यदि वह गलत है, तो वे थम्स-डाउन देते हैं और सही उत्तर लिखते हैं। लेकिन इन नोट्स को कागज के ढेर में रखने के बजाय, ChainTrust-LLM हर एक ग्रेड और सुधार को "डिजिटल डायरी" में लिखता है जो ब्लॉकचेन का उपयोग करती है। यह डायरी अपरिवर्तनीय है, जिसका अर्थ है कि एक बार गलती दर्ज होने के बाद, वह प्रमाण के रूप में हमेशा के लिए वहीं रहती है।

इस प्रणाली में समय के बारे में एक विशेष नियम भी है। यदि रोबोट आज एक सवाल का सही जवाब देता है, तो उसका "ट्रस्ट स्कोर" बढ़ जाता है। लेकिन यदि लंबे समय तक इसकी जाँच नहीं की जाती है, तो उसका ट्रस्ट स्कोर धीरे-धीरे कम होता जाता है, जैसे बैटरी कम हो रही हो। यह सुनिश्चित करता है कि सिस्टम ताज़ा बना रहे और पुरानी, संभावित रूप से आउटडेटेड जानकारी पर निर्भर न रहे। जब रोबोट गलती करता है, तो सिस्टम सत्य से अंतर के आधार पर झूठ को पकड़ने के लिए एक "रिस्क डिटेक्टर" (जोखिम डिटेक्टर) का उपयोग करता है, और फिर पूरी घटना को सुरक्षित रूप से लॉग करता है।

टीम ने इस विचार का परीक्षण तीन प्रसिद्ध मेडिकल रोबोट्स पर किया: GPT-4, MedPaLM, और Claude। उन्होंने हाइपोथायरायडिज्म के लक्षणों, उपचारों और लैब टेस्ट के बारे में 300 अलग-अलग सवाल पूछे। ChainTrust-LLM का उपयोग करने से पहले, ये रोबोट अक्सर गलतियाँ कर रहे थे। उदाहरण के लिए, GPT-4 23.1% समय हैलुसिनेशन (मनगढ़ंत बातें बनाना) कर रहा था। इस नए सिस्टम को लागू करने के बाद, वह संख्या नाटकीय रूप से गिरकर 8.5% रह गई। यह लगभग 63% की कमी है। अन्य रोबोटों के लिए भी सुधार उतने ही बड़े थे, जिसमें गलती की दर 64.8% तक कम हो गई।

केवल रोबोटों ने गलतियाँ कम ही नहीं कीं, बल्कि सिस्टम यह जानने में भी बहुत बेहतर हो गया कि वह कब सही है और कब गलत। उनका "ट्रस्ट कैलिब्रेशन एक्यूरेसी" (जो मूल रूप से यह है कि रोबोट का आत्मविश्वास वास्तविकता से कितना मेल खाता है) GPT-4 के लिए लगभग 75% से बढ़कर 91% से अधिक हो गया। विशेषज्ञों ने भी उत्तरों की जाँच करते समय एक-दूसरे के साथ अधिक सहमति जताई, उनका एग्रीमेंट स्कोर 0.65 से बढ़कर 0.87 हो गया। इसका मतलब है कि सिस्टम केवल त्रुटियों को ठीक नहीं कर रहा था; यह सत्य की एक विश्वसनीय, साझा समझ भी बना रहा था।

इस शोध का एक सबसे शानदार हिस्सा यह है कि यह कितनी तेजी से काम करता है। अतिरिक्त जाँच और ब्लॉकचेन रिकॉर्डिंग होने के बावजूद, इस सिस्टम ने केवल एक मामूली देरी जोड़ी। औसतन, एक ट्रांजेक्शन को लॉग करने में केवल 211 मिलीसेकंड (एक चौथाई सेकंड से भी कम) का समय लगा। यह सुझाव देता है कि ऐसे सिस्टम का उपयोग अस्पतालों में बिना किसी देरी के वास्तव में किया जा सकता है।

पेपर यह निष्कर्ष निकालता है कि ChainTrust-LLM मेडिकल AI को सुरक्षित बनाने का एक मजबूत और सुरक्षित तरीका है। मानव विशेषज्ञों, समय-आधारित ट्रस्ट सिस्टम और अपरिवर्तनीय ब्लॉकचेन रिकॉर्ड को जोड़कर, उन्होंने एक ऐसा फ्रेमवर्क बनाया है जो चिकित्सा सलाह में खतरनाक झूठ को काफी हद तक कम करता है। हालांकि इस अध्ययन ने विशेष रूप से थकान और वजन बढ़ने जैसे हाइपोथायरायडिज्म के लक्षणों पर ध्यान केंद्रित किया, लेकिन यह पद्धति अन्य चिकित्सा क्षेत्रों में भी AI को भरोसेमंद बनाने के लिए एक मार्ग प्रशस्त करती है। यह कोई जादुई छड़ी नहीं है जो सब कुछ तुरंत ठीक कर देती है, लेकिन यह हमारे डिजिटल मेडिकल सहायकों पर विश्वास करने वाले भविष्य की ओर एक बहुत ही आशाजनक कदम है।

तकनीकी सारांश: ChainTrust-LLM

1. समस्या विवरण (Problem Statement)

GPT-4, Med-PaLM और Claude जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) ने क्लिनिकल टेक्स्ट जनरेशन, नैदानिक सहायता और रोगी शिक्षा में महत्वपूर्ण क्षमता प्रदर्शित की है। हालाँकि, वास्तविक चिकित्सा परिवेश में उनका एकीकरण हैलुसिनेशन (hallucination) की घटना के कारण बाधित है—जो कि तथ्यात्मक रूप से गलत, मनगढ़ंत या भ्रामक आउटपुट उत्पन्न करने की प्रक्रिया है जिसे उच्च आत्मविश्वास के साथ प्रस्तुत किया जाता है। चिकित्सा क्षेत्र में, ये त्रुटियाँ रोगी की सुरक्षा और नैदानिक विश्वसनीयता के लिए गंभीर जोखिम पैदा करती हैं।

मौजूदा शमन तकनीकें (mitigation techniques), जिनमें रिट्रीवल-ऑग्मेंटेड जनरेशन (RAG), स्ट्रक्चर्ड नॉलेज इंजेक्शन और रिइन्फोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक (RLHF) शामिल हैं, अक्सर पारदर्शिता, ट्रैसेबिलिटी और डोमेन-विशिष्ट मजबूती का अभाव रखती हैं। इसके अलावा, वर्तमान साहित्य अक्सर हलुसिनेशन को एक सार्वभौमिक समस्या के रूप में मानता है, न कि विशिष्ट रोगों के लिए इसके विशेष निहितार्थों को संबोधित करता है। यह शोध पत्र हाइपोथायरायडिज्म (hypothyroidism) से संबंधित हललुसिनेशन का पता लगाने और उन्हें कम करने के लिए एक महत्वपूर्ण अंतराल की पहचान करता है, जो विशेष रूप से थकान (fatigue), वजन बढ़ना (weight gain) और मासिक धर्म स्वास्थ्य संबंधी व्यवधानों (menstrual health disruptions) जैसे सूक्ष्म और आसानी से भ्रमित होने वाले लक्षणों पर ध्यान केंद्रित करता है। इन क्षेत्रों में गलत सूचना से गलत निदान या उपचार छूट सकता है, फिर भी बहुत कम सिस्टम सुरक्षित ऑडिटेबिलिटी के साथ डोमेन-विशिष्ट लक्षण पहचान को संबोधित करते हैं।

2. कार्यप्रणाली: ChainTrust-LLM फ्रेमवर्क

लेखक ChainTrust-LLM का प्रस्ताव करते हैं, जो हललुसिनेशन का पता लगाने और उसे कम करने के लिए ह्यूमन-इन-द-लूप ट्रस्ट कैलिब्रेशन को ब्लॉकचेन-आधारित ऑडिटेबिलिटी के साथ एकीकृत करता है। यह सिस्टम चार मुख्य मॉड्यूल के इर्द-गिर्द डिज़ाइन किया गया है:

2.1 डेटासेट निर्माण

एक रोग-विशिष्ट डेटासेट विकसित किया गया जिसमें 300 क्यूरेटेड मेडिकल प्रॉम्प्ट्स शामिल हैं जिन्हें तीन श्रेणियों में विभाजित किया गया है: लक्षण (थकान, वजन बढ़ना और मासिक धर्म स्वास्थ्य पर ध्यान केंद्रित करते हुए), दवा/उपचार, और प्रयोगशाला परीक्षण/निदान। ग्राउंड ट्रुथ (ground truths) को आधिकारिक स्रोतों (NIDDK, CDC, ATA, MedlinePlus, DailyMed) का उपयोग करके स्थापित किया गया था और तीन अनुभवी एंडोक्रिनोलॉजिस्ट द्वारा सत्यापित किया गया था। इस डेटासेट में बाइनरी हललुसिनेशन लेबल, गंभीरता स्कोर और ट्रस्टवर्थनेस स्कोर शामिल हैं।

2.2 सिस्टम आर्किटेक्चर

फ्रेमवर्क इनपुट को निम्नलिखित पाइपलाइन के माध्यम से प्रोसेस करता है:

प्रॉम्प्ट एनकोडर मॉड्यूल (Prompt Encoder Module): क्लिनिकल क्वेरीज़ को स्ट्रक्चर्ड सिमेंटिक एम्बेडिंग्स में बदलने के लिए एक डोमेन-ट्यून्ड लैंग्वेज एनकोडर (जैसे BioBERT या ClinicalBERT) का उपयोग करता है। एक सॉफ्टमैक्स क्लासिफायर प्रॉम्प्ट्स को विशिष्ट डोमेन (लक्षण, दवा, या लैब) में रूट करता है ताकि तदनुसार हललुसिनेशन थ्रेशोल्ड को समायोजित किया जा सके।
हललुसिनेशन डिटेक्शन मॉड्यूल (Hallucination Detection Module): एक बाइनरी रिस्क क्लासिफायर $R(x)$ को लागू करता है जो हललुसिनेटेड रिस्पॉन्स की पहचान करता है। यह सत्यापित संदर्भ उत्तरों और LLM आउटपुट के बीच तथ्यात्मक समानता को मापने के लिए सिमेंटिक कॉन्ट्राडिक्शन स्कोरिंग ( $C_i = 1 - \text{Sim}(y_i, y^*_i)$ ) का उपयोग करता है। इसमें भाषाई ओवरलैप, नेगेशन डिटेक्शन और क्लिनिकल एंटिटी मैचिंग (ICD-10, ड्रग मेंशन्स) जैसी विशेषताएं शामिल हैं।
ट्रस्ट स्कोरिंग मॉडल (Trust Scoring Model): एक टाइम-वेटेड ट्रस्ट अपडेट मैकेनिज्म पेश करता है जो विशेषज्ञ फीडबैक के अनुकूल होता है। ट्रस्ट स्कोर $T(y, t)$ को नए मानव फीडबैक $f_t(y)$ और पिछले ट्रस्ट स्कोर $T_{prev}(y)$ के आधार पर अपडेट किया जाता है, जिसे एक मेमोरी पैरामीटर $\alpha$ द्वारा संतुलित किया जाता है। महत्वपूर्ण रूप से, मॉडल एक्सपोनेंशियल ट्रस्ट डिके (exponential trust decay) ( $e^{-\lambda \Delta t}$ ) को शामिल करता है ताकि हालिया फीडबैक की अनुपस्थिति में ट्रस्ट स्कोर को कम किया जा सके, जिससे डोमेन-विशिष्ट विश्वसनीयता मूल्यांकन सुनिश्चित होता है।
ब्लॉकचेन ऑडिटिंग लेयर (Blockchain Auditing Layer): छेड़छाड़-मुक्त ट्रैकिंग सुनिश्चित करने के लिए, सभी रिस्पॉन्स-फीडबैक पेयर्स को हैश किया जाता है और एक प्राइवेट, परमिशनड DAG-आधारित ब्लॉकचेन (जिसे geth का उपयोग करके एक परमिशनड एथेरियम नेटवर्क पर लागू किया गया है) पर स्टोर किया जाता है। प्रत्येक ब्लॉक एंट्री में ट्रस्ट स्कोर, फीडबैक लेबल और टाइमस्टैम्प शामिल होता है, जो अखंडता और ट्रैसेबिलिटी सुनिश्चित करने के लिए क्रिप्टोग्राफिक हैश पॉइंटर्स के माध्यम से जुड़ा होता है।

2.3 सुरक्षा और औपचारिकता (Security and Formalization)

यह शोध पत्र एडवरसेरियल परटर्बेशन (adversarial perturbations) के विरुद्ध हललुसिनेशन डिटेक्शन की मजबूती को औपचारिक रूप देता है और DAG-आधारित हैश पॉइंटर्स का उपयोग करके ट्रस्ट चेन इंटीग्रिटी को परिभाषित करता है। एक्सेस कंट्रोल को परमिट किए गए विशेषज्ञ उपयोगकर्ताओं के डिजिटल सिग्नेचर के माध्यम से लागू किया जाता है, और नॉनसेस (nonces) का उपयोग करके रीप्ले हमलों (replay attacks) को रोका जाता है।

3. प्रमुख योगदान

शोध पत्र तीन प्राथमिक योगदानों को रेखांकित करता है:

ह्यूमन-इन-द-लूप ट्रस्ट कैलिब्रेशन: हाइपोथायरायडिज्म से संबंधित रिस्पॉन्स के लिए विशेष रूप से तैयार किया गया एक फ्रेमवर्क, जो ट्रस्ट स्कोर को अपडेट करने के लिए इटरेटिव एक्सपर्ट फीडबैक का उपयोग करता है।
ब्लॉकचेन-ऑडिटेड फीडबैक लूप: एक सुरक्षित लॉगिंग मैकेनिज्म जो हललुसिनेशन सुधारों और ट्रस्ट असेसमेंट की ट्रैसेबिलिटी और अपरिवर्तनीयता (immutability) सुनिश्चित करता है।
टाइम-वेटेड ट्रस्ट डिके मॉडल: निरंतर विशेषज्ञ सत्यापन की अनुपस्थिति में LLM रिस्पॉन्स की विश्वसनीयता का आकलन करने के लिए एक अभिनव दृष्टिकोण।

4. प्रयोगात्मक परिणाम (Experimental Results)

300 प्रॉम्प्ट डेटासेट पर GPT-4, Med-PaLM और Claude का उपयोग करके फ्रेमवर्क का मूल्यांकन किया गया। प्रमुख प्रदर्शन मेट्रिक्स में शामिल हैं:

हललुसिनेशन दर में कमी (Hallucination Rate Reduction): ChainTrust-LLM ने सभी मॉडल्स में हललुसिनेशन दरों को काफी कम कर दिया:
- GPT-4: 23.1% से घटकर 8.5% हो गया (63.2% की कमी)।
- Med-PaLM: 28.7% से घटकर 10.1% हो गया (64.8% की कमी)।
- Claude: 31.9% से घटकर 12.4% हो गया (61.1% की कमी)।
ट्रस्ट कैलिब्रेशन एक्यूरेसी (TCA): मॉडल ट्रस्ट प्रेडिक्शंस और एक्सपर्ट रेटिंग्स के बीच संरेखण (alignment) में काफी सुधार हुआ:
- GPT-4: 75.4% $\rightarrow$ 91.2%
- Med-PaLM: 70.3% $\rightarrow$ 89.5%
- Claude: 67.8% $\rightarrow$ 87.1%
इंटर-रेटर एग्रीमेंट (Inter-Rater Agreement): फ्लेस का कप्पा ( $\kappa$ ) बेसलाइन औसत 0.65 से सुधरकर 0.87 हो गया, जो सुधारे गए आउटपुट्स पर विशेषज्ञों के बीच मजबूत सहमति को दर्शाता है।
लक्षण-विशिष्ट डिटेक्शन (Symptom-Specific Detection): विशिष्ट लक्षणों के लिए हललुसिनेशन का पता लगाने की सटीकता में उल्लेखनीय सुधार हुआ:
- थकान (Fatigue): 68% $\rightarrow$ 92%
- वजन बढ़ना (Weight Gain): 64% $\rightarrow$ 89%
- मासिक धर्म स्वास्थ्य (Menstrual Health): 61% $\rightarrow$ 87%
क्लासिफायर परफॉरमेंस: हललुसिनेशन रिस्क क्लासिफायर ने 0.934 का AUC प्राप्त किया, जो उच्च संवेदनशीलता और विशिष्टता को प्रदर्शित करता है।
ब्लॉकचेन ओवरहेड: सिस्टम ने कम लेटेंसी बनाए रखी, जिसमें औसत ट्रांजैक्शन लेटेंसी 211 ms थी और न्यूनतम गैस कॉस्ट थी, जो रियल-टाइम लॉगिंग क्षमताओं का समर्थन करती है।

5. महत्व और दावे (Significance and Claims)

लेखक दावा करते हैं कि ChainTrust-LLM मेडिकल लैंग्वेज सपोर्ट मॉडल्स को तैनात करने के लिए एक मजबूत, व्याख्या योग्य (explainable) और सुरक्षित समाधान प्रदान करता है। पिछले पोस्ट-हॉक डिटेक्टर्स के विपरीत, यह फ्रेमवर्क एक रियल-टाइम, फीडबैक-आधारित मिटिगेशन लूप के रूप में कार्य करता है। औपचारिक ट्रस्ट मॉडलिंग को ब्लॉकचेन पारदर्शिता के साथ जोड़कर, यह सिस्टम हाई-स्टेक्स मेडिकल AI में ऑडिटेबिलिटी की महत्वपूर्ण आवश्यकता को संबोधित करता है।

अध्ययन इस बात पर जोर देता है कि जबकि सामान्य हललुसिनेशन डिटेक्शन एक सक्रिय क्षेत्र है, हाइपोथायरायडिज्म लक्षणों जैसे कम खोजे गए क्लिनिकल डोमेन पर विशिष्ट ध्यान देना महत्वपूर्ण है। टाइम-डिके ट्रस्ट मॉडल और इम्यूटेबल ऑडिट ट्रेल्स का एकीकरण यह सुनिश्चित करने के लिए एक तंत्र प्रदान करता है कि LLMs समय के साथ विश्वसनीय बने रहें, भले ही मेडिकल नॉलेज विकसित हो रही हो या फीडबैक पैटर्न बदल रहे हों। लेखक निष्कर्ष निकालते हैं कि यह फ्रेमवर्क हेल्थकेयर में ट्रस्टवर्दी AI की दिशा में एक महत्वपूर्ण कदम है, और भविष्य के काम में अन्य लक्षणों तक विस्तार करना और व्यापक प्रयोज्यता के लिए फेडेरेटेड लर्निंग का उपयोग करना शामिल है।