MedTrustGraph: Purpose-Aware Temporal Heterogeneous Graph Learning for Zero-Trust Authorization of Autonomous Clinical LLM Agents
MedTrustGraph एक उद्देश्य-जागरूक टेम्पोरल हेट्रोजेनियस ग्राफ लर्निंग फ्रेमवर्क है जो स्वायत्त क्लिनिकल LLM एजेंटों द्वारा अनधिकृत कार्यों का पता लगाने में स्टेटिक और सीक्वेंशियल मॉडल्स की तुलना में काफी बेहतर प्रदर्शन करता है, जो एक नियत ज़ीरो-ट्रस्ट पॉलिसी इंजन के साथ रोगी और उद्देश्य संदर्भ के एकीकरण के माध्यम से उच्च सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक अस्पतालों में, इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड (EHR) रोगी देखभाल के केंद्रीय तंत्रिका तंत्र के रूप में कार्य करते हैं, जो लैब परिणामों से लेकर दवाओं की सूची तक सब कुछ संग्रहीत करते हैं। दशकों से, इन रिकॉर्ड्स तक पहुंच को एक सरल नियम द्वारा प्रबंधित किया गया है: यदि आप सही बैज वाले डॉक्टर हैं, तो आप उन रोगियों की फाइलों को देख सकते हैं जो आपके पास असाइन किए गए हैं। यह प्रणाली मनुष्यों के लिए अच्छी तरह काम करती है, जो आम तौर पर अपने काम के संदर्भ को समझते हैं और कार्य पूरा होने पर रुक जाते हैं। हालाँकि, एक नए प्रकार का कार्यकर्ता अस्पताल में प्रवेश कर रहा है: एक स्वायत्त आर्टिफिशियल इंटेलिजेंस (AI) एजेंट। ये बड़े भाषा मॉडल (LLMs) द्वारा संचालित सॉफ्टवेयर प्रोग्राम हैं जो मानव डॉक्टरों की तरह मेडिकल रिकॉर्ड पढ़ सकते हैं, परीक्षणों का आदेश दे सकते हैं और रोगी के इतिहास का सारांश तैयार कर सकते हैं। लेकिन एक इंसान के विपरीत, एक AI स्वाभाविक रूप से यह नहीं जानता कि कब रुकना है। यदि कोई डॉक्टर किसी AI से रोगी की किडनी फंक्शन (गुर्दे की कार्यक्षमता) की जांच करने के लिए कहता है, तो AI अपनी मदद करने की कोशिश में, अनजाने में किसी दूसरे रोगी का मेडिकल इतिहास निकाल सकता है या हजारों असंबंधित फाइलें डाउनलोड कर सकता है। भविष्य की स्वास्थ्य सेवा के लिए मुख्य चुनौती केवल इन एजेंटों को काम करने देने की नहीं है, बल्कि यह सुनिश्चित करने की है कि उनके द्वारा लिया गया प्रत्येक कार्य ठीक वही हो जो इरादा था, हर क्षण।
फोर्डहम यूनिवर्सिटी और रोवन यूनिवर्सिटी के शोधकर्ताओं ने इस समस्या को हल करने के लिए 'मेडट्रस्टग्राफ' (MedTrustGraph) नामक एक नई प्रणाली विकसित की है। एक AI एजेंट के सत्र को लॉग इन करने के बाद विश्वास के एक एकल ब्लॉक के रूप में मानने के बजाय, यह प्रणाली वास्तविक समय में एजेंट द्वारा किए जाने वाले हर कदम पर नज़र रखती है। शोधकर्ताओं ने एक कृत्रिम वातावरण बनाया जो अस्पताल के इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड सिस्टम की नकल करता है, जिसमें हजारों फर्जी रोगी फाइलें बनाई गईं और पांच हजार अलग-अलग परिदृश्यों का अनुकरण किया गया जहाँ एक AI एजेंट अपना काम करने की कोशिश करता है। इनमें से आधे परिदृश्यों में, एजेंटों को अपने कर्तव्यों को सही ढंग से निभाने का निर्देश दिया गया था। अन्य आधे मामलों में, एजेंटों को इस तरह प्रोग्राम किया गया था जैसे कि वे समझौता किए गए (compromised) हों या भ्रमित हों, जिससे वे गलत रोगियों तक पहुँचने, गलत प्रकार के चिकित्सा डेटा को देखने, या बड़ी मात्रा में जानकारी चुराने का प्रयास कर रहे थे। लक्ष्य यह देखना था कि क्या एक कंप्यूटर इन गलतियों को उनके होते ही पहचानना सीख सकता है, जो न केवल इस आधार पर हो कि एजेंट कौन है, बल्कि इस पर भी कि वह क्या कर रहा है, वह इसे क्यों कर रहा है, और उसने एक सेकंड पहले क्या किया था।
यह प्रणाली अस्पताल के वातावरण को संबंधों के एक जीवित, बदलते हुए जाल (web) के रूप में मैप करके काम करती है। इस जाल में, डॉक्टर, रोगी, चिकित्सा उपकरण और विशिष्ट डेटा के टुकड़े सभी एक-दूसरे से जुड़े हुए हैं। शोधकर्ताओं ने अपने सिस्टम को यह सिखाया कि चीजों के क्रम (order) पर ध्यान दिया जाए। उन्होंने पाया कि कार्यों का क्रम अत्यंत महत्वपूर्ण है। उदाहरण के लिए, यदि कोई एजेंट लैब परिणाम पढ़ता है और फिर तुरंत एक सारांश लिखता है, तो यह एक सामान्य प्रवाह है। लेकिन यदि कोई एजेंट लैब परिणाम पढ़ता है और फिर अचानक सौ रोगी रिकॉर्ड डाउनलोड करने की कोशिश करता है, तो सिस्टम पहचान लेता है कि पैटर्न बदल गया है, भले ही एजेंट के पास वैध लॉगिन हो। समय के इस बोध को एजेंट के सौंपे गए कार्य और उस विशिष्ट रोगी की स्पष्ट समझ के साथ जोड़कर, सिस्टम प्रत्येक क्रिया के लिए एक जोखिम स्कोर (risk score) की गणना कर सकता है।
जब शोधकर्ताओं ने अपने सिस्टम का परीक्षण पुराने तरीकों के विरुद्ध किया जो कार्यों को अलग-थलग देखते थे या घटनाओं के समय की अनदेखी करते थे, तो नया दृष्टिकोण काफी अधिक प्रभावी साबित हुआ। उनके सिमुलेशन में, सिस्टम ने 0.89 का AUC प्राप्त किया, जो पिछले सर्वोत्तम तरीकों की तुलना में एक उल्लेखनीय सुधार है, जो लगभग 0.80 के आसपास थे। इससे भी महत्वपूर्ण बात यह है कि सिस्टम ने सीखा कि संदर्भ (context) ही सब कुछ है। जब शोधकर्ताओं ने उस जानकारी को हटा दिया कि एजेंट को किस रोगी की मदद करने के लिए कहा गया था, तो गलतियों को पकड़ने की सिस्टम की क्षमता तेजी से गिर गई। इसी तरह, जब उन्होंने एजेंट को किए जाने वाले विशिष्ट चिकित्सा कार्य की जानकारी हटा दी, तो इसके प्रदर्शन में भी गिरावट आई। इसने पुष्टि की कि यह जानना कि "कौन" और "क्यों" है, उतना ही महत्वपूर्ण है जितना कि "क्या" को जानना।
शोधकर्ताओं ने अपने सिस्टम को पूरी तरह से स्वचालित होने के बजाय सतर्क रहने के लिए भी डिज़ाइन किया है। हर अनुरोध के लिए केवल "हाँ" या "ना" कहने के बजाय, सिस्टम तीन-चरणीय निर्णय प्रक्रिया का उपयोग करता है। यदि कोई क्रिया सुरक्षित दिखती है, तो उसे तुरंत आगे बढ़ने की अनुमति दी जाती है। यदि कोई क्रिया संदिग्ध दिखती है, तो सिस्टम इसे मानव समीक्षा के लिए फ्लैग (flag) करता है। यदि कोई क्रिया स्पष्ट रूप से खतरनाक है, तो उसे तुरंत ब्लॉक कर दिया जाता है। अपने परीक्षणों में, इस दृष्टिकोण ने यह सुनिश्चित किया कि कोई भी अनधिकृत प्रयास बिना जांच के आगे न बढ़ सके; इसके बजाय, सिस्टम ने उनमें से अधिकांश को ब्लॉक कर दिया और शेष संदिग्ध मामलों को मानव समीक्षा के लिए फ्लैग किया। इसने कुल मामलों में केवल लगभग दो प्रतिशत बार ही मानव सहायता मांगी, जिससे अस्पताल के कर्मचारियों का कार्यभार कम रहा और सुरक्षा का उच्च स्तर भी बना रहा।
यह ध्यान देना महत्वपूर्ण है कि ये परिणाम एक सावधानीपूर्वक निर्मित सिमुलेशन से आए हैं, न कि किसी लाइव अस्पताल से। प्रशिक्षण और परीक्षण के लिए उपयोग किया गया डेटा पूरी तरह से कृत्रिम (synthetic) था, जिसे शोधकर्ताओं द्वारा वास्तविक रोगी जानकारी का उपयोग किए बिना वास्तविक मेडिकल रिकॉर्ड की नकल करने के लिए बनाया गया था। क्योंकि "गलती" क्या मानी जाएगी, इसके नियम स्वयं सिमुलेशन के भीतर ही निर्मित किए गए थे, इसलिए कुछ क्षेत्रों में सिस्टम के पूर्ण स्कोर उन विशिष्ट नियमों के पालन को दर्शाते हैं जिनका पालन किया गया था, न कि यह कि वह वास्तविक दुनिया के अस्पताल की अव्यवस्थित अनिश्चितता को कैसे संभालेगा। शोधकर्ता स्पष्ट हैं कि यह एक 'प्रूफ ऑफ कॉन्सेप्ट' है, जो यह दर्शाता है कि सही प्रकार की निगरानी संभव है। उन्होंने अपने कोड और डेटा को अन्य वैज्ञानिकों के लिए उपलब्ध कराया है ताकि भविष्य में वास्तविक दुनिया के डेटा पर इस पद्धति का परीक्षण किया जा सके।
अध्ययन सुझाव देता है कि जैसे-जैसे आर्टिफिशियल इंटेलिजेंस स्वास्थ्य सेवा में एकीकृत हो रहा है, सुरक्षा केवल एक लॉगिन पर निर्भर नहीं रह सकती। विश्वास निरंतर और प्रासंगिक होना चाहिए। कार्यों के प्रवाह को देखकर और उनके पीछे के उद्देश्य को समझकर, एक सुरक्षा जाल बनाना संभव है जो उल्लंघन होने से पहले ही त्रुटियों को पकड़ ले। यह दृष्टिकोण मानव निरीक्षण की आवश्यकता को प्रतिस्थापित नहीं करता है, बल्कि यह स्वायत्त एजेंटों की जटिलता को प्रबंधित करने का एक तरीका प्रदान करता है, यह सुनिश्चित करता है कि वे मददगार उपकरण बने रहें न कि जोखिम का स्रोत। यह कार्य एक ऐसे भविष्य की नींव रखता है जहाँ AI एजेंट उसी स्तर की सुरक्षा और जवाबदेही के साथ काम कर सकें जिसकी हम मानव चिकित्सा पेशेवरों से अपेक्षा करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।