TEDDY: A Pediatric Foundation Model for Risk Forewarning from ICD-Coded Diagnostic Histories
यह शोध पत्र TEDDY को प्रस्तुत करता है, जो कि बाल चिकित्सा ICD-10 डेटा पर प्रशिक्षित एक संक्षिप्त 1.84-मिलियन-पैरामीटर वाला डिकोडर ट्रांसफॉर्मर है, जो रोग की शुरुआत और विज़िट के समय के पूर्वानुमान में बड़े और अधिक जटिल मॉडलों से काफी बेहतर प्रदर्शन करता है, यह प्रदर्शित करते हुए कि बाल चिकित्सा नैदानिक इतिहास जनसंख्या-स्तर के डेटासेट की आवश्यकता के बिना दुर्लभ और दीर्घकालिक जोखिम भविष्यवाणी के लिए जनरेटिव फाउंडेशन मॉडल्स को प्रभावी ढंग से समर्थन दे सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप किसी कहानी के भविष्य की भविष्यवाणी करने की कोशिश कर रहे हैं, लेकिन पात्र बड़े हो रहे हैं, उनकी आवाज़ें बदल रही हैं, और वे हर दिन नई चीजें सीख रहे हैं। यह बाल चिकित्सा (pediatric medicine) की चुनौती है: एक बच्चा केवल एक छोटा वयस्क नहीं होता। उनके शरीर, उनकी बीमारियाँ, और यहाँ तक कि वे कैसे बीमार होते हैं, यह भी उनके नवजात से किशोर बनने के दौरान तेजी से बदलता है। लंबे समय तक, डॉक्टरों और कंप्यूटर प्रोग्रामों ने ज्यादातर वयस्कों की कहानियों से सीखा है, जिससे बच्चों पर लागू होने पर अक्सर गलत अनुमान लगते हैं। यह एक शहर के नक्शे का उपयोग करके जंगल में रास्ता खोजने जैसा है; नियम अलग होते हैं, और मील के पत्थर मेल नहीं खाते।
बेहतर भविष्यवाणियां करने के लिए, वैज्ञानिक "फाउंडेशन मॉडल्स" बना रहे हैं। इन्हें "सुपर-स्मार्ट कंप्यूटर" के रूप में सोचें जो स्वास्थ्य और बीमारी के पैटर्न को सीखने के लिए लाखों मेडिकल रिकॉर्ड्स को पढ़ते हैं। आमतौर पर, ये मॉडल विशाल होते हैं, जैसे ज्ञान के विशाल पुस्तकालय, और इन्हें वयस्कों के डेटा पर प्रशिक्षित किया जाता है। लेकिन क्या होगा अगर हम एक छोटा, विशिष्ट मॉडल बना सकें जो बचपन की अनूठी, तेज़ गति वाली कहानी को समझ सके? यही वह बड़ा सवाल है जिसे यह शोध पत्र (paper) हल करता है: क्या एक कंप्यूटर केवल एक बच्चे के पिछले मेडिकल दौरों को पढ़कर उसके भविष्य की बीमारी के शुरुआती संकेतों को पहचानना सीख सकता है, यहाँ तक कि उन दुर्लभ बीमारियों के लिए भी जो अभी तक हुई ही नहीं हैं?
मिलिए TEDDY (टेम्पोरल इवेंट डिकोडर फॉर डिज़ीज़ इन यूथ) से। आप TEDDY को एक अत्यंत ध्यान देने वाले बाल रोग विशेषज्ञ के रूप में देख सकते हैं जिसकी हर उस बच्चे की याददाश्त एकदम सटीक है जिसे उसने कभी देखा है। केवल बच्चे के वर्तमान लक्षणों को देखने के बजाय, TEDDY उनके पूरे मेडिकल इतिहास को एक उपन्यास की तरह पढ़ता है, घटनाओं के क्रम और उनके बीच के समय पर विशेष ध्यान देता है। इसका काम यह अनुमान लगाना है कि आगे क्या हो सकता है: क्या इस बच्चे को अस्थमा होगा? क्या उन्हें कोई दुर्लभ आनुवंशिक स्थिति हो सकती है? और सबसे महत्वपूर्ण बात, कब ऐसा हो सकता है?
टीम ने TEDDY को टेक्सास चिल्ड्रन्स हॉस्पिटल के 16 लाख बच्चों के मेडिकल रिकॉर्ड्स के एक विशाल संग्रह पर प्रशिक्षित किया। उन्होंने मॉडल को लगभग 7.3 करोड़ डायग्नोसिस कोड्स (बीमारियों के लिए मानक मेडिकल संक्षिप्त रूप) खिलाए ताकि वह पैटर्न को सीख सके। अपनी इस शक्ति के बावजूद TEDDY एक कंप्यूटर मस्तिष्क के रूप में आश्चर्यजनक रूप से छोटा है, जिसमें केवल 18.4 लाख "पैरामीटर्स" (आंतरिक नॉब्स और डायल जो इसे स्मार्ट बनाते हैं) हैं। इसे समझने के लिए, यह उन विशाल भाषा मॉडलों की तुलना में बहुत छोटा है जिनके बारे में आपने सुना होगा, जिनमें अक्सर अरबों पैरामीटर्स होते हैं।
तो, TEDDY ने क्या पाया?
यह एक बेहतरीन भविष्यवक्ता है, यहाँ तक कि दुर्लभ चीजों के लिए भी
TEDDY अपने काम में बहुत अच्छा है। 797 विभिन्न बीमारियों पर परीक्षण करते समय, इसने उन बच्चों को जो एक विशिष्ट बीमारी से ग्रसित होने वाले थे, उन्हें न होने वाले बच्चों की तुलना में 72% बार (एक स्कोर जिसे AUC कहा जाता है) उच्च रैंक दिया। यह एक बड़ी बात है क्योंकि अधिकांश कंप्यूटर मॉडल दुर्लभ बीमारियों के साथ संघर्ष करते हैं, अक्सर भ्रमित हो जाते हैं या हार मान लेते हैं। लेकिन TEDDY वास्तव में सबसे दुर्लभ स्थितियों के लिए भी बेहतर हो गया। 225 सबसे दुर्लभ बीमारियों (वे जो हर 10,000 बच्चों में से 5 से कम को प्रभावित करती हैं) के लिए, मॉडल अभी भी आश्वस्त और सटीक था, और इसकी भविष्यवाणियां रैंडम अनुमान लगाने से कहीं बेहतर थीं।
यह वर्षों पहले भविष्य देख लेता है
सबसे रोमांचक खोजों में से एक यह है कि TEDDY कितनी दूर देख सकता है। मॉडल किसी बीमारी के आधिकारिक निदान (diagnosis) लिखे जाने से दो साल से अधिक समय पहले "चेतावनी के संकेत" पकड़ सकता है। हालाँकि भविष्यवाणियाँ निदान होने के ठीक पहले सबसे मजबूत होती हैं, लेकिन संकेत वर्षों पहले भी पहचाने जाable रहते हैं। यह बताता है कि एक बच्चे का मेडिकल इतिहास बीमारी के पूरी तरह से उभरने से बहुत पहले उसके भविष्य के स्वास्थ्य के बारे में सुराग रखता है।
यह प्रतियोगिता को हरा देता है
शोधकर्ताओं ने केवल TEDDY बनाया ही नहीं; उन्होंने इसे अन्य कंप्यूटर मॉडलों के साथ एक दौड़ में खड़ा किया। उन्होंने इसकी तुलना पुराने प्रकार के AI (जैसे RNNs और LSTMs) और यहाँ तक कि एक विशाल, सामान्य-उद्देश्य वाले भाषा मॉडल से की जो इससे 1,000 गुना बड़ा है।
- अस्थमा की भविष्यवाणी के लिए, TEDDY का स्कोर 79.3% था, जबकि सबसे अच्छे प्रतियोगी (एक विशाल भाषा मॉडल) का स्कोर केवल 62.7% था।
- ADHD की भविष्यवाणी के लिए, TEDDY का स्कोर 84.7% था, जिसने अगले सर्वश्रेष्ठ मॉडल को पछाड़ दिया जिसका स्कोर 71.7% था।
यह साबित करता है कि बच्चों के स्वास्थ्य को समझने के लिए आपको अरबों डॉलर के विशाल कंप्यूटर की आवश्यकता नहीं है। बच्चों के लिए विशेष रूप से बनाया गया, उनकी अनूठी कहानियों पर प्रशिक्षित एक मॉडल, वयस्कों के लिए बने विशाल मॉडल की तुलना में बहुत बेहतर काम करता है।
यह धोखाधड़ी से कैसे बचता है
वैज्ञानिक बहुत सावधान थे कि TEDDY "चीटिंग" न करे। मेडिकल रिकॉर्ड में, एक डॉक्टर एक ही दिन में कई निदान लिख सकता है। एक चालाक AI दूसरे निदान का अनुमान लगाने के लिए पहले निदान को देख सकता है, जो कि निष्पक्ष नहीं है। TEDDY को उस दिन के किसी भी निदान को देखे बिना अपनी भविष्यवाणी करने के लिए डिज़ाइन किया गया था, जिससे वह केवल बच्चे के पिछले इतिहास पर निर्भर रहने के लिए मजबूर हुआ। उन्होंने यह भी सुनिश्चित किया कि वे बीमार बच्चों की तुलना उसी उम्र और लिंग के अन्य बीमार बच्चों से करें, ताकि मॉडल केवल लड़के या लड़की होने के आधार पर अनुमान न लगा सके।
यह अभी भी पूर्ण नहीं है (अभी तक)
TEDDY यह अनुमान लगाने में बहुत अच्छा है कि क्या हो सकता है, लेकिन यह ठीक कब होगा, इसके बारे में थोड़ा कम सटीक है। यह अगले डॉक्टर के दौरे तक के समय का औसत अंतर मात्र 3 दिन के साथ अनुमान लगा सकता है, जो प्रभावशाली है। हालाँकि, यह दौरों के बीच के बहुत लंबे अंतराल के साथ संघर्ष करता है, और यह अनुमान लगाने में गलती करता है कि बच्चा वापस आने से पहले कितने समय तक प्रतीक्षा करेगा। शोधकर्ता स्वीकार करते हैं कि यह उनके वर्तमान डिज़ाइन की एक सीमा है, जो समय का अनुमान लगाने के लिए एक सरल गणितीय नियम का उपयोग करता है।
निष्कर्ष
यह शोध पत्र दिखाता है कि हम बच्चों के लिए विशेष रूप से बनाए गए कॉम्पैक्ट, शक्तिशाली AI उपकरण बना सकते हैं जो विशाल, वयस्क-केंद्रित मॉडलों से बेहतर प्रदर्शन करते हैं। एक बच्चे के मेडिकल इतिहास को एक अनूठी, विकसित होती कहानी के रूप में मानकर, TEDDY सामान्य और दुर्लभ बीमारियों के जोखिमों को वर्षों पहले पहचान सकता है। हालाँकि यह कोई जादुई क्रिस्टल बॉल नहीं है जो हमें सब कुछ पूरी तरह से बता दे, लेकिन यह एक शक्तिशाली नया उपकरण है जो डॉक्टरों को बीमारियों को जल्दी पकड़ने में मदद कर सकता है, विशेष रूप से उन दुर्लभ बीमारियों के लिए जो अक्सर वर्षों तक बिना निदान के रहती हैं। लेखक सुझाव देते हैं कि अगला कदम इस मॉडल को विभिन्न अस्पतालों में परखना और इसमें विकास चार्ट (growth charts) और लैब परिणामों जैसे अधिक प्रकार के डेटा को जोड़ना है, ताकि भविष्यवाणियां और भी सटीक हो सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।