💬 NLP

Training-Free Adaptation of New-Generation LLMs using Legacy Clinical Models

यह शोध पत्र क्रॉस-आर्किटेक्चर प्रॉक्सी ट्यूनिंग (CAPT) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त विधि है जो मॉडल एंसेम्बलिंग और कंट्रास्टिव डिकोडिंग के माध्यम से मौजूदा लीगेसी क्लिनिकल मॉडल्स का लाभ उठाकर नई पीढ़ी के जनरल-डोमेन LLMs को क्लिनिकल डोमेन के अनुकूल बनाती है, जिससे बिना किसी महंगी रिट्रेनिंग के बेहतर प्रदर्शन प्राप्त होता है।

मूल लेखक: Sasha Ronaghi, Chloe Stanwyck, Asad Aali, Amir Ronaghi, Miguel Fuentes, Tina Hernandez-Boussard, Emily Alsentzer

प्रकाशित 2026-04-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sasha Ronaghi, Chloe Stanwyck, Asad Aali, Amir Ronaghi, Miguel Fuentes, Tina Hernandez-Boussard, Emily Alsentzer

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक शोध पत्र "Training-Free Adaptation of New-Generation LLMs using Legacy Clinical Models" का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।

बड़ी समस्या: "नई कार, पुराना नक्शा" वाली दुविधा

कल्पना कीजिए कि आपने अभी-अभी नवीनतम, सबसे तेज़ और सबसे उन्नत सेल्फ-ड्राइविंग कार खरीदी है (एक नई पीढ़ी का AI मॉडल)। यह तर्क करने, जटिल ट्रैफिक पैटर्न को समझने और सुचारू रूप से चलाने में अविश्वसनीय है। हालाँकि, इसे सामान्य सड़क मानचित्रों पर प्रशिक्षित किया गया है और यह किसी विशिष्ट अस्पताल परिसर के विशिष्ट, पेचीदा शॉर्टकट, स्थानीय रीति-रिवाजों या छिपे हुए खतरों को नहीं जानता है।

चिकित्सा की वास्तविक दुनिया में, अस्पतालों के पास "लेगेसी" (पुराने) नक्शे होते हैं (पुराने क्लिनिकल AI मॉडल) जो जानते हैं कि डॉक्टर नोट्स कैसे लिखते हैं, किन विशिष्ट शब्दों का उपयोग करना चाहिए, और रोगी देखभाल के लिए सुरक्षा नियम क्या हैं। लेकिन ये पुराने नक्शे पुरानी, धीमी कारों पर अटके हुए हैं।

आमतौर पर, नई कार को अस्पताल परिसर में सुरक्षित रूप से चलाने के लिए, आपको इंजन को पूरी तरह से फिर से बनाना पड़ता है और पुराने नक्शे का उपयोग करके कार को शून्य से फिर से प्रशिक्षित करना पड़ता है। यह नई कार के हर नए मॉडल के आने पर उसे खोलने और फिर से बनाने जैसा है। यह अविश्वीय रूप से महंगा, धीमा है और इसमें भारी कंप्यूटिंग शक्ति की आवश्यकता होती है जो कई अस्पतालों के पास नहीं होती।

समाधान: CAPT (द "को-पायलट" सिस्टम)

लेखक एक चतुर तकनीक प्रस्तावित करते हैं जिसे क्रॉस-आर्किटेक्चर प्रॉक्सी ट्यूनिंग (CAPT) कहा जाता है। कार को फिर से बनाने के बजाय, वे एक को-पायलट (सह-पायलट) स्थापित करते हैं।

यह इस प्रकार काम करता है:

ड्राइवर (नया मॉडल): नया, शक्तिशाली AI मॉडल कार चलाता है। यह स्टीयरिंग, गति और बातचीत के सामान्य प्रवाह को संभालता है। यह भाषा को प्रवाहपूर्ण और तार्किक बनाए रखता है।
को-पायलट (पुराना क्लिनिकल मॉडल): पुराना, विशेष चिकित्सा AI यात्री सीट पर बैठता है। वह स्टीयरिंग व्हील को नहीं छूता है। इसके बजाय, वह ड्राइवर को लगातार सुधार के सुझाव फुसफुसाता रहता है।
फुसफुसाहट (कॉन्ट्रास्टिव डिकोडिंग): जब ड्राइवर कुछ कहने वाला होता है, तो को-पायलट जाँचता है: "क्या यह सही चिकित्सा शब्द है? क्या यह कहने का सुरक्षित तरीका है?"
- यदि ड्राइवर कहता है, "दिल की जाँच करें," और को-पायलट जानता है कि इस विशिष्ट सर्जरी के लिए, आपको "परफ्यूजन" (रक्त प्रवाह) की जाँच करनी चाहिए, तो वह फुसफुसाता है, "नहीं, 'परफ्यूजन' कहें।"
- सिस्टम फिर ड्राइवर के चुनाव को को-पायलट के सुझाव के साथ केवल उस विशिष्ट शब्द के लिए बदल देता है, और फिर ड्राइवर को आगे बढ़ने देता है।

जादू: यह बिना कभी भी नई कार को फिर से प्रशिक्षित किए या इंजन को फिर से बनाए बिना, तुरंत, शब्द-दर-शब्द होता है। यह तब भी काम करता है जब ड्राइवर और को-पायलट थोड़ी अलग "भाषाएँ" (अलग तकनीकी शब्दावली) बोलते हैं, क्योंकि सिस्टम चलते-चलते को-पायलट की सलाह का अनुवाद कर देता है।

उन्होंने क्या पाया: "दोनों दुनियाओं का सर्वश्रेष्ठ"

शोधकर्ताओं ने रोगी के नोट्स को वर्गीकृत करने या उपचार योजना लिखने जैसे छह विभिन्न चिकित्सा कार्यों पर इस प्रणाली का परीक्षण किया। यहाँ क्या हुआ:

प्रतिस्पर्धा को पछाड़ना: को-पायलट के साथ नई कार (CAPT) ने अकेले नई कार, अकेले पुरानी कार और यहाँ तक कि मॉडलों को मिलाने की कोशिश करने वाले अन्य तरीकों की तुलना में काफी बेहतर प्रदर्शन किया। औसतन, यह अगले सबसे अच्छे तरीके से 17.6% बेहतर था।
सुरक्षा सर्वोपरि: "जोखिम-मुक्त" चिकित्सा सलाह देने के मामले में, CAPT अन्य तरीकों की तुलना में बहुत अधिक सुरक्षित था। इसने खतरनाक गलतियाँ कम कीं।
श्रम का विभाजन: जब उन्होंने सिस्टम द्वारा चुने गए शब्दों को करीब से देखा, तो उन्होंने एक आदर्श विभाजन देखा:
- नया मॉडल व्याकरण, वाक्य संरचना और समग्र प्रवाह (इसे स्वाभाविक बनाना) को नियंत्रित करता था।
- पुराना मॉडल विशिष्ट चिकित्सा शब्दावली, सुरक्षा चेतावनियों और क्लिनिकल नोट की शैली (इसे ऐसा बनाना जैसे किसी वास्तविक डॉक्टर ने लिखा हो) को नियंत्रित करता था।

शोध पत्र से वास्तविक दुनिया के उदाहरण

लेखकों ने दो विशिष्ट उदाहरण दिखाए जहाँ इस "को-पायलट" ने बड़ा अंतर पैदा किया:

फोरआर्म ग्राफ्ट (Forearm Graft):
- CAPT के बिना: नए मॉडल ने फोरआर्म सर्जरी के लिए "कार्डियक" (हृदय) लक्षणों की निगरानी करने का सुझाव दिया। यह एक सामान्य अनुमान था।
- CAPT के साथ: को-पायलट ने इसे "परफ्यूजन" (रक्त प्रवाह) और "डिस्टल लिम्ब सर्कुलेशन" (दूरस्थ अंग परिसंचरण) में बदल दिया। इसने "24-72 घंटों" के अस्पष्ट समय को अधिक सटीक "24-48 घंटों" में भी बदल दिया जो डॉक्टर वास्तव में उपयोग करते हैं।
सी-सेक्शन (C-Section):
- CAPT के बिना: नए मॉडल ने जल्दी चलने के कारण के रूप में "संक्रमण" (infection) पर नज़र रखने का सुझाव दिया।
- CAPT के साथ: को-पायलट ने इसे "थ्रॉम्बोएम्बोलिज्म" (रक्त के थक्के) में बदल दिया, जो इस सर्जरी के बाद जल्दी चलने का वास्तविक चिकित्सा कारण है। इसने "फंडल हाइट" (गर्भाशय के आकार का माप) और "लोचिया" (प्रसव के बाद का रक्तस्राव) की विशिष्ट जाँच भी जोड़ी, जो महत्वपूर्ण सुरक्षा मानक हैं लेकिन जेनेरिक मॉडल में गायब थे।

निष्कर्ष

यह शोध पत्र सिद्ध करता है कि अस्पतालों को हर बार एक नया, स्मार्ट मॉडल आने पर अपने AI को फिर से प्रशिक्षित करने के लिए लाखों डॉलर और वर्षों का समय खर्च करने की आवश्यकता नहीं है।

CAPT का उपयोग करके, वे एक बिल्कुल नए, शक्तिशाली AI को तुरंत उनके पुराने, विशेष चिकित्सा AI की विशिष्ट भाषा और सुरक्षा आदतों को "सिखा" सकते हैं। यह एक प्रतिभाशाली नए इंटर्न को एक अनुभवी मेंटर (गुरु) देने जैसा है जो उसके कान में सही उत्तर फुसफुसाता है, जिसके परिणामस्वरूप एक ऐसी टीम तैयार होती है जो अत्यधिक बुद्धिमान और नैदानिक रूप से सटीक दोनों है, और वह भी बिना किसी अतिरिक्त प्रशिक्षण के।

यहाँ Ronaghi et al. के शोध पत्र "Training-Free Adaptation of New-Generation LLMs using Legacy Clinical Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

सामान्य-डोमेन के लार्ज लैंग्वेज मॉडल्स (LLMs) की तीव्र प्रगति ने उनके क्लिनिकल डोमेन (नैदानिक क्षेत्र) में अनुकूलन की तुलना में अधिक गति प्राप्त कर ली है। जबकि अत्याधुनिक सामान्य मॉडल उत्कृष्ट तर्क (reasoning) और प्रवाह (fluency) रखते हैं, उनमें अक्सर विशिष्ट क्लिनिकल ज्ञान की कमी होती है, वे मतिभ्रम (hallucinations) प्रदर्शित करते हैं, और क्लिनिकल दस्तावेज़ीकरण शैलियों का पालन करने में विफल रहते हैं।

वर्तमान सीमा: पारंपरिक डोमेन अनुकूलन (कंटीन्यूड प्रीट्रेनिंग और इंस्ट्रक्शन ट्यूनिंग) अत्यधिक गणनात्मक (computationally) और संसाधन-गहन है। इसके लिए प्रत्येक नए मॉडल जनरेशन (जैसे, MedPalm 1 से MedPalm 2 में जाना) के लिए पुन: प्रशिक्षण की आवश्यकता होती है, जिससे एक अंतराल (lag) पैदा होता है जहाँ स्वास्थ्य सेवा संस्थान महत्वपूर्ण निवेश के बिना नई मॉडल क्षमताओं का लाभ नहीं उठा पाते हैं।
मौजूदा समाधानों में अंतराल: मौजूदा मॉडल एन्सेंबलिंग विधियाँ (जैसे UNiTE) और प्रॉक्सी ट्यूनिंग तकनीकें आम तौर पर साझा टोकनाइज़र या ओवरलैपिंग क्षमताओं को मानती हैं। वे विजातीय शब्दावलियों (disjoint vocabularies) (अलग-अलग टोकनाइज़र) और असममित क्षमताओं (asymmetric capabilities) (जैसे, एक नया सामान्य मॉडल बनाम एक पुराना, विशिष्ट क्लिनिकल मॉडल) वाले मॉडल्स को संयोजित करने में संघर्ष करती हैं।

2. कार्यप्रणाली: क्रॉस-आर्किटेक्चर प्रॉक्सी ट्यूनिंग (CAPT)

लेखक CAPT का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, इन्फरेंस-टाइम मॉडल एन्सेंबलिंग दृष्टिकोण है जो एक नई-पीढ़ी के सामान्य-डोमेन मॉडल ( $M_{new}$ ) को एक लेगेसी क्लिनिकल मॉडल ( $M_{old-clin}$ ) और उसके बेस काउंटरपार्ट ( $M_{old}$ ) के साथ जोड़ता है।

मुख्य तंत्र (Core Mechanism)

CAPT डिकोडिंग चरण के दौरान कॉन्ट्रास्टिव डिकोडिंग (contrastive decoding) का उपयोग करके क्लिनिकल सिग्नल्स को चुनिंदा रूप से इंजेक्ट करने के लिए कार्य करता है, जबकि सामान्य मॉडल के तर्क को सुरक्षित रखता है।

उम्मीदवार चयन (Candidate Selection): प्रत्येक डिकोडिंग स्टेप पर, सिस्टम नई-पीढ़ी के सामान्य मॉडल ( $M_{new}$ ) से शीर्ष- $k$ उम्मीदवार टोकन (डिफ़ॉल्ट $k=20$ ) चुनता है।
क्रॉस-आर्किटेक्चर मैपिंग: चूंकि $M_{new}$ $M_{n e w}$ और क्लिनिकल मॉडल्स की शब्दावलियाँ अलग-अलग हैं, CAPT एक डिकोड-रीटोकनाइज़ मैपिंग ( $f$ $f$ ) का उपयोग करता है:
- $M_{new}$ की शब्दावली से एक टोकन को उसके स्ट्रिंग रूप में डिकोड किया जाता है।
- उस स्ट्रिंग को क्लिनिकल मॉडल के टोकनाइज़र ( $T_{old}$ ) का उपयोग करके पुन: टोकनाइज़ किया जाता है ताकि क्लिनिकल शब्दावली में संगत टोकन पाया जा सके।
लॉग-प्रोबेबिलिटी एडजस्टमेंट: प्रत्येक उम्मीदवार टोकन के लॉग-प्रोबेबिलिटी को "क्लिनिकल नॉलेज ऑफसेट" का उपयोग करके समायोजित किया जाता है। यह ऑफसेट क्लिनिकल मॉडल ( $M_{old-clin}$ $M_{o l d - c l in}$ ) और उसके अनट्रेन्ड बेस ( $M_{old}$ $M_{o l d}$ ) के लॉग-प्रोबेबिलिटी के बीच का अंतर है:
$s(i) = \log p_{new}(i | x_{1:t}) + \alpha \left( \log p_{old-clin}(f(i) | x_{1:t}) - \log p_{old}(f(i) | x_{1:t}) \right)$
- जहाँ $\alpha$ एक स्केलिंग फैक्टर है (जिसे 1.0 पर सेट किया गया है)।
- यह डेल्टा क्लिनिकल फाइन-ट्यूनिंग के दौरान सीखे गए ज्ञान को अलग करता है, जिससे बेस मॉडल का सामान्य भाषाई पूर्वाग्रह हट जाता है।
चयन (Selection): उच्चतम समायोजित स्कोर वाला टोकन चुना जाता है और कॉन्टेक्स्ट में जोड़ा जाता है।

कार्यान्वयन विवरण (Implementation Details)

उपयोग किए गए मॉडल्स:
- $M_{new}$ : Qwen3-30B (नई-पीढ़ी का सामान्य मॉडल)।
- $M_{old-clin}$ : MeLLaMA-13B-chat (लेगेसी क्लिनिकल मॉडल)।
- $M_{old}$ : LLaMA-2-13B-base (बेस काउंटरपार्ट)।
बाधाएं (Constraints): यह विधि ब्लैक-बॉक्स API का समर्थन करती है जहाँ केवल शीर्ष- $k$ लॉग-प्रोबेबिलिटी उजागर की जाती है, जो इसे परिनियोजन (deployment) के लिए व्यावहारिक बनाती है।

3. प्रमुख योगदान

ट्रेनिंग-फ्री अनुकूलन: CAPT को पेश करता है, जो नए जनरल मॉडल्स को अनुकूलित करने के लिए बिना किसी अतिरिक्त प्रशिक्षण या फाइन-ट्यूनिंग के लेगेसी, डोमेन-अनुकूलित मॉडल्स के पुन: उपयोग को सक्षम बनाता है।
विजातीय शब्दावली समर्थन: डिकोड-रीटोकनाइज़ मैपिंग के माध्यम से अलग-अलग टोकनाइज़र वाले मॉडल्स को संयोजित करने की आर्किटेक्चरल बाधा को हल करता है, जिससे आधुनिक आर्किटेक्चर के साथ पुराने क्लिनिकल मॉडल्स का एकीकरण संभव होता है।
चयनात्मक एकीकरण: यह प्रदर्शित करता है कि CAPT केवल संभावनाओं का औसत नहीं निकालता है, बल्कि क्लिनिकल निर्णय लेने और दस्तावेज़ीकरण शैली से संबंधित टोकन को चुनिंदा रूप से बढ़ाता है, जबकि भाषाई संरचना और प्रवाह के लिए सामान्य मॉडल को नियंत्रण देता है।

4. परिणाम

विधि का मूल्यांकन छह क्लिनिकल कार्यों (3 वर्गीकरण, 3 टेक्स्ट जनरेशन) पर Macro-F1, Accuracy, MedHELM LLM-jury scores, और MedVAL risk-free प्रतिशत जैसे मेट्रिक्स का उपयोग करके किया गया।

प्रदर्शन लाभ:
- CAPT ने लगातार व्यक्तिगत मॉडल्स और अत्याधुनिक बेसलाइन्स (UniTE और Proxy Tuning) दोनों को पछाड़ दिया।
- औसत सुधार: सभी मेट्रिक्स में UniTE पर +17.6% और Proxy Tuning पर +41.4% का सुधार।
- सुरक्षा: टेक्स्ट जनरेशन में "रिस्क-फ्री" आउटपुट में महत्वपूर्ण सुधार (जैसे, UniTE पर +13.94%), जो बेहतर क्लिनिकल सुरक्षा को दर्शाता है।
टोकन-स्तरीय विश्लेषण:
- क्लिनिकल मॉडल का प्रभाव: इसने क्लिनिकल निर्णय लेने (जैसे, हेडर, असेसमेंट टर्म्स) और दस्तावेज़ीकरण शैली (जैसे, हेजिंग, रिपोर्टिंग वर्ब्स) से संबंधित टोकन को दृढ़ता से प्रभावित किया।
- सामान्य मॉडल का प्रभाव: इसने भाषाई संरचना, फॉर्मेटिंग और सामान्य मॉर्फिम्स (morphemes) पर नियंत्रण बनाए रखा।
- चिकित्सा ज्ञान: मुख्य चिकित्सा शब्दावली के लिए लगभग शून्य बदलाव पाया गया, जो सुझाव देता है कि दोनों मॉडल तथ्यों पर सहमत हैं, लेकिन CAPT क्लिनिकल परंपराओं के अनुरूप उस ज्ञान को व्यक्त करने के तरीके में सुधार करता है।
चिकित्सक केस स्टडीज:
- दो बोर्ड-सर्टिफाइड चिकित्सकों ने आउटपुट की समीक्षा की, जिसमें नोट किया गया कि CAPT ने क्लिनिकल विशिष्टता (जैसे, "agents" को "analgesics" में बदलना), संदर्भगत सटीकता (जैसे, निगरानी समयसीमा को 24-72h से 24-48h में सुधारना), और सुरक्षा-महत्वपूर्ण सिफारिशों (जैसे, जेनेरिक इन्फेक्शन संकेतों के बजाय प्रसवोत्तर रक्तस्राव के संकेतों पर जोर देना) में सुधार किया।

5. महत्व और प्रभाव

संसाधन दक्षता: CAPT उन स्वास्थ्य सेवा संस्थानों के लिए एक व्यवहार्य मार्ग प्रदान करता है जिनके पास सीमित कंप्यूटेशनल संसाधन हैं, जिससे वे भारी पुन: प्रशिक्षण लागत के बिना अत्याधुनिक LLMs को अपना सकते हैं।
मॉड्यूलर अनुकूलन: यह लेगेसी क्लिनिकल मॉडल्स को पुन: प्रयोज्य "एडैप्टर्स" में बदल देता है जिन्हें भविष्य के फाउंडेशन मॉडल्स के साथ जोड़ा जा सकता है, जिससे क्लिनिकल वर्कफ़्लो में AI प्रगति का अनुवाद तेज होता है।
अंतराल को पाटना: यह सामान्य मॉडल क्षमताओं और क्लिनिकल प्रयोज्यता के बीच के "लैग" को प्रभावी ढंग से संबोधित करता है, यह सुनिश्चित करता है कि नए मॉडल अपनी रीजनिंग पावर से समझौता किए बिना स्थापित क्लिनिकल AI की सुरक्षा और शैलीगत बारीकियों को विरासत में प्राप्त करें।
सीमाएं और भविष्य का कार्य: यह विधि इन्फरेंस कंप्यूट को बढ़ाती है (तीन मॉडल पास की आवश्यकता होती है) और इसमें सामान्य मॉडल्स की अति-व्याख्यात्मक (over-explanatory) शैलियों को विरासत में मिल सकता है। भविष्य के कार्य में उपयोगकर्ता विशेषज्ञता के आधार पर एडजस्टमेंट कोएफिशिएंट ( $\alpha$ ) का अनुकूली स्केलिंग करना और लेटेंसी को कम करने के लिए छोटे क्लिनिकल मॉडल्स की खोज करना शामिल है।

निष्कर्षतः, CAPT "प्रत्येक मॉडल के लिए पुन: प्रशिक्षण" से "एन्सेंबलिंग के माध्यम से अनुकूलन" की ओर एक प्रतिमान बदलाव (paradigm shift) का प्रतिनिधित्व करता है, जो क्लिनिकल NLP परिनियोजन के लिए एक व्यावहारिक, उच्च-प्रदर्शन समाधान प्रदान करता है।