DeepImagine: Learning Biomedical Reasoning via Successive Counterfactual Imagining

तकनीकी सारांश: DeepImagine: क्रमिक प्रतितथ्यात्मक कल्पना (Successive Counterfactual Imagining) के माध्यम से बायोमेडिकल तर्क सीखना

1. समस्या विवरण (Problem Statement)

भावी नैदानिक परीक्षणों (clinical trials) के परिणामों की भविष्यवाणी करना एक महत्वपूर्ण लेकिन अत्यंत कठिन कार्य है, जो लार्ज लैंग्वेज मॉडल्स (LLMs) और पारंपरिक मशीन लर्निंग मॉडल्स के लिए चुनौतीपूर्ण बना हुआ है। वर्तमान दृष्टिकोण आमतौर पर सहसंबंधी भविष्यवाणी (correlational prediction) पर निर्भर करते हैं—जहाँ परीक्षण के गुणों (जैसे नामांकन आकार, चरण, भूगोल, प्रायोजक) को सफलता की भविष्यवाणी करने के लिए संख्यात्मक विशेषताओं के रूप में माना जाता है। हालाँकि, ये विधियाँ उन कारण तंत्रों (causal mechanisms) को पकड़ने में विफल रहती हैं जो यह निर्धारित करते हैं कि प्रयोगात्मक स्थितियों (जैसे खुराक, परिणाम माप, या रोगी जनसांख्यिकी) में परिवर्तन कैसे परिणामों को प्रभावित करते हैं। लेखक यह परिकल्पना करते हैं कि यद्यपि नैदानिक परीक्षणों का "वास्तविक" कारण नियम छिपा हुआ है, फिर भी नियंत्रित परिवर्तनों (controlled perturbations) के माध्यम से यह देखना कि परिणाम कैसे बदलते हैं, इसके द्वारा इसे अनुमानित किया जा सकता है।

2. कार्यप्रणाली (Methodology)

लेखक DeepImagine का प्रस्ताव करते हैं, जो एक ढांचा (framework) है जो LLM की भूमिका को क्रमिक प्रतितथ्यात्मक कल्पना (Successive Counterfactual Imagining) के माध्यम से एक सहसंबंधी भविष्यवक्ता से बदलकर एक यांत्रिक तर्ककर्ता (mechanistic reasoner) में बदल देता है।

• मुख्य अवधारणा (क्रमिक प्रतितथ्यात्मक कल्पना): एक लक्षित विन्यास $x(T)$ से सीधे एक लक्षित परीक्षण परिणाम $R(T)$ की भविष्यवाणी करने के बजाय, मॉडल स्थानीय "क्या-होता-यदि" (what-if) रूपांतरणों की एक श्रृंखला के माध्यम से आगे बढ़ता है। एक ज्ञात ऐतिहासिक परीक्षण $x(0)$ और उसके परिणाम $R(0)$ से शुरू करते हुए, मॉडल यह अनुमान लगाने के लिए पुनरावृत्ति करता है कि जैसे-जैसे वह मध्यवर्ती अवस्थाओं $x(1), x(2), \dots, x(T)$ से गुजरता है, परिणाम कैसे बदलते हैं, जहाँ प्रत्येक चरण में केवल एक समय में एक प्रयोगात्मक चर (variable) को बदला जाता है।
• प्रशिक्षण पाइपलाइन (Training Pipeline):
  • प्राकृतिक प्रतितथ्यात्मक (सुपरवाइज्ड फाइन-ट्यूनिंग - SFT): मॉडल को वास्तविक दुनिया के डेटा पर प्रशिक्षित किया जाता है जहाँ "प्राकृतिक" जोड़े मौजूद होते हैं। इसमें शामिल हैं:
    • परिणाम-माप जोड़े (Outcome-measure pairs): एक ही परीक्षण के भीतर एक रिपोर्ट किए गए परिणाम से दूसरे की भविष्यवाणी करना।
    • डोज-रेंजिंग जोड़े (Dose-ranging pairs): एक ही परीक्षण के भीतर एक खुराक (dosage) से दूसरी खुराक के परिणामों की भविष्यवाणी करना।
  • अनुमानित प्रतितथ्यात्मक (रीइन्फोर्समेंट लर्निंग - RL): उन चरों के लिए जहाँ प्राकृतिक जोड़े मौजूद नहीं हैं (जैसे भूगोल या दवा का तंत्र), लेखक अत्यधिक समान परीक्षणों को खोजने के लिए एक सूचना पुनर्प्राप्ति (information retrieval) पाइपलाइन का उपयोग करते हैं। चूंकि मध्यवर्ती परिणाम अवलोकनीय नहीं होते, इसलिए वे ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइजेशन (GRPO) का उपयोग करते हैं। मॉडल को केवल अपने अंतिम भविष्यवाणी की अंतिम शुद्धता (terminal correctness) के लिए पुरस्कृत किया जाता है, जो इसे प्रशंसनीय गुप्त तर्क पथों (latent reasoning trajectories) को खोजने के लिए मजबूर करता है।
  • सिंथेटिक रीजनिंग ट्रेसेस (Synthetic Reasoning Traces): SFT की गुणवत्ता में सुधार के लिए, लेखक एक शक्तिशाली शिक्षक मॉडल (GPT-5.4) का उपयोग करते हैं ताकि यह उत्पन्न किया जा सके कि क्यों एक परिवर्तन एक विशिष्ट परिणाम में परिवर्तन का कारण बनता है। यह मॉडल को केवल यह नहीं सिखाता कि क्या भविष्यवाणी करनी है, बल्कि यह भी सिखाता है कि कैसे तर्क करना है।
• डेटा पुनर्प्राप्ति (Data Retrieval): वे "M-अनुमानित प्रतितथयात्मक जोड़ों" (M-approximate counterfactual pairs) की पहचान करने के लिए NV-Embed-v2 एम्बेडिंग्स का उपयोग करते हुए एक ग्राफ-आधारित दृष्टिकोण का उपयोग करते हैं—ऐसे परीक्षण जो समान गुणों की एक उच्च संख्या साझा करते हैं।

3. मुख्य योगदान (Key Contributions)

• बायोमेडिकल LLMs के लिए एक नया प्रतिमान: यह सरल पैटर्न मिलान से आगे बढ़कर अनुक्रमिक स्थानीय संक्रमणों (sequential local transitions) के माध्यम से स्ट्रक्चरल कॉज़ल मॉडल्स (SCMs) को अनुमानित करने की ओर बढ़ता है।
• हाइब्रिड प्रशिक्षण ढांचा (Hybrid Training Framework): उपलब्ध नैदानिक डेटा की उपयोगिता को अधिकतम करने के लिए SFT (उच्च-निश्चितता वाले प्राकृतिक जोड़ों के लिए) को RL (कम-निश्चितता वाले अनुमानित जोड़ों के लिए) के साथ जोड़ता है।
• सिंथेटिक कॉज़ल सुपरविजन: यह प्रदर्शित करता है कि प्रशिक्षण को सिंथेटिक, विशेषज्ञ-सत्यापित तर्क ट्रेसेस के साथ बढ़ाने से मॉडल की बहु-चरणीय प्रतितथ्यात्मक तर्क करने की क्षमता में उल्लेखनीय वृद्धि होती है।
• व्याख्यात्मकता (Interpretability): यह ढांचा तर्क यात्राओं (reasoning trajectories) को उत्पन्न करता जिसका विश्लेषण नैदानिक परीक्षण तंत्र के संरचित, व्याख्या योग्य कारण मॉडलों को पुनः प्राप्त करने के लिए किया जा सकता है।

4. परिणाम (Results)

लेखकों ने एक फाइन-ट्यून्ड Qwen3.5-9B मॉडल का मूल्यांकन एक मजबूत बेसलाइन (o3-mini-2025-01-31) के विरुद्ध दो विशिष्ट मूल्यांकन सेटों पर किया:

• परिणाम-माप व्यवधान (Outcome-measure Perturbation): एक ज्ञात परिणाम के आधार पर एक नए परिणाम माप की भविष्यवाणी करना।
• स्टडी-आर्म व्यवधान (Study-arm Perturbation): एक ज्ञात खुराक/आर्म के आधार पर एक अलग खुराक/आर्म के परिणाम की भविष्यवाणी करना।

प्रदर्शन लाभ:

• परिणाम व्यवधान (Outcome Perturbation): फाइन-ट्यून्ड Qwen मॉडल ने Macro F1 75.50 और Weighted Accuracy 74.81 प्राप्त किया, जो o3-mini (Macro F1: 67.10; Weighted Acc: 64.71) से काफी बेहतर रहा।
• आर्म व्यवधान (Arm Perturbation): फाइन-ट्यून्ड Qwen मॉडल ने Macro F1 72.25 और Weighted Accuracy 74.72 प्राप्त किया, जो o3-mini (Macro F1: 64.46; Weighted Acc: 63.40) से बेहतर रहा।

5. महत्व (Significance)

DeepImagine यह प्रदर्शित करता है कि अपेक्षाकृत छोटे LLMs (10B पैरामीटर्स से कम) भी बड़े, अत्याधुनिक मॉडल्स से कहीं अधिक बेहतर प्रदर्शन कर सकते हैं, यदि उन्हें सीधे सहसंबंधों के बजाय कारण संक्रमणों (causal transitions) के माध्यम से तर्क करने के लिए प्रशिक्षित किया जाता है। यह मैकेनिस्टिक बायोमेडिकल लैंग्वेज मॉडल्स विकसित करने के लिए एक व्यावहारिक रोडमैप प्रदान करता है जो न केवल पूर्वानुमान में अधिक सटीक हैं, बल्कि शोधकर्ताओं के लिए अधिक वैज्ञानिक रूप से उपयोगी और व्याख्यात्मक भी हैं।