🤖 machine learning

Knowledge Graphs and Reasoning LLMs for Finding Simple Yet Effective Transcriptomic Perturbation Predictors

यह शोध पत्र प्रदर्शित करता है कि जैविक ज्ञान ग्राफ (biological knowledge graphs) का लाभ उठाने वाला एक सरल K-निकटतम पड़ोसी (K-nearest neighbor) दृष्टिकोण ट्रांसक्रिप्टोमिक व्यवधान प्रभावों (transcriptomic perturbation effects) की भविष्यवाणी करने में प्रतिस्पर्धी आउट-ऑफ-डिस्ट्रीब्यूशन प्रदर्शन प्राप्त करता है, जिसे पड़ोस चयन को परिष्कृत करने के लिए एक रीजनिंग LLM को अनुकूलित करने हेतु सुदृढीकरण लर्निंग (reinforcement learning) का उपयोग करके अत्याधुनिक तरीकों के बराबर बढ़ाया जा सकता है।

मूल लेखक: Jake Fawkes, Liam Hodgson, Jason Hartford

प्रकाशित 2026-06-09

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jake Fawkes, Liam Hodgson, Jason Hartford

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: अनिश्चितता की भविष्यवाणी करना

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि यदि आप किसी जटिल मशीन (जैसे कार या कंप्यूटर) से एक विशिष्ट हिस्सा निकाल दें, तो क्या होगा। जीव विज्ञान में, यह "मशीन" एक जीवित कोशिका है, और इसके "हिस्से" जीन (genes) हैं। वैज्ञानिक जानना चाहते हैं: यदि हम जीन A को हटा दें (knock out), तो कोशिका के व्यवहार में क्या बदलाव आएगा?

यह प्रयोग वास्तविक लैब में करना धीमा, महंगा और जोखिम भरा है। इसलिए, वैज्ञानिक कंप्यूटर के माध्यम से इसका उत्तर जानना चाहते हैं। हालाँकि, कंप्यूटर इस काम में संघर्ष करते रहे हैं क्योंकि कोशिकाएं अविश्वसनीय रूप से जटिल होती हैं। यहाँ तक कि सरल कंप्यूटर मॉडल भी विफल हो जाते हैं, और कभी-कभी वे पिछले सभी प्रयोगों के औसत परिणाम का अनुमान लगाने से भी खराब प्रदर्शन करते हैं।

मूल विचार: "आपके पड़ोसी कौन हैं?"

इस शोध पत्र के लेखक एक आश्चर्यजनक रूप से सरल समाधान प्रस्तावित करते हैं जो एक जैविक सत्य पर आधारित है: जो जीन मिलकर काम करते हैं, वे समान रूप से प्रतिक्रिया करते हैं।

एक जीन को एक विशाल कारखाने के कर्मचारी के रूप में सोचें। यदि आप एक कर्मचारी को निकाल देते हैं, तो कारखाने का उत्पादन बदल जाता है।

पुराना तरीका: एक ऐसा विशाल, जटिल AI बनाने की कोशिश करें जो कारखाने के हर एक नियम को समझता हो।
शोध पत्र का तरीका: नॉलेज ग्राफ (Knowledge Graph) को देखें। यह एक विशाल संगठनात्मक चार्ट या एक मानचित्र की तरह है जो दिखाता है कि कारखाने में कौन किससे बात करता है। यदि आप "कर्मचारी A" को निकालते हैं, तो चार्ट पर उनके निकटतम पड़ोसियों को देखें (वे लोग जिनसे वे सबसे अधिक बात करते हैं)। यदि वे पड़ोसी निकाले जाने पर आमतौर पर एक निश्चित तरीके से प्रतिक्रिया करते हैं, तो मान लें कि "कर्मचारी A" भी उसी तरह प्रतिक्रिया करेगा।

लेखकों ने पाया कि यह सरल "अपने पड़ोसियों को देखें" वाला दृष्टिकोण (K-Nearest Neighbour मॉडल) वास्तव में इन परिवर्तनों की भविष्यवाणी करने में अधिकांश जटिल, हाई-टेक AI मॉडलों से बेहतर था।

समस्या: मानचित्र अधूरा है

एक समस्या थी। "नॉलेज ग्राफ" (संगठनात्मक चार्ट) पूर्ण नहीं है।

कमी वाले लिंक: यह श्रमिकों के बीच के हर संबंध को नहीं दिखाता है।
गलत पड़ोसी: कभी-कभी, चार्ट पर सूचीबद्ध पड़ोसी किसी विशिष्ट कार्य के लिए तुलना करने के लिए सबसे अच्छे लोग नहीं होते हैं।

यह एक शहर के मानचित्र की तरह है जिसमें कुछ सड़कें गायब हैं और कुछ बंद गलियां शामिल हैं। यदि आप केवल उस मानचित्र का उपयोग करके रास्ता खोजने की कोशिश करेंगे, तो आप करीब तो पहुँचेंगे, लेकिन आपको सबसे अच्छा रास्ता नहीं मिलेगा।

समाधान: "रीजनिंग" (तर्क करने वाला) AI

इस मानचित्र को ठीक करने के लिए, लेखकों ने एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग किया—जो एक प्रकार का AI है जो भाषा और संबंधों को समझने में बहुत कुशल है।

उन्होंने AI को केवल अनुमान लगाने के लिए नहीं कहा; उन्होंने इसे रीइन्फोर्समेंट लर्निंग (RL) नामक तकनीक का उपयोग करके मानचित्र को ठीक करना सिखाया।

उपमा: कल्पना कीजिए कि एक छात्र (AI) परीक्षा दे रहा है।
- चरण 1: छात्र मानक मानचित्र (नॉलेज ग्राफ) के साथ शुरुआत करता है।
- चरण 2: छात्र से पूछा जाता है: "क्या आप बेहतर भविष्यवाणी करने के लिए पड़ोसियों की इस सूची में सुधार कर सकते हैं?" वे कह सकते हैं, "मैं जीन X को जोड़ूँगा और जीन Y को हटा दूँगा।"
- चरण 3: शिक्षक (कंप्यूटर) उत्तर की जाँच करता है। यदि भविष्यवाणी बेहतर होती है, तो छात्र को पुरस्कार (पॉइंट्स) मिलता है। यदि यह खराब होती है, तो उन्हें कोई पॉइंट नहीं मिलता।
- चरण 4: छात्र बार-बार प्रयास करता है, यह सीखता है कि कौन से बदलाव पॉइंट्स दिलाते हैं।

समय के साथ, AI एक "रीजनिंग" (तर्क करने का) कौशल सीख जाता है: वह सीख जाता है कि कैसे एक जीन को देखना है, मानक मानचित्र की जाँच करनी है, और फिर तुलना करने के लिए जीन के आदर्श समूह को खोजने के लिए पड़ोसियों की सूची को संपादित (edit) करना है।

परिणाम: सरल + स्मार्ट = सर्वश्रेष्ठ

शोध पत्र में दो मुख्य बातें मिलीं:

सरल बेसलाइन जीत गई: केवल मानक "पड़ोसी" सूची का उपयोग करना (AI के बिना) पहले से ही लगभग सभी अन्य जटिल AI मॉडलों को पीछे छोड़ रहा था।
AI इसे पूर्ण बनाता है: जब उन्होंने उस सूची को बदलने के लिए AI को प्रशिक्षित किया, तो परिणाम उतने ही सटीक हो गए जितने कि वर्तमान में उपलब्ध सबसे अच्छे और सबसे जटिल मॉडलों (विशेष रूप से TxPert नामक मॉडल) के।

"मैजिक" बोनस:
भले ही AI को केवल जीन अभिव्यक्ति (gene expression) परिवर्तनों की भविष्यवाणी करने के लिए प्रशिक्षित किया गया था, यह अन्य जैविक प्रश्नों में भी बेहतर हुआ (जैसे कि यह भविष्यवाणी करना कि क्या कोई दवा जीन की गतिविधि को बदल देगी)। ऐसा लगता है कि AI ने केवल उत्तरों को याद करने के बजाय जीव विज्ञान के बारे में एक सामान्य "तर्क" सीख लिया है।

सारांश

समस्या: जीन परिवर्तन के प्रति कोशिका की प्रतिक्रिया की भविष्यवाणी करना कठिन है।
सरल समाधान: जीन की उसके ज्ञात जैविक पड़ोसियों के साथ तुलना करना। यह आश्चर्यजनक रूप से अच्छा काम करता है।
अपग्रेड: एक स्मार्ट AI का उपयोग करके उस सूची को संपादित करना, खराब पड़ोसियों को हटाना और अच्छे पड़ोसियों को जोड़ना, इस आधार पर कि वास्तव में भविष्यवाणी में क्या सुधार होता है।
परिणाम: एक सरल मानचित्र और एक स्मार्ट संपादक का यह संयोजन एक ऐसा उपकरण बनाता है जो सबसे उन्नत तरीकों के समान सटीकता के साथ जैविक परिवर्तनों की भविष्यवाणी करता है, लेकिन इसका आधार बहुत सरल तर्क है।

महत्वपूर्ण नोट: यह शोध पत्र पूरी तरह से इन कंप्यूटर भविष्यवाणियों को बेहतर बनाने पर केंद्रित है। यह दावा नहीं करता है कि यह विधि रोगियों के इलाज या नए ड्रग्स डिजाइन करने के लिए अस्पतालों में उपयोग के लिए तैयार है; यह बेहतर वैज्ञानिक मॉडलिंग के लिए एक 'प्रूफ ऑफ कॉन्सेप्ट' है।

तकनीकी सारांश: सरल एवं प्रभावी ट्रांसक्रिप्टोमिक परटर्बेशन प्रेडिक्टर्स खोजने के लिए नॉलेज ग्राफ और रीजनिंग LLMs

1. समस्या विवरण (Problem Statement)

अनदेखे जीन नॉकआउट परटर्बेशन (unseen gene knockout perturbations) के ट्रांसक्रिप्टोमिक प्रभावों का पूर्वानुमान लगाना वर्चुअल सेल मॉडल्स के लिए एक महत्वपूर्ण चुनौती बनी हुई है। जबकि हालिया दृष्टिकोण जैविक ज्ञान ग्राफों (biological knowledge graphs) का लाभ उठाकर प्रशिक्षण परटर्बेशन से परे विस्तार (extrapolation) करने का प्रयास करते हैं, जटिल डीप लर्निंग मॉडल अक्सर सरल बेसलाइन (जैसे कि प्रशिक्षण नमूनों का माध्य) से बेहतर प्रदर्शन करने में संघर्ष करते हैं। मुख्य कठिनाई नई हस्तक्षेप वितरणों (interventional distributions), $P(x|do(i))$, में सामान्यीकरण (generalizing) करने में निहित है, जहाँ प्रत्येक परटर्बेशन एक जटिल जैविक प्रक्रियाओं द्वारा नियंत्रित अद्वितीय वितरण को प्रेरित करता है। ग्राफ न्यूरल नेटवर्क (GNNs) या बड़े पैमाने पर प्रीट्रेनिंग का उपयोग करने वाले मौजूदा तरीके आशाजनक रहे हैं, लेकिन वह विशिष्ट तंत्र जिसके माध्यम से जैविक ज्ञान नए हस्तक्षेपों के लिए सामान्यीकरण को सक्षम बनाता है, स्पष्ट नहीं है। इसके अलावा, अंतर्निहित कारण संरचना (causal structure) को सीधे अनुकूलित करना कम्प्यूटेशनल रूप से अव्यवहार्य है क्योंकि संभावित जीन ग्राफों का खोज स्थान (search space) घातीय (exponential) है।

2. कार्यप्रणाली (Methodology)

2.1 सैद्धांतिक आधार: एक स्पार्स पदानुक्रमित मॉडल (A Sparse Hierarchical Model)

लेखक तर्क देते हैं कि जीन नॉकआउट के प्रति कोशिकीय प्रतिक्रियाएं एक स्पार्स पदानुक्रमित कारण ग्राफ (sparse hierarchical causal graph) का पालन करती हैं। इस मॉडल में, जीन प्रोटीन कॉम्प्लेक्स बनाते हैं, जो पथ (pathways) बनाते हैं, और अंततः ऑर्गेल्स (organelles) और सेल प्रतिक्रियाओं की ओर ले जाते हैं।

निहितार्थ: समान निम्न-स्तरीय कॉम्प्लेक्स को प्रभावित करने वाले परटर्बेशन समान अभिव्यक्ति प्रोफाइल (expression profiles) प्रदान करेंगे।
पूर्वानुमान: एक लक्षित परटर्बेशन के औसत अभिव्यक्ति को इस कारणत्मक ग्राफ द्वारा परिभाषित स्थानीय पड़ोस (local neighbourhood) के एक सरल 'नेयरेस्ट-नेबर' औसत द्वारा अनुमानित किया जा सकता है।

2.2 बेसलाइन: ग्राफ नेबर प्रेडिक्टर (The Graph Neighbour Predictor)

लेखक पहले एक "ग्राफ नेबर" प्रेडिक्टर का मूल्यांकन करते हैं, जो मौजूदा जैविक ज्ञान ग्राफों (जैसे StringDB, GO) को प्रायोर (priors) के रूप में उपयोग करता है।

तंत्र: एक लक्षित जीन $g$ के लिए, प्रेडिक्टर ज्ञान ग्राफ में उसके पड़ोसियों $N(g)$ की पहचान करता है। लक्षित परटर्बेशन डेल्टा ( $\hat{\delta}_g$ ) की गणना इन पड़ोसियों के प्रशिक्षण डेल्टा के माध्य के रूप में की जाती है:
$\hat{y}_g = \bar{x}_g + \frac{1}{|N_{Tr}(g)|} \sum_{\tilde{g} \in N_{Tr}(g)} \bar{\delta}_{\tilde{g}}$
जहाँ $\bar{x}_g$ मैच किया गया कंट्रोल एक्सप्रेशन है और $N_{Tr}(g)$ प्रशिक्षण सेट में मौजूद पड़ोसी हैं।
निष्कर्ष: यह सरल $K$ -नेयरेस्ट नेबर दृष्टिकोण जटिल डीप लर्निंग मॉडल्स (जैसे GEARS, scLAMBDA) से बेहतर प्रदर्शन करता है और SOTA मॉडल्स जैसे TxPert के प्रदर्शन के करीब पहुँच जाता है, विशेष रूप से आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सेटिंग्स में।

2.3 परिशोधन: रीजनिंग LLMs के साथ सुदृढीकरण लर्निंग (Reinforcement Learning with Reasoning LLMs)

यह पहचानते हुए कि ज्ञान ग्राफ अपूर्ण हैं और उनमें उप-इष्टतम किनारे (suboptimal edges) हो सकते हैं, लेखक इन पड़ोसों को परिष्कृत करने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करने का प्रस्ताव देते हैं।

खोज स्थान में कमी (Search Space Reduction): सभी संभावित ग्राफों के अव्यवहार्य स्थान ( $O(2^{\#genes^2})$ ) को खोजने के बजाय, खोज को LLM के पूर्व विश्वासों (prior beliefs) के तहत प्रशंसनीय उम्मीदवार किनारों तक सीमित किया गया है।
RL फॉर्मूलेशन:
- पॉलिसी (Policy): एक LLM ( $\pi_\theta$ ) एक पॉलिसी के रूप में कार्य करता है जो प्रारंभिक ज्ञान ग्राफ पड़ोसियों ( $N_{KG}$ ) के सेट में कार्यों (Add $A$ , Remove $R$ ) को चुनने के लिए कार्य करता है।
- एक्शन स्पेस (Action Space): परिष्कृत सेट $S_{LLM} = (N_{KG} \setminus R) \cup A$ है।
- रिवॉर्ड फंक्शन (Reward Function): मॉडल को ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइजेशन (GRPO) के माध्यम से प्रशिक्षित किया जाता है ताकि एक रिवॉर्ड $R(s, a)$ $R (s, a)$ को अधिकतम किया जा सके जो निम्नलिखित से बना है:
  1. फॉर्मेटिंग रिवॉर्ड ( $R_{Fmt}$ ): सुनिश्चित करता है कि आउटपुट पारसेबल (parsable) है।
  2. वैलिडिटी रिवॉर्ड ( $R_{Valid}$ ): प्रशिक्षण सेट से जीन जोड़ने और मूल पड़ोस में न होने वाले जीनों को हटाने के लिए प्रोत्साहित करता है।
  3. परफॉर्मेंस रिवॉर्ड ( $R_\Delta$ ): बेसलाइन नॉलेज ग्राफ प्रेडिक्टर की तुलना में पियर्सन डेल्टा मेट्रिक में सुधार के लिए प्रोत्साहन देता है।
प्रशिक्षण: LLM को Replogle et al. (2022) के सेल लाइन्स के परटर्बेशन डेटा पर प्रशिक्षित किया गया है, जिसमें एक सख्त ट्रेन/टेस्ट स्प्लिट का उपयोग किया गया है ताकि अनदेखे परटर्बेशन पर मूल्यांकन सुनिश्चित किया जा सके।

3. मुख्य योगदान (Key Contributions)

सरल बेसलाइन का प्रदर्शन: यह पेपर स्थापित करता है कि जैविक ज्ञान ग्राफों पर आधारित एक सरल K-नेयरेस्ट नेबर प्रेडिक्टर, OOD परटर्बेशन भविष्यवाणी के लिए एक अत्यधिक प्रतिस्पर्धी बेसलाइन है, जो अधिकांश जटिल डीप लर्निंग विधियों से बेहतर प्रदर्शन करता है।
LLM एक रिफाइनमेंट प्रायर के रूप में: लेखक प्रदर्शित करते हैं कि जब Reinforcement Learning के माध्यम से अनुकूलित किया जाता है, तो LLMs प्रभावी रूप से ज्ञान ग्राफ पड़ोसों को संपादित (edit) कर सकते हैं (लुप्त संबंधों को जोड़ना और अप्रासंगिक संबंधों को हटाना) ताकि भविष्य कहनेवाला प्रदर्शन में सुधार हो सके।
तात्पर्य यह है कि LLMs में स्थिर ज्ञान ग्राफों में स्पष्ट रूप से एनकोडेड जानकारी से परे जीन संबंधों के बारे में सार्थक भविष्य कहनेवाला संकेत होते हैं।
स्टेट-ऑफ-द-आर्ट प्रदर्शन: RL-ट्यून्ड LLM, सरल नेयरेस्ट-नेबर आर्किटेक्चर से शुरू होने के बावजूद, Replogle et al. सेल लाइन्स पर वर्तमान SOTA विधियों (विशेष रूप से TxPert) के समकक्ष प्रदर्शन प्राप्त करता है।
डाउनस्ट्रीम सामान्यीकरण: अध्ययन दिखाता है कि RL प्रशिक्षण LLM के प्रदर्शन को डाउनस्ट्रीम कार्यों (विशेष रूप से PerturbQA बेंचमार्क पर डिफरेंशियल एक्सप्रेशन प्रेडिक्शन) में सुधार करता है, जो यह सुझाव देता है कि मॉडल विशिष्ट भविष्यवाणी कार्य के बजाय सामान्यीकरण योग्य रीजनिंग पैटर्न सीखता है।

4. परिणाम (Results)

बेंचमार्क प्रदर्शन: चार सेल लाइन्स (K562, RPE1, HEPG2, Jurkat) पर, RL-प्रशिक्षित LLM ($LLM + KG + RL$) ने TxPert (जैसे K562 पर 0.625 बनाम 0.626) के समान पियर्सन डेल्टा स्कोर प्राप्त किया और अनप्रशिक्षित LLM और रॉ नॉलेज ग्राफ बेसलाइन की तुलना में काफी बेहतर प्रदर्शन किया।
OOD सामान्यीकरण: विधि अनदेखे परटर्बेशनों के लिए सामान्यीकरण करती है, प्रशिक्षण सेट में विशिष्ट जीन नॉकआउट की अनुपस्थिति में भी उच्च प्रदर्शन बनाए रखती है।
ट्रांसफर लर्निंग: केवल चार में से तीन सेल लाइन्स पर प्रशिक्षित होने पर भी, मॉडल ने होल्ड-आउट सेल लाइन (K562) पर बेस मॉडल की तुलना में बेहतर प्रदर्शन किया, जो क्रॉस-सेल-लाइन सामान्यीकरण का संकेत देता है।
डाउनस्ट्रीम टास्क: PerturbQA डेटासेट पर, पोस्ट-ट्रेन्ड मॉडल ने विशिष्ट फाइन-ट्यूनिंग के बिना भी डिफरेंशियल एक्सप्रेशन और परिवर्तन की दिशा की भविष्यवाणी करने में बेस LLM से बेहतर प्रदर्शन किया।

5. महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि जैविक ज्ञान ग्राफ प्रभावी मॉडल प्रायर्स (priors) के रूप में कार्य करते हैं, और इन प्रायर्स का लाभ उठाने वाला सबसे सरल मॉडल (नेयरेस्ट नेबर) आश्चर्यजनक रूप से मजबूत है। प्राथमिक महत्व यह दिखाने में है कि Reinforcement Learning, LLMs को सामान्यीकरण योग्य उपकरणों में परिष्कृत कर सकता है।

लेखक तर्क देते हैं कि हालांकि RL प्रशिक्षण कम्प्यूटेशनल रूप से महंगा है और तत्काल भविष्यवाणी के लिए आवश्यक रूप से व्यावहारिक तैनाती का तरीका नहीं है, यह एक प्रूफ ऑफ कॉन्सेप्ट के रूप में कार्य करता है:

यह मान्य करता है कि LLMs में स्पष्ट रूप से एनकोडेड स्थिर ज्ञान ग्राफों से परे जीन संबंधों के संबंध में सार्थक भविष्य कहनेवाला संकेत होते हैं।
यह प्रदर्शित करता है कि RL एक LLM को जीन सेट चुनने के लिए एक पॉलिसी (policy) सीखने के लिए ट्यून कर सकता है।
यह रेखांकित करता है कि भविष्य कहनेवाला प्रदर्शन में सुधार डाउनस्ट्रीम रीजनिंग कार्यों में स्थानांतरित हो सकता है, जो अधिक मजबूत "वर्चुअल सेल" मॉडल्स की ओर एक मार्ग सुझाता है।

लेखक विनम्र रहते हुए सीमाओं का उल्लेख करते हैं, जैसे कि RL की कम्प्यूटेशनल लागत और विशिष्ट सेल लाइन के लिए प्रशिक्षण सेट की निर्भरता, जो नवीन सेल लाइनों में वास्तविक "जीरो-शॉट" भविष्यवाणियों को रोकता है। वे यह दावा नहीं करते हैं कि उन्होंने पूर्णतः सामान्यीकरण की समस्या को हल कर दिया है, बल्कि उन्होंने उन्नत भाषा मॉडल तर्क का उपयोग करके सरल, व्याख्या योग्य मॉडलों को परिष्कृत करने का एक व्यवहार्य मार्ग दिखाया है।