🧬 biology

Biological Reasoning-Informed Regression for Interpretable Regulatory DNA Activity Prediction

यह शोध पत्र R3LM को प्रस्तुत करता है, जो एक नवीन ढांचा (framework) है जो संरचित जैविक ज्ञान और एक दो-चरणीय प्रशिक्षण प्रक्रिया का लाभ उठाता है ताकि बड़े भाषा मॉडलों (LLMs) को नियामक डीएनए गतिविधि (regulatory DNA activity) की भविष्यवाणी करने के लिए व्याख्या योग्य, अत्याधुनिक रिग्रेशन (regression) करने में सक्षम बनाया जा सके और साथ ही यांत्रिक स्पष्टीकरण (mechanistic explanations) प्रदान किया जा सके।

मूल लेखक: Yi Duan, Zhao Yang, Jiwei Zhu, Ying Ba, Chuan Cao, Bing Su

प्रकाशित 2026-06-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yi Duan, Zhao Yang, Jiwei Zhu, Ying Ba, Chuan Cao, Bing Su

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ⚕️ यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Biological Reasoning-Informed Regression for Interpretable Regulatory DNA Activity Prediction" (R3LM) पेपर का स्पष्टीकरण दिया गया है, जिसे सरल अवधारणाओं और उपमाओं में विभाजित किया गया है।

बड़ी समस्या: "ब्लैक बॉक्स" बनाम "अनुवादक" (The "Black Box" vs. The "Translator")

कल्पना कीजिए कि DNA एक विशाल लाइब्रेरी है जिसमें एक गुप्त कोड (A, C, G, T) में लिखे गए निर्देश मैनुअल हैं। वैज्ञानिक यह जानना चाहते हैं कि इन मैनुअल्स के कौन से हिस्से "ऑन/ऑफ स्विच" (जिन्हें एन्हांसर कहा जाता है) के रूप में कार्य करते हैं जो जीन्स के काम करने के तरीके को नियंत्रित करते हैं।

लंबे समय से, कंप्यूटर यह अनुमान लगाने में अच्छे रहे हैं कि कौन सा DNA अनुक्रम (sequence) एक स्विच को "ऑन" या "ऑफ" करता है। हालाँकि, वे इसे एक ब्लैक बॉक्स की तरह करते हैं: आप DNA डालते हैं, और एक संख्या बाहर आती है। कंप्यूटर कहता है, "यह अनुक्रम 85% सक्रिय है," लेकिन वह यह नहीं बता सकता कि क्यों। यह एक मैजिक 8-बॉल की तरह है जो सही उत्तर तो देता है लेकिन अपना काम दिखाने से इनकार कर देता है।

जीवविज्ञानी (Biologists) इससे नफरत करते हैं क्योंकि उन्हें उत्तर पर भरोसा करने और नए स्विच डिजाइन करने के लिए तर्क (reasoning) जानने की आवश्यकता होती है। वे चाहते हैं कि कंप्यूटर कहे, "यह स्विच सक्रिय है क्योंकि इसमें एक विशिष्ट कुंजी (motif) है जो एक ताले में फिट बैठती है, और उनके बीच की दूरी बिल्कुल सही है।"

असफल प्रयास: एक जीनियस को गुप्त कोड पढ़ने के लिए कहना

शोधकर्ताओं ने लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करने की कोशिश की—वही AI जो निबंध लिखता है और गणित की समस्याओं को हल करता है—DNA को पढ़ने के लिए। उन्होंने सोचा, "चूंकि LLMs तर्क करने में माहिर हैं, इसलिए वे DNA के तर्क को समझने में सक्षम होने चाहिए।"

परिणाम: यह बुरी तरह विफल रहा।

उपमा: कल्पना कीजिए कि एक प्रतिभाशाली अनुवादक को एक ऐसी किताब दी जा रही है जो एक ऐसी भाषा में लिखी गई है जिसे उसने पहले कभी नहीं देखा, बिना किसी डिक्शनरी के, बस अक्षरों की एक लंबी श्रृंखला के रूप में। भले ही वह अनुवादक एक जीनियस हो, वह अर्थ का अनुमान नहीं लगा सकता।
पेपर का निष्कर्ष: जब AI को केवल कच्चे DNA अक्षर (जैसे, "ACGT...") दिए गए, तो इसका प्रदर्शन रैंडम अनुमान लगाने से बेहतर नहीं था। वह जीवन के "व्याकरण" (grammar) को नहीं समझ सका।

समाधान: R3LM (द "अनुवादक + जासूस" टीम)

टीम को एहसास हुआ कि AI मूर्ख नहीं था; उसे बस DNA को एक ऐसे प्रारूप में अनुवादित करने की आवश्यकता थी जिसे वह समझ सके इससे पहले कि वह तर्क करने की कोशिश करे। उन्होंने एक फ्रेमवर्क बनाया जिसे R3LM (Reasoning Regression Reward Language Model) कहा जाता है।

यह कैसे काम करता है, चरण-दर-चरण यहाँ दिया गया है:

1. "रेगुलेटरी कॉन्टेक्स्ट कार्ड" (RCC) – अनुवादक

DNA को कच्चे DNA अक्षरों के रूप में खिलाने के बजाय, वे पहले DNA को एक विशेष टूल के माध्यम से चलाते हैं जो एक अनुवादक की तरह कार्य करता है।

यह क्या करता है: यह DNA को स्कैन करता है और एक संरचित "रिपोर्ट कार्ड" (RCC) बनाता है।
उपमा: जासूस को बिना क्रमबद्ध सबूतों का ढेर देने के बजाय, अनुवादक उसे एक व्यवस्थित फ़ाइल में व्यवस्थित करता है: "यहाँ उंगलियों के निशान (motifs) हैं, यहाँ GC कंटेंट (weather report) है, और यहाँ घटनाओं का टाइमलाइन (grammar/spacing) है।"
परिणाम: अब, AI वास्तव में सबूतों को "पढ़" सकता है क्योंकि इसे एक संरचित, तार्किक प्रारूप में प्रस्तुत किया गया है।

2. "रीजनिंग ट्रेस" (Reasoning Trace) – जासूस की नोटबुक

शोधकर्ताओं ने एक नया डेटासेट बनाया जिसे CRE-ReasonBench कहा जाता है। यह केवल DNA और स्कोर की सूची नहीं है; इसमें एक चरण-दर-चरण कहानी शामिल है जो यह बताती है कि एक विशिष्ट DNA अनुक्रम का गतिविधि स्तर एक निश्चित स्तर क्यों है।

उपमा: यह एक गणित शिक्षक की तरह है जो न केवल उत्तर कुंजी देता है, बल्कि पूरा समाधान भी लिखता है: "चरण 1: वेरिएबल की पहचान करें। चरण 2: फॉर्मूला लागू करें। चरण 3: परिणाम की गणना करें।"
लक्ष्य: उन्होंने AI को यह "जासूसी कहानियाँ" (reasoning traces) लिखने के लिए प्रशिक्षित किया, इससे पहले कि वह अंतिम स्कोर दे।

3. दो-चरणीय प्रशिक्षण – सोचना सीखना, फिर भविष्यवाणी करना

उन्होंने AI को दो अलग-अलग चरणों में प्रशिक्षित किया ताकि यह सुनिश्चित हो सके कि उसने वास्तव में तर्क करना सीखा है:

चरण 1 (रीजनिंग टीचर): उन्होंने AI को "रिपोर्ट कार्ड" (RCC) को देखना और "जासूसी कहानी" (तर्क के चरण) लिखना सिखाया। इसने कहना सीखा, "क्योंकि यहाँ एक मजबूत 'MYPOP' मोटिफ है, और इसकी स्पेसिंग सही है, इसलिए गतिविधि उच्च होनी चाहिए।"
चरण 2 (प्रेडिक्टर): एक बार जब AI कहानी लिखने में सक्षम हो गया, तो उन्होंने इसे कहानी का उपयोग करके अंतिम संख्या (गतिविधि स्कोर) की भविष्यवाणी करने के लिए प्रशिक्षित किया। महत्वपूर्ण रूप से, AI को उस कहानी के आधार पर संख्या की भविष्यवाणी करनी थी जो उसने अभी-अभी लिखी थी, न कि केवल DNA को याद करके।

परिणाम: यह क्यों मायने रखता है

पेपर ने तीन अलग-अलग प्रकार की मानव कोशिकाओं पर इस सिस्टम का परीक्षण किया। यहाँ उन्होंने क्या पाया:

यह स्मार्ट है: R3LM ने पिछले "ब्लैक बॉक्स" मॉडल्स (जैसे Enformer) की तुलना में बेहतर भविष्यवाणी की और केवल कच्चे DNA को पढ़ने वाले AI की तुलना में बहुत बेहतर प्रदर्शन किया।
यह पारदर्शी है: अन्य मॉडल्स के विपरीत, R3LM अपना काम दिखा सकता है। यदि कोई जीवविज्ञानी पूछता है, "आपने इसे उच्च स्कोर क्यों दिया?", तो R3LM उन विशिष्ट "उंगलियों के निशान" (motifs) और "स्पेसिंग" की ओर इशारा कर सकता है जिनका उपयोग उसने निर्णय लेने के लिए किया था।
यह एक "रिवॉर्ड मॉडल" है: नए DNA को डिजाइन करने की दुनिया में, वैज्ञानिक कंप्यूटर का उपयोग लाखों डिजाइनों को आज़माने के लिए करते हैं। R3LM एक जज के रूप में कार्य करता है जो कहता है, "यह डिज़ाइन X, Y और Z के कारण अच्छा है," जिससे वैज्ञानिकों को बेहतर जैविक स्विच डिजाइन करने में मदद मिलती है।

एक वाक्य में सारांश

यह पेपर एक नया AI सिस्टम पेश करता है जो पहले कच्चे DNA को एक संरचित "रिपोर्ट कार्ड" में अनुवादित करता है, फिर AI को जीव विज्ञान को समझाने वाली एक चरण-दर-चरण जासूसी कहानी लिखने के लिए प्रशिक्षित करता है, और अंत में उस कहानी का उपयोग करके सटीक भविष्यवाणी करता है कि एक DNA अनुक्रम कितना सक्रिय होगा, जिससे AI के निर्णय मानव वैज्ञानिकों के लिए समझने योग्य बन जाते हैं।

तकनीकी सारांश: व्याख्या योग्य नियामक डीएनए गतिविधि भविष्यवाणी के लिए जैविक तर्क-सूचित प्रतिगमन (Biological Reasoning-Informed Regression)

समस्या विवरण
डीएनए अनुक्रमों (DNA sequences) से सिस-नियामक तत्वों (cis-regulatory elements - CREs), जैसे कि एन्हांसर (enhancers) की नियामक गतिविधि का पूर्वानुमान लगाना मेटाबॉलिक इंजीनियरिंग, व्यक्तिगत चिकित्सा और कृषि के लिए एक महत्वपूर्ण कार्य है। जबकि डीप लर्निंग मॉडल (जैसे, Enformer) अनुक्रम से गतिविधि तक एंड-टू-एंड मैपिंग सीखने में सफल रहे हैं, वे 'ब्लैक बॉक्स' के रूप में कार्य करते हैं। व्याख्यात्मकता (interpretability) की यह कमी उन्हें अनुक्रम अनुकूलन के लिए रिवॉर्ड मॉडल के रूप में उपयोग किए जाने पर "रिवॉर्ड हैकिंग" (reward hacking) के प्रति संवेदनशील बनाती है और जीवविज्ञानियों के विश्वास को सीमित करती है। इसके विपरीत, लार्ज लैंग्वेज मॉडल्स (LLMs) चरण-दर-चरण तर्क (Chain-of-Thought) में उत्कृष्ट हैं, लेकिन वे कच्चे डीएनए अनुक्रमों ("ACGT...") पर सीधे लागू होने में विफल रहते हैं क्योंकि उनमें प्रतिनिधित्व का अंतर (representation mismatch) होता है; वे अनस्ट्रक्चर्ड न्यूक्लियोटाइड स्ट्रिंग्स से ट्रांसक्रिप्शन फैक्टर बाइंडिंग साइट्स (TFBSs) या नियामक व्याकरण (regulatory grammar) जैसे जैविक रूप से सार्थक फीचर्स को स्वाभाविक रूप से नहीं निकाल सकते।

कार्यप्रणाली: R3LM फ्रेमवर्क
लेखक R3LM (Reasoning Regression Reward Language Model) प्रस्तावित करते हैं, जो एक दो-चरणीय प्रशिक्षण पाइपलाइन के माध्यम से LLM तर्क क्षमताओं और जैविक अनुक्रम विश्लेषण के बीच के अंतर को पाटने के लिए डिज़ाइन किया गया है।

रेगुलेटरी कॉन्टेक्स्ट कार्ड (RCC):
प्रतिनिधित्व के अंतर को संबोधित करने के लिए, लेखक RCC पेश करते हैं, जो एक संरचित इनपुट प्रारूप है जो कच्चे डीएनए अनुक्रमों को व्याख्या योग्य, जैविक रूप से आधारित निरूपणों में संकलित करता है। कच्चे न्यूक्लियोटाइड्स को फीड करने के बजाय, RCC एक अनुक्रम $S$ और संदर्भ $c$ (जैसे, सेल टाइप) को एक नियत स्कीमा में बदल देता है जिसमें शामिल हैं:

मोटिफ साक्ष्य ( $M$ ): JASPAR डेटाबेस के विरुद्ध स्कैनिंग के माध्यम से पहचाने गए TFBSs (फैमिली, स्कोर, स्थिति, स्ट्रैंड)।
अनुक्रम सांख्यिकी ( $G$ ): वैश्विक पूर्ववृत्त (global priors) जैसे कि GC कंटेंट।
ग्रामर टैग्स ( $T$ ): मोटिफ व्यवस्था (जैसे, स्पेसिंग, सह-अस्तित्व) से प्राप्त उच्च-स्तरीय ह्यूरिस्टिक्स।
संदर्भ (Context): स्पष्ट प्रयोगात्मक स्थितियाँ।
यह रूपांतरण LLMs को मनमाने स्ट्रिंग्स के बजाय नियामक तर्क को "पढ़ने" की अनुमति देता है।

CRE-ReasonBench डेटासेट:
लेखक यांत्रिक तर्क ट्रेसेस (mechanistic reasoning traces) के साथ डीएनए अनुक्रमों को जोड़ने वाला पहला डेटासेट तैयार करते हैं। एक फ्रंटियर LLM (Claude Sonnet 4.5) का उपयोग करके, वे चरण-दर-चरण तर्क (rationales) संश्लेषित करते हैं जो यह समझाते हैं कि कैसे विशिष्ट मोटिफ कॉन्फ़िगरेशन, स्पेसिंग और सेलुलर संदर्भ गतिविधि स्तरों को निर्धारित करते हैं। प्रत्येक नमूने में एक RCC प्रॉम्प्ट, एक संरचित रीजनिंग ट्रेस (CoT), और एक असतत (discrete) गतिविधि स्तर लेबल (0–3) शामिल है।
दो-चरणीय प्रशिक्षण रणनीति:
जेनरेशन और रिग्रेशन के संयुक्त अनुकूलन से जुड़े ग्रेडिएंट संघर्षों और मेमोरी समस्याओं से बचने के लिए, R3LM एक विच्छेदित (decoupled) दो-चरणीय दृष्टिकोण अपनाता है:

चरण 1 (रीजनिंग जनरेटर): एक चेन-ऑफ-थॉट जनरेटर ( $g_\theta$ ) को प्रशिक्षित किया जाता है जो RCC प्रॉम्प्ट के आधार पर यांत्रिक तर्क और एक असतत गतिविधि स्तर ( $\ell$ ) उत्पन्न करता है। मॉडल को मानक लैंग्वेज मॉडलिंग लॉस का उपयोग करके अनुकूलित किया जाता है।
चरण 2 (रीजन-कंडीशन्ड रिग्रेसर): एक रिग्रेसर ( $f_\Theta$ ) को निरंतर (continuous) गतिविधि स्कोर ( $y$ ) की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है। इसका इनपुट RCC प्रॉम्प्ट और चरण 1 से स्वयं-जनित तर्क (अंतिम असतत निष्कर्ष को छोड़कर) का संयोजन है। मॉडल एक एंकर पोजीशन पर एक हिडन स्टेट निकालता है और इसे MSE लॉस का उपयोग करके निरंतर स्कोर में प्रोजेक्ट करता है। महत्वपूर्ण रूप से, रिग्रेसर को केवल सिंटैक्टिक वैधता के लिए फ़िल्टर किए गए स्वयं-जनित तर्कों पर प्रशिक्षित किया जाता है ताकि इन्फरेंस-टाइम वितरण के साथ प्रशिक्षण को संरेखित किया जा सके और "ओरेकल गैप" (oracle gap) को रोका जा सके।

प्रमुख योगदान

RCC: एक मानकीकृत, प्रोग्रामेटिक स्कीमा जो कच्चे डीएनए को संरचित, ऑडिट करने योग्य जैविक साक्ष्यों में बदल देता है जो LLMs के लिए सुलभ हैं।
CRE-ReasonBench: डीएनए अनुक्रमों और गतिविधि स्कोर को स्पष्ट, चरण-दर-चरण यांत्रिक तर्क ट्रेसेस के साथ जोड़ने वाला पहला डेटासेट।
R3LM फ्रेमवर्क: एक दो-चरणीय प्रशिक्षण पाइपलाइन जो LLMs को तर्क-सूचित प्रतिगमन (reasoning-informed regression) करने में सक्षम बनाती है, जिससे अत्याधुनिक प्रदर्शन के साथ व्याख्या योग्य स्पष्टीकरण प्राप्त होते हैं।
अनुभवजन्य सत्यापन (Empirical Validation): तीन सेल प्रकारों (HepG2, K562, SK-N-SH) पर विशेषज्ञ ब्लैक-बॉक्स मॉडल (जैसे, Enformer) और रॉ-सीक्वेंस LLMs की तुलना में R3LM के बेहतर प्रदर्शन का प्रदर्शन।

परिणाम

प्रतिगमन प्रदर्शन (Regression Performance): R3LM एन्हांसर प्रेडिक्शन कार्यों पर स्टेट-ऑफ-द-आर्ट पियर्सन कोरिलेशन ( $\rho$ ) और न्यूनतम RMSE प्राप्त करता है। उदाहरण के लिए, K562 सेल टाइप पर, R3LM (Generated-CoT) ने $\rho = 0.8246$ प्राप्त किया, जो Enformer ( $\rho = 0.7990$ ) और रॉ-सीक्वेंस LLMs ( $\rho = 0.3919$ ) से बेहतर है।
व्याख्यात्मकता (Interpretability): मॉडल RCC साक्ष्यों (मोटिफ, ग्रामर, GC कंटेंट) पर आधारित यांत्रिक तर्क प्रदान करता है। एब्लेशन अध्ययन पुष्टि करते हैं कि रिग्रेसर इन तर्कों पर निर्भर करता है; टेस्ट टाइम पर तर्क टेक्स्ट को शफल करने से प्रदर्शन पूरी तरह से गिर जाता है ( $\rho = 0.8246$ से $0.0198$ तक), जो यह सिद्ध करता है कि रीजनिंग ट्रेस एक सूचनात्मक मध्यवर्ती कारक है।
तर्क की गुणवत्ता (Reasoning Quality): चरण 1 जनरेटर उच्च सिंटैक्टिक वैधता (~97–99%) और असतत गतिविधि स्तरों की सटीक भविष्यवाणी में उच्च सटीकता (Acc@1 $\approx$ 78–81%) प्राप्त करता है, भले ही सटीक स्तर की भविष्यवाणी त्रुटिपूर्ण हो। रिग्रेसर इन खामियों के बावजूद मजबूत रहता है।

महत्व और दावे
पेपर का दावा है कि R3LM वर्तमान CRE प्रेडिक्शन मॉडल्स की मौलिक सीमा को संबोधित करता है: प्रदर्शन और व्याख्यात्मकता के बीच का ट्रेड-ऑफ। रॉ सीक्वेंस के बजाय संरचित जैविक ज्ञान पर तर्क करना सिखाकर, यह फ्रेमवर्क एक व्याख्या योग्य रिवॉर्ड मॉडल के रूप में कार्य करता है। यह वैज्ञानिकों को न केवल एक अनुमानित गतिविधि स्कोर प्राप्त करने की अनुमति देता है, बल्कि उस भविष्यवाणी का समर्थन करने वाले यांत्रिक साक्ष्य (जैसे, विशिष्ट TF बाइंडिंग और स्पेसिंग लॉजिक) का निरीक्षण करने में भी सक्षम बनाता है। लेखक R3LM को अनुकूलित CREs के डिजाइन में सहायता करने वाले उपकरण के रूप में देखते हैं, जो प्रतिस्पर्धी भविष्य कहनेवाला सटीकता बनाए रखते हुए ब्लैक-बॉक्स न्यूरल नेटवर्क का एक पारदर्शी विकल्प प्रदान करता है। यह कार्य इस बात पर जोर देता है कि उत्पन्न तर्क प्रोग्रामेटिक साक्ष्यों पर आधारित "ग्राउंडेड और ऑडिटेबल" प्रॉक्सी हैं, न कि नए ग्राउंड-ट्रुथ कॉज़ल मैकेनिज्म की खोज के दावे।