Single-cell foundation models benefit from cross-modal training: adding proteomics data beats parameter scaling
यह शोध पत्र यह प्रदर्शित करता है कि प्रोटिओमिक्स डेटा के साथ एक सिंगल-सेल फाउंडेशन मॉडल का क्रॉस-मोडल प्रीट्रेनिंग, केवल आरएनए-ओनली (RNA-only) मॉडल्स को स्केल करने की तुलना में बेहतर जीन-स्तरीय और सेल-स्तरीय रिप्रजेंटेशन और बेहतर सामान्यीकरण (generalization) प्रदान करता है, जो केवल पैरामीटर स्केलिंग के बजाय मल्टीमॉडल ट्रेनिंग के मूल्य को उजागर करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
प्रत्येक जीवित कोशिका के भीतर, दो अलग-अलग भाषाओं में एक जटिल संवाद चल रहा है। एक भाषा RNA से बनी है, जो प्रोटीन बनाने के निर्देश ले जाने वाले अणु हैं—वे कार्यवाहक जो एक कोशिका को जीवित और क्रियाशील रखते हैं। वैज्ञानिकों ने इन RNA संदेशों को पढ़ने में वर्षों बिताए हैं, विशाल डिजिटल पुस्तकालय बनाए हैं जो बताते हैं कि स्वास्थ्य और रोग की स्थिति में कोशिकाएं कैसे व्यवहार करती हैं। ये पुस्तकालय इतने बड़े हो गए हैं कि अब शोधकर्ता इनके भीतर पैटर्न खोजने के लिए शक्तिशाली कंप्यूटर प्रोग्रामों का उपयोग करते हैं, जिन्हें 'फाउंडेशन मॉडल' कहा जाता है। ये प्रोग्राम विभिन्न कोशिका प्रकारों के अद्वितीय हस्ताक्षरों को पहचानना सीखते हैं, ठीक वैसे ही जैसे एक लाइब्रेरियन किसी पुस्तक के कवर को देखकर तुरंत उसकी शैली (जॉनर) की पहचान कर सकता है। लंबे समय तक, प्रचलित विश्वास यह था कि इन प्रोग्रामों को स्मार्ट बनाने का एकमात्र तरीका उन्हें और अधिक RNA डेटा खिलाना है, इस उम्मीद में कि केवल मात्रा बढ़ने से अंततः कोशिकीय जीवन का हर रहस्य उजागर हो जाएगा।
हालाँकि, कोशिकाएं एक से अधिक भाषाएं बोलती हैं। RNA के साथ-साथ, वे प्रोटीन भी बनाती हैं, जो वे वास्तविक संरचनाएं हैं जो कोशिका के कार्यों को पूरा करती हैं। जबकि RNA कोशिका को बताता है कि क्या बनाना है, प्रोटीन तैयार उत्पाद होते हैं। हाल तक, कोशिकाओं के अधिकांश कंप्यूटर मॉडल इन प्रोटीनों को अनदेखा करते थे और विशेष रूप से केवल RNA निर्देशों पर ध्यान केंद्रित करते थे। इसने समझ में एक अंतर छोड़ दिया, क्योंकि निर्देश हमेशा अंतिम परिणाम से मेल नहीं खाते। वैज्ञानिकों के सामने प्रश्न यह था कि क्या जानकारी की यह दूसरी परत—प्रोटीन डेटा—जोड़ने से इन कंप्यूटर मॉडलों को केवल अधिक RNA डेटा देने से कहीं अधिक सिखाया जा सकता है। यह एक परीक्षण था कि क्या सूचना की गुणवत्ता और विविधता, मॉडल को बड़ा बनाने और उसे एक ही तरह की चीज़ अधिक खिलाने की सरल रणनीति से बेहतर प्रदर्शन कर सकती है।
शोधकर्ताओं की एक टीम ने एक नए प्रकार के डेटा पर एक कंप्यूटर मॉडल को प्रशिक्षित करके इसका उत्तर देने का प्रयास किया। उन्होंने एक मौजूदा मॉडल से शुरुआत की जिसने पहले ही सैकड़ों मिलियन RNA नमूनों से सीखा था। केवल अधिक RNA खिलाने के बजाय, उन्होंने इसे प्रोटीन प्रोफाइल्स के एक विशाल संग्रह से परिचित कराया। ये प्रोफाइल्स 440 अलग-अलग अध्ययनों से आए थे जिन्होंने मास स्पेक्ट्रोमेट्री का उपयोग किया था, जो एक ऐसी तकनीक है जो कोशिका में मौजूद विशिष्ट प्रोटीनों को मापती है। शोधकर्ताओं ने मॉडल को सावधानीपूर्वक इन 48,843 प्रोटीन नमूनों से सीखने के लिए निर्देशित किया, एक प्रक्रिया जिसे उन्होंने 'क्रॉस-मोडल कंटीन्यूड प्रीट्रेनिंग' कहा। इसका अर्थ यह था कि मॉडल को यह सीखना था कि प्रोटीन की भाषा उस RNA भाषा से कैसे संबंधित है जिसे वह पहले से जानता था, प्रभावी रूप से उसे कोशिका को उसके निर्देशों और उसके तैयार उत्पादों दोनों के माध्यम से समझने की शिक्षा देना।
परिणाम चौंकाने वाले थे। शोधकर्ताओं ने इस मिश्रित डेटा पर केवल एक बार प्रोटीन नम들이 के माध्यम से गुजरते हुए, 70 मिलियन पैरामीटर्स (जटिलता का एक माप) वाले एक मॉडल को प्रशिक्षित किया। जब उन्होंने इस मॉडल का परीक्षण किया, तो इसने उन मॉडलों के समान या उनसे बेहतर प्रदर्शन किया जो बहुत बड़े थे और केवल RNA पर प्रशिक्षित थे। विशेष रूप से, प्रोटीन डेटा वाले इस छोटे मॉडल ने 1 बिलियन और 3 बिलियन पैरामीटर्स वाले RNA-मात्र मॉडलों के प्रदर्शन के बराबर या उससे अधिक प्रदर्शन किया। यह खोज इस विचार को चुनौती देती है कि बेहतर समझ प्राप्त करने का एकमात्र मार्ग केवल मॉडल के आकार और RNA डेटा की मात्रा को बढ़ाना है। इसके बजाय, यह सुझाव देता है कि अलग प्रकार के जैविक डेटा को पेश करना मॉडल की बुद्धिमत्ता को बढ़ावा देने के लिए कहीं अधिक कुशल हो सकता है।
इस दृष्टिकोण के लाभ सामान्य प्रदर्शन से परे भी थे। प्रोटीन डेटा के साथ प्रशिक्षित मॉडल ने बेहतर सामान्यीकरण (जनरलाइजेशन) की क्षमता दिखाई, जिसका अर्थ है कि यह उन नई स्थितियों में भी जो उसने पहले कभी नहीं देखी थीं, लागू हो सकता है। यह विशेष रूप से तब स्पष्ट हुआ जब मॉडल का परीक्षण प्रोटीन परिवर्तनों के प्रति कोशिका की प्रतिक्रिया पर किया गया। इन परीक्षणों में, केवल RNA-मात्र मॉडल को बड़ा बनाने से भी इसे परिवर्तनों को बेहतर ढंग से समझने में मदद नहीं मिली। हालाँकि, जिस मॉडल ने प्रोटीन से सीखा था, उसने इन नई चुनौतियों को अधिक सहजता से संभाला। यह इंगित करता है कि प्रोटीन डेटा ने मॉडल को कोशिकाओं के काम करने के तरीके की एक अधिक मजबूत और लचीली समझ बनाने में मदद की, जो केवल RNA में पाए जाने वाले पैटर्न तक सीमित नहीं है।
ये निष्कर्ष सुझाव देते हैं कि कोशिकाओं को समझने का भविष्य केवल एक प्रकार के डेटा पर प्रशिक्षित बड़े मॉडलों के निर्माण में नहीं है। इसके बजाय, सबसे शक्तिशाली अंतर्दृष्टि सावधानीपूर्वक विभिन्न प्रकार की जैविक जानकारी को संयोजित करने से आ सकती है। कंप्यूटर मॉडलों को कोशिका के निर्देशों और उत्पादों दोनों को पढ़ना सिखाकर, वैज्ञानिक ऐसे उपकरण बना सकते हैं जो न केवल स्मार्ट हैं बल्कि उनके अनुमानों में भी अधिक सटीक हैं। यह दृष्टिकोण अधिक सूचनात्मक मॉडल बनाने की दिशा में एक आशाजनक मार्ग प्रदान करता है जो जीवन की पूर्ण जटिलता को पकड़ सके, यह सिद्ध करते हुए कि कभी-कभी, एक नया दृष्टिकोण जोड़ना केवल एक ही चीज़ को और अधिक जोड़ने से कहीं अधिक मूल्यवान होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।