Deciphering the Language of Nature: A transformer-based language model for deleterious mutations in proteins
यह शोधपत्र MutFormer को प्रस्तुत करता है, जो एक ट्रांसफॉर्मर-आधारित मॉडल है जो मानव प्रोटीन में हानिकारक मिसेंस म्यूटेशन (missense mutations) की भविष्यवाणी करने के लिए सेल्फ-अटेंशन और कनवल्शनल परतों को संयोजित करता है, और अल्प-दूरी (short-range) एवं दीर्घ-दूरी (long-range) की अनुक्रम निर्भरताओं (sequence dependencies) को प्रभावी ढंग से कैप्चर करके मौजूदा उपकरणों के समान या बेहतर प्रदर्शन प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका शरीर एक विशाल, हलचल भरे शहर की तरह है जो एक विशाल निर्देश पुस्तिका (instruction manual) से बना है। यह मैनुअल, जो चार अक्षरों वाले कोड (A, C, T, G) में लिखा गया है, आपकी कोशिकाओं को बताता है कि वे उन मशीनों का निर्माण कैसे करें जो आपको जीवित रखती हैं। कभी-कभी, इस मैनुअल के एक अक्षर में टाइपिंग की गलती (typo) हो जाती है। ज्यादातर समय, ये गलतियाँ हानिरहित होती हैं, जैसे किसी रेसिपी में गलत वर्तनी वाला शब्द जिससे स्वाद तो ठीक रहता है। लेकिन कभी-कभी, एक टाइपो एक महत्वपूर्ण सामग्री को बदल देता है, जिससे एक स्वादिष्ट केक एक ईंट में बदल जाता है। प्रोटीन बनाने वाले मैनुअल के इन हिस्सों में होने वाले ये "टाइपो" मिसेंस म्यूटेशन (missense mutations) कहलाते हैं। वैज्ञानिक लंबे समय से खतरनाक गलतियों को हानिरहित गलतियों से अलग पहचानने के लिए डिजिटल जासूस बनाने की कोशिश कर रहे हैं, लेकिन यह एक कठिन काम है क्योंकि निर्देश बहुत जटिल और संदर्भ-निर्भर होते हैं।
इस पेपर में वर्णित नए टूल को समझने के लिए, आपको दो चीजें जानने की जरूरत है। पहला, प्रोटीन अमीनो एसिड नामक बिल्डिंग ब्लॉक्स की लंबी श्रृंखलाएं हैं। इन ब्लॉक्स का क्रम निर्धारित करता है कि प्रोटीन कैसे मुड़ेगा (fold) और वह क्या कार्य करेगा। दूसरा, कंप्यूटर की दुनिया में, "ट्रांसफॉर्मर" (transformer) प्रकार का एक आर्टिफिशियल इंटेलिजेंस होता है। आप इन्हें स्मार्ट चैटबॉट्स या अनुवाद ऐप्स के पीछे के दिमाग के रूप में जान सकते हैं जो शब्दों के बीच के संबंध को समझते हैं, भले ही वे वाक्य में एक-दूसरे से दूर हों। वैज्ञानिकों ने हाल ही में इन समान "भाषा" वाले दिमागों का उपयोग जीवन की "भाषा" को पढ़ने के लिए करना शुरू किया है, जिसमें प्रोटीन श्रृंखलाओं को वाक्यों और अमीनो एसिड को शब्दों की तरह माना जाता है। बड़ा सवाल यह है: क्या एक कंप्यूटर जिसने मानव भाषा पढ़ना सीखा है, वह जीवन की भाषा को इतनी अच्छी तरह पढ़ सकता है कि यह भविष्यवाणी कर सके कि कौन से जेनेटिक टाइपो बीमारी का कारण बनेंगे?
यहाँ MutFormer आता है, जो शोधकर्ता थियोडोर टी. जियांग, ली फांग और कैई वांग द्वारा बनाया गया एक नया डिजिटल जासूस है। उन्होंने विशेष रूप से प्रोटीन के "व्याकरण" (grammar) को समझने के लिए प्रशिक्षित एक ट्रांसफॉर्मर मॉडल बनाने का निर्णय लिया। केवल एक अकेले म्यूटेशन को देखने के बजाय, MutFormer पूरी प्रोटीन अनुक्रम (sequence) को पढ़ता है, और इस बात पर ध्यान देता है कि प्रत्येक अमीनो एसिड दूसरे के साथ, चाहे वह पास में हो या दूर, कैसे परस्पर क्रिया करता है।
शोधकर्ताओं ने MutFormer को एक व्यापक पाठ योजना (lesson plan) के साथ पढ़ाना शुरू किया। उन्होंने इसे 128,000 से अधिक मानव प्रोटीन अनुक्रमों को खिलाया, जिसमें "सही" संस्करण और सामान्य आबादी में पाए जाने वाले सामान्य, हानिरहित म्यूटेशन दोनों शामिल थे। इसे ऐसे समझें जैसे AI को प्रोटीन व्याकरण के नियम सीखने के लिए लाखों वाक्य दिखाना, बिना यह बताए कि कौन से "गलत" हैं। इस प्रशिक्षण के दौरान, Mutifer ने अनुक्रम के गायब या बिखरे हुए हिस्सों की भविष्यवाणी करना सीखा, जिससे इसने प्रभावी रूप से जीवन के "सिंटैक्स" (syntax) को सीख लिया।
एक बार जब मॉडल प्री-ट्रेन हो गया, तो शोधकर्ताओं ने इसे एक विशिष्ट परीक्षण दिया: यह पहचानना कि कौन से म्यूटेशन खतरनाक हैं। उन्होंने ज्ञात रोगजनक म्यूटेशन और हानिरहित म्यूटेशन के डेटासेट का उपयोग करके MutFormer को फाइन-ट्यून किया। उन्होंने मॉडल को अपना काम करने के लिए तीन अलग-अलग तरीकों के साथ प्रयोग किया:
- प्रति अवशेष (Per Residue): मॉडल से श्रृंखला के हर एक अमीनो एसिड को "सुरक्षित" या "असुरक्षित" के रूप में लेबल करने के लिए कहना।
- एकल अनुक्रम (Single Sequence): मॉडल को केवल उत्परिवर्तित (mutated) प्रोटीन दिखाना और पूछना, "क्या यह पूरी चीज़ खराब हो गई है?"
- युग्मित अनुक्रम (Paired Sequence): मॉडल को मूल प्रोटीन और उत्परिवर्तित संस्करण दोनों को अगल-बगल दिखाना, और उसे दोनों की तुलना करने और यह तय करने के लिए कहना कि क्या परिवर्तन हानिकारक है।
परिणाम स्पष्ट थे: युग्मित अनुक्रम (Paired Sequence) विधि सबसे अच्छा काम करती थी। यह एक जासूस को मूल ब्लूप्रिंट और परिवर्तित ब्लूप्रिंट दोनों देने जैसा था ताकि अंतर पहचाना जा सके।
लेकिन यहाँ Mutformer बहुत चतुर हो जाता है। इस काम के लिए अधिकांश पिछले AI मॉडल "शब्दों" (अमीनो एसिड पैटर्न) के एक निश्चित शब्दकोश का उपयोग करते थे जो बदल नहीं सकते थे। हालाँकि, MutFormer कन्वोल्यूशनल लेयर्स (convolutional layers) से जुड़ा एक विशेष तरीका उपयोग करता है। कल्पना कीजिए कि ये एडजस्टेबल लेंसों का एक सेट हैं जिनका उपयोग मॉडल प्रोटीन को स्कैन करने के लिए करता है। एक पूर्व-निर्मित शब्दकोश पर निर्भर रहने के बजाय, MutFormer इन लेंसों का उपयोग अपने प्रशिक्षण के दौरान महत्वपूर्ण पैटर्न के अपने स्वयं के "शब्दकोश" को सीखने के लिए करता है। यह ऐसा है जैसे जासूस ने केवल एक शब्दकोश को याद नहीं किया, बल्कि प्रोटीन की अनूठी लिखावट और शैली को पहचानना सीख लिया।
जब शोधकर्ताओं ने MutFormer का मौजूदा उपकरणों (क्षेत्र के वर्तमान "जासूसों") के विरुद्ध परीक्षण किया, तो इसने अपनी जगह बनाई। उन सामान्य डेटासेट्स पर जो इसके प्रशिक्षण डेटा के समान थे, MutFormer मौजूदा सर्वोत्तम तरीकों के बराबर या उनसे बेहतर प्रदर्शन करता रहा। उन डेटासेट्स पर भी जो बहुत अलग थे—विशेष रूप से उन जीन्स में म्यूटेशन देखना जहाँ मॉडल ने बहुत कम डेटा देखा था—यह अन्य शीर्ष उपकरणों के प्रदर्शन से मेल खाने में सफल रहा।
पेपर यह भी सुझाव देता है कि MutFormer केवल अन्य उपकरणों की नकल नहीं कर रहा है। जब उन्होंने MutFormer के अनुमानों की तुलना EVE नामक एक टूल से की, जो विकासवादी इतिहास (यह देखकर कि प्रजातियाँ लाखों वर्षों में कैसे बदलीं) पर निर्भर करता है, तो उन्होंने पाया कि दोनों उपकरण हमेशा सहमत नहीं होते हैं। यह सुझाव देता है कि MutFormer अलग-अलग सुराग पकड़ रहा है—विशेष रूप से प्रोटीन अनुक्रम का तात्कालिक "व्याकरण"—जिसे विकासवादी उपकरण मिस कर सकते हैं।
शोधकर्ता सावधानी बरतते हैं कि हालांकि MutFormer एक मजबूत नया खिलाड़ी है, लेकिन यह सब कुछ हल करने वाली कोई जादुई छड़ी नहीं है। मॉडल को एक विशिष्ट डेटासेट पर प्रशिक्षित किया गया था, और किसी भी छात्र की तरह, यह उन सवालों में संघर्ष कर सकता है जिन्हें इसने पहले नहीं देखा है। वे यह भी बताते हैं कि मॉडल वर्तमान में मुख्य रूप से अक्षरों के अनुक्रम पर निर्भर करता है और अभी तक 3D आकृतियों या मिथाइलेशन जैसे अन्य जैविक कारकों को पूरी तरह से शामिल नहीं करता है, जो भविष्य में इसे और भी स्मार्ट बना सकते हैं।
संक्षेप में, MutFormer यह सुझाव देता है कि प्रोटीन को एक भाषा की तरह मानकर और एक परिष्कृत "भाषा मॉडल" का उपयोग करके जो अपना स्वयं का शब्दकोश सीख सकता है, हम इस बारे में एक नया और शक्तिशाली दृष्टिकोण प्राप्त कर सकते हैं कि कौन से जेनेटिक टाइपो खतरनाक हैं। यह उन जेनेटिक वेरिएंट्स को प्राथमिकता देने में मदद करने की दिशा में एक आशाजनक कदम है जिन्हें सबसे अधिक ध्यान देने की आवश्यकता है, जो मानव स्वास्थ्य की स्पष्ट तस्वीर देने के लिए मौजूदा उपकरणों का पूरक बन सकता है। कोड और मॉडल अब दूसरों के उपयोग और निर्माण के लिए उपलब्ध हैं, जो यह देखने के लिए प्रयोगों के द्वार खोलते हैं कि इस "प्रकृति की भाषा" को कितनी अच्छी तरह समझा जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।