Monroe: A Molecular Foundation Model for In-Context Probabilistic Inference
यह शोध पत्र Monroe को प्रस्तुत करता है, जो 81 मिलियन अणुओं पर प्रशिक्षित एक स्केलेबल मॉलिक्यूलर फाउंडेशन मॉडल है जिसमें उन्नत स्टीरियोकेमिकल निरूपण और नवीन प्रशिक्षण उद्देश्य शामिल हैं, जो इन-कॉन्टेक्स्ट प्रोबेबिलिस्टिक इन्फरेंस के लिए एक प्रायर-डेटा-फिटेड मॉडल (TabPFN) का लाभ उठाकर बायोअसे एक्टिविटी प्रेडिक्शन में अत्याधुनिक प्रदर्शन प्राप्त करता है और यह प्रदर्शित करता है कि यह डाउनस्ट्रीम एडेप्टेशन रणनीति MiniMol और CheMeleon जैसे मौजूदा मॉडलों में भी महत्वपूर्ण सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
नई दवाओं की खोज की दौड़ में, वैज्ञानिक एक जिद्दी बाधा का सामना कर रहे हैं: यह जानने का सबसे विश्वसनीय तरीका कि क्या कोई अणु किसी बीमारी को ठीक करेगा, उसे प्रयोगशाला में बनाना और उसका परीक्षण करना है। यह प्रक्रिया धीमी, महंगी और उन विशेष सुविधाओं की संख्या द्वारा सीमित है जो ये प्रयोग कर सकती हैं। इस कारण, कंप्यूटर प्रोग्रामों को प्रशिक्षित करने के लिए उपलब्ध डेटा अक्सर कम होता है। इससे निपटने के लिए, शोधकर्ताओं ने एक ऐसी रणनीति अपनाई है जो उस तरह की है जैसे एक बच्चा किसी विशिष्ट कुत्ते या बिल्ली को देखने से पहले जानवरों को पहचानने के लिए सीखता है। उन्होंने विशाल रासायनिक संरचनाओं और उनके बुनियादी भौतिक गुणों की बड़ी पुस्तकालयों पर विशाल कंप्यूटर मॉडल को प्रशिक्षित किया, जिससे सॉफ्टवेयर को अणुओं के व्यवहार की एक सामान्य समझ मिली। एक बार जब यह आधार बन जाता है, तो मॉडल को विशिष्ट जैविक परिणामों की भविष्यवाणी करने के लिए अनुकूलित किया जा सकता है, जैसे कि कोई यौगिक किसी वायरस से जुड़ेगा या नहीं, भले ही उस विशिष्ट कार्य के लिए केवल कुछ ही प्रयोगात्मक परिणाम उपलब्ध हों। यह दृष्टिकोण, जिसे 'आणविक फाउंडेशन मॉडल' (molecular foundation model) कहा जाता है, संभावित रसायनों की अनंत दुनिया और वास्तविक दुनिया के दवा परीक्षण के सीमित डेटा के बीच के अंतर को पाटने का लक्ष्य रखता है।
शोधकर्ताओं ने 'मोनरो' (Monroe) नामक एक नया मॉडल पेश किया है, जो इस क्षेत्र में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है। यह नाम एलिजाबेथ मोनरो बोग्स के सम्मान में रखा गया है, जो कम्प्यूटेशनल केमिस्ट्री की एक अग्रणी थीं, लेकिन स्वयं यह मॉडल एक आधुनिक मशीन लर्निंग सिस्टम है जिसे अणुओं की जटिल भाषा को समझने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने मोनरो को 81 मिलियन से अधिक अणुओं वाले एक विशाल डेटासेट पर प्रशिक्षित किया, जो पिछले प्रयासों की तुलना में बहुत बड़े पैमाने पर है। इस डेटासेट में विस्तृत क्वांटम केमिस्ट्री गणनाएँ शामिल थीं, जो परमाणुओं की ऊर्जा और संरचना का वर्णन करती हैं, साथ ही हजारों जैविक परख (assays) का डेटा भी शामिल था जो यह मापते हैं कि अणु जीवित प्रणालियों के साथ कैसे परस्पर क्रिया करते हैं। इस विशाल प्रकार की जानकारी के माध्यम से मॉडल को उजागर करके, शोधकर्ताओं ने इसे रसायन विज्ञान के सामान्य नियम सीखने में सक्षम बनाया जो विभिन्न प्रकार की समस्याओं पर लागू होते हैं, न कि केवल विशिष्ट उदाहरणों को याद करने तक सीमित रहे।
मोनरो के सबसे महत्वपूर्ण नवाचारों में से एक यह है कि यह अणुओं के त्रि-आयामी आकार, विशेष रूप से उनकी "हाथ की बनावट" (handedness) को कैसे संभालता है। कई अणु दो रूपों में मौजूद होते हैं जो एक-दूसरे के दर्पण प्रतिबिंब (mirror images) होते हैं, ठीक वैसे ही जैसे बायां और दायां हाथ। हालांकि इन दर्पण प्रतिबिंबों में परमाणु एक ही क्रम में जुड़े होते हैं, लेकिन मानव शरीर में वे पूरी तरह से अलग व्यवहार कर सकते हैं; एक दवा हो सकता है, जबकि उसका दर्पण प्रतिबिंब विषाक्त हो सकता है। मानक कंप्यूटर मॉडल अक्सर इन संस्करणों के बीच अंतर करने में संघर्ष करते हैं क्योंकि वे ऐसे गणितीय विवरणों पर निर्भर करते हैं जो दोनों आकृतियों के लिए समान दिखते हैं। मोनरो इसे अणु के अपने आंतरिक मानचित्र में अतिरिक्त कनेक्शन जोड़कर हल करता है जो इन दर्पण-प्रतिबिंब अंतरों के लिए संकेतों (flags) के रूप में कार्य करते हैं। यह मॉडल को उच्च सटीकता के साथ दोनों रूपों के बीच अंतर करने की अनुमति देता है, जो कि यह भविष्यवाणी करने के लिए एक आवश्यक क्षमता है कि एक दवा वास्तव में जैविक प्रणाली में कैसे काम करेगी।
शोधकर्ताओं ने यह भी परिष्कृत किया कि मॉडल अपने प्रशिक्षण डेटा से कैसे सीखता है। प्रत्येक सीखने के कार्य को समान रूप से महत्वपूर्ण मानने के बजाय, मोनरो एक स्मार्ट वेटिंग सिस्टम (weighting system) का उपयोग करता है जो स्वतः ही अपने फोकस को समायोजित करता है। यह उन कार्यों पर अधिक ध्यान देता है जहाँ डेटा स्पष्ट और विश्वसनीय है, और उन कार्यों पर कम ध्यान देता है जो शोर युक्त (noisy) या अनिश्चित हैं। इसके अलावा, मॉडल को अपूर्ण डेटा को साफ करने के लिए प्रशिक्षित किया गया है। वास्तविक दुनिया में, कंप्यूटर सिमुलेशन में उपयोग किए जाने वाले अणुओं के 3D आकार अक्सर मोटे अनुमान होते हैं। मोनरो को इन मोटे आकारों को लेकर उन्हें अधिक सटीक, स्थिर रूपों में परिष्कृत करने के लिए सिखाया जाता है, एक ऐसी प्रक्रिया जो मॉडल को आणविक स्थिरता को नियंत्रित करने वाले अंतर्निहित भौतिक नियमों को समझने में मदद करती है। डेटा को "डीनोइज़" (denoise) करने की यह क्षमता वास्तविक दुनिया के अनुप्रयोगों के लिए इसकी भविष्यवाणियों को मजबूत करती है।
अन्य अग्रणी मॉडलों के विरुद्ध परीक्षण किए जाने पर, मोनरो ने उत्कृष्ट प्रदर्शन प्रदर्शित किया, विशेष रूप से "एक्टिविटी क्लिफ्स" (activity cliffs) के रूप में जानी जाने वाली सबसे चुनौतीपूर्ण स्थितियों में। ये वे मामले हैं जहाँ दो अणु संरचना में लगभग समान होते हैं लेकिन उनके जैविक प्रभाव नाटकीय रूप से भिन्न होते हैं। इन तीव्र अंतरों की भविष्यवाणी करना कृत्रिम बुद्धिमत्ता के लिए अत्यंत कठिन है, फिर भी मोनरो ने इन परीक्षणों में अपने प्रतिस्पर्धियों को पछाड़ दिया। शोधकर्ताओं ने यह भी पाया कि मॉडल को नए कार्यों के लिए अनुकूलित करने की उनकी विधि अत्यधिक प्रभावी थी। हर नए दवा लक्ष्य के लिए पूरे मॉडल को फिर से प्रशिक्षित करने के बजाय, उन्होंने एक ऐसी तकनीक का उपयोग किया जो मॉडल को एक ही चरण में उदाहरणों के छोटे सेट से सीखने की अनुमति देती है, ठीक वैसे ही जैसे एक मनुष्य कुछ उदाहरण देखने के बाद एक नया नियम सीख सकता है। इस दृष्टिकोण को, जिसे उन्होंने न केवल मोनरो पर बल्कि दो अन्य मौजूदा मॉडलों को बेहतर बनाने के लिए भी लागू किया, एक शक्तिशाली और सामान्य रणनीति साबित हुआ।
अध्ययन यह निष्कर्ष निकालता है कि बड़े पैमाने पर प्री-ट्रेनिंग को विशिष्ट वास्तुशिल्प सुधारों, जैसे कि बेहतर आणविक हाथ की बनावट को संभालने और स्मार्ट डेटा वेटिंग के साथ जोड़ने से, दवा की खोज के लिए एक अधिक मजबूत उपकरण तैयार होता है। हालांकि यह मॉडल आणविक भविष्यवाणी की हर समस्या को हल नहीं करता है, और एक्टिविटी क्लिफ्स की चुनौती अभी भी कठिन बनी हुई है, मोनरो उस स्तर को निर्धारित करता है जो संभव है। यह दिखाता है कि कंप्यूटर को रासायनिक संरचना और व्यवहार की गहरी, अधिक सूक्ष्म समझ सिखाकर, वैज्ञानिक ऐसे उपकरण बना सकते हैं जो संभावित दवाओं के विशाल और जटिल परिदृश्य को नेविगेट करने के लिए बेहतर ढंग से सुसज्जित हैं, जिससे एक रासायनिक विचार से जीवन रक्षक उपचार तक की यात्रा की गति बढ़ सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।