🤖 machine learning

FlashMol: High-Quality Molecule Generation in as Few as Four Steps

यह शोध पत्र FlashMol को पेश करता है, जो एक अत्यंत तीव्र जनरेटिव मॉडल है जो अनुकूलित टाइमस्टेप रिस्पेसिंग (timestep respacing) और जेन्सन-शैनन डाइवर्जेंस (Jensen-Shannon divergence) रेगुलाइजेशन के साथ डिस्ट्रीब्यूशन मैचिंग डिस्टिलेशन (distribution matching distillation) को अनुकूलित करके मात्र चार चरणों में उच्च गुणवत्ता वाले 3D आणविक कन्फर्मेशन (molecular conformations) उत्पन्न करता है, जो पारंपरिक डिफ्यूजन मॉडल्स की गुणवत्ता को बनाए रखते हुए या उससे बेहतर प्रदर्शन करते हुए 250 $\times$ तक का त्वरण (acceleration) प्राप्त करता है।

मूल लेखक: Xinyuan Wei, Zian Li, Shaoheng Yan, Cai Zhou, Muhan Zhang

प्रकाशित 2026-05-11

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinyuan Wei, Zian Li, Shaoheng Yan, Cai Zhou, Muhan Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बेहतरीन केक बनाने की कोशिश कर रहे हैं। कंप्यूटर विज्ञान की दुनिया में, "एक अणु को बेक करना" (baking a molecule) का अर्थ है एक नए रासायनिक ढांचे को डिजाइन करने के लिए AI का उपयोग करना जो जीवन रक्षक दवा बन सके।

लंबे समय तक, ऐसा करने का सबसे अच्छा तरीका एक ऐसी रेसिपी का पालन करना था जिसमें 1,000 छोटे, सावधानीपूर्ण चरणों की आवश्यकता होती थी। आपको एक अच्छा केक बनाने के लिए सैकड़ों बार मिश्रण करना, जांचना, सुधारना और फिर से मिलाना पड़ता था। यह सटीक तो था, लेकिन अविश्वसनीय रूप से धीमा और महंगा था, जिससे सबसे अच्छा केक खोजने के लिए हजारों केक बनाना असंभव हो गया था।

हाल ही में, वैज्ञानिकों ने इसे तेज करने की कोशिश की और चरणों को घटाकर लगभग 12 या 50 कर दिया। लेकिन एक समस्या थी: केक या तो जल जाते थे या पिचक जाते थे। AI बहुत जल्दबाजी कर रहा था और उन "रासायनिक नियमों" को खो रहा था जो एक अणु को स्थिर बनाते हैं।

यहाँ FlashMol आता है। FlashMol को एक मास्टर बेकर के रूप में समझें जिसने केवल 4 चरणों में एक बेहतरीन केक बनाना सीख लिया है।

उन्होंने इसे कैसे किया, इसे तीन सरल ट्रिक्स में विभाजित किया गया है:

1. "स्मार्ट शेड्यूल" ट्रिक (Respaced Timesteps)

कल्पना कीजिए कि आप एक कमरे को पार करने की कोशिश कर रहे हैं। पुराना तरीका था 1,000 छोटे, समान आकार के कदम उठाना। नए "कुछ-चरणों वाले" प्रयासों ने 50 बड़ी छलांग लगाने की कोशिश की, लेकिन वे लड़खड़ा गए क्योंकि शुरुआती कुछ छलांगें बहुत बड़ी थीं और आखिरी कुछ बहुत छोटी थीं, जिससे वे सही ढंग से लैंड नहीं कर पाए।

FlashMol टीम ने महसूस किया कि कदमों की संख्या से ज्यादा कदमों का आकार मायने रखता है।

समस्या: यदि आप शुरुआत में बहुत बड़े कदम उठाते हैं (जब अणु केवल शोर का एक धुंधला बादल होता है), तो आप महत्वपूर्ण विवरणों को छोड़ सकते हैं। यदि आप अंत में छोटे कदम लेते हैं, तो आप समय बर्बाद करते हैं।
समाधान: उन्होंने शेड्यूल को फिर से डिजाइन किया। उन्होंने AI को बताया: "शुरुआत में कुछ बड़े, साहसी कदम लें ताकि सामान्य आकार सही हो जाए, और फिर विवरणों को निखारने के लिए अंत में कई छोटे, सावधानीपूर्ण कदम लें।"
परिणाम: यहाँ तक कि AI ने कुछ भी नया सीखने से पहले ही, केवल स्टेप साइज बदलकर, 4-स्टेप संस्करण ने स्थिर और बिना टूटे हुए अणु बनाए। इसने AI को एक बहुत बेहतर "स्टार्टिंग पॉइंट" दिया।

2. "कॉपीकैट" ट्रिक (Distribution Matching Distillation)

आमतौर पर, किसी छात्र AI को तेज होने के लिए सिखाने के लिए, आप उसे विशेषज्ञ शिक्षक AI को उसके पूरे 1,000 चरणों के माध्यम से काम करते हुए देखते हैं। लेकिन छात्र उस रास्ते (path) की नकल करने की कोशिश करता है जो शिक्षक ने लिया था, और यदि छात्र शुरुआत में एक भी गलती करता है, तो पूरा रास्ता गलत हो जाता है (जैसे "टेलीफोन गेम" में होता है)।

FlashMol एक अलग विधि का उपयोग करता है जिसे डिस्ट्रीब्यूशन मैचिंग कहा जाता है।

रास्ते की नकल करने के बजाय, छात्र को बताया जाता है: "इस बात की चिंता न करें कि आप वहाँ कैसे पहुँचे। बस यह सुनिश्चित करें कि आपके द्वारा बनाया गया अंतिम केक बिल्कुल शिक्षक के अंतिम केक जैसा दिखे।"
AI शिक्षक के तैयार अणु और छात्र के तैयार अणु को देखता है और पूछता है, "वे एक-दूसरे से कितने अलग हैं?" फिर यह खुद को एडजस्ट करता है ताकि वे मेल खा सकें। यह "टेलीफोन गेम" जैसी गलतियों को जमा होने से रोकता है।

3. "वैरायटी" ट्रिक (सुरक्षा जाल जोड़ना)

"कॉपीकैट" ट्रिक का एक दुष्प्रभाव था: छात्र AI बहुत अधिक सुरक्षित हो गया। वह बार-बार एक ही प्रकार का केक बनाता रहा क्योंकि वह गलती करने से डरता था। ड्रग डिस्कवरी में, आपको विविधता चाहिए—आप कई अलग-अलग आकारों को आजमाना चाहते हैं ताकि जो काम करे उसे खोजा जा सके।

इसे ठीक करने के लिए, टीम ने एक "वैरायटी बूस्टर" जोड़ा।

उन्होंने एक विशेष नियम जोड़ा जो कहता है, "थोड़ा अलग आकार आजमाना ठीक है, जब तक कि वह अभी भी एक अच्छा केक है।"
इसने अणुओं की गुणवत्ता को उच्च रखा लेकिन यह भी सुनिश्चित किया कि AI केवल एक ही डिजाइन को 1,000 बार दोहराए नहीं।

अंतिम परिणाम

इन ट्रिक्स को मिलाकर, FlashMol केवल 4 चरणों में उच्च-गुणवत्ता वाले, रासायनिक रूप से वैध 3D अणु बना सकता है।

गति: यह पुराने 1,000-स्टेप वाले तरीकों की तुलना में 250 गुना तेज है।
गुणवत्ता: इसके द्वारा बनाए गए अणु उतने ही स्थिर और वैध हैं जितने कि धीमे वाले। वास्तव में, कुछ परीक्षणों में, यह 12 या 50 चरणों में काम करने वाले अन्य "फास्ट" तरीकों से भी बेहतर था।

संक्षेप में: FlashMol ने केवल AI को तेज नहीं बनाया; इसने AI को स्मार्ट कदम उठाना और प्रक्रिया के बजाय परिणाम से सीखना सिखाया, जिससे वह लगभग तुरंत जटिल रासायनिक संरचनाओं को डिजाइन करने में सक्षम हुआ।

तकनीकी सारांश: FlashMol

समस्या विवरण

रासायनिक रूप से वैध 3D आणविक विन्यास (conformations) उत्पन्न करना कम्प्यूटेशनल ड्रग डिस्कवरी में एक महत्वपूर्ण बाधा है। हालांकि GeoLDM और EDM जैसे डिफ्यूजन-आधारित मॉडल उच्च गुणवत्ता वाले, स्थिर अणु उत्पन्न करते हैं, उन्हें आमतौर पर प्रति सैंपल सैकड़ों से हजारों अनुक्रमिक नेटवर्क मूल्यांकन (NFEs) की आवश्यकता होती है (जैसे, 1000 NFEs)। यह कम्प्यूटेशनल लागत बड़े पैमाने पर in silico स्क्रीनिंग को अव्यावहारिक बना देती है। हाल के कुछ-चरण (few-step) विधियों ने NFEs को 12-50 की सीमा तक कम कर दिया है, लेकिन वे अक्सर एक महत्वपूर्ण ट्रेड-ऑफ का सामना करते हैं: नमूना स्थिरता और वैधता में भारी गिरावट। अब तक, किसी भी मौजूदा विधि ने 10 चरणों या उससे कम में विश्वसनीय, उच्च-गुणवत्ता वाली आणविक पीढ़ी प्राप्त नहीं की है, जो कि इमेज और वीडियो जनरेशन में एक मानक बनता जा रहा है।

कार्यप्रणाली (Methodology)

लेखक FlashMol का प्रस्ताव करते हैं, जो एक अत्यंत तीव्र जनरेटिव मॉडल है जो मात्र 4 चरणों में उच्च-गुणवत्ता वाले 3D आणविक विन्यास उत्पन्न करने में सक्षम है। FlashMol, 1000-चरण वाले शिक्षक (GeoLDM) से एक कुछ-चरण वाले छात्र (student) जनरेटर को डिस्ट्रीब्यूशन मैचिंग डिस्टिलेशन (DMD) का उपयोग करके डिस्टिल करता है, जिसे विशेष रूप से आणविक डोमेन के लिए अनुकूलित किया गया है। यह दृष्टिकोण आणविक पीढ़ी में DMD को लागू करने से जुड़ी दो प्राथमिक चुनौतियों का समाधान करता है:

1. रिस्पेसड टाइमस्टेप्स (Respaced Timesteps) के माध्यम से खराब प्रारंभिक मोड से बचना

मानक DMD इस बात पर निर्भर करता है कि छात्र मॉडल उपयोगी अनुकूलन संकेत प्रदान करने के लिए उचित प्रारंभिक नमूने उत्पन्न करे। हालांकि, आणविक संरचनाएं शोर (noise) के प्रति अत्यधिक संवेदनशील होती हैं; बॉन्ड की लंबाई और कोणों में मामूली विचलन भी एक अणु को रासायनिक रूप रूप से अमान्य बना सकते हैं। यूनिफॉर्म टाइमस्टेप्स के साथ सीधे DMD लागू करने से एक छात्र मॉडल प्राप्त होता है जो लगभग 0% स्थिर अणु उत्पन्न करता है, जिससे ग्रेडिएंट एक्सप्लोजन (gradient explosions) और अप्रभावी प्रशिक्षण होता है।

इसे हल करने के लिए, FlashMol EDM के डिज़ाइन स्पेस विश्लेषण से प्रेरित एक टाइमस्टेप रिस्पेसिंग रणनीति पेश करता है। यूनिफॉर्म टाइमस्टेप्स के बजाय, यह विधि उच्च शोर स्तरों पर बड़े डिनोइजिंग स्टेप्स को आगे लाती है और कम-शोर वाले शासन (low-noise regime) के लिए कई छोटे स्टेप्स सुरक्षित रखती है जहाँ सूक्ष्म ज्यामितीय विवरणों को पुनः प्राप्त किया जाता है।

तंत्र (Mechanism): शोर शेड्यूल $\sigma_i$ को $\sigma_i = (\sigma_{max}^{1/\rho} + \frac{i}{N-1}(\sigma_{min}^{1/\rho} - \sigma_{max}^{1/\rho}))^\rho$ के रूप में परिभाषित किया गया है।
प्रभाव (Impact): यह रणनीति छात्र मॉडल के लिए एक व्यवहार्य इनिशियलाइजेशन प्रदान करती है, जिससे वह डिस्टिलेशन शुरू होने से पहले स्थिर (यद्यपि अपूर्ण) अणु उत्पन्न कर पाता है। यह DMD प्रशिक्षण प्रक्रिया को स्थिर करता है, ग्रेडिएंट एक्सप्लोजन को रोकता है और प्रभावी अनुकूलन को सक्षम बनाता है।

2. $f$ -Divergence रेगुलाइजेशन के माध्यम से विविधता में सुधार

DMD रिवर्स कलबैक-लीब्लर (KL) डाइवर्जेंस ( $KL(p_{fake} || p_{real})$ ) को कम करता है, जो छात्र को शिक्षक के उच्च-संभावना वाले मोड्स (modes) से मेल खाने के लिए प्रोत्साहित करता है लेकिन अक्सर "मोड-सीकिंग" व्यवहार की ओर ले जाता है, जिससे सपोर्ट कोलैप्स हो जाता है और नमूना विविधता कम हो जाती है।

इसे कम करने के लिए, FlashMol DMD ऑब्जेक्टिव को एक जेन्सन-शैनन (JS) डाइवर्जेंस टर्म के साथ रेगुलाइज करता है।

तंत्र (Mechanism): JS डाइवर्जेंस में फॉरवर्ड और रिवर्स दोनों KL घटक शामिल हैं। फॉरवर्ड KL घटक "मीन-सीकिंग" व्यवहार पेश करता है, जो रिवर्स KL के मोड-सीकिंग व्यवहार का मुकाबला करता है।
कार्यान्वयन (Implementation): JS टर्म को वास्तविक और उत्पन्न अणुओं पर प्रशिक्षित GAN डिस्क्रिमिनेटर का उपयोग करके अनुमानित किया जाता है। अंतिम लॉस फंक्शन $L_{Flashnel} = L_{DMD} + \lambda \cdot L_{JS}$ है।

मुख्य योगदान

आणविक पीढ़ी में DMD का एकीकरण: लेखकों ने सफलतापूर्वक अपने लेटेंट मॉलिक्यूलर जनरेटिव मॉडल GeoLDM में डिस्ट्रीब्यूशन मैचिंग डिस्टिलेशन को अनुकूलित किया है, जिससे अत्यंत कम चरणों में उच्च-फिडेलिटी नमूने प्राप्त हुए हैं।
टाइमस्टेप रिस्पेसिंग रणनीति: उन्होंने पहचान की है कि इन्फरेंस-टाइम टाइमस्टेप शेड्यूलिंग आणविक वितरण डिस्टिलेशन के लिए एक महत्वपूर्ण बाधा है। EDM-प्रेरित रिस्पेसिंग रणनीति पेश करके, वे बिना किसी अतिरिक्त प्रशिक्षण के प्रारंभिक कुछ-चरण वाले जनरेटर की गुणवत्ता में काफी सुधार करते हैं, जिससे प्रभावी डिस्टिलेशन संभव होता है।
एकीकृत डाइवर्जेंस ऑब्जेक्टिव: वे वैनिला DMD ऑब्जेक्टिव को जेन्सन-शैनन डाइवर्जेंस टर्म को एकीकृत करके विस्तारित करते हैं, जो उच्च-फिडेलिटी पीढ़ी (रिवर्स KL के माध्यम से) और विविधता संरक्षण (फॉरवर्ड KL घटकों के माध्यम से) के बीच संतुलन बनाता है।
प्रदर्शन: यह विधि केवल 4 से 8 चरणों के साथ स्टेट-ऑफ-द-आर्ट परिणाम प्राप्त करती है, जो मूल 1000-चरण वाले शिक्षक के बराबर या उससे बेहतर है।

प्रयोगात्मक परिणाम

प्रयोग QM9 (130K छोटे अणु) और GEOM-DRUG (450K बड़े अणु) डेटासेट पर किए गए।

स्थिरता और वैधता (Stability and Validity):
- QM9 पर, FlashMol केवल 4 चरणों में 83.89% आणविक स्थिरता और 8 चरणों में 94.87% स्थिरता प्राप्त करता है। यह रिस्पेसड GeoLDM बेसलाइन (4 चरणों पर 12.43%) और GeoRCG (50 चरण) और MOLTD (12 चरण) जैसे अन्य कुछ-चरण विधियों से काफी बेहतर प्रदर्शन करता है।
- GEOM-DRUG पर, FlashMol 4 चरणों में 84.72% एटम स्टेबिलिटी और 8 चरणों में 89.98% एटम स्टेबिलिटी प्राप्त करता है, जो डेटासेट-स्तर की एटम स्टेबिलिटी (86.5%) से अधिक है।
त्वरण (Acceleration): FlashMol 1000-चरण वाले GeoLDM शिक्षक की तुलना में सैंपलिंग गति में 250× त्वरण प्राप्त करता है जबकि उच्च आणविक गुणवत्ता बनाए रखता है।
कंडीशनल जनरेशन: कंडीशनल जनरेशन कार्यों (जैसे $\epsilon_{HOMO}$ , $\epsilon_{LUMO}$ आदि जैसे गुणों की भविष्यवाणी करना) में, FlashMol (32 चरण) 1000-चरण वाले बेसलाइनों के बराबर या बेहतर MAE प्राप्त करता है।
एब्लेशन स्टडीज (Ablation Studies):
- रिस्पेसिंग: रिस्पेसिंग के बिना, 4-चरण वाला जनरेशन लगभग शून्य स्थिरता देता है। रिस्पेसिंग के साथ, डिस्टिलेशन के बिना भी स्थिरता बढ़कर ~94% हो जाती है।
- डाइवर्जेंस: केवल DMD का उपयोग करने से स्थिरता में सुधार होता है लेकिन विविधता (Valid & Unique) कम हो जाती है। JS टर्म जोड़ने से उच्च स्थिरता बनाए रखते हुए विविधता वापस आ जाती है।

महत्व और दावे

पेपर का दावा है कि FlashMol उच्च-थ्रूपुट स्क्रीनिंग के लिए डिफ्यूजन-आधारित आणविक डिजाइन को व्यावहारिक बनाने की दिशा में एक महत्वपूर्ण कदम है। सैंपलिंग लागत को 1000 चरणों से घटाकर मात्र 4 चरणों तक लाकर, FlashMol उस प्रमुख कम्प्यूटेशनल बाधा को हटा देता है जिसने इन मॉडलों को औद्योगिक ड्रग डिस्कवरी पाइपलाइनों में तैनात करने से रोका था।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण शिक्षक मॉडल से परे कोई नई जनरेटिव क्षमता पेश नहीं करता है, बल्कि कुशल डिस्टिलेशन के माध्यम से मौजूदा मॉडलों की क्षमता को अनलॉक करता है। वे नोट करते हैं कि हालांकि विविधता और स्थिरता के बीच एक ट्रेड-ऑफ है (जो कि स्कोर-डिस्टिलेशन ऑब्जेक्टिव की एक ज्ञात विशेषता है), उनका तरीका मोड कोलैप्स को इस हद तक कम करने में सफल रहा है जो वैध रासायनिक संरचनाओं के विश्वसनीय उत्पादन की अनुमति देता है। यह कार्य सुझाव देता है कि इसी तरह की डिस्टिलेशन तकनीकों को प्रोटीन-लिगैंड को-डिजाइन और सामग्री खोज जैसे डोमेन में अन्य इक्विवेरिएंट लेटेंट डिफ्यूजन मॉडल्स पर लागू किया जा सकता है।