🤖 machine learning

Symmetry-Constrained Language-Guided Program Synthesis for Discovering Governing Equations from Noisy and Partial Observations

SymLang एक ओपन-सोर्स फ्रेमवर्क है जो सममिति-प्रतिबंधित व्याकरण (symmetry-constrained grammars), भाषा-मॉडल-निर्देशित प्रोग्राम संश्लेषण (language-model-guided program synthesis), और बेयसियन मॉडल चयन (Bayesian model selection) को एकीकृत करता है ताकि शोरयुक्त और आंशिक अवलोकनों से सटीक, व्याख्या योग्य गवर्निंग समीकरणों को मजबूती से खोजा जा सके, जो संरचनात्मक रिकवरी और भौतिक निरंतरता में मौजूदा बेसलाइनों से काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Mirza Samad Ahmed Baig, Syeda Anshrah Gillani

प्रकाशित 2026-03-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mirza Samad Ahmed Baig, Syeda Anshrah Gillani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: प्रकृति के छिपे हुए नियम क्या हैं?

वैज्ञानिक हमेशा से सरल, सुंदर सूत्रों (जैसे $F=ma$) को खोजने के लिए उत्सुक रहे हैं जो दुनिया के काम करने के तरीके को समझा सकें, चाहे वह एक पेंडुलम का झूला हो या किसी वायरस का प्रसार। लेकिन वास्तविक दुनिया में, डेटा बिखरा हुआ और अव्यवस्थित होता है। यह शोर (noise), गायब हिस्सों (अदृश्य चर) और भ्रमित करने वाले पैटर्न से भरा होता है।

यह शोध पत्र SymLang नामक एक नए जासूसी उपकरण का परिचय देता है। इसे एक सुपर-स्मार्ट, भौतिकी-जागरूक (physics-aware) AI के रूप में समझें जो केवल अनुमान नहीं लगाता; बल्कि यह सत्य तक पहुँचने के लिए तर्क करता है।

यहाँ बताया गया है कि SymLang कैसे काम करता है, जिसे सरल उपमाओं (analogies) में विभाजित किया गया है:

1. समस्या: "अनंत पुस्तकालय" का जाल

कल्पना कीजिए कि आप एक ऐसे पुस्तकालय में एक विशिष्ट पुस्तक खोजने की कोशिश कर रहे हैं जिसमें अब तक लिखे गए हर संभव वाक्य शामिल हैं, जिनमें "बैंगनी बादल मंगलवार खाते हैं" जैसे निरर्थक वाक्य भी शामिल हैं।

पुराने तरीके (जैसे जेनेटिक प्रोग्रामिंग) बेतरतीब ढंग से किताबें चुनते हैं, उन्हें पढ़ते हैं और देखते हैं कि क्या वे समझ में आती हैं। इसमें बहुत समय लगता है क्योंकि 99.9% किताबें बकवास होती हैं।
अन्य तरीके (जैसे SINDy) पुस्तकालय के केवल एक छोटे, पूर्व-चयनित हिस्से में ही देखते हैं। यदि उत्तर "विज्ञान कथा" (Science Fiction) अनुभाग में है लेकिन वे केवल "इतिहास" अनुभाग में देख रहे हैं, तो वे उसे कभी नहीं ढूंढ पाएंगे।

2. समाधान: SymLang की तीन महाशक्तियाँ

SymLang इस समस्या को एक शक्तिशाली वर्कफ़्लो में तीन अलग-अलग विचारों को जोड़कर हल करता है।

A. "भौतिकी का व्याकरण" (द फ़िल्टर)

AI द्वारा अनुमान लगाना शुरू करने से पहले, यह भौतिकी के नियमों के आधार पर एक फ़िल्टर बनाता है।

उपमा: कल्पना कीजिए कि एक सख्त लाइब्रेरियन कहता है, "आप ऐसा वाक्य नहीं लिख सकते जहाँ एक 'समय' शब्द को 'दूरी' शब्द के साथ जोड़ा गया हो। यह अर्थहीन है!"
यह कैसे काम करता है: SymLang विमीय विश्लेषण (Dimensional Analysis - मीटर बनाम सेकंड जैसे इकाइयों की जाँच करना) और सममिति (Symmetry - यह जाँच करना कि क्या नियम बदल जाते हैं यदि आप दुनिया को उल्टा कर दें) का उपयोग करता है।
परिणाम: यह उन सभी संभावित "निरर्थक" समीकरणों को हटा देता है जिन्हें वह हल करने की कोशिश करने वाला था, इससे पहले कि वह उन्हें आज़माए। यह केवल उन्हीं वाक्यों को देखता है जो भौतिक रूप से अस्तित्व में हो सकते हैं।

B. "सहज जासूस" (द गाइड)

एक बार जब पुस्तकालय को केवल "तर्कसंगत" पुस्तकों तक सीमित कर दिया जाता है, तो SymLang एक लार्ज लैंग्वेज मॉडल (LLM) (जैसे कि वह सुपर-स्मार्ट AI जिससे आप अभी बात कर रहे हैं) का उपयोग करके उत्तर का अनुमान लगाता है।

उपमा: बेतरतीब ढंग से किताब चुनने के बजाय, जासूस सुरागों (डेटा) को देखता है और कहता है, "हम्म, डेटा एक पेंडुलम जैसा दिखता है। मुझे दावानुसार इसमें साइन वेव्स (sine waves) और गुरुत्वाकर्षण शामिल होना चाहिए।"
यह कैसे काम करता है: AI को लाखों भौतिकी समस्याओं पर प्रशिक्षित किया गया है। यह बिखरे हुए डेटा को देखता है और सबसे संभावित सूत्र प्रस्तावित करता है, उन सूत्रों को छोड़ देता है जो गणितीय रूप से तो संभव हैं लेकिन भौतिक रूप से असंभव हैं।

C. "सत्य का पता लगाने वाला" (द जज)

अंत में, SymLang केवल "सर्वश्रेष्ठ" उत्तर चुनकर रुक नहीं जाता। यह पूछता है, "क्या हम निश्चित हैं?"

उपमा: कल्पना कीजिए कि एक जूरी (पंचायत) है। केवल एक फोरमैन के "दोषी" कहने के बजाय, जूरी 200 अलग-अलग परीक्षण करती है जिसमें थोड़े अलग साक्ष्य होते हैं।
यह कैसे काम करता है:
- यदि सभी 200 परीक्षणों में उत्तर एक ही है, तो SymLang कहता है, "हम 100% निश्चित हैं।"
- यदि जूरी दो अलग-अलग सूत्रों के बीच 50/50 विभाजित है, तो SymLang कहता है, "हम भ्रमित हैं। डेटा एक को चुनने के लिए पर्याप्त स्पष्ट नहीं है।"
- महत्वपूर्ण बात: अधिकांश AI उपकरण झूठ बोलते हैं और आपको एक आत्मविश्वासी उत्तर देते हैं भले ही वे गलत हों। SymLang ईमानदार है। यह स्वीकार करता है जब डेटा अपर्याप्त होता है।

3. यह क्यों महत्वपूर्ण है (परिणाम)

लेखकों ने बिजली से लेकर जनसंख्या वृद्धि तक, बहुत शोर वाले डेटा के साथ 133 विभिन्न वैज्ञानिक समस्याओं पर SymLang का परीक्षण किया।

यह तेज़ है: इसने अगले सबसे अच्छे तरीके की तुलना में सही सूत्र 4 गुना तेज़ी से खोजा क्योंकि इसने निरर्थक चीजों पर समय बर्बाद नहीं किया।
यह अधिक मजबूत है: यहाँ तक कि जब 50% डेटा छिपा हुआ था (जैसे आधे टुकड़ों के साथ पहेली सुलझाना), तब भी SymLang ने 61% बार सही उत्तर खोजा, जबकि अन्य विफल रहे।
यह ईमानदार है: जब डेटा बहुत अधिक बिखरा हुआ था, तो Symlang ने चेतावनी दी, "मैं बता नहीं सकता।" अन्य तरीके बस एक आत्मविश्वासी, गलत उत्तर दे देते हैं।

बड़ी तस्वीर

SymLang को एक भौतिकी-जागरूक GPS के रूप में देखें।

पुराना GPS: "मुझे लगता है कि मंजिल यहाँ है।" (भले ही वह झील के बीच में हो)।
SymLang: "भौतिकी के नियमों के आधार पर, आप पानी के माध्यम से गाड़ी नहीं चला सकते। साथ ही, मानचित्र धुंधला है, इसलिए मैं 100% निश्चित नहीं हो सकता कि मार्ग क्या है, लेकिन यहाँ शीर्ष 3 संभावनाएँ हैं, और यहाँ वह जगह है जहाँ मुझे निश्चित होने के लिए और अधिक डेटा की आवश्यकता है।"

यह ढांचा कच्चे, बिखरे हुए डेटा और भौतिकी के उन स्वच्छ, सुंदर नियमों के बीच के अंतर को पाटता है जिन्हें वैज्ञानिक सदियों से खोजने की कोशिश कर रहे हैं। यह "डेटा माइनिंग" को "वैज्ञानिक खोज" में बदल देता है।

यहाँ शोध पत्र "Symmetry-Constrained Language-Guided Program Synthesis for Discovering Governing Equations from Noisy and Partial Observations" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

प्रायोगिक डेटा से संक्षिप्त, प्रतीकात्मक शासी समीकरणों (जैसे न्यूटन के नियम, मैक्सवेल के समीकरण) की खोज करना मात्रात्मक विज्ञान का एक मौलिक लक्ष्य है। हालाँकि, वास्तविक दुनिया के डेटा के साथ काम करते समय मौजूदा स्वचालित विधियों को तीन महत्वपूर्ण सीमाओं का सामना करना पड़ता है:

शोर और व्युत्पन्न अनुमान (Noise and Derivative Estimation): प्रायोगिक माप शोर युक्त होते हैं, जिससे व्युत्पन्न अनुमान (जो विभेदक समीकरणों के लिए आवश्यक है) अस्थिर हो जाता है।
आंशिक दृश्यता (Partial Observability): प्रासंगिक अवस्था चर (state variables) अक्सर अवलोकित नहीं होते हैं, जिसका अर्थ है कि केवल प्रक्षेपित या प्रभावी गतिकी ही सुलभ होती है।
संरचनात्मक अनिश्चितता (Structural Uncertainty): जब कई प्रतीकात्मक संरचनाएं डेटा की समान रूप से व्याख्या करती हैं, तो मौजूदा विधियां आमतौर पर केवल एक "सर्वश्रेष्ठ" समीकरण लौटाती हैं, जो अनिश्चितता या संरचनात्मक विसंगति का कोई माप प्रदान नहीं करती हैं। यह सीमित-नमूना संयोगों को मौलिक नियमों के रूप में अति-व्याख्या करने की ओर ले जा सकता है।

SINDy जैसे वर्तमान दृष्टिकोण निश्चित ऑपरेटर लाइब्रेरी (जो लाइब्रेरी के बाहर के समीकरणों को नहीं खोज पाते) तक सीमित हैं, जबकि न्यूरो-सिंबोलिक दृष्टिकोण (जैसे AI Feynman, DSR) अक्सर कठोर भौतिक बाधाओं या सिद्धांत-आधारित अनिश्चितता मात्रा निर्धारण का अभाव रखते हैं।

2. कार्यप्रणाली: SymLang फ्रेमवर्क (Methodology: The SymLang Framework)

लेखक SymLang प्रस्तुत करते हैं, जो एक एकीकृत फ्रेमवर्क है जो तीन अलग-अलग अवधारणाओं को जोड़ता है: टाइप्ड सिमेट्री-कंस्ट्रेंड ग्रामर (typed symmetry-constrained grammars), लैंग्वेज-मॉडल-गाइडेड प्रोग्राम सिंथेसिस (language-model-guided program synthesis), और MDL-रेगुलराइज्ड बायेसियन मॉडल सिलेक्शन (MDL-regularized Bayesian model selection)। यह पाइपलाइन पांच मॉड्यूलर चरणों में संचालित होती है:

चरण 1: प्रीप्रोसेसिंग और व्युत्पन्न अनुमान (Preprocessing and Derivative Estimation)

कच्चे अवलोकनों को स्मूथ (smooth) किया जाता है और $\dot{y}$ का अनुमान लगाने के लिए उनका विभेदन (differentiation) किया जाता है। शोर को संभालने के लिए, SymLang एक वेरिएशनल समस्या को हल करता है जिसका उपयोग निम्न में से किसी एक के माध्यम से किया जाता है:

स्मूथिंग स्प्लाइन्स (Smoothing Splines): सुचारू संकेतों के लिए, डेटा फिडेलिटी और दूसरे-क्रम के व्युत्पन्न की सुगमता के बीच संतुलन को न्यूनतम करना।
टोटल वेरिएशन (TV) रेगुलराइजेशन: असंतत (discontinuous) संकेतों के लिए।
विधि का चयन होल्ड-आउट डेटा सेगमेंट पर क्रॉस-वैलिडेशन के माध्यम से स्वचालित रूप से किया जाता है।

चरण 2: नॉन-डायमेंशनलाइजेशन और यूनिट बाधाएं (Nondimensionalization and Unit Constraints)

चरों को डेटा सांख्यिकी से प्राप्त विशिष्ट पैमानों का उपयोग करके आयामहीन (dimensionless) रूपों में पुनर्गठित किया जाता है। यह बकिंगहम $\Pi$ प्रमेय (Buckingham $\Pi$ theorem) के अनुप्रयोग को सक्षम बनाता है। एक टाइप-कंसिस्टेंट ग्रामर बनाया जाता है जहाँ प्रत्येक प्रोडक्शन नियम आयामी निरंतरता (dimensional consistency) को लागू करता है (उदाहरण के लिए, sin के तर्कों को आयामहीन सुनिश्चित करना)। यह एक हार्ड फिल्टर के रूप में कार्य करता है, जो किसी भी फिटिंग से पहले भौतिक रूप से असंभव अभिव्यक्तियों को हटा देता है।

चरण 3: सिमेट्री-कंस्ट्रेंड ग्रामर निर्माण (Symmetry-Constrained Grammar Construction)

इकाइयों के अलावा, फ्रेमवर्क भौतिक सममिति (symmetries) को एक कॉन्टेक्स्ट-फ्री ग्रामर (CFG) में हार्ड प्रोडक्शन नियमों के रूप में कूटबद्ध करता है:

पैरिटी (Parity): विषम/सम गतिकी (जैसे रिस्टोरिंग फोर्सेस) को लागू करता है।
घूर्णी अपरिवर्तनीयता (Rotational Invariance): निर्भरता को व्यक्तिगत कार्टेशियन घटकों के बजाय समूह इनवेरिएंट्स (जैसे $\|x\|^2$ ) तक सीमित करता है।
समय-अनुवाद (Time-Translation): स्वायत्त प्रणालियों (autonomous systems) के लिए स्पष्ट समय निर्भरता को हटाता है।
गैलीलियन/लोरेंट्ज़ अपरिवर्तनीयता (Galilean/Lorentz Invariance): सापेक्ष वेग/दूरी निर्भरता को लागू करता है।
प्रभाव: ये बाधाएं किसी भी उम्मीदवार मूल्यांकन से पहले खोज स्थान (search space) को औसतन 71.3% कम कर देती हैं।

चरण 4: लैंग्वेज-गाइडेड प्रोग्राम सिंथेसिस (Language-Guided Program Synthesis)

एक फाइन-ट्यून किया गया 7B-पैरामीटर डिकोडर-ओनली ट्रांसफार्मर एक "प्रपोजर" (proposer) के रूप में कार्य करता है।

इनपुट: इसे डेटा का एक संक्षिप्त, व्याख्या योग्य डिस्क्रिप्टर वेक्टर (स्पेक्ट्रल फीचर्स, सिमेट्री स्कोर, कोरिलेशन स्ट्रक्चर) प्राप्त होता है।
आउटपुट: यह ग्रामर के टाइप सिस्टम के अनुरूप एक्सप्रेशन ट्री (expression trees) का प्रतिनिधित्व करने वाले S-एक्सप्रेशन स्ट्रिंग्स को ऑटोरेग्रेसिव रूप से उत्पन्न करता है।
प्रशिक्षण: मॉडल को ज्ञात भौतिक प्रणालियों के डेटा सारांश और अभिव्यक्तियों के 820,000 जोड़ों पर प्रशिक्षित किया गया है।
दक्षता: यह खोज को संभावित रूपों की ओर निर्देशित करता है, जिससे रैंडम सैंपलिंग की आवश्यकता कम हो जाती है।

चरण 5: कॉन्स्टेंट फिटिंग और मॉडल सिलेक्शन (Constant Fitting and Model Selection)

फिटिंग: प्रत्येक उम्मीदवार संरचना के लिए, L-BFGS-B का उपयोग करके स्केलर स्थिरांकों को अनुकूलित किया जाता है। यदि डेटा में संरक्षित मात्राओं (conserved quantities) का पता चलता है, तो एक सॉफ्ट फिजिकल पेनल्टी जोड़ी जाती है।
चयन (MDL): उम्मीदवारों को मिनिमम डिस्क्रिप्शन लेंथ (MDL) स्कोरिंग का उपयोग करके रैंक किया जाता है, जो ट्री संरचना और स्थिरांकों को एनकोड करने की जटिलता के विरुद्ध लाइकलीहुड (likelihood) को संतुलित करता है। यह ओवरफिटिंग को रोकता है।
अनिश्चितता मात्रा निर्धारण (Uncertainty Quantification): एक ब्लॉक-बूटस्ट्रैप (block-bootstrap) प्रक्रिया संरचनात्मक स्थिरता का आकलन करती है। यदि रीसैंपल्स के माध्यम से किसी संरचना की रैंक महत्वपूर्ण रूप से बदलती है, तो उसे अस्थिर के रूप में चिह्नित किया जाता है। सिस्टम गैर-पहचान योग्य (non-identifiable) मापदंडों का पता लगाने के लिए फिशर इंफॉर्मेशन (Fisher Information) की भी गणना करता है।

3. प्रमुख योगदान (Key Contributions)

एकीकृत फ्रेमवर्क: यह एकल पाइपलाइन में टाइप्ड ग्रामर (कठोर भौतिक बाधाओं के लिए), LLMs (कुशल खोज मार्गदर्शन के लिए), और बायेसियन मॉडल सिलेक्शन (अनिश्चितता के लिए) को संयोजित करने वाला पहला सिस्टम है।
कठोर भौतिक बाधाएं: डायमेंशनल एनालिसिस और ग्रुप-थ्योरेटिक इनवेरिएंस को सीधे ग्रामर में एनकोड करके, यह विधि अधिकांश भौतिक रूप से निरर्थक उम्मीदवारों को पूर्व में ही समाप्त कर देती है।
एपिस्टेमिक ईमानदारी (Epistemic Honesty): उन बेसलाइनों के विपरीत जो केवल एक पॉइंट एस्टीमेट लौटाते हैं, SymLang स्पष्ट रूप से संरचनात्मक विसंगति (structural degeneracy) (जैसे, "दो समीकरण समान रूप से मान्य हैं") की रिपोर्ट करता है और गैर-पहचान योग्य प्रणालियों को फ्लैग करता है, जिससे गलत वैज्ञानिक निष्कर्षों से बचा जा सके।
आंशिक दृश्यता हैंडलिंग: यह प्रभावी गतिकी सीखने और लेटेंट वेरिएबल ऑग्मेंटेशन के लिए रणनीतियाँ प्रदान करता है, और छिपे हुए अवस्था चरों के मामले में बेसलाइनों से बेहतर प्रदर्शन करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

फ्रेमवर्क का मूल्यांकन पांच डोमेन (क्लासिकल मैकेनिक्स, इलेक्ट्रोडायनामिक्स, थर्मोडायनामिक्स, पॉपुलेशन डायनेमिक्स, नॉनलीन ऑसिलेटर्स) में 133 डायनेमिकल सिस्टम के बेंचमार्क पर, विभिन्न शोर स्तरों और आंशिक दृश्यता के तहत किया गया।

संरचनात्मक रिकवरी (Structural Recovery): 10% ऑब्जर्वेशनल नॉइज़ के तहत, SymLang ने 83.7% सटीक संरचनात्मक रिकवरी दर हासिल की। यह अगले सर्वश्रेष्ठ बेसलाइन (PySR) की तुलना में 22.4 प्रतिशत अंक का सुधार है और SINDy तथा DSR से काफी बेहतर है।
शोर के प्रति मजबूती (Robustness to Noise): 30% शोर पर, रिकवरी 64.8% रही, जबकि बेसलाइन 45% से नीचे गिर गए।
एक्सट्रपलेशन (OOD): Symlang ने PySR की तुलना में OOD एक्सट्रपलेशन त्रुटि में 61% की कमी की।
भौतिक निरंतरता (Physical Consistency): इसने संरक्षण-नियम उल्लंघन को लगभग समाप्त कर दिया (फिजिकल ड्रिफ्ट: $3.1 \times 10^{-3}$ बनाम निकटतम प्रतिस्पर्धी के लिए $187.3 \times 10^{-3}$ )।
आंशिक दृश्यता (Partial Observability): 50% स्टेट ऑक्लूजन के तहत, SymLang ने 61.2% मामलों में सही संरचना को रिकवर किया, जबकि DSR के लिए यह 38.4% था। महत्वपूर्ण रूप से, इसने 91.3% गैर-पहचान योग्य प्रणालियों को अस्पष्टता के रूप में सही ढंग से पहचाना, जबकि सभी बेसलाइन एक आत्मविश्वासी लेकिन गलत समीकरण लौटाते थे।
नमूना दक्षता (Sample Efficiency): SymLang ~~4,800 टाइम स्टेप्स के साथ 80% रिकवरी तक पहुँच गया, जिसे PySR (~~19,000 स्टेप्स) की तुलना में 4 गुना कम नमूने की आवश्यकता पड़ी।

5. महत्व और प्रभाव (Significance and Impact)

वैज्ञानिक कठोरता (Scientific Rigor): SymLang प्रतिमान को "सर्वश्रेष्ठ समीकरण खोजने" से बदलकर "मान्य समीकरणों के स्थान को चरित्रित करने" की ओर ले जाता है। अनिश्चितता और विसंगति को स्पष्ट रूप से रिपोर्ट करके, यह वैज्ञानिकों को अस्पष्टताओं को सुलझाने के लिए लक्षित प्रयोगों को डिजाइन करने में मदद करता है।
भौतिक ऑडिटेबिलिटी (Physical Auditability): खोजा गया प्रत्येक नियम संरचना द्वारा निर्माण (by construction) के माध्यम से यूनिट निरंतरता और सिमेट्री बाधाओं को पूरा करने की गारंटी देता है, जो वैज्ञानिक विश्वसनीयता सुनिश्चित करता है जिसे ब्लैक-बॉक्स न्यूरल मॉडल प्रदान नहीं कर सकते।
पुनरुत्पादकता (Reproducibility): फ्रेमवर्क पूरी तरह से ओपन-सोर्स है, जिसमें एक कठोर बेंचमार्क और पुनरुत्पादक प्रयोगात्मक सेटअप है, जो सिंबोलिक रिग्रेशन अनुसंधान के लिए एक नया मानक स्थापित करता है।

संक्षेप में, SymLang स्वचालित वैज्ञानिक खोज में एक महत्वपूर्ण छलांग है, जो वास्तविक दुनिया के प्रयोगों में निहित शोर, आंशिक दृश्यता और अनिश्चितता को संभालने के लिए डेटा-संचालित मशीन लर्निंग और प्रथम-सिद्धांत भौतिक तर्क के बीच के अंतर को सफलतापूर्वक पाटता है।