CausalForge: A Formally Grounded, Self-Improving Agentic Framework for Automated Research in Causal Inference
CausalForge एक औपचारिक रूप से आधारित, स्व-सुधारित एजेंटिक फ्रेमवर्क है जो लीन-आधारित (Lean-based) Causalean लाइब्रेरी को एक ऐसे पाइपलाइन के साथ जोड़कर कॉज़ल इन्फरेंस (causal inference) अनुसंधान को स्वचालित करता है जो मशीन-चेक्ड परिणामों की विश्वसनीयता सुनिश्चित करने के लिए प्रमाणों (proofs) को उत्पन्न, औपचारिक और ऑडिट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप कारण और प्रभाव (cause and effect) के रहस्य को सुलझाने की कोशिश कर रहे एक जासूस हैं। आप जानना चाहते हैं: "यदि मैं यह दवा लेता हूँ, तो क्या मैं ठीक हो जाऊँगा?" या "क्या उस बारिश ने वास्तव में बाढ़ का कारण बनाया था?" विज्ञान की दुनिया में, इसे कॉज़ल इन्फरेंस (causal inference) कहा जाता है। यह केवल चीजों को होते हुए देखने से अलग है; यह इस बारे में है कि यदि हम कुछ बदल दें तो क्या होगा। लंबे समय से, वैज्ञानिक इन कारण-और-प्रभाव की कहानियों को सच साबित करने के लिए गणित का उपयोग करते आए हैं। लेकिन गणित कठिन है, और एक प्रमाण (proof) में एक छोटी सी गलती भी पूरी कहानी को गलत बना सकती है।
हाल ही में, कंप्यूटर लार्ज लैंग्वेज मॉडल्स (LLMs) नामक चीज़ का उपयोग करके कहानियाँ लिखने और पहेलियाँ सुलझाने में बहुत अच्छे हो गए हैं। ये सुपर-स्मार्ट रोबोट की तरह हैं जो कभी भी लिखी गई लगभग हर चीज़ को पढ़ सकते हैं और फिर अपने स्वयं के पेपर, प्रमाण और सिद्धांत लिख सकते हैं। लेकिन इसमें एक पेंच है: ये रोबोट आत्मविश्वास से भरी बातें करने में तो माहिर हैं, लेकिन वे अपने काम की जाँच करने में बहुत खराब हैं। वे अक्सर तथ्य गढ़ लेते हैं, नंबर बना लेते हैं, या ऐसे प्रमाण लिखते हैं जो दिखने में तो एकदम सही लगते हैं लेकिन वास्तव में निरर्थक होते हैं। यदि हम एक रोबोट को वैज्ञानिक शोध पत्र लिखने दें और फिर दूसरे रोबोट से उसे चेक करने को कहें, तो वे बस एक-दूसरे की ओर देखकर कह सकते हैं, "हाँ, यह सच है!" भले ही वह पूरी तरह से गलत हो। यह एक बड़ी समस्या है क्योंकि विज्ञान में, गलत होना गलत निर्णयों की ओर ले जा सकता है।
यहीं पर एक नया प्रोजेक्ट CausalForge आता है। इसे एक "स्व-सुधार करने वाले रोबलेट वैज्ञानिक" के रूप में समझें जिसे विशेष रूप से कॉज़ल इन्फरेंस में अनुसंधान करने के लिए डिज़ाइन किया गया है, लेकिन इसमें एक बहुत ही सख्त सुरक्षा जाल (safety net) है। केवल एक रोबोट द्वारा दूसरे रोबोट का होमवर्क चेक करने पर भरोसा करने के बजाय, CausalForge Lean नामक एक जादुई, अटूट गणितीय उपकरण (एक प्रूफ असिस्टेंट) का उपयोग करता है। Lean एक बहुत ही सख्त शिक्षक की तरह है जो तब तक कोई उत्तर स्वीकार नहीं करेगा जब तक कि उसका हर एक चरण तार्किक रूप से पूर्ण न हो। यदि गणित मेल नहीं खाता, तो Lean कहता है "नहीं!" और उसे साइन-ऑफ करने से मना कर देता है।
लेकिन यहाँ एक दूसरी समस्या भी है, भले ही गणित एकदम सही हो, रोबोट शायद गलत चीज़ को सिद्ध कर रहा हो। कल्पना कीजिए कि एक रोबोट "सभी बिल्लियाँ कुत्ते हैं" यह सिद्ध करने के लिए सटीक तर्क का उपयोग कर रहा है। गणित तो सही है, लेकिन दावा बेतुका है। CausalForge इसे एक "स्टेटमेंट ऑडिट" (Statement Audit) जोड़कर हल करता है। यह एक अनुवादक की तरह है जो जाँचता है: "क्या रोबोट ने वास्तव में वही सिद्ध किया जो उसने सिद्ध करने का दावा किया था?"
तो, CausalForge ने वास्तव में क्या किया? टीम ने दो मुख्य भाग बनाए। सबसे पहले, उन्होंने Causalean नामक एक विशाल लाइब्रेरी बनाई, जिसमें कारण और प्रभाव के बारे में 7,000 से अधिक पूर्व-जाँच किए गए, सटीक गणितीय तथ्य शामिल हैं। यह एक विशाल टूलबॉक्स की तरह है जहाँ प्रत्येक उपकरण को पहले ही टेस्ट किया जा चुका है कि वह काम करता है या नहीं। दूसरा, उन्होंने CausalSmith नामक एक रोबोट पाइपलाइन बनाई। यह रोबोट एक शोध विषय चुन सकता है, एक नया प्रमेय (theorem) आविष्कार करने की कोशिश कर सकता है, Lean भाषा में अपना प्रमाण लिख सकता है, और फिर सिस्टम यह जाँच सकता है कि क्या प्रमाण वास्तविक है और क्या दावा गणित से मेल खाता है।
परिणाम सफलता और वास्तविकता के बोध का मिश्रण हैं। 123 प्रयासों में से, जिनमें से सिस्टम ने नई चीजों की खोज करने की कोशिश की थी, 9 को पूरी तरह से सही, नवीन और मशीन-सत्यापित के रूप में स्वीकार किया गया। सिस्टम मौजूदा शोध में छोटी, तकनीकी कमियों (जैसे किसी फॉर्मूले में एक छोटी सी त्रुटि को ठीक करना) को खोजने में आश्चर्यजनक रूप से अच्छा था, लेकिन जब इसे शून्य से पूरी तरह से नए, बड़े विचार लाने के लिए कहा गया, तो इसे संघर्ष करना पड़ा। यह पेपर दिखाता है कि भले ही हम अभी पूरी तरह से रोबोटों पर उनकी अपनी रचनात्मकता को परखने के लिए भरोसा नहीं कर सकते, लेकिन हम उन्हें गणित लिखने और जाँचने का भारी काम करने के लिए भरोसा कर सकते हैं, जब तक कि हमारे पास एक सख्त "जादुई शिक्षक" (Lean) और एक सावधान "अनुवादक" (ऑडिट) निगरानी में हो। यह कोई जादुई छड़ी नहीं है जो विज्ञान की सभी समस्याओं को हल कर दे, लेकिन यह यह सुनिश्चित करने का एक शक्तिशाली नया तरीका है कि हमारी वैज्ञानिक कहानियाँ वास्तव में सच हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।