In Context Learning and Reasoning for Symbolic Regression with Large Language Models
यह शोध पत्र प्रदर्शित करता है कि जब लार्ज लैंग्वेज मॉडल्स (Large Language Models) को रणनीतिक चेन-ऑफ-थॉट प्रॉम्प्टिंग, वैज्ञानिक संदर्भ और बाहरी अनुकूलन उपकरणों द्वारा निर्देशित किया जाता है, तो वे ज्ञात भौतिक नियमों को पुन: खोजने और डेटा से नए समीकरणों की खोज करने के लिए प्रभावी रूप से सिम्बोलिक रिग्रेशन (symbolic regression) कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने वाले जासूस हैं। आपके पास मेज पर बिखरे हुए सुरागों (डेटा) का एक ढेर है, और आप जानते हैं कि एक सरल नियम या सूत्र है जो यह समझाता है कि ये सभी सुराग एक साथ कैसे फिट होते हैं। आपका काम उस नियम को खोजना है।
यह पेपर एक सुपर-स्मार्ट AI (विशेष रूप से, एक लार्ज लैंग्वेज मॉडल जैसे GPT-4) को उस जासूस की तरह कार्य करने के लिए प्रशिक्षित करने के बारे में है। उनके द्वारा सुलझाया जाने वाला विशिष्ट रहस्य सिंबोलिक रिग्रेशन (Symbolic Regression) कहलाता है।
समस्या: "ब्लैक बॉक्स" बनाम "समीकरण"
आमतौर पर, जब कंप्यूटर डेटा का विश्लेषण करते हैं, तो वे "ब्लैक बॉक्स" मॉडल (जैसे डीप न्यूरल नेटवर्क) का उपयोग करते हैं। ये भविष्य की भविष्यवाणी करने में बहुत अच्छे हैं, लेकिन ये एक 'मैजिक 8-बॉल' की तरह हैं: आप डेटा डालते हैं, और एक उत्तर बाहर आता है, लेकिन आपको पता नहीं होता कि क्यों या क्या नियम है।
वैज्ञानिकों को, हालांकि, समीकरण चाहिए होता है। वे वास्तविक सूत्र जानना चाहते हैं, जैसे , क्योंकि यह समझाता है कि ब्रह्मांड कैसे काम करता है। डेटा से इन सूत्रों को स्वचालित रूप से खोजना कठिन है। यह एक गुप्त पासवर्ड का अनुमान लगाने की कोशिश करने जैसा है जैसे कि आप सही होने तक बेतरतीब ढंग से अक्षर टाइप करते रहें।
समाधान: "सोचने वाली टोपी" के साथ AI जासूस
लेखकों ने एक नया दृष्टिकोण अपनाया: केवल AI को सूत्र का अनुमान लगाने के लिए कहने के बजाय, उन्होंने उसे एक सोचने की प्रक्रिया दी।
उन्होंने इसे कैसे किया, इसके लिए कुछ रोजमर्रा के उदाहरणों का उपयोग किया गया है:
1. "स्क्रैचपैड" (सोचने वाली टोपी)
पुराने दिनों में, यदि आप किसी AI को गणित की समस्या हल करने के लिए कहते, तो वह बस एक उत्तर दे देता। अक्सर, वह आत्मविश्वास के साथ उत्तर देता लेकिन नंबर गलत हो जाते (इसे "हैलुसिनेशन" कहा जाता है)।
इस अध्ययन में, शोधकर्ताओं ने AI को कहा: "मुझे सिर्फ उत्तर मत दो। पहले मुझे अपना काम दिखाओ।"
उन्होंने AI को एक डिजिटल "स्क्रैचपैड" दिया। अंतिम समीकरण लिखने से पहले, AI को अपने विचार लिखने थे:
- "हूँ, जैसे-जैसे दबाव बढ़ता है, लोडिंग कम होती जाती है। यह एक व्युत्क्रम (inverse) संबंध जैसा दिखता है।"
- "रुको, यह उस लैंगमुइर (Langmuir) मॉडल जैसा दिखता है जिसे मैंने पहले देखा है, लेकिन शायद इसमें दो भाग होने चाहिए।"
यह एक छात्र से गणित के टेस्ट पर अपना काम दिखाने के लिए कहने जैसा है। यह AI को धीमा होने, डेटा पैटर्नों के माध्यम से तर्क करने और अंतिम उत्तर देने से पहले अपनी गलतियों को पकड़ने के लिए मजबूर करता है।
2. "कोच" (फीडबैक लूप)
AI पहली बार में सही नहीं होता है। इसलिए, शोधकर्ताओं ने "हॉट एंड कोल्ड" (पास या दूर) का एक खेल सेट किया।
- अनुमान: AI एक सूत्र का सुझाव देता है।
- जांच: एक अलग, बहुत सटीक कंप्यूटर प्रोग्राम (Python/SciPy) वास्तविक डेटा के विरुद्ध उस सूत्र का परीक्षण करता है कि वह कितना करीब है।
- कोच: कंप्यूटर AI को बताता है: "आपका सूत्र करीब है, लेकिन यह बहुत जटिल है। इसे सरल बनाने का प्रयास करें," या "आप एक वेरिएबल भूल गए।"
- पुनः प्रयास: AI उस फीडबैक का उपयोग एक बेहतर सूत्र लिखने के लिए करता है।
वे इस लूप को दोहराते हैं, जैसे एक कोच एथलीट की तकनीक को सुधारने में मदद करता है, जब तक कि AI सही समीकरण न खोज ले।
3. "संदर्भ सुराग" (पृष्ठभूमि जानकारी)
कभी-कभी, केवल डेटा पर्याप्त नहीं होता। शोधकर्ताओं ने AI को सामान्य अंग्रेजी में एक "चीट शीट" भी दी।
- उदाहरण: "यह डेटा माइका (mica) पर नाइट्रोजन चिपकने के बारे में है। दबाव इनपुट है, और लोडिंग आउटपुट है।"
- यह क्यों मदद करता है: यह AI को मूर्खतापूर्ण चीजें सुझाने से रोकता है (जैसे कि ऐसा सूत्र जो कहता है कि दबाव बढ़ने पर लोडिंग कम हो जाती है, जो भौतिकी के नियमों का उल्लंघन करता है)। यह AI को केवल एक पैटर्न मैचर के बजाय एक वैज्ञानिक की तरह सोचने के लिए निर्देशित करता है।
परिणाम: क्या यह काम आया?
टीम ने तीन अलग-अलग "रहस्यों" पर इसका परीक्षण किया:
- लैंगमुइर मॉडल (Adsorption): यह एक क्लासिक रसायन विज्ञान की समस्या है। AI ने सफलतापूर्वक प्रसिद्ध समीकरण को फिर से खोज लिया, विशेष रूप से जब इसने स्क्रैचपैड और बैकग्राउंड संदर्भ का उपयोग किया। यह ऐसा था जैसे AI ने हाई स्कूल के भौतिकी के पाठ को याद किया और उसे पूरी तरह से लागू किया।
- डुअल-साइट मॉडल: यह कठिन था। "सही" उत्तर जटिल था, लेकिन कई "लगभग सही" सरल उत्तर मौजूद थे। AI को इसमें थोड़ा संघर्ष करना पड़ा, लेकिन स्क्रैचपैड ने इसे यह समझने में मदद की कि सरल उत्तर भौतिक रूप से असंभव थे (जैसे कि नकारात्मक मात्रा की भविष्यवाणी करना)।
- निकुराडसे डेटासेट (पाइप फ्लो): यह "बॉस लेवल" था। यह खुरदरे पाइपों के माध्यम से पानी के प्रवाह के बारे में एक विशाल डेटासेट है, और कोई भी अभी तक सटीक पूर्ण सूत्र नहीं जानता है। AI ने "परफेक्ट" उत्तर नहीं पाया (एक विशेष गणितीय प्रोग्राम ने वह पाया), लेकिन इसने विशेष प्रोग्राम की तुलना में बहुत तेज़ी से और कम लागत में एक बहुत अच्छा उत्तर खोज लिया। यह एक सामान्य जासूस द्वारा एक ऐसे मामले को सुलझाने जैसा था जिसके लिए आमतौर पर एक विशेषज्ञ की आवश्यकता होती है, कुछ चतुर युक्तियों का उपयोग करके।
मुख्य निष्कर्ष
यह पेपर दिखाता है कि अब हमें वैज्ञानिक सूत्र खोजने के लिए जटिल, विशेष सॉफ्टवेयर बनाने की आवश्यकता नहीं है। हम बस एक स्मार्ट AI से बात कर सकते हैं, उसे डेटा दे सकते हैं, उसे सामान्य अंग्रेजी में वैज्ञानिक संदर्भ दे सकते हैं, और उसे स्क्रैचपैड पर "ज़ोर से सोचने" के लिए कह सकते हैं।
संक्षेप में: उन्होंने AI को एक "अनुमान लगाने वाली मशीन" से बदलकर एक "तर्क करने वाले वैज्ञानिक" में बदल दिया, उन्हें सोचने के लिए एक नोटबुक और मार्गदर्शन के लिए एक कोच दिया। यह वैज्ञानिक खोज को अधिक सुलभ, सस्ता और समझने में आसान बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।