LLMs with in-context learning for Algorithmic Theoretical Physics
यह शोध पत्र प्रदर्शित करता है कि एक कंप्यूटर अलजेब्रा सिस्टम (मेपल) के साथ इंटरफेस किया गया और हल किए गए उदाहरणों के माध्यम से इन-कॉन्टेक्स्ट लर्निंग से सुसज्जित एक फ्रंटियर लार्ज लैंग्वेज मॉडल (क्लॉड), सैद्धांतिक भौतिकी में, विशेष रूप से संशोधित गुरुत्वाकर्षण सिद्धांतों में कॉस्मोलॉजिकल परमटर्बेशन्स के लिए, जटिल एल्गोरिद्मिक गणनाओं को विश्वसनीय रूप से निष्पादित कर सकता है, और साथ ही वर्तमान सीमाओं और सुधार रणनीतियों की पहचान भी कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: कैलकुलेटर के साथ एक "सुपर-इंटर्न"
कल्पित कीजिए कि एक सैद्धांतिक भौतिक विज्ञानी (theoretical physicist) एक मास्टर शेफ की तरह है। वे नई रेसिपी (सिद्धांत) बनाने और ब्रह्मांड के गहरे स्वादों को समझने में माहिर हैं। हालाँकि, उनके काम का एक बड़ा हिस्सा उबाऊ और दोहराव वाले कामों में बीतता है—जैसे कि स्पेस-टाइम की छोटी-छोटी लहरों के व्यवहार को मापने के लिए गणना करना। इसे लेखक "एल्गोरिद्मिक कंप्यूटेशन" (algorithmic computations) कहते हैं। यह कोई नया सिद्धांत बनाने के बारे में नहीं है; यह एक विशिष्ट संख्या प्राप्त करने के लिए एक जटिल, चरण-दर-चरण रेसिपी का पालन करने के बारे में है।
लेखकों ने पूछा: क्या हम इस काम के लिए एक "सुपर-इंटर्न" (एक लार्ज लैंग्वेज मॉडल या LLM) को काम पर रख सकते हैं?
उन्होंने पाया कि यदि आप इंटर्न को केवल एक सामान्य जॉब डिस्क्रिप्शन दे देते हैं, तो वे भ्रमित हो जाते हैं। लेकिन यदि आप उन्हें पिछले सफल व्यंजनों की एक कुकबुक (जिसे "वर्क उदाहरण" कहा जाता है) और एक शक्तिशाली कैलकुलेटर (एक कंप्यूटर अल्जेब्रा सिस्टम जिसे 'मैपल' कहा जाता है) देते हैं, तो वे वास्तव में काम को काफी अच्छी तरह से कर सकते हैं।
प्रयोग: एक रोबोट को फिजिक्स का होमवर्क सिखाना
शोधकर्ताओं ने एक परीक्षण सेटअप किया जहाँ उन्होंने एक AI (विशेष रूप से 'क्लोड' नामक मॉडल) से नौ अलग-अलग भौतिकी की समस्याओं को हल करने के लिए कहा। इन समस्याओं में ब्रह्मांड के "डिग्री ऑफ फ्रीडम" (degrees of freedom) का पता लगाना शामिल था—सरल शब्दों में, यह गिनना कि गुरुत्वाकर्षण का एक सिद्धांत कितने स्वतंत्र तरीकों से कंपन या हिल सकता है।
इसे इस तरह समझें: यदि आप गिटार के तार को हिलाते हैं, तो वह एक विशिष्ट तरीके से कंपन करता है। यदि आप एक ड्रम को हिलाते हैं, तो वह अलग तरह से कंपन करता है। AI का काम एक जटिल गणितीय विवरण (जो एक "यूनिवर्स-ड्रम" है) को देखना और भौतिक विज्ञानी को ठीक से बताना था कि उसके पास कंपन के कितने अलग-अलग मोड हैं।
AI की मदद करने के लिए, शोधकर्ताओं ने उसे निर्देश देने के चार अलग-अलग तरीके आजमाए (जिन्हें "कॉन्टेक्स्ट" कहा जाता है):
- "10-उदाहरण वाली कुकबुक" (10ex): उन्होंने AI को एक मोटी किताब दी जिसमें समान समस्याओं के 10 पूरी तरह से हल किए गए उदाहरण थे, जिनमें उन्हें हल करने के लिए उपयोग किया गया गणितीय कोड भी शामिल था।
- "3-उदाहरण वाला सैंपलर" (3broad): उन्होंने AI को केवल तीन उदाहरण दिए, जो एक-दूसरे से बहुत अलग थे।
- "अनुकूलित 3-उदाहरण" (3tailored): उन्होंने AI को तीन उदाहरण दिए, लेकिन उन्होंने उनमें से दो को विशेष रूप से इस तरह बदला ताकि AI को यह दिखाया जा सके कि उसे पहले दो परीक्षणों में कहाँ गलतियाँ हुई थीं और उनसे कैसे बचना है।
- "रेसिपी कार्ड" (instruction): उन्होंने AI को नियमों की एक लिखित सूची दी कि समस्या को कैसे हल किया जाए, लेकिन कोई वास्तविक उदाहरण या कोड नहीं दिया।
परिणाम: क्या काम आया और क्या नहीं
1. "रेसिपी कार्ड" बुरी तरह विफल रहा
जब AI को केवल नियमों की एक सूची दी गई (कॉन्टेक्स्ट 4), तो वह संघर्ष करता रहा। उसने बिना कैलकुलेटर का उपयोग किए अपने दिमाग में गणित करने की कोशिश की, रास्ता भटक गया, और हार मान ली। यह एक शेफ को सामग्री की सूची देने और फिर "केक बनाओ" कहने जैसा है, लेकिन उसे यह नहीं दिखाने जैसा कि बैटर (घोल) को कैसे मिलाना है। AI को यह नहीं पता था कि उपकरणों का उपयोग कैसे करना है।
2. "कुकबुक" सबसे अच्छा काम करती थी
जब AI को 10 उदाहरण दिए गए (कॉन्टेक्स्ट 1), तो उसने बहुत अच्छा काम किया। उसने नकल करके सीखा। उसने देखा कि पिछले समस्याओं को कैसे हल किया गया था और उसने उसी पैटर्न को कॉपी किया। उसने 9 में से 5 समस्याओं को सही ढंग से हल किया।
3. "अनुकूलित" (Tailored) उदाहरण ही असली जादू थे
सबसे अच्छे परिणाम "अनुकूलित 3-उदाहरण" सेट (कॉन्टेक्स्ट 3) से मिले। शोधकर्ताओं ने देखा कि AI बार-बार एक ही विशिष्ट गलती कर रहा था (जैसे कि एक निश्चित प्रकार के गणितीय पद को संभालना भूल जाना)। उन्होंने एक नया उदाहरण विशेष रूप से बनाया जो AI को यह दिखा सके कि वह उस गलती को कैसे न करे।
- परिणाम: इस दृष्टिकोण ने सबसे अधिक समस्याओं (9 में से 7) को हल किया और यह काम बहुत तेज़ी से किया। यह एक शिक्षक द्वारा यह नोटिस करने जैसा है कि एक छात्र जोड़ करते समय "1" हासिल करना भूल जाता है, इसलिए वह उसे उस एक त्रुटि के लिए एक विशिष्ट अभ्यास समस्या देता है।
"सोचने" (Thinking) मोड का आश्चर्य
शोधकर्ताओं ने AI के लिए "थिंकिंग मोड" को चालू करने का भी प्रयास किया, जो AI को उत्तर देने से पहले रुकने और "सोचने" की अनुमति देता है (जैसे कि इंसान गहरी सांस लेता है)। आश्चर्यजनक रूप से, इस से ज्यादा मदद नहीं मिली। AI ने कठिन समस्याओं को हल करने के लिए इस अतिरिक्त समय का उपयोग नहीं किया; इसने बस उसी गलती को करने में अधिक समय लगा दिया।
"ह्यूमन-इन-द-लूप" वास्तविकता की जाँच
यह पेपर इस बात पर जोर देता है कि यह AI भौतिक विज्ञानी का विकल्प नहीं है। यह एक बहुत तेज़, बहुत शाब्दिक (literal) इंटर्न की तरह है।
- यह फंस जाता है: कभी-कभी AI एक समस्या को हल करने की कोशिश करता है, महसूस करता है कि वह गोल-गोल घूम रहा है, और अपने कैलकुलेटर सत्र को फिर से शुरू कर देता है (जैसे कोई छात्र अपना पूरा पन्ना मिटाकर फिर से शुरू करता है)।
- इसे निगरानी की आवश्यकता है: AI कभी-कभी समस्या की गलत व्याख्या करता है (उदाहरण के लिए, यह सोचना कि एक "फ्लैट" ब्रह्मांड का अर्थ कुछ और है)। मानवीय विशेषज्ञ की आवश्यकता है ताकि इन त्रुटियों को पकड़ा जा सके।
- यह उबाऊ कामों के लिए अच्छा है: AI उन दोहराव वाले, यांत्रिक गणित के लिए उत्कृष्ट है जिससे भौतिक विज्ञानी नफरत करते हैं, लेकिन अंतिम उत्तर की जांच करने के लिए उसे अभी भी एक इंसान की आवश्यकता होती है।
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि लार्ज लैंग्वेज मॉडल्स सैद्धांतिक भौतिकी के लिए शक्तिशाली उपकरण हो सकते हैं, लेकिन केवल तभी जब आप उन्हें सही ढंग से सिखाएं। आप केवल उनसे "स्मार्ट बनने" के लिए नहीं कह सकते। आपको उन्हें काम करने के उदाहरण दिखाने होंगे, विशेष रूप से उन पेचीदा हिस्सों की ओर इशारा करना होगा जहाँ वे आमतौर पर विफल होते हैं।
जब कैलकुलेटर और अच्छे "वर्क उदाहरणों" के सेट से लैस होता है, तो एक AI जटिल भौतिकी की समस्याओं को एक प्रथम वर्ष के स्नातक छात्र (graduate student) की क्षमता के साथ हल कर सकता है, जिससे मानव भौतिक विज्ञानी अपने काम के रचनात्मक हिस्सों पर ध्यान केंद्रित करने के लिए स्वतंत्र हो जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।