Algorithmic algorithm development with LLMs: A Case Study on LLM-Usage for Contraction Order Optimization in Tensor Networks
यह शोध पत्र OpenEvolve का उपयोग करते हुए एक केस स्टडी प्रस्तुत करता है जो यह प्रदर्शित करता है कि कैसे वेरिफायर-गाइडेड (verifier-guided) LLM एजेंट टेंसर नेटवर्क कॉन्ट्रैक्शन ऑर्डर ऑप्टिमाइज़ेशन के लिए एल्गोरिदम को प्रभावी ढंग से विकसित और सुधार सकते हैं, जबकि मूल्यांकन, सत्यापन और व्याख्या में मानव वैज्ञानिकों की महत्वपूर्ण भूमिका पर जोर दिया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, जटिल पहेली को सुलझाने की कोशिश कर रहे हैं। भौतिकी और कंप्यूटिंग की दुनिया में, इस पहेली को टेंसर नेटवर्क (Tensor Network) कहा जाता है। इसे हल करने के लिए, आपको कई छोटे टुकड़ों (टेंसर्स) को एक विशिष्ट क्रम में एक साथ जोड़ना होता है।
यहाँ पेच यह है कि आप उन्हें किस क्रम में जोड़ते हैं, यह बहुत मायने रखता है।
- यदि आप उन्हें गलत क्रम में जोड़ते हैं, तो पहेली अस्थायी रूप से एक गगनचुंबी इमारत जितनी बड़ी हो सकती है और फिर वापस छोटी हो सकती है। इसके लिए बहुत अधिक कंप्यूटर मेमोरी और समय (FLOPs, या गणितीय चरणों) की आवश्यकता होती है।
- यदि आप उन्हें सही क्रम में जोड़ते हैं, तो पहेली छोटी और प्रबंधनीय रहती है, जिससे वह खुद ही जल्दी हल हो जाती है।
एक आदर्श क्रम खोजना एक ऐसे भूलभुलैया में सबसे छोटा रास्ता खोजने जैसा है जो हर बार देखने पर अपना आकार बदल लेती है। यह इतना कठिन है कि सुपरकंप्यूटर भी बड़े पहेलियों के लिए संघर्ष करते हैं।
प्रयोग: एक AI को 'पहेली मास्टर' बनाना सिखाना
इस शोध के लेखकों ने यह देखना चाहा कि क्या एक लार्ज लैंग्वेज मॉडल (LLM)—जो एक प्रकार का AI है और कोड लिखने तथा तर्क संबंधी समस्याओं को हल करने में बहुत अच्छा है—क्या वह अपने आप इन बेहतर प적인 क्रमों को खोजने के लिए सीख सकता है। उन्होंने केवल AI से उत्तर नहीं माँगा; उन्होंने विकास (Evolution) का एक खेल तैयार किया।
इसे एक कुकिंग कॉम्पिटिशन (खाना पकाने की प्रतियोगिता) की तरह समझें:
- प्रतियोगी: AI कई अलग-अलग "रेसिपी" (एल्गोरिदम) बनाता है जो पहेली के टुकड़ों को जोड़ने के तरीके बताती हैं।
- जज (निर्णायक): एक कंप्यूटर प्रोग्राम जज के रूप में कार्य करता है। वह वास्तव में भोजन नहीं बनाता (पूरा भौतिकी सिमुलेशन नहीं चलाता), वह बस यह गणना करता है कि प्रत्येक रेसिपी में कितने "सामग्री" (गणितीय चरणों) का उपयोग होगा।
- विकास (Evolution): AI उन रेसिपीज़ को देखता है जिनमें सबसे कम सामग्री का उपयोग हुआ है, उन्हें आपस में मिलाता है, और एक नई, और भी बेहतर रेसिपी बनाने की कोशिश करता है। वह इसे हजारों बार दोहराता है, धीरे-धीरे एक "मास्टर शेफ" विकसित करता है।
उन्होंने क्या परीक्षण किया (वे "नॉब्स" जिन्हें इंसान ने घुमाया)
शोधकर्ताओं ने महसूस किया कि AI कोई जादुई छड़ी नहीं है; यह एक ऐसा उपकरण है जिसे बहुत विशिष्ट निर्देशों की आवश्यकता होती है। उन्होंने यह देखने के लिए तीन मुख्य चीजों का परीक्षण किया कि AI सफल हुआ या विफल:
1. उन्होंने कौन सा AI शेफ काम पर रखा? (मॉडल का चुनाव)
उन्होंने AI मॉडल्स के विभिन्न संस्करणों को आज़माया, छोटे से लेकर विशाल मॉडल्स तक।
- परिणाम: आश्चर्यजनक रूप से, एक मध्यम आकार का AI मॉडल (GPT-OSS-20B) विशाल और महंगे मॉडल्स की तुलना में बेहतर प्रदर्शन कर गया। यह एक स्थानीय बेकर के बारे में पता लगाने जैसा था जो एक प्रसिद्ध अंतरराष्ट्रीय चेन से बेहतर ब्रेड बनाता है। बड़े मॉडल्स कभी-कभी भ्रमित हो जाते थे या सोचने में बहुत अधिक समय लेते थे।
2. "अच्छा" कैसे मापा जाए? (मेट्रिक)
AI को एक स्कोर की आवश्यकता होती है ताकि उसे पता चल सके कि वह जीत रहा है। शोधकर्ताओं ने रेसिपीज़ को स्कोर देने के लिए अलग-अलग तरीके आज़माए:
- औसत स्कोर (Average Score): "औसतन रेसिपी कितनी अच्छी है?"
- सबसे खराब स्थिति का स्कोर (Worst-Case Score): "यह AI सबसे खराब कैसी रेसिपी बना सकता है?"
- परिणाम: यह पाया गया कि AI को "औसत" के लिए अनुकूलित (optimize) करने के लिए कहना सबसे अच्छा काम करता है। यदि उन्होंने इसे "सबसे खराब स्थिति" के लिए अनुकूलित करने के लिए कहा, तो AI भ्रमित हो जाता और बाकी सभी के लिए खराब रेसिपी बना देता। जिस तरह से आप "जीत" को परिभाषित करते हैं, वही तय करता है कि कौन जीतेगा।
3. उन्होंने किस तरह की पहेलियों पर अभ्यास किया? (टेस्ट डेटा)
उन्होंने AI को छोटी, मध्यम और बड़ी पहेलियों पर अभ्यास करने दिया।
- परिणाम: यदि AI ने केवल छोटी पहेलियों पर अभ्यास किया, तो वह छोटी पहेलियों को हल करने में माहिर हो गया और आश्चर्यजनक रूप से मध्यम पहेलियों में भी अच्छा प्रदर्शन करने लगा। लेकिन यदि उसने मध्यम पहेलियों पर अभ्यास किया, तो वह छोटी पहेलियों को हल करने में वास्तव में कमजोर हो गया। यह एक जिम्नास्ट की तरह है जो केवल बैलेंस बीम पर प्रशिक्षण लेता है और फिर फ्लोर एक्सरसाइज में विफल हो जाता है। आपके द्वारा चुना गया विशिष्ट अभ्यास डेटा ही यह तय करता है कि AI क्या सीखता है।
"सर्वश्रेष्ठ" परिणाम: एक आश्चर्यजनक खोज
प्रयोग चलाने के बाद, AI (विशेष रूप से मध्यम आकार वाले मॉडल) ने पहेली के टुकड़ों को व्यवस्थित करने का एक नया तरीका खोज निकाला।
- अच्छी खबर: इसने एक ऐसा तरीका खोजा जिसमें मध्यम आकार की पहेलियों के लिए मानक मानव-निर्मित तरीकों की तुलना में काफी कम गणितीय चरणों का उपयोग हुआ। यह गणना चरणों के मामले में लगभग 47 गुना तेज़ था!
- सावधानी: AI का कोड थोड़ा "ब्लैक बॉक्स" जैसा था। यह लंबा, जटिल था और इसमें यह समझाने के लिए बहुत कम टिप्पणियाँ (comments) थीं कि यह क्यों काम कर रहा था। जब इंसानों ने इसके कोड को देखा, तो उन्हें एहसास हुआ कि AI ने एक ज्ञात गणितीय ट्रिक को फिर से खोज लिया था, लेकिन उसमें एक अजीब, नया मोड़ जोड़ दिया था जो पहले कभी किसी ने नहीं लिखा था।
- चेतावनी: हालांकि AI की रेसिपी गणितीय रूप से कुशल थी, लेकिन उस रेसिपी को खोजने की प्रक्रिया में बहुत लंबा समय लगा। बहुत बड़ी पहेलियों के लिए, AI का तरीका वास्तविक जीवन में उपयोगी होने के लिए बहुत धीमा था।
मुख्य निष्कर्ष (The Big Takeaway)
लेख यह निष्कर्ष निकालता है कि जबकि AI नए एल्गोरिदम बनाने के लिए एक शक्तिशाली उपकरण है, इंसान अभी भी जहाज के कप्तान हैं।
- आप केवल "जाओ" नहीं कह सकते। आपको खेल के नियम (टेस्ट डेटा, स्कोरिंग सिस्टम और टाइमआउट सीमाएं) बहुत सावधानी से डिजाइन करने होंगे। यदि आप खेल को खराब तरीके से डिजाइन करते हैं, तो AI एक ऐसा "चीट कोड" ढूंढ लेगा जो खेल में तो जीत जाता है लेकिन वास्तविक समस्या को हल नहीं करता।
- सत्यापन (Verification) महत्वपूर्ण है। सिर्फ इसलिए कि AI कहता है कि उसने एक तेज़ तरीका खोज लिया है, इसका मतलब यह नहीं है कि वह वास्तविक दुनिया के लिए तैयार है। इंसानों को अभी भी यह जांचना होगा कि कोड समझ में आता है या नहीं, क्या यह पठनीय है, और क्या यह वास्तव में वास्तविक दुनिया की स्थितियों (जैसे समय समाप्त होना) के तहत काम करता है।
- "उपकरण" का रूपक: लेखक सुझाव देते हैं कि हमें इन AI सिस्टमों को "जादुई भविष्यवक्ताओं" के रूप में नहीं देखना चाहिए जो हमें उत्तर देते हैं। इसके बजाय, हमें उन्हें जटिल वैज्ञानिक उपकरणों के रूप में देखना चाहिए। ठीक वैसे ही जैसे एक टेलीस्कोप को सितारों की व्याख्या करने के लिए एक कुशल खगोलशास्त्री की आवश्यकता होती है, एक AI एल्गोरिदम को सही समस्या की ओर निर्देशित करने और परिणामों की व्याख्या करने के लिए एक कुशल वैज्ञानिक की आवश्यकता होती है।
संक्षेप में: AI एक प्रतिभाशाली, तेज़, लेकिन कभी-कभी भ्रमित होने वाला प्रशिक्षु (apprentice) है। मानव वैज्ञानिक वह मास्टर शेफ है जिसे सामग्री चुननी होगी, मेनू तय करना होगा और यह सुनिश्चित करने के लिए अंतिम व्यंजन का स्वाद लेना होगा कि वह वास्तव में खाने योग्य है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।