BootLoops: an LLM-driven toolkit for exact quantitative science

वैज्ञानिक कंप्यूटिंग के अधिकांश इतिहास में, एक मनुष्य एक प्रोग्राम लिखता था, यह जानते हुए कि वह क्या करता है, और फिर एक कंप्यूटर उसे निष्पादित करता था। बाद में, प्रतिमान (paradigm) बदल गया: एक मनुष्य आर्किटेक्चर निर्दिष्ट करता था, एक कंप्यूटर डेटा पर एक न्यूरल नेटवर्क फिट करता था, और मनुष्य परिणामों की व्याख्या करता था। अब, एक नया बदलाव चल रहा है। एक लार्ज लैंग्वेज मॉडल, एक अर्ध-स्वायत्त एजेंट (semi-autonomous agent) के रूप में कार्य करते हुए, प्रोग्राम को डिजाइन और लिख सकता है, उसे चला सकता है, और फिर स्वयं उत्तर की समीक्षा और व्याख्या कर सकता है। ऐसे सिस्टम की क्षमता असीम प्रतीत होती है, फिर भी एक प्रमुख प्रश्न बना हुआ है: मनुष्य इन एजेंटों का उपयोग करके अधिकतम उत्पादक कैसे हो सकते हैं? इसका उत्तर दूर के क्षेत्रों को जोड़ने में निहित है। कण भौतिकी (particle physics) के लिए विकसित विधियाँ पारिस्थितिकी (ecology) की समस्याओं को हल कर सकती हैं, या संख्यात्मक विश्लेषण (numerical analysis) के उपकरण सार्वजनिक स्वास्थ्य में नियामक सीमाओं (regulatory thresholds) को स्पष्ट कर सकते हैं, लेकिन बहुत कम लोग दोनों पक्षों को इतनी अच्छी तरह से जानते हैं कि वे बीच का संबंध बना सकें। एक लार्ज लैंग्वेज मॉडल, सब कुछ पढ़ने के बाद, दोनों को जानता है।

यह शोध पत्र 'बूटलूप्स' (BootLoops) का परिचय देता है, जो उस ज्ञान के विस्तार का लाभ उठाने के लिए डिज़ाइन किया गया एक टूलकिट है। यह विशिष्ट कंप्यूटर प्रोग्रामों का एक संग्रह है जिसे एक भाषा मॉडल संचालित और विस्तारित कर सकता है ताकि सटीक, मात्रात्मक विज्ञान किया जा सके। यह टूलकिट कोलाइडर भौतिकी, प्रयोगात्मक गणित और कंप्यूटर बीजगणित (computer algebra) से विधियों को एक साथ लाता है ताकि उन समस्याओं को हल किया जा सके जिन्हें आमतौर पर सन्निकटन (approximations) के साथ अनुमानित किया जाता है या फ्लोटिंग-पॉइंट नंबरों के साथ गणना की जाती है जो राउंडिंग एरर (rounding errors) को छिपा देते हैं। अनुमान लगाने या अंदाज़ा लगाने के बजाय, बूटलूप्स मॉडल को सटीक परिमेय संख्याओं (rational numbers) के रूप में उत्तरों की गणना करने, यह सिद्ध करने की अनुमति देता है कि समाधान मौजूद है या नहीं, और गारंटीकृत त्रुटि सीमाओं (error bounds) के साथ गणना करने की अनुमति देता है। लक्ष्य मानव वैज्ञानिकों को बदलना नहीं है, बल्कि उन्हें एक क्षेत्र के उपकरणों का उपयोग दूसरे क्षेत्र की समस्याओं को हल करने के लिए करने का एक तरीका देना है, जिससे वे कनेक्शन जो मनुष्यों के लिए बनाना कठिन है, नियमित संचालन में बदल जाएं।

इस कार्य का मूल एक लार्ज लैंग्वेज मॉडल है जो एक लूप में चलता है, प्रोग्राम चलाने के लिए कमांड जारी करता है और उनके आउटपुट को पढ़ता है। एक कठिन गणना का सामना करने पर, मॉडल चरणों की योजना बनाता है, टूलकिट से सही उपकरणों का चयन करता है, और उन्हें चलाता है। यदि कोई टूल गायब है, तो मॉडल एक नया रूटीन लिखता है, उसका परीक्षण करता है, और उसे संग्रह में जोड़ देता है। प्रोग्राम स्वयं प्रत्येक संख्या और प्रतीक की गणना करते हैं; मॉडल कभी भी किसी अंक का अनुमान नहीं लगाता। टूलकिट विभिन्न समस्याओं के माध्यम से बना रहता है, जैसे-जैसे नए तरीके जोड़े जाते हैं वैसे-वैसे बढ़ता है। इसमें जटिल इंटीग्रल्स (integrals) को एक परिमित आधार (finite basis) तक कम करने, अवकल समीकरणों (differential equations) को हल करने और उच्च-परिशुद्धता (high-precision) संख्याओं पर सटीक स्थिरांकों को फिट करने वाले प्रोग्राम शामिल हैं। इनमें से कुछ सार्वजनिक कोड हैं जिन्हें भौतिकी और गणित से अपनाया गया है, जबकि अन्य विशेष रूप से इस परियोजना के लिए शून्य से लिखे गए थे। कुल मिलाकर, केवल इस शोध पत्र में वर्णित गणनाओं को संभालने के लिए लगभग एक सौ नए प्रोग्राम लिखे गए थे।

बूटलूप्स का पहला प्रमुख अनुप्रयोग फाईनमैन इंटीग्रल्स (Feynman integrals) की गणना करना है, जो यह वर्णन करते हैं कि कण कैसे बिखेरते (scatter) और परस्पर क्रिया करते हैं। दशकों से, भौतिकविदों ने इन्हें प्रत्यक्ष एकीकरण (direct integration) द्वारा या बिंदु दर बिंदु अनुमान लगाकर कंप्यूट किया है। बूटलूप्स एक अलग दृष्टिकोण अपनाता है, जिसे "बूटस्ट्रैप" (bootstrap) नामक विधि का उपयोग किया जाता है। मॉडल पहले समस्या द्वारा परिभाषित ज्यामितीय आकार की पहचान करता है, जो एक सरल गोला, एक दीर्घवृत्त वक्र (elliptic curve), या एक जटिल आकार जिसे कैलि-याउ मैनिफोल्ड (Calabi-Yau manifold) कहा जाता है, हो सकता है। यह ज्यामिति उन प्रकार के फलनों (functions) को निर्धारित करती है जो उत्तर का वर्णन कर सकते हैं। मॉडल फिर अज्ञात गुणांकों (coefficients) के साथ एक सामान्य सूत्र बनाता है और उन गुणांकों को फिट करने के लिए उच्च-परिशुद्धता वाले संख्यात्मक नमूनों का उपयोग करता है। परिणाम एक क्लोज्ड-फॉर्म उत्तर है, एक सटीक गणितीय अभिव्यक्ति, न कि संख्याओं की एक सूची। लेखक ने ऐसे तीस इंटीग्रल्स की गणना की, जो सरल एक-लूप आरेखों (one-loop diagrams) से लेकर जटिल चार-लूप संरचनाओं तक विस्तृत हैं। इनमें से पंद्रह साहित्य में ज्ञात थे, और शेष पंद्रह नए थे, जिनकी पूर्व गणना कहीं नहीं मिली थी। प्रत्येक परिणाम की जाँच तीस या अधिक अंकों की परिशुद्धता के साथ एक स्वतंत्र संख्यात्मक मूल्यांकन के विरुद्ध की गई थी, जिससे यह सुनिश्चित हुआ कि मॉडल की अंतर्दön (intuition) पर निर्भर हुए बिना उत्तर सही है।

दूसх अनुप्रयोग दिखाता है कि ये भौतिकी उपकरण जीव विज्ञान और सांख्यिकी की समस्याओं को कैसे हल करते हैं। विकासवादी जीव विज्ञान (evolutionary biology) जैसे क्षेत्रों में, वैज्ञानिक प्रजातियों के विभिन्न वंशावली वृक्षों (family trees) की तुलना करते हैं ताकि यह देखा जा सके कि कौन सा डीएनए डेटा की सबसे अच्छी व्याख्या करता है। इसके लिए "बेयसियन एविडेंस" (Bayesian evidence) की गणना करने की आवश्यकता होती है, जो एक संख्या है जो एक विशिष्ट वृक्ष के तहत डेटा की संभावना को दर्शाती है। पारंपरिक रूप से, इसका अनुमान मोंटे कार्लो (Monte Carlo) विधियों का उपयोग करके लगाया जाता है, जो धीमी होती हैं और अपने स्वयं के अनुमानित त्रुटियों के साथ आती हैं। बूटलप्स पहचानता है कि इन जैविक साक्ष्य इंटीग्रल्स के लिए गणित, फाईनमैन इंटीग्रल्स के गणित के समान है। उन्हीं रिडक्शन और फिटिंग तकनीकों को लागू करके, टूलकिट इन साक्ष्यों को सटीक परिमेय संख्याओं के रूप में कंप्यूट करता है। सरल मामलों के लिए, उत्तर एक सटीक भिन्न (fraction) होता है। अधिक जटिल मामलों के लिए, यह एक गारंटीकृत सीमा प्रदान करता है जिसमें वास्तविक मान समाहित होता है। यह वैज्ञानिकों को पूर्ण निश्चितता के साथ वृक्षों की तुलना करने की अनुमति देता है, जो कि फ्लोटिंग-पॉइंट अनुमानों के साथ पहले असंभव था। यही दृष्टिकोण सांख्यिकी, जनसंख्या आनुवंशिकी और सिंगल-सेल जीव विज्ञान में मिश्रण मॉडल (mixture models) पर भी लागू किया जाता है, जहाँ यह उन समस्याओं के लिए सटीक उत्तर प्रदान करता है जो आमतौर पर शोर वाले सिमुलेशन (noisy simulations) पर निर्भर करती हैं।

तीसरी क्षमता पूर्णता के प्रमाण (proof of completeness) के साथ एक व्यापक खोज (exhaustive search) करने की क्षमता है। कई वैज्ञानिक प्रश्नों में, उत्तर हर संभव मामले की जाँच करने, या किसी विशेष प्रकार के मामले के अस्तित्व में न होने को सिद्ध करने पर निर्भर करता है। बूटलप्स एक परिमित स्थान (finite space) में प्रत्येक विन्यास (configuration) को सूचीबद्ध कर सकता है, जैसे कि स्ट्रिंग थ्योरी में फ्लक्स की संभावित व्यवस्थाएं या गुणवत्ता रेटिंग के लिए डेटा को समूहित करने के इष्टतम तरीके। यह एक कठोर प्रमाण के साथ ऐसा करता है कि कुछ भी छूटा नहीं है। यदि खोज एक समाधान पाती है, तो यह पूर्ण सूची लौटाती है। यदि इसे कोई समाधान नहीं मिलता है, तो यह एक प्रमेय (theorem) प्रदान करती है जो सिद्ध करता है कि ऐसा कोई ऑब्जेक्ट मौजूद नहीं है। उदाहरण के लिए, टूलकिट का उपयोग वाटसन इंटीग्रल (Watson integral) का विश्लेषण करने के लिए किया गया था, जो रैंडम वॉक के संबंध में गणित का एक प्रसिद्ध प्रश्न है। संभावित क्लोज्ड-फॉर्म समाधानों के वर्ग को पूरी तरह से जांचकर, मॉडल ने सिद्ध किया कि सामान्य मामले के लिए ऐसा कोई क्लोज्ड-फॉर्म मौजूद नहीं है, जो कि दशकों से एक खुला प्रश्न था। यह एक ऐसी खोज को जो शायद केवल ह्यूरिस्टिक (heuristic) या अपूर्ण होती, गणितीय निश्चितता में बदल देता है।

अंत में, टूलकिट मानक गणनाओं में राउंडिंग एरर की समस्या को संबोधित करता है। जब कंप्यूटर फ्लोटिंग-पॉइंट अंकगणét (arithmetic) का उपयोग करते हैं, तो सूक्ष्म त्रुटियां जमा हो जाती हैं और गलत उत्तरों का कारण बन सकती हैं, विशेष रूप से गणना की लंबी श्रृंखलाओं में। बूटलप्स "बॉल अंकगणét" (ball arithmetic) का उपयोग करता है, जहाँ प्रत्येक संख्या को एक गारंटीकृत त्रिज्या (radius) के साथ एक मध्य बिंदु (midpoint) माना जाता है। यह त्रिज्या गणना के दौरान बढ़ती या घटती रहती है, यह सुनिश्चित करते हुए कि वास्तविक मान हमेशा सीमा के भीतर रहे। यदि त्रुटि उपयोगी होने के लिए बहुत बड़ी हो जाती है, तो सिस्टम गलत उत्तर देने के बजाय उत्तर देने से मना कर देता है। इस पद्धति का उपयोग प्रकाशित संख्याओं के ऑडिट के लिए किया गया था, जैसे कि वायु गुणवत्ता के नियामक मानक और मेडिकल रेटिंग। एक मामले में, टूलकिट ने सटीक अंकगणét का उपयोग करके अमेरिकी ओजोन मानक के लिए गणना को दोबारा चलाया और पाया कि प्रकाशित परिणाम इस बात पर निर्भर था कि संख्याओं को कैसे ट्रंकेट (truncate) किया गया था, एक ऐसा विवरण जिसे फ्लोटिंग-पॉइंट अंकगणét ने छिपा दिया था। दूसरे मामले में, इसने मेडिकेयर स्टार रेटिंग के सटीक मानों को सत्यापित किया, यह सिद्ध करते हुए कि प्रकाशित कट पॉइंट्स वास्तव में इष्टतम थे।

शोध पत्र यह निष्कर्ष निकालता है कि एजेंटिक आर्टिफिशियल इंटेलिजेंस की वास्तविक शक्ति विभिन्न क्षेत्रों के ज्ञान को संयोजित करने की इसकी क्षमता में निहित है। बूटलप्स इन विधियों को एक एकल, विस्तार योग्य टूलकिट में पूल करने का एक पहला प्रयास है जिसे एक भाषा मॉडल संचालित कर सकता है। यह मानव ज्ञान की दिशा में एक दिशा में नहीं बढ़ता है, बल्कि मौजूदा क्षेत्रों के बीच के अंतराल को भरता है। टूलकिट ओपन सोर्स है और इसे बढ़ने के लिए डिज़ाइन किया गया है, इस अपेक्षा के साथ कि वैज्ञानिक नई विधियों की खोज के साथ इसे जोड़ेंगे। लेखक इस बात पर जोर देते हैं कि जबकि मॉडल कोड लिखता है और टूल चलाता है, परिणाम मॉडल के निर्णय पर आधारित नहीं होते हैं बल्कि प्रोग्रामों के नियत (deterministic) निष्पादन पर आधारित होते हैं। यह कार्य प्रदर्शित करता है कि कोलाइडर भौतिकी के रिडक्शन एल्गोरिदम, सांख्यिकी के एविडेंस इंटीग्रल्स और संख्यात्मक विश्लेषण के कठोर बंधों को एक साथ लाकर, हम लंबे समय से चले आ रहे प्रश्नों को सटीकता और निश्चितता के एक ऐसे स्तर के साथ हल कर सकते हैं जो पहले पहुंच से बाहर था। टूलकिट और इसके दस्तावेज़ों का उपयोग और विस्तार करने के लिए कोई भी उपलब्ध है, जो मानव वैज्ञानिक ज्ञान के पूर्ण अन्वेषण की ओर एक कदम है।