Agentic Skill Optimization over Lie Algebroids
यह शोध पत्र LASKO को प्रस्तुत करता है, जो एक नवीन ढांचा (framework) है जो एडिट नीतियों और उनके गैर-क्रमविनिमेय (non-commutative) संयोजनों को दर्शाने के लिए ली अल्जेब्रॉइड्स (Lie algebroids) का उपयोग करके एजेंटिक कौशल अनुकूलन को मॉडल करता है, जिससे महंगी LLM सत्यापन प्रक्रिया से पहले सस्ते ली-ब्रैकेट परीक्षणों के माध्यम से संपादन की स्क्रीनिंग करके क्रम-परिमाण (order-of-magnitude) की गति वृद्धि संभव होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप लेगो ब्लॉक्स से बनी एक विशाल, जटिल मशीन को ठीक करने की कोशिश कर रहे हैं, जहाँ प्रत्येक ब्लॉक एक रोबोट के लिए एक विशिष्ट निर्देश, एक नियम या एक चेकलिस्ट है। यह मशीन एक "एजेंटिक सिस्टम" (agentic system) है जिसे स्मार्ट काम करने के लिए डिज़ाइन किया गया है। समस्या यह है कि जब रोबोट गलती करता है, तो आप केवल एक लेगो ब्लॉक को बदलकर यह उम्मीद नहीं कर सकते कि सब ठीक हो जाएगा। कभी-कभी, ब्लॉक्स को बदलने का क्रम बहुत मायने रखता है। यदि आप "गणित के नियमों" को ठीक करने से पहले "सुरक्षा नियमों" को ठीक करते हैं, तो मशीन काम करती है। लेकिन यदि आप उन्हें उलटे क्रम में बदलते हैं, तो पूरी चीज़ बिखर जाती है।
यह वह पहेली है जिसे LASKO (Lie Algebroid SKILL Optimization) पेपर हल करने की कोशिश करता है।
समस्या: "क्रम मायने रखता है" वाला जाल
रोबोट के निर्देशों को मार्कडाउन (Markdown) नामक एक विशेष भाषा में लिखी गई एक लंबी कहानी के रूप में सोचें। रोबोट को बेहतर बनाने के लिए, एक AI ऑप्टिमाइज़र इस कहानी को संपादित करने का सुझाव देता है। वह छोटे बदलाव सुझाता है: "यहाँ एक नियम जोड़ें," "वह उदाहरण हटा दें," या "इस स्कीमा को ठीक करें।"
पुराने तरीके में (जिसे SKILLOPT कहा जाता है), ऑप्टिमाइज़र एक अनाड़ी माली की तरह काम करता है। वह एक बदलाव आज़माता है, देखता है कि क्या पौधा बढ़ता है, फिर दूसरा बदलाव आज़माता है। वह यह मान लेता है कि हर बदलाव स्वतंत्र है, जैसे बगीचे में एक अकेला फूल लगाना। लेकिन यह पेपर तर्क देता है कि यह गलत है। ये बदलाव एक घड़ी के गियर की तरह हैं। यदि आप गियर को ठीक करने से पहले स्प्रिंग को ठीक करने की कोशिश करते हैं, तो घड़ी टिक-टिक नहीं करेगी। यह पेपर दिखाता है कि दो बदलाव जो अपने आप में बिल्कुल ठीक लग सकते हैं, वे गलत क्रम में किए जाने पर बुरी तरह विफल हो सकते हैं।
पेपर स्पष्ट रूप से इस विचार के खिलाफ तर्क देता है कि आप एक-एक करके बदलावों के हर संभव संयोजन को आज़मा सकते हैं। यह कहता है कि हर एक क्रम को आज़माना (एक "ब्रूट-फोर्स" दृष्टिकोण) बहुत महंगा और धीमा है क्योंकि इसके लिए हर बार रोबोट को एक विशाल, महंगे परीक्षण से गुज़ारना पड़ता है। यह इस विचार के भी खिलाफ है कि किसी बदलाव के लिए एक एकल "स्कोर" पूरी कहानी बताता है; कभी-कभी एक बदलाव तुरंत अच्छा दिखता है लेकिन बाद में रोबोट की सीखने की क्षमता को बर्बाद कर देता है।
समाधान: "सीक्रेट हैंडशेक" डिटेक्टर
लेखक एक नया ढांचा प्रस्तावित करते हैं जिसे LASKO कहा जाता है। इसे समझने के लिए, कल्पना करें कि रोबोट के निर्देश केवल एक सपाट सूची नहीं हैं, बल्कि छिपी हुई परतों के साथ एक 3D संरचना हैं।
- दृश्य परत (द एंकर): यह वह है जो आप स्क्रीन पर देखते हैं—दस्तावेज़ में बदलते हुए वास्तविक शब्द।
- छिपी हुई परत (द कर्नल): यह अदृश्य चीज़ है: आंतरिक रूटिंग, टेम्पलेट वेरिएबल्स, और रोबोट का "मूड" जिसे आप तुरंत नहीं देख सकते लेकिन जो भविष्य के व्यवहार को प्रभावित करता है।
- सीक्रेट हैंडशेक (द ब्रैकेट): यह इस पेपर का बड़ा विचार है। यह एक गणितीय परीक्षण है जो जाँचता है कि क्या दो बदलाव सही ढंग से "हाथ मिलाते" (shake hands) हैं। यदि आप बदलाव A के बाद बदलाव B करते हैं, तो क्या यह वैसा ही महसूस होता है जैसा बदलाव B के बाद बदलाव A करने से होता है?
LASKO की दुनिया में, यदि दो बदलाव "कम्यूट" (commute) नहीं होते (यानी क्रम परिणाम बदल देता है), तो सिस्टम उन्हें एक "हाई-ब्रैकेट" जोड़ी के रूप में चिह्नित करता है। यह एक व्यस्त चौराहे पर ट्रैफिक पुलिस की तरह है। हर कार (संभावित संपादन क्रम) को टकराने के लिए छोड़ने के बजाय, पुलिस एक तेज़, सस्ते सेंसर का उपयोग करके यातायात प्रवाह की जाँच करती है।
जादू: 15 गुना तेजी से
यहीं पर नंबर रोमांचक हो जाते हैं। पेपर ने यह देखने के लिए परीक्षणों की एक श्रृंखला चलाई कि क्या यह "ट्रैफिक पुलिस" वाला विचार वास्तव में काम करता है।
उन्होंने एक चुनौती सेट की जहाँ रोबोट को 10 विशिष्ट एंकर्स (जैसे "स्कीमा," "टूल कॉन्ट्रैक्ट," "वैलिडेटर," आदि) के साथ एक वर्कफ़्लो को ठीक करना था।
- पुराना तरीका (ब्रूट फोर्स): परफेक्ट फिक्स खोजने के लिए, आपको बदलावों के हर संभव क्रम को आज़माना होगा। 10 आइटमों के लिए, वह 90 अलग-अलग क्रम वाले जोड़े हैं। यदि आप प्रत्येक एक को एक विशाल AI मॉडल (जैसे कि पेपर में उल्लेखित DeepSeek V3.1 4-bit model with 671B parameters) के माध्यम से चलाते हैं, तो इसमें बहुत समय लगता है।
- LASKO का तरीका: सिस्टम पहले एक सुपर-फास्ट "ब्रैकेट प्रोब" चलाता है। यह एक छोटा, सस्ता कैलकुलेशन है जो माइक्रोसेकंड्स (विशेष रूप से, पेपर नोट करता है कि एक प्रोब ने एक परीक्षण में लगभग 0.000127 सेकंड लिया) में चलता है। यह प्रोब भविष्यवाणी करता है कि कौन से जोड़ों के "हाई-ब्रैकेट" होने की संभावना है जो वास्तव में मायने रखते हैं।
- परिणाम: सभी 90 जोड़ों का परीक्षण करने के बजाय, LASKO लिस्ट को फ़िल्टर करने के लिए 90 ब्रैकेट प्रोब्स चलाता है, और फिर केवल शीर्ष 10 अनुमानित जोड़ों को वैलिडेट करता है।
अपने प्रयोगों में, इस दृष्टिकोण ने ब्रूट-फोर्स विधि की तुलना में लगभग 15× की गति प्राप्त की। DeepSeek V3.1 मॉडल के साथ एक विशिष्ट परीक्षण में, ब्रूट-फोर्स विधि ने सभी विकल्पों को वैलिडेट करने में 538.1 सेकंड लिए, जबकि LASKO ने वही काम केवल 36.2 सेकंड में कर दिया। यह 14.85× की गति है।
इससे भी अधिक प्रभावशाली बात यह है कि Nemotron 70B मॉडल के साथ एक परीक्षण में, समय 712.4 सेकंड से घटकर 86.0 सेकंड (8.28× की गति) हो गया। उनके द्वारा परीक्षण किए गए सभी मॉडलों में, औसत गति 6.94× थी।
इसका वास्तव में क्या अर्थ है
पेपर बहुत सावधानी से कहता है कि यह कोई जादुई छड़ी नहीं है जो सब कुछ तुरंत ठीक कर देती है। यह उस महंगे "वैलिडेशन" चरण की आवश्यकता को समाप्त नहीं करता है जहाँ रोबोट वास्तव में फिक्स को आज़माता है। इसके बजाय, यह एक फ़िल्टर के रूप में कार्य करता है।
एक क्लब के बाउंसर की तरह सोचें। "ब्रैकेट प्रोब" दरवाजे पर आईडी चेक करने वाला बाउंसर है। यह तेज़ और सस्ता है। यह उन लोगों को रोकता है जो निश्चित रूप से अंदर नहीं आ पाएंगे (बुरे एडिट ऑर्डर) ताकि महंगी "सर्व्ड वैलिडेशन" (वास्तविक क्लब प्रवेश) को केवल उन्हीं लोगों को संभालना पड़े जिनके पास वास्तव में मौका है।
लेखक सुझाव देते हैं कि यह तरीका सिस्टम को एक पूर्ण मरम्मत अनुक्रम (स्कोर 1.000 प्राप्त करना) खोजने की अनुमति देता है, जबकि केवल एक अंश समय और पैसा खर्च करता है। 160 एडिट्स के एक परीक्षण में, ब्रूट-फोर्स विधि को 25,441 महंगे वैलिडेशन चेक की आवश्यकता होगी। LASKO, अपने ब्रैकेट स्क्रीनिंग का उपयोग करते हुए, केवल 168 प्रोब्स (ब्रैकेट चेक और अंतिम वैलिडेशन कॉल का संयोजन) की आवश्यकता के साथ वही परफेक्ट स्कोर प्राप्त कर सकता है।
निचोड़
पेपर सुझाव देता है कि स्किल एडिटिंग को एक सपाट सूची के रूप में नहीं, बल्कि एक संरचित प्रणाली के रूप में मानकर जहाँ क्रम और छिपा हुआ संदर्भ मायने रखते हैं, हम AI एजेंटों को बहुत तेज़ी से ऑप्टिमाइज़ कर सकते हैं। यह केवल बेहतर अनुमान लगाने के बारे में नहीं है; यह यह जानने के बारे में है कि कौन से अनुमान महंगे परीक्षण के लायक हैं।
जबकि परिणाम आशाजनक हैं और बड़े मॉडलों के साथ वास्तविक प्रयोगों में मापे गए हैं, लेखक इसे एक नए ढांचे के रूप में पेश करते हैं। वे दिखाते हैं कि "Lie bracket" (ऑर्डर-सेंसिटिविटी टेस्ट) समय और पैसा खर्च करने से पहले बुरे रास्तों को फ़िल्टर करने के लिए एक शक्तिशाली उपकरण है। यह एक भूलभुलैया में अराजक खोज को एक निर्देशित दौरे में बदल देता है, यह सुनिश्चित करता है कि हम केवल उन्हीं रास्तों पर चलें जिनके निकास तक पहुँचने की सबसे अधिक संभावना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।