Lark: Biologically Inspired Neuroevolution for Multi-Stakeholder LLM Agents
लार्क (Lark) एक जैविक रूप से प्रेरित न्यूरोइवोल्यूशनरी फ्रेमवर्क है जो प्लास्टिसिटी, डुप्लीकेशन/परिपक्वता, रैंक-चॉइस एग्रीगेशन और कंप्यूट-अवेयर पेनल्टी को एकीकृत करके मल्टी-स्टेकहोल्डर एलएलएम (LLM) एजेंटों को बढ़ाता है, ताकि संक्षिप्त, उच्च-प्रदर्शन वाली रणनीतियों को कुशलतापूर्वक उत्पन्न किया जा सके और ट्रेड-ऑफ्स को पारदर्शी रूप से प्रबंधित किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती दुनिया में, एक नई चुनौती उभरी है जो केवल मशीनों को स्मार्ट बनाने से कहीं आगे की है। यह उन्हें समूहों में मिलकर काम करना सिखाने के बारे में है, ठीक वैसे ही जैसे मनुष्यों की एक टीम एक जटिल समस्या को हल करने की कोशिश करती है जहाँ हर किसी की अलग राय और लक्ष्य होते हैं। यह क्षेत्र, जिसे मल्टी-एजेंट सिस्टम (multi-agent systems) के रूप में जाना जाता है, स्वायत्त वाहनों के समन्वय से लेकर स्वास्थ्य सेवा रणनीतियों की योजना बनाने तक के कार्यों के लिए महत्वपूर्ण है। हालाँकि, जब ये डिजिटल एजेंट लार्ज लैंग्वेज मॉडल्स (large language models) द्वारा संचालित होते हैं—वही तकनीक जो आधुनिक चैटबॉट्स के पीछे है—तो वे अक्सर दो प्रमुख समस्याओं से जूझते हैं। पहला, वे बहुत अधिक शब्दबहुल होने की प्रवृत्ति रखते हैं, लंबी, दोहराव वाली व्याख्याएँ उत्पन्न करते हैं जो कंप्यूटिंग शक्ति और पैसे को बर्बाद करती हैं। दूसरा, वे अक्सर निर्णय में शामिल विभिन्न लोगों की जरूरतों के बीच संतुलन बनाने में विफल रहते हैं, जैसे कि एक व्यवसाय का मालिक जो लाभ चाहता है और एक सामुदायिक समूह जो सुरक्षा चाहता है। इन प्रणालियों को प्रशिक्षित करने के पारंपरिक तरीके अक्सर चरण-दर-चरण सीखने पर निर्भर करते हैं, जो इस तरह से है जैसे एक छात्र गणित के एक-एक सवाल को हल करके सीखता है। लेकिन जटिल, रचनात्मक रणनीति योजना के लिए, यह दृष्टिकोण अक्षम और कठोर हो सकता है।
इन बाधाओं को दूर करने के लिए, शोधकर्ताओं की एक टीम ने 'लार्क' (Lark) नामक एक नया ढांचा विकसित किया है, जो जीवित चीजों के विकसित होने के तरीके से प्रेरणा लेता है। एजेंटों को एक सख्त अनुक्रम के माध्यम से सीखने के लिए मजबूर करने के बजाय, लार्क रणनीतियों के निर्माण को एक जैविक आबादी (biological population) की तरह मानता है। कल्पना कीजिए कि डिजिटल एजेंटों का एक समूह किसी समस्या के लिए विभिन्न समाधान प्रस्तावित कर रहा है। प्रत्येक दौर में, प्रणाली इन प्रस्तावों का मूल्यांकन न केवल इस आधार पर करती है कि वे काम करते हैं या नहीं, बल्कि इस आधार पर भी करती है कि वे विविध हितधारकों (stakeholders) की कितनी अच्छी तरह से संतुष्टि करते हैं। इसके बाद प्रणाली सबसे अच्छे विचारों का चयन करती है, उनमें छोटे, लक्षित सुधार करती है, और कभी-कभी मजबूत विचारों की नकल करके उनके विशिष्ट नए संस्करण बनाती है। यह प्रक्रिया कई पीढ़ियों तक चलती रहती है, जिसमें प्रणाली हर चक्र के साथ प्रतिस्पर्धी जरूरतों को संतुलित करने और अनावश्यक शब्दों को हटाने में बेहतर होती जाती है। परिणाम एक ऐसी विधि है जो भारी कंप्यूटिंग लागत के बिना उच्च-गुणवत्ता वाली, संक्षिप्त रणनीतियाँ तैयार करती है।
शोधकर्ताओं ने तीस अलग-अलग सिम्युलेटेड परिदृश्यों (scenarios) को बनाकर इस दृष्टिकोण का परीक्षण किया, जिनमें नीति प्रस्ताव, उत्पाद रोडमैप से लेकर नैदानिक निर्णय लेने तक शामिल थे। प्रत्येक परिदृश्य में, उन्होंने लार्क और चौदह अन्य प्रतिस्पर्धी प्रणालियों से उन समस्याओं के समाधान उत्पन्न करने के लिए कहा जिनमें कई हितधारकों के परस्पर विरोधी हित शामिल थे। निष्पक्षता सुनिश्चित करने के लिए, उन्होंने एक स्वतंत्र निर्णायक प्रणाली का उपयोग किया जो पाँच मानदंडों के आधार पर उत्तरों को स्कोर करती है: समाधान कितना पूर्ण था, क्या वह यथार्थवादी था, क्या इसमें विशिष्ट विवरण शामिल थे, क्या इसने नियमों का पालन किया, और यह कितना स्पष्ट रूप से लिखा गया था। परिणामों ने दिखाया कि लार्क के पूर्ण संस्करण ने अन्य प्रणालियों को लगातार पछाड़ दिया। औसतन, यह चौदह में से दूसरी सबसे अच्छी प्रणाली के रूप में रहा, और लगभग तीस में से पचास का उच्च स्कोर प्राप्त किया। यह अस्सी प्रतिशत दौर में शीर्ष तीन में रहा। जबकि अन्य शक्तिशाली प्रणालियाँ करीब थीं, लार्क ने लगभग सोलह सेंट प्रति कार्य की लागत के साथ अग्रणी वाणिज्यिक मॉडलों के बराबर रहते हुए भी प्रदर्शन का यह उच्च स्तर बनाए रखा।
लार्क को क्या चीज़ इतनी अच्छी तरह काम कराती है, इसका उत्तर जीव विज्ञान से प्रेरित चार विशिष्ट तंत्रों का संयोजन है। पहला एक प्रक्रिया है जिसे 'प्लास्टिसिटी' (plasticity) कहा जाता है, जो प्रणाली को किसी रणनीति को फिर से शुरू किए बिना त्वरित, संदर्भ-संवेदनशील समायोजन करने की अनुमति देता है। यदि कोई समाधान काफी हद तक अच्छा है लेकिन उसमें एक छोटी सी खामी है, तो प्रणाली उस विशिष्ट समस्या को ठीक करने के लिए उसे थोड़ा बदल देती है। दूसरा तंत्र 'डुप्लीकेशन और मैचुरेशन' (duplication and maturation) है। जब कोई रणनीति अच्छा प्रदर्शन करती है, तो प्रणाली उसकी नकल करती है और फिर उस नकल को किसी विशिष्ट समूह के लोगों या किसी विशेष लक्ष्य पर ध्यान केंद्रित करने के लिए विशेषज्ञ बनाती है, ठीक वैसे ही जैसे प्रकृति में एक जीन की नकल हो सकती है और वह एक थोड़े अलग कार्य को करने के लिए विकसित हो सकता है। तीसरा तंत्र एक वोटिंग प्रणाली से संबंधित है जहाँ विभिन्न हितधारकों की प्राथमिकताओं को जोड़ा जाता है। उनकी राय का औसत निकालने के बजाय, प्रणाली एक ऐसा तरीका उपयोग करती है जो यह मानती है कि प्रत्येक व्यक्ति परिणाम के प्रति कितना चिंतित है, जिससे यह सुनिश्चित होता है कि अंतिम निर्णय सबसे महत्वपूर्ण चिंताओं का सम्मान करता है। अंतिम तंत्र बहुत अधिक शब्दबहुल होने के लिए एक दंड (penalty) है। प्रणाली को संक्षिप्तता के लिए पुरस्कृत करने के लिए डिज़ाइन किया गया है, जो स्वचालित रूप से किसी भी ऐसे समाधान के स्कोर को कम कर देता है जो आवश्यकता से अधिक शब्दों का उपयोग करता है, जिससे कंप्यूटिंग लागत कम और तर्क सटीक रहता है।
जब शोधकर्ताओं ने यह देखने के लिए कि ये चार तंत्र कितने महत्वपूर्ण हैं, इनमें से किसी भी एक को हटाया, तो प्रणाली का प्रदर्शन काफी गिर गया। सबसे बड़ी गिरावट तब हुई जब उन्होंने डुप्लीकेशन और विशेषज्ञता (duplication and specialization) की प्रक्रिया को रोक दिया, जिससे समाधानों की गुणवत्ता में उल्लेखनीय गिरावट आई। त्वरित सुधार करने की क्षमता को हटाने से भी प्रदर्शन को नुकसान पहुँचा, जिसके बाद वोटिंग सिस्टम और शब्द-गणना दंड का स्थान आया। यह सुझाव देता है कि इन चारों हिस्सों का प्रभावी ढंग से कार्य करने के लिए सभी आवश्यक हैं। अध्ययन इंगित करता है कि प्राकृतिक विकास प्रक्रियाओं की नकल करके, आर्टिफिशियल इंटेलिजेंस मानव निर्णय लेने की जटिल और विरोधाभासी वास्तविकताओं को संभालने में बहुत बेहतर हो सकता है। शोधकर्ता इस बात पर जोर देते हैं कि हालांकि ये परिणाम आशाजनक हैं, लेकिन ये नियंत्रित सिमुलेशन पर आधारित हैं। वे वास्तविक दुनिया की स्थितियों, जैसे कि वास्तविक नीति-निर्माण या अस्पताल नियोजन में इस प्रणाली का परीक्षण करने की योजना बना रहे हैं, ताकि देख सकें कि क्या यह वास्तविक दुनिया की अनिश्चितता को संभाल सकता है। फिलहाल, यह कार्य एक प्रमाण (proof of concept) प्रदान करता है कि जैविक रूप से प्रेरित दृष्टिकोण डिजिटल एजेंटों को अधिक कुशल, निष्पक्ष और विविध समूहों के बीच सामान्य सहमति खोजने में सक्षम बना सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।