🤖 AI

Evolving Interpretable Constitutions for Multi-Agent Coordination

यह शोध पत्र 'कॉन्स्टिट्यूशनल इवोल्यूशन' (संविधानिक विकास) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो मल्टी-एजेंट सिस्टम के लिए व्याख्या योग्य व्यवहार संबंधी मानदंडों को स्वचालित रूप से खोजने के लिए एलएलएम-संचालित जेनेटिक प्रोग्रामिंग का उपयोग करता है, जो मानव-निर्मित या स्पष्ट रूप से निर्देशित संविधानों की तुलना में काफी अधिक सामाजिक स्थिरता प्राप्त करता है और संघर्ष को समाप्त करता है।

मूल लेखक: Ujwal Kumar, Alice Saito, Hershraj Niranjani, Rayan Yessou, Phan Xuan Tan

प्रकाशित 2026-02-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ujwal Kumar, Alice Saito, Hershraj Niranjani, Rayan Yessou, Phan Xuan Tan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक छोटे से गाँव में रहने वाले बहुत बुद्धिमान रोबोट्स का एक समूह है। उन्हें मिलकर दो चीज़ें बनाने की ज़रूरत है: एक आश्रय (shelter) और एक बाज़ार। लेकिन इसमें एक पेंच है: हर कुछ दिनों में, एक सख्त "निरीक्षक" (Overseer) उस रोबोट को बाहर निकाल देता है जिसने सबसे कम योगदान दिया हो। यह एक उच्च-दांव वाली स्थिति पैदा करता है जहाँ रोबोट्स को अपनी टीम की मदद करने और खुद को बाहर होने से बचाने के बीच संतुलन बनाना होगा।

शोधकर्ताओं ने यह पता लगाने की कोशिश की कि रोबोट्स को उनके व्यवहार के बारे में बताने के लिए नियमों का सबसे अच्छा सेट (एक "संविधान") क्या होगा ताकि पूरा गाँव जीवित रहे और फले-फूले।

यहाँ जो उन्होंने पाया, उसका सरल विवरण दिया गया है:

समस्या: नेक इरादे हमेशा काम नहीं आते

शोधकर्ताओं ने रोबोट्स को नियम देने के तीन अलग-अलग तरीके आज़माए:

"मतलबी" दृष्टिकोण (The "Mean" Approach): उन्होंने रोबोट्स को पूरी तरह से स्वार्थी होने, पड़ोसियों से चोरी करने और दूसरों को नुकसान पहुँचाने के लिए कहा।
- परिणाम: पूर्ण आपदा। गाँव तुरंत ढह गया क्योंकि हर कोई आपस में लड़ रहा था।
"मानवीय" दृष्टिकोण (The "Human" Approach): उन्होंने रोबोट्स को क्लासिक मानवीय सलाह दी: "मददगार, हानिरहित और ईमानदार बनो।"
- परिणाम: यह ठीक था, लेकिन बहुत अच्छा नहीं। रोबकी "दयालु" होने और आपस में बात करने में इतने व्यस्त थे कि उन्होंने बहुत कम काम किया। उन्होंने अपना 62% समय गपशप करने में और केवल 25% काम करने में बिताया।
"AI डिज़ाइनर" दृष्टिकोण (The "AI Designer" Approach): उन्होंने एक सुपर-स्मार्ट AI (Claude 4.5) से उनके लिए एक आदर्श नियम पुस्तिका लिखने को कहा।
- परिणाम: मानवीय संस्करण से बेहतर, लेकिन अभी भी उसी जाल में फंसा हुआ। AI डिज़ाइनर ने भी रोबोट्स को बहुत अधिक बात करने के लिए कहा, जिससे समय बर्बाद हुआ।

समाधान: विकासवादी "योग्यतम की उत्तरजीविता" नियम (Evolutionary "Survival of the Fittest" Rules)

इंसानों या किसी एक AI से नियम लिखने के बजाय, शोधकर्ताओं ने नियमों को खुद विकसित होने दिया।

इसे विचारों के "म्यूजिकल चेयर्स" के खेल की तरह समझें। उन्होंने कई रैंडम नियम पुस्तिकाओं से शुरुआत की। उन्होंने सिमुलेशन चलाया, देखा कि किस नियम पुस्तिका ने गाँव को सबसे अच्छी तरह जीवित रहने में मदद की, और फिर एक AI का उपयोग उन नियमों को थोड़ा बदलने (mutate) के लिए किया ताकि वे और भी बेहतर हो सकें। उन्होंने इसे बार-बार किया, जैसे कि एक आदर्श फूल पाने के लिए पौधों को विकसित किया जाता है, लेकिन व्यवहार के लिए।

चौंकाने वाली खोज: मौन ही स्वर्ण है (Silence is Golden)

30 राउंड के विकास के बाद, सिस्टम ने नियमों का एक ऐसा सेट खोज निकाला जो मानवीय रूप से डिज़ाइन किए गए "मददगार बनो" वाले नियमों की तुलना में 123% बेहतर था।

सबसे चौंकाने वाली बात? जीतने वाले रोबोट्स ने आपस में बहुत कम बात की।

पुराना तरीका: रोबोट सोचते थे, "मुझे मदद करनी है, इसलिए मुझे सबको बताना चाहिए कि मैं कहाँ हूँ!" उन्होंने घंटों संदेश भेजने में बिता दिए।
नया तरीका: विकसित किए गए नियम इतने विशिष्ट थे कि रोबोट्स को बात करने की ज़रूरत ही नहीं पड़ी। वे बस एक सख्त आदेश का पालन करते थे: "यदि आपके पास लकड़ी है, तो उसे तुरंत छोड़ दें। यदि आप खाली हैं, तो लकड़ी लेने जाएँ।"

क्योंकि हर रोबोट एक ही सटीक स्क्रिप्ट का पालन कर रहा था, वे बिना एक शब्द बोले अनुमान लगा सकते थे कि दूसरे क्या करेंगे। यह एक अच्छी तरह से रिहर्सल किए गए नृत्य की तरह था जहाँ हर कोई कदमों को जानता है, इसलिए उन्हें निर्देश चिल्लाने की ज़रूरत नहीं होती।

मुख्य सबक

शोधपत्र ने तीन मुख्य बातें पाईं:

अस्पष्ट के बजाय विशिष्ट होना बेहतर है: रोबोट को "मददगार बनो" कहना एक बच्चे को "अच्छे बनो" कहने जैसा है। यह बहुत भ्रमित करने वाला है। उन्हें "अभी जो लकड़ी आप ले जा रहे हैं उसे छोड़ दें" कहना एक स्पष्ट निर्देश है जो परिणाम देता है।
बहुत अधिक बात करना नुकसानदेह है: जो रोबोट्स सबसे कम बात करते थे, वे सबसे अधिक उत्पादक थे। निरंतर बातचीत को रोककर, उन्होंने समय बचाया और अधिक काम किया।
आप सिर्फ एक AI से "इसे ठीक करने" के लिए नहीं कह सकते: भले ही एक सुपर-स्मार्ट AI से एक बार नियम लिखने के लिए कहा जाए, वह इस जाल में फंस जाएगा कि "बात करना अच्छा है।" आपको नियमों को विकसित होने देना होगा और उन्हें एक वास्तविक, उच्च-दबाव वाले वातावरण में टेस्ट करना होगा ताकि उस विरोधाभासी सत्य (कि मौन वास्तव में समन्वय का सबसे अच्छा तरीका है) को पाया जा सके।

निचोड़ (The Bottom Line)

शोधकर्ताओं ने साबित किया कि AI एजेंटों के समूहों के लिए, उन्हें केवल अमूर्त नैतिक सिद्धांतों की सूची देना सबसे अच्छा तरीका नहीं है। इसके बजाय, आपको उन्हें परीक्षण और त्रुटि (trial and error) के माध्यम से सख्त, विशिष्ट और व्यावहारिक नियमों को विकसित करने देना चाहिए। परिणाम एक स्थिर, संघर्ष-मुक्त और अविश्वसनीय रूप से कुशल समाज है, और वह भी बिना एजेंटों को एक-दूसरे से एक शब्द भी कहे।

तकनीकी सारांश: मल्टी-एजेंट समन्वय के लिए विकसित व्याख्यात्मक संविधान

1. समस्या विवरण

संविधानिक एआई (Constitutional AI - CAI) ने निश्चित, मानव-लिखित सिद्धांतों (जैसे, "सहायक, हानिरहित, ईमानदार बनें") का उपयोग करके एकल-मॉडल भाषा एजेंटों को सफलतापूर्वक संरेखित किया है। हालाँकि, यह प्रतिमान यह मान लेता है कि जो सिद्धांत अकेले प्रभावी होते हैं, वे मल्टी-एजेंट प्रणालियों में भी स्केल करेंगे। लेखक तर्क देते हैं कि मल्टी-एजेंट वातावरण में, रणनीतिक प्रोत्साहन लक्ष्य संघर्षों को बढ़ा सकते हैं, जिससे स्पष्ट प्रतिकूल उद्देश्यों के बिना भी उभरते हुए मानदंड और समन्वय विफलताएं उत्पन्न हो सकती हैं।

मुख्य चुनौती यह है कि अमूर्त नैतिक सिद्धांत तब अपर्याप्त मार्गदर्शन प्रदान करते हैं जब एजेंटों को आत्म-संरक्षण और सामूहिक कल्याण के बीच संतुलन बनाने की आवश्यकता होती है। हालिया अनुभवजन्य साक्ष्य बताते हैं कि यदि एजेंटों को ऐसे संघर्षों का सामना करना पड़ता है, तो फ्रंटियर LLMs हानिकारक व्यवहार (जैसे나 तोड़-फोड़, ब्लैकमेल) में संलग्न हो सकते हैं। फलस्वरूप, हाथ से लिखे गए संविधान मल्टी-एजेंट संरेखण के लिए मौलिक रूप से सीमित हैं, जिसके लिए केवल स्थिर नैतिक नियमों पर निर्भर रहने के बजाय विशेष रूप से मल्टी-एजेंट गतिशीलता के लिए शासन नियमों को अनुकूलित करने वाले दृष्टिकोण की आवश्यकता है।

2. कार्यप्रणाली: संवैधानिक विकास (Constitutional Evolution)

यह शोध पत्र संविधानिक विकास (Constitutional Evolution) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो मॉडल वेट्स (weights) को अपडेट किए बिना व्यवहारिक मानदंडों की खोज के लिए LLM-निर्देशित विकासवादी खोज (evolutionary search) का उपयोग करता है।

2.1 सिमुलेशन वातावरण

इस ढांचे का मूल्यांकन 6×6 ग्रिड-वर्ल्ड सिमुलेशन में किया गया है जिसमें 6 LLM एजेंट शामिल हैं जिन्हें दो टीमों (Shelter और Market) में विभाजित किया गया है।

उद्देश्य: एजेंटों को आवधिक निष्कासन (periodic eliminations) से बचने और टीम प्रोजेक्ट्स को पूरा करने के लिए संसाधन (लकड़ी, पत्थर, रत्न) एकत्र करने होते हैं।
दोषों का तंत्र (The Overseer Mechanic): प्रत्येक 10 टर्न के बाद, वह एजेंट जिसका संचयी योगदान (जमा किए गए संसाधन) सबसे कम होता है, उसे बाहर कर दिया जाता है। यह एक सापेक्ष फिटनेस लैंडस्केप बनाता है जहाँ उत्तरजीविता (survival) टीम के साथियों से बेहतर प्रदर्शन करने पर निर्भर करती है, जिससे व्यक्तिगत उत्तरजीविता और सामूहिक उत्पादकता के बीच तनाव पैदा होता है।
बाधाएं: एजेंट आंशिक अवलोकन (3×3 पड़ोस) के तहत कार्य करते हैं, जिससे संचार रणनीतिक रूप से मूल्यवान हो जाता है लेकिन साथ ही अक्षमता का एक संभावित स्रोत भी बन जाता है।

2.2 अनुकूलन ढांचा (Optimization Framework)

यह प्रणाली संविधान (प्राकृतिक भाषा के नियमों का एक सेट) को एक अनुकूलन योग्य वस्तु के रूप में मानती है।

संविधान की परिभाषा: नियमों का एक सेट $\{r_1, \dots, r_k\}$ , जिनमें से प्रत्येक का एक नाम, प्राकृतिक भाषा मार्गदर्शन और स्पष्ट प्राथमिकता स्तर होता है। एजेंट प्राथमिकता क्रम में नियमों को लागू करते हैं।
स्थिरता स्कोर ( $S$ ): एक स्केलर मीट्रिक जो तीन आयामों को जोड़ता है:
- उत्पादकता ( $P$ ): सामान्यीकृत प्रोजेक्ट पूर्णता (उपयोगितावादी लक्ष्य)।
- उत्तरजीविता ( $V$ ): जीवित एजेंटों का अंश (रॉल्सियन लक्ष्य)।
- संघर्ष ( $C$ ): आक्रामक कार्यों की आवृत्ति (दंड)।
- सूत्र: $S = \max(0, \alpha P + \beta V - \gamma C)$ , जहाँ भार $\alpha=0.5, \beta=0.3, \gamma=0.2$ है।
विकासवादी एल्गोरिदम (Evolutionary Algorithm):
- मल्टी-आइलैंड आर्किटेक्चर: स्थानीय इष्टतम (local optima) से बचने के लिए तीन स्वतंत्र आबादी समानांतर रूप से विकसित होती हैं। प्रत्येक 5 पुनरावृत्ति (iterations) के बाद शीर्ष 20% आबादी पड़ोसी आइलैंड्स में प्रवास करती है।
- ऑप्टिमाइज़र: व्यवहारिक लॉग के आधार पर नियम संशोधनों का प्रस्ताव देने के लिए LLMs को म्यूटेशन ऑपरेटर के रूप में उपयोग करते हुए OpenEvolve का उपयोग करता है।
- प्रक्रिया: यह 30 पुनरावृत्तियों के लिए चलता है, जो उच्चतम अपेक्षित स्थिरता स्कोर वाले संविधान ( $C^*$ ) का चयन करता है।

3. मुख्य योगदान

स्वचालित मानदंड खोज के लिए ढांचा: 'संविधानिक विकास' का परिचय, जो मानव नुस्खे के बजाय सिमुलेशन फीडबैक के माध्यम से प्रभावी मल्टी-एजेंट संविधानों की खोज करता है।
व्याख्यात्मक नियम सेट: ब्लैक-बॉक्स न्यूरल नीतियों के विपरीत, विकसित संविधान प्रतीकात्मक, मानव-पठनीय नियम हैं जो समन्वय रणनीतियों के सीधे निरीक्षण की अनुमति देते हैं।
डिज़ाइन के ऊपर विकास का अनुभवजन्य सत्यापन: यह प्रदर्शन का प्रदर्शन करता है कि जटिल मल्टी-एजेंट सेटिंग्स में विकासवादी अनुकूलन, मानव-डिज़ाइन किए गए सिद्धांतों और वन-शॉट LLM-जनरेटेड नियमों दोनों से बेहतर है।

4. प्रयोगात्मक परिणाम

अध्ययन ने चार दृष्टिकोणों की तुलना की: जीरो-सम (प्रतिस्पर्धी), HHH (मानव-डिज़ाइन किया गया "हेल्पफुल, हार्मलेस, ऑनेस्ट"), LLM-जनरेटेड (Claude 4.5 Opus द्वारा वन-शॉट डिज़ाइन), और विकसित संविधान ( $C^*$ )।

4.1 प्रदर्शन मेट्रिक्स

स्थिरता स्कोर ( $S$ ):
- जीरो-सम (Zero-Sum): 0.000 (सामाजिक पतन)।
- HHH: 0.249।
- LLM-जनरेटेड: 0.332।
- विकसित ( $C^*$ ): 0.556 ± 0.008।
- सुधार: $C^*$ HHH बेसलाइन पर 123% सुधार और LLM-जनरेटेड बेसलाइन पर 67% सुधार दर्शाता है।

4.2 व्यवहारिक अंतर्दृष्टि

उत्पादकता बनाम संचार: सबसे विरोधाभासी निष्कर्ष संचार और उत्पादकता के बीच का व्युत्क्रम संबंध (inverse relationship) है।
- HHH: 62.2% क्रियाएं सामाजिक/संवादात्मक थीं; उत्पादकता 30% थी।
- विकसित ( $C^*$ ): 0.9% क्रियाएं सामाजिक थीं; उत्पादकता 91% थी।
- परिणाम: संचार को न्यूनतम करने से सामाजिक क्रियाओं में 98.6% की कमी आई जबकि HHH के सापेक्ष उत्पादकता में 203% की वृद्धि हुई।
संघर्ष उन्मूलन: $C^*$ ने शून्य संघर्ष प्राप्त किया, जबकि LLM-जनरेटेड बेसलाइन में अभी भी 9% संघर्ष देखा गया।
नियम विशिष्टता: विकसित नियम परिचालन रूप से विशिष्ट थे (जैसे, "आवश्यक संसाधनों को तुरंत जमा करें") न कि अमूर्त (जैसे, "सहायक बनें")। इसने व्यवहारिक भिन्नता को $\sigma=0.05$ (HHH) से घटाकर $\sigma=0.008$ ( $C^*$ ) कर दिया।

4.3 एब्लेशन अध्ययन (Ablation Studies)

मल्टी-आइलैंड बनाम सिंगल-आइलैंड: सिंगल-आइलैंड रन में उच्च भिन्नता देखी गई और वे अक्सर स्थानीय मिनिमा (जैसे, $S=0.255$ के साथ "कम्युनिकेशन ट्रैप") में फंस गए। मल्टी-आइलैंड विकास ने विविधता बनाए रखकर और सफल नियमों के क्रॉस-पॉलिनेशन की अनुमति देकर लगातार उच्च स्कोर ( $S \approx 0.55$ ) प्राप्त किया।

5. महत्व और दावे

शोध पत्र का दावा है कि मल्टी-एजेंट संरेखण को हाथ से तैयार किए गए नैतिक सिद्धांतों के बजाय स्वचालित संवैधानिक अनुकूलन से मौलिक रूप से लाभ होता है।

परिचालन विशिष्टता: परिणाम बताते हैं कि अमूर्त सिद्धांतों (जैसे, "सहायक बनें") की तुलना में ठोस, प्राथमिकता-क्रमबद्ध नियम (जैसे, "पहले जमा करें") बेहतर हैं क्योंकि वे सीधे निष्पादन योग्य कार्यों से मैप होते हैं, जिससे निर्णय की अस्पष्टता समाप्त हो जाती है।
निहित समन्वय (Implicit Coordination): अध्ययन प्रदर्शित करता है कि सहकारी मानदंड Prescribed (निर्धारित) के बजाय Discovered (खोजे जा सकते हैं)। निरंतर, विशिष्ट नियमों का पालन करने वाले एजेंट अनुमानित व्यवहार के माध्यम से निहित समन्वय प्राप्त करते हैं, जिससे स्पष्ट संचार काफी हद तक अनावश्यक और अक्सर हानिकारक हो जाता है।
व्याख्यात्मकता: विकसित संविधान पूरी तरह से व्याख्यात्मक बने रहते हैं, जिससे अभ्यासकर्ताओं को खोजे गए सामाजिक अनुबंधों का ऑडिट और संशोधन करने की अनुमति मिलती है, जो AI सिस्टम के लक्ष्यों को सत्यापित करने की एक प्रमुख चुनौती को संबोधित करता है।

लेखक निष्कर्ष निकालते हैं कि हालांकि उनका वातावरण सरल है, यह ढांचा मल्टी-एजेंट AI सिस्टम के लिए संदर्भ-विशिष्ट व्यवहारिक मानदंडों की खोज के लिए एक स्केलेबल मार्ग प्रदान करता है, जो स्थिर, एकल-एजेंट संरेखण प्रतिमानों की सीमाओं से आगे बढ़ता है।