Preserving Disagreement: Architectural Heterogeneity and Coherence Validation in Multi-Agent Policy Simulation
यह शोध पत्र AI काउंसिल फ्रेमवर्क प्रस्तुत करता है, जो यह प्रदर्शित करता है कि वास्तुशिल्प विषमता (architectural heterogeneity) मॉडल के दृष्टिकोणों में विविधता लाकर मल्टी-एजेंट पॉलिसी सिमुलेशन में कृत्रिम सर्वसम्मति को महत्वपूर्ण रूप से कम करती है, जबकि सुसंगतता सत्यापन (coherence validation) एक संदर्भ-निर्भर फिडेलिटी-विविधता ट्रेड-ऑफ को प्रकट करता है जहाँ तर्क की गुणवत्ता को लागू करना नीति विकल्पों की प्रतिस्पर्धात्मकता के आधार पर अभिसरण (convergence) को या तो और कम कर सकता है या अनजाने में बढ़ा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप किसी कठिन सामुदायिक समस्या को हल करने का सबसे अच्छा तरीका खोजने की कोशिश कर रहे हैं, जैसे कि जरूरतमंद बच्चों की देखभाल कैसे की जाए या आवास की कमी को कैसे दूर किया जाए। आप विशेषज्ञों के एक समूह से उनकी राय मांगते हैं। एक आदर्श दुनिया में, आप उम्मीद करेंगे कि वे असहमत होंगे, जिससे आपको मुद्दे के विभिन्न पक्षों को देखने और वास्तविक समझौतों (trade-offs) को समझने में मदद मिले।
लेकिन इस शोध पत्र में, लेखक एरियल सेला (Ariel Sela) ने पाया कि AI "विशेषज्ञों" के साथ कुछ अजीब हो रहा है। जब आप AI एजेंटों के एक समूह से नीति पर बहस करने के लिए कहते हैं, तो वे अक्सर असहमत होना बंद कर देते हैं और एक ही उत्तर पर सहमत हो जाते हैं, भले ही उन्हें अलग-अलग मूल्यों को रखने के लिए कहा गया हो। लेखक इसे "आर्टिफिशियल कंसेंसस" (कृत्रिम सहमति) कहते हैं। यह वैसा ही है जैसे कि अलग-अलग राजनीतिक विचारों वाले लोगों के एक कमरे में वोट डालने के लिए कहना, और वे सभी अचानक एक ही तरह से वोट करने का निर्णय ले लेते हैं क्योंकि वे सभी एक ही "दिमाग" का उपयोग कर रहे हैं।
यहाँ बताया गया है कि यह पेपर समस्या और उसके समाधानों को सरल उपमाओं (analogies) का उपयोग करके कैसे समझाता है:
समस्या: "इको चैंबर" प्रभाव
जब आप एक ही AI मॉडल का उपयोग सभी भूमिकाएँ निभाने के लिए करते हैं (जैसे रूढ़िवादी, उदारवादी, व्यावहारिक), तो वे सभी एक ही प्रशिक्षण डेटा और एक ही "व्यक्तित्व की विचित्रताओं" को साझा करते हैं। भले ही आप उन्हें अलग व्यवहार करने के लिए कहें, वे मौलिक रूप से एक ही तर्क करने वाले हैं जिन्होंने बस अलग-अलग टोपियाँ पहनी हुई हैं। वे एक-दूसरे को सहमत होने के लिए राजी करने की कोशिश करते हैं, जिससे एकता का एक नकली भ्रम पैदा होता है जो उन वास्तविक, जटिल मतभेदों को छिपा देता है जिन्हें हमें देखने की आवश्यकता होती है।
समाधान 1: दिमागों का मिश्रण (आर्किटेक्चरल हेटेरोजेनिटी)
इसे ठीक करने के लिए, लेखक ने AI काउंसिल नामक एक प्रणाली बनाई। प्रत्येक भूमिका के लिए एक अलग AI मॉडल का उपयोग करने के बजाय, उन्होंने प्रत्येक भूमिका के लिए एक अलग AI मॉडल सौंपा।
- उपमा: कल्पना कीजिए कि आप एक डिनर पार्टी आयोजित कर रहे हैं। यदि आप उन सात दोस्तों से बहस करने के लिए कहते हैं जो सभी एक ही विश्वविद्यालय में गए थे और एक ही किताबें पढ़ते हैं, तो वे सभी एक जैसा सोच सकते हैं। लेकिन यदि आप सात ऐसे लोगों को आमंत्रित करते हैं जो अलग-अलग स्कूलों में गए थे, जिनके काम अलग थे और जो अलग-अलग किताबें पढ़ते थे, तो उनके वास्तव में असहमत होने की संभावना बहुत अधिक है।
- परिणाम: प्रत्येक "विशेषज्ञ" को एक अलग अंतर्निहित AI दिमाग (विभिन्न 7-9 बिलियन पैरामीटर वाले मॉडल का उपयोग करके) देने से, सिस्टम ने बहुत जल्दी सहमत होना बंद कर दिया। "नकली सहमति" में काफी कमी आई। एक परिदृश्य में, समूह एक ही उत्तर पर 71% सहमत था, जो घटकर केवल 46% रह गया। दूसरे में, यह 46% से घटकर 23% हो गया। अलग-अलग "दिमागों" ने इको चैंबर को तोड़ दिया।
समाधान 2: "सत्य जांचकर्ता" (कोहेरेंस वैलिडेशन)
लेखक ने एक दूसरा चरण जोड़ा: एक "सत्य जांचकर्ता" (एक बहुत ही स्मार्ट, उन्नत AI) जो तर्कों को पढ़ता है और पूछता है, "क्या आपने वास्तव में अपने सौंपे गए मूल्यों का पालन किया, या आपने केवल इसलिए अपना विचार बदल लिया क्योंकि दूसरा पक्ष सुनने में अच्छा लग रहा था?"
- पकड़ (व्यापार-बंद/Trade-off): यहीं पर मामला जटिल हो जाता है। सत्य जांचकर्ता यह पहचानने में अच्छा है कि कौन अपने मूल्यों के प्रति ईमानदार है, लेकिन यह एक नई समस्या पैदा करता है जिसे "फिडेलिटी-डाइवर्सिटी ट्रेड-ऑफ" (वफादारी-विविधता व्यापार-बंद) कहा जाता है।
- परिदृश्य A (बाल कल्याण): यहाँ, अधिकांश लोग स्वाभाविक रूप से सबसे अच्छे विकल्प पर सहमत थे। सत्य जांचकर्ता ने उन "कमजोर" आवाजों को चुप कराने में मदद की जो केवल भीड़ का अनुसरण कर रही थीं, जिससे वास्तव में कुछ असहमति वाली आवाजों को थोड़ा और जोर से सुना जा सका।
- परिदृश्य B (आवास): यहाँ, विकल्प वास्तव में प्रतिस्पर्धी थे। हालाँकि, "प्रदर्शन" (Performance) और "जोखिम" (Risk) की भूमिकाओं को सौंपी गई AI मॉडल, "व्यावहारिकता" (Pragmatism) की भूमिकाओं को सौंपी गई मॉडल की तुलना में बेहतर तर्क देने में सक्षम थे। जब सत्य जांचकर्ता ने "बेहतर" तर्क देने वालों को अधिक महत्व दिया, तो वे सभी अनजाने में एक विशिष्ट आवास योजना पर सहमत हो गए। इसलिए, "अच्छे तर्क" को पुरस्कृत करने की कोशिश करके, सिस्टम ने अनजाने में सबको पहले की तुलना में अधिक सहमत बना दिया।
- सबक: गुणवत्ता की जाँच करना कभी-कभी अनजाने में विविधता को खत्म कर सकता है यदि "सर्वश्रेष्ठ" मॉडल संयोग से एक ही चीज़ को पसंद करते हों।
छोटे AI का "बाइनरी" व्यवहार
पेपर में छोटे AI मॉडल (जो सामान्य कंप्यूटरों पर चलते हैं) के बारे में भी कुछ दिलचस्प पाया गया। जब उन्होंने एक प्रति-तर्क सुना, तो उन्होंने यह नहीं कहा, "हम्म, यह एक दिलचस्प बिंदु है, मुझे इस पर सोचने दें।" इसके बजाय, उन्होंने एक लाइट स्विच की तरह व्यवहार किया: चालू या बंद (ON or OFF)।
- या तो वे पूरी तरह से अपने रुख पर अड़े रहे, या उन्होंने पूरी तरह से हार मान ली और अपना पक्ष बदल लिया। वे उस "मध्य मार्ग" की सोच नहीं रख सके जो इंसान (या बहुत उन्नत AI) कर सकते हैं। यही कारण था कि लेखक को बाहर से एक "सत्य जांचकर्ता" का उपयोग करना पड़ा बजाय इसके कि AI को खुद से बहस करने के लिए कहा जाए—वह उस दबाव को संभाल नहीं सका।
मुख्य निष्कर्ष
लेखक का निष्कर्ष है कि यदि आप नीतिगत बहसों का अनुकरण करने और वास्तविक मतभेदों को खोजने के लिए AI का उपयोग करना चाहते हैं:
- सभी के लिए एक ही दिमाग का उपयोग न करें। यह सुनिश्चित करने के लिए कि वे वास्तव में अलग तरह से सोचते हैं, विभिन्न AI मॉडल का मिश्रण उपयोग करें।
- "गुणवत्ता जांच" के साथ सावधान रहें। यह जांचना कि तर्क "अच्छे" हैं या नहीं, अनजाने में सबको सहमत बना सकता है यदि सबसे अच्छे तर्क देने वाले संयोग से एक ही बात पर सहमत हों।
- अराजकता (Mess) को स्वीकार करें। लगभग आधे समय में, AI मॉडल अपने सौंपे गए मूल्यों के लिए निष्ठापूर्वक बहस करने में सक्षम थे। बाकी आधे समय में, वे भ्रमित हो गए या उन्होंने हार मान ली। यह तकनीक की एक वर्तमान सीमा है, विचार में कोई दोष नहीं।
लेखक की प्रणाली, AI काउंसिल, सामान्य घरेलू कंप्यूटरों पर चलती है और यह मानचित्रण करने में मदद करती है कि लोग (या AI एजेंट) वास्तव में कहाँ असहमत हैं, न कि नकली सहमति का निर्माण करती है। यह आपको यह नहीं बताती कि आपको कौन सी नीति चुननी चाहिए; यह बस बहस के वास्तविक परिदृश्य को दिखाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।