Can AI Agents Agree?
यह शोध पत्र प्रदर्शित करता है कि वर्तमान लार्ज लैंग्वेज मॉडल एजेंट प्रतिकूल सेटिंग्स में विश्वसनीय सर्वसम्मति प्राप्त करने में संघर्ष करते हैं, जहाँ समूह के आकार और बायज़ेंटाइन दोष दरों (Byzantine fault rates) के बढ़ने के साथ प्रदर्शन में गिरावट आती है, जिसका मुख्य कारण वैल्यू करप्शन (value corruption) के बजाय टाइमआउट जैसी लाइवनेस विफलताओं (liveness failures) का होना है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बहुत बुद्धिमान, बहुत बातूनी रोबोटों (AI एजेंटों) का एक समूह है जिन्हें एक सरल काम सौंपा गया है: उन सभी को 0 और 50 के बीच एक ही संख्या पर सहमत होना है।
यह सुनने में आसान लगता है, है ना? यदि आप पाँच लोगों से एक संख्या चुनने के लिए कहते हैं, तो वे अंततः एक पर सहमत हो सकते हैं। लेकिन यह शोध पत्र एक डरावना सवाल पूछता है: क्या होता है जब ये रोबोट सहमत होने की कोशिश कर रहे होते हैं, लेकिन उनमें से कुछ झूठ बोल रहे होते हैं, भ्रमित होते हैं, या बस जिद्दी होते हैं?
यहाँ वह कहानी है जो ETH ज्यूरिख के शोधकर्ताओं ने खोजी, जिसे सरल रूप में समझाया गया है।
🎭 सेटअप: "एक संख्या चुनें" का खेल
शोधकर्ताओं ने एक डिजिटल कमरा बनाया जहाँ AI एजेंटों (Qwen3 जैसे मॉडल का उपयोग करने वाले) का एक समूह राउंड में एक-दूसरे से बात करता है।
- लक्ष्य: अंततः सभी को एक ही संख्या चिल्लाकर बतानी होगी।
- नियम: वे बात कर सकते हैं, अपना मन बदल सकते हैं, और कब रुकना है इस पर वोट दे सकते हैं।
- ट्विस्ट: कुछ एजेंट "ईमानदार" (Honest) हैं (वे बस सहमत होना चाहते हैं)। अन्य "बायज़ेंटाइन" (Byzantine) हैं (एक फैंसी शब्द जिसका अर्थ है "दुर्भावनापूर्ण")। ये बुरे एजेंट संख्या की परवाह नहीं करते; उनका एकमात्र लक्ष्य समूह को कभी भी सहमत होने से रोकना है।
📉 बड़ी खोज: "हम तब भी सहमत नहीं हो पाते जब सब अच्छे होते हैं"
सबसे आश्चर्यजनक हिस्सा बुरे एजेंटों के बारे में नहीं है; यह ईमानदार रोबोटों के बारे में है।
यहाँ तक कि जब कमरे में शून्य बुरे एजेंट थे, तब भी समूह अक्सर सहमत होने में विफल रहा।
- "समूह का आकार" वाली समस्या: जब केवल 4 रोबोट थे, तो वे लगभग आधी बार सहमत होने में सफल रहे। लेकिन जब समूह बढ़कर 16 रोबोट हो गया? वे लगभग कभी सहमत नहीं हुए। यह एक छोटे परिवार को रात के खाने के बारे में निर्णय लेने के बजाय एक पूरे स्टेडियम को एक गाने के बारे में निर्णय लेने के लिए कहने जैसा है। आप जितने अधिक लोग जोड़ते हैं, बातचीत उतनी ही अराजक होती जाती है।
- "पैरानोइया" (शंका) वाली समस्या: शोधकर्ताओं ने एक चाल चली: उन्होंने ईमानदार रोबोटों को बताया, "हे, कमरे में एक झूठा हो सकता है!" भले ही वहाँ कोई झूठा न हो, केवल संभावना का उल्लेख करने से ईमानदार रोबोट अधिक चिंतित और धीमे हो गए। उन्होंने संभावित जाल के बारे में चिंता करने में इतना समय बिता दिया कि वे वास्तव में खेल ही पूरा नहीं कर पाए।
🛑 "लाइवनेस" (Liveness) का मुद्दा: अटक जाना बनाम टूट जाना
जब समूह विफल हुआ, तो यह आमतौर पर इसलिए नहीं था क्योंकि बुरे रोबोटों ने उन्हें "गलत" संख्या चुनने के लिए धोखा दिया (जैसे 10 के बजाय 42 चुनना)।
- असली समस्या: समूह बस अटक (stall) गया। वे बातचीत करने, अपना मन बदलने और "रुकें" बटन दबाने के अंतहीन लूप में फंस गए।
- उपमा: एक समिति की बैठक की कल्पना करें जहाँ हर कोई गलती करने से इतना डरता है कि वे बार-बार कहते रहते हैं, "आइए इस पर और चर्चा करें," और बैठक कभी समाप्त नहीं होती। शोध पत्र इसे "लाइवनेस" की हानि कहता है। सिस्टम जीवित है, लेकिन यह कुछ भी कर नहीं रहा है।
🤖 "झूठे" का प्रभाव
जब शोधकर्ताओं ने वास्तव में बुरे (Byzantine) एजेंटों को जोड़ा:
- एक बुरा सेब पूरे समूह को खराब कर देता है: आठ ईमानदार रोबोटों के समूह में केवल एक झूठा जोड़ने से सफलता दर गिर गई।
- झूठे की रणनीति: झूठ बोलने वालों को बहुत चतुर होने की आवश्यकता नहीं थी। उन्हें बस भ्रमित करने वाला होना था। बेतरतीब संख्याएँ फेंककर या "रुकें" पर वोट देने से मना करके, उन्होंने ईमानदार रोबोटों को भ्रम की स्थिति में रखा। ईमानदार रोबोट यह नहीं बता पा रहे थे कि क्या समूह सहमत होने के करीब है या उन्हें धोखा दिया जा रहा है, इसलिए वे बस अनंत काल तक बात करते रहे।
💡 निष्कर्ष: "AI एजेंट टीम वर्क के लिए तैयार नहीं हैं"
शोध पत्र भविष्य के लिए एक चेतावनी के साथ समाप्त होता है। हम ऐसे AI सिस्टम बना रहे हैं जहाँ कई एजेंट मिलकर कोड लिखते हैं, यात्रा की योजना बनाते हैं, या नेटवर्क का प्रबंधन करते हैं। हम मान लेते हैं कि वे समन्वय करने में सक्षम होंगे।
यह अध्ययन कहता है: अभी नहीं।
- वे समूह के आकार के प्रति बहुत संवेदनशील हैं।
- वे खतरे के मात्र विचार से ही पंगु हो जाते हैं।
- वे एक अकेले भ्रमित या दुर्भावनापूर्ण प्रतिभागी द्वारा आसानी से रोक दिए जाते हैं।
रूपक (Metaphor):
वर्तमान AI एजेंटों को एक अध्ययन समूह (study group) में बहुत बुद्धिमान लेकिन अत्यधिक चिंतित छात्रों के समूह के रूप में सोचें। यदि आप उन्हें मिलकर गणित की समस्या हल करने के लिए कहते हैं, तो वे इसे कर सकते हैं यदि समूह छोटा है और सभी शांत हैं। लेकिन यदि आप कुछ ऐसे छात्र जोड़ देते हैं जो केवल गड़बड़ी करने के लिए आए हैं, या यदि आप समूह को बताते हैं "कोई नकल कर सकता है," तो पूरा अध्ययन सत्र एक अराजक, अंतहीन बहस में बदल जाता है जहाँ कोई भी होमवर्क कभी पूरा नहीं करता।
मुख्य बात: इससे पहले कि हम AI एजेंटों पर एक साथ महत्वपूर्ण निर्णय लेने (जैसे कि सेल्फ-ड्राइविंग कारों या वित्तीय बाजारों में) के लिए भरोसा करें, हमें उन्हें यह सिखाना होगा कि बिना बिखर जाए वास्तव में सहमत कैसे होना है। अभी, वे अभी भी यह सीख रहे हैं कि एक-दूसरे पर चिल्लाए बिना बातचीत कैसे की जाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।