कल्पना कीजिए एक ऐसी दुनिया की जहाँ कंप्यूटर सिर्फ अकेले नहीं सोचते, बल्कि समस्याओं को हल करने के लिए एक-दूसरे से बातचीत करते हैं, ठीक वैसे ही जैसे दोस्तों का एक समूह सबसे अच्छी फिल्म देखने या अपनी पॉकेट मनी खर्च करने के सबसे स्मार्ट तरीके पर बहस करता है। यह मल्टी-एजेंट एआई (multi-agent AI) का क्षेत्र है, जहाँ कई लार्ज लैंग्वेज मॉडल्स (LLMs)—जिन्हें आप सुपर-स्मार्ट चैटबॉट्स के रूप में जानते हैं—एक डिजिटल टाउन स्क्वायर में मिलकर काम करते हैं। इस डिजिटल समाज में, उनके बीच बातचीत के "नियम" आश्चर्यजनक रूप से उन भौतिकी के नियमों के समान हैं जो यह नियंत्रित करते हैं कि चुंबक कैसे आपस में चिपकते हैं या भीड़ कैसे चलती है। वैज्ञानिक लंबे समय से जानते हैं कि जब समूह में व्यक्ति एक-दूसरे से बात करते हैं, तो वे अनजाने में एक "हाइव माइंड" (hive mind) बना सकते हैं, जहाँ हर कोई अचानक किसी चीज़ पर सहमत हो जाता है, भले ही वह गलत या अनुचित क्यों न हो। यह शोध पत्र एक डरावना लेकिन महत्वपूर्ण सवाल पूछता है: यदि हम इन एआई दोस्तों को बड़े निर्णय लेने के लिए बहस करने दें, तो क्या वे अनजाने में एक बुरे विचार के पक्ष में एकजुट होकर, अपने ही छोटे पूर्वाग्रहों को एक विशाल, पक्षपाती सर्वसम्मति में बदल सकते हैं?

इस अध्ययन के पीछे की शोधकर्ता, माया ओकावा और उनकी टीम ने इन एआई बहसों को एक भौतिकी प्रयोग की तरह मानने का निर्णय लिया। उन्होंने एक गणितीय मॉडल बनाया जो इस बात से प्रेरित था कि चुंबक कैसे संरेखित होते हैं और सामाजिक समूह एक-दूसरे को कैसे प्रभावित करते हैं। उन्होंने पाया कि इन एआई समूहों में एक "टिपिंग पॉइंट" (tipping point) होता है। यदि एआई एजेंट एक-दूसरे के साथ सहमत होने के लिए बहुत अधिक उत्सुक (एक गुण जिसे कन्फॉर्मिटी/conformity कहा जाता है) हैं और सिस्टम उन्हें स्वतंत्र रूप से सोचने के लिए पर्याप्त "नॉइज़" (शोर/अनिश्चितता) नहीं देता है, तो पूरा समूह एक पक्षपाती अवस्था में जा सकता है। यह एक ऐसे कमरे की तरह है जहाँ हर कोई एक ही अफवाह फुसफुसा रहा है; यदि कमरा बहुत शांत है (कम नॉइज़), तो अफवाह तुरंत फैल जाती है और एकमात्र सत्य बन जाती है, भले ही वह एक छोटी सी झूठ से शुरू हुई हो। शोध पत्र सुझाव देता है कि एआई की सोच में कितनी "नॉइज़ी" या रैंडम (यादृच्छिक) प्रक्रिया है, इसे बदलकर हम इसे रोकने में सक्षम हैं।

डिजिटल टाउन स्क्वायर और फुसफुसाती अफवाह

एक मल्टी-एजेंट एलएलएम (LLM) बहस को विशेषज्ञ जजों के एक पैनल द्वारा खेले जाने वाले "टेलीफोन" के उच्च-दांव वाले खेल के रूप में सोचें। वास्तविक दुनिया में, हम इन एआई पैनलों का उपयोग गंभीर कार्यों के लिए करते हैं: यह तय करने के लिए कि कौन से स्टॉक खरीदने हैं, यह तय करने के लिए कि किसे ऋण (लोन) मिलना चाहिए, या यहाँ तक कि यह देखने के लिए कि किस एआई ने बेहतर निबंध लिखा है, एक रेफरी के रूप में कार्य करने के लिए। उम्मीद यह है कि कई एआई के आपस में बात करने से, वे अपनी व्यक्तिगत गलतियों को एक-दूसरे को रद्द कर देंगे और सही उत्तर खोज लेंगे। लेकिन लेखक ने मैट्रिक्स में एक गड़बड़ी (glitch) पाई।

उन्होंने प्रयोग किए जहाँ छह से दस एआई एजेंटों के समूहों ने दो बहुत अलग चीजों पर बहस की:

1. निवेश सलाह (Investment Advice): उन्होंने एआई से एक स्टॉक पोर्टफोलियो बनाने के लिए कहा।
2. जज गेम (The Judge Game): उन्होंने एआई से यह तय करने के लिए कहा कि दो एआई-जनरेटेड उत्तरों में से कौन सा बेहतर था।

शोधकर्ता ने कुछ अजीब होते देखा। जब एआई एजेंटों को बहुत "केंद्रित" (एक सेटिंग जिसे लो टेम्परेचर/low temperature कहा जाता है, जो उन्हें कम रैंडम और अधिक नियत बनाता है) पर सेट किया गया था, तो उन्होंने बहुत जल्दी अपने लिए सोचना बंद कर दिया। इसके बजाय, उन्होंने एक-दूसरे की नकल करना शुरू कर दिया। यदि एक एजेंट के पास एक सूक्ष्म, लगभग अदृश्य पूर्वाग्रह था—जैसे अमेरिकी टेक स्टॉक्स के प्रति मामूली प्राथमिकता या अपने प्रकार के उत्तरों का पक्ष लेने की प्रवृत्ति—तो पूरे समूह ने उस छोटे से पूर्वाग्रह को एक विशाल, सर्वसम्मत सहमति में बदल दिया।

यह बिल्कुल वैसा ही है जैसे यदि आप और आपके पाँच दोस्त यह तय कर रहे हों कि कहाँ खाना है, और एक दोस्त फुसफुसाता है, "मैं वास्तव में पिज्जा चाहता हूँ।" यदि हर कोई बहुत केंद्रित है और ध्यान से सुन रहा है (कम नॉइज़), तो अगला दोस्त कह सकता है, "हाँ, पिज्जा अच्छा लग रहा है," और तीसरा कह सकता है, "निश्चित रूप से पिज्जा," जब तक कि पूरा समूह "पिज्जा!" चिल्लाने न लगे, भले ही वे सभी मन ही मन टैकोस (tacos) चाहते हों। एआई की दुनिया में, यह "चिल्लाना" एक पक्षपाती सर्वसम्मति (biased consensus) में बदल गया। समूह केवल सहमत नहीं हुआ; वे एक गलत या अनुचित उत्तर पर सहमत हुए, और उन्होंने यह काम किसी भी एकल एआई की तुलना में अधिक तेज़ी से और अधिक मजबूती से किया।

"हाइव माइंड" की भौतिकी

यह समझने के लिए कि क्यों ऐसा होता है, लेखक ने सांख्यिकीय भौतिकी (statistical physics) की ओर रुख किया, जो यह अध्ययन करती है कि कण (जैसे परमाणु) समूहों में कैसे व्यवहार करते हैं। उन्होंने एक प्रसिद्ध मॉडल का उपयोग किया जिसे आइसिंग मॉडल (Ising model) कहा जाता है, जो बताता है कि चुंबक कैसे काम करते हैं। कल्पना कीजिए कि प्रत्येक एआई एजेंट एक छोटा चुंबक है जो "ऊपर" (विकल्प A) या "नीचे" (विकल्प B) की ओर इशारा कर सकता है।

एक आदर्श दुनिया में, ये चुंबक यादृच्छिक रूप से इशारा करेंगे। लेकिन एआई बहस में, दो बल उन्हें खींचते हैं:

1. आंतरिक पूर्वाग्रह (Internal Bias): प्रत्येक चुंबक में ऊपर या नीचे इशारा करने की एक हल्की प्राथमिकता होती है क्योंकि उसे इसी तरह प्रशिक्षित किया गया है (जैसे किसी इंसान का पसंदीदा रंग होना)।
2. सामाजिक खिंचाव (Social Pull): चुंबक अपने पड़ोसियों के साथ संरेखित होना चाहते हैं। यदि समूह में अधिकांश ऊपर की ओर इशारा करते हैं, तो अन्य भी ऊपर की ओर इशारा करने के लिए "सामाजिक दबाव" महसूस करते हैं।

लेखक ने पाया कि एक क्रिटिकल थ्रेशोल्ड (महत्वपूर्ण सीमा) होती है। यदि "सामाजिक खिंचाव" (कन्फॉर्मिटी) "नॉइज़" (एआई की सोच में यादृच्छिकता) की तुलना में बहुत अधिक मजबूत है, तो सिस्टम एक फेज़ ट्रांज़िशन (phase transition) से गुजरता है। यह एक फैंसी तरीका है यह कहने का कि समूह अचानक स्वस्थ असहमति की स्थिति से बदलकर एक कठोर, पक्षपाती सहमति की स्थिति में आ जाता है।

उन्होंने इसे एक गणितीय सूत्र के साथ सिद्ध किया जो सटीक भविष्यवाणी करता है कि यह बदलाव कब होगा। यह तीन चीजों पर निर्भर करता है:

• व्यक्तिगत एआई शुरुआत में कितने पक्षपाती हैं।
• वे एक-दूसरे के साथ कितना सहमत होना चाहते हैं।
• सिस्टम में कितनी "नॉइज़" (यादृच्छिकता) है।

यदि नॉइज़ बहुत कम है (एआई बहुत केंद्रित है), तो एक छोटा सा पूर्वाग्रह भी तब तक बढ़ जाता है जब तक कि पूरा समूह एक पक्षपाती लूप में फंस नहीं जाता। शोध पत्र दिखाता है कि यह केवल एक सिद्धांत नहीं है; उन्होंने इसे वास्तविक प्रयोगों में होते देखा। जब उन्होंने "तापमान" (नॉइज़ का नॉब) को घटाकर 0.1 या 0.2 कर दिया, तो एआई केवल एक या दो राउंड की बातचीत के भीतर ही एक पक्षपाती सर्वसम्मति में लॉक हो गए।

जादुई नॉब: नॉइज़ और विविधता

तो, हम एआई को एक बुरे विचार पर एकजुट होने से कैसे रोक सकते हैं? शोध पत्र दो चतुर समाधान प्रदान करता है, दोनों ही "बर्तन को हिलाने" (shaking up the pot) की तरह काम करते हैं ताकि इस प्रभाव को तोड़ा जा सके।

1. नॉइज़ बढ़ाएँ (टेम्परेचर)
सबसे प्रभावी समाधान आश्चर्यजनक रूप से सरल था: एआई को थोड़ा अधिक रैंडम बनाएँ। सैंपलिंग टेम्परेचर (नॉइज़ के नॉब को 0.8 या 1.4 तक बढ़ाकर) को बढ़ाकर, शोधकर्ताओं ने कठोर संरेखण को तोड़ दिया। एआई एजेंट भीड़ का अंधाधुंध अनुसरण करने के बजाय कम होने लगे। एक पक्षपाती सर्वसम्मति में लॉक होने के बजाय, वे "क्रॉसओवर" की स्थिति में रहे, जहाँ वे अभी भी सहमत हो सकते थे, लेकिन वे गलत उत्तर पर अटक नहीं गए। यह हमारे डिनर वाले उदाहरण में दोस्तों को यह कहने जैसा है, "हे, चलो बहुत जल्दी निर्णय न लें; चलो एक सिक्का उछालते हैं या अन्य विकल्पों के बारे में सोचते हैं।" इस यादृच्छिकता ने समूह को एक बुरे निर्णय में फंसने से बचा लिया।

2. भीड़ को मिलाएँ (विषमता/Heterogeneity)
दूसरा समाधान एक जैसे जुड़वां बच्चों का समूह उपयोग करना बंद करना था। लेखक ने परीक्षण किया कि क्या होता है जब वे विभिन्न प्रकार के एआई को एक साथ मिलाते हैं (जैसे, एक GPT-4 एजेंट, एक Llama एजेंट, और एक DeepSeek एजेंट) या उन्हें अलग-अलग "व्यक्तित्व" देते हैं। उन्होंने पाया कि विषमता (heterogeneity) ने तीव्र संक्रमण को सुचारू बना दिया। जब समूह विभिन्न मॉडलों से बना था, तो "हाइव माइंड" का प्रभाव कमजोर था। विभिन्न मॉडलों के सोचने के तरीके अलग थे, इसलिए वे सभी एक ही समय में एक ही पूर्वाग्रह में नहीं फंसे। यह दोस्तों के एक ऐसे समूह की तरह है जहाँ एक को पिज्जा पसंद है, एक को सुशी, और एक को टैकोस; वे अभी भी बहस कर सकते हैं, लेकिन वे सभी अचानक केवल पिज्जा खाने का निर्णय नहीं लेंगे क्योंकि एक व्यक्ति ने फुसफुसाया था।

वास्तविक दुनिया का परीक्षण

लेखक केवल सिद्धांत तक सीमित नहीं रहे। वे अपने निष्कर्षों को उन वास्तविक दुनिया के कार्यों पर लागू करते हैं जिनसे उन्होंने शुरुआत की थी: निवेश सलाह और एआई निबंधों का निर्णय लेना।

• निवेश कार्य में: जब सभी एआई एक जैसे थे और कम नॉइज़ पर सेट थे, तो उन्होंने अत्यधिक रूप से अमेरिकी तकनीकी शेयरों की ओर झुके हुए पोर्टफोलियो बनाए, जिससे अन्य अच्छे विकल्प छूट गए। जब उन्होंने एआई को मिलाया और नॉइज़ बढ़ाया, तो पूर्वाग्रह कम हो गया, और पोर्टफोलियो ने वास्तव में बेहतर प्रदर्शन किया (बाजार के सापेक्ष अधिक पैसा बनाया)।
• जज कार्य में: जब एआई समान और केंद्रित थे, तो उन्होंने एक "स्व-पूर्वाग्रह" (self-bias) दिखाया, जहाँ वे अपने स्वयं के मॉडल परिवार द्वारा उत्पन्न उत्तरों को दूसरों की तुलना में अधिक पसंद करते थे। विभिन्न मॉडलों को मिलाकर और नॉइज़ जोड़कर, उनका यह स्व-वरीयता वाला व्यवहार कम हो गया, और वे अधिक निष्पक्ष जज बन गए।

मुख्य निष्कर्ष

यह शोध पत्र सुझाव देता है कि एआई बहसों की सुरक्षा केवल व्यक्तिगत एआई को स्मार्ट बनाने के बारे में नहीं है; यह इस बारे में है कि वे एक-दूसरे के साथ कैसे बातचीत करते हैं। यदि हम पर्याप्त "नॉइज़" या विविधता के बिना समान, अति-केंद्रित एआई के समूह को आपस में बात करने देते हैं, तो वे एक पक्षपाती सर्वसम्मति बनाने का जोखिम उठाते है जो किसी भी एकल एआई द्वारा उत्पन्न की जा जाने वाली तुलना में बदतर हो सकती है। यह एक याद दिलाता है कि डिजिटल दुनिया में, ठीक वैसे ही जैसे मानव दुनिया में, एक समूह अपने ही पूर्वाग्रह के प्रति अंधा हो सकता है यदि हर कोई सहमत होने के लिए बहुत अधिक उत्सुक हो।

अच्छी खबर यह है कि हमारे पास इसे ठीक करने के उपकरण हैं। थोड़ी सी यादृच्छिकता (नॉइज़) पेश करके और यह सुनिश्चित करके कि हमारे एआई पैनल विविध (heterogeneous) हैं, हम उन्हें "हाइव माइंड" के जाल में गिरने से रोक सकते हैं। लेखक का प्रस्ताव है कि ये सरल बदलाव एआई बहसों को वास्तविक दुनिया में सुरक्षित रूप से तैनात करने की कुंजी हो सकते हैं, यह सुनिश्चित करते हुए कि जब एआई मिलकर काम करते हैं, तो वे केवल सहमत नहीं होते—वे सही चीज़ पर सहमत होते हैं।