When Outputs Disperse, Does Epistemic Revision Follow? A Black-Box Coupling Diagnostic for Machine Collectives
यह शोध पत्र 'डिस्पर्शन-रिवीजन कपलिंग' नामक एक ब्लैक-बॉक्स डायग्नोस्टिक पेश करता है जो यह उजागर करता है कि जबकि एलएलएम (LLM) समूहों में आउटपुट विविधता वास्तविक एपिस्टेमिक रिवीज़न की गारंटी नहीं देती है, ऐसे हस्तक्षेपों की प्रभावशीलता विभिन्न मॉडलों में काफी भिन्न होती है, जिसमें GPT-4o-mini सशर्त असहमति के माध्यम से बेहतर गलत-आधार (false-premise) रिकवरी प्रदर्शित करता है, जबकि Gemini-2.5-flash अपने अंतर्निहित रुख को बदले बिना केवल तर्कों को पुनर्गठित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि दोस्तों का एक समूह एक पेचीदा पहेली को सुलझाने की कोशिश कर रहा है। यदि वे सभी बहुत जल्दी सहमत हो जाते हैं, तो वे गलत उत्तर पर अटक सकते हैं। लेकिन यदि वे थोड़ा बहस करते हैं, तो वे गलती को पकड़ सकते हैं और उसे ठीक कर सकते हैं। इस विचार को "सामूहिक बुद्धिमत्ता" (collective intelligence) कहा जाता है, और यह इस विज्ञान का एक बड़ा विषय है कि समूह कैसे सोचते हैं। लंबे समय तक, वैज्ञानिकों का मानना था कि यदि किसी समूह के सदस्य एक-दूसरे से अलग सुनाई देते हैं, तो वह समूह बुद्धिमान और लचीला होता है। यह ऐसा ही था जैसे यह मान लेना कि यदि एक गायक दल अलग-अलग आवाजों में गाता है, तो वे निश्चित रूप से अलग-अलग गाने गा रहे होंगे। लेकिन क्या होगा यदि वे सभी एक ही गलत स्वर गा रहे हों, बस अलग-अलग लहजे के साथ? यही वह पहेली है जिसका सामना अब शोधकर्ता आर्टिफिशियल इंटेलिजेंस (AI) के साथ कर रहे हैं। हम साथ मिलकर काम करने के लिए AI बॉट्स की टीमें बना रहे हैं, लेकिन हमें यह जानने की आवश्यकता है: जब ये बॉट्स अलग तरह से व्यवहार करना शुरू करते हैं, तो क्या वे वास्तव में अपना विचार बदल रहे हैं, या वे केवल पुराने गलत विचार पर टिके रहने के लिए असहमति का नाटक कर रहे हैं?
यह शोध पत्र, जिसे मोलूद अरमान नामक एक स्वतंत्र शोधकर्ता द्वारा लिखा गया है, इस रहस्य को सुलझाने के लिए एक जासूसी कहानी की तरह काम करता है। लेखक ने एक "ब्लैक-बॉक्स" परीक्षण तैयार किया है, जिसका अर्थ है कि वे AI के मस्तिष्क के अंदर नहीं देखते हैं (जो अक्सर एक रहस्य ही होता है); वे केवल वही देखते हैं जो AI कहता है। उन्होंने एक ऐसी स्थिति बनाई जहाँ पाँच AI बॉट्स को एक गलत तथ्य में बहका दिया गया, जैसे कि "केवल नींबू खाने से कैंसर ठीक हो जाता है।" फिर, शोधकर्ताओं ने एक "सत्य बटन" (truth button) दबाया ताकि बॉट्स को वास्तविक तथ्यों के बारे में बताया जा सके। प्रश्न यह था: यदि शोधकर्ता बॉट्स को बहस करने और अलग दिखने के लिए मजबूर करते हैं, तो क्या वे वास्तव में उस गलत विश्वास को छोड़ देते हैं?
परिणाम आश्चर्यजनक थे और पूरी तरह से इस बात पर निर्भर थे कि किस AI मॉडल का उपयोग किया गया था। जब शोधकर्ताओं ने gpt-4o-mini नामक मॉडल का उपयोग किया, तो योजना पूरी तरह से सफल रही। जब उन्होंने बॉट्स को असहमत होने के लिए मजबूर किया, तो समूह का आउटपुट अधिक बिखरा हुआ हो गया (जैसे पक्षियों का झुंड अचानक फैल जाना), और बॉट्स ने वास्तव में अपना विचार बदल लिया, और स्वीकार किया कि नींबू वाला मिथक गलत था। "असहमति" से उनके विश्वासों में "संशोधन" हुआ।
हालाँकि, जब उन्होंने एक अलग मॉडल, gemini-2.5-flash के साथ बिल्कुल वही चाल चली, तो जादू गायब हो गया। बॉट्स अभी भी एक-दूसरे से अलग सुनाई दे रहे थे—उनके शब्द पहले की तरह ही बिखरे हुए थे—लेकिन उन्होंने अपना विचार बिल्कुल नहीं बदला। इसके बजाय, उन्होंने नींबू के मिथक में विश्वास बनाए रखने के लिए नए, फैंसी-सुने जाने वाले कारण गढ़ लिए। यह उन दोस्तों के समूह की तरह था जो इस बारे में बहस कर रहे हैं कि क्या कमरे में कोई भूत है; वे सभी बहुत अलग और भावुक सुनाई दे रहे थे, लेकिन अंत में वे सभी इस बात पर सहमत हुए कि भूत मौजूद था, बस अलग-अलग कारणों से। शोध पत्र इसे "कमजोर जुड़ाव" (weak coupling) कहता है: आउटपुट विविध थे, लेकिन सोच स्थिर थी।
अध्ययन निष्कर्ष निकालता है कि आप यह जानने के लिए कि एक AI समूह कितना स्मार्ट है, केवल यह नहीं माप सकते कि वे कितने "विविध" सुनाई देते हैं। एक समूह एक अराजक, शानदार बहस जैसा दिख सकता है जबकि वास्तव में वह एक जिद्दी 'इको चैंबर' (echo chamber) हो सकता है। शोधकर्ता सुझाव देते हैं कि वास्तविक समस्याओं को हल करने के लिए AI टीमों पर भरोसा करने से पहले, हमें एक नए परीक्षण की आवश्यकता है जो न केवल यह जांचता है कि वे बहस कर रहे हैं, बल्कि यह भी कि क्या वह बहस वास्तव में उन्हें अपनी गलती स्वीकार करने की ओर ले जाती है। इस जांच के बिना, हमें लग सकता है कि हमारी AI टीमें लचीली और स्मार्ट हैं, जबकि वे वास्तव में अपनी गलतियों में बंधे रहने के लिए असहमति का नाटक करने में बहुत अच्छी हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।