← नवीनतम पेपर
💻 computer science

The Consistency Illusion: How Multi-Agent Debate Hides Reasoning Misalignment

यह शोध पत्र मल्टी-एजेंट मेडिकल क्यू-एंड-ए (QA) सिस्टम में "कंसिस्टेंसी इल्यूजन" (संगति का भ्रम) को प्रस्तुत करता है, जहाँ एजेंट तर्क के गलत संरेखण के बावजूद उत्तर पर सहमति प्राप्त कर लेते हैं, और बिना किसी संरचनात्मक परिवर्तन के तर्क संरेखण में उल्लेखनीय सुधार करने के लिए ग्राउंडेड डिबेट प्रोटोकॉल (GDP) का प्रस्ताव करता है।

मूल लेखक: Xiaoyang Wang, Christopher C. Yang

प्रकाशित 2026-06-09
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Xiaoyang Wang, Christopher C. Yang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक उच्च-दांव वाले कोर्टरूम में न्यायाधीश हैं। तीन विशेषज्ञ गवाहों (AI एजेंटों) को एक चिकित्सा मामले के बारे में गवाही देने के लिए बुलाया गया है। वे तीनों खड़े होते हैं और बिल्कुल एक ही बात कहते हैं: "मरीज को ड्रग X की आवश्यकता है।"

वर्तमान AI सिस्टम की दुनिया में, न्यायाधीश संभवतः कहेंगे, "बहुत बढ़िया! तीन विशेषज्ञ सहमत हैं, इसलिए उत्तर 100% सही होना चाहिए।" यह पेपर तर्क देता है कि यह विश्वास एक खतरनाक भ्रम है।

यहाँ पेपर के निष्कर्षों का सरल विवरण दिया गया है:

1. "कंसिस्टेंसी इल्यूजन" (दिखावटी सहमति)

शोधकर्ताओं ने पाया कि जब कई AI एजेंट किसी चिकित्सा प्रश्न पर बहस करते हैं, तो वे अक्सर उत्तर पर तो एकमत (consensus) हो जाते हैं, लेकिन तर्क (reasoning) पर पूरी तरह से असहमत रहते हैं।

उपमा:
कल्पना कीजिए कि तीन जासूस एक अपराध को सुलझा रहे हैं।

  • जासूस A कहता है, "बटलर ने यह किया क्योंकि उसके पास चाकू है।"
  • जासूस B कहता है, "बटलर ने यह किया क्योंकि उसका मकसद था।"
  • जासूस C कहता है, "बटलर ने यह किया क्योंकि उसे घटनास्थल पर देखा गया था।"

यदि आप केवल अंतिम निर्णय ("बटलर ने यह किया") को देखते हैं, तो वे सभी सहमत हैं। लेकिन यदि आप देखते हैं कि वे कैसे वहां पहुंचे, तो उनकी कहानियाँ पूरी तरह से अलग हैं और वास्तव में एक-दूसरे का खंडन करती हैं। चिकित्सा जगत में, यह ऐसा है जैसे तीन डॉक्टर इस बात पर सहमत हैं कि मरीज को "एट्रोपिन" (Atropine) की आवश्यकता है, लेकिन एक सोचता है कि यह हृदय गति की समस्या के कारण है, दूसरा सोचता है कि यह तंत्रिका (nerve) की समस्या के कारण है, और तीसरा सोचता है कि यह मांसपेशियों की समस्या के कारण है। उनके कारण चिकित्सकीय रूप से असंगत हैं, फिर भी वे सभी एक ही दवा पर पहुँचते हैं।

पेपर इसे कंसिस्टेंसी इल्यूजन (Consistency Illusion) कहता है: एजेंट ऐसा दिखते हैं जैसे वे सामंजस्य बिठा रहे हैं, लेकिन उनका आंतरिक तर्क वास्तव में एक-दूसरे से अलग होता जा रहा है।

2. मानक बहसों (Standard Debates) की समस्या

शोधकर्ताओं ने एक मानक "बहस" सेटअप का परीक्षण किया जहाँ AI एक-दूसरे से बात करके अपने उत्तरों को परिष्कृत करते हैं। उन्होंने पाया कि यह प्रक्रिया वास्तव में चीजों को सूक्ष्म तरीके से और खराब कर देती है:

  • बहस से पहले: एजेंटों के पास अलग-अलग उत्तर और अलग-अलग कारण थे।
  • बहस के बाद: वे उत्तर पर अधिक बार सहमत हुए, लेकिन उनके कारण कम समान होते गए।

यह दोस्तों के एक समूह की तरह है जो फिल्म तय करने की कोशिश कर रहे हैं। पहले दौर में, उनके पास अलग-अलग विचार हैं। बहस करने के बाद, वे सभी एक ही फिल्म देखने के लिए सहमत होते हैं, लेकिन वे सभी पूरी तरह से अलग शैलियों (genres) के बारे में सोच रहे हैं (एक सोचता है कि यह कॉमेडी है, दूसरा सोचता है कि यह हॉरर है, और तीसरा सोचता है कि यह डॉक्यूमेंट्री है)। वे "शीर्षक" पर सहमत हुए, लेकिन वे वास्तव में इस बारे में एक ही पृष्ठ पर नहीं हैं कि वे क्या देख रहे हैं।

3. समाधान: "ग्राउंडेड डिबेट प्रोटोकॉल" (GDP)

इसे ठीक करने के लिए, लेखकों ने एक नया नियम बनाया कि AI एजेंटों को एक-दूसरे से कैसे बात करनी चाहिए। वे इसे ग्राउंडेड डिबेट प्रोटोकॉल (Grounded Debate Protocol - GDP) कहते हैं।

उपमा:
जासूसों को केवल यह कहने देने के बजाय कि "बटलर ने यह किया," न्यायाधीश उन्हें प्रत्येक कथन के लिए एक सख्त फॉर्म भरने के लिए मजबूर करता है:

  1. क्लेम (CLAIM): आप क्या कह रहे हैं? (जैसे, "बटलर दोषी है।")
  2. ग्राउंड (GROUND): कौन सा विशिष्ट तथ्य या नियम इसका समर्थन करता है? (जैसे, "ADA दिशानिर्देश X कहते हैं," या "पुलिस रिपोर्ट Y दिखाती है।")
  3. स्टेंस (STANCE): क्या आप अन्य जासूसों से सहमत हैं या असहमत हैं, और क्यों?

AI को हर "क्लेम" के साथ एक विशिष्ट "ग्राउंड" (एक नामित चिकित्सा तथ्य) जोड़ने के लिए मजबूर करके, वे एक-दूसरे के उत्तरों की नकल नहीं कर सकते। उन्हें उत्तर पर सहमत होने के लिए तथ्यों पर वास्तव में सहमत होना होगा।

4. परिणाम

जब शोधकर्ताओं ने इस नए नियम पुस्तिका को लागू किया:

  • भ्रम गायब हो गया: एजेंटों ने झूठी सहमति बनाना बंद कर दिया।
  • वास्तविक संरेखण (Real Alignment): जब वे एक उत्तर पर सहमत हुए, तो वे उसके पीछे के चिकित्सा तथ्यों और तर्क के चरणों पर भी सहमत थे।
  • कोई अतिरिक्त लागत नहीं: इसके लिए नए, महंगे कंप्यूटर बनाने या AI को अधिक समय तक सोचने के लिए कहने की आवश्यकता नहीं थी; इसके लिए केवल उन्हें दिए गए निर्देशों (प्रॉम्प्ट) को बदलने की आवश्यकता थी।

सारांश

यह पेपर हमें चेतावनी देता है कि चिकित्सा जैसे सुरक्षा-महत्वपूर्ण क्षेत्रों में, उत्तर पर सहमति का अर्थ सत्य पर सहमति नहीं है। केवल इसलिए कि तीन AI एक ही बात कहते हैं, इसका मतलब यह नहीं है कि वे समझते हैं कि वह क्यों सही है।

लेखक दिखाते हैं कि AI को अधिक संरचित बनाकर—जैसे कि उन्हें अपने स्रोतों का हवाला देने और दूसरों के विचारों पर अपनी स्थिति स्पष्ट रूप से बताने के लिए मजबूर करके—हम उन्हें "कंसिस्टेंसी इल्यूजन" बनाने से रोक सकते हैं और यह सुनिश्चित कर सकते हैं कि वे वास्तव में एक साथ तर्क कर रहे हैं, न कि केवल दिखावा कर रहे हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →