🤖 AI

Consensus is Strategically Insufficient: Reasoning-Trace Disagreement as a Knowledge-Representation Signal

यह शोध पत्र एक ज्ञान-प्रतिनिधित्व ढांचे का प्रस्ताव करता है जो मूल्य-युक्त कार्यों में रणनीतिक रूटिंग को सक्षम करने के लिए बहु-एजेंट तर्क ट्रेसेस और निर्णयों को चार प्रतीकात्मक असहमति अवस्थाओं में अमूर्त बनाता है, यह तर्क देते हुए कि मानदंडात्मक अनिश्चितता को संबोधित करने के लिए असहमति को समाप्त करने के बजाय उसे संरक्षित करना महत्वपूर्ण है।

मूल लेखक: Michał Wawer, Jarosław A. Chudziak

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Michał Wawer, Jarosław A. Chudziak

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास पाँच AI सहायकों की एक टीम है जिन्हें यह तय करने का काम सौंपा गया है कि किसी विशिष्ट ऑनलाइन कंटेंट को रखा जाना चाहिए या हटाया जाना चाहिए। वर्तमान के अधिकांश सिस्टम में, लक्ष्य यह होता है कि ये पाँचों सहायक जितनी जल्दी हो सके एकमत हो जाएं। यदि वे असहमत होते हैं, तो सिस्टम आमतौर पर इसे एक गलती मानता है, वोट देने के लिए मजबूर करता है, या उन्हें तब तक बहस करने के लिए कहता है जब तक कि वे "सर्वसम्मति" तक न पहुँच जाएँ।

यह शोध पत्र तर्क देता है कि सहमति के लिए मजबूर करना वास्तव में एक बुरा विचार है, विशेष रूप से जटिल, मूल्य-आधारित निर्णयों (जैसे कंटेंट मॉडरेशन) के लिए। कभी-कभी, असहमति कोई त्रुटि नहीं है; यह एक विशेषता (feature) है। इसका मतलब यह हो सकता है कि एजेंट एक ही तथ्यों को देख रहे हैं लेकिन अलग-अलग मूल्यों (जैसे "अभिव्यक्ति की स्वतंत्रता" बनाम "सुरक्षा") को तौल रहे हैं।

यहाँ मुख्य विचार दिया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है:

समस्या: "वोटिंग मशीन" का दोष

एक मानक मल्टी-एजेंट सिस्टम को एक ऐसे जूरी की तरह समझें जिसे तुरंत एक एकल निर्णय देने के लिए मजबूर किया जाता है। यदि जूरी के सदस्य 3-से-2 के अनुपात में विभाजित हैं, तो सिस्टम बस बहुमत को चुन लेता है और आगे बढ़ जाता है।

दोष: यह इस बात की अनदेखी करता है कि वे असहमत क्यों थे। क्या वे इसलिए असहमत थे क्योंकि उन्होंने अलग-अलग तथ्य देखे? या क्या उन्होंने बिल्कुल एक ही तथ्य देखे लेकिन उनके नैतिक प्राथमिकताएं अलग थीं? वर्तमान सिस्टम दोनों स्थितियों के साथ एक जैसा व्यवहार करता है: "बस एक विजेता चुन लो।"

समाधान: "असहमति का मानचित्र" (The Disagreement Map)

लेखक सोचने का एक नया स्तर प्रस्तावित करते हैं जो केवल वोट को नहीं देखता, बल्कि वोटों के पीछे के तर्क को भी देखता है। वे दो प्रश्नों के आधार पर चार अलग-अलग क्षेत्रों (zones) वाला एक "मानचित्र" बनाते हैं:

क्या वे निष्कर्ष पर सहमत थे? (रखें या हटा दें?)
क्या वे तर्क पर सहमत थे? (क्या उन्होंने समान तर्क का उपयोग किया?)

यह असहमति की चार अवस्थाएँ बनाता है, जैसे घर के चार अलग-अलग कमरे:

1. अभिसारी सहमति (Convergent Agreement - CA)

परिदृश्य: सभी निर्णय पर सहमत हैं, और उन सभी ने एक ही तर्क का उपयोग किया है।
रूपक: एक समूह जो पूर्ण सामंजस्य में एक ही स्वर में गा रहा है।
कार्रवाई: स्वचालित रूप से स्वीकृत करें। आगे सोचने की आवश्यकता नहीं है; सिस्टम सुरक्षित रूप से निर्णय स्वतः ले सकता है।

2. विचलित सहमति (Divergent Agreement - DA)

परिदृश्य: सभी निर्णय पर सहमत हैं, लेकिन वे वहां तक पहुँचने के लिए पूरी तरह से अलग कारणों का उपयोग कर रहे हैं।
रूपक: पाँच लोग कार खरीदने का निर्णय ले रहे हैं। एक सुरक्षा चाहता है, एक गति चाहता है, और एक स्टाइल चाहता है। वे कार पर तो सहमत हैं, लेकिन अलग-अलग कारणों से।
कार्रवाई: स्पष्टीकरण के साथ स्वचालित रूप से स्वीकृत करें। सिस्टम निर्णय लेता है लेकिन सभी अलग-अलग कारणों को दृश्यमान रखता है, क्योंकि अलग-अलग लोगों को अलग-अलग स्पष्टीकरणों की आवश्यकता हो सकती है।

3. विचलित असहमति (Divergent Disagreement - DD)

परिदृश्य: वे निर्णय पर असहमत हैं, और वे पूरी तरह से अलग तर्क का भी उपयोग कर रहे हैं।
रूपक: लोगों का एक समूह एक धुंधली फोटो देख रहा है। एक को लगता है कि यह कुत्ता है, दूसरे को लगता है कि यह बिल्ली है, और तीसरे को लगता है कि यह एक छाया है। वे इसलिए सहमत नहीं हो पा रहे हैं क्योंकि वे वास्तव में यह भी सुनिश्चित नहीं हैं कि वे क्या देख रहे हैं।
कार्रवाई: अधिक संदर्भ (context) मांगें। सिस्टम को एहसास होता है कि उसके पास अभी पर्याप्त जानकारी नहीं है। इसे अभी मानव के पास भेजने के बजाय, इसे और अधिक डेटा मांगना चाहिए या फिर से प्रयास करना चाहिए।

4. अभिसारी असहमति (Convergent Disagreement - CD) — सबसे महत्वपूर्ण

परिदृश्य: वे निर्णय पर असहमत हैं, लेकिन उन्होंने बिल्कुल एक ही तर्क का उपयोग किया है।
रूपक: कुत्ते की एक स्पष्ट फोटो देख रहे पाँच न्यायाधीश। वे सभी सहमत हैं कि यह एक कुत्ता है। लेकिन, जज A कहता है, "कुत्ते खतरनाक होते हैं, इसे हटा दें," जबकि जज B कहता है, "कुत्ते प्यारे होते हैं, इसे रखें।" वे एक ही वास्तविकता देखते हैं लेकिन उनके बीच मूल्यों का मौलिक टकराव है।
कार्रवाई: मानव को सौंपें (Escalate to a human)। यह इस शोध पत्र की बड़ी अंतर्दृष्टि है। यदि AI एजेंट तथ्यों पर सहमत हैं लेकिन मूल्य पर असहमत हैं, तो यह एक वास्तविक नैतिक संघर्ष है। यहाँ AI को विजेता चुनने के लिए मजबूर करना एक वास्तविक मानवीय दुविधा को छिपा देगा। यह वह संकेत है जो कहता है, "रुकिए, एक मानव को इस मूल्य संघर्ष पर निर्णय लेने की आवश्यकता है।"

यह क्यों मायने रखता है

यह शोध पत्र सुझाव देता है कि जटिल, मूल्य-प्रधान कार्यों में, असहमति को ठीक करने (वोट के जरिए खत्म करने) के बजाय, हमें असहमति का उपयोग एक संकेत के रूप में करना चाहिए।

पुराना तरीका: "हमारे पास एक असहमति है? चलिए वोट के जरिए इसे जबरदस्ती सुलझाते हैं और दिखावा करते हैं कि यह हल हो गया।"
नया तरीका: "हमारे पास एक असहमति है। चलिए मानचित्र देखें। क्या यह 'धुंधली फोटो' वाली स्थिति है (अधिक जानकारी लें) या 'टकराते मूल्यों' वाली स्थिति है (मानव को बुलाएं)?"

"टेस्ट ड्राइव"

लेखकों ने नफरत भरे भाषण (hate speech) के उदाहरणों के एक डेटासेट का उपयोग करके इस विचार का परीक्षण किया। उन्होंने अलग-अलग "व्यक्तित्वों" (जैसे, एक सुरक्षा पर केंद्रित, एक अभिव्यक्ति की स्वतंत्रता पर केंद्रित) वाले पाँच AI एजेंटों का अनुकरण किया।

परिणाम: सिस्टम ने मामलों को सफलतापूर्वक चार श्रेणियों में वर्गीकृत किया।
प्रमाण: वे मामले जहाँ AI एजेंटों में "अभिसारी असहमति" (समान तर्क, भिन्न मूल्य) थी, वे थे जहाँ मानव समीक्षकों के बीच भी सबसे अधिक असहमति देखी गई। यह सिद्ध करता है कि सिस्टम के "मानचित्र" ने सही ढंग से उन कठिन, सबसे अधिक मूल्य-प्रधान मामलों की पहचान की जिन्हें इंसान भी सुलझाने में संघर्ष करते हैं।

सारांश

यह शोध पत्र तर्क देता है कि जटिल, मूल्य-प्रधान कार्यों में, असहमति एक उपयोगी उपकरण है, कोई त्रुटि (bug) नहीं। एजेंटों के असहमति के तरीके को वर्गीकृत करके, हम ऐसे सिस्टम बना सकते हैं जो जानते हैं कि कब स्वचालित रूप से कार्य करना है, कब अधिक जानकारी मांगनी है, और कब बुद्धिमानी से पीछे हटकर मानव को नैतिक दुविधा को संभालने देना है।

तकनीकी सारांश: सर्वसम्मति रणनीतिक रूप से अपर्याप्त है

समस्या विवरण
वर्तमान LLM-आधारित मल्टी-एजेंट सिस्टम मुख्य रूप से बहुमत मतदान (majority voting), बहस के दौर (debate rounds), या फॉल्ट-टॉलरेंट एग्रीगेशन जैसे तंत्रों के माध्यम से एजेंटों के बीच असहमति को कम करने के लिए डिज़ाइन किए गए हैं। हालांकि ये इंस्ट्रुमेंटल कार्यों के लिए प्रभावी हैं जहाँ असहमति शोर या तर्क की विफलता का संकेत देती है, यह सर्वसम्मति-खोजने वाला उद्देश्य मूल्य-युक्त कार्यों (जैसे, सामग्री मॉडरेशन) के लिए रणनीतिक रूप से अपर्याप्त माना जाता है। ऐसे डोमेन में, असहमति अक्सर वास्तविक मानकीय अनिश्चितता (normative uncertainty), परिप्रेक्ष्य भिन्नता, या मूल्य बहुलवाद (value pluralism) को दर्शाती है, न कि एजेंट की त्रुटि को। सभी असहमति को एक दोष मानने के रूप में जिसे औसत निकालकर समाप्त किया जा सके, वैध विवादित स्थितियों को छिपाने का जोखिम उठाता है और व्याख्यात्मक अस्पष्टता (interpretive ambiguity) एवं मूल्यांकनात्मक संघर्ष (evaluative conflict) के बीच अंतर करने में विफल रहता है।

कार्यप्रणाली
लेखक एक ज्ञान-प्रतिनिधित्व (Knowledge-Representation - KR) परत का प्रस्ताव करते हैं जो एजेंट आउटपुट को प्रतीकात्मक असहमति अवस्थाओं (symbolic disagreement states) में सारगर्भित करती है, जो सब-सिंबोलिक LLM विचार-विमर्श और प्रतीकात्मक रणनीतिक नियंत्रण के बीच एक इंटरफ़ेस के रूप में कार्य करती है।

औपचारिक मॉडल:
- एक प्रणाली में $n$ एजेंट होते हैं, जिनमें से प्रत्येक एक आउटपुट $O_i(c) = \langle r_i, d_i, v_i, \gamma_i \rangle$ उत्पन्न करता है, जहाँ $r_i$ एक स्पष्ट तर्क प्रक्रिया (reasoning trace) है, $d_i$ एक बाइनरी निर्णय (जैसे, KEEP/REMOVE) है, $v_i$ एक मूल्य प्रोफ़ाइल (value profile) है, और $\gamma_i$ एक कॉन्फिडेंस स्कोर है।
- KR परत दो आयामों का मूल्यांकन करती है:
  - तर्क समानता (Reasoning Similarity): तर्क प्रक्रियाओं के सिमेंटिक समानता $sim(r_i, r_j)$ द्वारा मापा जाता है। एक थ्रेशोल्ड $\theta_s$ यह निर्धारित करता है कि समानता 'उच्च' (High) है या 'निम्न' (Low)।
  - निष्कर्ष सहमति (Conclusion Agreement): निर्णय पर एजेंटों के अनुपात द्वारा मापा जाता है। एक थ्रेसहोल्ड $\theta_a$ यह निर्धारित करता है कि समूह 'सहमति' (Agreement) में है या 'असहमति' (Disagreement) में।
प्रतीकात्मक वर्गीकरण (Symbolic Taxonomy):
इन आयामों को संयोजित करने से चार विशिष्ट एपिस्टेमिक अवस्थाएँ प्राप्त होती हैं:
- अभिसारी सहमति (Convergent Agreement - CA): उच्च तर्क समानता + निष्कर्ष सहमति।
- अपसारी सहमति (Divergent Agreement - DA): निम्न तर्क समानता + निष्कर्ष सहमति।
- अभिसारी असहमति (Convergent Disagreement - CD): उच्च तर्क समानता + निष्कर्ष असहमति।
- अपसारी असहमति (Divergent Disagreement - DD): निम्न तर्क समानता + निष्कर्ष असहमति।
डिफ़िज़ेबल रणनीतिक रूटिंग (Defeasable Strategic Routing):
यह प्रणाली डिफ़िज़ेबल नियमों (नॉन-मोनोटोनिक रीजनिंग) का उपयोग करके इन अवस्थाओं को रणनीतिक मेटा-एक्शन में मैप करती है, जो डोमेन-विशिष्ट बाधाओं (जैसे, कानूनी आवश्यकताएं या जोखिम स्तर) के आधार पर ओवरराइड की अनुमति देती है:
- CA $\Rightarrow$ Auto: निर्णय को स्वचालित रूप से स्वीकार करें।
- DA $\Rightarrow$ AutoExplain: निर्णय को स्वीकार करें लेकिन हितधारकों के लिए विविध स्पष्टीकरण सुरक्षित रखें।
- DD $\Rightarrow$ SeekContext: अतिरिक्त जानकारी या आगे के विचार-विमर्श का अनुरोध करें (जो अस्थिर व्याख्या का संकेत देता है)।
- CD $\Rightarrow$ Escalate: मानव निर्णय के लिए अग्रेषित करें (जो साझा व्याख्या लेकिन संघर्षित मूल्य भारण का संकेत देता है)।

प्रमुख योगदान

असहमति का पुनर्निर्धारण: यह शोध पत्र असहमति को केवल एक एकत्रीकरण बाधा के रूप में नहीं, बल्कि मल्टी-एजेंट सिस्टम की एक प्रतिनिधि एपिस्टेमिक अवस्था के रूप में पुनर्गठित करता है।
संक्षिप्त वर्गीकरण: यह तर्क समानता और निष्कर्ष सहमति के प्रतिच्छेदन के आधार पर एक चार-अवस्था वर्गीकरण को परिभाषित करता है, जो अस्पष्टता (DD) बनाम मूल्य संघर्ष (CD) के कारण होने वाली असहमति के बीच अंतर करता है।
रणनीतिक रूटिंग नीति: यह इन अवस्थाओं को डिफ़िज़ेबल रूटिंग नियमों के साथ जोड़ता है, जिससे प्रणाली को केवल क्या निर्णय लेना है, इसके बजाय कि क्या निर्णय लेना है, पूछताछ करनी है, या एस्केलेट करना है, इस पर तर्क करने में सक्षम बनाता है।
अनुभवजन्य निष्ठा जाँच (Empirical Faithfulness Check): लेखक 'मेज़रिंग हेट स्पीच' कॉर्पस पर पांच अलग-अलग मूल्य प्रोफाइल वाले LLM एजेंटों के साथ एक कंटेंट मॉडरेशन सेटअप का उपयोग करके KR परत को मान्य करते हैं।

परिणाम

वितरण और क्रम: 600 मदों के नमूने में, अवस्थाओं के वितरण ने मानव एनोटेटर की असहमति के अवधारणात्मक रूप से अनुमानित क्रम को संरक्षित किया: अपसारी सहमति (DA) < अभिसرى सहमति (CA) < अपसारी असहमति (DD) < अभिसारी असहमति (CD)।
सांख्यिकीय महत्व: दोनों असहमति अवस्थाओं (CD, DD) को सहमति अवस्थाओं (CA, DA) से बड़े प्रभाव आकार (Cohen's $d = 0.80$ ) के साथ संयुक्त रूप से अलग किया गया, जो सुझाव देता है कि संरचनात्मक सार (structural abstraction) उन घटनाओं को ट्रैक करता है जिन्हें मनुष्य भी देखते हैं।
पूर्वानुमानित प्रदर्शन: केवल तर्क विचलन की मात्रा (magnitude) का उपयोग करने वाले बेसलाइन (F1 स्कोर 0.503) की तुलना में, श्रेणी-आधारित रूटिंग दृष्टिकोण ने उच्च मानव-असहमति मामलों को फ्लैग करने में उच्च F1 स्कोर (0.548) प्राप्त किया। श्रेणी-आधारित दृष्टिकोण ने अस्पष्ट मामलों (DD) और मानकीय संघर्षों (CD) के बीच अंतर करके परिशुद्धता (precision) में सुधार किया, जिसे केवल मात्रा-आधारित मीट्रिक मिला देता है।

महत्व और दावे
यह शोध पत्र दावा करता है कि असहमति की संरचना में वह जानकारी होती है जो केवल उसकी मात्रा में नहीं होती है। विशेष रूप से, अभिसारी असहमति (CD) को मानकीय संघर्ष के एक मजबूत संकेत के रूप में पहचाना गया है जहाँ एजेंट किसी मामले का विवरण साझा करते हैं लेकिन मूल्यों को अलग तरह से प्राथमिकता देते हैं। ऐसे मामलों में, सर्वसम्मति थोपना स्वचालन (automation) की विफलता माना जाता है; इसके बजाय, एस्केलेशन (escalation) एक तर्कसंगत मेटा-एक्शन है।

यह ढांचा सब-सिंबलिक विचार-विमर्श और प्रतीकात्मक रणनीतिक नियंत्रण के बीच एक व्यावहारिक इंटरफ़ेस के रूप में स्वयं को स्थापित करता है। यह जजमेंट एग्रीगेशन (जो बिना तर्क प्रदर्शित किए वोटों को जोड़ता है) और औपचारिक तर्क (जो पूर्ण अटैक/सपोर्ट ग्राफ को मॉडल करता है) के बीच के अंतर को पाटता है। लेखक इस बात पर जोर देते हैं कि यह KR परत की निष्ठा (faithfulness) पर एक "सेंटी चेक" है न कि स्वयं रूटिंग नीति का बेंचमार्क, यह नोट करते हुए कि अवस्थाओं का गुणात्मक क्रम प्राथमिक भार-वहन करने वाला परिणाम है। यह कार्य सुझाव देता है कि मूल्य-युक्त कार्यों के लिए, मल्टी-एजेंट सिस्टम का लक्ष्य "एजेंटों को कैसे सहमत कराया जाए" से बदलकर "असहमति की संरचना अगले कार्य के लिए क्या निहितार्थ रखती है" पर केंद्रित होना चाहिए।