Council Mode: Mitigating Hallucination and Bias in LLMs via Multi-Agent Consensus
यह शोध पत्र "काउंसिल मोड" (Council Mode) को प्रस्तुत करता है, जो एक नवीन मल्टी-एजेंट कंसेंसस फ्रेमवर्क है जो एक ट्राइएज क्लासिफायर के माध्यम से प्रश्नों को रूट करके, विविध फ्रंटियर मॉडल्स से समानांतर प्रतिक्रियाएं उत्पन्न करके, और उन्हें एक संरचित सर्वसम्मति तंत्र के माध्यम से संश्लेषित करके लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) और पूर्वाग्रहों को कम करता है, जिसके परिणामस्वरूप तथ्यात्मक सटीकता में महत्वपूर्ण सुधार और पूर्वाग्रह भिन्नता में कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
द "काउंसिल मोड" (Council Mode): AI को झूठ बोलने से कैसे रोकें (बिना PhD लिए)
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान AI से एक पेचीदा सवाल पूछते हैं, जैसे "बल्ब का आविष्कार किसने किया था?" या "टूटी हुई हड्डी के लिए सबसे अच्छा उपचार क्या है?" कभी-कभी, AI आपको एक आत्मविश्वास से भरा, सुनने में बहुत सटीक लगने वाला जवाब देता है जो पूरी तरह से मनगढ़ंत होता है। इसे हैलुसिनेशन (hallucination) कहा जाता है। यह उस छात्र की तरह है जिसने परीक्षा के लिए पढ़ाई नहीं की, लेकिन फिर भी एक बहुत ही प्रभावशाली निबंध लिख देता है।
यह पेपर काउंसिल मोड (Council Mode) नामक एक चतुर नई प्रणाली पेश करता है। केवल एक AI से उत्तर पूछने के बजाय, यह अलग-अलग AI के एक पूरे "काउंसिल" (परिषद) को इस पर बहस करने के लिए कहता है, और फिर सबसे अच्छा संस्करण चुनता है।
यह कैसे काम करता है, यहाँ सरल चरणों और कुछ मजेदार उपमाओं के साथ समझाया गया है।
1. समस्या: "एकल विशेषज्ञ" का जाल (The "Single Expert" Trap)
एक सिंगल लार्ज लैंग्वेज मॉडल (LLM) को एक प्रतिभाशाली लेकिन थोड़े अहंकारी प्रोफेसर की तरह समझें।
- वे बहुत कुछ जानते हैं, लेकिन उनकी कुछ कमियां (blind spots) होती हैं।
- यदि उन्हें उत्तर नहीं पता, तो वे अपना सम्मान बचाने के लिए कुछ भी बना सकते हैं क्योंकि वे बहुत आत्मविश्वासी होते हैं।
- यदि उनमें कोई पूर्वाग्रह (bias) है (जैसे, उन्होंने केवल एक देश की किताबें पढ़ी हैं), तो उनके उत्तर पक्षपाती होंगे।
पेपर का तर्क है कि केवल एक "प्रोफेसर" पर भरोसा करना जोखिम भरा है।
2. समाधान: "विशेषज्ञों की परिषद" (The "Council of Experts")
काउंसिल मोड केवल एक के बजाय जजों के एक पैनल को नियुक्त करने जैसा है।
- सेटअप: आप एक AI से नहीं पूछते। आप एक ही समय में तीन अलग-अलग AI से पूछते हैं (जैसे, OpenAI से एक, Google से एक, Anthropic से एक)।
- उपमा: कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं।
- AI #1 एक जासूस है जिसे तकनीक पसंद है।
- AI #2 एक इतिहासकार है जिसे पुरानी किताबें पसंद हैं।
- AI #3 एक वैज्ञानिक है जिसे लैब रिपोर्ट पसंद है।
- यदि आप उनसे पूछते हैं, "बल्ब का आविष्कार किसने किया था?", तो वे सभी सहमत हो सकते हैं। लेकिन यदि वे असहमत होते हैं, तो सिस्टम को सावधान होने का संकेत मिलता है।
3. तीन-चरणीय प्रक्रिया
चरण 1: बाउंसर (इंटेलिजेंट ट्राइएज)
इससे पहले कि काउंसिल की बैठक हो, एक त्वरित "बाउंसर" आपके सवाल की जांच करता है।
- उपमा: यदि आप पूछते हैं, "2+2 क्या है?", तो बाउंसर कहता है, "पूरी काउंसिल को बुलाने की जरूरत नहीं है! मैं ही बता देता हूँ कि यह 4 है।"
- यह समय और पैसा बचाता है। केवल कठिन, पेचीदा सवालों को ही पूरी काउंसिल के पास भेजा जाता है।
चरण 2: समानांतर बहस (एक्सपर्ट जनरेशन)
कठिन सवालों के लिए, सिस्टम एक प्रॉम्प्ट को तीन अलग-अलग AI को एक साथ भेजता है।
- उपमा: यह तीन अलग-अलग पत्रकारों को एक ही अपराध स्थल पर भेजने जैसा है। वे स्वतंत्र रूप से अपनी रिपोर्ट लिखते हैं।
- क्योंकि वे अलग-अलग "प्रजातियों" के AI हैं (जिन्हें अलग-अलग डेटा पर प्रशिक्षित किया गया है), वे अलग-अलग गलतियाँ करते हैं। यदि AI #1 गलती करता है, तो AI #2 सही हो सकता है।
चरण 3: संपादक (कंसेंसस सिंथेसिस)
यही असली जादू है। चौथा AI (जिसे "एडिटर" या संपादक कहा जाता है) तीनों रिपोर्ट पढ़ता है और अंतिम कहानी लिखता है।
- उपमा: कल्पना कीजिए कि संपादक एक बुद्धिमान पुराने लाइब्रेरियन की तरह है।
- सहमति: यदि तीनों कहते हैं "आकाश नीला है," तो संपादक लिखता है, "आकाश नीला है।"
- असहमति: यदि AI #1 कहता है "आकाश हरा है" और AI #2 कहता है "आकाश नीला है," तो संपादक संघर्ष को नोटिस करता है। वह केवल विजेता का चुनाव नहीं करता; वह समझाता है कि वे क्यों असहमत हैं और तथ्यों की जांच करता है।
- अद्वितीय निष्कर्ष: यदि AI #3 कुछ ऐसा कहता है जिसका जिक्र किसी और ने नहीं किया (जैसे "सूर्यास्त के समय आकाश हरा दिखता है"), तो संपादक उस दिलचस्प विवरण को रखता है।
- अंतिम आउटपुट केवल एक "बहुमत का वोट" नहीं है। यह एक सूक्ष्म, तथ्य-जांच किया गया सारांश है जो यह उजागर करता है कि वे कहाँ सहमत हैं और कहाँ उनके बीच विवाद है।
यह क्यों काम करता है? (जादुई गणित)
पेपर एक सरल संभाव्यता (probability) ट्रिक का उपयोग करता है।
- यदि एक AI के झूठ बोलने (हैलुसिनेट करने) की 20% संभावना है, तो यह बुरा है।
- लेकिन इस बात की संभावना कि तीन अलग-अलग AI बिल्कुल एक ही चीज़ के बारे में, बिल्कुल एक ही समय पर झूठ बोलें, बहुत कम है (जैसे 0.2% या उससे कम)।
- उपमा: यह बहुत कम संभावना है कि अलग-अलग पृष्ठभूमि के तीन अलग-अलग लोग गलती से एक ही झूठ बोलें। यदि वे सभी एक ही बात कहते हैं, तो वह शायद सच है। यदि वे असहमत होते हैं, तो सिस्टम झूठ को पकड़ लेता है।
परिणाम: उन्होंने क्या पाया?
शोधकर्ताओं ने इसका परीक्षण उपलब्ध सर्वश्रेष्ठ सिंगल AI (जैसे GPT-5.4 और Claude Opus 4.6) के विरुद्ध किया।
- कम झूठ: काउंसिल मोड ने "हैलुसिनेशन" (झूठ) को 36% तक कम कर दिया।
- अधिक सच्चाई: इसने उन परीक्षणों में बहुत अधिक स्कोर किया जो यह देखने के लिए डिज़ाइन किए गए थे कि क्या AI सच बोलता है।
- कम पूर्वाग्रह: क्योंकि यह विभिन्न AI को मिलाता है, यह किसी एक राजनीतिक या सांस्कृतिक दिशा की ओर बहुत अधिक झुकाव नहीं रखता। यह अधिक संतुलित है।
- समझौता (Trade-off): इसमें थोड़ा अधिक समय लगता है (लग लगभग 8 सेकंड, 3 सेकंड के बजाय) क्योंकि इसे तीन AI के बोलने और फिर संपादक द्वारा लिखने का इंतजार करना पड़ता है। लेकिन महत्वपूर्ण सवालों के लिए, अतिरिक्त समय सटीकता के लिए सार्थक है।
निचोड़ (The Bottom Line)
काउंसिल मोड एक "वन-मैन शो" से "टाउन हॉल मीटिंग" में जाने जैसा है।
एक ऐसी आवाज पर भरोसा करने के बजाय जो गलत या पक्षपाती हो सकती है, यह एक विविध समूह को सुनता है, उनके काम की जांच करता है, और सबसे अच्छा संभव उत्तर तैयार करता है। यह AI को एक आत्मविश्वासी झूठे से बदलकर एक सतर्क, तथ्य-जांच करने वाली टीम में बदल देता है।
संक्षेप में: यदि आप चाहते हैं कि AI सही हो, तो केवल एक विशेषज्ञ से न पूछें। एक कमेटी से पूछें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।