💬 NLP

Council Mode: Mitigating Hallucination and Bias in LLMs via Multi-Agent Consensus

تقدم هذه الورقة "وضع المجلس" (Council Mode)، وهو إطار عمل جديد للتوافق بين الوكلاء المتعددين يعمل على التخفيف من الهلوسة والتحيزات في النماذج اللغوية الكبيرة عبر توجيه الاستعلامات من خلال مصنف فرز، وتوليد استجابات متوازية من نماذج رائدة متنوعة، وتركيبها عبر آلية توافق مهيكلة، مما يؤدي إلى تحسينات كبيرة في الدقة الواقعية وتقليل تباين التحيز.

المؤلفون الأصليون: Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang

نُشر 2026-04-06

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

"وضع المجلس": كيف تمنع الذكاء الاصطناعي من الكذب (دون الحصول على شهادة دكتوراه)

تخيل أنك تسأل ذكاءً اصطناعياً فائق الذكاء سؤالاً صعباً، مثل "من اخترع المصباح الكهربائي؟" أو "ما هو أفضل علاج لكسر في الساق؟". أحياناً، يعطيك الذكاء الاصطناعي إجابة واثقة وذات صياغة سلسة لكنها مختلقة تماماً. هذا ما يسمى بـ "الهلوسة" (Hallucination). الأمر يشبه طالباً لم يذاكر للاختبار، لكنه يكتب مقالاً مقنعاً للغاية على أي حال.

تقدم هذه الورقة نظاماً جديداً وذكياً يسمى "وضع المجلس" (Council Mode). فبدلاً من سؤال ذكاء اصطناعي واحد عن الإجابة، يقوم النظام بسؤال "مجلس" كامل من نماذج ذكاء اصطناعي مختلفة ليتناظروا حولها، ثم يختار النسخة الأفضل.

إليك كيف يعمل هذا النظام، مقسماً إلى خطوات بسيطة مع بعض التشبيهات الممتعة.

1. المشكلة: فخ "الخبير المنفرد"

فكر في نموذج لغوي كبير (LLM) واحد كأنه بروفيسور عبقري ولكنه مغرور قليلاً.

هو يعرف الكثير، لكن لديه نقاط عمياء.
إذا لم يعرف الإجابة، فقد يخترع شيئاً ما فقط ليحافظ على بريقه لأنه واثق جداً من نفسه.
إذا كان لديه انحياز (مثلاً، قرأ كتباً من بلد واحد فقط)، فستكون إجاباته منحازة.

تجادل الورقة بأن الاعتماد على "بروفيسور" واحد فقط هو أمر محفوف بالمخاطر.

2. الحل: "مجلس الخبراء"

وضع المجلس يشبه توظيف لجنة من القضاة بدلاً من مجرد شخص واحد.

الإعداد: أنت لا تسأل ذكاءً اصطناعياً واحداً، بل تسأل ثلاثة نماذج مختلفة في نفس الوقت (على سبيل المثال: واحد من OpenAI، وآخر من Google، وثالث من Anthropic).
التشبيه: تخيل أنك تحاول حل لغز ما.
- الذكاء الاصطنا-ي رقم 1: هو محقق يعشق التكنولوجيا.
- الذكاء الاصطناعي رقم 2: هو مؤرخ يعشق الكتب القديمة.
- الذكاء الاصطناعي رقم 3: هو عالم يعشق التقارير المختبرية.
- إذا سألتهم جميعاً: "من اخترع المصباح الكهربائي؟"، فقد يتفقون جميعاً. ولكن إذا اختلفوا، فإن النظام سيعرف بضرورة توخي الحذر.

3. العملية المكونة من ثلاث خطوات

الخطوة 1: "الحارس" (الفرز الذكي)

قبل أن يجتمع المجلس، يقوم "حارس" سريع بفحص سؤالك.

التشبيه: إذا سألت: "ما هو 2+2؟"، سيقول الحارس: "لا داعي لاستدعاء المجلس بأكمله! سأخبرك فقط أنها 4".
هذا يوفر الوقت والمال؛ فالأسئلة الصعبة والمعقدة فقط هي التي تُرسل إلى المجلس الكامل.

الخطوة 2: "المناظرة المتوازية" (توليد الخبراء)

بالنسب بالنسبة للأسئلة الصعبة، يرسل النظام الطلب إلى ثلاثة أجهزة ذكاء اصطناعي مختلفة في وقت واحد.

التشبيه: الأمر يشبه إرسال ثلاثة صحفيين مختلفين إلى مسرح الجريمة نفسه. يكتب كل منهم تقريره الخاص بشكل مستقل.
ولأنهم "أنواع" مختلفة من الذكاء الاصطناعي (تدربوا على بيانات مختلفة)، فإنهم يرتكبون أخطاءً مختلفة. إذا ارتكب الذكاء الاصطناعي رقم 1 خطأً، فقد يصيب الذكاء الاصطني رقم 2.

الخطوة 3: "المحرر" (توليف الإجماع)

هذا هو الجزء السحري. يقوم ذكاء اصطناعي رابع (وهو "المحرر") بقراءة التقارير الثلاثة وكتابة القصة النهائية.

التشبيه: تخيل أن المحرر هو أمين مكتبة حكيم.
- الاتفاق: إذا قال الثلاثة جميعاً "السماء زرقاء"، يكتب المحرر: "السماء زرقاء".
- الاختلاف: إذا قال الذكاء الاصطناعي رقم 1 "السماء خضراء" وقال رقم 2 "السماء زرقاء"، فإن المحرر يلاحظ هذا التعارض. هو لا يكتفي باختيار الفائز فحسب، بل يشرح لماذا اختلفوا ويتحقق من الحقائق.
- النتائج الفريدة: إذا قال الذكاء الاصطناعي رقم 3 شيئاً لم يذكره الآخرون (مثل "السماء تبدو خضراء عند الغروب")، فإن المحرر يحتفظ بهذا التفصيل المثير للاهتمام.
المخرج النهائي ليس مجرد "تصويت أغلبية". إنه ملخص دقيق ومُدقق حقائقياً يسلط الضوء على مواضع اتفاقهم ومواضع خلافهم.

لماذا ينجح هذا؟ (الرياضيات السحرية)

تستخدم الورقة خدعة احتمالية بسيطة.

إذا كان لدى ذكاء اصطناعي واحد احتمال بنسبة 20% للكذب (الهلوسة)، فهذا أمر سيء.
لكن احتمال أن يكذب ثلاثة أجهزة ذكاء اصطناعي مختلفة حول نفس الشيء بالضبط في نفس الوقت بالضبط هو احتمال ضئيل جداً (مثل 0.2% أو أقل).
التشبيه: من غير المرجح جداً أن يخبر ثلاثة أشخاص مختلفين، من خلفيات مختلفة، نفس الكذبة بالصدفة. إذا قالوا جميعاً نفس الشيء، فمن المرجح أن يكون ذلك حقيقياً. وإذا اختلفوا، فإن النظام يكتشف الكذبة.

النتائج: ماذا وجدوا؟

اختبر الباحثون هذا النظام مقابل أفضل نماذج الذكاء الاصطناعي الفردية المتاحة (مثل GPT-5.4 و Claude Opus 4.6).

كذب أقل: قلل "وضع المجلس" من "الهلوسة" (الأكاذيب) بنسبة 36%.
حقيقة أكثر: سجل درجات أعلى بكثير في الاختبارات المصممة لمعرفة ما إذا كان الذكاء الاصطناعي يقول الحقيقة.
انحياز أقل: نظرًا لأنه يمزج بين نماذج ذكاء اصطناعي مختلفة، فإنه لا يميل بشدة نحو اتجاه سياسي أو ثقافي معين، بل هو أكثر توازناً.
المقايضة: يستغرق الأمر وقتاً أطول قليلاً (حوالي 8 ثوانٍ بدلاً من 3 ثوانٍ) لأنه يجب عليه انتظار ثلاثة أجهزة ذكاء اصطناعي للتحدث ثم انتظار المحرر ليكتب. ولكن بالنسبة للأسئلة الهامة، فإن الوقت الإضافي يستحق الدقة.

الخلاصة

وضع المجلس يشبه الانتقال من "عرض الشخص الواحد" إلى "اجتماع البلدية".
بدلاً من الثقة في صوت واحد قد يكون خاطئاً أو منحازاً، يستمع النظام إلى مجموعة متنوعة، ويتحقق من عملهم، ويصيغ أفضل إجابة ممكنة. إنه يحول الذكاء الاصطناعي من كاذب واثق إلى فريق دقيق يدقق في الحقائق.

باخت-صار: إذا كنت تريد أن يكون الذكاء الاصطناعي على صواب، فلا تسأل خبيراً واحداً. اسأل لجنة.

بناءً على التقرير الفني المقدم، إليك ملخص مفصل لإطار عمل "وضع المجلس" (Council Mode).

1. بيان المشكلة

تواجه النماذج اللغوية الكبيرة (LLMs)، وخاصة تلك التي تستخدم بنيات خليط الخبراء (Mixture-of-Experts - MoE)، نمطين حرجين من الفشل:

الهلوسة (Hallucinations): توليد محتوى بليغ ولكنه غير صحيح واقعياً. في نماذج MoE، يتفاقم هذا الأمر بسبب "انهيار الخبير" (حيث يتخصص خبراء معينون بشكل مفرط في ارتباطات خاطئة) والتوجيه المتناثر، مما يحد من تفعيل إجمالي المعرفة البارامترية للنموذج.
التحيز المنهجي (Systematic Bias): يمكن لآليات التوجيه أن تسبب تحيزات بناءً على سمات سطحية بدلاً من المحتوى الدلالي، مما يؤدي إلى أداء غير متسق عبر المجالات المختلفة.

تعمل استراتيجيات التخفيف التقليدية مثل التوليد المعزز بالاسترجاع (RAG) أو التعلم المعزز من التغذية الراجعة البشرية (RLHF) ضمن حدود ذاكرة النموذج البارامترية الواحدة. ويجادل البحث بأن هذه الأساليب غير كافية لأنها تفتقر إلى التنوع المعرفي المطلوب للتحقق المتبادل من الحقائق وتصحيح الأخطاء الفردية.

2. المنهجية: بنية المجلس (The Council Architecture)

يقترح المؤلفون "وضع المجلس" (Council Mode)، وهو إطار عمل توافقي متعدد الوكلاء مهيكل يقوم بإرسال الاستفسارات إلى نماذج لغوية رائدة ومتعددة وغير متجانسة بالتوازي، ثم يقوم بتوليف مخرجاتها. يعمل خط الإنتاج عبر ثلاث مراحل متميزة:

المرحلة الأولى: الفرز الذكي (Intelligent Triage)

لتحسين استهلاك الموارد الحسابية، يقوم مصنف خفيف الوزن ( $T$ ) بتقييم تعقيد الاستعلام.

الآلية: مرشح ذو مرحلتين (تعبير نمطي/regex من جهة العميل، ونموذج لغوي خفيف من جهة الخادم) لتحديد الاستفسارات التافهة (مثل التحيات، أو المدخلات القصيرة).
الإجراء: تتجاوز الاستفسارات التافهة عملية "المجلس" الكاملة لتقديم إجابة مباشرة، بينما يتم توجيه الاستفسارات المعقدة إلى مسار التوافق الكامل.

المرحلة الثانية: التوليد المتوازي للخبراء (Parallel Expert Generation)

يتم إرسال الاستفسارات غير التافهة في وقت واحد إلى $N$ من النماذج الخبيرة المتميزة ( $E_1, E_2, ..., E_N$ ).

التنوع: يستخدم النظام نماذج من مزودين مختلفين (OpenAI، Anthropic، Google) ببنيات وبيانات تدريب مختلفة لتعظيم التنوع المعرفي.
التنفيذ: في الدراسة، $N=3$ (نماذج GPT-5.4، وClaude Opus 4.6، وGemini 3.1 Pro).
زمن الاستجابة (Latency): يتم التنفيذ بشكل غير متزامن (باستخدام Promise.all())، مما يضمن أن يكون إجمالي زمن الاستجابة مرتبطاً بأبطأ خبير بدلاً من مجموع أزمنة جميع الخبراء.

المرحلة الثالثة: التوليف التوافقي (Consensus Synthesis)

يقوم نموذج توليف مخصص ( $S$ ) بتجميع الاستجابات من الخبراء باستخدام بروتوكول مهيكل يحتوي على 16 قاعدة إلزامية. وبدلاً من مجرد التصويت بالأغلبية، يتم تفكيك المخرجات إلى أربعة أقسام:

نقاط التوافق ( $O_{consensus}$ ): الادعاءات الواقعية التي يدعمها جميع الخبراء.
الخلافات ( $O_{disagree}$ ): المعلومات المتضاربة التي تم تحديدها بين الخبراء.
النتائج الفريدة ( $O_{unique}$ ): الرؤى الموجودة في استجابة خبير واحد فقط.
التحليل الشامل ( $O_{analysis}$ ): استجابة نهائية تم التحقق من حقائقها، تعمل على حل الخلافات وسياقة النتائج الفريدة.

3. المساهمات الرئيسية

اقتراح إطار العمل: تقديم إطار عمل توافقي متعدد الوكلاء ثلاثي المراحل (الفرز $\leftarrow$ التوليد المتوازي $\leftarrow$ التوليف المهيكل) المصمم خصيصاً للتخفيف من الهلوسة والتحيز.
الصياغة الرياضية: تعريف رسمي لآلية التوافق، بما في ذلك دالة الفرز، وبروتوكول الإرسال المتوازي، وتجميع ادعاءات الخبراء باستخدام نظرية المجموعات.
التنفيذ مفتوح المصدر: إطلاق تنفيذ كامل يعتمد على السحابة ومدمج في مساحة عمل ذكاء اصطناعي مفتوحة المصدر، والتي تتميز بالبث الفوري لحالات استدلال الخبراء عبر أحداث الخادم المستمرة (SSE).
التحقق التجريبي: تقييم شامل أظهر تحسينات كبيرة مقارنة بالنماذج الفردية، مدعوماً بدراسات الاستئصال (Ablation studies) التي تثبت ضرورة عدم تجانس النماذج والتوليف المهيكل.

4. النتائج التجريبية

تم تقييم "وضع المجلس" مقابل خمسة نماذج رائدة فردية (GPT-5.4، وClaude Opus 4.6، وGemini 3.1 Pro، وDeepSeek V3.2، وSeed 2.0 Pro) عبر اختبارات معيارية متعددة.

تقليل الهلوسة: في اختبار HaluEval المعياري، حقق "وضع المجلس" انخفاضاً نسبياً بنسبة 35.9% في معدلات الهلوسة مقارنة بأفضل نموذج فردي (Claude Opus 4.6).
- متوسط معدل الهلوسة: 10.7% (المجلس) مقابل 16.7% (أفضل نموذج فردي).
الصدق (Truthfulness): في اختبار TruthfulQA، حسن الإطار درجة الصدق بمقدار 7.8 نقطة مئوية (82.6% مقابل 74.8%).
تخفيف التحيز: انخفض التباين في الأداء عبر ستة مجالات (العلوم، التاريخ، الطب، القانون، التكنولوجيا، التمويل) بنسبة 85-89% (انخفض التباين $\sigma^2$ من ~0.025 إلى 0.003)، مما يشير إلى حيادية متسقة للغاية.
تدرج التعقيد: مع زيادة تعقيد المهمة (حتى 10 خطوات استدلال)، حافظ "وضع المجلس" على دقة أعلى بكثير (71.2% عند أقصى تعقيد) مقارنة بالنماذج الفردية، التي أظهرت تدهوراً حاداً.
رؤى الاستئصال (Ablation Insights):
- عدم التجانس هو المفتاح: استخدام ثلاث نسخ من نفس النموذج (مثلاً 3x GPT-5.4) أدى إلى انخفاض بنسبة 18.3% فقط في الهلوسة، بينما حقق "المجلس" غير المتجانس انخفاضاً بنسبة 35.9%.
- التوليف مقابل التصويت: استبدال التوليف المهيكل بالتصويت البسيط بالأغلبية أدى إلى زيادة معدلات الهلوسة بنسبة 32.7%، مما يثبت أن التحليل الدلالي العميق للخلافات أمر بالغ الأهمية.

5. الأهمية والقيود

الأهمية:
يثبت البحث أن التنوع المعرفي هو رافعة أكثر فعالية للموثوقية من مجرد توسيع نطاق نموذج واحد. ومن خلال التعامل مع النماذج اللغوية الكبيرة كـ "مجلس" من الخبراء بدلاً من كونها أوراكل (عراف) متجانس، يمكن للنظام تحديد وتصفية إخفاقات النماذج الفردية. إن نهج التوليف المهيكل يحافظ على الرؤى وسلاسل الاستدلال للأقلية التي تُفقد عادةً في آليات التصويت، مما يقدم نموذجاً جديداً لبناء أنظمة ذكاء اصطناعي جديرة بالثقة.

القيود:

زمن الاستجابة (Latency): يتسبب هذا النهج في زيادة بمقدار 2-3 أضعاف في زمن الاستجابة (بمتوسط 8.4 ثانية مقابل 2.8-5.6 ثانية للنماذج الفردية)، مما يجعله أقل ملاءمة للتطبيقات التي تتطلب استجابة فورية وزمن استجابة منخفض.
التكلفة والتوافر: الاعتماد على واجهات برمجة تطبيقات (APIs) لنماذج رائدة متعددة يزيد من التكاليف التشغيلية والاعتماد على مزودين خارجيين.
المفاهيم الخاطئة المشتركة: إذا تشارك جميع الخبراء نفس التحيز في بيانات التدريب أو نفس المفهوم الخاطئ، فإن آلية التوافق لن تستطيع تصحيحه.

الخلاصة:
يمثل "وضع المجلس" خطوة هامة للأمام في موثوقية النماذج اللغوية الكبيرة، حيث ينقل التركيز من محاذاة النموذج الواحد إلى التوافق متعدد الوكلاء. إنه يقدم حلاً قوياً ومفتوح المصدر للتطبيقات التي تُعطى فيها الأولوية للدقة الواقعية والحد من التحيز على حساب السرعة.