💻 computer science

Emergence of Biased Consensus in Multi-Agent LLM Debates

تكشف هذه الورقة أن المناظرات بين النماذج اللغوية الكبيرة متعددة الوكلاء يمكن أن تولد تلقائياً تحيزات جماعية من خلال انتقال طوري مستوحى من الفيزياء مدفوع بالامتثال والضجيج، وهي ظاهرة يمكن التخفيف من حدتها من خلال تباين الوكلاء والتحقق من صحتها عبر مهام اتخاذ القرار المختلفة.

المؤلفون الأصليون: Maya Okawa

نُشر 2026-08-05

📖 7 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Maya Okawa

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً لا تكتفي فيه الحواسيب بالتفكير بمفردها، بل تتحدث مع بعضها البعض لحل المشكلات، تماماً مثل مجموعة من الأصدقاء يتناقشون حول أفضل فيلم لمشاهدته أو أذكى طريقة لإنفاق مصروفهم. هذا هو عالم الذكاء الاصطناعي متعدد الوكلاء (multi-agent AI)، حيث تعمل نماذج لغوية كبيرة متعددة (LLMs) — وهي روبوتات الدردشة فائقة الذكاء التي قد تعرفها — معاً في ساحة بلدة رقمية. في هذا المجتمع الرقمي، تشبه "القوانين" التي تحكم تفاعلها قوانين الفيزياء التي تحكم كيفية التصاق المغناطيسات ببعضها أو كيفية تحرك الحشود. لقد عرف العلماء منذ زمن طويل أنه عندما يتحدث الأفراد في مجموعة ما مع بعضهم البعض، يمكنهم عن طريق الخطأ إنشاء "عقل خلية" (hive mind)، حيث يتفق الجميع فجأة على شيء ما، حتى لو كان خاطئاً أو غير عادل. يسأل هذا البحث سؤالاً مخيفاً ولكنه مهم: إذا سمحنا لأصدقاء الذكاء الاصطناعي هؤلاء بالنقاش لاتخاذ قرارات كبرى، فهل يمكنهم بالخطأ التكتل حول فكرة سيئة، وتضخيم تحيزاتهم الصغيرة لتصبح إجماعاً هائلاً ومنحازاً؟

قررت الباحثة وراء هذه الدراسة، مايا أوكاوا وفريقها، معاملة هذه النقاشات بين الذكاء الاصطناعي كأنها تجربة فيزيائية. لقد بنوا نموذجاً رياضياً مستوحى من كيفية اصطفاف المغناطيسات وكيفية تأثير المجموعات الاجتماعية على بعضها البعض. واكتشفوا أن مجموعات الذكاء الاصطناعي هذه لديها "نقطة تحول". إذا كان وكلاء الذكاء الاصطناعي حريصين جداً على الاتفاق مع بعضهم البعض (وهي سمة تسمى المسايرة/الامتثال - conformity) ولم يكن النظام "ضوضائياً" بما يكفي لإبقائهم يفكرون بشكل مستقل، يمكن للمجموعة بأكملها أن تنزلق فجأة إلى حالة منحازة. الأمر يشبه غرفة مليئة بالناس حيث يبدأ الجميع في الهمس بنفس الإشاعة؛ إذا كانت الغرفة هادئة جداً (ضوضاء منخفضة)، فستنتشر الإشاعة فوراً وتصبح هي الحقيقة الوحيدة، حتى لو بدأت ككذبة صغيرة. تشير الورقة البحثية إلى أنه من خلال تعديل مدى "ضوضاء" أو عشوائية تفكير الذكاء الاصطناعي، يمكننا منع حدوث ذلك.

ساحة البلدة الرقمية والإشاعة الهامسة

تخيل نقاشاً بين نماذج لغوية كبيرة متعددة الوكلاء كأنه لعبة "الهاتف المكسور" (Telephone) عالية المخاطر يلعبها لجنة من الحكام الخبراء. في العالم الحقيقي، نستخدم لجان الذكاء الاصطناعي هذه في أمور جادة: تقرير أي الأسهم يجب شراؤها، أو الحكم على من يستحق الحصول على قرض، أو حتى العمل كحكم لمعرفة أي ذكاء اصطناعي كتب مقالاً أفضل. الأمل هو أنه من خلال جعل عدة نماذج ذكاء اصطناعي تتناقش، فإنهم سيلغون أخطاءهم الفردية ويجدون الإجابة المثالية. لكن المؤلفة وجدت خللاً في "المصفوفة" (glitch in the matrix).

أجروا تجارب حيث ناقشت مجموعات من ستة إلى عشرة وكلاء ذكاء اصطناعي موضوعين مختلفين تماماً:

نصيحة استثمارية: طلبوا من الذكاء الاصطناعي بناء محفظة أسهم.
لعبة الحكم: طلبوا من الذكاء الاصطناعي تحديد أي من إجابتين تم إنتاجهما بواسطة الذكاء الاصطناعي كانت أفضل.

لاحظت الباحثة شيئاً غريباً يحدث. عندما تم ضبط وكلاء الذكاء الاصطناعي ليكونوا "مركزين" للغاية (إعداد يسمى درجة الحرارة المنخفضة - low temperature، مما يجعلهم أقل عشوائية وأكثر حتمية)، توقفوا بسرعة عن التفكير لأنفسهم. بدلاً من ذلك، بدأوا في تقليد بعضهم البعض. إذا كان لدى أحد الوكلاء انحياز ضئيل، غير مرئي تقرياً — مثل تفضيل طفيف لأسهم التكنولوجيا الأمريكية أو ميل لتفضيل نوع إجاباته الخاص — فإن المجموعة بأكملها ستضخم ذلك الانحياز الضئيل إلى اتفاق جماعي شامل.

الأمر يشبه إذا كنت أنت وخمسة أصدقاء تقررون أين ستأكلون، وهمس أحد الأصدقاء: "أنا أريد البيتزا حقاً". إذا كان الجميع مركزين جداً ويستمعون بانتباه (ضوضاء منخفضة)، فقد يقول الصديق التالي: "نعم، البيتزا تبدو رائعة"، والثالث قد يقول: "بالتأكيد بيتزا"، حتى يصرخ الجميع في النهاية: "بيتزا!"، حتى لو كانوا جميعاً يرغبون سراً في التاكو. في عالم الذكاء الاصطناعي، تحول هذا "الصراخ" إلى إجماع منحاز. لم تكتفِ المجموعة بالاتفاق فحسب؛ بل اتفقت على إجابة خاطئة أو غير عادلة، وفعلوا ذلك بشكل أسرع وأقوى مما يمكن لأي ذكاء اصطناعي بمفرده أن يفعله.

فيزياء "عقل الخلية"

لفهم سبب حدوث ذلك، لجأت المؤلفة إلى فرع من العلوم يسمى الفيزياء الإحصائية، والتي تدرس كيفية سلوك الجسيمات الصغيرة (مثل الذرات) في المجموعات. استخدموا نموذجاً شهيراً يسمى نموذج إيسينغ (Ising model)، والذي يشرح كيفية عمل المغناطيسات. تخيل أن كل وكيل ذكاء اصطناعي هو مغناطيس صغير يمكنه أن يشير إلى "الأعلى" (الخيار أ) أو "الأسفل" (الخيار ب).

في عالم مثالي، ستشير هذه المغناطيسات بشكل عشوائي. لكن في نقاش الذكاء الاصطناعي، هناك قوتان تسحبانها:

الانحياز الداخلي: كل مغناطيس لديه تفضيل طفيف للتشير للأعلى أو للأسفل بسبب طريقة تدريبه (مثل امتلاك الإنسان للون المفضل).
الجذب الاجتماعي: تريد المغناطيسات أن تصطف مع جيرانها. إذا كان معظم المجموعة يشير للأعلى، فسيشعر الآخرون بـ "ضغط اجتماعي" للإشارة للأعلى أيضاً.

وجدت المؤلفة أن هناك عتبة حرجة. إذا كان "الجذب الاجتماعي" (المسايرة) قوياً جداً مقارنة بـ "الضوضاء" (العشوائية في تفكير الذكاء الاصطناعي)، فإن النظام يخضع لـ تحول طوري (phase transition). وهذه طريقة منمقة للقول إن المجموعة تنتقل فجأة من حالة الاختلاف الصحي في الرأي إلى حالة من الاتفاق المنحاز والجامد.

لقد أثبتوا ذلك بمعادلة رياضية تتنبأ بالضبط متى سيحدث هذا التحول المفاجئ. وهي تعتمد على ثلاثة أشياء:

مدى انحياز الذكاء الاصطناعي الفردي في البداية.
مقدار رغبتهم في الاتفاق مع بعضهم البعض.
مقدار "الضوضاء" (العشوائية) في النظام.

إذا كانت الضوضاء منخفضة جداً (الذكاء الاصطناعي مركز جداً)، فإن حتى الانحياز الضئيل سيتم تضخيمه حتى تقع المجموعة بأكملها في حلقة مفرغة من الانحياز. تظهر الورقة أن هذا ليس مجرد نظرية؛ فقد رأوا ذلك يحدث في تجارب حقيقية. عندما خفضوا "درجة الحرارة" (مقبض الضوضاء) إلى 0.1 أو 0.2، انغلق الذكاء الاصطناي على إجماع منحاز في غضض جولة أو جولتين فقط من الحديث.

المقبض السحري: الضوضاء والتنوع

إذاً، كيف نمنع الذكاء الاصطناعي من التكتل ضد فكرة سيئة؟ تقدم الورقة حلين ذكيين، كلاهما يعمل مثل "تحريك القدر" لكسر التعويذة.

1. ارفع مستوى الضوضاء (درجة الحرارة)
كان الحل الأكثر فعالية بسيطاً بشكل مفاجئ: اجعل الذكاء الاصطناعي أكثر عشوائية. من خلال زيادة درجة حرارة أخذ العينات (sampling temperature) (رفع مقبض الضوضاء إلى 0.8 أو 1.4)، كسر الباحثون الاصطفاف الجامد. أصبح وكلاء الذكاء الاصطناعي أقل عرضة لاتباع الحشد بشكل أعمى. وبدلاً من الانزلاق إلى إجماع منحاز، ظلوا في حالة "تقاطع" (crossover)، حيث يمكنهم الاتفاق، لكنهم لا يعلقون في الإجابة الخاطئة. الأمر يشبه قولك للأصدقاء في مثال العشاء: "مهلاً، دعونا لا نقرر بسرعة؛ لنرمِ عملة معدنية أو نفكر في خيارات أخرى". هذه العشوائية أبقت المجموعة بعيدة عن الوقوع في قرار سيء.

2. اخلط الجمهور (عدم التجانس)
الحل الثاني هو التوقف عن استخدام مجموعة من التوائم المتطابقة. اختبرت المؤلفة ما يحدث عندما يختلط أنواع مختلفة من الذكاء الاصطناعي معاً (على سبيل المثال، وكيل GPT-4، ووكيل Llama، ووكيل DeepSeek) أو منحهم "شخصيات" مختلفة. ووجدت أن عدم التجانس (heterogeneity) (التنوع) يعمل على تنعيم الانتقال الحاد. عندما كانت المجموعة مكونة من نماذج مختلفة، كان تأثير "عقل الخلية" أضعف. النماذج المختلفة لديها طرق تفكير مختلفة، لذا فهي لا تنزلق جميعها في نفس الانحياز في نفس الوقت. إنه يشبه وجود مجموعة من الأصدقاء حيث يحب أحدهم البيتزا، والآخر يحب السوشي، والثالث يحب التاكو؛ قد يستمرون في الجدال، لكنهم لن يقرروا جميعاً فجأة تناول البيتزا فقط لأن أحدهم همس بذلك.

الاختبار في العالم الحقيقي

لم تتوقف المؤلفة عند النظرية. لقد أخذت نتائجها وطبقتها على المهام الواقعية التي بدأت بها: الاستشارات الاستثمارية وتحكيم مقالات الذكاء الاصطناعي.

في مهمة الاستثمار: عندما كان جميع وكلاء الذكاء الاصطناعي متطابقين ومضبوطين على ضوضاء منخفضة، أنشأوا محافظ استثمارية منحازة بشدة نحو أسهم التكنولوجيا الأمريكية، متجاهلين خيارات جيدة أخرى. وعندما خلطوا بين نماذج الذكاء الاصطناعي ورفعوا مستوى الضوضاء، انخفض الانحياز، وأدت المحافظ إلى أداء أفضل (تحقيق أرباح أكثر بالنسبة للسوق).
في مهمة الحكم: عندما كانت نماذج الذكاء الاصطناعي متطابقة ومركزة، أظهروا "انحيازاً ذاتياً"، حيث فضلوا الإجابات التي تم إنتاجها بواسطة عائلة نماذجهم الخاصة على غيرها. ومن خلال خلط نماذج مختلفة وإضافة الضوضاء، تلاشت هذه التفضيلات الذاتية، وأصبحوا حكاماً أكثر عدلاً.

الخلاصة

تشير هذه الورقة إلى أن سلامة نقاشات الذكاء الاصطناعي لا تتعلق فقط بجعل الذكاء الاصطناعي الفردي أكثر ذكاءً، بل بكيفية تفاعلهم مع بعضهم البعض. إذا تركنا مجموعة من نماذج الذكاء الاصطنا sticks المتطابقة وفائقة التركيز تتحدث مع بعضها البعض دون قدر كافٍ من "الضوضاء" أو التنوع، فإننا نخاطر بخلق إجماع منحاز يكون أسوأ مما قد ينتجه أي ذكاء اصطناعي بمفرده. إنه تذكير بأنه في العالم الرقمي، تماماً كما في العالم البشري، يمكن للمجموعة أن تكون عمياء عن تحيزها إذا كان الجميع حريصين جداً على الاتفاق.

الخبر الجيد هو أننا نملك الأدوات لإصلاح ذلك. من خلال إدخال القليل من العشوائية (الضوضاء) وضمان تنوع لجان الذكاء الاصطناي لدينا (عدم التجانس)، يمكننا منعهم من الوقوع في فخ "عقل الخلية". تقترح المؤلفة أن هذه التعديلات البسيطة قد تكون المفتاح لنشر نقاشات الذكاء الاصطناعي بأمان في العالم الحقيقي، لضمان أنه عندما يعمل الذكاء الاصطناعي معاً، فإنهم لا يتفقون فحسب، بل يتفقون على الشيء الصحيح.

ملخص تقني: ظهور الإجماع المنحاز في مناظرات النماذج اللغوية الكبيرة متعددة الوكلاء

بيان المشكلة

بينما أظهرت المناظرات متعددة الوكلاء للنماذج اللغوية الكبيرة (LLM) أداءً فائقاً في اتخاذ القرار وحل المشكلات مقارنة بالاستدلال أحادي النموذج، إلا أن مخاطر السلامة والعدالة فيها لا تزال غير مفهومة بشكل كافٍ. وتحديداً، هناك قلق من أن التفاعلات بين عدة نماذج لغوية قد تؤدي إلى تضخيم التحيزات الفردية للنماذج، مما يؤدي إلى نتائج تمييزية في تطبيقات العالم الحقيقي (مثل القانون، والتمويل، والطب). ورغم أن التحيزات الفردية للنماذج (الديموغرافية، والجغرافية، والسياسية) وتحيزات مستوى التفاعل (المسايرة، والتملق) موثقة بالفعل، إلا أن الآليات التي تضخم بها هذه التفاعلات المحلية التحيزات لتصبح أعرافاً جماعية منحازة لم يتم توصيفها جيداً. يبحث هذا البحث في ظهور هذا الإجماع المنحاز، معتبراً إياه خطراً حرجاً على سلامة الذكاء الاصطعي، حيث يمكن للتحيزات الأولية الصغيرة وضجيج النظام أن يحفزا قرارات جماعية غير عادلة.

المنهجية

يقترح المؤلف إطاراً تحليلياً يطوع نماذج السبين (Spin Models) المستوحاة من الفيزياء الإحصائية (تحديداً نماذج Ising وPotts) من الديناميات الاجتماعية لنمذجة مناظرات الوكلاء المتعددين للنماذج اللغوية الكبيرة.

الإطار النظري

الربط بنماذج السبين:
- الوكلاء: مجتمع من $N$ من وكلاء النماذج اللغوية الكبيرة.
- الحالات: خيارات منفصلة $\sigma_i(t) \in \{-1, +1\}$ (ثنائية) أو $\{1, \dots, q\}$ (متعددة الخيارات).
- المجال الفعال ( $H_i$ ): يتم نمذجة تكلفة القرار للوكيل كدالة لـ:
  - المحاذاة الاجتماعية: المسايرة للجيران، ويتم التحكم فيها عبر قوة التفاعل $\lambda$ ومصفوفة الاتصال $J_{ij}$ .
  - التفضيل الجوهري: دقة متوافقة مع المهمة ( $h_{neutral}$ ).
  - التحيز المحلي: التحولات المنهجية الناجمة عن بيانات التدريب أو المحاذاة ( $h_{bias}$ ).
- الضجيج: يتم ربط عشوائية أخذ العينات في النماذج اللغوية الكبيرة بالعلاقة العكسية لدرجة الحرارة $\beta = 1/T$ ، حيث $T$ هي درجة حرارة أخذ العينات (Sampling Temperature).
الديناميات:
- يقوم الوكلاء بتحديث حالاتهم عبر قاعدة بولتزمان (softmax) لتقليل المجال الفعال.
- يشتق المؤلف تقريب المجال المتوسط (Mean-field approximation) للحالة الجماعية $m(t)$ (متوسط الرأي).
- انتقال الطور (Phase Transition): يتنبأ النظرية بحدوث انتقال طوري حيث يظهر التحيز الجماعي بمجرد أن يتجاوز معامل المسايرة ( $\lambda$ ) وكثافة الشبكة ( $\rho$ ) نسبة الضجيج ( $T$ ) العتبة الحرجة ( $\lambda \rho N / T \gtrsim 1$ ).
- العبور ذو الحجم المحدود (Finite-Size Crossover): على عكس الحد الديناميكي الحراري ( $N \to \infty$ ) الذي يعطي انتقالاً حاداً، تُظهر المجموعات ذات العدد المحدود ( $N \approx 3\text{--}10$ ) "عبوراً مستديراً". كما يتم تنعيم هذا الانتقال بشكل أكبر من خلال تباين الوكلاء (خلط أنواع مختلفة من النماذج أو درجات حرارة مختلفة)، مما يؤدي إلى متوسط الدوال التنشيطية غير الخطية.

التحقق التجريبي

تم اختبار الإطار من خلال:

تجارب أولية: مهام من العالم الحقيقي تشمل بناء محفظة استثمارية وتقييم "النموذج كحكم" (LLM-as-a-Judge) على مجموعة بيانات MT-Bench.
تجارب تركيبية محكومة:
- المهام: اختيار ثنائي (رموز محايدة) وتحيز ضمني (تخصيص مهام جندرية).
- عوامل التحكم: التلاعب المنهجي بدرجة حرارة أخذ العينات ( $T$ )، وتحيز الـ logits على مستوى التوكن ( $b$ )، وندرة التفاعل ( $\rho$ )، وتباين الوكلاء.
- النماذج: 11 نموذجاً لغوياً كبيراً من 5 عائلات (OpenAI, DeepSeek, Llama, Mistral, Qwen).
التعميم في العالم الحقيقي: إعادة تقييم مهام الاستثمار والتحكيم باستخدام مجموعات غير متجانسة (خلط وكلاء بدرجات حرارة مختلفة) لاختبار استراتيجيات التخفيف.

النتائج الرئيسية

1. ظهور الإجماع المنحاز

الملاحظة: في كل من مهام الاستثمار والتحكيم، تؤدي درجات حرارة أخذ العينات المنخفضة ( $T < 0.5$ ) إلى تضخيم التحيزات الأولية الطفيفة بسرعة لتصبح إجماعاً منحازاً خلال جولة أو جولتين.
انتقال الطور: يُظهرت العلاقة بين درجة حرارة أخذ العينات والتحيز الجماعي انتقالاً حاداً يتوافق مع التنبؤ النظري. تؤدي درجة الحرارة المنخفضة إلى حجم إجماع عالٍ ( $|m(R)| \approx 1$ )، بينما تعمل درجة الحرارة العالية على كبح ذلك والحفاظ على التنوع.
تنعيم الحجم المحدود: تُظهر النتائج التجريبية على المجموعات الصغيرة ( $N=11$ ) عبوراً مستديراً بدلاً من خطوة حادة، مما يؤكد التنبؤ النظري بآثار الحجم المحدود.

2. آليات الظهور

المسايرة والضجيج: ينجم ظهور الأعراف المنحازة عن نسبة قوة المسايرة إلى الضجيج. وتعد المسايرة العالية والضجيج المنخفض (درجة حرارة $T$ منخفضة) المحركين الرئيسيين.
خيارات التصميم: إن العوامل العملية مثل ندرة التفاعل (تقليل $\rho$ )، وأخذ عينات top-p (زيادة الضجيج الفعال)، ورؤية الثقة (تعديل $\lambda$ ) تغير بشكل كبير العرف الجماعي، بما يتماشى مع نموذج المجال الفعال.

3. التخفيف عبر التباين (Heterogeneity)

كبح التحيز: يؤدي إدخال تباين الوكلاء (خلط عائلات مختلفة من النماذج اللغية أو تغيير درجات حرارة أخذ العينات) إلى تنعيم دالة الاستجابة الجماعية.
مكاسب الأداء: في مهام العالم الحقيقي، نجحت المجموعات غير المتجانسة (مثل خلط وكلاء بـ $T \in \{1.4, 1.5, 1.6\}$ ) في تقليل حجم الإجماع المنحاز مع تحسين أداء المهام (مثل تحقيق عوائد أعلى معدلة للسوق في الاستثمار، واتفاق أفضل مع الحقيقة البشرية في التحكيم) مقارنة بالنماذج المتجانسة الأساسية.

4. الفائدة التشخيصية

يسمح الإطار بالتقديد العكسي لمعاملات المسايرة ( $\lambda$ ) والتحيز المحلي ( $h_{bias}$ ) من مسارات المناظرة.
تُظهر النتائج تبايناً كبيراً بين النماذج: تُظهر نماذج Llama وQwen الأساسية تحيزاً محلياً ضعيفاً ولكن مسايرة إيجابية، بينما تُظهر متغيرات GPT مسايرة أضعف ولكن باتجاهات تحيز تعتمد أكثر على النوع.

الأهمية والادعاءات

يدعي البحث تحديد خطر جديد على سلامة الذكاء الاصطناعي وهو: ظهور الإجماع المنحاز في أنظمة الوكلاء المتعددين للنماذج اللغية الكبيرة، والذي يمكن أن يؤدي إلى نتائج تمييزية في المجالات عالية المخاطر.

المساهمة النظرية: يقدم إطاراً تحليلياً مبدئياً قائماً على الفيزياء لفهم سلوكيات النماذج اللغية الجماعية، ويتنبأ بأن الأعراف المنحازة تظهر عندما تتجاوز المسايرة عتبة حرجة بالنسبة للضجيج.
المساهمة العملية: يوضح أن تباين الوكلاء والتحكم في الضجيج (ضبط درجة الحرارة) هما تدخلان فعالان وقائمان على النظرية للتخفيف من هذه المخاطر.
دلالة السلامة: يجادل المؤلف بأن تقييمات السلامة يجب أن تمتد إلى ما هو أبعد من تقييم النموذج الفردي لتشمل الديناميات الجماعية وتشكيل الإجماع. ويحذر من أنه بينما تحسن مناظرات الوكلاء المتعددين الموثوقية، إلا أنها قد تضخم التحيزات دون قصد إذا لم تتم إدارتها بشكل صحيح.

يخلص البحث إلى أنه بينما يلتقط الإطار المقترح الآليات الرئيسية، فإن التنبؤ الكامل بهذه الديناميات والتحكم فيها في الأنظمة المعقدة في العالم الحقيقي يظل تحدياً مفتوحاً للعمل المستقبلي.