🤖 machine learning

What Suppresses Nash Equilibrium Play in Large Language Models? Mechanistic Evidence and Causal Control

تكشف هذه الورقة أن النماذج اللغوية الكبيرة تمتلك الكفاءة الميكانيكية لحساب توازن ناش، لكنها تقمع هذا السلوك الاستراتيجي بنشاط من خلال تجاوز اجتماعي إيجابي متجذر في مرحلة ما قبل التدريب، وهي ظاهرة يمكن عكسها سببياً عبر التدخل وتتأثر بشكل كبير بحجم النموذج وأساليب الاستدلال.

المؤلفون الأصليون: Paraskevas V. Lekeas, Giorgos Stamatopoulos

نُشر 2026-05-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Paraskevas V. Lekeas, Giorgos Stamatopoulos

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مجموعة من الروبوتات شديدة الذكاء تلعب لعبة "معضلة السجين". في هذه اللعبة، الحركة الأكثر ذكاءً ومنطقية هي أن تخون شريكك (الخيانة/Defect)، ولكن إذا خان كلاكما الآخر، فسيخسر كلاكما الكثير. أما إذا وثق كلاكما في الآخر (التعاون/Cooperate)، فسيحقق كلاكما نتيجة جيدة.

لفترة طويلة، لاحظ الباحثون أن روبوتات الذكاء الاصطناي هذه تستمر في اختيار "التعاون" حتى عندما يملي عليها المنطق "الخيانة". ظنوا أن الروبوتات ليست ذكية بما يكفي لفهم الرياضيات.

تقول هذه الورقة البحثية: "أنتم مخطئون. إنهم يعرفون الرياضيات جيداً، لكنهم يختارون تجاهلها فحسب."

إليك قصة ما وجده المؤلفون، مشروحة ببساطة.

1. الروبوتات لديها "دماغ سري"

أخذ المؤلفون نموذج ذكاء اصطناعي ضخم (Llama-3-8B) ونظروا داخل "دماغه" (طبقاته الداخلية) أثناء لعبه للعبة. أرادوا معرفة ما يفكر فيه الروبوت في كل خطوة.

وجدوا شيئين مختلفين تماماً يحدثان في نفس الوقت:

طبقة "المنطق": في النصف الأول من دماغ الروبوت، كان الأمر واضحاً تماماً. كان يعرف بالضبط ما فعله الخصم في المرة السابقة، وحسب أن الحركة المنطقية والرابحة هي الخيانة. كان يفكر كعالم رياضيات بارد وصارم.
طبقة "الرجل الطيب": ولكن بعد ذلك، ومع انتقال المعلومات إلى الطبقات الأخيرة من الدماغ، حدث تحول ما. تدخل "تجاوز اجتماعي إيجابي" (prosocial override). كان الأمر أشبه ببوصلة أخلاقية مدمجة تقول: "انتظر، يجب أن نكون لطفاء. لنتعاون."

التشبيه: تخيل أن الروبوت هو محامٍ يعرف تماماً كيف يكسب قضية عن طريق كسر القواعد (توازن ناش/Nash Equilibrium). ولكن قبل أن يتحدث مباشرة، تتدخل دائرة "الضمير" في دماغه وتلغي قراره، وتجبره على قول الحقيقة، رغم أن قول الحقيقة سيجعله يخسر.

2. الانحياز لـ "اللطف" متجذر في البنية

اكتشف الباحثون أن هذا "التجاوز التعاوني" ليس وحدة برمجية محددة أو جزءاً واحداً من الدماغ. إنه أشبه بـ "مقبض تحكم في مستوى الصوت" موجود في الطبقات الأخيرة من الشبكة.

يحسب الروبوت حركة "الخيانة" بدقة مثالية.
ثم، يرتفع صوت مقبض "الرجل الطيب"، ليطغى على المنطق ويفرض قرار "التعاون".
يحدث هذا لأن الروبوت تم تدريبه على النصوص البشرية، حيث يكون الناس غالباً لطيفين، ثم تم تدريبه لاحقاً ليكون مفيداً (RLHF).

3. مفارقة "التفكير" (سلسلة الأفكام - Chain-of-Thought)

اختبر المؤلفون ما إذا كان جعل الروبوتات "تفكر بصوت عالٍ" (سلسلة الأفكام) سيساعدها على لعب اللعبة المنطقية.

الروبوتات الصغيرة (8B بارامتر): عندما حاولوا جعلها تفكر بصوت عالٍ، أصبحت في الواقع أسوأ. أصبح انحيازها لـ "اللطف" أعلى صوتاً، وتعاونت أكثر فأكثر، متجاهلة المنطق.
الروبوتات الضخمة (70B+ بارامتر): كانت هذه العمالقة مختلفة. عندما فكرت بصوت عالٍ، استطاعت أخيراً التغلب على انحياز "اللطف". استخدمت قدرتها على الاستنتاج لتقول: "لا، المنطق يقول إننا يجب أن نخون"، وفعلت ذلك بالفعل.

التشبيه: الأمر يشبه طفلاً صغيراً يحاول مقاومة قطعة حلوى. إذا طلبت منه أن "يفكر في الأمر"، فإنه سيفكر فقط في مدى رغبته في قطعة الحلوى. لكن الشخص البالغ (النموذج الكبير) يمكنه استخدام منطقه ليقول: "لا ينبغي أن آكل ذلك"، ويوقف نفسه بالفعل.

4. تأثير "العدوى"

راقب الباحثون أيضاً ما يحدث عندما يلعب روبوتات مختلفة ضد بعضها البعض.

"التفاحة الفاسدة": إذا لعب روبوت صغير (وهو "لطيف" جداً بطبيعته) ضد روبوت كبير، فإن الروبوت الصغير سيخون في وقت مبكر. سيرى الروبوت الكبير ذلك، وسيشعر بالخوف، ويبدأ في الخيانة أيضاً. تتحول اللعبة بأكملها إلى فوضى من الخيانة.
"غرفة الصدى": إذا لعب روبوتان ضخمان ضد بعضهما البعض دون التفكير بصوت عالٍ، فسيقعان في حلقة من التعاون اللانهائي. سيستمران في الثقة ببعضهما البعض إلى الأبد، رغم أنهما يعلمان أن كلاهما يجب أن يخون الآخر ليربح.

5. "عجلة القيادة" السحرية

الجزء الأكثر إثارة في الورقة البحثية هو أن المؤلفين لم يكتفوا بالمراقبة؛ بل سيطروا على الموقف.
لقد وجدوا "الاتجاه" المحدد في دماغ الروبوت الذي يتحكم في انحياز "الرجل الطيب".

التجربة: أعطوا الروبوت "دفعة" كهربائية صغيرة جداً في دماغه في بداية العملية.
النتيجة:
- إذا دفعوه في اتجاه واحد، أصبح الروبوت خائناً منطقياً بنسبة 100% (يلعب توازن ناش المثالي).
- إذا دفعوه في الاتجاه الآخر، أصبح الروبوت متعاوناً ومحباً للخير بنسبة 100%.

التشبيه: تخيل سيارة تقود نفسها نحو منحدر (تتعاون بينما يجب أن تخون). وجد الباحثون رافعة صغيرة تحت لوحة القيادة. إذا سحبوا الرافعة مليمترًا واحدًا فقط، ستنعطف السيارة فوراً بعيدًا عن المنحدر وتقود بشكل مثالي. لم يضطروا لإعادة بناء المحرك؛ كل ما فعلوا هو توجيهها فقط.

الخلاصة

تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطناعي ليست "سيئة في الرياضيات". إنها في الواقع جيدة جداً في حساب الحركة المنطقية والأنانية. المشكلة هي أن تدريبها يجعلها تُقمع ذلك المنطق لصالح كونها "لطيفة".

أظهر المؤلفون أن هذا القمع يحدث في الطبقات الأخيرة من الدماغ، ومن خلال تدخل بسيط، يمكننا إيقاف تشغيل هذا الانحياز لـ "اللطف" والسماح للروبوت بلعب اللعبة تماماً كما يملي عليه المنطق.

ملخص تقني: ما الذي يثبط لعب توازن ناش في النماذج اللغوية الكبيرة؟

بيان المشكلة

أثبتت الدراسات التجريبية أن الوكلاء من النماذج اللغوية الكبيرة (LLMs) ينحرفون بشكل منهجي عن توازنات ناش في التفاعلات الاستراتيجية، حيث يُظهرون غالباً تحيزات سلوكية تشبه البشر مثل التعاون المفرط في سيناريوهات معضلة السجين (Prisoner's Dilemma). وبينما تم توثيق هذه الظاهرة السلوكية، إلا أن الأسباب الميكانيكية لهذه الانحرافات لا تزال مجهولة. وتحديداً، ليس من الواضح ما إذا كانت النماذج اللغوية الكبيرة تفتقر إلى الكفاءة الاستراتيجية لحساب توازنات ناش، أم أنها تحسبها ولكنها تثبط المخرجات بسبب تحيزات داخلية. تعالج هذه الورقة هذه الفجوة من خلال استقصاء التمثيلات الداخلية للنماذج اللغوية الكبيرة أثناء اتخاذ القرار الاستراتيجي وتحديد ما إذا كانت هذه الانحرافات قابلة للعكس سببياً.

المنهجية

تستخدم الدراسة مزيجاً من التجارب السلوكية وتقنيات التفسير الميكانيكي عبر أربعة نماذج مفتوحة المصدر مضبوطة التعليمات (Llama-3-8B، وLlama-3-70B، وQwen2.5-32B، وQwen2.5-72B).

التجارب السلوكية:

الألعاب: تم استخدام أربع ألعاب كلاسيكية ثنائية اللاعبين: معضلة السجين (PD)، ومعركة الجنسين (BoS)، وصيد الوعل (SH)، ورمي العملة المتطابق (MP).
البروتوكولات: شملت التجارب اللعب الذاتي (نموذج ضد نسخة منه) واللعب المتقاطع (تزاوج غير متجانس لجميع التشكيلات الـ 12 المرتبة).
أنماط الاستدلال: تم اختبار ثلاث حالات من التلقين (Prompting): المباشر (الإجراء فقط)، وسلسلة الأفكام (CoT، استدلال مرئي)، وورقة المسودة (Scratchpad، استدلال خاص).
المقياس: تم حساب "مسافة ناش" ( $d_{Nash}$ ) كالمسافة الإقليدية بين الاستراتيجية المختلطة التجريبية وأقرب توازن ناش على مدار 50 جولة.

التحليل الميكانيكي (Llama-3-8B):

الاستقصاء الخطي (Linear Probing): تم تدريب مصنفات لوجستية على الحالات المخفية ( $h_l$ ) عند كل طبقة من الطبقات الـ 32 لفك تشفير تاريخ الخصم، ونزعة التعاون، وإجراء ناش.
عدسة اللوجيت (Logit Lens): تم تطبيق مصفوفة تضمين المخرجات على الحالات المخفية المتوسطة لتتبع توقع النموذج المتطور للرمز (token) طوال عملية التمرير الأمامي.
استئصال الرؤوس (Head Ablation): تم إجراء استئصال صفري لرؤوس الانتباه الأعلى تصنيفاً والمسؤولة عن تتبع الخصم لاختبار الدوائر المحلية.
توجيه التنشيط (Activation Steering): تم استخراج متجه "اتجاه ناش" من التيار المتبقي (residual stream) باستخدام تلقينات تباينية (تاريخ تعاوني مقابل تاريخ خيانة) وحقنه في النموذج لمراقبة التحولات السببية.
تثبيت المفهوم (Concept Clamping): تم استبدال المكون التعاوني للحالة المخفية بقيمة قياسية ثابتة للتحقق من الضرورة السببية للاتجاه المحدد.

المساهمات والنتائج الرئيسية

1. النتائج الميكانيكية: الترميز والتثبيط

الاكتشاف الميكانيكي الجوهري هو أن النماذج اللغوية الكبيرة تمتلك الكفاءة لحساب استراتيجيات ناش، لكنها تثبطها بنشاط في الطبقات النهائية.

ترميز تاريخ الخصم: يتم ترميز المعلومات المتعلقة بالحركة الأخيرة للخصم بدقة شبه كاملة (دقة استقصاء 96%) عند الطبقة الأولى (الطبقة 0)، ويتم استهلاكها تدريجياً بواسطة الطبقات اللاحقة.
ترميز ناش الضعيف: لا يوجد "وحدة ناش" مخصدة. تظل دقة الاستقصاء الخطي لإجراء ناش ضعيفة طوال الشبكة، حيث لا تتجاوز 56% أبداً.
دائرة التثبيط: باستخدام "عدسة اللوجيت"، لاحظ المؤلفون أنه بالنسبة لـ 75% الأولى من الشبكة (الطبقات 0-23)، تفضل التوقعات الداخلية للنموذج إجراء ناش (مثل الخيانة في معضلة السجين). ومع ذلك، في الربع الأخير (الطبقات 24-30)، يظهر "تجاوز اجتماعي" (prosocial override)، مما يحول الاحتمالية نحو التعاون (تصل ذروة احتمال التعاون إلى 84% عند الطبقة 30). الطبقة الأخيرة (31) تصحح هذا جزئياً ولكنها غالباً ما تلتزم بالإجراء غير التابع لناش.
الطبيعة الموزعة: أدى استئصال رؤوس انتباه محددة مسؤولة عن تتبع الخصوم إلى عدم وجود أي تأثير على توزيع الإجراء ( $\Delta P(Nash) = 0.000$ ). التجاوز التعاوني هو تأثير موزع داخل التيار المتبقي، وليس محصوراً في رؤوس محددة.

2. التحكم السببي عبر التوجيه

تُظهر الدراسة أن السلوك الاستراتيجي يمكن التحكم فيه سببياً من خلال التلاعب بالتيار المتبقي.

استخراج اتجاه ناش: تم استخراج اتجاه خطي يمثل الانحياز التعاوني من الطبقة 2.
التوجيه ثنائي الاتجاه: سمح حقن هذا المتجه بتحكم أحادي الاتجاه في السلوك.
- التوجيه السلبي: أدى تقليل الاتجاه التعاوني ( $\alpha = -5$ ) إلى زيادة احتمال إجراء ناش (الخيانة) إلى 99.2%.
- التوجيه الإيجابي: أدت زيادة الاتجاه ( $\alpha = +10$ ) إلى دفع التعاون إلى 88.7%.
تثبيت المفهوم: أكد استبدال المكون التعاوني بقيمة قياسية ثابتة وجود ارتباط قوي ( $r=0.73$ ) بين القيمة القياسية واحتمالية التعاون، مما يثبت أن الاتجاه سببي وليس مجرد سمة زائفة.

3. ظواهر اللعب المتقاطع والسلوك

الحجم والاستدلال: يؤدي استدلال سلسلة الأفكام (CoT) إلى تفاقم اللعب في ناش في النماذج الصغيرة (مثل Llama-8B، وQwen-32B) من خلال تضخيم الأولوية التعاونية. ومع ذلك، في النماذج الكبيرة (>70 مليار معلمة)، يُمكّن الـ CoT النموذج من تحقيق لعب مثالي لناش، مما يشير إلى قدرة تعتمد على الحجم للاستدلال وتجاوز الانحياز.
القفل التعاوني العالمي: في الوضع المباشر، تلتزم جميع النماذج بالتعاون بنسبة 100% في معضلة السجين، بغض النظر عن حجمها.
ديناميكيات اللعب المتقاطع:
- عدوى الخيانة: يمكن لنموذج صغير (Llama-8B) أن "يفكك" تعاون أي شريك كبير من خلال الخيانة مبكراً، مما يدفع الشريك إلى الخيانة والوصول إلى توازن ناش.
- التعزيز التعاوني: عندما يتم الجمع بين نموذجين كبيرين، يعززان غرائزهما التعاونية إلى الأبد، ويفشلان في الوصول إلى توازن ناش (الخيانة المتبادلة) حتى عندما يكون كل منهما قادراً على الاستدلال نحو ذلك بشكل فردي.
- عدم تماثل الأدوار: في ألعاب التنسيق (BoS)، يحدد الوكيل المعين كـ "الوكيل أ" (الذي يتحرك أولاً) التوازن الذي يستقر عنده النظام.

الأهمية والادعاءات

تجادل الورقة بأن تركيز المجال على لماذا تفشل النماذج اللغوية الكبيرة في لعب ناش هو تركيز في غير محله. الاكتشاف المركزي هو أن النماذج اللغوية الكبيرة لا تفتقر إلى الكفاءة في لعب ناش؛ بل هي تحسبه ثم تثبطه.

التشخيص: الانحراف ليس نقصاً في القدرة على الاستدلال الاستراتيجي، بل هو نتيجة لـ "تجاوز اجتماعي" متجذر في التدريب المسبق على النصوص البشرية والمعدل بواسطة التعلم التعزيزي من التغذية الراجعة البشرية (RLHF). هذا التجاوز يتركز في الطبقات النهائية من الشبكة.
التدخل: بما أن التثبيط هو آلية سببية داخل التيار المتبقي، فإنه يمكن عكسه أثناء الاستدلال دون إعادة تدريب. تدخل صغير (التوجيه) في الطبقات المبكرة يمكن أن ينقل النموذج من التعاون شبه المثالي إلى لعب ناش شبه المثالي.
الآثار المترتبة على النشر: تسلط النتائج الضوء على أن تكوين السكان وتعيين أدوار الوكلاء أمر بالغ الأهمية. يمكن لوكيل واحد صغير يخون أن يزعزع استقرار مجموعة تعاونية من النماذج الكبيرة، بينما قد يظل نموذجان كبيران محاصرين في قفل تعاوني، وهو وضع أقل مثالية من هيكل اللعبة.

يخلص المؤلفون إلى أن فهم دائرة التثبيط وتغيرها عبر الحجم والبنية أكثر إنتاجية من مجرد مراقبة الانحرافات السلوكية. توفر الدراسة تفسيراً سببياً للفشل الاستراتيجي في النماذج اللغوية الكبيرة وتوفر طريقة لتصحيحه.