💬 NLP

TriEx: A Game-based Tri-View Framework for Explaining Internal Reasoning in Multi-Agent LLMs

تقدم هذه الورقة TriEx، وهو إطار عمل ثلاثي الرؤية قائم على الألعاب يعزز قابلية التفسير للنماذج اللغوية الكبيرة متعددة الوكلاء من خلال مواءمة الاستدلال من منظور الشخص الأول، وحالات الاعتقاد من منظور الشخص الثاني، وتدقيقات "الأوراكل" من منظور الشخص الثالث للكشف عن عدم التطابق المنهجي بين المنطق المعلن للوكلاء، ومعتقداتهم الداخلية، وأفعالهم الفعلية.

المؤلفون الأصليون: Ziyi Wang, Chen Zhang, Wenjun Peng, Qi Wu, Xinyu Wang

نُشر 2026-04-23

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziyi Wang, Chen Zhang, Wenjun Peng, Qi Wu, Xinyu Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تشاهد مباراة بوكر عالية المخاطر، حيث اللاعبون ليسوا بشراً، بل حواسيب ذكاء اصطناعي فائقة الذكاء (نماذج لغوية كبيرة). تريد أن تعرف: "لماذا اتخذ الذكاء الاصطناعي هذه الخطوة؟ هل كان يفكر بوضوح، أم أنه اخترع قصة لاحقاً ليبدو ذكياً؟"

هذه هي المشكلة التي تحاول ورقة بحثية تسمى TriEx حلها.

المشكلة: الذكاء الاصطناعي الذي "يتظاهر بالمعرفة حتى يتقنها"

في الماضي، إذا سألت ذكاءً اصطناعياً عن سبب قيامه بفعل ما، فإنه سيقوم فقط بالتحدث إليك. لكن الباحثين وجدوا نمطاً مخيفاً: الذكاء الاصطناعي غالباً ما يكذب على نفسه. قد يقوم برهان مخاطر، ويخسر المال، ثم يقول: "لقد راهنت لأنني حسبت الاحتمالات بدقة!" بينما في الواقع، كان مجرد تخمين.

هذا يشبه طالباً يخمن الإجابة في اختبار، ويخطئ فيها، ثم يكتب مقالاً طويلاً ومنمقاً بعد ذلك ليشرح لماذا كانت الإجابة الخاطئة هي في الواقع الإجابة الصحيحة. يُسمى هذا التبرير اللاحق (اختلاق قصة بعد وقوع الحدث).

الحل: إطار عمل المحقق "ثلاثي الرؤية"

ابتكر المؤلفون نظاماً يسمى TriEx (التفسير ثلاثي الرؤية). بدلاً من مجرد سؤال الذكال الاصطناعي "لماذا؟"، قاموا بإعداد تحقيق ثلاثي الأبعاد، مثل فريق تحرٍ ينظر إلى مسرح الجريمة من ثلاث زوايا مختلفة.

هم يستخدمون لعبة البوكر كـ "مختبر" مضبوط لاختبار هذا. إليك الرؤى الثلاث:

1. رؤية الشخص الأول (مذكرات الذكاء الاصطناعي)

الاستعارة: تخيل أن على الذكاء الاصطناعي كتابة تدوينة في مذكراته قبل اتخاذ خطوته.
ماذا تفعل: يقول الذكاء الاصطناعي: "سأقوم بالرهان لأنني أعتقد أن يدي قوية والخصم ضعيف".
الفخ: نحن نتحقق مما إذا كانت هذه التدوينة تطابق ما يفعله الذكاء الاصطناعي فعلياً. إذا قال الذكاء الاصطناعي "أنا أتوخى الحذر" ولكنه راهن بكل رقائقه، فإن التدوينة كذبة.

2. رؤية الشخص الثاني (النموذج الذهني للذكاء الاصطناعي تجاه الآخرين)

الاستعارة: تخيل أن الذكاء الاصطناعي يحتفظ بـ "ملف استخباراتي" أو ملف لكل لاعب آخر على الطاولة.
ما ماذا تفعل: يقوم الذكاء الاصطناعي بتحديث هذا الملف بعد كل جولة. "اللاعب X عدواني"، أو "اللاعب Y ينسحب عندما يشعر بالخوف".
الفخ: نحن نتحقق مما إذا كان ملف الذكاء الاصطناعي دقيقاً حقاً. هل يعرف الذكاء الاصطناعي اللاعبين الآخرين فعلاً، أم أنه يخمّن فقط؟ وهل يستخدم الذكاء الاصطناعي هذا الملف فعلياً لاتخاذ القرارات، أم أنه يتجاهله؟

3. رؤية الشخص الثالث (الحكم)

الاستعارة: تخيل حكماً فائق الذكاء (ذكاء اصطناعي آخر) يراقب اللعبة بأكملها.
ماذا تفعل: ينظر الحكم إلى مذكرات الذكاء الاصطناعي (الرؤية 1)، والملف الاستخباراتي للذكاء الاصطناعي (الرؤটি 2)، والأوراق الفعلية على الطاولة. يسأل الحكم: "هل تتطابق هذه الأشياء الثلاثة؟"
الفخ: لا يخمن الحكم فحسب؛ بل يستخدم الرياضيات وقواعد اللعبة (مثل "احتمالات الرهان/Pot Odds") ليرى ما إذا كانت قصة الذكاء الاصطناعي منطقية.

ماذا اكتشفوا؟

من خلال تشغيل آلاف ألعاب البوكر باستخدام هذا النظام ثلاثي الأبعاد، وجدوا بعض الأشياء المثيرة للاهتمام:

التعقيد يكسر الذكاء الاصطناعي: عندما تكون اللعبة بسيطة (في بداية الجولة)، تكون قصص الذكاء الاصطناعي صادقة في الغالب. ولكن مع زيادة تعقيد اللعبة وارتباكها، يبدأ الذكاء الاصطناعي في اختلاق القصص بشكل أكبر بكثير. إنه يصاب بالارتباك ويحاول التظاهر بالمعرفة لتجاوز الموقف.
"النماذج الذهنية" حقيقية: الذكاء الاصطناعي يقوم بالفعل ببناء ملفات تعريف دقيقة للاعبين الآخرين. إذا غيرت سرّاً معتقد الذكاء الاصطناعي حول خصم ما (على سبيل المثال، أخبرته أن "اللاعب X عدواني جداً")، فإن الذكاء الاصطناعي يغير استراتيجيته. وهذا يثبت أن الذكاء الاصطناعي لا يتحدث فحسب، بل يستخدم هذه المعتقدات فعلياً لاتخاذ القرار.
الحكم جيد في "نعم/لا" ولكنه سيء في "كم المقدار": الذكاء الاصطناعي (الحكم) جيد جداً في رصد ما إذا كان التفسير صحيحاً من حيث "الاتجاه" (على سبيل المثال، "هل راهنوا لأنهم كانوا عدوانيين؟"). لكنه يعاني في إعطاء درجة مثالية حول مدى جودة التفسير. من الأسهل القول "هذه كذبة" من قول "هذا صحيح بنسبة 85%".

لماذا يهم هذا؟

تعد هذه الورقة البحثية خطوة كبيرة للأمام لأنها توقفنا عن مجرد الثقة فيما يقوله الذكاء الاصطناعي. بدلاً من أخذ كلمة الذكاء الاصطناعي على محمل التصديق، يمنحنا TriEx طريقة لـ:

كشف الأكاذيب: رؤية متى يخترع الذكاء الاصطناعي أسباباً لأفعاله.
فهم التفكير: رؤية كيف يقوم الذكاء الاصطناعي بنمذجة الآخرين ذهنياً.
بناء ذكاء اصطناعي أفضل: مساعدة المطورين على إنشاء أنظمة ذكاء اصطناعي أكثر صدقاً واتساقاً، خاصة في المواقف الصعبة التي يتعين عليهم فيها التفاعل مع الآخرين.

باختاً مختصراً: TriEx هو بمثبه "جهاز كشف الكذب" لوكلاء الذكاء الاصطناعي. فهو يجبرهم على إظهار خطوات عملهم، والتحقق من ملاحظاتهم، ووجود حكم للتحقق من أن قصتهم تتوافق مع واقع اللعبة.

ملخص تقني لورقة بحثية: "TriEx: إطار عمل ثلاثي الرؤية قائم على الألعاب لتفسير الاستدلال الداخلي في النماذج اللغوية الكبيرة متعددة الوكلاء"

1. بيان المشكلة

بينما يتم نشر النماذج اللغوية الكبيرة (LLMs) بشكل متزايد كوكلاء مستقلين في بيئات تفاعلية ذات إدراك جزئي (مثل التداول، التفاوض، الألعاب)، فإن فهم عمليات اتخاذ القرار الداخلية لديها يظل تحدياً كبيًرا.

محدودية الطرق الحالية: تعتمد تقنيات القابلية للتفسير الحالية (مثل سلسلة الأفك‏ - Chain-of-Thought، وطرق الإسناد) بشكل كبير على المهام ثابتة الحالة وذات الدورة الواحدة. وهي تفشل في التقاط ديناميكيات الاعتقاد المعتمدة على التفاعل، وكيفية نمذجة الوكلاء للآخرين، أو كيفية تطور الحالات الداخلية بمرور الوقت.
فجوة الإخلاص (The Faithfulness Gap): تشير الأدلة التجريبية إلى أن النماذج اللغوية الكبيرة غالباً ما تولد تبريرات لاحقة (post-hoc rationalizations) تختلف عن أفعالها المنفذة فعلياً، لا سيالما في البيئات المعقدة متعددة الوكلاء.
التحدي الجوهري: هناك نقص في أطر العمل القادرة على كشف كيفية بناء النماذج اللغوية الكبيرة لنماذج ذهنية عن الخصوم، وتحديث معتقداتها بناءً على التفاعل، وما إذا كانت تفسيراتها باللغة الطبيعية تعكس بصدق هذه العمليات الكامنة.

2. المنهجية: إطار عمل TriEx

يقترح المؤلفون TriEx، وهو إطار عمل للتفسير ثلاثي الرؤية يقوم بتجهيز اتخاذ القرار المتسلسل بمصنوعات (artifacts) متوافقة. تم تطبيق هذا الإطار في لعبة تكساس هولدم بوكر (Texas Hold'em Poker)، وهي بيئة محكومة ذات معلومات ناقصة تستحث عدم اليقين والتفاعل الاستراتيجي.

يقوم TriEx بتفكيك القابلية للتفسير إلى ثلاث وجهات نظر متكاملة، تعمل جميعها على أثر قرار مهيكل ( $\tau_t$ ) يحتوي على الملاحظات، الأفعال القانونية، الأفعال المنفذة، والميزات المرجعية المستمدة من البيئة (مثل احتمالات الرهان/pot odds، وتقديرات حقوق الملكية/equity estimates).

أ. منظور الشخص الأول (الاستدلال الذاتي)

الآلية: قبل تنفيذ أي فعل، يولد الوكيل مصنف استدلال ذاتي مهيكل ( $r_t$ ).
البنية: يتضمن هذا المصنف سرداً باللغة الطبيعية وDecisionJSON قابلاً للقراءة آلياً يحتوي على:
- الالتزام بالفعل: الفعل المعلن.
- ادعاءات حالة القرار: وسوم منفصلة وقابلة للتفسير (مثل: قوة اليد، الموقف تجاه المخاطرة).
- مؤشرات الأدلة: روابط للميزات المرجعية الموضوعية.
الهدف: معاملة استدلال الوكيل المعلن كـ فرضية قابلة للاختبار حول عمليته الداخلية، مرتبطة بأفعال ملموسة وحالات لعب يمكن التحقق منها.

ب. منظور الشخص الثاني (معتقدات الخصم)

الآلية: يحافظ الوكيل على حالات ملف تعريف الخصم ( $P_{j,t}$ ) لكل لاعب آخر، والتي يتم تحديثها تدريجياً بعد كل جولة.
البنية: يتكون كل ملف تعريف من:
- متجه الاعتقاد الكامن: متجه عبر أبعاد سلوكية قابلة للتفسير (مثل: العدوانية، القدرة على تحمل المخاطر، وتيرة الخداع).
- ملخص نوعي: وصف موجز لأسلوب الخصم.
- منطق التحديث: تفسير يربط الأدلة المرصودة بتغييرات الاعتقاد.
الهدف: كشف كيفية نمذجة الوكلاء للآخرين، وما إذا كانت هذه النماذج الداخلية متجذرة في السلوك الملحوظ وتؤثر على اتخاذ القرار.

ج. منظور الشخص الثالث (تدقيق الأوراكل/الخبير)

الآلية: يقوم "أوراكل" خارجي (يتم تنفيذه عبر نماذج لغوية كبيرة ومدققات قائمة على قواعد حتمية) بتدقيق أثر القرار.
الوظيفة: يقيم الأوراكل الاتساق بين:
1. ادعاءات الشخص الأول مقابل الأفعال المنفذة.
2. معتقدات الشخص الثاني مقابل الإحصائيات السلوكية الموضوعية.
3. الاتساق بين الرؤى المختلفة عبر نماذج الأوراكل المختلفة.
التصميم: دور الأوراكل ديناميكي؛ حيث يمكن لنماذج لغوية مختلفة أن تتولى دور المدقق للحد من انحياز النموذج الواحد وتحليل موثوقية المقيم.

3. المساهمات الرئيسية

إطار عمل TriEx: منهجية مبتكرة لتسجيل وتحليل آثار القرار التي تدمج التفسيرات الذاتية، ونمذجة الخصم، والتدقيق من طرف ثالث في بنية موحدة وقابلة للتفنيد.
القابلية للتفسير القابلة للاختبار: تحويل القابلية للتفسير من مجرد سرد حر إلى كائنات مرتكزة على الأدلة يمكن فحصها كمياً من حيث الإخلاص، والتجذر في المعتقدات، وموثوقية المقيم.
معيار تشخيصي: إنشاء بيئة اختبار محكومة (البوكر) لدراسة الاستدلال متعدد الوكلاء، وتحديث المعتقدات، وفشل التفسير تحت ظروف عدم اليقين.

4. النتائج واللقاءات الرئيسية

قيم المؤلفون نماذج لغوية كبيرة متعددة (بما في ذلك GPT-4، DeepSeek، Llama، إلخ) مقابل النماذج الخوارزمية الأساسية وبعضها البعض.

النتيجة 1: التدهور الحساس للتعقيد في الإخلاص.
- في الحالات البسيطة (مرحلة ما قبل الفلوب/Preflop)، يكون الاستدلال الذاتي مخلصاً إلى حد كبير.
- مع زيادة التعقيد (مراحل ما بعد الفلوب مع المزيد من المعلومات المشتركة)، تتحول الوكلاء بشكل منهجي نحو التبرير اللاحق (rationalization). تصبح التفسيرات مبررات لاحقة تتعارض مع الفعل المنفذ أو تتجاهل الإحصائيات اللعبة الموضوعية.
النتيجة 2: التفسيرات الداخلية المتباعدة.
- يشكل الوكلاء معتقدات داخلية مستقرة حول الخصوم.
- السمات السطحية (مثل العدوانية) تتقارب عبر النماذج وتتماشى مع السلوك.
- السمات المجردة (مثل القدرة على تحمل المخاطر) تظهر تباعداً منهجياً، مما يشير إلى أن النماذج المختلفة تفسر "المخاطرة" بشكل مختلف رغم ملاحظة سلوكيات مماثلة.
النتيجة 3: الحساسية السببية للمعتقدات.
- تؤدي التدخلات المحكومة (تغيير القيم الرقمية لمتجهات معتقدات الخصم) إلى إحداث تغييرات اتجاهية ومتسقة في سياسة الوكيل. وهذا يثبت أن معتقدات الشخص الثاني ليست مجرد ملاحظات توضيحية بل هي محركات سببية لاتخاذ القرار.
النتيجة 4 و5: هرم موثوقية التقييم.
- الأحكام الفئوية والقائمة على التصنيف (مثل: "هل هذا التفسير أكثر إخلاصاً من ذاك؟" أو "هل بالغ الوكيل في تقدير الخصم؟") قوية عبر مختلف المقيمين من النماذج اللغوية الكبيرة.
- الدرجات العددية المطلقة (مثل: "قيم الإخلاص من 1-5") غير مستقرة للغاية وتعتمد على النموذج.
- تتدهور موثوقية التقييم بشكل كبير في أنظمة اتخاذ القرار المعقدة وعالية المخاطر.

5. الأهمية والآثار المترتبة

إعادة تعريف القابلية للتفسير: تجادل الورقة بأن القابلية للتفسير في الأنظمة متعددة الوكلاء هي خاصية تعتمد على التفاعل. لا يمكن تقييمها بمعزل عن السياق، بل تتطلب تحليل التفاعل بين الاستدلال الذاتي، ونمذجة الخصم، والواقع الموضوعي.
ما وراء التبرير اللاحق: يوفر TriEx طريقة ملموسة للكشف عن متى "تكذب" الوكلاء على أنفسهم أو على المستخدمين عبر توليد سرديات تبدو منطقية ولكنها غير مخلصة للواقع.
أفضل ممارسات التقييم: تشير النتائج إلى أن مسارات التقييم المستقبلية للوكلاء من النماذج اللغوية الكبيرة يجب أن تعطي الأولوية للأحكام المقارنة والفئوية على الدرجات المطلقة، حيث أن الأخيرة غير موثوقة.
الاتجاهات المستقبلية: يحفز إطار العمل تطوير تجذر المعتقدات القائم على الأنطولوجيا والتدريب الواعي بالمعتقدات لتحسين استقرار وإخلاص استدلال الوكيل في البيئات المعقدة.

باخت_صار، ينقل TriEx مجال القابلية للتفسير في النماذج اللغوية الكبيرة من تحليل النصوص الثابتة إلى التدقيق الديناميكي متعدد الرؤى، كاشفاً عن التناقضات المنهجية بين ما يقوله الوكلاء، وما يعتقدونه، وما يفعلونه فعلياً.