🤖 AI

Evaluating Theory of Mind and Internal Beliefs in LLM-Based Multi-Agent Systems

تقترح هذه الورقة وتقيم بنية جديدة متعددة الوكلاء تدمج نظرية العقل، والمعتقدات الداخلية بأسلوب نموذج (BDI)، والمحللات الرمزية لاستقصاء كيفية تفاعل هذه الآليات المعرفية مع قدرات النماذج اللغوية الكبيرة المتفاوتة لتعزيز اتخاذ القرار التعاوني ودقة النظام في مهام تخصيص الموارد.

المؤلفون الأصليون: Adam Kostka, Jarosław A. Chudziak

نُشر 2026-03-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Adam Kostka, Jarosław A. Chudziak

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مجموعة من الأصدقاء يحاولون إدارة مدينة مزدحمة معاً. يتعين عليهم توصيل الطعام، والدواء، والأمن إلى أحياء مختلفة قبل أن تمرض تلك الأحياء. هذا هو الإعداد الأساسي لورقة البحث التي شاركتها.

يسأل المؤلفون سؤالاً كبيراً: إذا منحنا هؤلاء "الأصدقاء" من الذكاء الاصطناعي ترقيات خاصة للدماغ — مثل القدرة على تخمين ما يفكر فيه الآخرون (نظرية العقل) وقائمة مراجعة داخلية صارمة للتأكد من أنهم ليسوا مجانين (المعتقدات الداخلية) — فهل سيعملون معاً بشكل أفضل؟

إليك تفصيل ذلك باستخدام تشبيهات بسيطة:

1. الإعداد: لعبة المدينة

تخيل وكلاء الذكاء الاصطناعي كأنهم سائقو توصيل في لعبة فيديو.

الهدف: الحفاظ على صحة أربعة أحياء في المدينة. إذا نفد الطعام أو الدواء أو الأمن من أحد الأحياء، تنخفض "صحته".
المشكلة: السائقون لا يستطيعون رؤية كل شيء. يتعين عليهم التحدث مع بعضهم البعض لمعرفة من يحضر ماذا وإلى أين يتجه.
اللاعبون: اختبر الباحثون "سائقين" مختلفين (نماذج ذكاء اصطناعي مثل ChatGPT-4o، وLlama، وClaude) لمعرفة أي منهم هو الأفضل كلاعب في الفريق.

2. "ترقيتان" للدماغ

حاول الباحثون منح الذكاء الاصطناعي أداتين محددتين للمساعدة في التنسيق:

الأداة (أ): نظرية العقل (ToM) – "قارئ العقول"
- ما هي: هي القدرة على التفكير كالتالي: "أنا أعلم أن بوب هو سائق توصيل طعام، ومن المرجح أنه يتجه إلى المستشفى لأنه رأى أن مخزون الطعام هناك منخفض".
- التشبيه: الأمر يشبه لعب الورق (البوكر). أنت لا تنظر فقط إلى أوراقك الخاصة؛ بل تخمن ما يحمله خصمك وما يخطط لفعله تالياً.
- الهدف: منع اثنين من السائقين من الظهور عند نفس المنزل بنفس الصنف بينما لا يحصل منزل آخر على أي شيء.
الأداة (ب): المعتقدات الداخلية (IB) + فحص المنطق – "مدقق الحقائق"
- ما هي: قبل أن يتخذ الذكال الاصطناعي أي خطوة، يكتب أفكاره الخاصة بتنسيق منطقي صارم (مثل معادلة رياضية) ويمررها عبر "حلّال منطقي" (برنامج حاسوبي يسمى ASP).
- التشبيه: تخيل أنك على وشك القيادة، فتقول: "أنا في المتجر، ولدي 5 تفاحات، وأحتاج للذهاب إلى الحديقة". فحص المنطق يشبه معلماً صارماً يصرخ فيك فوراً: "انتظر! لقد قلت إن لديك 5 تفاحات، لكن الحسابات تقول إن لديك 3 فقط! لا يمكنك الذهاب إلى الحديقة بعد!"
- الهدف: منع الذكاء الاصطناعي من الهلوسة (اختلاق أشياء) أو نسيان مكانه.

3. التجربة: الخلط والدمج

قام الباحثون بتشغيل لعبة المدينة مع تركيبات مختلفة:

بدون ترقيات: مجرد نموذج ذكاء اصطناعي خام.
قارئ العقول فقط: الذكاء الاصطناعي يخمن ما يفعله الآخرون لكنه لا يفحص حساباته الخاصة.
مدقق الحقائق فقط: الذكاء الاصطناعي يفحص حساباته الخاصة لكنه لا يخمن ما يفعله الآخرون.
كلا الترقيتين: الذكاء الاصطناعي يخمن ما يفعله الآخرون ويتحقق أيضاً من حساباته الخاصة.

4. النتائج: الأمر معقد!

إليك الجزء المفاجئ: منح الذكاء الاصطناعي المزيد من "قوة الدماغ" لم يجعلها دائماً أكثر ذكاءً.

النجوم (ChatGPT-4o وClaude): كانت هذه النماذج ذكية جداً بالفعل، لذا فإن إضافة الأدوات الإضافية ساعدها على البقاء متسقة، لكنها كانت تقوم بعمل رائع بالفعل بدونها. لقد تعاملت مع "قراءة العقول" و"تدقيق الحقائق" بشكل مثالي.
المتعثرون (النماذج الأصغر مثل Llama أو ChatGPT-3.5): بالنسبة لهذه النماذج، كانت الأدوات الإضافية نتائج مختلطة.
- أحياناً، ساعدت أداة "قارئ العقول" في تحسين تخمينهم.
- وفي أحيان أخرى، تسببت أداة "مدقق الحقائق" في إرباكهم. كان الأمر يشبه إعطاء طالب آلة حاسبة معقدة للغاية؛ فقد قضوا وقتاً طويلاً في محاولة إصلاح حساباتهم لدرجة أنهم نسوا توصيل الطعام فعلياً.
- تشبيه "الحمل المعرفي الزائد": تخيل سيارة صغيرة تحاول حمل محرك ثقيل. أحياناً يساعد المحرك السيارة على الانطلاق بسرعة، ولكن في أحيان أخرى، يكون المحرك ثقيلاً جداً لدرجة أن السيارة لا تستطيع التحرك على الإطلاق. لقد تعرضت نماذج الذكاء الاصطنيعي الأصغر لـ "حمل زائد" بسبب محاولتها القيام بالكثير من التفكير في وقت واحد.

5. الخلاصة الكبرى

الدرس الرئيسي من هذه الورقة هو أن امتلاك المزيد من الميزات لا يعني تلقائياً فريقاً أفضل.

المقاس الواحد لا يناسب الجميع: أداة "قارئ العقول" تعمل بشكل رائع مع ذكاء اصطناعي فائق الذكاء، لكنها قد تربك نموذجاً أبسط.
"قائمة المراجعة" تساعد، لكنها تكلف وقتاً: فحص منطقك الخاص يمنع الأخطاء، لكنه يتطلب قوة حوسبية إضافية. إذا كان الذكاء الاصطناعي بطيئاً بالفعل، فقد يجعل هذا الأمر سرعته أقل.
العمل الجماعي صعب: حتى مع هذه الأدوات المتطرفة، لا يزال جعل وكلاء الذكاء الاصطناعي ينسقون بشكل مثالي في عالم متغير أمراً صعباً للغاية.

باخت-صار: بنى الباحثون نظاماً رائعاً جديداً حيث يمكن لوكلاء الذكاء الاصطناعي "قراءة العقول" و"التحقق من حساباتهم الرياضية". ووجدوا أنه بينما تعد هذه فكرة جيدة، إلا أنها تعمل بشكل جيد فقط إذا كان الذكاء الاصطناعي ذكياً بما يكفي للتعامل مع هذا التفكير الإضافي. إذا كان الذكاء الاصطناعي بسيطاً للغاية، فقد تؤدي الأدوات الإضافية فقط إلى تعثره في خطواته.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تقييم نظرية العقل والمعتقدات الداخلية في الأنظمة متعددة الوكلاء القائمة على النماذج اللغوية الكبيرة (LLMs)" من قبل كوستكا وتشودزياك.

1. بيان المشكلة

بينما أحدثت النماذج اللغوية الكبيرة (LLMs) ثورة في الأنظمة متعددة الوكلاء (MAS) من خلال تمكين التفاعل باللغة الطبيعية والتخطيط، إلا أنها تواجه تحديات كبيرة في البيئات الديناميكية والتعاونية:

عدم الاتساق: غالبًا ما تنتج النماذج اللغوية الكبيرة استدلالات غير متسقة أو "هلوسات"، مما يؤدي إلى تنسيق دون المستوى الأمثل.
الافتقار إلى الهيكل المعرفي: مجرد إضافة النماذج اللغوية الكبيرة لا يضمن تعاونًا فعالًا. غالبًا ما تعتمد أطر العمل الحالية للأنظمة متعددة الوكلاء على قواعد جامدة أو تفتقر إلى آليات تتيح للوكلاء نمذجة نوايا بعضهم البعض (نظرية العقل - Theory of Mind) أو الحفاظ على تمثيلات متسقة للحالة الداخلية (الاعتقاد-الرغبة-النية - BDI).
الفجوة: لا يزال التكامل التآزري بين نظرية العقل (ToM)، وآليات المعتقدات الداخلية (IB) (المستندة إلى نموذج BDI)، والتحقق من المنطق الرمزي (Symbolic Logic Verification) غير مستكشف بشكل كافٍ. ومن غير الواضح كيف تتفاعل هذه الوحدات المعرفية مع بنيات النماذج اللغوية الكبيرة المختلفة للتأثير على اتخاذ القرار الجماعي ودقة النظام.

2. المنهجية

أ. بيئة المهمة

صمم المؤلفون محاكاة لتوزيع الموارد الديناميكي في مدينة افتراضية تضم أربعة مناطق ( $d_1$ إلى $d_4$ ).

الهدف: يجب على ثلاثة وكلاء ( $FOOD\_AGENT$ ، $MEDICAL\_AGENT$ ، $SECURITY\_AGENT$ ) التنسيق لتزويد المناطق بالموارد لمنع تدهور الحالة الصحية.
الآليات: تستهلك المناطق الموارد بمرور الوقت. إذا انخفضت الموارد عن عتبات معينة، تنخفض صحة المنطقة. يمكن للوكلاء الانتقال (MOVE) إلى مناطق مجاورة أو تزويد الموارد (SUPPLY_RESOURCE).
المقاييس: يتم قياس أداء النظام من خلال متوسط الصحة النهائي للمناطق غير المزودة بالموارد.

ب. البنية المقترحة

يقدم النظام بنية وكيل مبتكرة تدمج ثلاث مكونات معرفية أساسية:

نظرية العقل (ToM): يحتفظ الوكلاء بوحدة "المعتقدات حول الآخرين". حيث يستنتجون الأدوار، والنوايا، والأفعال المحتملة للوكلاء الزملاء بناءً على السلوك الملحوظ والذاكرة المشتركة.
المعتقدات الداخلية (IB): يحتفظ الوكلاء بوحدة "معتقدات داخلية" خاصة تمثل فهمهم لحالة اللعبة (الملاحظات، الخطط، الاحتياجات) بتنسيق صديق للمنطق.
التحقق المنطقي (المحلل الرمزي): يتم ترجمة المعتقدات الداخلية للوكيل باللغة الطبيعية إلى برمجة مجموعات الإجابة (ASP) باستخدام محلل Clingo.
- العملية: يتحقق المحلل من الاتساق المنطقي (على سبيل المثال، التناقضات بين الموقع والمخزون).
- حلقة التغذية الراجعة: في حال اكتشاف عدم اتساق، يقوم النظام بإنشاء تفسير باللغة الطبيعية للخطأ، مما يسمح للنموذج اللغوي الكبير بإعادة صياغة معتقداته (حتى 3 محاولات) قبل تنفيذ الإجراء.

ج. الإعداد التجريبي

النماذج المختبرة: ChatGPT-3.5-Turbo، وChatGPT-4o، وChatGPT-4o-mini، وMeta Llama 3.1 8B، وClaude 3.5 Sonnet.
الإعدادات: تم اختبار أربعة إعدادات متميزة لكل نموذج:
1. الحالة الأساسية (Base Case): بدون نظرية العقل، وبدون المعتقدات الداخلية.
2. نظرية العقل فقط (ToM Only): يستدل الوكلاء على الآخرين ولكنهم يفتقرون إلى التحقق من المعتقدات الداخلية.
3. المعتقدات الداخلية فقط (IB Only): يستخدم الوكلاء المعتقدات الداخلية مع التحقق من ASP ولكنهم لا ينمذجون الآخرين.
4. نظرية العقل + المعتقدات الداخلية (ToM + IB): التكامل الكامل لكلا الآليتين.
البروتوكول: يتواصل الوكلاء عبر ذاكرة مشتركة (للتنسيق) وذاكرة خاصة (للاستدلال الداخلي). استمرت عمليات المحاكاة لمدة 7 جولات لكل وكيل.

3. المساهمات الرئيسية

بنية مبتكرة: إطار عمل متعدد الوكلاء يدمج بسلاسة نظرية العقل، والمعتقدات الداخلية المستندة إلى BDI، والتحقق المنطقي القائم على ASP لتعزيز الذكاء التعاوني.
تقييم تجريبي: تحليل شامل لكيفية تفاعل هذه الآليات المعرفية مع قدرات النماذج اللغوية الكبيرة المتفاوتة (من نماذج بـ 8 مليارات معلمة إلى النماذج التجارية المتقدمة).
رؤية حول العبء المعرفي: توضح الدراسة أن إضافة الآليات المعرفية ليس مفيداً دائماً؛ إذ تعتمد الفعالية بشكل كبير على قدرة الاستدلال للنموذج اللغوي الكبير وتعقيد المهمة.

4. النتائج والتحليل

تباين الأداء

النماذج عالية الأداء (ChatGPT-4o، Claude 3.5 Sonnet): حققت هذه النماذج باستمرار درجات صحة عالية للمناطق عبر جميع الإعدادات. وقد نجحت في دمج نظرية العقل والمعتقدات الداخلية دون تدهور في الأداء، مما يشير إلى قدرات استدلال قوية يمكنها التعامل مع العبء المعرفي المضاف.
النماذج المتوسطة (ChatGPT-4o-mini): أظهرت نتائج مختلطة. ورغم قدرتها، إلا أن إضافة نظرية العقل/المعتقدات الداخلية أدت أحياناً إلى زيادة التباين (اتساع فترات الثقة)، مما يشير إلى أن العبء المعرفي قد يربك النموذج أحياناً.
النماذج ذات السعة المنخفضة (ChatGPT-3.5-Turbo، Llama 3.1 8B):
- ChatGPT-3.5-Turbo: أظهر تحسينات طفيفة مع نظرية العقل/المعتقدات الداخلية، مما يشير إلى أن هذه الآليات يمكن أن تدعم الاستدلال للنماذج الأضعف.
- Meta Llama 3.1 8B: أظهر عدم استقرار كبير. وبينما ساعدت نظرية العقل وحدها، فإن الجمع بين نظرية العقل + المعتقدات الداخلية أدى غالباً إلى انخفاض الأداء، مما يشير إلى أن النموذج يعاني في معالجة مسارات استدلال متعددة في وقت واحد (نمذجة الآخرين + التحقق الذاتي).

النتائج الرئيسية

تأثير "السلاح ذو الحدين": يمكن لدمج نظرية العقل والمعتقدات الداخلية أن يعزز التنسيق من خلال تمكين التنبؤ بأفعال الأقران واتخاذ قرارات مهيكلة. ومع ذلك، بالنسبة للنماذج ذات قدرة الاستدلال المحدودة، فإن هذه الآليات تفرض عبئاً معرفياً، مما يؤدي إلى افتراضات خاطئة، وتناقضات منطقية، وسوء تنسيق.
دور التحقق المنطقي: نجح محلل ASP في منع بعض الأخطاء المنطقية (مثل الانتقال إلى مناطق غير متصلة)، لكن فعاليته كانت محدودة بجودة الترجمة من اللغة الطبيعية من النموذج اللغوي الكبير.
عنق زجاجة التواصل: كان بروتوكول التواصل المتسلسل (الذاكرة المشتركة) فعالاً ولكنه تسبب في حدوث تأخير ومشاكل محتملة في تدفق المعلومات في السيناريوهات المعقدة.

5. الأهمية والتوجهات المستقبلية

الآثار على تصميم الذكاء الاصطناعي: تؤسس هذه الورقة لمبدأ أن "المزيد من الميزات المعرفية" لا يعني بالضرورة "أداءً أفضل". يجب على مصممي الأنظمة موازنة الآليات المعرفية (نظرية العقل، BDI، المنطق) بعناية مع قدرات الاستدلال المحددة للنموذج اللغوي الكبير المختار.
الذكاء الهجين: تؤكد هذه الدراسة إمكانات الذكاء الاصطناٍ العصبي-الرمزي (Neural-Symbolic AI)، حيث تتعامل النماذج اللغوية الكبيرة مع اللغة الطبيعية والتخطيط رفيع المستوى، بينما تضمن المحللات الرمزية (ASP) الاتساق المنطقي والسلامة.
العمل المستقبلي:
- تطوير نماذج متعلمة لسلوكيات الوكلاء بدلاً من مطالبات نظرية العقل الثابتة.
- استكشاف مناهج الاستدلال الهجين لتقليل العبء المعرفي على النماذج اللغوية الكبيرة.
- تحسين بروتوكولات التواصل للانتقال إلى ما وراء المشاركة التسلسلية.
- توسيع نطاق النظام ليشمل أعداداً أكبر من الوكلاء وبيئات مهام أكثر تعقيداً (مثل إدارة الكوارث أو الرعاية الصحية).

في الختام، يوفر هذا البحث أساساً تجريبياً حاسماً لبناء أنظمة متعددة الوكلاء قوية قائمة على النماذج اللغوية الكبيرة، مؤكداً أن التعاون الناجح يتطلب توازناً دقيقاً بين قدرة النموذج، والبنية المعرفية، والتحقق المنطقي.