🤖 AI

What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind

تقدم هذه الورقة إطار عمل لنظرية العقل من الدرجة الثانية باستخدام نماذج عمليات ماركوف لاتخاذ القرار تحت عدم اليقين المستند إلى المعلومات (I-POMDPs)، مما يمكّن الوكيل من اكتشاف التحيزات المعرفية البشرية والمعتقدات الخاطئة حول الوكيل ومعالجتها تكيفياً، وبالتالي تحسين جودة التفاعل وفائدة التغذية الراجعة كما تم إثباته في دراسة مستخدم.

المؤلفون الأصليون: Patrick Callaghan, Reid Simmons, Henny Admoni

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Patrick Callaghan, Reid Simmons, Henny Admoni

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوتاً كيفية فرز مجموعة من البطاقات الخاصة. لديك قاعدة سرية في ذهنك (على سبيل المثال، "البطاقات الحمراء توضع في السلة 1، والبطاقات الزرقاء في السلة 2"). الروبوت لا يعرف القاعدة بعد؛ عليه أن يتعلمها من خلال مراقبتك وأنت تفرز البطاقات والاستماع إلى ما تقوله.

المشكلة هي أنك قد ترتكب أخطاءً في كيفية تصورك لطريقة تفكير الروبوت.

المشكلة الجوهرية: فجوة "قراءة الأفكار"

في هذه الورقة البحثية، يحاول الباحثون حل خلل محدد في التواصل. غالباً ما يمتلك البشر "تحيزات معرفية" (cognitive biases)—وهي اختصارات ذهنية تجعلنا نفترض أشياء عن الآخرين ليست حقيقية.

السينارية: قد تعتقد، "الروبوت ذكي؛ لا بد أنه يعرف أن اللون الأحمر يعني السلة 1 لأن هذا هو النمط الأكثر وضوحاً".
الواقع: الروبوت في الحقيقة مرتبك ويعتقد: "ليس لدي أدنى فكرة عما يعنيه اللون الأحمر بعد".
النتيجة: تتوقف أنت عن التعليم لأنك تعتقد أن الروبوت قد عرف، أو تعلم بطريقة تربك الروبوت لأنك تفترض أنه يفهم اختصاراتك الذهنية.

الحل: "العقل من الدرجة الثانية" (Second-Order Mind)

بنى الباحثون روبوتاً يتمتع بقدرة ذهنية خاصة تسمى نظرية العقل من الدرجة الثانية (ToM-2).

لفهم هذا، فكر في الأمر كأنها لعبة "أنا أعرف أنك تعرف أنني أعرف":

روبوت الدرجة صفر (الروبوت الأساسي): يكتفي فقط بالنظر إلى البطاقات التي تضعها في السلال. يفكر: "حسناً، لقد وضعت بطاقة حمراء هنا. سأقوم بتحديث قاعدتي". ليس لديه أي فكرة عما يدور في ذهنك.
روبوت الدرجة الثانية (قارئ الأفكار): هذا الروبوت لا ينظر إلى البطاقات فحسب؛ بل يقوم بمحاكاة نموذج لـ عقلك. يسأل نفسه: "ماذا يعتقد الإنسان أنني أعرفه الآن؟"

إذا أدرك الروبوت أن: "أوه، الإنسان يعتقد أنني أعرف أن القاعدة تتعلق باللون، لكنني في الواقع أعتقد أنها تتعلق بالشكل"، فيمكنه رصد هذا الانفصال.

كيف يصلح الروبوت المحادثة؟

تصف الورقة البحثية لعبة حيث يتعين على الروبوت تخمين قاعدة الفرز. يستخدم الروبوت قدرة "قراءة الأفكال" هذه لاكتشاف عادتين بشريتين (تحيزين):

الاستدلال بالتمثيل (Representativeness Heuristic): قد تركز فقط على البطاقات التي تشبه القاعدة التي تدور في ذهنك وتتجاهل البطاقات التي تثبت خطأ قواعد أخرى.
تحيز التأكيد (Confirmation Bias): قد لا تولي اهتماماً إلا لردود فعل الروبوت إذا كانت تؤكد ما تؤمن به بالفعل.

عندما يكتشف الروبوت هذه العادات، فإنه يغير استراتيجيته. فبدلاً من مجرد قول "أنا لست متأكداً"، فإنه يقدم لك تنبيهاً من جزأين:

الجزء (أ) (التنبيه): "يبدو أنك تريد مني أن أعتقد أن القاعدة تتعلق بـ الشكل، ولكن..."
الجزء (ب) (التصحيح): "...لا يزال من الممكن أن تكون القاعدة تتعلق بـ اللون."

من خلال التصريح بوضوح: "أنا أعرف ما تعتقده عن تفكيري، لكنني في الواقع أفكر في شيء آخر"، يكسر الروبوت الحلقة الذهنية للإنسان ويجبره على إعادة النظر في استراتيجية التعليم الخاصة به.

التجربة: تعليم البطاقات

اختبر الباحثون هذا باستخدام 3กัน 30 شخصاً حقيقياً.

الإعداد: استخدم الناس جهاز كمبيوتر لتعليم وكيل افتراضي كيفية فرز بطاقات ذات ألوان وأشكال وأرقام مختلفة.
المقارنة:
- المجموعة (أ): علموا "بوت أساسي" (درجة صفر) لا يستطيع قراءة الأفكار.
- المجموعة (ب): علموا "بوت قراءة الأفكار" (درجة ثانية) الذي يمكنه اكتشاف التحيزات.

ماذا حدث؟

تعليم أفضل: علم الناس "بوت قراءة الأفكار" بكفاءة أكبر بكثير. ولأن البوت صحح مفاهيمهم الخاطئة، توقف البشر عن القيام بخطوات مكررة وقدموا أمثلة أفضل.
معلومات أكثر: البطاقات التي اختار الناس عرضها على "بوت قراءة الأفكار" احتوت على معلومات أكثر فائدة. لقد عدل البشر أسلوبهم في التعليم بشكل لا واعٍ لأن البوت كان "يرد عليهم" بطريقة تجعل كلامهم ذا معنى.
الفائدة "اللاواعية": من المثير للاهتمام، عندما سُئلوا لاحقاً، لم يقل البشر: "واو، هذا البوت مذهل في قراءة عقلي!"، بل شعروا فقط أن رد الفعل كان أكثر فائدة. لم يدركوا بالضرورة لماذا كان التفاعل أكثر سلاسة؛ هم فقط عرفوا أنه يعمل بشكل أفضل.

الخلاصة

تظهر هذه الورقة أنه إذا تمكن الذكاء الاصطناعي من نمذجة ما تعتقده أنت عن معرفته (وإدراك متى تكون مخطئاً بشأن ذلك)، فيمكنه تقديم ردود فعل أفضل لك. يساعد هذا في تعليمك له بشكل أسرع وأكثر دقة، حتى لو لم تدرك تماماً أن الذكاء الاصطناعي هو من يقوم بالجهد الشاق لإصلاح نقاطك العمياء الذهنية.

ملاحظة: اختبر الباحثون هذا في لعبة بسيطة لفرز البطاقات. وهم يقرون بأن الحياة الواقعية أكثر تعقيداً بكثير، وأن الروبوت الخاص بهم نظر فقط في نوعين محددين من التحيزات البشرية، لكن الفكرة الجوهرية — وهي أن نمذجة المفاهيم الخاطئة لدى البشر تحسن العمل الجماعي — نجحت في تجربتهم.

ملخص تقني: محاسبة المعتقدات البشرية باستخدام نظرية العقل من الدرجة الثانية

بيان المشكلة
يعتمد التفاعل الناجح بين الإنسان والوكيل على امتلاك الإنسان نموذجاً دقيقاً لقدرات الوكيل ومعتقداته. ومع ذلك، غالباً ما يستخدم البشر التحيزات المعرفية والاستدلالات (CBH)، مثل "استدلال التمثيل" (Representativeness Heuristic) و"التحيز التأكيدي" (Confirmation Bias)، مما قد يؤدي إلى معتقدات خاطئة حول ما يعرفه الوكيل أو كيف يستنتج. هذه التباينات بين معرفة الوكيل الفعلية وتصور الإنسان لتلك المعرفة يمكن أن تعيق كفاءة التفاعل. وبينما استكشفت الأعمال السابقة تزويد الوكلاء بنظرية العقل (ToM) أو نظرية العقل من الدرجة الثانية (ToM-2)، فإن هذا العمل يعالج تحديداً تحدي نمذجة كيفية تأثير التحيزات المعرفية (CBH) على استنتاج الإنسان لمعتقدات الوكيل، مما يمكن الوكيل من اكتشاف هذه الأخطاء وتكييف ملاحظاته وفقاً لذلك.

المنهجية
يقترح المؤلفون إطار عمل يستخدم عملية ماركوف لاتخاذ القرار تحت الملاحظة الجزئية التفاعلية (I-POMDP) لتنفيذ نظرية العقل من الدرجة الثانية (ToM-2). في هذه البنية، يحافظ الوكيل على نموذج متداخل للإنسان، حيث يتم نمذجة الإنسان كوكيل من الدرجة الأولى (ToM-1) (مستنتج من الدرجة الأولى).

المجال: يتم تقييم النظام في مهمة فرز بطاقات قائمة على الأدوار. تملي "قاعدة" معينة كيفية فرز البطاقات متعددة السمات (تتنوع في اللون، التعبئة، العدد، والشكل) في حاويتين. يقوم المعلم البشري بتوضيح القاعدة عبر فرز البطاقات، ويقدم الوكيل ملاحظات حول معتقده الحالي بشأن سمات القاعدة.
نمذجة التحيزات المعرفية (CBH): يسمح إطار I-POMDP للوكيل بالحفاظ على معتقدات عبر نماذج بشرية متعددة ( $m_{H,1}$ $m_{H, 1}$ ) تشفر آليات محددة للتحيز المعرفي.
- استدلال التمثيل (RH): يتم تشغيله عبر "التفكير المحلي" (Local Thinking - LT)، حيث يفترض الوكيل أن الإنسان يركز على السمات المتشابهة دلالياً بينما يهمل الأمثلة المضادة للواقع الضرورية لاستبعاد القواعد الأخرى. ويتم نمذجة ذلك عن طريق تعزيز دالة الملاحظة ( $\Omega$ ) باستخدام تشابه جيب التمام الموزون (weighted cosine similarity).
- التحيز التأكيدي (CB): يتم نمذجته كنزعة لدى الإنسان لتوقع ملاحظات الوكيل التي تتوافق مع معتقداته المسبقة حول القاعدة، بدلاً من الملاحظات التي تستبعد البدائل منطقياً.
توليد الملاحظات التكيفية: يستخدم الوكيل معتقدات ToM-2 الخاصة به لاكتشاف التباينات بين معرفته الفعلية وتقريب الإنسان لتلك المعرفة. بناءً على هذا الاكتشاف، يولد الوكيل نوعين من الملاحظات:
1. جمل الثقة (CS): ملاحظات قياسية تنقل عدم اليقين أو اليقين بشأن سمة من سمات القاعدة (مثلاً: "أعتقد أن الفئة هي الشكل").
2. جمل الفهم (US): ملاحظات مصممة لـ "دفع" الإنسان بعيداً عن الاستدلال الناتج عن التحيز التأكيدي (CB) من خلال الكشف الصريح عما يعرفه الوكيل عن سمة ينوي الإنسان تعليمها، مع تسليط الضوء على التباينات المحتملة (مثلاً: "يبدو أنك تريد مني أن أعرف أن الفئة هي الشكل، ولكن لا يزال من الممكن أن تكون الفئة هي التعبئة"). ينتقل الوكيل تلقائياً من استخدام CS لزيادة المعلومات إلى استخدام نظام مزدوج (US+CS) عند اكتشاف معتقدات خاطئة ناتجة عن التحيز المعرفي (CBH).

المساهمات الرئيسية

إطار عمل مبتكر: بنية ToM-2 قائمة على I-POMDPs تقوم صراحةً بنمذجة تأثير التحيز المعرفي (CBH) على معتقدات الإنسان حول معتقدات الوكيل، بدلاً من مجرد نمذجة أفعال الإنسان.
الاكتشاف والتكيف: آلية تمكن الوكيل من اكتشاف متى يعتمد الإنسان على استدلالات محددة (RH و CB) وتوليد ملاحظات تكيفية (US) لتصحيح عملية الاستدلال لدى الإنسان.
التحقق التجريبي: دراسة مستخدمة واقعية أظهرت أن هذا النهج يحسن من إفادة أفعال التعليم البشرية ويُنظر إليه على أنه أكثر فائدة من قبل المشاركين.

النتائج
شملت الدراسة 30 مشاركاً يقومون بتعليم وكيل افتراضي تحت ثلاثة ظروف: ToM-0 (بدون نظرية عقل)، ToM-0 Random (تقديم ملاحظات إضافية عشوائياً)، و ToM-2 (ملاحظات تكيفية بناءً على اكتشاف التحيز المعرفي).

المقاييس الموضوعية:
- كسب المعلومات: استخلص المتعلم ToM-2 أفعال تعليم أكثر إفادة (كسب معلومات نسبي أعلى) مقارنة بكل النماذج المرجعية، وذلك بعد كل من الملاحظة الواحدة والملاحظتين.
- الكفاءة: أظهر المتعلم ToM-2 انخفاضاً هامشياً ولكنه معنوي في عدد أفعال المعلم المطلوبة لإنهاء الجلسة بنجاح مقارنة بالنموذج المرجعي القياسي ToM-0.
- الاكتشاف: أظهرت المحاكاة النوعية أن المتعلم ToM-2 استطاع تحديد القاعدة الصحيحة والنموذج الأساسي للمعلم (بما في ذلك التحيز المعرفي CBH)، بينما لم يستطع المتعلم ToM-0 فعل ذلك.
المقاييس الذاتية:
- صنف المشاركون الملاحظات من متعلم ToM-2 بأنها أكثر فائدة بشكل ملحوظ من النماذج المرجعية.
- ومع ذلك، لم يكن هناك فرق ذو دلالة إحصائية في تقارير المشاركين الذاتية حول ثقتهم في فهم الوكيل، أو ثقتهم في التعليم، أو مدى متعة التجربة.
- أفاد المشاركون غالباً بأنهم وجدوا المتعلمين لا يمكن تمييزهم أو متساويين في سهولة التعليم، مما يشير إلى أن فوائد نموذج ToM-2 قد تكون غير واعية.

الأهمية والقيود
يدعي البحث أن تمكين الوكيل من نمذجة أسباب أخطاء المعتقدات البشرية (تحديداً التحيز المعرفي CBH) يسمح بتفاعل أكثر فعالية من خلال توليد ملاحظات مستهدفة تساعد في الاستدلال البشري. تشير النتائج إلى أنه بينما قد لا يكون البشر مدركين بوعي لنمذجة الوكيل المتقدمة، فإن قدرة الوكيل على حساب التحيز المعرفي تؤدي إلى تفاعلات أكثر كفاءة وإفادة من الناحية الموضوعية.

يقر المؤلفون بعدة قيود:

مجال إثبات المفهوم (فرز البطاقات) أبسط من التفاعلات الحقيقية بين الإنسان والوكيل في العالم الواقعي.
استكشفت الدراسة تحيزين محددين فقط (RH و CB) من بين العديد من التحيزات التي تؤثر على السلوك البشري.
تظل التعقيدات الحسابية لـ I-POMDPs عائقاً أمام توسيع نطاق هذا النهج لمهام أو نماذج بشرية أكثر تعقيداً، حيث استخدم المؤلفون الإطار حصرياً لتتبع المعتقدات بدلاً من الحل للسياسات المثلى في الفضاء المتداخل الكامل.