Empathy Modeling in Active Inference Agents for Perspective-Taking and Alignment

تخيل عالماً لا تكتفي فيه الروبوتات، وشخصيات ألعاب الفيديو، والمساعدات الذكية باتباع الأوامر فحسب، بل تحاول فعلياً فهمك. هذا هو أفق مجال يُسمى الاستدلال النشط (Active Inference)، وهو طريقة للتفكير في كيفية اتخاذ الكائنات الذكية للقرارات. فبدلاً من مجرد التفاعل مع ما يراه، تقوم هذه الوكلاء باستمرار بالتنبؤ بما سيحدث بعد ذلك واختيار الأفعال التي تقلل من "مفاجأتهم" الخاصة. ولكن إليك الجزء الصعب: عندما تكون في موقف اجتماعي، مثل لعبة أو محادثة، فإن "مفاجأتك" تعتمد على ما يفعله الآخرون. ولكي ينسجم الوكيل مع الآخرين، فإنه يحتاج إلى قوتين خارقتين. أولاً، يحتاج إلى نظرية العقل (Theory of Mind)، وهي تشبه نموذج محاكاة ذهني يتوقع ما يفكر فيه الشخص الآخر أو ما يخطط لفعله. ثانياً، يحتاج إلى التعاطف (Empathy)، وهو ليس مجرد تخمين، بل هو القرار بالاهتمام بسعادة الشخص الآخر بقدر الاهتمام بسعادته الخاصة. لطالماً تساءل العلماء: هل يكفي أن يكون الذكاء الاصطناعي بارعاً في تخمين سلوك البشر، أم أنه يحتاج فعلياً إلى "الاهتمام" ليكون صديقاً جيداً؟

يتعمق هذا البحث في هذا السؤال باستخدام لعبة كلاسيكية تسمى معضلة السجين (Prisoner's Dilemma). فكر في هذه اللعبة كاختبار رفيع المستوى للثقة. لاعبان محبوسان في غرفتين منفصلتين؛ يمكن لكل منهما إما "التعاون" (أن يكون لطيفاً ويشارك المكافأة) أو "الخيانة" (أن يخون الآخر للحصول على جائزة أكبر). إذا تعاون كلاهما، سيفوز كلاهما بمبلغ جيد. وإذا خان أحدهما الآخر، سيفوز الخائن بجائزة كبيرة بينما لا يحصل الشخص اللطيف على شيء. وإذا خان كلاهما، سيتعرض كلاهما لعقاب بسيط. المعضلة هي أن كون المرء أنانياً هو الخطوة الأذكى للفرد، ولكن إذا فعل الجميع ذلك، يخسر الجميع. قام الباحثون ببناء وكيل رقمي يلعب هذه اللعبة مراراً وتكراراً. وقد زودوه بوحدة "نظرية العقل" للتنبؤ بتحركات شريكه، وبمقياس خاص يُسمى $\lambda$ (لامدا) للتحكم في مدى اهتمامه بنتيجة الشريك. أجروا آلاف المحاكاة لمعرفة ما يحدث عندما يتم رفع المقياس أو خفضه، وما إذا كان مجرد كون الوكيل متنبئاً جيداً كافياً لتكوين صداقات.

مقياس الاهتمام السحري

اكتشف الباحثون أن امتلاك عقل بارع ليس كافياً لجعل الذكاء الاصطناعي شريكاً جيداً. فقد وجدوا أنه يمكنك امتلاك وكيل هو سيد في التنبؤ -يمكنه التنبؤ تماماً بأن شريكه سيخونه- ولكن إذا لم يكن مقياس "الاهتمام" لدى هذا الوكيل مرتفعاً، فسيختار الخيانة على أي حال. الأمر يشبه امتلاك صديق يعرف بالضبط ما تفكر فيه، لكنه لا يهتم إذا تعرضت للأذى. في عمليات المحاكاة التي أجروها، انتهى الأمر بالوكلاء الذين كانوا أنانيين بحتة (الذين كان مقياس الاهتمام لديهم صفراً) دائماً تقريباً في دورة من الخيانة المتبادلة، حتى لو عرفوا أن الطرف الآخر كان يحاول أن يكون لطيفاً.

ومع ذلك، عندما رفع الباحثون مقياس التعاطف ($\lambda$)، تغيرت اللعبة بأكملها. عندما بدأ الوكلاء في تقدير سعادة شركائهم، بدأوا في التعاون. ولكن هناك شرط: يجب أن يكون الأمر طريقاً ذا اتجاهين. إذا كان كلا الوكيلين يمتلكان المقياس عند مستوى عالٍ (حوالي 0.5 أو أعلى)، فإنهما يدخلان في "منطقة سعيدة" حيث يتعاونان بشكل مثالي تقريباً، ويتعافيان بسرعة من الأخطاء. إنه يشبه رقصة حيث يستمع كلا الشريكين إلى نفس الموسيقى. ولكن إذا كان أحد الوكيلين يرفع المقياس عالياً والآخر يغلقه، تحدث الكارثة. فالوكيل ذو التعاطف العالي يستمر في محاولة أن يكون لطيفاً، بينما يستغل الوكيل ذو التعاطف المنخفض تلك اللطافة، مستفيداً من استعداد الوكيل اللطيف للتعاون. تُظهر الورقة البحثية أنه في هذه المواقف غير المتكافئة، يتم استغلال الوكيل "اللطيف" بشكل منهجي، مما يثبت أن اللطف غير المشروط دون وسيلة لحماية النفس هو نقطة ضعف.

التخمين مقابل الاهتمام: الكشف الكبير

أحد أهم النتائج هو أن التخمين والاهتمام شيئان مختلفان. اختبر الفريق وكيلاً يمتلك "نظرية عقل" فائقة القدرة (يمكنه تعلم وتوقع سلوك شريكه بشكل مثالي) ولكنه لا يزال يمتلك صفراً من التعاطف. حتى مع هذه القدرة الفائقة على التنبؤ، لم يبدأ الوكيل في التعاون. لقد أدرك قائلاً: "أوه، شريكي سيكون لطيفاً"، ولكن لأنه لم يهتم بمكافأة الشريك، اختار الخيانة على أي حال. وهذا ينفي فكرة أن مجرد كون المرء ذكياً بما يكفي لفهم الآخرين هو أمر كافٍ لخلق مجتمع تعاوني. أنت بحاجة إلى الدافع للاهتمام، وليس فقط القدرة على التنبؤ.

كما نظر الباحثون في مدى "عمق" تفكير الوكلاء. بعض الوكلاء نظروا خطوة واحدة للأمام فقط (قاصرو النظر)، بينما خطط آخرون لعدة خطوات في المستقبل (المتطورون). ووجدوا أن التفكير بعيد المدى لم يجعل الوكلاء أكثر لطفاً تلقائياً. فإذا كان الشريك غير متوقع أو من المرجح أن يخون، فإن التفكير مسبقاً جعل الوكيل أقل عرضة للتعاون، لأنه رأى الخيانة القادمة في المستقبل. ولكن إذا كان الشريك لاعباً من نوع "العين بالعين" (شخص ينسخ حركتك الأخيرة)، فإن التفكير مسبقاً جعل الوكيل أكثر تعاوناً بكثير، لأنه أدرك أن كونه لطيفاً الآن سيؤدي إلى سلسلة طويلة من الحركات اللطيفة لاحقاً. هذا يشير إلى أن التخطيط هو مجرد أداة؛ فهو يضاعف الاستراتيجية التي يميل إليها الوكيل بالفعل.

نقطة التحول و"تغير الطور"

تصف الورقة أيضاً "نقطة تحول" رائعة في العلاقة بين الوكيلين. فبينما كان الباحثون يرفعون مقياس التعاطف ببطء، لم يصبح الوكلاء أكثر لطفاً بشكل تدريجي. بدلاً من ذلك، حدث تحول حاد ومفاجئ. فدون مستوى معين من التعاطف (حوالي 0.4)، كان الوكلاء يخونون بعضهم البعض في الغالب. وبمجرد تجاوز هذا المستوى بقليل، بدأوا فجأة في التعاون طوال الوقت تقريباً. يسمي الباحثون هذا "العبور ذو الدقة المحدودة"، وهي طريقة معقدة للقول إن الأمر يشبه ضغط مفتاح الضوء. هناك عتبة محددة يعيد فيها النظام تنظيم نفسه من حالة الصراع إلى حالة الانسجام. ومع ذلك، فإن هذا التحول هش؛ فإذا كان الوكلاء على حافة هذه العتبة، يصبح سلوكهم متذبذباً وغير متوقع للغاية، حيث ينتقلون باستمرار بين القتال والصلح.

ماذا يعني هذا للمستقبل

تخلص الدراسة إلى أن بناء ذكاء اصطناعي ودود لا يتعلق فقط بجعلهم أكثر ذكاءً أو أفضل في قراءة العقول البشرية. بل يتعلق ببنائهم بدافع محدد يقدر الآخرين. تشير الورقة إلى أنه بينما يمكننا محاكاة هذه السلوكيات في لعبة كمبيوتر، فإن الذكاء الاصطناعي في العالم الحقيقي يحتاج إلى الحذر. إذا تمت برمجة الذكاء الاصطناعي للاهتمام بالبشر ولكنه لا يملك وسيلة للتوقف عن الاهتمام عندما يكون البشر سيئين، فسيتم استغلاله. يقترح الباحثون أن الذكاء الاصطناعي المستقبلي قد يحتاج إلى القدرة على ضبط مقياس التعاطف الخاص به بناءً على الموقف - برفعه عندما يكون التعاون آمناً، وخفضه لحماية نفسه عندما يتم استغلاله. في الوقت الحالي، يظل هذا مجرد محاكاة، لكنه يقدم مخططاً واضحاً: لبناء وكلاء يتوافقون حقاً مع القيم الإنسانية، نحتاج إلى منحهم ليس فقط عقلاً لفهمنا، بل قلباً للاهتمام بنا.