Artificial Empathy: Towards a Framework for Unsupervised Agency Detection and Policy Reconstruction
تقترح هذه الورقة إطار عمل يستفيد من وكيل تعلم تعزيزي تم تدريبه على مهمة مستقلة كمعرفة مسبقة لتمكين الكشف غير الخاضع للإشراف عن الوكلاء الآخرين وإعادة بناء سياساتهم استناداً فقط إلى الملاحظات البيئية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في الزوايا الهادئة لأبحاث الذكاء الاصطناعي، يظل هناك سؤال جوهري قائم: كيف يمكن لآلة أن تفهم أن شيئاً آخر في العالم يتصرف بغرض أو هدف؟ لكي يتمكن الكمبيوتر من التعاون مع البشر أو الآلات الأخرى، يجب عليه أولاً أن يميز بين صخرة تسقط بسبب الجاذبية وبين شخص يمد يده لتلك الصخرة بنية مبيتة. هذه القدرة، المعروفة باسم "كشف الوكالة" (agency detection)، هي حجر الزاوية في التفاعل الاجتماعي. فبدونها، لا يرى الذكاء الاصطناعي سوى تدفق فوضوي من الأحداث، عاجزاً عن التمييز بين الضجيج العشوائي والخطة الموجهة نحو هدف. ويصبح التحدي أكبر عندما يتعين على الآلة معرفة "ماذا" يريد ذلك الوكيل الآخر أن يفعل، وهي مهمة تسمى "إعادة بناء السياسة" (policy reconstruction). وإذا استطاعت الآلة تعلم تحديد هذه النوايا الخفية ونمذجتها دون أن تُلقن ذلك صراحةً، فستخطو خطوة هائلة نحو أن تصبح شريكاً متعاوناً حقاً، قادراً على مواءمة أهدافها مع أهداف الكائنات من حولها.
لقد قطع فريق من الباحثين في "مشروع التحيز الاستقرائي البشري" (Human Inductive Bias Project) في كامبريدج خطوة كبيرة نحو حل هذا اللغز عبر اقتراح نظام أطلقوا عليه اسم "التعاطف الاصطناعي". فبدلاً من محاولة بناء نظرية عقل معقدة من الصفر، يقترحون أن الذكاء الاصطناعي يمكنه فهم الآخرين من خلال استخدام آلياته الداخلية كدليل. الفكرة الجوهرية هي أن الذكاء الاصطناعي، بكونه وكيلاً يتخذ القرارات ويتفاعل مع العالم، يمتلك بالفعل فهماً متأصلاً لما تبدو عليه "الوكالة". ومن خلال تدريب نظام على التنبؤ بالمستقبل بناءً على أنماط سلوكه المتعلمة، أنشأ الباحثون إطاراً يمكنه مسح البيئة، ورصد الوكلاء الآخرين، ومعرفة ما يحاول هؤلاء الوكلاء تحقيقه، كل ذلك دون الحاجة إلى تسميات أو تعليمات بشرية.
اختبر الباحثون هذا المفهوم في بيئة رقمية محكومة، وهي عبارة عن عالم شبكي بسيط يتحرك فيه وكيل لجمع المكافآت. قاموا بتدريب وكيل ذكاء اصطناعي قياسي لحل مهمة محددة، مثل الوصول إلى الركن السفلي الأيسر من الشبكة لكسب النقاط. وقد عمل هذا الوكيل المدرب بمثابة "الخبير" أو "الآخر" الذي يحتاج النظام الجديد لفهمه. ولجعل المهمة صعبة وواقعية، أدخل الباحثون عنصراً مربكاً: وكيلاً ثانياً وهمياً يتحرك بشكل عشوائي، مثل ورقة شجر تذروها الرياح. كان الهدف من النظام الجديد هو تجاهل الحركة العشوائية وتحديد الوكيل الحقيقي بشكل صحيح، ثم تعلم محاكاة استراتيجيته المحددة للوصال إلى الهدف. لم يُخبر النظام بأي منهما هو الوكيل الحقيقي؛ بل توجب عليه اكتشاف ذلك بنفسه.
ولتحقيق ذلك، مُنح النظام الجديد دفعة قوية عبر تحميله بـ "دماغ" ذكاء اصطناعي مختلف تم تدريبه على مهمة غير ذات صلة تماماً، مثل جمع المواد الغذائية. عملت هذه المعرفة المحملة مسبقاً كـ "سابق" (prior)، أي مجموعة من التوقعات حول كيفية تصرف الوكلاء بشكل عام وكيف تغير أفعالهم العالم. ثم راقب النظام تدفق الأحداث في العالم الشبكي. واستخدم نموذجه الداخلي لطرح سؤال بسيط: إذا افترضت أن هناك وكيلاً يعمل هنا، فهل يمكنني التنبؤ بما سيحدث بعد ذلك؟ عندما نظر النظام إلى السائر العشوائي، فشلت تنبؤاته لأن الحركات العشوائية لم تتبع أي نمط منطقي يسعى لتحقيق هدف. ومع ذلك، عندما راقب الوكيل الخبير، نجحت تنبؤاته لأن حركات الخبير كانت متسقة مع منطق الوكيل الذي يسعى للوصول إلى هدف. ومن خلال تقليل الخطأ بين تنبؤاته والواقع، تمكن النظام فعلياً من تصفية الضجيج والتركيز على الوكيل الحقيقي.
كانت نتائج هذه التجربة واعدة. فبعد مراقبة البيئة لفترة قصيرة، تعلم النظام تجاهل الوكيل الوهمي العشوائي ونجح في تبني استراتيجية الوكيل الخبير. وفي سلسلة من التجارب، ارتفع أداء النظام بسرعة فوق مستوى التخمين العشوائي، ليصل في النهاية إلى مستوى مهارة الخبير الأصلي. أثبت هذا أن النظام يمكنه بالفعل القيام بكشف الوكالة غير الخاضع للإشراف، من خلال تحديد الفاعل الهادف وسط الفوضى وإعادة بناء سياسته. وأشار الباحثون إلى أن هذا النجاح اعتمد على استخدام النظام لديناميكياته الداخلية كعدسة لرؤية العالم، وكأنه يقول: "أنا أعرف شعور امتلاك هدف، لذا يمكنني التعرف عليه في الآخرين".
وعلى الرغم من هذه النتائج المشجعة، يحرص الباحثون على تأطير هذا العمل كإثبات مبدئي للمفهوم وليس كحل نهائي. فقد أُجريت التجارب في عالم شبكي صغير وواضح الرؤية، يحتوي على وكيل حقيقي واحد ووكيل وهمي واحد فقط. كما اعتمد النظام بشكل كبير على حقيقة أن الوكيل السابق والوكيل المستهدف متشابهان بنيوياً، ولم يُعرف بعد مدى نجاح هذا النهج إذا كانت الوكلاء مختلفين تماماً أو إذا كانت البيئة معقدة وغير مكشوفة جزئياً. تشير الدراسة إلى أن "السوابق ذات المرجعية الذاتية" يمكن أن تدعم كشف الوكالة، لكنها لا تدعي بعد أنها حلت المشكلة الأوسع المتمثلة في مواءمة الذكاء الاصطناعي مع القيم البشرية في العالم الحقيقي. إن هذا العمل يفتح باباً، موضحاً أن الذكاء الاصطناعي يمكنه تعلم الاهتمام بالآخرين من خلال فهم نفسه أولاً، لكن الرحلة نحو مستقبل تعاوني كامل لا تزال طويلة وغير مختبرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.