← أحدث الأبحاث
🤖 AI

Evaluating XAI Support From A Hierarchical Reinforcement Learning Policy in Human-Agent Collaboration

تقدم هذه الورقة أول تقييم منهجي للتعلم التعزيزي الهرمي القابل للتفسير جوهرياً في التعاون بين الإنسان والوكيل باستخدام معيار Overcooked-AI، كاشفةً أنه بينما أظهرت التفسيرات اتجاهات نحو تحسن أسرع، فإن التفسيرات المقدمة عبر الصوت قد قوضت بشكل كبير التحالف العملي بين الإنسان والوكيل من خلال خلق توقعات شراكة غير ملباة.

المؤلفون الأصليون: Mateus Levi Simões Fernandes, Alberto Sardinha

نُشر 2026-08-10
📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Mateus Levi Simões Fernandes, Alberto Sardinha

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تلعب لعبة فيديو عالية السرعة مع زميل آلي. عليكما معاً تقطيع البصل، وطهي الحساء، وتقديمه قبل انتهاء الوقت. في العالم الحقيقي، عندما يلعب بشر اثنان معاً، فإنهما يتحدثان: "سآخذ الطماطم، وأنت خذ القدر!" أو "احذر، أنا قادم!" هذا الدردشة تساعدهما على بناء فهم مشترك لما يحدث. لكن الروبوتات غالباً ما تكون مثل آلات صامتة وغامضة؛ فهي تتحرك بسرعة وتفعل الأشياء، لكنها لا تخبرك لماذا. هذا يخلق فجوة. إذا كان الروبوت سيعمل كشريك حقيقي، وليس مجرد أداة، فعليه أن يشرح أفكاره. هنا يأتي دور "الذكاء الاصطناعي القابل للتفسير" (XAI). إنه علم تعليم الروبوتات قول: "أنا أفعل هذا لأن..." لكي يتمكن البشر من الثقة بها والعمل معها بشكل أفضل. ولكن إليك الجزء الصعب: إذا تكلم الروبوت كثيراً، فقد يشتت انتباهك. وإذا تكلم بطريقة خاطئة، فقد يزعجك. السؤال الكبير هو: كيف نجعل الروبوت يشرح نفسه دون أن يعيق سير اللعبة؟

تتعمق هذه الورقة البحثية في هذه المشكلة تحديداً عبر إعداد تجربة مطبخ رقمي باستخدام لعبة تسمى Overcooked-AI. استخدم الباحثون نوعاً خاصاً من عقول الروبوتات يسمى "التعلم التعزيزي الهرمي". فكر في هذا الأمر كأن الروبوت لا يفكر فقط في كل خطوة صغيرة (مثل "تحرك يساراً، تحرك يميناً")، بل يفكر في كتل أكبر، مثل "أحضر بصلة" أو "ضع الحساء في وعاء". ولأنه يفكر في هذه الكتل الكبيرة، يمكنه طبيعياً أن يخبرك بما يخطط لفعله بعد ذلك. أراد الفريق معرفة ما إذا كان السماح لهذا الروبوت بالتحدث إلى لاعبه البشري سيجعلهما يعملان معاً بشكل أفضل. لقد اختبروا طريقتين للتحدث: يمكن للروبوت كتابة رسائل على الشاشة (نص) أو نطقها بصوت عالٍ (صوت).

جاءت النتائج بمزيج من المفاجآت والدروس. أولاً، لم تجعل تفسيرات الروبوت الفريق يحرز نقاطاً أكثر على الفور. في الواقع، سجل اللاعبون البشر الذين لم يحصلوا على أي تفسيرات نقاطاً أعلى قليلاً في المتوسط، رغم أن الفرق لم يكن كبيراً. هذا يشير إلى أنه بالنسبة للأشخاص المهرة في الألعاب بالفعل، فإن التحديثات المستمرة قد تكون مجرد تشتيت. ومع ذلك، كان هناك جانب مشرق: اللاعبون الذين حصلوا على تفسيرات بدا أنهم يتعلمون كيفية العمل مع الروبوت بشكل أسرع. لقد حسنوا درجاتهم بشكل أسرع بمرور الوقت، كما لو أن ثرثرة الروبوت ساعدتهم على فهم أسلوب الروبوت في وقت أقصر.

لكن الاكتشاف الأكثر إثارة للاهتمام حدث فيما يتعلق بـ طريقة حديث الروبوت. عندما تحدث الروبوت بصوت عالٍ (صوت)، حدث شيء غريب. على الرغم من أن اللاعبين تعلموا بشكل أسرع، إلا أنهم شعروا برابط أضعف بكثير مع الروبوت. لم يشعروا أنهم في نفس الفريق. الأمر كما لو أن صوت الروبوت جعلهم يتوقعون محادثة حقيقية ووعداً بما سيحدث بعد ذلك. ولكن لأن الروبوت كان يتفاعل فقط مع اللحظة (مثل رد الفعل المنعكس)، فقد كان يغير رأيه فوراً بعد التحدث. عندما يقول الروبوت: "أنا ذاهب إلى القدر"، ثم يركض فوراً إلى المنضدة بدلاً من ذلك، شعر الإنسان بالخيانة. لقد جعل الصوت المنطوق الروبوت يبدو كشريك يجب أن يفي بوعوده، لكن عقل الروبوت كان تفاعلياً للغاية لدرجة تمنعه من الوفاء بهذا الوعد فعلياً.

في المقابل، عندما كان الروبوت يكتفي بكتابة الرسائل على الشاشة، لم يشعر اللاعبون بهذه الخيانة. كان بإمكانهم تجاهل النص إذا أرادوا ذلك، لذا لم يشعروا أن الروبوت "شريك مزيف". تشير الدراسة إلى أنه بينما يجذب التحدث بصوت عالٍ الانتباه ويساعد الناس على التعلم بشكل أسرع، فإنه يرفع أيضاً توقعات قد لا يستطيع روبوت بسيط وتفاعلي تلبيتها. ويخلص الباحثون إلى أنه إذا أردنا للروبوتات أن تتحدث إلينا، فنحن بحاجة للتأكد من أنها قادرة حقاً على الوفاء بالوعود التي توحي بها أصواتها، وإلا فإن الشراكة قد تبدو مكسورة.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →