← أحدث الأبحاث
💻 علوم الحاسوب

Adversarial robustness and confidence miscalibration in emotion-based HRI systems

تُثبت هذه الورقة أن أنظمة التعرف على تعبيرات الوجه في الروبوتات، رغم تحقيقها دقة عالية في المجموعات النظيفة، تعاني من سوء معايرة ثقة كارثي وغير قابل للمعايرة هيكلياً تحت الهجمات العدائية، مما يجعلها غير آمنة جوهرياً للتحكم الفيزيائي رغم ظهورها بمستوى عالٍ من الثقة.

المؤلفون الأصليون: Ezekiel Olayide Tolulope, Franklin Tchakounté, Derrick Méthode BAGAZA, Shanay Rab, Almas Baimagambetov

نُشر 2026-10-26
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Ezekiel Olayide Tolulope, Franklin Tchakounté, Derrick Méthode BAGAZA, Shanay Rab, Almas Baimagambetov

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل روبوتًا صُمم لمساعدة الناس، ربما في مستشفى أو مدرسة، ويُفترض به أن يفهم المشاعر البشرية من خلال النظر إلى الوجوه. إذا رأى الروبوت ابتسامة، فقد يقدم تحية مبهجة؛ وإذا رأى عبوسًا، فقد يقدم المواساة. هذه القدرة على قراءة العواطف هي حجر الزاوية في الروبوتات الاجتماعية الحديثة، وهي تعتمد على برامج حاسوبية تم تدريبها على التعرف على تعبيرات الوجه. ولكي تكون هذه الآلات آمنة ومفيدة، يجب على مبتكريها أن يثقوا في أن تفسير الروبوت للوجه صحيح. فإذا أخطأ الروبوت في قراءة وجه محايد على أنه غاضب، فقد يتفاعل بحذر أو عدوانية غير ضروريين، مما قد يسبب ضررًا أو ضيقًا. السؤال الجوهري للمهندسين ليس فقط ما إذا كان بإمكان الروبوت التعرف على العواطف بدقة في بيئة مثالية ومنضبطة، بل ما إذا كان يمكن الوثوق به لاتخاذ القرارات عندما يكون العالم فوضويًا أو عندما يحاول شخص ما خداعه.

لقد وضع فريق من الباحثين هدفًا لاختبار هذه الموثوقية تحديدًا. قاموا بفحص خمسة أنظمة حاسوبية مختلفة صُممت للتعرف على خمس عواطف أساسية: الغضب، السعادة، الحزن، المفاجأة، والحالة المحايدة. خضعت هذه الأنظمة لسلسلة من الاختبارات الصارمة لمعرفة كيفية أدائها عندما تكون الصور التي تتلقاها ضبابية قليلاً، أو خافتة الإضاءة، أو مغطاة بضجيج رقمي. والأهم من ذلك، أخضع الباحثون هذه الأنظمة لنوع معين من الخداع الرقمي يُعرف باسم "الهجوم العدائي". في هذا السيناريو، يقوم برنامج حاسوبي بإجراء تغييرات طفيفة، غير مرئية تقريبًا على صورة وجه — تغييرات صغيرة جدًا لدرجة أن العين البشرية لن تلاحظها أبدًا — ولكن هذه التغييرات محسوبة لإرباك الروبوت تمامًا. كان الهدف هو معرفة ما إذا كان الروبوت سيظل يتعرف على العاطفة بشكل صحيح، والأهم من ذلك، ما إذا كان الروبوت سيعرف أنه مرتبك.

كانت النتائج صارخة وكشفت عن خلل خطير في كيفية بناء هذه الأنظمة حاليًا. فعندما أدخل الباحثون حتى أقل قدر من الخداع الرقمي، انهارت قدرة الروبوتات على التعرف على العواطف. الأنظمة التي كانت دقيقة بنسبة 76 في المائة في الظروف المثالية انخفضت دقتها إلى ما يقرب من الصفر. بدأت الروبوتات في التخمين العشوائي، فغالبًا ما كانت تحدد وجهًا سعيدًا على أنه غاضب، أو وجهًا حزينًا على أنه متفاجئ. ومع ذلك، فإن الاكتشاف الأكثر إثارة للقلق لم يكن أن الروبوتات ارتكبت أخطاءً، بل أنها كانت تفتقر تمامًا للوعي بأخطائها. ففي الواقع، حتى عندما كان يتم خداع الروبوتات لرؤية العاطفة الخاطئة، ظلت واثقة للغاية في إجاباتها الخاطئة. وفي الواقع، أبلغت البرامج الحاسوبية أنها كانت متأكدة بنسبة تقارب 96 في المائة من تخميناتها الخاطئة.

يتحدى هذا الاكتشاف استراتيجية سلامة شائعة تُستخدم في الروبوتات. غالبًا ما يبرمج المهندسون الروبوتات لتجاهل التنبؤ إذا كانت درجة ثقة الحاسوب منخفضة جدًا، بافتراض أن الدرجة المنخفضة تعني أن الروبوت غير متأكد ويجب عليه انتظار قراءة أفضل. وجد الباحثون أن شبكة الأمان هذه عديمة الفائدة ضد هذه الخدع الرقمية. نظرًا لأن الروبوتات ظلت واثقة للغاية حتى عندما كانت مخطئة، فإن بوابة الأمان لم تُغلق أبدًا. وواصلت الروبوتات التصرف بناءً على معتقداتها الزائفة بيقين تام. لقد أثبت الفريق رياضيًا أن مجرد تعديل الإعدادات الداخلية للحاسوب لجعله أكثر حذرًا لن يحل المشكلة. إن الطريقة التي تحسب بها هذه الأنظمة الثقة غير قادرة هيكليًا على التمييز بين وجه حقيقي ووجه تم خداعه عندما يكون الخداع قويًا بما يكفي.

خلص الباحثون إلى أن الاعتماد على لقطة واحدة للوجه ودرجة ثقة الحاسوب ليس كافيًا للحفاظ على سلامة الروبوت. لقد أثبتوا أن قدرة الروبوت على التعرف على العاطفة وقدرته على التصرف بأمان بناءً على تلك العاطفة هما أمران مختلفان. يمكن للنظام أن يكون جيدًا جدًا في التعرف على الوجوه في المختبر، ومع ذلك يظل هشًا بشكل خطير في العالم الحقيقي. ولبناء روبوتات آمنة حقًا، يرى الباحثون أننا بحاجة إلى طبقة جديدة من التحقق. فبدلاً من ترك الروبوت يتصرف فور رؤية الوجه، يجب على النظام التحقق من التنبؤ مقابل أدلة أخرى، مثل مدة استمرار التعبير أو ما إذا كانت مستشعرات الروبوت الأخرى تتفق مع المدخلات المرئية. وإلى أن توضع مثل هذه الضمانات، فإن الروبوتات التي تعتمد على قراءة وجوهنا قد تكون أكثر عرضة لسوء فهمنا منها لفهمنا، خاصة عند مواجهة حتى أدنى محاولة للخداع.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →