Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models
تجادل هذه الورقة بأن دمج النماذج التأسيسية في الروبوتات الاجتماعية يستلهزم تحولاً من المبررات العامة إلى استراتيجيات تفسير أخلاقية وتكيفية مع المستخدم، مقترحةً أربع توصيات تصميمية قائمة على مجموعات بيانات أصغر وأكثر عدلاً لمعالجة تحديات السلوكيات التكيفية والغامضة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: الروبوت الذي يعرفك أكثر مما ينبغي (ولكن ربما ليس بما يكفي)
تخيل أن لديك رفيقًا آليًا جديدًا. في الماضي، كانت هذه الروبوتات تشبه آلات البيع القديمة: تضغط على زر، فتعطيك وجبة خفيفة محددة. إذا أردت وجبة مختلفة، كان عليك الضغط على زر آخر. كانت متوقعة، لكنها مملة بعض الشيء.
اليوم، وبفضل "النماذج التأسيسية" (وهي نفس العقول الاصطناعية فائقة الذكاء التي تشغل أدوات مثل ChatGPT)، أصبحت الروبوتات الاجتماعية تشبه الحرباء. يمكنها تغيير شخصيتها، وطريقة كلامها، وسلوكها لتناسبك تمامًا. يمكنها إلقاء النكات إذا كنت حزينًا، أو التحدث ببطء إذا كنت متعبًا، أو استخدام كلمات معقدة إذا كنت خبيرًا.
المشكلة:
يرى مؤلفو هذه الورقة البحثية أنه بينما تعد هذه الروبوتات "الحرباء" مذهلة، إلا أنها أصبحت غامضة للغاية.
- الصندوق الأسود: نظرًا لأن هذه الروبوتات تتعلم من الإنترنت بأكديد (مكتبة ضخمة وفوضوية من الكتابات البشرية)، فنحن لا نعرف دائمًا لماذا تقرر التصرف بطريقة معينة.
- كذبة "المقاس الواحد للجميع": حاليًا، عندما يقوم الروبوت بشيء غريب، فإنه يقدم نفس التفسير العام للجميع: "فعلت هذا لأنه كان الخيار الأفضل".
- الخطر: إذا كان الروبوت يحاول مساعدة طفل، أو مسن، أو شخص ذوي احتياجات خاصة، فقد يكون التفسير العام مربكًا، أو مهينًا، أو حتى تضليليًا. الأمر يشبه تقديم طبيب لمحاضرة طبية معقدة لطفل صغير، أو تقديم قصة قبل النوم لطفل لجراح متخصص. كلاهما لا ينجح.
تقول الورقة: نحن بحاجة إلى روبوتات لا تكتفي بالتكيف معنا فحًا، بل تشرح أفعالها بطريقة يمكننا نحن أيضًا فهمها.
العقبات الثلاث الكبرى (جزء "لماذا الأمر صعب")
حدد المؤلفون ثلاثة أسباب رئيسية تجعل هذا الأمر معقدًا:
1. تحيز "النظام الغذائي للإنترنت":
تخيل أن الروبوت تناول نظامًا غذائيًا يتكون بالكامل من الإنترنت. يحتوي الإنترنت على الكثير من المعلومات الرائعة، ولكنه يحتوي أيضًا على صور نمطية، وتحيزات، وسوء فهم. إذا تعلم الروبوت أن "الأشخاص الذين لا يتواصلون بصريًا هم خجولون"، فقد يعامل شخصًا من ذوي الاختلافات العصبية (الذي قد يعالج الأمور بشكل مختلف فقط) كما لو كان يشعر بعدم الارتياح. وعندما يشرح الروبوت فعله، قد يقول: "أنا أتراجع لأنك تبدو خجولًا،" مما يعزز سوء الفهم بدلاً من إصلاحه.
2. وهم "خدعة الساحر":
بسبب براعة هذه النماذج في الكلام، يمكنها أن تبدو واثقة للغاية. قد تقدم تفسيرًا طويلًا ومهذبًا ومفصلاً للغاية لسبب قيامها بشيء ما، مما يجعلك تفكر: "واو، هذا الروبوت يفهمني حقًا!"
الواقع: قد يكون الروبوت مجرد مخمن بناءً على الأنماط. إنه يشبه الساحر الذي يشرح الخدعة جيدًا لدرجة تجعلك تنسى أن تسأل ما إذا كانت الخدعة قد نجحت بالفعل أم لا. هذا يخلق ثقة زائفة.
3. التفسير "النمطي الموحد":
في الوقت الحالي، معظم الروبوتات تشبه مرشدًا سياحيًا لديه نص جاهز. يقول الشيء نفسه بالضبط للسائح من طوكيو، وللسائح من باريس، وللسائح الذي يعاني من ضعف السمع. تجادل الورقة بأن التفسيرات يجب أن تكون مخصصة. فالطفل يحتاج إلى رسم، والخبير يحتاج إلى بيانات، والشخص المرهق يحتاج إلى جملة قصيرة وهادئة.
الحلول الأربعة (جزء "كيفية الإصلاح")
يقترح المؤلفون أربع قواعد لجعل هذه الروبوتات أخلاقية ومفيدة:
1. تحدث لغتهم (الوعي بالوسائط)
لا تكتفِ بالنصوص فقط. إذا كان الروبوت يتحدث إلى طفل، استخدم الصور والكلمات البسيطة. إذا كان يتحدث إلى شخص يعاني من ضعف البصر، استخدم الصوت. إذا كان يتحدث إلى ثقافة تعتمد على الإشارات الجسدية أكثر من الكلمات، استخدم إشارات اليد.
- التشبيه: لا تقدم شريحة لحم لنباتي، ولا تقدم سلطة لحيوان آكل للحوم جائع. قدم التفسير بالصيغة التي يريدها المستخدم بالفعل.
2. ابنِ الروبوت مع المستخدمين (التصميم المشترك)
لا تسأل المهندسين فقط عما يجب أن يقوله الروبوت. اسأل الأشخاص الذين سيستخدمونه بالفعل.
- التشبيه: إذا كنت تبني منزلاً لعائلة، فأنت لا تخمن مكان المطبخ فحسب. بل تسأل العائلة: "هل تحبون الطبخ معًا؟ هل تحتاجون إلى طاولة كبيرة؟" وبالمثل، اسأل المستخدمين: "كيف تريد مني أن أشرح أخطائي؟"
3. النهج "الطبقي"
لا يمكننا بناء عقل روبوت فريد لكل إنسان على الأرض (فهذا مكلف وبطيء للغاية). بدلاً من ذلك، ابنِ "طبقات".
- التشبيه: فكر في الأمر مثل البدلة المفصلة. أولاً، تشتري بدلة تناسب مقاسًا عامًا (مثل "مراهق" أو "مسن"). ثم تقوم بإجراء تعديلات صغيرة (تقصير السراويل، تضييق الخصر) بناءً على الشخص المحدد. يبدأ الروبوت بفهم عام لمجموعة ما، ثم يعدل تفسيره مع التعرف على الفرد.
4. الجودة فوق الكمية (بيانات أصغر وأكثر عدالة)
توقف عن محاولة تغذية الروبوت بكل شيء على الإنترنت. بدلاً من ذلك، غذه بمجموعات بيانات أصغر ومنسقة بعناية تتضمن الأشخاص الذين يُستبعدون عادةً (مثل ذوي الاحتياجات الخاصة أو الأقليات).
- التشبيه: إذا كنت تريد التعلم عن ثقافة معينة، فإن قراءة مليون منشور عشوائي من جميع أنحاء العالم قد يعطيك صورة مشوشة. من الأفضل قراءة بضعة كتب كتبها أشخاص من تلك الثقافة تحديدًا.
مثال من الواقع: "روبوت العافية"
تخيل روبوتًا مصممًا لمساعدة كبار السن أو ذوي الاحتياجات الخاصة على الشعور بالتحسن.
- الطريقة القديمة: يرى الروبوت شخصًا مسنًا يبدو حزينًا. فيقول: "أنا أقدم لك نكتة لأن قاعدة بياناتي تشير إلى أن الفكاهة تحسن المزاج." (آلي جدًا، وعام جدًا).
- الطريقة الجديدة (أخلاقية ومتكيفة):
- يلاحظ الروبوت أن الشخص متعب ويعاني من ضعف السمع.
- يتحدث ببطء، ويستخدم صوتًا لطيفًا، وربما يعرض صورة بسيطة لشمس مبتسمة على شاشته.
- يقول: "تبدو وكأن يومك كان طويلًا. سأقوم بتشغيل بعض الموسيقى الهادئة لأنني أعلم أنك تحب ذلك. هل هذا مناسب؟"
- الأهم من ذلك: إذا قال الشخص: "لا، أنا لا أحب ذلك،"، يعترف الروبوت: "أنا لا أزال أتعلم ما تحبه. اعتقدت أنك قد تستمتع بذلك بناءً على ما يحبه الآخرون، لكنني سأجرب شيئًا آخر."
الخلاصة
هذه الورقة هي تحذير ودليل في آن واحد. تخبرنا أنه كلما أصبحت الروبوتات أكثر ذكاءً وشخصية، يجب أن نكون حذرين من أن تصبح تضليلية أو مربكة.
نحن بحاجة إلى تصميم روبوتات تكون صادقة بشأن ما تعرفه، محترمة لمن هو المستخدم، وواضحة بشأن سبب قيامها بما تفعله. الهدف ليس مجرد بناء روبوت يمكنه التحدث إلينا؛ بل بناء روبوت يفهمنا بما يكفي ليشرح نفسه بطريقة تجعلنا نشعر بالأمان والاحترام.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.