Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
تتناول هذه الورقة مخاطر سلوكيات الروبوت غير المتوقعة في التفاعل بين الإنسان والروبوت القائم على النماذج اللغوية الكبيرة، وذلك عبر اقتراح إطار عمل لتصميم الأوامر البرمجية يتكون من ثمانية عناصر مهيكلة وإرشادات أخلاقية، مستندة إلى آراء الخبراء، لضمان شخصيات روبوتية شفافة وآمنة وقابلة للتكيف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل روبوتاً اجتماعياً، آلة صُممت للدردشة، والمساعدة، وربما حتى المواساة. لجعل هذه المحادثة تبدو طبيعية، غالباً ما يربط المهندسون الروبوت بنموذج لغوي كبير، وهو نوع من الذكاء الاصطناعي المدرب على كميات هائلة من النصوص لفهم وتوليد الكلام البشري. تتيح هذه التكنولوجيا للروبوت الإجابة على الأسئلة، ورواية القصص، والتفاعل مع العواطف بطلاقة كانت مستحيلة قبل بضع سنوات فقط. ومع ذلك، هناك فجوة خفية بين الواقع المادي للروبوت والكلمات التي ينطق بها. فقد لا يمتلك الجهاز عيوناً ليرى الغرفة، أو يدين ليلتقط شيئاً، أو وصولاً إلى الإنترنت، ومع ذلك فإن النموذج اللغوي الذي يستخدمه يعرف أشياء عن هذه الأمور لأنه قرأ عنها. وبدون تعليمات دقيقة، قد يدعي الروبوت بثقة أنه يمكنه رؤيتك أو إحضار كوب، مما يخلق تجربة مربكة ومضللة محتملة للشخص الذي يتحدث إليه. هذا الانفصال هو اللغز المركزي الذي يواجه الباحثين الذين يريدون لهذه الآلات أن تكون شركاء آمنين، وصادقين، ومفيدين حقاً.
لقد تصدى فريق من الباحثين من جامعات عبر أوروبا وأستراليا وإسرائيل لهذه المشكلة مؤخراً عبر طرح سؤال بسيط ولكنه حاسم: كيف نخبر الروبوت بالضبط من هو وماذا يمكنه أن يفعل قبل أن يبدأ في الكلام؟ إن عملهم، الذي قُدم في مؤتمر رئيسي للروبوتات، يتجاوز فكرة أن شخصية الروبوت هي مجرد إعداد ثانوي يمكن تعديله. بدلاً من ذلك، يجادلون بأن التعليمات المعطاة للذكاء الاصطناعي — "المطالبة" (the prompt) — هي أهم عنصر تصميم لتشكيل سلوك الروبوت. ولحل هذه المشكلة، طور الفريق إطار عمل هيكلياً يقسم هوية الروبوت إلى ثمانية أجزاء محددة. تشمل هذه الأجزاء تحديد دور الروبوت، والبيان الواضح لحدوده المادية، وشرح كيفية تعامله مع الأخطاء، ووضع حدود أخلاقية صارمة لمنع الكذب أو التسبب في الضرر.
لم يبتكر الباحثون هذه القائمة في مكتب هادئ؛ بل بنوها من خلال النظر فيما يفعله علماء آخرون بالفعل ثم اختبار تلك الأفكار مع الخبراء. أولاً، راجعوا دراسات حديثة استخدمت فيها الروبوتات نماذج لغوية كبيرة للتحدث مع الناس. ووجدوا أن معظم الباحثين كانوا يخبرون الروبوت فقط باسمه ووظيفته الأساسية، مثل "كن معلماً" أو "كن رفيقاً". لكنهم نادراً ما كانوا يخبرون الروبوت بما لا يستطيع فعله، مثل الاعتراف بأنه ليس لديه ذاكرة للمحادثات السابقة أو أنه لا يستطيع رؤية وجه المستخدم. هذا الإغفال جعل الروبوتات تتصرف وكأن لديها قدرات لا تمتلكها، مما أدى إلى الارتباك وفقدان الثقة.
لفهم سبب أهمية ذلك، جمع الفريق سبعة وعشرين خبيراً في التفاعل بين الإنسان والروبوت في ورشة عمل. كان هؤلاء باحثين وممارسين متمرسين من خلفيات متنوعة، تشمل علم النفس والأخلاق وعلوم الحاسوب. ناقشوا كيف يجب أن تعمل شخصية الروبوت بمرور الوقت وماذا يحدث عندما يرتكب الروبوت خطأً. واتفق الخبراء على نقطة حاسمة: شخصية الروبوت ليست مجرد الكلمات التي يقولها. فإذا ادعى الروبوت أنه صديق مهتم ولكنه نسي محادثة أجراها المستخدم قبل خمس دقائق، سيشعر المستخدم بالخداع. وأشار الخبراء إلى أن الإشارات الدقيقة للشخصية غالباً ما يتم إغفالها، وأن هوية الروبوت يجب أن تكون متسقة مع قدراته المادية الفعلية. كما أثاروا مخاوف جدية بشأن السلامة، مشيرين إلى أنه إذا كذب الروبوت بشأن قدراته، فقد يؤدي ذلك إلى مواقف خطيرة، خاصة بالنسبة للمستخدمين الضعفاء مثل الأطفال أو كبار السن.
بناءً على هذه المناقشات ومراجعتهم للعمل الحالي، اقترح الفريق طريقة جديدة لكتابة التعليمات لهذه الروبوتات. يتطلب إطار عملهم من المصممين كتابة ثمانية أشياء صراحةً قبل أن يتحدث الروبوت أبداً. أولاً، يجب عليهم تحديد الهوية، وهي شخصية الروبوت ودوره الاجتماعي. ثانياً، يجب عليهم وضع حدود القدرة، وهي قائمة واضحة بما يمكن للروبوت إدراكه أو فعله أو لا يمكنه فعله، مثل التصريح بأنه ليس لديه وصول للإنترنت أو لا يمكنه التحرك بمفرده. ثالثاً، تعليمات الشفافية يجب أن تخبر الروبوت بكيفية الاعتراف بأنه آلة وما هي حدوده. رابعاً، المهمة تحدد الهدف المحدد من المحادثة. خامساً، بروتوكول التوقعات والفشل يشرح كيفية رد فعل الروبوت عندما لا يعرف إجابة ما أو عندما تسوء المحادثة. سادساً، قواعد الخصوصية تملي كيفية تعامل الروبوت مع البيانات الشخصية. سابعاً، التكيف مع المستخدم يضمن تغيير نبرة الروبوت لتناسب مختلف الأشخاص، مثل التحدث ببساطة إلى طفل. وأخيراً، الخطوط الحمراء الأخلاقية تضع حدوداً صارمة لمنع الروبوت من قول أي شيء ضار أو منحاز أو غير قانوني.
قام الباحثون بتوضيح هذه الفكرة من خلال تقديم مثالين كاملين للمطالبات باستخدام جميع مكونات التصميم الثمانية كنموذج لإثبات المفهوم في مشروع منفصل. ويجادلون بأنه عند تضمين هذه المكونات، يصبح سلوك الروبوت أكثر قابلية للتنبؤ والصدق. وأكد الخبراء في ورشة العمل أنه بدون هذه التعليمات المحددة، يمكن أن تبدو شخصية الروبوت غير مستقرة أو مخادعة. وشددوا على أنه لا يمكن ببساطة إخبار الروبوت بأن "يكون ودوداً"؛ بل يجب إخباره بدقة كيف يكون ودوداً ضمن حدود أجهزته. على سبيل المثال، إذا تم تصميم روبوت لمساعدة شخص مسن، فيجب برمجته ليعرف أنه لا يستطيع رفعه جسدياً، حتى لو اقترح النموذج اللغوي أنه يستطيع ذلك.
يشير هذا العمل إلى أن مستقبل الروبوتات الاجتماعية يعتمد أقل على جعل اللغة تبدو أكثر بشرية وأكثر على جعل قيود الروبوت واضحة. ويجادل الفريق بأن التعامل مع "المطالبة" كأداة تصميم جادة، وليس مجرد خطوة برمجة بسيطة، أمر ضروري لبناء الثقة. ومن خلال إجبار المصممين على كتابة ما هو الروبوت وما ليس هو بالضبط، يمكن للمجال أن ينتقل بعيداً عن الروبوتات التي تهلوس بالقدرات نحو آلات موثوقة وشفافة وآمنة. لا تدعي الدراسة أنها حلت كل مشكلة في مجال الروبوتات، لكنها توفر طريقة هيكلية ملموسة لضمان أنه عندما يتحدث الروبوت، فإن كلماته تطابق واقعه. ويجب أن تستكشف الأعمال المستقبلية تنفيذ إرشادات المطالبة المقترحة في نماذج مختلفة من الروبوتات لتقييم إدراك هوية الروبوت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.