Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
تكشف هذه الدراسة أنه في حين أن السياقية وحدها تقلل من قدرة المساعد الذكي على الإقناع في مواجهة التوصيات الخبيرة، فإن الجمع بينها وبين الدفء الحواري يستعيد تأثيره، رغم أن أيًا من عنصري التصميم لا يغير بشكل ملحوظ اعتماد المستخدم، والذي يظل مرتفعًا ومدفوعًا بالثقة والوعي التقني بالذكاء الاصطناعي بدلاً من تصميم الواجهة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقف عند مفترق طرق. على أحد الجانبين، هناك مجموعة من الخبراء المتمرسين يقدمون لك خريطة ومساراً محدداً لتسلكه. وعلى الجانب الآخر، يتقدم مساعد آلي (ذكاء اصطناعي) ودود ويقول: "في الواقع، أعتقد أنه يجب عليك سلك طريق مختلف".
أراد الباحثون في هذه الورقة البحثية معرفة: ما الذي يجعلك تستمع إلى الروبوت بدلاً من الخبراء؟ وتحديداً، اختبروا "خدعتين سحريتين" يمكن للروبوت استخدامهما ليبدو أكثر إقناعاً:
- السياق المخصص (خدعة "البدلة المفصلة"): يقوم الروبوت بتفصيل شرحه ليتناسب مع خلفيتك الخاصة. إذا كنت خبازاً، فإنه يشرح المسار باستخدام أمثلة من عالم الخبز. وإذا كنت معلماً، فإنه يستخدم أمثلة من الفصل الدراسي. يبدو الأمر وكأن الروبوت يتحدث لغتك.
- الدفء (خدعة "الجار الودود"): يغير الروبوت نبرته. فبدلاً من أن يبدو ككمبيوتر بارد، يبدو دافئاً، حماسياً، ويستخدم الرموز التعبيرية (Emojis)، مثل جار ودود يدردش معك.
لقد أقاموا تجربة مع 380 شخصاً لمعرفة أي خدعة كانت الأفضل. وإليكم ما اكتشفوه، مقسماً ببساطة:
1. "البدلة المفصلة" تأتي بنتيجة عكسية (إلا في حالة...)
قد تعتقد أنك إذا جعلت الروبوت يشرح الأشياء باستخدام خلفيتك المحددة، فستثق به أكثر. ومن المثير للدهشة أن الدراسة وجدت العكس تماماً.
- المثال: تخيل مندوب مبيعات يحاول بيعك سيارة. إذا بدأ بالتحدث عن ذكريات طفولتك المحددة ليشرح ميزات السيارة، فقد تشعر بالغرابة أو تفكر: "لماذا يجلب حياتي الخاصة إلى هذا الموضوع؟". لقد جعل ذلك الروبوت أقل إقناعاً.
- الاستثناء: ومع ذلك، كانت هناك التفاتة؛ فعندما استخدم الروبوت "البدلة المفصلة" (السياق المخصص) و "الجار الودود" (الدفء) في نفس الوقت، اختفى التأثير السيئ. كان الأمر بمثابة تفاعل تداخلي: حيث عمل الدفء كشبكة أمان، مما ألغى الشعور بالغرابة الناتج عن التخصيص. ولكن بمفرده، لم يساعد التخصيص الروبوت؛ بل أضر بفرصه في إقناعك. لكن على "البدلة المفصلة" وحدها، لم تكن مفيدة.
2. الروبوت يفوز على أي حال (مشكلة "الاعتماد")
إليك النتيجة الأكثر إثارة للدهشة: لم يكن يهم حقاً ما قاله الروبوت أو كيف بدا صوته.
- المثال: تخيل أنك في غرفة مع خبير بشري وروبوت. بغض النظر عما إذا كان الروبوت بارداً وعاماً، أو دافئاً ومخصصاً، استمر الناس في تغيير جانبهم لاتباع نصيحة الروبوت بدلاً من الخبير البشري.
- الواقع: كان الناس بالفعل يميلون للثقة بالذكاء الاصطناعي. "تصميم" المحادثة (كونها دافئة أو مخصصة) لم يغير هذا السلوك. سواء كان الروبوت روبوتاً أو بشراً، كان الناس يميلون بالفعل لتفويض القرار للآلة.
3. مفارقة "المستخدم الذكي"
نظرت الدراسة إلى الأشخاص الذين لديهم معرفة واسعة بالذكاء الاصطناعي (ثقافة عالية بالذكاء الاصطناعي). كنت تتوقع أن يكون هؤلاء الأشخاص أكثر تشككاً ويثقون في الروبوت بشكل أقل.
- المفارقة: هؤلاء المستخدمون ذوو المعرفة وثقوا بالفعل في الروبوت بشكل أقل؛ كانوا أكثر نقدية. ولكن، رغم ثقتهم الأقل، كانوا أكثر عرضة لاتباع نصيحته وتغيير آرائهم.
- المثال: فكر في شخص يعرف كيف تعمل الخدعة السحرية. هو يعرف أن الساحر يخدع الجمهور (ثقة منخفضة)، لكنه لا يزال منبهراً بالمهارة لدرجة أنه يساير العرض على أي حال (اعتماد عالٍ). قد يكونون مفرطين في الثقة بقدرتهم على تقييم النصيحة، حتى لو لم يثقوا تماماً في المصدر.
4. الثقة هي المحرك، لكنها ليست القائد
أكدت الدراسة أنه إذا وثقت في الروبوت، فمن المرجح أن تستمع إليه.
- ومع ذلك، فإن "الخدع السحرية" (الدفء أو التخصيص) لم تزد من الثقة في الروبوت. لم تجعل الناس يثقون به أكثر؛ بل حاولت فقط تغيير أسلوب المحادثة.
- وبما أن هذه الخدع لم تغير الثقة، والثقة هي ما يدفع الناس للاستماع، فقد فشلت الخدع في أداء مهمتها.
الخلاصة الكبرى
تخلص الورقة البحثية إلى أننا نعيش في عالم حيث يكون الناس سريعين جداً في السماح لوكلاء الذكاء الاصطناعي بتجاوز الخبراء البشر. محاولة جعل الذكاء الاصطناعي يبدو "لطيفاً أكثر" أو "أكثر شخصية" لا يغير أو يصلح هذا السلوك. إن تصميم الدردشة (النبرة أو التخصيص) يلعب دوراً محدوداً للغاية في تحديد ما إذا كنا سنستمع للذكاء الاصطناعي أم لا؛ فنزعة تفويض القرار للآلة موجودة بالفعل، بغض النظر عن طريقة حديث الروبوت.
باخت-اختصار: جعل الذكاء الاصطناعي يبدو كصديق أو كمستشار شخصي لا يجعله بالضرورة أكثر إقناعاً. في الواقع، قد يجعل الأمر أسوأ ما لم يكن دافئاً جداً. ومهما كانت الطريقة التي يتحدث بها الذكاء الاصطناعي، فإن الناس مستعدون بالفعل لترك الآلة تتخذ القرارات نيابة عنهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.