The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search
تكشف هذه الدراسة أنه على الرغم من الوصول إلى أدوات البحث الهجين، إلا أن اعتماد المستخدمين على الذكاء الاصطناوي التوليدي لا يزال مستمراً، وهو مدفوع في المقام الأول بالسمات الفردية والثقة المسبقة بدلاً من جودة الإجابة، حيث يؤدي الأسلوب الحواري الودود عن غير قصد إلى زيادة الاعتماد المفرط من خلال تعزيز حالة الموافقة حتى مع المعلومات غير الصحيحة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "قرار التحقق: كيف يشكل الدفء وخصائص المستخدم الاعتماد على الوكلاء الحواريين للبحث عن المعلومات"، مقسمة إلى مفاهيم بسيطة مع تشبيهات من الحياة اليومية.
الصورة الكبيرة: فخ "المساعد الذكي"
تخيل أنك تحاول العثور على حقيقة محددة، مثل "أي حيوان يقتل أكبر عدد من البشر؟" لديك أداتان: روبوت دردشة (Chatbot) (ذكاء اصطناعي ودود يتحدث إليك) ومتصفح ويب (محرك بحث تقليدي).
في الماضي، كان الباحثون يعتقدون: "إذا قدمنا للناس كلا الأداتين، فسيقومون بالتحقق من عمل الذكاء الاصطناعي مقابل الويب، وسيكون كل شيء مثاليًا".
اختبرت هذه الدراسة تلك الفكرة. لقد أقاموا تجربة حيث تعين على 199 شخصًا الإجابة على 6 أسئلة مخادعة. كان بإمكانهم استخدام روبوت دردشة يعطيهم إجابة، ولكن كان لديهم أيضًا زر لفتح بحث الويب للتحقق من صحة الإجابة.
النتيجة الرئيسية: على الرغم من أن متصفح الويب كان متاحًا أمامهم، إلا أنهم لا يزالوا يرتكبون الأخطاء. البعض وثق في الذكاء الاصطناعي أكثر من اللازم (الإفراط في الاعتماد)، والبعض الآخر لم يثق به بما يكفي (ضعف الاعتماد). لم يكن قرار التحقق من الحقائق يتعلق بصعوبة السؤال؛ بل كان يتعلق في الغالب بـ من هو الشخص و كيف يبدو صوت الذكاء الاصطناعي.
النتيجة الرئيسية 1: تأثير "الجار الودود" (الدفء)
لقد صمم الباحثون نسختين من روبوت الدردشة:
- محايد: مجرد حقائق، بدون مشاعر.
- دافئ: ودود، يستخدم الرموز التعبيرية (emojis)، ويقول أشياء مثل "سؤال رائع!" و "أود مساعدتك!".
التشبيه: فكر في روبوت الدردشة "المحايد" كأنه أمين مكتبة صارم يسلمك الكتاب فقط. أما روبوت الدردشة "الدافئ" فهو جار ثرثار يحضر لك الكعك ويبتسم أثناء الحديث معك.
ماذا حدث:
عندما أعطى روبوت الدردكة إجابة خاطئة، كان الناس أكثر عرضة لتصديق النسخة الدافئة منها النسخة المحايدة.
- لماذا؟ عندما لم يكن الناس متأكدين من الإجابة (ارتفاع حالة عدم اليقين)، جعلهم النبرة الودودة يشعرون براحة أكبر في الموافقة على ما يقوله الذكاء الاصطناعي. كان الأمر يشبه بائعًا لبقًا؛ قد تشتري منتجًا سيئًا فقط لأنه لطيف للغاية معك.
- العقدة: معظم الناس لم يدركوا حتى أن الود كان يخدعهم. لقد حدث ذلك بشكل غير واعٍ.
النتيجة الرئيسية 2: الأمر يتعلق بالمستخدم، وليس بالأداة
وجدت الدراسة أن وجود "زر التحقق من الحقائق" لم يحل المشكلة. سواء قام الشخص بالتحقق من الإجابة أم لا، كان ذلك يعتمد على شخصيته، وليس على السؤال.
التشبيه: تخيل مجموعة من الأشخاص يحاولون حل لغز.
- المجموعة أ (المشككون): يعتقدون أن "الذكاء الاصطناعي عادة ما يكون مخطئًا". لذا يتحققون من كل إجابة، حتى عندما يكون الذكاء الاصطناعي محقًا بالفعل. (هذا هو ضعف الاعتماد).
- المجموعة ب (المؤمنون): يعتقدون أن "الذكاء الاصطناعي ذكي". لذا لا يتحققون أبدًا، حتى عندما يكون الذكاء الاصطناعي مخطئًا. (هذا هو الإفراط في الاعتماد).
- المجموعة ج (المتحققون المشروطون): يتحققون فقط إذا بدت الإجابة "غريبة" بالنسبة لهم.
النتيجة: أظهرت الدراسة أن هذه العادات متجذرة بعمق في الشخص.
- إذا كنت تثق عمومًا في روبوتات الدردشة، فأنت أقل عرضة لاستخدام زر بحث الويب.
- إذا كانت لديك "ثقافة عالية في التعامل مع روبوتات الدردشة" (تفهم كيفية عمل الذكاء الاصطناعي، وما هي "الهلوسة"، وما إلى ذلك)، فأنت أفضل في اكتشاف الإجابة الصحيحة، خاصة عندما يكذب الذكاء الاصطناي.
- ومن المثير للاهتمام، أن استخدام ذكاء اصطناعي آخر للتحقق من عمل الذكاء الاصطناعي الأول ساعد الناس على الحصول على الإجابة الصحيحة. لكن مجرد استخدام بحث ويب قياسي لم يساعد دائمًا، لأن الناس غالبًا ما كانوا يبحثون عن نتائج تؤكد ما قاله الذكاء الاصطناعي الأول.
النتيجة الرئيسية 3: مشكلة "الارتكاز" (Anchoring)
عندما بدأ الناس باستخدام روبوت الدردشة، أصبحت تلك الإجابة هي "مرساتهم".
- التشبيه: إذا أخبرك صديق: "يبدأ الفيلم في الساعة 7 مساءً"، ثم نظرت إلى ملصق يقول "7:30 مساءً"، فقد تظل تفكر: "حسنًا، صديقي قال 7، لذا ربما الملصق هو الخطأ"، أو قد تتجاهل الملصق تمامًا.
- الواقع: حتى عندما استخدم الناس بحث الويب، فإنهم غالبًا ما عاملوا إجابة روبوت الدردشة كأنها "الحقيقة" وبحثوا فقط عن نتائج الويب التي تتفق معها. لم يستخدموا الويب لـ تحدي الذكاء الاصطناعي؛ بل استخدموه لـ تأكيد ما قاله.
ملخص "قواعد اللعبة"
- الأدوات ليست كافية: مجرد منح الناس وسيلة للتحقق من الحقائق لا يمنعهم من الثقة العمياء في الذكاء الاصطناعي.
- الشخصية هي الغالبة: بعض الناس متشككون بطبيعتهم، والبعض الآخر واثقون بطبيعتهم. هذا لا يتغير بناءً على السؤال.
- الود خطير: روبوت الدردشة الذي يكون لطيفًا للغاية يمكن أن يجعلك توافق على كلامه حتى عندما يكون مخطئًا، خاصة إذا كنت غير متأكد من الإجابة.
- ذكاء اصطناعي ضد ذكاء اصطناعي: فحص ذكاء اصطناعي واحد بواسطة ذكاء اصطنا آخر بدا أنه يساعد في دقة الإجابة أكثر من مجرد إجراء بحث ويب عادي.
- المعرفة تساعد: الأشخاص الذين فهموا كيفية عمل الذكاء الاصطناعي (ثقافة روبوت الدردشة) كانوا أفضل في تمييز الحقيقة.
ماذا يعني هذا بالنسبة لك؟
إذا كنت تستخدم روبوت دردشة للعثور على حقائق:
- لا تدع النبرة الودودة تخدعك وتجعلك تعتقد أن الإجابة صحيحة.
- إذا كنت غير متأكد، فلا تثق ببساطة في أول إجابة تحصل عليها.
- إذا كنت تعرف القليل عن كيفية عمل الذكاء الاصطناعي، فمن المرجح أن تكون أكثر دقة.
- تذكر أن عادتك الشخصية في "الثقة" أو "عدم الثقة" في التكنولوجيا هي العامل الأكبر في تحديد ما إذا كنت ستحصل على الإجابة الصحيحة أم لا.
ملاحظة: يلتزم هذا الشرح بدقة بالنتائج الواردة في الورقة البحثية. لا يدعي المؤلفون أن هذه النتائج تنطبق على التشخيص الطبي، أو المشورة القانونية، أو غيرها من المجالات السريرية المحددة، ولا يقترحون منتجات مستقبلية معينة بناءً على هذه النتائج.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.