What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public
تقارن هذه الدراسة بين الانحياز للأتمتة والنفور من الخوارزميات بين طلاب الأكاديمية العسكرية بالولايات المتحدة والجمهور العام، وتجد أن التعليم العسكري يعزز ثقةً أكثر دقة في أنظمة دعم القرار القائمة على الذكاء الاصطناعي، مما قد يقلل من مخاطر الخطأ وسوء التقدير في النزاعات المستقبلية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك طيار يقود طائرة. بجانبك يجلس مساعد طيار، وهو في الواقع برنامج حاسوبي فائق الذكاء. هذا الحاسوب يمكنه رؤية أشياء لا تراها أنت، ويمكنه إجراء الحسابات بشكل أسرع مما يمكنك فعله. لكن هناك مشكلة، وهي أن الحاسوب يخطئ أحياناً، ويصيب أحياناً أخرى.
السؤال الكبير الذي تطرحه هذه الورقة البحثية هو: عندما يقدم لك الحاسوب نصيحة، هل تتبعها بعين مغمضة حتى عندما يكون مخطئاً؟ أم تتجاهلها حتى عندما يكون مصيباً؟
أراد الباحثون معرفة ما إذا كان القادة العسكريون المستقبليون (تحديداً طلاب كلية "وست بوينت") يتعاملون مع هذا الأمر بشكل مختلف عن الناس العاديين. ولأجل ذلك، صمموا لعبة لاكتشاف ذلك.
اللعبة: اكتشف الطائرة المعادية
طلب الباحثون من مجموعتين من الأشخاص لعب لعبة سريعة:
- اللاعبون: مجموعة واحدة مكونة من 236 ضابطاً مستقبلياً (طلاب "وست بوينت"). والمجموعة الأخرى مكونة من 702 شخصاً من عامة الناس، تم اختيارهم ليتناسبوا مع الطلاب من حيث العمر والمستوى التعليمي.
- المهمة: كان عليهم النظر إلى صورة ضبابية لطائرة وتحديد: "هل هي صديقة أم عدوة؟"
- الخدعة: بعد أن يضع اللاعب تخمينه، سيقدم له "مساعد" نصيحة. في بعض الأحيان، كان المساعد عبارة عن محلل بشري، وفي أحيان أخرى كان خوارزمية ذكاء اصطناعي. وأحياناً كان المساعد يبدو واثقاً جداً ("أنا متأكد بنسبة 100%!")، وأحياناً أخرى يبدو غير متأكد ("لا زلت في مرحلة الاختبار...").
- الخيار: كان بإمكان اللاعبين التمسك بتخمينهم الأصلي أو تغيير رأيهم بناءً على النصيحة المقدمة.
المشكلتان الكبيرتان
تركز الورقة البحثية على طريقتين يخطئ فيهما البشر عند التعامل مع الحواسيب:
- الانحياز للأتمتة (فخ "الروبوت هو الإله"): وهذا يحدث عندما تثق في الحاسوب لدرجة تجعلك تتجاهل عينيك. حتى لو كان الحاسوب مخطئاً، فإنك تتبعه. الأمر يشبه راكباً في سيارة يتبع نظام تحديد المواقع (GPS) بعمي، والذي يخبره بأن يقود سيارته داخل بحيرة لأن الراكب يعتقد أن الـ GPS يعرف أكثر منه.
- النفور من الخوارزميات (فخ "أنا أكره الروبوتات"): وهذا يحدث عندما لا تثق في الحاسوب على الإطلاق، حتى عندما يكون مصيباً. أنت تتمسك بحدسك لأنك تقول في نفسك: "أنا بشر، أنا أفضل من الآلة". الأمر يشبه رفض استخدام تطبيق الخرائط لأنك تعتقد أنك تعرف الحي بشكل أفضل، حتى عندما يظهر لك التطبيق طريقاً مختصراً فاتك.
ماذا وجدوا؟
كانت النتائج مفاجئة وأظهرت فرقاً واضحاً بين المجموعتين:
1. طلاب "وست بوينت" كانوا "متزنين" (بالقدر المطلوب تماماً)
كان الضباط المستقبليون أفضل بكثير في معرفة متى يثقون في الحاسوب ومتى يثقون في أنفسهم.
- لم يتبعوا الروبوت بعمي: عندما قدم الذكاء الاصطناعي نصيحة سيئة، كانت احتمالية تغيير الطلاب لإجابتهم لتتطابق مع الروبوت أقل بكثير. كانت نسبة وقوعهم في هذا الخطأ حوالي 4% فقط، مقارنة بـ 9% لدى عامة الناس.
- لقد انتبهوا لـ "مستوى الثقة": لقد أولى الطلاب اهتماماً لكيفية تقديم النصيحة. فإذا قال الذكاء الاصطناعي: "لا زلت في مرحلة الاختبار"، فقد تجاهلوه. أما إذا قال: "لقد تم اختباري آلاف المرات"، فقد استمعوا إليه. لقد عاملوا الذكاء الاصطناعي كأداة، وليس كمدير لهم.
- لم يكرهوا الروبوت: ومن المثير للاهتمام، أنهم لم يتجاهلوا الذكاء الاصطناعي لمجرد أنه آلة. فإذا كان الذكاء الاصطناعي محقاً، فقد كانوا مستعدين للاستعانة به.
2. عامة الناس كانوا أكثر "تشوهاً"
كان الناس العاديون أكثر عرضة لفخ "الروبوت هو الإله".
- كانوا أكثر عرضة لتغيير إجابتهم لمجرد أن الحاسوب أخبرهم بذلك، حتى لو كان الحاسوب مخطئاً.
- لم يبدوا اهتماماً كبيراً بما إذا كانت النصيحة قادمة من إنسان أو حاسوب، أو مدى ثقة المصدر، بل كانوا يميلون ببساطة إلى اتباع الآلة بشكل أكبر.
3. الجميع كرهوا الروبوت قليلاً (ولكن بالتساوي)
هنا تكمن المفاجأة: كلتا المجموعتين كانتا متساويتين في احتمالية تجاهل الحاسوب عندما يكون مصيباً بالفعل. وهذا ما يسمى "النفور من الخوارزميات". إن التدريب الذي تلقاه الطلاب لم يمنعهم من أن يكونوا متشككين في الآلة، بل منعهم فقط من اتباعها بعمي عندما تكون الآلة مخطئة.
الخلاصة الكبرى
تشير الورقة البحثية إلى أن التدريب فعال.
طلاب "وست بوينت" ليسوا "بشراً خارقين" بالفطرة في الرياضيات أو المنطق. هم فقط أشخاص تعلموا كيفية العمل مع التكنولوجيا. لقد علمتهم دراستهم كيف يتساءلون: "هل هذه الأداة موثوقة في هذه اللحظة؟" بدلاً من مجرد التساؤل: "هل هذا روبوت؟".
خلص المؤلفون إلى أنه بينما لا يمكننا منع جميع الأخطاء في الحروب أو الأزمات، فإن تعليم الناس كيفية التفاعل مع الذكاء الاصطناعي يمكن أن يمنعهم من ارتكاب خطأ محدد وهو الثقة العمياء في حاسوب يكذب عليهم. لقد تعلم الطلاب إبقاء عقل "الإنسان في الحلقة" (Human in the loop) يعمل، بينما كان عامة الناس أكثر عرضة لترك الحاسوب يتولى القيادة.
باختصار: تعلم الجنود المستقبليون استخدام الذكاء الاصطناعي كمساعد طيار مفيد، بينما كان عامة الناس أكثر عرضة لترك الذكاء الاصطناعي يقود السيارة نحو الهاوية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.