Effects of Generative AI Errors on User Reliance Across Task Difficulty
في تجربة مسجلة مسبقاً شملت 577 مشاركاً، وجد الباحثون أنه بينما تؤدي معدلات خطأ الذكاء الاصطناعي المرتف old إلى تقليل اعتماد المستخدمين، فإن صعوبة المهمة المحددة (سهلة مقابل صعبة) لم تؤثر بشكل كبير على هذا التفاعل، مما يشير إلى أن المستخدمين ليسوا معارضين بطبيعتهم لأنماط الخطأ "المسننة" التي تميز الذكاء الاصطناه التوليدي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً جديداً كلياً، فائق الذكاء، يدعى "جيني". جيني مذهل في كتابة القصائد الملحمية، وتلخيص مكتبات كاملة، والتحدث بـ 50 لغة. لكن الجزء الغريب هو أنه أحياناً يرتبك أمام لغز بسيط، أو يعجز عن عدّ حروف كلمة شائعة مثل "banana".
هذا ما يسميه الباحثون "الحدود المتعرجة" (Jagged Frontier). الأمر يشبه سلسلة جبال حيث القمم مرتفعة للغاية (جيني عبقري) لكن الوديان عميقة بشكل مفاجئ (جيني أخرق في أمور بسيطة).
السؤال الكبير الذي يطرحه هذا البحث هو: كيف نتفاعل عندما يرتكب روبوتنا فائق الذكاء أخطاءً سخيفة؟ هل نتوقف عن الثقة به فوراً؟ وهل يهم نوع الخطأ الذي يرتكبه؟
التجربة: لعبة "الدفع مقابل اللعب"
لمعرفة ذلك، وضع الباحثون تجربة. طلبوا من 577 شخصاً لعب دور كان عليهم فيه تقرير ما إذا كانوا سيدفعون مالاً للسماح للذكاء الاصطناعي برسم مخطط (مثل مخطط انسيابي لمشروع).
إليك كيف سارت اللعبة:
- مرحلة التدريب: أولاً، شاهد الجميع الذكاء الاصطناعي وهو يحاول رسم 10 مخططات. بعض الناس رأوا الذكاء الاصطناٍ يعجز ويكرر الأخطاء كثيراً (بنسبة خطأ 50%)، وبعضهم رأى أخطاء قليلة (30%)، وبعضهم رأى أخطاءً نادرة جداً (10%).
- التحول المفاجئ: قسم الباحثون الأخطاء إلى نوعين:
- "الأخطاء السهلة": أخطأ الذكاء الاصطناعي في مخططات بسيطة يمكن للإنسان رسمها في ثوانٍ.
- "الأخطاء الصعبة": أخطأ الذكاء الاصطناعي في مخططات معقدة ومتشابكة قد تحير البشر.
- العائد: بعد المشاهدة، كان على اللاعبين تقديم عطاءات (Bids) لاستخدام الذكاء الاصطناعي في مهمة جديدة. إذا نجح الذكاء الاصطناعي، يحصلون على مكافأة نقدية. وإذا فشل، يخسرون المبلغ الذي دفعوه. هذا هو المقياس الدقيق لمدى ثقتهم في الذكاء الاصطناعي.
المفاجأة الكبرى
كان لدى الباحثين حدس (فرضية) حول كيفية رد فعل الناس. توقعوا ما يلي:
- المنطق: إذا فشل الروبوت في شيء سهل، فمن المفترض أن يكون الأمر مخيفاً أكثر بكثير مما لو فشل في شيء صعب. الأمر يشبه لو أن عبقري رياضيات فشل في ربط حذائه؛ ستكون قلقاً أكثر مما لو فشل في حل مسألة في الفيزياء.
- التوقع: توقعوا أن الناس سيتوقفون عن الثقة بالذكاء الاصطناعي بشكل أسرع بكثير إذا ارتكب "أخطاء سهلة".
لكن النتائج كانت غير متوقعة.
بينما كان صحيحاً أن رؤية المزيد من الأخطاء جعلت الناس يثقون في الذكاء الاصطناعي بشكل أقل (وهذا منطقي)، إلا أنه لم يهم ما إذا كانت الأخطاء في مهام سهلة أم صعبة.
- كان الناس مستعدين تماماً لدفع المال لاستخدام الذكاء الاصطناعي بعد رؤيته يفشل في مهمة بسيطة، تماماً كما لو كان قد فشل في مهمة معقدة.
الاستعارة:
تخيل أنك توظف طباخاً.
- السيناريو (أ): الطباخ يحرق شطيرة جبن مشوية بسيطة جداً.
- السيناريو (ب): الطباخ يفشل في إعداد مأدبة فرنسية فاخرة مكونة من 10 أطباف.
معظم الناس سيفكرون: "أوه لا، الطباخ لا يستطيع حتى القيام بالأساسيات!" وسيطردونه فوراً. لكن في هذه الدراسة، عامل الناس كلا السيناريوهين بنفس الطريقة. لم يبدو أنهم أصيبوا بالذعر من "الحدود المتعرجة". لقد نظروا فقط إلى معدل النجاح الإجمالي وقرروا: "حسناً، هذا الطباخ موثوق بنسبة 70% تقريباً، لذا سأوظفه".
الاستثناء الوحيد: "المبتدئون في الذكاء الاصطناعي"
كانت هناك مجموعة واحدة من الناس استجابت بشكل مختلف: الأشخاص الذين نادراً ما يستهلكون محتوى متعلقاً بالذكاء الاصطناعي.
إذا كنت لا تتابع أخبار الذكاء الاصطناعي، أو تقرأ عنه، أو تستخدم أدوات الذكاء الاصطناعي كثيراً، فأنت أكثر عرضة للشعور بالذعر عندما يفشل الذكاء الاصطناعي في مهمة بسيطة. بالنسبة لهؤلاء "المبتدئين"، كان فشل الذكاء الاصطناعي في مهمة سهلة بمثابة علامة خطر كبرى. أما بالنسبة للمعتادين عليه، فقد بدا الأمر وكأنهم يتقبلون حقيقة أن الذكاء الاصطناعي غير متسق بشكل غريب.
لماذا يهم هذا؟
تعلمنا هذه الدراسة دروساً مهمة حول مستقبلنا مع الذكاء الاصطناعي:
- نحن عقلانيون (أو متعودون على الأمر) بشكل مدهش: نحن لا نشعر بالخوف دائماً لمجرد أن الذكاء الاصطناعي يتصرف "مثل البشر" في إخفاقاته. يبدو أننا نتقبل كون الأداة "متعرجة" (عبقرية لكن بها عيوب) طالما أننا نعرف الاحتمالات العامة لنجاحها.
- القدرة على التنبؤ أهم من "الشبيه بالبشر": يقترح الباحثون أننا قد لا نهتم إذا كان الذكاء الاصطناعي يتصرف كإنسان أو كآلة. ما يهمنا هو ما إذا كان بإمكاننا التنبؤ متى سيفشل. إذا كانت أخطاء الذكاء الاصطناعي عشوائية أو مربكة، فقد نفقد الثقة به. ولكن إذا كانت الأخطاء تتبع نمطاً يمكننا تعلمه (حتى لو كان هذا النمط هو "إنه سيء في الأشياء البسيطة")، فيمكننا التكيف.
- مستقبل الثقة: مع ازدياد ذكاء الذكاء الاصطناعي، من المرجح أن يرتكب أخطاء أقل في المهام الصعبة، لكنه قد يظل يتعثر في المهام البسيطة. تشير هذه الدراسة إلى أننا لن نتخلى عن هذه الأدوات لمجرد أنها غير مثالية بطرق غريبة. سنقوم على الأرجح بالعمل حول حوافها المتعرجة.
الخلاصة
نحن ندخل عصراً ستكون فيه أدواتنا بارعة ولكنها خرقاء أحياناً. الخبر الجيد؟ البشر قادرون على التكيف. نحن لا نحتاج بالضرورة لأن تكون أدواتنا مثالية أو تتصرف تماماً مثلنا. نحن فقط بحاجة لفهم طبيعتها "المتعرجة" حتى نتمكن من تقرير متى نتركها تقود ومتى نمسك نحن بعجلة القيادة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.