💻 computer science

Selective Prediction Reduces the Negative Effects of Automation Bias Overall but Increases False Negatives

بينما يساعد التنبؤ الانتقائي الأطباء على استعادة دقة القرار الإجمالية من الآثار السلبية لانحياز الأتمتة عن طريق إخفاء مخرجات الذكاء الاصطناğu غير الموثوقة، فإنه يؤدي دون قصد إلى زيادة السلبيات الكاذبة من خلال التسبب في تشخيص ناقص وعلاج ناقص عندما يمتنع الذكاء الاصطناعي عن تقديم مخرجات.

المؤلفون الأصليون: Sarah Jabbour, David Fouhey, Nikola Banovic, Stephanie D. Shepard, Ella Kazerooni, Michael W. Sjoding, Jenna Wiens

نُشر 2026-08-12

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Sarah Jabbour, David Fouhey, Nikola Banovic, Stephanie D. Shepard, Ella Kazerooni, Michael W. Sjoding, Jenna Wiens

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تسير في غابة كثيفة، وقد استعنت بمرشد عالي التقنية لمساعدتك في العثور على الطريق. يمتلك هذا المرشد قوة خارقة: يمكنه رصد المخاطر والمختصرات التي قد تفوتك. لكن هنا تكمن العقبة؛ فالمرشد ليس مثاليًا، فأحيانًا يشير إليك بثقة نحو منحدر، أو يصاب بارتباك شديد لدرجة أنه يتوقف عن الكلام تمامًا. في عالم العلوم، هذه هي قصة الذكاء الاصطنا-لي (AI) الذي يساعد البشر في اتخاذ القرارات. نحن نسمي مشكلة الثقة العمياء بمرشد مخطئ "التحيز للأتمتة" (automation bias). ولإصلاح ذلك، توصل العلماء إلى فكرة ذكية تسمى "التنبؤ الانتقائي" (selective prediction). الأمر يشبه قولك لمرشدك: "إذا لم تكن متأكدًا بنسبة 100%، فابق صامتًا واتركني أتدبر أمري". كان الأمل هو أنه من خلال إخفاء تخمينات المرشد السيئة، سيكون البشر أكثر أمانًا وذكاءً. ولكن هل الصمت يساعد حقًا، أم أنه يجعل الإنسان يشعر بالضياع وعدم اليقين؟ هذا هو السؤال الكبير الذي أراد الباحثون في جامعة ميشيغان وجامعة نيويورك الإجابة عليه.

قرر الفريق اختبار هذه الفكرة في بيئة عالية المخاطر: مستشفى. لقد جمعوا 259 طبيبًا ومتخصصًا طبيًا حقيقيًا للعب لعبة ما. قدموا لهم 45 قصة مريض مختلفة (تسمى سيناريوهات) عن أشخاص يعانون من ضيق في التنفس. كان على الأطباء معرفة ما إذا كان المرضى يعانون من الالتهاب الرئوي، أو فشل القلب، أو مرض رئوي يسمى الانسداد الرئوي المزمن (COPD)، ثم تحديد الدواء المناسب. وضع الباحثون ثلاثة سيناريوهات مختلفة. أولًا، عمل الأطباء بمفردهم. ثانيًا، عملوا مع ذكاء اصطناعي يقدم إجابة لكل سؤال، حتى لو كانت الإجابة خاطئة. ثالثًا، عملوا مع ذكاء اصطنا-لي يستخدم "التنبؤ الانتقائي" — مما يعني أن الذكاء الاصطناعي سيقول أحيانًا: "لست متأكدًا، القرار لك"، ويخفي إجابته لأمراض معينة.

جاءت النتائج بشكل مفاجئ. عندما كان الذكاء الاصطناعي يلقي بالإجابات الخاطئة فحسب، ارتكب الأطباء المزيد من الأخطاء، مما يثبت أن الذكاء الاصطنا-لي السيئ يمكن أن يفسد الأمور بالتأكيد. ولكن عندما استخدم الذكاء الاصطناعي "التنبؤ الانتقائي" وظل صامتًا في الأجزاء الصعبة، فقد ساعد الأطباء في تجنب بعض الأخطاء. ومع ذلك، لم يحل ذلك كل شيء. في الواقع، عندما قال الذكاء الاصطنا-لي: "أنا أحيل الأمر إليك"، بدأ الأطباء في ارتكاب نوع آخر من الأخطاء: توقفوا عن علاج المرضى الذين يحتاجون بالفعل إلى المساعدة. لقد أصبحوا مفرطين في الحذر. الأمر كما لو أن صمت المرشد جعل المتنزهين يفكرون: "إذا لم يكن المرشد يشير إلى وجود خطر، فربما لا يوجد خطر"، لذا توقفوا عن البحث عنه.

وجدت الدراسة أن تأثير "الذكاء الاصطنا-لي الصامت" كان قويًا بشكل خاص لدى الأطباء الذين لم يستخدموا أدوات الذكاء الاصطنا-لي من قبل. كان هؤلاء الأطباء أكثر عرضة لعدم علاج المرضى بشكل كافٍ عندما يتراجع الذكاء الاصطنا-لي. يشير الباحثون إلى أن سماع الذكاء الاصطنا-لي وهو يقول "لا أعرف" قد يجعل الأطباء يشعرون أن الحالة ليست مهمة، أو قد يجعل المهمة برمتها تبدو أصعب وأكثر إرباكًا. بينما يعد التنبؤ الانتقائي شبكة أمان جيدة لمنع الأطباء من اتباع نصائح سيئة، إلا أن هذه الورقة تشير إلى أنه ليس عصا سحرية. إنه يغير الطريقة التي يفكر بها الأطباء، مما يجعلهم أحيانًا يغفلون عن المشكلات التي يحتاجون بالفعل إلى حلها. ويخلص المؤلفون إلى أنه لا يمكننا افتراض أن صمت الذكاء الاصطنا-لي هو دائمًا أمر جيد؛ إذ يجب أن نكون حذرين بشأن كيفية تغييره للسلوك البشري، لأننا في الطب، قد يكون تفويت التشخيص خطيرًا بقدر الحصول على تشخيص خاطٍ.

أبحاث مشابهة