Application of deep learning and explainable AI-supported medical decision-making for facial phenotyping in genetic syndromes
وجدت هذه الدراسة أنه في حين أدى كل من تنبؤات الذكاء الاصطناعي وخرائط التحديد (saliency maps) للذكاء الاصطناعي القابل للتفسير (XAI) إلى تحسين دقة التشخيص عندما كان الذكاء الاصطناعي صحيحاً، فقد اعتمد أخصائيو الوراثة الطبية بشكل أكبر على احتمالات التنبؤ الخام بدلاً من تفسيرات الذكاء الاصطناعي القابل للتفسير، والتي نُظر إليها بشكل أقل تفضيلاً وفشلت في تعزيز تكامل اتخاذ القرار بشكل ملحوظ.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق بارع تحاول حل قضية غاية في الصعوبة: تحديد حالة وراثية نادرة بمجرد النظر إلى وجه شخص ما. هذه الحالات تشبه البصمات النادرة؛ فهي تمتلك أنماطًا محددة (مثل شكل الأنف، أو العينين، أو الفم) لا يلاحظها عادةً إلا الخبراء المدربون.
الآن، تخيل أن لديك مساعدًا آليًا فائق الذكاء (ذكاء اصطناعي) يمكنه أيضًا النظر إلى هذه الوجوه وتخمين التشخيص. ولكن هناك عقبة: أحيانًا يكون الروبوت محقًا، وأحيانًا يكون مخطئًا بكل ثقة.
هذه الورقة البحثية تدور حول تجربة كبيرة لمعرفة ما إذا كان تقديم نوعين مختلفين من المساعدة للمحققين البشر (من قِبل الروبوت) سيجعلهم أفضل في حل القضية.
النوعان من المساعدة
اختبر الباحثون مجموعتين من الخبراء الطبيين (أخصائيي الوراثة):
- مجموعة "لوحة النتائج" (الذكاء الاصطناعي فقط): عُرض على هؤلاء المحققين الوجه مع تخمين الروبوت، بالإضافة إلى درجة ثقة (على سبيل المثال: "أنا متأكد بنسبة 90% أن هذا هو المتلازمة أ"). الأمر يشبه قيام الروبوت بالهمس: "أعتقد أنه هذا، وأنا متأكد تمامًا".
- مجموعة "المحدد" (المدعومة بالذكاء الاصطناعي القابل للتفسير - XAI): حصل هؤلاء المحققون على نفس الدرجة، بالإضافة إلى "محدد" بصري (يسمى خريطة التباين أو Saliency Map). هذه الخريطة تضيء على أجزاء الوجه التي يعتقد الروبوت أنها مهمة. الأمر يشبه قيام الروبوت بتوجيه مؤشر ليزر نحو الأنف وقوله: "انظر هنا! شكل الأنف هو ما جعلني أعتقد أنها المتلازمة أ". كما حصلوا أيضًا على رسم بياني بسيط يلخص السمات الأكثر أهمية.
التجربة: ماذا حدث؟
عرض الباحثون 18 وجهًا مختلفًا على 44 خبيرًا. في نصف الحالات، كان الروبوت محقًا، وفي النصف الآخر، كان مخطئًا.
1. عندما كان الروبوت محقًا:
حصلت كلتا المجموعتين على دفعة بسيطة. رؤية تخمين الروبوت جعلت الخبراء أكثر ثقة وأكثر عرضة للموافقة على الإجابة الصحيحة. كان الأمر مثل وجود مساعد طيار يؤكد مسارك؛ تشعر بأمان أكبر وتلتزم بالمسار الصحيح.
2. عندما كان الروبوت مخطئًا:
هنا أصبح الأمر مثيرًا للاهتمام.
- مجموعة "لوحة النتائج": عندما قال الروبوت: "أنا متأكد بنسبة 90% أنه المتلازمة أ" (بينما كانت في الواقع المتلازمة ب)، ارتبك الخبراء غالبًا وغيروا إجابتهم الصحيحة إلى الإجابة الخاطئة. لقد وثقوا في ثقة الروبوت أكثر من اللازم.
- مجموعة "المحدد": مجموعة "المحدد" تعرضت أيضًا للارتباك بسبب الروبوت المخطئ، لكن الخريطة المضيئة لم تساعدهم في تصحيح الخطأ. في الواقع، جعلت الخريطة أحيانًا الخبراء أكثر انتقادًا للروبوت، ولكن بما أنهم لم يستطيعوا الذهاب لسؤال المريض عن مزيد من المعلومات أثناء الاختبار، فقد ظلوا عالقين.
المفاجأة الكبرى: "المحدد" لم ينجح
توقع الباحثون أن رؤية أين ينظر الروبوت (المحدد) ستساعد الخبراء على فهم الروبوت بشكل أفضل واتخاذ قرارات أكثر ذكاءً. ظنوا أن الأمر سيكون مثل معلم يشرح لك خطوات حل مسألة رياضية.
ولكن الأمر لم ينجح بهذه الطريقة.
- وجد الخبماء عمومًا أن خرائط "المحدد" مربكة أو غير مفيدة.
- لم يثقوا في البقع المضيئة. أحيانًا كان الروبوت يحدد الجزء الخطأ من الوجه، أو لم يعرف الخبراء ماذا تعني البقعة المحددة.
- اعتمد الخبراء بشكل أكبر بكثير على درجة الثقة (لوحة النتائج) مقارنة بالتفسير البصري. إذا قال الروبوت "متأكد بنسبة 90%"، فقد استمعوا إليه. أما إذا عرض خريطة، فقد تجاهلوها في الغالب أو وجدوها مشتتة للانتباه.
الخلاصة: لماذا يهم هذا؟
فكر في الأمر مثل نظام الملاحة (GPS) في سيارتك.
- الذكاء الاصطناعي فقط هو نظام الـ GPS الذي يقول: "انعطف يسارًا بعد 500 قدم".
- الذكاء الاصطناعي القابل للتفسير (المحدد) هو نظام الـ GPS الذي يحاول شرح لماذا يريدك أن تنعطف يسارًا من خلال عرض خريطة معقدة لأنماط المرور وأعمال بناء الطرق.
وجدت الدراسة أنه عندما يكون نظام الـ GPS محقًا، فإن التعليمات البسيطة كافية. ولكن عندما يكون خاطئًا، فإن عرض الخريطة المعقدة لا يساعدك على إدراك خطئه؛ بل في الواقع، قد يجعلك تشك في نفسك أو تشعر بالإحباط.
الدرس الرئيسي:
إن تقديم "تفسيرات" للأطباء (مثل الخرائط الحرارية) ليس مفيدًا تلقائيًا. في الواقع، إذا كان التفسير صعب الفهم أو لا يتوافق مع ما يتوقعه الطبيب، فإنه قد يعيق العمل بدلاً من تسهيله. لقد وثق الأطباء في "شعور" الروبوت الداخلي (درجة الاحتمالية) أكثر من "منطقه" (الخريطة البصرية).
ما الخطوة التالية؟
يخلص الباحثون إلى أننا بحاجة إلى بناء طرق أفضل لشرح الذكاء الاصطناعي. بدلًا من مجرد عرض خريطة مضيئة، قد نحتاج إلى الشرح بلغة بسيطة (على سبيل المثال: "يعتقد الروبوت أنها المتلازمة أ لأن العينين واسعتان، وهي سمة رئيسية"). وحتى ذلك الحين، يجب على الأطباء توخي الحذر لعدم الثقة العمياء في الروبوت، حتى عندما يقدم درجة ثقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.