How to gain valuable insight from scarce data with Machine Learning: a post-hoc explanation tool to identify biases in biological images classification
تُظهر هذه الدراسة أن تطبيق أدوات التفسير البعدي مثل SHAP على مجموعات البيانات البيولوجية الصورية الشحيحة يمكن أن يكشف عن تحيزات خفية، مثل إفراط النماذج في التخصيص لخصائص حيوانية فردية بدلاً من الأنماط البيولوجية، بينما يكشف في الوقت ذات نفسه عن كيفية إعادة صياغة المهام لاستخراج رؤى بيولوجية صالحة من البيانات المحدودة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول حل لغز: هل يمكنك التمييز بين جرح يلتئم بشكل مثالي (يتجدد) وجرح يلتئم مع ترك ندبة؟
في عالم البيولوجيا، يمتلك العلماء أداة جديدة قوية: تعلم الآلة (ML). فكر في تعلم الآلة كأنه متدرب فائق الذكاء، شديد الملاحظة، يمكنه النظر إلى آلاف الصور لأنسجة الفئران وتعلم تمييز الأنماط بسرعة تفوق أي إنسان.
ومع ذلك، هناك عقبة. في علم الأحياء، التقاط هذه الصور مكلف، ويستغرق وقتاً طويلاً، ومثير للجدل من الناحية الأخلاقية. لا يمكنك ببساطة التقاط مليون صورة لمليون فأر. لديك فقط مجموعة بيانات ضئيلة جداً—ربما صور من 28 فأراً فقط.
إليك قصة ما حدث عندما حاول العلماء استخدام متدربهم فائق الذكاء على هذه المجموعة الضئيلة من البيانات، وكيف استخدموا "كشافاً" خاصاً للعثور على الحقيقة.
1. الفخ: المتدرب غش في الاختبار
أعطى العلماء متدرب الذكاء الاصطناعي المهمة التالية: "انظر إلى هذه الصور وأخبرني ما إذا كان هذا الفأر يلتئم مع ندبة أم يتجدد."
درس المتدرب صور التدريب وبدا وكأنه يجتاز الاختبار ببراعة. لقد حقق نسبة 100% صحيحة! شعر العلماء بالحماس. ولكن بعد ذلك، عرضوا على المتدرب صوراً جديدة لفئران لم يرها من قبل.
فشل المتدب فشلاً ذريعاً. لقد أخطأ في كل مرة.
لماذا؟
اتضح أن المتدرب لم يكن يتعلم فعلياً عن "الندبات" مقابل "التجدد". بل كان يغش. لقد تعلم التعرف على الفئران الفردية.
فكر في الأمر بهذه الطريقة: تخيل أنك تحاول تعليم طفل التمييز بين "التفاح" و"البرتقال". ولكن، بمحض الصدفة، في كل مرة تعرض فيها تفاحة، كانت محملة بيد "باسم"، وفي كل مرة تعرض فيها برتقالة، كانت محملة بيد "سارة".
يتعلم الطفل النمط التالي: "إذا كان باسم هو من يحملها، فهي تفاحة. وإذا كانت سارة هي من تحملها، فهي برتقالة."
الطفل لا يتعلم عن الفاكهة؛ بل يتعلم عن باسم وسارة. عندما تعطيه صورة لتفاحة تحملها سارة، يصاب بالارتباك ويخمن بشكل خاطئ.
هذا بالضبط ما حدث هنا. تعلم الذكاء الاصطناعي "البصمة" الفريدة لكل فأر (ربما ذرة غبار صغيرة، أو زاوية معينة، أو سمة بيولوجية فريدة) بدلاً من عملية الالتئام الفعلية.
2. الكشاف: SHAP (التفسير اللاحق)
لم يستسلم العلماء. استخدموا أداة تسمى SHAP. تخيل SHAP كـ عدسة مكبرة أو كشاف يسلط الضوء على عقل الذكاء الاصطناعي ليرى بالضبط ما الذي كان ينظر إليه عند اتخاذ قرار ما.
عندما سلطوا هذا الضوء على الذكاء الاصطناعي، رأوا شيئاً رائعاً:
- الميزات التي استخدمها الذكاء الاصطناعي لتخمين "التجدد" كانت هي نفس الميزات التي استخدمها لتخمين "هذا هو الفأر رقم 5".
- كان الذكاء الاصطناعي يحل اللغز الخطأ. كان يلعب لعبة "من أنا؟" بدلاً من "تشخيص الجرح".
3. التحول: العثور على الكنز المخفي
لكن القصة لا تنتهي بالفشل. نظر العلماء عن كثب إلى أخطاء الذكاء الاصطناعي.
على الرغم من أن الذكاء الاصطناعي لم يستطع التمييز بين "الندبة" و"التجدد"، إلا أنه كان جيداً جداً في تجميع الفئران في مجموعات. عندما نظروا إلى "مصفوفة الارتباك" (وهي لوحة توضح أين ارتبك الذكاء الاصطناعي)، لاحظوا نمطاً:
- غالباً ما خلط الذكاء الاصطناعي بين فأر من اليوم الثالث وفأر آخر من اليوم الثالث.
- خلط بين فأر من اليوم العاشر وفأر آخر من اليوم العاشر.
كان الأمر كما لو أن الذكاء الاصطناعي يقول: "لا يمكنني معرفة ما إذا كان هذا ندبة أو نسيج متجدد، ولكن يمكنني بالتأكيد معرفة ما إذا كانت هذه الصورة قد التقطت بعد 3 أيام من الإصابة أو بعد 10 أيام!"
الاكتشاف الكبير:
أدرك العلماء أن البيانات تحتوي بالفعل على معلومات قيمة، ولكن ليس المعلومات التي طلبوها في الأصل. التغيرات البيولوجية بين اليوم الثالث واليوم العاشر كانت أقوى بكثير وأسهل في الرؤية من الاختلافات الدقيقة بين الندبة والتجدد.
لذا، قاموا بتغيير السؤال. بدلاً من سؤال: "هل هذه ندبة أم تجديد؟" سألوا: "هل هذا هو اليوم الثالث أم اليوم العاشر؟"
النتيجة: عاد الذكاء الاصطناعي ليصبح عبقرياً من جديد. لقد نجح في التمييز بين الأيام.
الدرس الكبير
تعلمنا هذه الورقة درساً حيوياً حول استخدام الذكاء الاصطناعي في العلوم، خاصة عندما تكون البيانات شحيحة:
- الذكاء الاصطناعي مرآة: سوف يجد الأنماط، حتى لو كانت تلك الأنماط عرضية (مثل التعرف على باسم وسارة بدلاً من التفاح والبرتقال).
- لا تثق في الدرجة فقط: مجرد حصول الذكاء الاصطناعي على درجة عالية في اختبار لا يعني أنه تعلم ما تعتقد أنه تعلمه.
- انظر خلف الستار: من خلال استخدام أدوات مثل SHAP لـ "تفسير" عمل الذكاء الاصطناعي، يمكن للعلماء كشف هذه الانحيازات.
- غيّر مسارك عند الضرورة: أحياناً، قد لا تستطيع البيانات الإجابة على سؤالك الأصلي، ولكن يمكنها الإجابة على سؤال مختلف ومهم بنفس القدر. في هذه الحالة، لم يستطع الذكاء الاصطناعي التنبؤ بالنتيجة النهائية، لكنه استطاع إخبارنا بدقة عن مدى تقدم عملية الالتئام.
باختصار: استخدم العلماء "كشافاً" ليدركوا أن ذكاءهم الاصطناعي كان يغش عبر التعرف على الفئران الفردية. وبمجرد كشفهم لذلك، أدركوا أن ذكاءهم الاصطناعي كان في الواقع بارعاً في تتبع الوقت، وليس أنواع الأنسجة. لقد حول هذا الفشل إلى اكتشاف، مما أثبت أنه حتى مع مجموعات البيانات الصغيرة وغير المثالية، لا يزال بإمكاننا العثور على رؤى بيولوجية قيمة إذا عرفنا كيف نبحث.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.