Benchmarking the Domain Gap: Model Selection Instability Under Domain Shift in Video Capsule Endoscopy
تُثبت هذه الورقة أن اختيار النموذج لعملية تنظير كبسولة الفيديو غير مستقر للغاية في ظل انزياح النطاق، حيث تفشل ترتيبات الأداء داخل النطاق في التنبؤ باستمرار بالنتائج عبر الأهداف المختلفة عبر مجموعات البيانات المختلفة، مما يستلزم تحولاً نحو تقييم استقرار الترتيب عبر الأهداف بدلاً من ذروة الأداء في مجموعة بيانات واحدة.
تخيل أنك تحاول تعليم روبوت التعرف على أنواع مختلفة من الفاكهة. تعرض عليه آلاف الصور للتفاح والبرتقال والموز تم التقاطها في مطبخك الخاص، تحت إضاءتك الخاصة، وبكاميرتك الخاصة. يصبح الروبوت بارعاً جداً في هذا! يصبح خبيراً في الفاكهة داخل مطبخك. ولكن بعد ذلك، تأخذ نفس الروبوت إلى منزل صديق لك. مطبخهم يحتوي على إضاءة مختلفة، وكاميراتهم طراز مختلف، وربما يصنفون كلمة "ناضج" بشكل مختلف عنك. فجأة، الروبوت الذي كان بطلاً في مطبخك قد يتعثر أمام موزة تبدو مختلفة قليلاً، بينما روبوت آخر كنت تظنه متوسط المستوى يتألق فجأة. هذا هو جوهر مشكلة تسمى "انزياح النطاق" (domain shift) في علوم الحاسوب. إنها الفجوة بين مدى جودة أداء نموذج الحاسوب في المختبر حيث تم تدريبه، مقابل مدى جودة أدائه في العالم الحقيقي الفوضوي حيث يُستخدم فعلياً. في العالم الطبي، هذا الأمر يكتسب أهمية بالغة. إذا اعتمد طبيب على ذكاء اصطناعي لرصد المشكلات داخل جسم المريض، فإن هذا الذكاء الاصطناعي يحتاج أن يكون ذكياً ليس فقط لمستشفى واحد محدد، بل لأي مستشفى، وبأي كاميرا، ولأي مريض.
تتعمق هذه الورقة البحثية في هذه المشكلة تحديداً، ولكن بدلاً من الفاكهة، تنظر الروبوتات إلى كبسولات الفيديو — وهي كاميرات صغيرة بحجم الحبة يبتلعها المرضى لالتقاط صور لداخل أجسامهم. أراد الباحثون معرفه ما يلي: إذا اخترنا نموذج الذكاء الاصطناعي "الأفضل" بناءً على أدائه في مجموعة بيانات واحدة (مجموعة من الصور)، فهل سيظل نفس النموذج هو الأفضل عندما نختبره على مجموعة أخرى مختلفة تماماً من الصور من مستشفى آخر؟ هم لم يكتفوا بالتخمين؛ بل أجروا تجربة ضخمة. أخذوا 11 بنية مختلفة لـ "الأدمغة" (المحركات الأساسية التي تشغل الذكاء الاصطناعي) ودربوها على مجموعة فيديوهات كبسولة معيارية. ثم اختبروا هذه الأدمغة المدربة نفسها على مجموعتين مختلفتين تماماً من فيديوهات الكبسولات.
إليك المفاجأة التي وجدوها: "الأفضل" يعتمد كلياً على من تسأل. عندما قاموا بترتيب النماذج بناءً على مجموعة البيانات الأولى، كان النموذج المتصدر هو نموذج يسمى Swin-B، وكان الفائز الواضح. ولكن عندما أخذوا نفس نموذج Swin-B واختبروه على مجموعة بيانات ثانية، تراجع إلى المركز الخامس. وفي الوقت نفسه، فإن نموذجاً يسمى ConvNeXt-Base، والذي كان في المركز السابع فقط في الاختبار الأول، أصبح البطل رقم واحد في الاختبار الثاني. الأمر يشبه أن تقيم سباقاً في الصباح، ويكون الفائز هو عداء مسافات قصيرة (عداء سريع)، ولكن عندما تقيم السباق نفسه في فترة بعد الظهر على مضمار مختلف، يفوز عداء ماراثون. تُظهر الورقة أنه لا يوجد نموذج واحد "سحري" يفوز في كل مكان. إذا اخترت نموذجاً لمجرد أن لديه أعلى درجة في اختبار محدد، فقد تكون اخترت النموذج الخاطئ للمستشفى التالي الذي ستزوره.
كما جرب الباحثون تجربة ثانية. قاموا بتدريب دفعة جديدة من النماذج على مجموعة البيانات الثانية واختبروها على مجموعة ثالثة. كانت النتيجة هي نفسها: الترتيبات استمرت في التغير. النموذج الذي كان رائعاً في الاختبار الثاني كان متوسطاً في الثالث. هذا يشلو إلى أن "لوحة الصدارة" التي تراها في ورقة بحثية هي غالباً مجرد لقطة لكيفية ملاءمة نموذج ما للغز معين، وليست ضماناً بأنه سيحل اللغز التالي. خلص المؤلفون إلى أننا يجب أن نتوقف عن البحث عن أعلى درجة واحدة في مجموعة بيانات واحدة. بدلاً من ذلك، يجب أن نبحث عن النماذج التي تظل ثابتة عبر اختبارات عديدة. إذا كان النموذج قوياً حقاً، فلا ينبغي أن يهتم إذا تغيرت الإضاءة أو تغيرت الكاميرا؛ بل يجب أن يحافظ على ترتيبه ثابتاً. وإلى أن نجد هؤلاء المؤدين الثابتين، فإن اختيار ذكاء اصطنا_ط طبي بناءً على نتيجة اختبار واحد يشبه اختيار دليل سياحي بناءً فقط على مدى معرفته بحيك الخاص — فقد يضل طريقه بمجرد أن تغادر المدينة.
ملخص تقني: قياس الفجوة النطاقية في تنظير الكبسولة الفيديوية
بيان المشكلة تُطوَّر نماذج تصنيف تنظير الكبسولة الفيديوية (VCE) وتُختار عادةً بناءً على الأداء ضمن مجموعة بيانات واحدة. ومع ذلك، يتطلب النشر السريري متانة عبر مصادر استحواذ، وسياسات تسمية، وفئات مرضى متباينة. توجد فجوة حرجة في فهم ما إذا كان النموذج الذي يحتل المرتبة الأعلى في التحقق من النطاق المصدر يظل هو الأقوى عندما يتغير مصدر التقييم. تختلف مجموعات بيانات (VCE) بشكل كبير في أنظمة الكبسولة، والمواقع السريرية، وخصائص الصور، وبروتوكولات التوسيم. تشير الأعمال السابقة حول انزياح التوزيع وعدم التحديد إلى أن المتنبئات ذات الأداء المتشابه داخل النطاق يمكن أن تسلك سلوكيات مختلفة خارج ظروف اختيارها. يبحث هذا البحث في استقرار اختيار النماذج تحت انزياح النطاق في (VCE)، متسائلاً تحديداً عما إذا كانت ترتيبات داخل النطاق تتنبأ بشكل موثوق بالأداء على الأهداف الخارجية.
المنهجية تستخدم الدراسة بروتوكول ضبط دقيق (fine-tuning) موحد لقياس أداء هياكل الرؤية المسبقة التدريب عامة النطاق عبر ثلاثة أهداف تقييم متميزة:
Kvasir-Capsule: النطاق المصدر باستخدام طيات الفيديو المعزولة رسمياً.
Capsule Vision 2024 (CV2024): مجموعة اختبار تحدي محجوزة من توزيع تدريب مختلط المصادر.
Galar: مجموعة بيانات خارجية متعددة المراكز ومتعددة الأنظمة.
عناصر التصميم التجريبي الرئيسية:
الهياكل (Backbones): تم ضبط 11 هيكلاً مسبق التدريب عام النطاق (بما في ذلك ResNet، وDenseNet، وEfficientNet، وConvNeXt، وViT، وSwin، وDINOv2، وCAFormer) بدقة على Kvasir-Capsule باستخدام بروتوكول أدنى (25 حقبة تدريبية، AdamW، بدون تعزيز بيانات).
بروتوكول الملصقات المشتركة: لتمكين المقارنة عبر مجموعات البيانات، تم قصر التقييمات على مساحة ملصقات "مشتركة-8" (توسع الأوعية، النزيف، التآكل، الاحمرار، الأجسام الغريبة، تضخم اللمف، طبيعي، القرحة). تم إسقاط تنبؤات المصدر في هذه المساحة عبر الربط الدلالي وإعادة التطبيع قبل تسجيل النقاط. تم الإبلاغ عن نتائج مساحة الملصقات الأصلية بشكل منفصل ولكن لم تُستخدم للتصنيف عبر الأهداف.
مصدر التدريب الثاني: تجربة ثانوية دربت 11 تكويناً مختاراً (بالتركيز على بنيات CAFormer وSwin مع استراتيجيات تعزيز وخسارة متنوعة) على CV2024 لاختبار ما إذا كان عدم الاستقرار الملحوظ خاصاً بمصدر تدريب Kvasir.
المقاييس: تم قياس الأداء باستخدام Macro F1، ومعامل ارتباط ماتيوس متعدد الفئات (MCC)، ومتوسط منحنى خصائص تشغيل المستقبِل مقابل واحد ضد الكل (mAUROC). تم تحليل استقرار اختيار النموذج باستخدام ارتباطات رتب سبيرمان وتحولات الرتب.
النتائج الرئيسية
التصنيف المعتمد على الهدف: القيمة التنبؤية للتصنيف داخل النطاق تعتمد بشدة على الهدف.
أظهرت تصنيفات Kvasir-Capsule توافقاً قولاً مع Galar (ρ = 0.700) ولكن توافقاً ضعيفاً مع CV2024 (ρ = 0.191).
كما أظهر الهدفان غير المصدرين (CV2024 وGalar) توافقاً ضعيفاً (ρ = 0.264).
عدم استقرار الرتب: الهيكل الأقوى داخل النطاق لم يتصدر باستمرار عبر الأهداف.
تصدر Swin-B/384 في Kvasir وGalar ولكنه احتل المرتبة الخامسة في CV2024.
تصدر ConvNeXt-Base في CV2024 ولكنه احتل المرتبتين السابعة والتاسعة في Kvasiv وGalar على التوالي.
ارتفع FocalNet-Base من المرتبة الثامنة داخل النطاق إلى المرتبة الثانية في Galar.
تأكيد المصدر الثاني: أعادت مجموعة ثانية من النماذج المدربة على CV2024 إنتاج عدم الاستقرار هذا. تصدر نموذج CAFormer-S18 (مع تعزيزات محددة) في Macro-F1 الخاص بـ CV2024 المرتبة الثانية في Galar، بينما النموذج الذي احتل المرتبة الثامنة في CV2024 صعد للمرتبة الأولى في Galar.
التباين: كانت تحولات الرتب عبر الأهداف أكبر بكثير من التباين الملحوظ بين التشغيل والآخر عبر عدة بذور عشوائية، مما يشير إلى أن عدم الاستقرار مدفوع بانزياح النطاق وليس بضجيج التدريب.
المساهمات الرئيسية
معيار مرجعي موحد: وضع خط مرجعي قوي للضبط الدقيق الخاضع للإشراف لـ 11 هيكلاً عام النطاق على Kvasir-Capsule باستخدام الطيات الرسمية.
تحديد كمي لعدم الاستقرار: قيم نفس نقاط التفتيش على CV2024 وGalar تحت بروتوكول ملصقات مشترك موثق، مما حدد كمياً عدم استقرار رتب الهياكل عبر ثلاثة أهداف تقييم.
التحقق متعدد المصادر: أعاد تحليل التصنيف من داخل النطاق إلى الخارج باستخدام مصدر تدريب ثانٍ (تكوينات مدربة على CV2024)، مما أكد أن عدم استقرار اختيار النموذج هو ظاهرة عامة في هذا المجال، وليس مجرد نتاج لمجموعة تدريب واحدة.
الأهمية والادعاءات تخلص الورقة إلى أن ذروة الأداء في مجموعة بيانات واحدة والقدرة على نقل اختيار النماذج يجيبان على أسئلة مختلفة. لا يمكن افتراض أن النموذج الذي يتم اختياره بناءً على ترتيبه في هدف واحد سيحتفظ بموقعه النسبي تحت توزيع آخر. يجادل المؤلفون بأن اختيار نماذج تنظير الكبسولة يجب أن يعطي الأولوية للإبلاغ عن استقرار التصنيف عبر الأهداف عبر عدة أهداف تقييم مستقلة المصدر بدلاً من الاعتماد على ذروة الأداء في مجموعة بيانات واحدة أو مجموعة اختبار خارجية واحدة. تسلط الدراسة الضوء على أن النجاح في الاختيار ضد توزيع واحد مزاح قد لا يكشف إلا القليل عن الأداء على توزيع آخر، وأن قصر التقييم الخارجي على أعلى النماذج مرتبة في النطاق المصدر قد يتجاهل المرشحين المنافسين (مثل FocalNet-Base). يطلق المؤلفون بروتوكول تقييم الملصقات المشتركة والمعيار المرجعي الموحد لدعم ممارسة الإبلاغ الأكثر متانة هذه.