BAAF: Universal Transformation of One-Class Classifiers for Unsupervised Image Anomaly Detection
تقدم الورقة البحثية BAAF، وهو إطار عمل مبتكر يحول أي مصنفات الفئة الواحدة إلى كواشف حالات شاذة للصور غير خاضعة للإشراف ذات أداء عالٍ، وذلك من خلال الاستفادة من تجميع البوتستراب لتصفية بيانات التدريب بحثاً عن الحالات الشاذة، مما يحقق أداءً فائقاً على مجموعات البيانات المرجعية دون الحاجة إلى إجراء تعديلات على الكواشف الأساسية.
المؤلفون الأصليون:Declan McIntosh, Alexandra Branzan Albu
تخيل أنك مفتش مراقبة جودة في مصنع ينتج براغي لامعة ومثالية. مهمتك هي رصد أي برغي به خدش، أو انحناء، أو ملصق غريب عليه.
المشكلة القديمة: فخ "الفصل الدراسي المثالي" تقليديًا، لتعليم الكمبيوتر القيام بهذا، كان عليك أن تريه فقط البراغي المثالية. كان عليك اختيار آلاف الأمثلة الخالية من العيوب يدويًا وقول: "هذا هو الطبيعي". إذا اختلط برغي واحد سيئ بالخطأ في كومة التدريب الخاصة بك، فسيصاب الكمبيوتر بالارتباك؛ وسيفكر: "أوه، الخدش هو أمر طبيعي!" وبالتالي سيفشل في رصد الخدوش الحقيقية لاحقًا. هذا ما يسمى بـ "التصنيف أحادي الفئة" (One-Class Classification). وهو يعمل بشكل رائع إذا كانت بياناتك نقية، ولكن في العالم الحقيقي، نادراً ما تكون البيانات نقية. لا يمكنك دائمًا ضمان الحصول على مجموعة بيانات "مثالية".
الحل الجديد: BAAF (الـ "لجنة المتشككة") ابتكر المؤلفان، ديكلان وألكساندرا، حيلة ذكية تسمى BAAF (تجميع البوتستراب لتصفية الشذوذ - Bootstrap Aggregation Anomaly Filtering). هما لم يخترعا "عقلاً إلكترونيًا" جديدًا، بل ابتكرا طريقة جديدة لـ تعليم عقول الكمبيوتر الموجودة بالفعل.
فكر في BAF كـ "لجنة متشككة".
كيف يعمل (التشبيه)
تخيل أن لديك صندوقًا كبيرًا من البراغي المختلطة، وأنت تعلم أن بعضها سيء، لكنك لا تعرف أي منها هو السيئ. تريد تعليم الكمبيوتر كيفية رصد البراغي السيئة دون إخباره بأي منها هو السيئ.
تقسيم اللجنة: بدلًا من عرض الصندوق بأكمله على كمبيوتر واحد، قم بتقسيمه إلى مجموعات أصغر (تسمى "حقائب"). لنقل أن لديك 4 مجموعات.
التدريب المستقل: تعطي المجموعة (أ) للكمبيوتر 1، والمجموعة (ب) للكمبيوتر 2، وهكذا. كل كمبيوتر يتعلم ما هو "الطبيعي" بناءً على مجموعته الخاصة فقط.
الفخ: إذا حصل الكمبيوتر 1 على مجموعة تحتوي على بعض البراغي السيئة، فسوف يتعلم خطأً أن "الخدوش طبيعية" لأنه رأى خدوشًا في مجموعته فقط. سيصبح مفرط الثقة وخاطئًا.
التحقق المتقاطع (الخطوة السحرية): الآن، ينظر الكمبيوتر 1 إلى المجموعة (ب) (التي لم يتدرب عليها).
إذا رأى الكمبيوتر 1 برغيًا في المجموعة (ب) يشبه البراغي "السيئة" التي تعلمها في المجموعة (أ)، فسيقول: "هذا طبيعي!" (لأنه يعتقد أن الخدوش طبيعية).
ولكن، الكمبيوتر 2 (الذي تدرب على المجموعة ب) يعرف أن تلك الخدوش غريبة لأنها لم تظهر في تدريبه. سيقول الكمبيوتر 2: "لا، هذا شذوذ!".
الحكم: تطلب BAF من جميع الكمبيوترات التصويت. إذا تم تصنيف برغي ما على أنه "سيء" من قبل أغلبية الكمبيوترات التي لم تتدرب عليه، تقول BAF: "حسنًا، هذا بالتأكيد برغي سيئ. لنخرج هذا البرغي من بيانات التدريب الخاصة بنا".
المعلم النهائي: بمجرد تصفية البراغي السيئة، تأخذ البراغي "النظيفة" المتبقية وتدرب كمبيوترًا واحدًا أخيرًا، فائق الذكاء. هذا الكمبيوتر الأخير لم يرَ أي برغي سيئ أثناء تدريبه، لذا فهو مضبوط بدقة لرصدها لاحقًا.
لماذا يعد هذا أمرًا هامًا
إنه عالمي: يمكنك استخدام حيلة "اللجنة المتشككة" هذه مع أي كاشف شذوذ موجود تقريبًا. إنه يشبه وضع محول عالمي (Universal Adapter) على أي أداة لجعلها تعمل بشكل أفضل.
لا مزيد من الحاجة لـ "البيانات المثالية": لست بحاجة لقضاء أسابيع في تنظيف مجموعة بياناتك يدويًا. يمكنك تغذية الكمبيوتر ببيانات فوضوية، وسيقوم BAF بتنظيفها لك تلقائيًا.
الشذوذ المنطقي: يوضح البحث أيضًا أن هذا يعمل للمشكلات "المنطقية". تخيل مصنعًا يصنع البراغي، ولكن القاعدة هي "يجب أن يحتوي البرغي على 3 أسنان بالضبط". إذا كان البرغي يحتوي على 4 أسنان، فهذا "شذوذ منطقي" (إنه برغي مثالي، لكن عدد الأسنان خاطئ). الأساليب السابقة لم تستطع التعامل مع هذا بدون بيانات مثالية، لكن BAF يمكنه اكتشاف ذلك.
المقايضة
العيب الوحيد هو الوقت. نظرًا لأنه يجب عليك تدريب عدة كمبيوترات (اللجنة) وجعلها تصوت، فإن مرحلة "التدريب" تستغرق وقتًا أطول (حوالي 5 إلى 13 ضعفًا). ومع ذلك، بمجرد انتهاء التدريب، يعمل الكمبيوتر النهائي بنفس السرعة السابقة.
الخلاصة
BAAF هي طريقة ذكية لتحويل "المعلم الصارم" (الذي يحتاج إلى أمثلة مثالية) إلى "متحرٍ ذكي" (يمكنه التعلم من البيانات الفوضوية وغير المثالية). إنه يصفي الضجيج والأخطاء تلقائيًا، مما يسمح لنا ببناء أنظمة سلامة أفضل لكل شيء من أرضيات المصانع إلى المسحات الطبية، دون الحاجة إلى بشر لتنظيف البيانات أولًا.
إليك ملخص تقني مفصل لورقة البحث بعنوان: "BAAF: التحويل الشامل لمصنفات الفئة الواحدة من أجل الكشف غير الخاضع للإشراف عن الشذوذ في الصور."
1. بيان المشكلة
محدودية تصنيف الفئة الواحدة (OCC): تعتمد معظم طرق الكشف عن الشذوذ في الصور المتطورة حالياً بشكل أساسي على تصنيف الفئة الواحدة (One-Class Classification - OCC). تفترض هذه الطرق أن مجموعة بيانات التدريب تتكون فقط من بيانات طبيعية (nominal).
نقطة الضعف: في السيناريوهات الواقعية (مثل الفحص الصناعي، أو مراقبة التنوع البيولوجي)، غالباً ما يكون من المستحيل ضمان وجود مجموعة تدريب طبيعية تماماً. فبيانات التدريب غالباً ما تحتوي على "ضجيج في التسميات" (label noise) أو حالات شذوذ غير مكتشفة.
النتيجة: إذا تم تدريب نموذج OCC على بيانات تحتوي على حالات شذوذ، فإنه يفرط في التكيف (overfitting) مع هذه الحالات، ويعاملها كبيانات طبيعية. يؤدي هذا إلى سلبيات كاذبة (false negatives) أثناء الاستدلال، حيث يفشل النموذج في اكتشاف العيوب التي تعلم تجاهلها.
المقايضة: الطرق غير الخاضعة للإشراف بالكامل (التي تتحمل وجود حالات شذوذ في التدريب) تتراجع أداؤها عموماً مقارنة بطرق OCC عندما تكون بيانات التدريب نظيفة. علاوة على ذلك، تفتقر هذه الطرق غير الخاضعة للإشراف إلى التنوع، حيث تتقارب غالباً حول بنيات قائمة على الرقع (patch-based)، مما يجعل من الصعب تكييفها مع المهام المعقدة مثل الكشف عن الشذوذ المنطقي (على سبيل المثال: عدد خاطئ من الأشياء، أو تجميع غير صحيح للأجزاء).
يقترح المؤلفون إطار عمل BAAF، وهو إطار تنظيم (regularization) يحول أي مصنف OCC خاضع للإشراف موجود حالياً إلى طريقة غير خاضعة للإشراف بالكامل دون تعديل الخوارزمية الأساسية.
الأساس النظري الجوهري
تعتمد الطريقة على خاصيتين جوهريتين للكشف عن الشذوذ:
الندرة (Rarity): حالات الشذوذ أندر بكثير من البيانات الطبيعية (P(A)≪P(N)).
التباين (Heterogeneity): حالات الشذوذ متنوعة ومتميزة عن بعضها البعض بشكل عام، بينما البيانات الطبيعية متجانسة.
الاستنتاج: احتمال أن تكون عينتان من حالات الشذوذ مأخوذتان بشكل مستقل ومتشابهتين جداً (ضمن هامش صغير ϵ) هو احتمال يقترب من الصفر. وعلى العكس من ذلك، من المرجح أن تكون العينات الطبيعية متشابهة.
الخوارزمية (عملية BAAF)
تستخدم BAAF استراتيجية تجميع البوتستراب (Bagging) معدلة لتصفية مجموعة بيانات التدريب قبل التدريب النهائي:
تقسيم البيانات: يتم تقسيم مجموعة بيانات التدريب D (التي قد تكون ملوثة) عشوائياً إلى n من "الأكياس" (bags) غير المتداخلة.
التدريب المستقل: يتم تدريب نسخة من نموذج OCC المختار بشكل مستقل على كل كيس.
التنبؤ المتقاطع (Cross-Prediction): يقوم كل نموذج تم تدريبه بالتنبؤ بدرجات الشذوذ على الأكياس الأخرى (باستثناء البيانات التي تدرب عليها).
المنطق: إذا تنبأ نموذج تم تدريبه على "الكيس A" بأن حالة شذوذ في "الكيس B" هي حالة "طبيعية"، فمن المرجح أن ذلك بسبب وجود هذا الشذوذ المحدد في "الكيس A" (الإفراط في التكيف). ومع ذلك، إذا كان الشذوذ في "الكيس B" متميزاً عن تلك الموجودة في "الكيس A"، فيجب على النموذج المدرب على "الكيس A" أن يشير إليه كشذوذ بشكل صحيح.
التصفية عبر نماذج الخليط الغاوسي (GMM):
لكل كيس، يتم تحليل درجات الشذوذ من النماذج الأخرى.
يتم ملاءمة خليط من توزيعين غاوسيين لهذه الدرجات (مع الانحياز نحو العينات الطبيعية لضمان دقة عالية).
تعمل نقطة التقاطع بين التوزيعين الغاوسيين كنقطة عتبة (threshold).
التصويت والتجميع:
يتم إزالة العينات التي تنبأت معظم النماذج بأنها حالات شذوذ عبر الأكياس من مجموعة البيانات.
تتكرر هذه العملية لعدد k من الدورات (votes) لضمان المتانة.
التدريب النهائي: يتم تدريب نموذج OCC واحد نهائي على مجموعة البيانات المصفاة (التي تحتوي الآن على بيانات طبيعية في الغالب).
التمييز الرئيسي: لا تغير BAFE آلية الاستدلال. فالنموذج النهائي هو نموذج OCC قياسي تم تدريبه على بيانات "منقحة" (cleaned)، مما يحافظ على سرعة وبنية الطريقة الأصلية.
3. المساهمات الرئيسية
التحويل الشامل: طريقة لتحويل أي مصنف شذوذ OCC موجود أو مستقبلي (سواء كان قائماً على الرقع، أو إعادة البناء، أو معلم-طالب، إلخ) إلى طريقة غير خاضعة للإشراف بالكامل.
أول كاشف للشذوذ المنطقي غير الخاضع للإشراف: نجحت في توسيع نطاق الكشف غير الخاضع للإشراف ليشمل "الشذوذ المنطقي" (مثل العدد الخاطئ للأشياء)، وهي مهمة كانت تهيمن عليها سابقاً طرق OCC الخاضعة للإشراف.
أداء رائد (SOTA): تحقق نتائج رائدة في الإعدادات غير الخاضعة للإشراف بالكامل على مجموعات بيانات MVTec AD و ViSA و MVTec Loco AD.
الربط بين المجالات: تؤسس رابطاً مباشراً بين تحسينات OCC والتحسينات غير الخاضعة للإشراف؛ فأي تقدم في خوارزميات OCC يترجم تلقائياً إلى أداء أفضل غير خاضع للإشراف عند تغليفه بـ BAAF.
4. النتائج التجريبية
قام المؤلفون بتقييم BAAF على نماذج معمارية ومجموعات بيانات متنوعة (PatchCore, EfficientAD, DinoAnomaly, إلخ).
الأداء على البيانات الملوثة:
على مجموعة MVTec AD مع تلوث بنسبة 10% في حالات الشذوذ في التدريب، حققت BAAF(3/4)+PatchCore درجة I-AUROC بلغت 0.992، متفوقة بشكل كبير على النماذج المرجعية غير الخاضعة للإشراف مثل SoftPatch (0.984) و InReaCh (0.855).
عبر 8 طرق مختلفة من طرق OCC، رفعت BAAF متوسط الـ I-AUROC بمقدار 0.171 في ظل وجود ضجيج بنسبة 10% في التدريب.
الكشف عن الشذوذ المنطقي:
على مجموعة بيانات LOCO AD، حقق نموذج BAFB المغلف حول PUAD (وهو كاشف للشذوذ المنطقي) درجة I-AUROC بلغت 0.849 مع تلوث بنسبة 10%، متفوقاً على كل من النماذج المرجعية غير الخاضعة للإشراف الحالية وعلى نموذج OCC الأصلي الخاضع للإشراف (الذي انخفض أداؤه إلى 0.790 تحت تأثير التلوث).
المتانة:
تحافظ الطريقة على أداء عالٍ حتى مع وصول تلوث التدريب إلى 40%، رغم أن الأداء يتراجع مع انتهاك فرضية "الندرة".
تظل متينة حتى عند انتهاك فرضية التوزيع المتماثل والمستقل (I.I.D) بشكل طفيف (على سبيل المثال، عندما لا تكون حالات الشذوذ عشوائية بل فئوية).
5. الأهمية والآثار المترتبة
سد الفجوة: تلغي BAAF المقايضة بين الأداء العالي (النموذجي لـ OCC) والقدرة على تحمل الضجيج (النموذجية للطرق غير الخاضعة للإشراف). فهي تسمح باستخدام بنيات OCC قوية ومتخصصة في سيناريوهات واقعية حيث تكون عملية تنقية البيانات غير مثالية.
جاهزية المستقبل: مع تقدم مجال كشف الشذوذ في OCC (مثل مستخرجات الميزات الجديدة أو البنيات الأفضل)، فإن هذه التحسينات قابلة للنقل فوراً إلى المجال غير الخاضع للإشراف عبر BAAF دون الحاجة لإعادة هندسة المنطق غير الخاضع للإشراف.
الانتشار العملي: من خلال تمكين استخدام النماذج المدربة مسبقاً على بيانات صناعية خام وغير منقحة، تقلل BAAF من التكلفة والوقت المرتبطين بتنقية البيانات أو تسميتها يدوياً، مما يجعل الكشف عن الشذوذ أكثر سهولة في مجالات مثل مراقبة البيئة وتقييم التنوع البيولوجي.
6. القيود
وقت التدريب: العيب الرئيسي هو زيادة وقت التدريب خارج الإنترنت (offline). تتطلب الطريقة تدريب النموذج k×n+1 مرة (أي من 5 إلى 13 ضعف وقت التدريب القياسي). وهذا يجعلها أقل ملاءمة لسيناريوهات الضبط الدقيق (fine-tuning) في الوقت الفعلي.
سرعة الاستدلال: تظل سرعة الاستدلال مطابقة لطريقة OCC الأساسية (أو أسرع قليلاً بسبب صغر حجم بنوك الذاكرة)، لذا لا يوجد عقاب في الأداء أثناء النشر.
الاعتماد على الفرضيات: تعتمد الطريقة على افتراض أن حالات الشذوذ نادرة ومتنوعة. إذا كانت حالات الشذوذ متكررة للغاية أو مرتبطة ببعضها البعض (مما ينتهك فرضية I.I.D)، فقد يتراجع الأداء.