💻 computer science

Continual Visual Anomaly Detection on the Edge: Benchmark and Efficient Solutions

تقدم هذه الورقة أول معيار شامل للكشف المستمر عن الشذوذ البصري على الأجهزة الطرفية محدودة الموارد، وتقترح Tiny-Dinomaly، وهو نموذج عالي الكفاءة يقلل بشكل كبير من تكاليف الذاكرة والحوسبة مع تحسين أداء الكشف، إلى جانب نسخ محسنة من PatchCore وPaDiM.

المؤلفون الأصليون: Manuel Barusco, Francesco Borsatti, David Petrovic, Davide Dalle Pezze, Gian Antonio Susto

نُشر 2026-04-09

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Manuel Barusco, Francesco Borsatti, David Petrovic, Davide Dalle Pezze, Gian Antonio Susto

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك رئيس الأمن في مصنع ضخم ومتغير باستمرار. مهمتك هي رصد المنتجات المعيبة على حزام ناقل. في الماضي، كان لديك حارس أمن عملاق وذكي للغاية (ذكاء اصطناعي قوي) يجلس في غرفة خوادم ضخمة ومكيفة. كان لدى هذا الحارس إمكانية الوصول إلى كل منتج تم صنعه على الإطلاق، وذاكرة لا نهائية، وكميات غير محدودة من القهوة ليبقى مستيقظاً. لقد كان يعمل بشكل رائع، لكنه كان بطيئاً، ومكلفاً، ولا يمكنه التحرك مع المصنع.

الآن، يريد المصنع نقل حارس الأمن هذا مباشرة إلى خط التجميع. ولكن هناك شرط: يجب أن يتسع الحارس داخل حقيبة ظهر صغيرة تعمل بالبطارية (جهاز طرفي - Edge Device). كما أن هناك قاعدة جديدة: كل أسبوع، يصل نوع جديد من المنتجات (مثل الانتقال من فحص الصواميل إلى فحص الكابلات)، ويجب على الحارس تعلم هذه الوظيفة الجديدة دون أن ينسى كيفية فحص المنتجات القديمة. تسمى هذه العملية التعلم المستمر (Continual Learning).

هذه الورقة البحثية تشبه دليل "Consumer Reports" الضخم لإيجاد حارس الأمن المثالي لهذا المصنع الصغير والمتطور.

المشكلة: معضلة "فقدان الذاكرة" مقابل "حقيبة الظهر"

معظم حراس الأمن الحاليين هم إما:

العقول الجبارة: أذكياء جداً ولكنهم ضخمون. يحتاجون إلى غرفة خوادم كاملة ليتسعوا فيها. إذا قمت بتصغير حجمهم ليناسبوا حقيبة ظهر، سيفقدون عقولهم.
المصابون بفقدان الذاكرة: يمكنهم التواجد في حقيبة ظهر، ولكن إذا علمتهم منتجاً جديداً، فإنهم ينسون فوراً كيفية اكتشاف العيوب في المنتجات القديمة.

تساءل المؤلفون: هل يمكننا العثด حارس أمن صغير بما يكفي لحقيبة ظهر، وذكي بما يكسي لرصد الخدوش الدقيقة، ولديه ذاكرة جيدة لتذكر كل ما تعلمه؟

الحل: "معيار تقييم" جديد (تقرير الأداء)

أنشأ الباحثون مسار اختبار ضخم. أخذوا 7 أنواع مختلفة من حراس الأمن (نماذج الذكاء الاصطناعي) وحاولوا تجربتهم مع 3 أحجام مختلفة من حقائب الظهر (رقائق كمبيوتر خفيفة الوزن). واختبرواهم في "ساحات تدريب" مشهورة (مجموعات بيانات) مليئة بالمنتجات الصناعية.

وقاموا بقياس ثلاثة أشياء:

ما مدى صغر حجم حقيبة الظهر؟ (البصمة الذاكرية - Memory Footprint)
ما مدى سرعة تفكير الحارس؟ (تكلفة الاستنتاج - Inference Cost)
ما مدى جودة الحارس في اكتشاف العيوب؟ (الأداء - Performance)

النجوم المتألقون (الحلول الجديدة)

1. Tiny-Dinomaly: "الماستر الصغير"

كان حارس "Dinomaly" الأصلي عبقرياً ولكنه كان يزن 560 ميجابايت (مثل حقيبة سفر ثقيلة). كان كبيراً جداً على حقيبة الظهر.

الإصلاح: بنى المؤلفون Tiny-Dinomaly. قاموا باستبدال الدماغ الضخم بدماغ صغير وفعال يسمى "DeiT-Tiny".
السحر: بدلاً من مجرد تصغير حجمه، أدركوا أن الدماغ الأصغر ساعدهم بالفعل! لأن الدماغ الصغير لا يستطيع حفظ كل تفصيل بدقة، فقد أُجبر على التركيز على جوهر ما يبدو عليه الشيء "الطبيعي". وهذا جعله أفضل بشكل مفاجئ في رصد العيوب الغريبة.
النتيجة: إنه أصغر بـ 13 مرة وأسرع بـ 20 مرة من الأصلي، ولكنه في الواقع أصبح أفضل في اكتشاف العيوب على مستوى البكسل (مثل خدش صغير). إنه يشبه استبدال دبابة ثقيلة بنينجا رشيق وهو في الواقع أكثر دقة.

2. PatchCoreCL++: "أمين المكتبة الذكي"

حارس "PatchCore" الأصلي كان يحتفظ بمكتبة من الصور لكل منتج طبيعي رآه من قبل. عندما يصل منتج جديد، كان يضيف رفاً جديداً.

المشكلة: مع نمو المصنع، أصبحت المكتبة ضخمة. وللتأكد من منتج جديد، كان على الحارس السير عبر كل الممرات للعثور على تطابق. كان ذلك بطيئاً ويستهلك مساحة كبيرة.
الإصلاح: أنشأوا PatchCoreCL++.
- رفوف أذكى: بدلاً من إعادة تنظيم المكتبة بأكملها في كل مرة يصل فيها منتج جديد، يقومون فقط بقص الجزء السفلي من القائمة (الصور الأقل أهمية).
- بطاقة الهوية: قبل فحص المكتبة، يأخذ الحارس الآن "صورة هوية" سريعة للمنتج لتخمين الرف الذي ينتمي إليه. هو يسير فقط في ذلك الممر الواحد.
النتيجة: إنه أسرع بـ 12 مرة في فحص العناصر ويوفر مساحات هائلة، مما يجعله مثالياً للأجهزة الطرفية.

3. PaDiM-Lite MultiModal: "مدون الملاحظات المتخصص"

يستخدم هذا الحارس صيغة رياضية معقدة (توزيع غاوسي) لوصف ما يبدو عليه الشيء "الطبيعي".

المشكلة: الصيغة الأصلية كانت ثقيلة جداً على حقيبة الظهر. والنسخة "المخففة" (Lite) كانت بسيطة جداً لدرجة أنها تنسى الأشياء.
الإصلاح: أنشأوا نموذجاً هجيناً. احتفظوا بـ "تدوين الملاحظات المتخصص" لكل نوع من المنتجات (حتى لا ينسوا)، ولكنهم بسطوا الرياضيات لتقتصر على الأرقام الأكثر أهمية فقط.
النتيجة: إنه يحقق التوازن المثالي، حيث يقدم دقة عالية دون الانفجار في استهلاك الذاكرة الذي تسببه النسخة الثقيلة الأصلية.

خلاصات رئيسية للعالم الحقيقي

الحجم مهم، لكن الذكاء أهم: لست بحاجة إلى كمبيوتر خارق للقيام بهذه المهمة. من خلال استبدال الرقائق الثقيلة بأخرى خفيفة (مثل MobileNet أو MCUNet)، يمكنك توفير 85% من المساحة والطاقة مع عدم وجود أي خسارة تذكر في الجودة.
لا تحتاج إلى ذاكرة عملاقة: لتذكر الماضي، لست بحاجة لتخزين آلاف الصور القديمة. الاحتفاظ بـ 40 عينة فقط (حفنة صغيرة) من المنتجات القديمة كافٍ لمنع الحارس من النسيان. الأمر يشبه تذكر جوهر القصة بدلاً من حفظ كل كلمة فيها.
أسطورة "النموذج الواحد الذي يناسب الجميع" قد ماتت: لا يوجد حارس واحد "أفضل".
- إذا كنت بحاجة إلى السرعة ولديك بطارية صغيرة، استخدم MCUNet مع PaSTe.
- إذا كنت بحاجة إلى أقصى دقة للخدوش الدقيقة ولديك مساحة أكبر قليلاً، استخدم Tiny-Dinomaly.
- إذا كنت بحاجة إلى تحديد أي منتج تنظر إليه أولاً، استخدم PatchCoreCL++.

الخلاصة النهائية

تثبت هذه الورقة البحثية أنه يمكننا أخيراً وضع أنظمة فحص صناعية "ذكية" مباشرة في أرض المصنع، على أجهزة صغيرة ورخيصة، دون الحاجة إلى اتصال سحابي. يمكننا الحصول على حارس أمن يتعلم وظائف جديدة أثناء العمل، ولا ينسى وظائفه القديمة أبداً، ويتسع في جيبك. إنها خطوة كبيرة نحو جعل المصانع أكثر ذكاءً، وأسرع، وأكثر خصوصية.

1. بيان المشكلة

يعد الكشف البصري عن الشذوذ (VAD) أمراً بالغ الأهمية في التفتيش الصناعي والرعاية الصحية، ولكنه يواجه تحديين رئيسيين، غالباً ما يكونان متضاربين، في النشر الواقعي:

النشر على الحافة (Edge Deployment): تتطلب الأنظمة الواقعية تشغيلاً منخفض التأخير، وموفراً للطاقة، ويحافظ على الخصوصية على أجهزة ذات قيود شديدة في الذاكرة وقدرة الحوسبة.
التعلم المستمر (Continual Learning - CL): البيئات الصناعية ديناميكية؛ حيث يتم تقديم فئات منتجات جديدة بمرور الوقت. يجب أن تتكيف النماذج مع هذه التوزيعات المتطورة للبيانات دون "النسيان الكارثي" (فقدان المعرفة بالفئات السابقة).

الفجوة: تعالج الأبحاث الحالية عادةً هذه التحديات بشكل منعزل. تفترض طرق التعلم المستمر موارد غير محدودة من جهة الخادم (مخازن إعادة تشغيل كبيرة، تحديثات مكلفة)، بينما تفترض نماذج VAD المحسنة للحافة توزيعات بيانات ثابتة. هناك نقص في المعايير الشاملة أو الحلول التي تحسن بشكل مشترك كل من الكفاءة (الذاكرة/الحوسبة) والقدرة على التكيف (التعلم المستمر) على أجهزة الحافة.

2. المنهجية

يقترح المؤلفون معياراً شاملاً وثلاثة حلول معمارية محددة لمعالجة القيود المشتركة للنشر على الحافة والتعلم المستمر.

أ. إطار عمل المعيار (Benchmark Framework)

النطاق: تم تقييم 7 نماذج VAD (PatchCore, PaDiM, CFA, STFPM, SimpleNet, PaSTe, Dinomaly) عبر 6 بنيات أساسية (بما في ذلك خيارات خفيفة الوزن مثل MobileNet, MCUNet, PhiNet, و DeiT-Tiny).
مجموعات البيانات: MVTec AD و VisA، والتي تغطي مجموعة واسعة من سيناريوهات التفتيش الصناعي.
بروتوكول التعلم المستمر: إعداد زيادة الفئات (class-incremental)، حيث يتعلم النموذج فئة منتج واحدة في كل مرة.
الاستراتيجيات:
- إعادة التشغيل (Replay): استراتيجية CL الأساسية المستخدمة، والتي تم اختبارها بأحجام مخزن (buffer) تبلغ 40 و100 عينة (حوالي 5 ميجابايت و15 ميجابايت) لمحاكاة قيود الحافة.
- النماذج المرجعية (Baselines): تمت المقارنة مقابل الضبط الدقيق (Fine-Tuning) (الحد الأدنى، يعاني من النسيان) والتدريب المشترك (Joint Training) (الحد الأعلى، الأداء المثالي).

ب. الحلول المقترحة

1. Tiny-Dinomaly

المفهوم: تكيف خفيف الوزن لنموذج Dinomaly (المعتمد على نماذج التأسيس DINO).
البنية: يستبدل العمود الفقي الثقيل DINOv2 ViT-L/14 (307 مليون معلمة) بـ DeiT-Tiny (5 ملايين معلمة).
الآلية: يستخدم مشفرًا مجمدًا (frozen encoder) ومفكك شفرة (transformer decoder) قابل للتدريب. يستخدم عنق الزجاجة الضوضائي (Noisy Bottleneck)، والانتباه الخطي (Linear Attention)، وإعادة البناء الفضفاضة (Loose Reconstruction) لمنع مفكك الشفرة من الإفراط في التخصيص (Identity mapping).
الرؤية الجوهرية: تعمل السعة الأصغر لمشفر DeiT-Tiny كمنظم طبيعي (regularizer)، مما يجعل من الصعب على مفكك الشفرة إعادة بناء الشذوذ غير المرئي، وبالتالي يحسن تحديد المواقع على مستوى البكسل دون قيود ثقيلة صريحة.

2. PatchCoreCL++

المشكلة: يتطلب PatchCoreCL القياسي إعادة تشغيل خوارزمية $k$ -center لضغط بنوك الذاكرة لكل مهمة جديدة (تعقيد $O(S^2)$ )، ويقارن الصور الاختبارية ضد جميع بنوك الذاكرة للمهام أثناء الاستدلال (تعقيد $O(K)$ ).
الحل:
- التدريب: يستبدل إعادة ضغط $k$ -center باستراتيجية القطع القائم على البادئة (prefix-based truncation). بناءً على خاصية "التنقل عبر أبعد أول عنصر" (farthest-first traversal)، يتم ببساطة التخلص من العينات الأقل تمثيلاً (في نهاية القائمة)، مما يقلل تكلفة التحديث إلى $O(1)$ .
- الاستدلال: يقدم تحديد المهمة القائم على النماذج الأولية (prototype-based task identification). بدلاً من تسجيل النقاط ضد جميع البنوك، يحدد النظام المهمة باستخدام بحث واحد عن أقرب نموذج أولي، ثم يسجل النقاط فقط ضد بنك الذاكرة المحدد لذلك. هذا يقلل تكلفة الاستدلال من $O(K \cdot |M|)$ إلى $O(K + |M|)$ .

3. متغيرات PaDiM-CL (أحادية النمط ومتعددة الأنماط)

التصحيح: حدد المؤلفون انحيازًا إحصائيًا في PaDiM-CL الأصلي (من [1])، والذي استخدم أوزانًا موحدة للمهام بغض النظر عن حجم العينة. اقترحوا PaDiM-CL UniModal مع دمج رياضي صحيح للأوساط والتباينات (باستخدام نظرية المحور المتوازي).
الكفاءة: قدموا PaDiM-CL-Lite MultiModal. بدلاً من تخزين مصفوفات التباين الكاملة ( $O(d^2)$ ) لكل مهمة، فإنه يخزن فقط ناقلات التباين القطرية ( $O(d)$ ). هذا يقلل بشكل كبير من نمو الذاكرة من تربيعي إلى خطي بالنسبة لبعد الميزة، مما يجعل التعلم المستمر متعدد الأنماط ممكناً على أجهزة الحافة.

3. المساهمات الرئيسية

أول معيار شامل: وضع أول تقييم منهجي لنماذج VAD تحت القيود المشتركة للنشر على الحافة والتعلم المستمر، مع تحليل المقايضات بين الذاكرة والحوسبة والأداء.
Tiny-Dinomaly: نموذج خفيف الوزن جديد يحقق حالة متقدمة (SOTA) في الأداء، حيث يحقق بصمة ذاكرة أصغر بـ 13 ضعفًا وتكلفة حوسبية أقل بـ 20 ضعفًا من نموذج Dinomaly الأصلي، مع تحسين Pixel F1 بمقدار 5 نقاط مئوية.
التحسينات الخوارزمية:
- PatchCoreCL++: يقلل تكلفة الاستدلال بمقدار 12 ضعفًا ويلغي تكلفة تحديث التدريب التربيعية.
- PaDiM-CL-Lite MultiModal: يحل مشكلة انفجار الذاكرة في التعلم المستمر متعدد الأنماط، ويقدم أفضل مقايضة بين الدقة والذاكرة في عائلة PaDiM.
التصحيح الإحصائي: أصلح انحيازًا نظاميًا في تطبيقات PaDiM-CL الحالية، مما حسن بشكل كبير من أداء النموذج المرجعي.

4. النتائج

الأداء مقابل الكفاءة:
- برز كل من Tiny-Dinomaly و PaSTe كأفضل المؤدين في تحديد المواقع على مستوى البكسل. حقق Tiny-Dinomaly درجة Pixel F1 بلغت 0.45 مع 3.39 GFLOPs فقط و50.87 MB من الذاكرة.
- حقق PatchCoreCL++ أعلى درجة Image-level F1 (0.96) مع تقليل تكلفة الاستدلال من 49.16 GFLOPs إلى 4.15 GFLOPs (باستخدام عمود فقري من نوع MobileNet).
- حقق PaDiM-CL-Lite MultiModal درجة Pixel F1 بلغت 0.41 مع 46.67 MB فقط من الذاكرة، متفوقًا على متغير UniModal ذو التباين الكامل (0.34 F1، 98 MB).
تحليل العمود الفقري (Backbone Analysis):
- وفر MobileNet عمومًا أعلى دقة ولكن مع استخدام أعلى للذاكرة.
- قدم MCUNet أفضل نسبة كفاءة إلى أداء، وهو مناسب لقيود زمن الاستجابة الصارمة.
- كان PhiNet حلاً وسطًا ولكنه تأخر في دقة الكشف.
حجم مخزن إعادة التشغيل (Replay Buffer Size): وُجد أن مخزن يحتوي على 40 عينة (~5 ميجابايت) يلتقط معظم فوائد التعلم المستمر. أدت الزيادة إلى 100 عينة إلى مكاسب هامشية، وما بعد ذلك، تناقصت العوائد بسرعة. هذا يشير إلى أن أجهزة الحافة يمكن أن تعمل بمخازن إعادة تشغيل صغيرة جدًا.

5. الأهمية

يجسر هذا العمل الفجوة بين التعلم المستمر النظري والنشر العملي على الحافة. وهو يثبت أن:

الـ VAD عالي الأداء على أجهزة الحافة أمر ممكن دون التضحية بالقدرة على التكيف.
التنظيم الهيكلي (Structural regularization) (باستخدام مشفرات أصغر مثل DeiT-Tiny) يمكن أن يتفوق على القيود المعمارية الصريحة المصممة للنماذج الأكبر.
الكفاءة الخوارزمية (مثل الاستدلال القائم على النماذج الأولية، والتباين القطري) لا تقل أهمية عن ضغط النموذج لتمكين التعلم مدى الحياة على الأجهزة محدودة الموارد.

توفر الحلول المقترحة (Tiny-Dinomaly, PatchCoreCL++, PaDiM-CL-Lite) مجموعة أدوات لنشر أنظمة تفتيش صناعية تكيفية وتحافظ على الخصوصية على أجهزة عادية، متجاوزة نموذج "الخادم الثابت".