LADMIM: Logical Anomaly Detection with Masked Image Modeling in Discrete Latent Space
تقدم هذه الورقة البحثية LADMIM، وهو إطار عمل غير خاضع للإشراف للكشف عن الشذوذ، يستفيد من نمذجة الصور المقنعة في فضاء كامن منفصل لتحديد الشذوذ المنطقي بفعالية من خلال تعلم التبعيات طويلة المدى والتركيز على الأنماط الهيكلية العالمية بدلاً من الاختلافات المحلية للبكسل.
تخيل أنك مراقب جودة في مصنع. مهمتك هي النظر إلى المنتجات على حزام ناقل واكتشاف أي شيء يبدو "خاطئاً".
لفترة طويلة، كان المفتشون (والبرامج الحاسوبية التي استخدموها) بارعين حقاً في اكتشاف الأضرار المادية. إذا كانت الزجاجة بها خدش، أو انبعاج، أو بقعة، فإن النظام سيصرخ: "عيب تصنيعي!" وهذا ما يسمى باكتشاف العيوب الهيكلية.
لكن هناك مشكلة أصعب: العيوب المنطقية. تخيل صندوقاً من البراغي حيث يوجد برغي واحد مفقود، أو زجاجة عصير وُضع غطاؤها في الأسفل بدلاً من الأعلى. الزجاجة نفسها ليست مخدوشة، والغطاء ليس مكسوراً؛ إنما العلاقة بين الأجزاء هي الخاطئة. الأنظمة التقليدية غالباً ما تفشل في رصد ذلك لأنها تركز بشدة على التفاصيل الدقيقة للسطح، وليس على الصورة الكبيرة لكيفية تركيب الأشياء معاً.
يقدم هذا البحث نظاماً جديداً يسمى LADMIM لحل هذا اللغز. إليك كيف يعمل، مشروحاً عبر تشبيهات بسيية.
استراتيجية الأداتين
أدرك المؤلفون أن أداة واحدة لا تكفي لاكتشاف كلا النوعين من الأخطاء. لذا، قاموا ببناء نظام يتكون من "مفتشين" متميزين يعملان معاً:
1. "محقق التفاصيل" (HVQ-Trans)
ماذا يفعل: هذا الجزء بارع في العثور على الخدوش، والانبعاجات، والبقع.
كيف يعمل: تخيل أن لديك صورة مثالية لمنتج طبيعي. تأخذ نسخة ضبابية ومنخفضة الدقة منها وتحاول إعادة رسمها بشكل مثالي. إذا كان المنتج الأصلي يحتوي على خدش، فإن نسختك الضبابية ستحاول "إصلاح" الخدش ليبدو طبيعياً. عندما تقارن النسخة المعاد رسمها بالشيء الحقيقي، سيبرز الخدش لأن الرسم الجديد لم يتطابق مع الأصل.
التشبيه: الأمر يشبه طفلاً يحاول تتبع رسمة. إذا كان الأصل يحتوي على لطخة، فإن تتبعه للرسمة سيبدو مختلفاً، مما يكشف عن وجود اللطخة.
2. "حل لغز المنطق" (ViT with MIM)
ماذا يفعل: هذا الجزء هو نجم العرض لاكتشاف الأخطاء المنطقية (مثل برغي مفقود أو جزء تم تبديله).
المشكلة: إذا حاولت التنبؤ بما تبدو عليه القطعة المفقودة من صورة بدقة (بكسل تلو الآخر)، فإن الكمبيوتر سيصاب بالارتباك. قد يخمن اللون الصحيح ولكن في المكان الخاطئ، أو قد يتشتت بسبب الضوضاء الصغيرة. الأمر يشبه محاولة إنهاء لغز (بازل) وأنت معصوب العينين؛ قد تخمن الشكل، لكنك لن تعرف مكانه بالضبط.
الحل (الخدعة السحرية): بدلاً من مطالبة الكمبيوتر بتخمين الصورة الدقيقة للقطعة المفقودة، نطلب منه تخمين قائمة المكونات في تلك القطعة المفقودة.
التشبيه: تخيل أنك تغطي جزءاً من صورة شطيرة (ساندوتش). بدلاً من قول "ارسم بالضبط ما يوجد تحت الغطاء"، تسأل "ما هي المكونات الموجودة في المنطقة المغطاة؟"
إذا كان من المفترض أن تحتوي المنطقة المغطاة على "خبز وجبن" فقط، ولكن الجزء المخفي يحتوي في الواقع على "مخلل" (عيب)، سيقول الكمبيوتر: "مهلاً، لقد توقعت خبزاً وجبناً، لكن الواقع يحتوي على مخلل!"
ولأن الكمبيوتر يقوم فقط بعدّ ما هو موجود ولا يهتم بـ أين يقع كل فتات بالضبط، فإنه يصبح أفضل بكثير في اكتشاف متى تكون "الوصفة" خاطئة.
كيف يعملان معاً
يجمع النظام بين درجات التقييم من كلا المفتشين:
محقق التفاصيل يفحص الخدوش والانبعاجات.
حل لغز المنطق يفحص ما إذا كانت الأجزاء في الترتيب الصحيح أو إذا كان هناك شيء مفقود.
إذا قال أي منهما: "مهلاً، هناك شيء غريب"، يقوم النظام بوضع علامة على المنتج.
لماذا يعد هذا أمراً هاماً
لا حاجة للتدريب المسبق: العديد من الأنظمة الحالية تحتاج إلى تعليمها من قبل البشر باستخدام آلاف الأمثلة المصنفة أو تدريبها على مجموعات بيانات ضخمة. هذا النظام يتعلم من تلقاء نفسه (غير خاضع للإشراف) بمجرد النظر إلى المنتجات "الطبيعية". إنه يستنتج قواعد "الطبيعي" بمفرده.
أفضل في التعامل مع المهام الصعبة: كانت أنظمة الكمبيوتر السابقة سيئة جداً في التعامل مع العيوب المنطقية. هذه الطريقة الجديدة ترفع الدقة إلى مستوى أفضل الأنظمة الموجودة، ولكن دون الحاجة إلى أدوات معقدة مدربة مسبقاً.
المتانة: لا يرتبك النظام بسبب الإزاحات الطفيفة في الموقع. إذا تحرك برغي قليلاً إلى اليسار، سيعرف النظام أنه لا يزال برغياً، ولكن إذا كان البرغي مفقوداً، فسيعرف أن هناك خطأ ما.
العيوب (القيود)
النظام ليس مثالياً بعد.
مشكلة "عصابة العينين": نظرًا لأنه يخمن بناءً على "المكونات" وليس المواقع الدقيقة، فإنه يواجه أحياناً صعوبة في إخبارك بمكان الخطأ بالضبط في الصورة. هو يعرف أن الشطيرة خاطئة، لكنه قد لا يستطيع الإشارة بإصبعه إلى شريحة الخبض تحديداً.
استراتيجية الحجب (Masking): يعمل النظام عن طريق "إخفاء" أجزاء من الصورة لاختبار نفسه. إذا أخفى الكثير، سيصاب بالارتباك. وإذا أخفى القليل، فلن يتعلم بما يكفي. إيجاد التوازن المثالي لا يزال عملاً مستمراً.
الملخص
باختاً، LADMIM هو طريقة جديدة لتمكين الحواسيب من فحص منتجات المصانع. إنه يستخدم خدعة ذكية: بدلاً من محاولة إعادة رسم قطعة مفقودة من الصورة بدقة، فإنه يخمن "وصفة" تلك القطعة المفقودة. هذا يسمح له باكتشاف ليس فقط الأشياء المكسورة، بل أيضاً الأشياء المرتبة بشكل غير صحيح، مما يجعله مفتش جودة أكثر ذكاءً بكثير.
إليك ملخص تقني مفصل لورقة البحث بعنوان "LADMIM: كشف الشذوذ المنطقي باستخدام نمذجة الصور المقنعة (LADMIM)".
1. تعريف المشكلة
تعالج الورقة فجوة حرجة في كشف الشذوذ غير الخاضع للإشراف (Unsupervised Anomaly Detection - AD): وهو كشف الشذوذ المنطقي (Logical Anomalies).
الشذوذ الهيكلي (Structural Anomalies): انحرافات موضعية مثل الخدوش، أو البقع، أو الشقوق. يتم التعامل مع هذه الأنواع جيداً بواسطة الطرق الحالية التي تركز على أنماط الميزات المحلية.
الشذوذ المنطقي (Logical Anomalies): انحرافات عالمية تتعلق بالعلاقات بين الأشياء، مثل تركيبات الأشياء غير الصحيحة، أو عدم المحاذاة، أو وجود أشياء ناقصة أو زائدة في المشاهد متعددة الأشياء.
التحدي: غالباً ما تعاني طرق كشف الشذوذ التقليدية (سواء القائمة على إعادة البناء أو القائمة على بنك الذاكرة) من صعوبة في التعامل مع الشذوذ المنطقي لأنها تعتمد بشكل كبير على الميزات المحلية أو تتطلب نماذج تجزئة (Segmentation) مدربة مسبقاً. علاوة على ذلك، غالباً ما تفشل طرق نمذجة الصور المقنعة (MIM) القياسية بسبب عدم اليقين الموضعي (Positional Uncertainty)؛ حيث يؤدي التنبؤ بميزات مستوى البكسل في المناطق المقنعة إلى إعادة بناء ضبابية لأن النموذج لا يستطيع تحديد الموقع الدقيق للميزات داخل القناع.
2. المنهجية: LADMIM
يقترح المؤلفون إطار عمل LADMIM، وهو إطار مبتكر يجمع بين المحول المتجهي الهرمي المكمّم (Hierarchical Vector Quantized Transformer - HVQ-Trans) ومحول الرؤية (Vision Transformer - ViT) المدرب بهدف نمذجة الصور المقنعة (MIM). يعمل إطار العمل في مرحلتين متمايزتين لكشف الشذوذ الهيكلي والمنطقي بشكل منفصل.
يعتمد على آلية تكميم متجهي هرمي، ويقوم بإعادة بناء ميزات الصورة من شبكة أساسية (PDN).
يكشف عن الشذوذ الهيكلي عبر خطأ إعادة البناء (متوسط مربع الخطأ - MSE).
والأهم من ذلك، يعمل كـ مُجزئ (Tokenizer)، حيث يحول ميزات الصورة المستمرة إلى مجموعة هرمية من المتغيرات الكامنة المنفصلة (Discrete Latent Variables) (الأكواد). تعمل هذه الأكواد المنفصلة كهدف للتنبؤ لكاشف الشذوذ المنطقي.
ViT مع MIM (كاشف الشذوذ المنطقي):
يتم تدريب ViT للتنبؤ بـ توزيع الاحتمالات (المخطط التكراري - Histogram) للمتغيرات الكامنة المنفصلة في المناطق المقنعة، بدلاً من التنبؤ بقيم بكسل محددة أو مواقع رموز محددة.
المدخلات: يتلقى ViT الرقع المرئية (Visible Patches) ورمز قناع قابل للتعلم.
الهدف: بدلاً من التنبؤ بـ أي كود يوجد في أي موقع (وهو ما يعاني من غموض موضعي)، يتنبأ النموذج بـ التكوين العالمي (Global Composition) (المخطط التكراري) للأكواد الموجودة في المنطقة المقنعة.
دالة الخسارة (Loss Function): يقلل النموذج من مسافة L1 بين توزيع الكود المتوقع (P) وتوزيع الكود الحقيقي (Q) المستمد من مُجزئ HVQ-Trans.
ب. التدريب والاستدلال
التدريب:
تدريب HVQ-Trans لإعادة بناء الميزات وتوليد المتغيرات الكامنة المنفصلة.
تجميد أوزان HVQ-Trans. ثم تدريب ViT باستخدام هدف MIM (التنبؤ بالمخططات التكرارية للأكواد من HVQ-Trans) على الصور الطبيعية فقط.
الاستدلال:
درجة الهيكل (SHVQ): تُحسب كمتوسط مربع الخطأ (MSE) بين الميزات الأصلية والمعاد بناؤها.
الدرجة المنطقية (SMIM): تُحسب كمتوسط مسافة L1 بين المخططات التكرارية للأكواد المتوقعة والحقيقية عبر أقنعة عشوائية متعددة.
الدرجة النهائية: يتم تجميع الدرجات المعيارية (باستخدام تطبيع Z-score للتعامل مع القيم المتطرفة) لتحديد الحالة النهائية للشذوذ.
3. المساهمات الرئيسية
إطار عمل مبتكر (LADMIM): نهج موحد يستفيد من MIM للشذوذ المنطقي ومن HVQ-Trans للشذوذ الهيكلي دون الحاجة إلى نماذج تجزئة مدربة مسبقاً.
التنبؤ القائم على التوزيع: تكمن الفكرة الجوهرية في أن التنبؤ بـ توزيع احتمالات المتغيرات الكامنة المنفصلة (المخططات التكرارية) بدلاً من الرموز المحددة مكانياً يقلل من عدم اليقين الموضعي. وهذا يسمح للنموذج بالتركيز على الاعتمادات المنطقية (مثل: "الزجاجة عادة ما تحتوي على غطاء") بدلاً من الترتيبات المكانية الدقيقة.
القابلية للتوسع والمتانة: على عكس الطرق التي تعتمد على اختناقات معلوماتية ضيقة (والتي تتطلب ضبطاً دقيقاً للمعلمات الفائقة)، فإن LADMIM يتميز بالمتانة تجاه توسع النماذج ولا يعاني من مشكلة "اختصار الهوية" (Identity Shortcut) الشائعة في الطرق القائمة على إعادة البناء.
تحليل شامل: تقدم الورقة دراسات استقصائية واسعة حول استراتيجيات القناع، وأهداف التنبؤ، ودوال الخسارة، مما يكشف أن مسافة L1 على المخططات التكرارية للأكود تتفوق على تباعد KL/JS والتنبؤات على مستوى البكسل في كشف الشذوذ المنطقي.
4. النتائج التجريبية
تم تقييم الطريقة على مجموعتي بيانات MVTec LOCO (المركزة على الشذوذ المنطقي) و MVTec AD (المركزة على الشذوذ الهيكلي).
أداء MVTec LOCO:
حقق LADMIM متوسط AUROC على مستوى الصورة بنسبة 84.7% للشذوذ المنطقي و 88.5% للشذوذ الهيكلي.
تفوق بشكل ملحوظ على الطرق الأخرى القائمة على MIM (مثل SSM و SMAE) والطرق التنافسية القائمة على بنك الذاكرة (مثل PatchCore و ComAD).
بينما تأخر قليلاً عن الطرق الحالية الأكثر تقدماً (SoTA) مثل EfficientAD و PUAD في حالات الفئة الواحدة، أظهر LADMIM قابلية توسع فائقة في حالات الفئات المتعددة. فمع زيادة أبعاد النموذج، تحسن أداء LADMIM، بينما انخفض أداء EfficientAD بسبب قيود الاختناق المعلوماتي.
أداء MVTec AD:
حقق 93.4% AUROC، متفوقاً على النهج الأخرى القائمة على MIM، وإن كان خلف الطرق المتخصصة (SoTA) التي تركز فقط على العيوب الهيكلية.
رؤى الدراسة الاستقصائية (Ablation Insights):
هدف التنبؤ: أدى التنبؤ بـ المخطط التكراري للكود إلى أفضل النتائج، حيث وازن بين الكشف الهيكلي والمنطقي. أما التنبؤ بالبكسلات الخام فقد فضل الكشف الهيكلي لكنه فشل في الشذوذ المنطقي.
استراتيجية القناع: كانت الأقنعة التكيفية (Adaptive masking) هي الأفضل للشذوذ الهيكلي، بينما كان القناع العشوائي الكتلي (Block-random masking) مع تغطية متوسطة (20-40%) هو الأمثل للشذوذ المنطقي.
5. الأهمية والتوجهات المستقبلية
تحول في النموذج الفكري: يثبت LADMIM أنه يمكن تكييف MIM بفعالية لكشف الشذوذ المنطقي من خلال نقل هدف التنبؤ من الرموز المكانية إلى التمثيلات التوزيعية. وهذا يتجاوز الحاجة إلى مقدمات تجزئة معقدة.
إطار عمل موحد: يقدم مساراً نحو نظام موحد لكشف الشذوذ قادر على التعامل مع العيوب المحلية (الهيكلية) والعالمية (المنطقية) دون تغييرات هيكلية خاصة بكل مهمة.
القيود والعمل المستقبلي:
يفقد النهج الحالي القائم على المخطط التكراري معلومات الترتيب، مما يجعل من الصعب اكتشاف الشذوذ الذي يعتمد على تسلسلات أو تبديلات محددة.
تحديد موقع الشذوذ المنطكي حالياً يعتبر خشناً (Coarse) بسبب القناع العشوائي.
يشير العمل المستقبلي إلى دمج وحدات التنبؤ العشوائية (مثل نماذج الانتشار - Diffusion Models) و القناع الدلالي (Semantic Masking) لتحسين التحديد الموضعي والكشف الحساس للترتيب.
باختصار، يمثل LADMIM خطوة كبيرة للأمام في كشف الشذوذ غير الخاضع للإشراف من خلال نمذجة الاعتمادات طويلة المدى والعلاقات المنطقية بفعالية عبر التنبؤ بتوزيع المتغيرات الكامنة المنفصلة، مما يوفر بديلاً قوياً للطرق الحالية التي تعتمد على التجزئة أو الاختناقات المعلوماتية.