ملخص تقني: مطابقة درجات التناقص الموجهة بالتفرطح لتحديد الشذوذ في البيانات الجدولية

بيان المشكلة

يتطلب اكتشاف الشذوذ في البيانات الجدولية تحديد الملاحظات التي تنحرف عن التوزيع المتوقع. وبينما توفر مطابقة الدرجة بالتناقص (Denoising Score Matching - DSM) إطار عمل قوي لنمذجة التوزيعات عالية الأبعاد من خلال تعلم دالة الدرجة (تدرج لوغاريتم الكثافة)، إلا أنها تواجه تحديًا عمليًا حاسمًا وهو: اختيار مقياس الضجيج.

تعتمد طريقة DSM القياسية على مقياس ضجيج واحد وثابت ($\sigma$) يتم تطبيقه عالميًا على جميع الميزات. وهذا يخلق مقايضة بين:

• ضجيج قليل جدًا: تصبح تقديرات الدرجة المتعلمة غير مستقرة في المناطق المتفرقة، مما يؤدي إلى الفشل في التقاط البنية حيث توجد حالات الشذوذ عادةً.
• ضجيج كثير جدًا: يؤدي الاضطراب إلى محو البنية المحلية، مما يقلل من التمايز بين العينات الطبيعية والشاذة ويضعف الحساسية.

تحاول الحلول الحالية، مثل مطابقة الدرجة متعددة المقاييس (MSM) أو شبكات الدرجة المشروطة بالضجيج (NCSNs)، حل هذه المشكلة من خلال تدريب النماذج عبر مقاييس ضجيج متعددة. ومع ذلك، تفرض هذه النهجات أعباء حسابية كبيرة، وتتطلب اختيارًا معقدًا للضجيج أثناء الاستدلال، وغالبًا ما تفشل في التفوق على النماذج البسيطة عندما لا يتم ضبط البنى بدقة. علاوة على ذلك، في الإعدادات غير الخاضعة للإشراف تمامًا (الملوثة) حيث تحتوي بيانات التدريب على حالات شذوذ، تفشل طريقة DSM القياسية لأن هدف التناقص يعلم النموذج صراحةً تخصيص قيم منخفضة لمعيار الدرجة للملوثات.

المنهجية

يقترح المؤلفون K-DSM (مطابقة الدرجة بالتناقص الموجهة بالتفرطح)، وهي طريقة تستبدل مقياس الضجيج العالمي باستراتيجية قياس ضجيج لكل ميزة بشكل تكيفي مع البيانات.

1. الاضطراب لكل ميزة

بدلاً من تطبيق $\sigma$ عالمي، تستخدم K-DSM مصفوفة تغاير قطرية $\Sigma = \text{diag}(\sigma_1^2, \dots, \sigma_d^2)$. يتم تعديل دالة الهدف للتنبؤ بالضجيج ذو التباين الموحد $\varepsilon$ بدلاً من الدرجة الخام، مما يفصل مساهمة التدرج عن مقياس الضجيج:
$$\mathcal{L}_{\text{per-feature}}^{\text{DSM}}(\theta) = \frac{1}{2} \mathbb{E}_{x \sim p_{\text{data}}} \mathbb{E}_{\tilde{x} \sim \mathcal{N}(x, \Sigma)} \left[ \| s_\theta(\tilde{x}) + \Sigma^{-1/2}(\tilde{x} - x) \|_2^2 \right]$$
يضمن هذا أن الميزات ذات مقاييس الضجيج الأصغر لا تهيمن على دالة الخسارة.

2. قياس الضجيج الموجه بالتفرطح

الابتكار الجوهري هو تحديد $\sigma_j$ لكل ميزة $j$ بناءً على الشكل الإحصائي لتوزيعها الهامشي. يستخدم المؤلفون التفرطح (العزم المعياري الرابع) كوكيل لشدة الذيول.

• المنطق: التوزيعات ذات الذيول الخفيفة أو المسطحة (التفرطح المنخفض) تغطي بالفعل مجالها الفعال وتتطلب اضطرابات أصغر. أما التوزيعات ذات الذيول الثقيلة أو المركزة بشدة (التفرطح العالي) فتترك مساحة محيطة غير ممثلة وتتطلب اضطرابات أكبر لتعريض الشبكة لمناطق الكثافة المنخفضة.
• إعادة ترتيب المدرج التكراري: لضمان أن يعكس التفرطح وزن الذيول وليس عيوبًا مثل الالتواء أو ثنائية المنوال، يطبق المؤلفون إعادة ترتيب مدرج تكراري تناقصي متماثل قبل حساب التفرطح. تعمل هذه الخطوة على جعل التوزيع التجريبي متماثلًا حول نمطه المهيمن، مما يعزل معدل الاضمحلال من القمة إلى الذيول.
• قاعدة القياس: يتم حساب مقياس الضجيج عبر قاعدة تآلفية مشتقة من توسيع كورنيش-فيشر:
  $$\sigma_j = \sigma_{\text{base}} \cdot (1 + c \cdot (\kappa_j^* - 3))$$
  حيث $\kappa_j^*$ هو تفرطح الميزة $j$ المعاد ترتيبها، و$\sigma_{\text{base}}$ هو معلم فائق عالمي، و$c$ هو معامل الحساسية (تم ضبطه تجريبيًا عند 0.33). يتم قص النتيجة ضمن نطاق صالح $[\sigma_{\min}, \sigma_{\max}]$.

3. التبرير النظري

يثبت الورقة أنه بالنسبة للتوزيعات المتماثلة أحادية المنوال، فإن نصف قطر الذيل (المسافة التي يجب إزاحة نقطة التدريب إليها للوصول إلى احتمال ذيل معين) يزداد بصرامة مع التفرطح. وبناءً على ذلك، أُثبت أن القاعدة التآلفية في المعادلة (5) هي مقياس الضجيج الأمثل من الدرجة الأولى لتغطية الذيول، مما يوفر بديلًا مبدئيًا للضبط التجريبي.

4. التوسع غير الخاضع للإشراف (فلترة المعلم عبر المتوسط المتحرك الأسي)

لمعالجة حالة "الملوثة" حيث تحتوي بيانات التدريب على حالات شذوذ، قدم المؤلفون آلية فلترة خفيفة الوزن. يقومون بالحفاظ على متوسط متحرك أسي (EMA) لأوزان النموذج عبر الإنترنت ("المعلم"). أثناء التدريب، يتم تحديد العينات ذات معيار الدرجة العالي وفقًا للمعلم باعتبارها ملوثات محتملة واستبعادها من تحديث التدرج. هذا يمنع النموذج من تعلم تخصيص درجات شذوذ منخفضة للملوثات نفسها.

المساهمات الرئيسية

1. إعادة تقييم DSM أحادي المقياس: يوضح المؤلفون أن نموذج DSM أحادي المقياس، عندما يتم تجهيزه ببنية MLP حديثة (شبيهة بـ ResNet)، يتفوق بالفعل على طرق متعددة المقاييس (MSM) والنماذج العميقة الأخرى (DTE, SLAD) في الاختبارات الجدولية. وهذا يتحدى الافتراض السائد بأن التكييف متعدد المقاييس ضروري تمامًا لفعالية اكتشاف الشذوذ القائم على الدرجة.
2. K-DSM مع ضمانات نظرية: اقتراح قاعدة قياس ضجيج لكل ميزة بناءً على التفرطح الهامشي، مدعومة ببرهان على أن الخريطة التآلفية هي الحل الوحيد من الدرجة الأولى لتغطية الذيول.
3. أداء الحالة الفنية (SOTA): تحقق K-DSM أفضل متوسط AUC-PR بلغ (0.627) على ADBench (57 مجموعة بيانات) في الإعداد شبه الخاضع للإشراف، متفوقة على أفضل خط أساس سابق (0.594).
4. اكتشاف قوي غير خاضع للإشراف: من خلال الجمع بين K-DSM وإضافة فلتر المعلم (EMA-teacher)، تحقق الطريقة أداءً استثنائيًا (0.343 متوسط AUC-PR) في الإعداد غير الخاضع للإشراف (الملوث)، مما يستعيد الأداء المفقود بسبب تلوث البيانات بشكل كبير.
5. الكفاءة: على عكس النهج متعددة المقاييس التي تتطلب استدلالًا عند مستويات ضجيج مختلفة، تحافظ K-DSM على سرعة الاستدلال لممر أمامي واحد، مما يجعلها أسرع بكثير من MSM وDDAE.

النتائج التجريبية

• الإعداد شبه الخاضع للإشراف (بيانات تدريب نظيفة): في ADBench، تحقق K-DSM متوسط AUC-PR قدره 0.627، متجاوزة أقرب خط أساس (0.594) وخط أساس DSM أحادي المقياس (0.584). كما أن الطريقة قوية تجاه اختيار مقياس الضجيج الأساسي $\sigma_{\text{base}}$، بينما تعتبر DSM القياسية حساسة للغاية لهذا المعلم الفائق.
• الإعداد غير الخاضع للإشراف (بيانات تدريب ملوثة): تنهار كل من DSM القياسية وK-DSM في هذا الإعداد (تنخفض إلى ~0.188 AUC-PR) لأنهما تتعلمان اعتبار الشذوذ كبيانات طبيعية. تعمل إضافة EMA-teacher على استعادة الأداء، حيث ترفع K-DSM-EMA إلى 0.343 AUC-PR، وهو أفضل نتيجة بين 14 طريقة تمت مقارنتها.
• اختبارات الصور: في MVTec-AD وVisA (باستخدام تضمينات DINOv3)، تعد K-DSM تنافسية ولكنها لا تهيمن. يشير المؤلفون إلى أن هذا متوقع لأن الميزات البصرية العميقة القياسية تكون تقريبًا غاوسية لكل إحداثي، مما يجعل القياس القائم على التفرطح غير فعال (حيث $\kappa \approx 3$). وهذا يحدد نطاق صلاحية الطريقة: فهي تتفوق حيث يوجد تباين في الذيول الهامشية.
• سرعة الاستدلال: تعد K-DSM أسرع طريقة تعلم عميق عند الاستدلال، حيث تتطلب ممرًا أماميًا واحدًا فقط (~0.02–0.03 ثانية لكل مجموعة بيانات)، مقارنة بثوانٍ للطرق متعددة المقاييس أو القائمة على الانتشار.

الأهمية والادعاءات

تجادل الورقة بأن التحدي طويل الأمد المتمثل في اختيار مقياس الضجيج في DSM يمكن معالجته دون اللجوء إلى النماذج المكلفة حسابيًا متعددة المقاييس. ومن خلال تكييف مستوى الضجيج مع الهندسة الجوهرية لتوزيع كل ميزة، تحسن K-DSM تغطية المناطق ذات الكثافة المنخفضة مع الحفاظ على الحساسية في مناطق الكثافة العالية.

يدعي المؤلفون أن القياس المتكيف مع البيانات بعناية والموجه بالتفرطح، جنبًا إلى جنب مع وصفة تدريب قوية ضد التلوث، يقدم بديلًا عمليًا وقابلًا للتوسع ومتفوقًا (SOTA) للنهج الأكثر تعقيدًا أو متعددة المقاييس لاكتشاف الشذوذ في الجداول الواقعية. تقلل هذه الطريقة من الاعتماد على ضبط المعلمات الفائقة ومجموعات التحقق، مما يجعلها مناسبة للسيناريوهات التي يكون فيها الشذوذ غير معروف والبيانات نادرة أو ملوثة.

القيود المعترف بها:

• تتضاءل ميزة الطريقة عندما يتم توحيد الميزات لتصبح قريبة من التوزيع الغاوسي (مثل تضمينات الرؤية العميقة)، حيث ينهار قانون التفرطح إلى مقياس واحد.
• في الإعداد غير الخاضع للإشراف، يعتمد فلتر EMA-teacher على قطع مئوي ثابت، مما يفترض ضمنيًا أن معدل التلوث أقل من حد معين (مثل <20%). يتدهور الأداء إذا كانت معدلات التلوث مرتفعة للغاية.