🤖 machine learning

Masked Diffusion Modeling for Anomaly Detection

تقدم هذه الورقة MaskDiff-AD، وهو نموذج انتشار مقنع أحادي الاتجاه (forward-only) يكتشف الشذوذ بفعالية في البيانات الفئوية، والمختلطة، والتسلسلية المنفصلة من خلال تقييم صعوبة إعادة البناء دون الحاجة إلى أخذ عينات عكسية للزمن، محققاً أداءً هو الأفضل حالياً عبر مختلف معايير البيانات الجدولية والنصية.

المؤلفون الأصليون: Lixing Zhang, Yuchen Liang, Liyan Xie

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Lixing Zhang, Yuchen Liang, Liyan Xie

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث "Masked Diffusion Modeling for Anomaly Detection" (نمذجة الانتشار المقنع لكشف الشذوذ - MaskDiff-AD)، مقسمة إلى مفاهيم بسيطة باستخدام تشبيهات إبداعية.

الصورة الكبيرة: البحث عن "العنصر الغريب"

تخيل أنك حارس أمن في نادٍ حصري للغاية. لديك قائمة بـ "الأعضاء الطبيعيين" (بيانات التدريب). مهمتك هي رصد أي شخص لا ينتمي للمكان (الشذوذ/الخلل).

عادةً ما يكون هذا سهلاً في أشياء مثل صور القطط أو الأرقام في جداول البيانات. ولكن ماذا لو كانت البيانات غريبة؟ ماذا لو كانت مزيجاً من:

الفئات (Categories): مثل "أحمر"، "أزرق"، أو "أخضر".
التسلسلات المنفصلة (Discrete sequences): مثل جملة مكونة من كلمات أو شريط DNA مكون من أحرف (A, C, T, G).
الأنواع المختلطة (Mixed types): نموذج يحتوي على أرقام وفئات نصية معاً.

حراس الأمن التقليديون (الخوارزميات القديمة) يعانون هنا لأنهم معتادون على قياس المسافة على خريطة سلسة (مثل المسافة بين نقطتين على رسم بياني). لكن لا يمكنك قياس "المسافة" بين كلمة "تفاحة" والرقم "5" على خريطة سلسة.

MaskDiff-AD هو نوع جديد من حراس الأمن المصمم خصيصاً لهذه البيانات الفوضوية والمختلطة.

الفكرة الجوهرية: لعبة "الأحجية مع عصبة العين"

تقترح الورقة طريقة ذكية لاختبار ما إذا كان الشخص الجديد (عينة الاختبار) ينتمي للنادي أم لا. بدلاً من مجرد النظر إليه، نلعب لعبة "إعادة البناء مع عصبة العين".

1. مرحلة التدريب (تعلم قواعد النادي)

أولاً، ينظر النظام فقط إلى "الأعضاء الطبيعيين". إنه يتعلم كيف تتناسب سماتهم عادةً مع بعضها البعض.

التشبيه: تخيل أن لديك ألف صورة لقطط طبيعية. ستتعلم أنه إذا رأيت "شارب"، فمن المفترض وجود "أنف" بالقرب منه. إذا رأيت "فراءً"، فمن المفترض وجود "أذنين". أنت تتعلم القواعد الخفية لكيفية اتصال هذه القطع ببعضها.

2. مرحلة الاختبار (لعبة القناع)

عندما يدخل شخص جديد، لا يكتفي النظام بالنظر إليه، بل يلعب لعبة:

القناع (The Mask): يقوم النظام بتغطية (إخفاء) بعض أجزاء وصف الشخص بشكل عشوائي. رب maybe يخفي "لون العين" أو "الطعام المفضل".
التخمين (The Guess): يحاول النظام تخمين ما تم إخفاؤه باستخدام الأجزاء المرئية المتبقية ومعرفته بالأشخاص "الطبيعيين".
النتيجة (The Score):
- الشخص الطبيعي: إذا كان الشخص طبيعياً، فمن السهل تخمين أجزائه المخفية لأنها تتبع القواعد التي تعلمها النظام. (مثلاً: "أوه، لديه شارب، إذاً من المحتمل أن يكون لديه أنف. تخمين سهل!")
- الشذوذ (المحتال): إذا كان الشخص غريباً، فستكون أجزاؤه المخفية صعبة التخمين. فالقرائن المرئية لا تتطابق مع الأجزاء المخفية لأنها تكسر القواعد. (مثلاً: "لديه شارب، لكن النظام يعتقد أنه يجب أن يكون لديه خرطوم. أمر مربك!")

النتيجة: يمنح النظام "درجة المفاجأة".

درجة منخفضة: "لم أتفاجأ. هذا يبدو طبيعياً."
درجة عالية: "لقملتُ جداً! لم أستطع تخمين الأجزاء المخفية. هذا الشخص يمثل حالة شذوذ."

لماذا هذا أفضل من الطرق القديمة؟

تذكر الورقة طريقة سابقة تسمى "تقدير وقت الانتشار" (Diffusion Time Estimation - DTE).

الطريقة القديمة (DTE): تخيل أنك تحاول معرفة كم من الوقت وقف الشخص تحت المطر لتخمين ما إذا كان محتالاً. هذه الطريقة تعمل بشكل رائع مع الأشياء المستمرة (مثل قطرات الماء)، لكنها تنهار عندما تتعامل مع فئات منفصلة (مثل "أحمر" مقابل "أزرق"). إنها تشبه محاولة قياس "الوقت" الذي تستغرقه كلمة لتتحول إلى كلمة أخرى؛ الرياضيات تصبح معقدة وتتوقف عن العمل.
الطريقة الجديدة (MaskDiff-AD): بدلاً من قياس "الوقت"، نحن نقيس صعوبة التخمين. إنها تتخطى الرياضيات المعقدة لـ "الوقت" وتذهب مباشرة إلى الإجابة: "ما مدى صعوبة ملء الفراغات؟"

نسختان من الحارس

بنى المؤلفون نسختين من هذا النظام:

النسخة البارامترية (المتعلم العميق): تستخدم شبكة عصبية معقدة (دماغ ذكاء اصطناعي متطور) لتعلم القواعد. وهي ممتازة لمجموعات البيانات الضخمة والأنماط المعقدة.
النسخة غير البارامترية (الإحصائي): لا تقوم بتدريب دماغ. بدلاً من ذلك، تنظر فقط إلى بيانات التدريب وتقول: "مهلاً، عندما رأينا هذا الجزء المرئي في الماضي، كنا نرى عادةً ذلك الجزء المخفي". إنها أبسط وتعمل بشكل جيد مع مجموعات البيانات الأصغر والأكثر وضوحاً.

ماذا أظهرت التجارب؟

اختبر الفريق نظامهم على 18 مجموعة بيانات مختلفة، بما في ذلك:

البيانات الجدولية (Tabular Data): جداول بيانات مختلطة تحتوي على فئات وأرقام (مثل مطالبات التأمين أو بيانات التعداد السكاني).
البيانات النصية (Text Data): جمل ورسائل بريد إلكتروني (مثل رصد الرسائل المزعجة/Spam).

النتائج:

البيانات الجدولية: كان MaskDiff-AD هو البطل. لقد احتل المركز الأول إجمالاً، متفوقاً على 12 طريقة شهيرة أخرى. كان بارعاً بشكل خاص في رصد "العناصر الغريبة" في البيانات الفوضوية والمختلطة الأنواع.
البيانات النصية: حقق أداءً جيداً جداً في النصوص القصيرة (مثل الرسائل النصية المزعجة أو البريد الإلكتروني)، متفوقاً على العديد من أدوات كشف النصوص الأخرى. ومع ذلك، بالنسبة للنصوص الطويلة والمعقدة (مثل المراجعات الطويلة)، لم يكن قوياً تماماً مثل الأدوات المتخصصة الرائدة، مما يشير إلى وجود مجال للتحسين هناك.

الملخص

MaskDiff-AD هو أداة جديدة للعثور على الشذوذ في البيانات التي ليست مجرد أرقام. يعمل من خلال لعب لعبة "ملء الفراغات". إذا استطاع النظام تخمين القطع المفقودة بسهولة بناءً على ما يعرفه عن البيانات "الطبيعية"، فإن العينة آمنة. أما إذا ارتبك النظام ولم يستطع تخمينها، فيتم تصنيف العينة كحالة شذوذ. إنها طريقة ذكية وفعالة للإمساك بالعناصر الغريبة وسط حشد من البيانات المختلطة.

ملخص تقني: نمذجة الانتشار المقنع لكشف الشذوذ (MaskDiff-AD)

بيان المشكلة

يهدف كشف الشذوذ إلى تحديد العينات التي تنحرف بشكل كبير عن التوزيع الأصلي للبيانات المولدة. وبينما تُعد هذه العملية بالغة الأهمية في التطبيقات الحساسة للسلامة مثل الرعاية الصحية، والتمويل، والأمن السيبراني، تواجه الطرق الحالية قيودًا كبيرة عند تطبيقها على البيانات الفئوية، والبيانات المختلطة النوع، والبيانات المتسلسلة المنفصلة. تعاني الطرق الكلاسيكية التي تعتمد على الهندسة الإقليدية أو الكثافات المستمرة من صعوبات مع أنواع البيانات هذه. علاوة على ذلك، بينما أظهرت نماذج الانتشار (Diffusion Models) إمكانات واعدة في نمذجة التوزيعات المعقدة، فإن معظم الأبحاث تركز على المجالات المستمرة (مثل الصور) أو كفاءة أخذ العينات التوليدية.

تنشأ مشكلة محددة عند محاولة تكييف تقدير وقت الانتشار (DTE) — وهو إطار عمل ناجح لكشف الشذوذ في البيانات المستمرة — مع البيانات المنفصلة. يقوم إطار DTE بتقدير التوزيع اللاحق لزمن الانتشار لاستخلاص درجة الشذوذ. ومع ذلك، كما هو موضح في هذه الورقة، فإن آلية القناع الامتصاصي (absorbing masking) المتأصلة في نماذج الانتشار المقنع (MDM) تؤدي إلى انهيار التوزيع اللاحق من نمط DTE في الفضاءات المنفصلة. وتحديدًا، بالنسبة للعينات الفئوية النظيفة، ينهار التوزيع اللاحق إلى قيم متطابقة أو يعتمد فقط على نمط القناع بدلاً من توزيع البيانات الأساسي، مما يجعله غير تمييزي.

المنهجية: MaskDiff-AD

يقترح المؤلفون MaskDiff-AD، وهو إطار عمل لكشف الشذوذ يعتمد على عملية انتشار أمامية فقط (forward-only) باستخدام نماذج الانتشار المقنع المدربة حصريًا على البيانات الطبيعية (Nominal Data). وبدلاً من تقدير زمن الانتشار، يستفيد MaskDiff-AD من صعوبة إعادة بناء الإحداثيات المقنعة من السياق المرئي.

الآلية الجوهرية

التدريب: يتم تدريب نموذج انتشار مقنع $p_\theta$ على البيانات الطبيعية $q_0$ باستخدام هدف إعادة بناء مقنع قياسي. يتعلم النموذج التنبؤ بالقيم الفئوية النظيفة من الملاحظات المقنعة جزئيًا.
قناع الاختبار (Probe Masking): بالنظر إلى عينة اختبار $x$ ، تولد الطريقة "رؤى استقصائية" متعددة عن طريق قناع الإحداثيات عشوائيًا عند مستويات مختلفة $\tau_1, \dots, \tau_L$ . هذا يحاكي عملية الانتشار الأمامي.
درجة إعادة البناء: لكل رؤية مقنعة، يحاول النموذج المدرب إعادة بناء القيم المقنعة. تُعرف درجة الشذوذ بأنها متوسط دهشة إعادة البناء (اللوغاريتم السالب للاحتمالية) للقيم المقنعة الحقيقية بناءً على السياق المرئي.
- العينات الطبيعية: تكون الإحداثيات متسقة متبادليًا مع التوزيع الطبيعي المتعلم، مما يجعل التنبؤ بها سهلاً من السياق (دهشة منخفضة).
- العينات الشاذة: تنتهك الإحداثيات بنية التبعية المتعلمة، مما يجعل إعادة البناء صعبة (دهشة عالية).
التجميع: يقوم الدرجة النهائية $S_{rec}(x)$ بمتوسط صعوبات إعادة البناء عبر مستويات استقصاء متعددة وعدة رؤى قناع مستقلة لضمان المتانة.

المتغيرات

تقدم الورقة تنفيذين:

MaskDiff-AD البارامتري: يستخدم شبكة عصبية (مثل Transformer أو MLP) مدربة لتقريب التوزيع الشرطي $p_\theta(\cdot | x_{masked})$ .
MaskDiff-AD غير البارامتري: يقدر الاحتمالات الشرطية مباشرة من مجموعة التدريب باستخدام توزيع تجريبي مُنعّم باستخدام النواة (kernel-smoothed) بناءً على مسافة هامينج (Hamming distance) في الإحداثيات المرئية. هذا يتجنب تدريب النموذج ولكنه يتسبب في تكاليف استدلال أعلى في مجموعات البيانات الكبيرة.

الضمانات النظرية

يقدم المؤلفون تحليلًا نظريًا يحدد أخطاء النوع الأول (النتائج الإيجابية الكاذبة) والنوع الثاني (النتيات السلبية الكاذبة). ويُظهرون أنه في ظل وجود نموذج إعادة بناء محدد جيدًا، فإن درجة الشذوذ تفصل بين التوزيعات الطبيعية والشاذة. وتكون الفجوة بين الدرجات المتوقعة للبيانات الطبيعية والشاذة مدفوعة بتباعد KL بين التوزيع الشرطي الحقيقي وتوزيع إعادة البناء الخاص بالنموذ_ل.

المساهمات الرئيسية

الصياغة: تصيغ الورقة كشف الشذوذ في فضاءات الحالة المنفصلة باستخدام نماذج الانتشار المقنع، وتثبت بصرامة سبب فشل التوسع المباشر لإطار عمل DTE في هذا السياق بسبب الطبيعة الامتصاصية للقناع المنفصل.
الخوارزمية: تقدم MaskDiff-AD، وهي طريقة فعالة حاسوبيًا وتعمل في اتجاه أمامي فقط، تولد درجات حساسة للمحتوى دون الحاجة إلى عمليات أخذ عينات عكسية مكلفة أو استكمال (imputation) تكراري.
المتغيرات والنظرية: طورت الورقة كلاً من المتغيرات البارامترية وغير البارامترية وقدمت ضمانات نظرية فيما يتعلق بأداء الكشف (أخطاء النوع I/II) تحت عتبات ثابتة.
التحقق التجريبي: أُجريت تجارب واسعة النطاق على 18 مجموعة بيانات من العالم الحقيقي، بما في ذلك 14 مجموعة بيانات جدولية فئوية/مختلطة النوع (من ADBench و UADAD) و4 مجموعات بيانات لكشف شذوذ النصوص (من NLP-ADBench).

النتائج التجريبية

البيانات الجدولية: حقق MaskDiff-AD أفضل متوسط رتبة عامة (3.93) عبر 12 طريقة أساسية للبيانات الجدولية، بما في ذلك الأساليب الكلاسيكية (Isolation Forest, COPOD, ECOD) والطرق الحديثة للتعلم العميق (متغيرات DTE, MCM, DRL). تفوق المتغير البارامتري على جميع الأساليب الأساسية، بينما سجل المتغير غير البارامتري رتبة عالية أيضًا. ومن الملاحظ أنه تفوق على DTE-Gaussian، الذي يتطلب تضمين البيانات المنفصلة في فضاء مستمر، مما يسلط الضضوء على ميزة العمل مباشرة في الفضاء المنفصل.
بيانات النصوص: أدت الطريقة أداءً استثنائيًا في تسلسلات النصوص القصيرة (Email Spam, SMS Spam)، متفوقة على الكواشف كاملة المسار (DATE) والأساليب الأساسية القائمة على التضمين (embeddings). ومع ذلك، في التسلسلات الأطول أو الأكثر ثراءً دلاليًا (AGNews, YelpReview)، كانت أقل تنافسية من الأساليب الأساسية القوية القائمة على التضمين، مما يشير إلى الحاجة إلى بنيات تسلسل أكثر تخصصًا للنصوص الطويلة.
الكفاءة: يوفر المتغير البارامتري توازنًا ملائمًا بين تكلفة التدريب وسرعة الاستدلال، متفوقًا بشكل كبير على الأساليب الأساسية العميقة مثل GOAD و ICL في إجمالي وقت التشغيل في مجموعات البيانات الكبيرة.

الأهمية والادعاءات

تدعي الورقة أن MaskDiff-AD يوفر حلاً طبيعيًا وفعالًا لكشف الشذوذ في المجالات المنفصلة من خلال الاستفادة من صعوبة إعادة بناء نماذج الانتشار المقنع. وتكمن أهميته في:

النمذجة المباشرة للمجال المنفصل: يتجنب عيوب فرض البيانات المنفصلة في تضمينات مستمرة، مما يحافظ على الخصائص الهيكلية الأصلية وتبعيات الميزات البينية.
الكفاءة الحسابية: من خلال استخدام آلية تسجيل تعمل في الاتجاه الأمامي فقط، يتجنب التكلفة الحسابية العالية المرتبطة بأخذ العينات في الوقت العكسي في النماذج التوليدية.
المتانة: تقلل استراتيجية متوسط الاستقصاء المتعدد من الحساسية لمستويات القناع المحددة أو التباينات العشوائية.

يقر المؤلفون بتواضع بوجود بعض القيود، مشيرين إلى أن الأداء على النصوص الطويلة حاليًا ليس مثاليًا، وأن فعالية الطريقة تعتمد على جودة الشروط المقنعة المتعلمة واختيار مستويات الاستقصاء. ويُقترح كعمل مستقبلي تضم اختيار استقصاء تكيفي وبنيات مصممة للأجسام المنفصلة المهيكلة مثل الرسوم البيانية (graphs) والجزيئات.