🤖 machine learning

VAE with Hyperspherical Coordinates: Improving Anomaly Detection from Hypervolume-Compressed Latent Space

تقترح هذه الورقة مشفرًا تلقائيًا تباينيًا (VAE) يستخدم الإحداثيات الكروية الفائقة لضغط المتجهات الكامنة نحو اتجاه محدد، مما يخفف من مشكلة تمدد الحجم الفائق في الفضاءات عالية الأبعاد ويحسن بشكل كبير أداء كشف الشذوذ غير المشروط والمشروط على مجموعات البيانات المعقدة والبيانات المرجعية في العالم الحقيقي.

المؤلفون الأصليون: Alejandro Ascarate, Leo Lebrat, Rodrigo Santa Cruz, Clinton Fookes, Olivier Salvado

نُشر 2026-05-12

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Alejandro Ascarate, Leo Lebrat, Rodrigo Santa Cruz, Clinton Fookes, Olivier Salvado

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

المشكلة الكبرى: تأثير "الغرفة الفارغة"

تخيل أنك تحاول تعليم روبوت كيف يتعرف على شكل المجرة "الطبيعية"، أو كيف يبدو الشكل الطبيعي لصورة صخرة مريخية. للقيام بذلك، يستخدم الروبوت "المشفر التلقائي التبايني" (Variational Autoencoder - VAE). فكر في الـ VAE كآلة ضغط؛ فهو يأخذ صورة معقدة، ويقوم بضغطها إلى ملخص تجريدي صغير (متجه كامن - latent vector)، ثم يحاول إعادة فك الضغط عنها ليعيدها إلى صورة.

الهدف من اكتشاف الشذوذ (anomaly detection) بسيط: إذا رأى الروبوت صورة لا يستطيع ضغطها جيداً، أو إذا بدا الملخص الذي أنشأه غريباً مقارنة بملخصات الصور الطبيعية، فيجب عليه إطلاق إنذار: "هذا شذوذ!".

لكن هنا تكمن المشكلة: عندما تكون الملخصات ذات أبعاد عالية (وهو أمر ضروري للصور المعقدة)، فإنها تتصرف بشكل غريب.

تشرح الورقة ظاهرة رياضية تسمى "تركيز القياس" (Concentration of Measure). تخيل بالوناً ضخماً غير مرئي (كرة فائقة - hypersphere) يطفو في غرفة ذات آلاف الأبعاد.

مشكلة الـ VAE القياسي: إذا رميت سهاماً على هذا البالون عشوائياً (وهذا ما تفعله نماذج VAE القياسية)، فإن جميع السهام تقريباً ستهبط على "خط الاستواء" (النطاق الأوسط). أما "الأقطاب" (الأعلى والأسفل) فتكون فارغة تماماً تقريباً.
النتيجة: بسبب تكدس السهام عند خط الاستواء، توجد مساحات فارغة هائلة في كل مكان آخر، مما يجعل من المستحيل التمييز بين السهم "الطبيعي" والسهم "الغريب". جميعها تبدو وكأنها تسبح في محيط شاسع وفارغ عند خط الاستواء. يصاب الروبوت بالارتباك لأن البيانات "الطبيعية" منتشرة للغاية.

الحل: استراتيجية "الجزيرة"

يقترح المؤلفون حلاً ذكياً: الإحداثيات الكروية الفائقة (Hyperspherical Coordinates).

بدلاً من ترك الروبوت يصف الصورة باستخدام إحداثيات X و Y و Z القياسية (الإحداثيات الكارتيزية)، فإنهم يجبرونه على وصف الصورة باستخدام الزوايا ونصف القطر (مثل خطوط الطول والعرض على الكرة الأرضية).

تشبيه البوصلة:
تخيل أن الـ VAE القياسي يشبه شخصاً يحاول السير إلى نقطة محددة في حقل ضبابي واسع ومسطح. يمكنه التحرك شمالاً، جنوباً، شرقاً، أو غرباً. للوصول إلى نقطة معينة، عليه تعديل كل اتجاه في آن واحد. الأمر فوضوي، ويميل الناس في النهاية إلى التسكع في منتصف الحقل (خط الاستواء).

أما الطريقة الجديدة (Hyperspherical VAE)، فهي تشبه إعطاء ذلك الشخص بوصلة وخريطة للكرة الأرضية.

يخبر المؤلفون الروبوت: "لا تكتفِ بالتسكع عند خط الاستواء. نريد منك أن تسير باتجاه القطب الشمالي".
من خلال تغيير الرياضيات (دالة الخسارة - loss function)، يجبرون جميع ملخصات البيانات "الطبية" على التجمع بإحكام بالقرب من القطب الشمالي، لتشكل "جزيرة" كثيفة ومتماسكة.
ولأن القطب الشمالي هو نقطة صغيرة ومحددة جداً، فإن هذه "الجزيرة" تكون مزدحمة للغاية.

كيف يتم اكتشاف الشذوذ؟

الآن، تصبح عملية الاكتشاف أسهل بكثير:

الإعداد: يتدرب الروبوت على البيانات "الطبيعية". تتراكم جميع الملخصات الطبيعية في جزيرة ضيقة وكثيفة بالقرب من القطب الشمالي.
الاختبار: عندما تأتي صورة جديدة:
- إذا كانت طبيعية، فسيهبط ملخصها مباشرة فوق الجزيرة. ستكون قريبة من جميع الملخصات الطبيعية الأخرى.
- إذا كانت شذوذاً (مجرة غريبة أو صخرة مكسورة)، فلن يتمكن ملخصها من الاستقرار على الجزيرة، بل سيتم دفعه بعيداً إلى المساحة الفارغة من "المحيط" (خط الاستواء أو نصف الكرة الجنوبي).
الدرجة (Score): يقوم الروبوت ببساطة بقياس المسافة: "كم تبعد هذه النقطة الجديدة عن جزيرتنا المزدحمة؟". إذا كانت بعيدة، فهي حالة شذوذ.

تزعم الورقة أن هذه الطريقة أفضل بكثير من الطريقة القديمة لأن "الجزيرة" كثيفة جداً و"المحيط" فارغ جداً، مما يجعل قياس المسافة واضحاً للغاية.

ما الذي اختبروه؟

اختبر المؤلفون طريقتهم في سيناريوهين مختلفين تماماً من الواقع:

مركبة مارس (Mars Rover): قاموا بتغذية الروبوت بصور من مركبة مارس. أرادوا منه رصد الصخور أو التضاريس غير العادية التي لا تشبه التضاريس المريخية "الطبيعية" التي رآها من قبل.
مجرة زو (Galaxy Zoo): قاموا بتغذيته بصور للمجرات. أرادوا منه رصد المجرات "الغريبة" التي تبدو مختلفة عن الأشكال الحلزونية أو الإهليلجية النموذجية.

كما اختبروا الطريقة على معايير رؤية حاسوبية قياسية (مثل CIFAR-10 و ImageNet)، حيث حاولوا رصد الصور التي لا تنتمي إلى الفئات الرئيسية.

النتائج

تزعم الورقة أن طريقتهم تعمل بشكل أفضل من الطرق الموجودة بطريقتين رئيسيتين:

الاكتشاف غير المشروط (Unconditional Detection): العثور على الأشياء الغريبة دون معرفة الفئات الفرعية "الطبيعية" بدقة (على سبيل المثال، معرفة أن "هذه مجرة" فقط، دون معرفة ما إذا كانت حلزونية أم إهليلجية).
الاكتشاف المشروط (Conditional Detection): العثور على الأشياء الغريبة عندما تعرف بالفعل الفئات الفرعية (على سبيل المثال، "هذا كلب، لكن شكله يشبه القط").

في معظم الاختبارات، وجدت طريقة "الجزيرة" (ضغط البيانات نحو القطب) حالات شذوذ أكثر وارتكبت أخطاء أقل مقارنة بالطرق القياسية التي ظلت عالقة في التسكع عند خط الاستواء الفارغ.

ملاحظة حول السرعة

تعترف الورقة بوجود تكلفة بسيطة. إن إجراء العمليات الحسابية لتحويل "الإحداثيات المسطحة" إلى "إحداثيات الكرة الأرضية" يتطلب قوة حوسبة أكبر قليلاً. هذا يجعل عملية التدريب أبطأ بنسبة 32% تقريباً من الطريقة القياسية. ومع ذلك، يرى المؤلفون أن التحسن الهائل في الدقة يستحق هذا الوقت الإضافي.

الملخص

تقول الورقة: "النماذج الذكية القياسية تضيع في الفضاء عالي الأبعاد لأن كل شيء يتكدس عند 'خط الاستواء'. لقد غيرنا الرياضيات لإجبار جميع البيانات 'الطبيعية' على التجمع معاً عند 'القطب الشمالي'. هذا يخلق جزيرة ضيقة وسهلة التحديد. أي شيء لا يتناسب مع الجزيرة يكون بوضوح حالة شذوذ، مما يجعل الذكاء الاصطناعي أفضل بكثير في رصد الأشياء الغريبة".

ملخص تقني: المشفر التلقائي المتغير (VAE) باستخدام الإحداثيات الفائقة الكروية للكشف عن الشذوذ

بيان المشكلة
تُستخدم المشفرات التلقائية المتغيرة (VAEs) على نطاق واسل في الكشف عن الشذوذ (AD) من خلال ترميز البيانات في فضاء كامن ذي أبعاد منخفضة. الافتراض القياسي هو أن الـ VAE المدرب سينجح في إعادة بناء البيانات التي تتبع التوزيع الأصلي (ID) بشكل جيد، لكنه سيفشل في التعامل مع البيانات خارج التوزيع (OOD) أو البيانات الشاذة. ومع ذلك، في الفضاءات الكامنة عالية الأبعاد (HD)، تعاني الـ VAEs القياسية من ظاهرة "تركيز القياس". فعندما يتم ترميز العينات في توزيع غاوسي عالي الأبعاد، فإنها تميل إلى التركز عند "خطوط الاستواء" للكرة الفائقة بدلاً من التمركز بالقرب من الأصل أو اتجاه محدد. يؤدي هذا إلى وجود حجم فائق شاسع ومتناثر حيث تتوزع البيانات الطبيعية بشكل موحد عبر أحزمة استوائية. وبناءً على ذلك، يصبح التمييز بين الشذوذ أمراً صعباً لأن المسافة بين العينات الطبيعية والعينات الشاذة لا تُظهر التركيز المتوقع، كما أن "أذيال" التوزيع تكون قصيرة، مما يجعل الفصل عبر مقاييس المسافة القياسية غير فعال.

المنهجية
يقترح المؤلفون صياغة مبتكرة للفضاء الكامن لـ VAE باستخدام الإحداثيات الفائقة الكروية للتخفيف من مشكلات التشتت والحجم المتأصلة في الفضاءات الكارتيزية عالية الأبعاد.

تحويل الإحداثيات: بدلاً من نمذجة التوزيع اللاحق (posterior) في الإحداثيات الكارتيزية ( $\mu, \sigma$ )، تقوم هذه الطريقة بتحويلها إلى إحداثيات فائقة كروية تتكون من نصف قطر $r$ و $n-1$ من الإحداثيات الزاوية $\phi_k$ . يتم تنفيذ التحويل عبر نص برمجي (script) بلغة PyTorch قابل للتفاضل ومتجه (vectorized) للحفاظ على الكفاءة.
ضغط الحجم الفائق: يكمن الابتكار الجوهري في إعادة صياغة حد خسارة "تباعد كولباك - ليبلر" (KLD).
- في الـ VAE القياسي، يكون التوزيع المسبق (prior) هو توزيع غاوسي قياسي، مما يشجع ضمناً العينات على الاستقرار عند خطوط استواء الكرة بسبب هندسة الأحجام عالية الأبعاد.
- تضع الطريقة المقترحة توزيعاً مسبقاً محدداً للإحداثيات الزاوية ( $\phi_k$ ) بحيث يتم دفع متوسط جيب تمام هذه الزوايا نحو 1 ( $a_{\mu,k} = 1$ ). هذا يجبر العينات الكامنة على الابتعاد عن خطوط الاستواء والتحرك نحو اتجاه "القطب الشمالي" المحدد على الكرة الفائقة.
- من خلال ضغط العينات الكامنة نحو اتجاه واحد، تخلق هذه الطريقة "جزيرة" كثيفة ومدمجة من البيانات الطبيعية في منطقة ذات حجم فائق منخفض بشكل كبير.
دالة الخسارة: تجمع الخسارة الإجمالية بين خطأ إعادة البناء (MSE) وحد KLD معدل يتم حسابه في الإحداثيات الفائقة الكروية. يتم تفكيك حد KLD إلى خسائر للإحداثيات الزاوية ( $\phi_k$ ) والإحداثي الشعاعي ( $r$ ). تشجع الخسارة الزاوية العينات على الاصطفاف مع الاتجاه المستهدف، بينما تضمن الخسارة الشعاعية وقوع العينات على سطح فائق كروي محدد (نصف قطر $\sqrt{n}$ ).
درجة الشذوذ (Anomaly Scoring): بعد التدريب على البيانات الطبيعية، يتم اكتشاف الشذوذ عن طريق ترميز عينة استعلام وقياس مسافتها عن تجمع المتوسطات الكامنة. يستخدم المؤلفون مقياس مسافة أقرب $k$ من الجيران (k-NN) بسيط (مع $k=3$ ) على المتوسطات الكامنة. ولأن البيانات الطبيعية تُضغط في جزيرة كثيفة، فإن المسافة إلى هذه الجزيرة تعمل كدرجة شذوذ قوية.

المساهمات الرئيسية

الصياغة الفائقة الكروية: يقدم البحث طريقة لتحويل المتغيرات الكامنة لـ VAE من الإحداثيات الكارتيزية إلى الإحداثيات الفائقة الكروية، مما يسمح بفك الارتباط بين الأبعاد ويسمح بضغط الحجم المستهدف.
آلية ضغط الحجم: بخلاف الطرق التي تضغط نصف القطر فقط أو زاوية واحدة فقط (على غرار توزيعات فون ميزس-فيشر)، تقوم هذه الطريقة بضغط جميع الإحداثيات الزاوية الفائقة الكروية. وهذا يسمح باختزال أسرع بكثير للحجم الفائق الكامن، مما يخلق تمثيلاً أكثر كثافة للبيانات الطبيعية.
إطار عمل موحد: هذه الطريقة قابلة للتطبيق في كل من سيناريوهات الـ OOD غير المشروطة بالكامل (عند عدم توفر تسميات للفئات الفرعية) وسيناريوهات الـ OOD المشروطة (عند توفر تسميات للفئات الفرعية). في الحالة المشروطة، يتم إعادة توجيه نظام الإحداثيات لكل فئة لتشكيل عناقيد مدمجة لكل فئة ID محددة.
مقارنة مع vMF: يوضح المؤلفون أن طريقتهم تستوعب النهج القائم على توزيع فون ميزس-فيشر (vMF) كحالة خاصة (عبر ضغط زاوية واحدة فقط)، ويظهرون أن ضغط جميع الزوايا يعطي نتائج متفوقة.

النتائج التجريبية
تم تقييم الطريقة على كل من مجموعات البيانات الواقعية المعقدة والمعايير القياسية:

الـ OOD غير المشروط بالكامل:
- Mars Rover Mastcam: اكتشاف الميزات التضاريسية غير المعتادة. حققت الطريقة المقترحة (Comp.VAE + k-NN) درجة AUROC بلغت 0.764، متفوقة على الـ VAEs القياسية، والـ Autoencoders، ومتغير الـ vMF.
- Galaxy Zoo: اكتشاف المجرات غير المعتادة. حققت الطريقة AUROC قدره 0.789، متفوقة مرة أخرى على الخطوط المرجعية الحالية.
الـ OOD المشروط:
- CIFAR-10 مقابل CIFAR-100 (Near-OOD): حققت الطريقة انخفاضاً كبيراً في معدل الإيجابيات الكاذبة عند معدل 95% للإيجابيات الحقيقية (FPR95) مقارنة بالطرق الحديثة، حيث حققت FPR95 قدره 23.2 (مقابل 50.1 لـ SNN و 58.3 لـ KNN).
- Imagenette مقابل فئات ImageNet القريبة: في بيئة Near-OOD صعبة، حققت الطة أفضل أداء في كل من FPR95 (78.8) و AUROC (68.3) بين جميع التكوينات المختبرة، متفوقة على المتغير القائم على vMF.
التصور البصري: تؤكد التصورات ثلاثية الأبعاد للفضاء الكامن أن بينما توزع الـ VAEs القياسية البيانات بشكل موحد عبر الكرة (خطوط الاستواء)، تنجح الطريقة المقترحة في ضغط البيانات في جزيرة كثيفة ومدمجة، مما يجعل الفصل بين الفئات واكتشاف الشذوذ أكثر سهولة ووضوحاً.

الأهمية والادعاءات
يدعي البحث أن القيد الأساسي للـ VAEs القياسية في اكتشاف الشذوذ هو التشتت الهندسي للفضاءات الكامنة عالية الأبعاد، حيث تشغل البيانات الطبيعية المناطق الاستوائية الشاسعة للكرة الفائقة. ومن خلال إعادة صياغة الفضاء الكامن في إحداثيات فائقة كروية وضغط الحجم بنشاط نحو اتجاه معين، أثبت المؤلفون ما يلي:

من الممكن إنشاء "جزيرة كثيفة" من البيانات الطبيعية، مما يجعل الفصل بين الشذوذ عبر مقاييس المسافة البسيطة (k-NN) أكثر فعالية بشكل كبير.
هذا النهج يحسن الأداء في كل من مهام اكتشاف OOD غير المشروطة والمشروطة دون الحاجة إلى تعلم تبايني (contrastive learning) معقد أو تغييرات هيكلية تتجاوز تحويل الإحداثيات.
توفر الطريقة حلاً نظرياً وعملياً لـ "لعنة الأبعاد" في النماذج التوليدية لاكتشاف الشذوذ، حيث تقدم نتائج رائدة في مقاييس FPR95 في عدة اختبارات مع الحفاظ على تنفيذ بسيط نسبياً يعتمد على مكونات VAE القياسية.

يشير المؤلفون إلى أنه بينما يضيف تحويل الإحداثيات عبئاً حسابياً (أبطأ بنسبة 32% تقريباً لكل حقبة لـ 200 بُعد)، فإن المكاسب في أداء الكشف تبرر هذه التكلفة. ويخلصون إلى أن التحكم في تشتت وتليل الحجم الفائق للمنفذ الكامن عالي الأبعاد هو عامل حاسم لتحسين ليس فقط اكتشاف الشذوذ، بل أيضاً المهام الأخرى مثل التصنيف والتوليد.