📊 statistics

Tippett-minimum Fusion of Representation-space Diffusion Models for Multi-Encoder Out-of-Distribution Detection

تقدم الورقة البحثية EncMin2L، وهو إطار عمل فعال من حيث المعلمات ومستقل عن المشفر، يدمج نماذج الانتشار في فضاء التمثيل عبر بوابة حد أدنى إحصائية ثنائية المستوى لتحقيق كشف قوي للبيانات خارج التوزيع عبر أنواع مختلفة من الإزاحة دون الحاجة إلى تسميات البيانات خارج التوزيع.

المؤلفون الأصليون: Neelkamal Bhuyan

نُشر 2026-05-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Neelkamal Bhuyan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك حارس أمن في متحف. مهمتك هي رصد اللوحات المزيفة (الصور خارج التوزيع، أو OOD) بين التحف الفنية الحقيقية (الصور داخل التوزيع، أو ID).

المشكلة هي أن "المزيفات" تأتي بأنواع وأشكال مختلفة. فبعضها مرسوم بأسلوب مختلف تماماً (مثل قطعة تجريدية حديثة في معرض كلاسيكي). وبعضها يمتلك الموضوع الصحيح ولكن بنسيج خاطئ (مثل صورة قطة تبدو وكأنها لوحة زيتية). وهناك أيضاً نسخ مشوشة أو مليئة بالضجيج من الأعمال الفنية الحقيقية.

إذا اعتمدت على خبير واحد فقط لفحص كل لوحة، فسوف تفوتك بعض المزيفات.

الخبير الذي يعرف تاريخ الفن قد يكتشف عدم التوافق في الأسلوب، لكنه قد يغفل عن الصورة المشوشة.
الخبير الذي يعرف النسيج قد يكتشف الصورة المشوشة، لكنه قد يظن أن اختلاف الأسلوب مجرد توجه فني جديد.
الخبير الذي يعرف الدلالات (ما هو الشيء المصور) قد يكتشف حيواناً غريباً، لكنه قد يغفل عن صورة تالفة.

يقدم هذا البحث نظام أمن جديد يسمى EncMin2L. وبدلاً من توظيف خبير خارق واحد، يقوم بتوظيف فريق من ثلاثة متخصصين مختلفين ويستخدم قاعدة ذكية لدمج آرائهم.

المتخصصون الثلاثة (المشفرات)

يستخدم النظام ثلاثة "مشفرات" (Encoders) مدربة مسبقاً، ينظر كل منها إلى الصور بطريقة مختلفة:

CLIP: خبير "الصورة الكبيرة". يفهم الجو العام ولغة الصورة. هو بارع في اكتشاف ما إذا كانت الصورة تنتمي لعالم مختلف تماماً (مثل صورة شارع في معرض طبيعة)، لكن من السهل خداعه بالصور المشوشة أو المليئة بالضجيج.
DINOv2: خبير "التفاصيل الدقيقة". ينظر إلى الأجزاء الصغيرة ويفهم بدقة ماهية الشيء. هو مذهل في اكتشاف ما إذا كان "القط" هو في الواقع "كلب"، لكنه مدرب على تجاهل الضجيج، لذا غالباً ما يغفل عن الصور المشوشة أو التالفة.
ResNet-50: خبير "النسيج". ينظر إلى البكسلات والأنماط منخفضة المستوى. هو الأفضل في اكتشاف ما إذا كانت الصورة تالفة، مشوشة، أو مليئة بالضجيج، لكنه أحياناً يغفل عن التغييرات الطفيفة في ماهية الشيء نفسه.

المشكلة مع "العقل الواحد الكبير"

حاول المؤلفون بناء ذكاء اصطناعي واحد ضخم ينظر إلى ملاحظات الخبراء الثلاثة في وقت واحد (نموذج "متجانس"). لكن هذا كان يشبه محاولة إجبار شخص عام على أن يكون خبيراً في كل شيء. لقد تطلب الأمر 2.3 ضعف قوة الحوسبة (المعلمات/Parameters) ومع ذلك لم يعمل بجودة نهج الفريق. لقد أصيب بالارتباك لأن الخبراء المختلفين يرون العالم بطرق مختلفة.

الحل: نظام إنذار "الحالة الأسوأ"

ابتكر المؤلفون نظام تصويت من خطوتين يسمى EncMin2L (المشفر الأدنى ذو المستويين). وإليك كيف يعمل، باستخدام تشبيه بسيط:

الخطوة 1: الإنذار الفردي (المستوى 1)
ينظر كل متخصص إلى الصورة ويعطي "درجة اشتباه".

إذا كانت الصورة مشوشة، يصرخ خبير النسيج: "مزيفة!".
إذا كان الأسلوب غريباً، يصرخ خبير الصورة الكبيرة: "مزيفة!".
إذا كان الحيوان غريباً، يصرخ خبير التفاصيل الدقيقة: "مزيفة!".

يأخذ النظام أدنى (الأكثر اشتباهاً) درجة من طريقتي النظر المختلفتين لكل متخصص في الصورة. فكر في الأمر كالتالي: "إذا رأت إحدى عينيّ مشكلة، فأنا قلق".

الخطوة 2: اجتماع الفريق (المستوى 2)
الآن، ينظر النظام إلى المتخصصين الثلاثة ويسأل: "من هو الأكثر قلقاً الآن؟"
إنه يأخذ أدنى (الأكثر اشتباهاً) درجة بين المتخصصين الثلاثة.

إذا كانت الصورة مشوشة، فإن خبير النسيج هو الأكثر قلقاً، لذا يستمع النظام إليه.
إذا كان الأسلوب غريباً، فإن خبير الصورة الكبيرة هو الأكثر قلقاً، لذا يستمع النظام إليه.

القاعدة السحرية: لا يحتاج النظام لمعرفة نوع التزييف في الصورة مسبقاً. هو فقط ينتظر المتخصص الذي يشعر بأكبر قدر من الإنذار ليرفع العلم. إذا كان أي شخص في الفريق مرتاباً بشدة، يتم تصنيف الصورة على أنها مزيفة.

كيف عرفوا من يوظفون (دون رؤية أي مزيفات)

الجزء الأكثر روعة هو أن المؤلفين استطاعوا تحديد المتخصصين الذين يجب توظيفهم دون رؤية صورة مزيفة واحدة. لقد استخدموا اختبارين بسيطين على الصور "الحقيقية":

اختبار الفئة ( $\eta^2$ ): تحققوا مما إذا كان الخبير يستطيع التمييز بين القطة والكلب في الصور الحقيقية. إذا نجح، فهذا يعني أن الخبير جيد في اكتشاف مزيفات "الحيوان الخاطئ".
اختبار التشويه ( $\Delta\mu$ ): قاموا بتشويه الصور الحقيقية اصطناعياً وراقبوا ما إذا كان الخبير سيصاب بالارتباك. إذا ارتبك الخبير بشدة بسبب التشويه، فهذا يعني أن هذا الخبير جيد في اكتشاف المزيفات "التالفة".

من خلال هذه الاختبارات البسيطة على البيانات العادية، تمكنوا من التنبؤ بدقة أي خبير سيفشل في أي نوع من المزيفات. وهذا سمح لهم ببناء الفريق المثالي.

النتائج

عندما اختبروا هذا الفريق ضد أفضل الخبراء المنفردين ونماذج "العقل الواحد الكبير":

رصد الفريق 94% أو أكثر من جميع أنواع المزيفات (التحولات العالمية، التغيرات الدلالية، وتلف النسيج).
لم يستطع أي خبير منفرد القيام بذلك بمفرده؛ فجميعهم لديهم نقاط ضعف.
حقق الفريق ذلك باستخدام أقل من نصف قوة الحوسبة التي استهلكتها النماذج الضخمة.

الملخص

يثبت هذا البحث أنك لست بحاجة إلى ذكاء اصطناعي خارق لاكتشاف كل نوع من أنواع التزييف. بدلاً من ذلك، أنت بحاجة إلى فريق متنوع من المتخصصين، لكل منهم نقاط ضعفه، وقاعدة بسيطة: "استمع إلى الشخص الأكثر خوفاً". هذا النهج أرخص، أسرع، ويكتشف مزيفات أكثر من محاولة بناء كاشف واحد "مثالي".

ملخص تقني: دمج "تيبيت-الحد الأدنى" (Tippett-minimum) لنماذج الانتشار في فضاء التمثيل لكشف البيانات خارج التوزيع متعددة المشفرات

بيان المشكلة

يهدف كشف البيانات خارج التوزيع (OOD) إلى تحديد ما إذا كانت العينة الاختبارية تنتمي إلى نفس العملية التي نشأت منها بيانات بيانات التدريب (داخل التوزيع، ID). وبينما أظهرت النماذج التوليدية العميقة، وخاصة نماذج الانتشار، وعوداً في تقدير الكثافة، فإن تشغيلها مباشرة في فضاء البكسل (pixel space) مكلف حاسوبياً وغالباً ما يعطي درجات OOD غير موثوقة. وفي المقابل، توفر نماذج الانتشار في فضاء التمثيل (RDMs) التي تعمل على ميزات مضغوطة من مشفرات مدربة مسبقاً بديلاً قابلاً للتطبيق. ومع ذلك، يظل هناك تحدٍ جوهري: فالمشفرات المدربة مسبقاً المختلفة (مثل CLIP وDINOv2 وResNet-50) تلتقط جوانب متميزة من بنية الصورة (المحاذاة العالمية، الدلالات الدقيقة، الملمس/النسيج)، وبالتالي فهي حساسة لأنواع مختلفة من انزياحات التوزيع (التغيرات النطاقية العالمية، التباعد الدلالي، فساد المتغيرات المصاحبة). ولا يوجد مشفر واحد يهيمن عبر جميع أنواع الانزياح. المشكلة الجوهرية التي يعالجها البحث هي كيفية دمج عدة مشفرات متخصصة بفعالية لكشف عينات OOD عندما يكون نوع انزياح التوزيع غير معروف وقت الاختبار، دون الاعتماد على تسميات OOD للمعايرة.

المنهجية: EncMin2L

يقترح البحث إطار عمل EncMin2L، الذي يدمج نماذج الانتشار في فضاء التمثيل لكل مشفر باستخدام بوابة حد أدنى ثنائية المستويات قائمة على أسس إحصائية.

1. تشخيص تخصص المشفر (Encoder Specialization Diagnostics)

قبل التدريب، يقدم المؤلفون تشخيصين يتم حسابهما بالكامل من بيانات ID لتوصيف حساسية المشفر:

$\eta^2$ (اختبار F الشرطي على الفئة): يقيس كسر تباين الـ log-likelihood المفسر بواسطة هوية الفئة. تشير $\eta^2$ العالية إلى الحساسية للانزياحات الدلالية الدقيقة (مثل CIFAR-100)، بينما تشير $\eta^2$ المنخفضة إلى الحساسية لانزياحات النطاق العالمية (مثل SVHN).
$\Delta\mu$ (انزياح الـ log-likelihood تحت الفسادات الاصطناعية): يحدد التغير في متوسط الـ log-likelihood عندما تتعرض صور ID لفسادات اصطناعية (مثل الضبابية الغاوسية أو الضجيج). يتنبأ $\Delta\mu$ الكبير بحساسية عالية لانزياحات المتغيرات المصاحبة (مثل CIFAR-10C).
ارتباط المشفرات المتقاطع ( $\rho$ ): تُستخدم ارتباطات رتب سبيرمان بين الـ log-likelihoods للمشفرات للفحص بحثاً عن التكرار. الارتباط المنخفض يعني وجود معلومات تكميلية.

2. بنية البوابة الدنيا ثنائية المستويات (Two-Level Min-Gate Architecture)

تعمل آلية الدمج، EncMin2L، دون الحاجة لتسميات OOD وتتكون من مستويين من التجميع الإحصائي:

المستوى 1 (البوابة الدنيا داخل المشفر - Within-Encoder Min-Gate): لكل مشفر $k$ ، يتم استخدام "فرعين": فرع مُطبع (مُطبع بمعامل Z-score) وفرع غير مُطبع. يتم نمذجة كل فرع بواسطة شبكة درجة (score network) مستقلة لمعادلة تفاضلية تصادمية حافظة للتباين (VP-SDE). يتم تحويل الـ log-likelihoods إلى قيم p-values عبر دالة التوزيع التراكمي (CDF) التجريبية لعينات التحقق ID. عملية الحد الأدنى ( $\min(\cdot)$ ) عبر الفرعين تدمجهما في درجة واحدة لكل مشفر.
- المعايرة: بما أن الحد الأدنى لمتغيرين منتظمين يتبع توزيع Beta(1, 2)، يتم تطبيق إعادة رسم ثانية لـ CDF التجريبي لاستعادة الانتظام، مما يضمن أن الدرجة صالحة للمستوى التالي.
المستوى 2 (البوابة الدنيا عبر المشفرات - Cross-Encoder Min-Gate): يتم تجميع الدرجات المُعايرة من جميع المشفرات $K$ باستخدام اختبار الحد الأدنى لقيمة p الخاص بـ "تيبيت" (Tippett's minimum p-value test). الدرجة النهائية $s(x)$ هي الحد الأدنى لجميع درجات المشفرات: $s(x) = \min_k \hat{e}_k(x)$ .
- قاعدة القرار: يتم تمييز العينة كـ OOD إذا كانت $s(x) < \tau$ ، حيث $\tau$ هو عتبة يتم معايرتها على بيانات ID محتجزة للتحكم في معدل الإيجابيات الكاذبة (FPR).

يضمن هذا النهج أنه لأي نقطة اختبار معينة، يقوم النظام بالاعتماد على المشفر (والفرع) المحدد الذي يطلق أقوى إنذار، مما يتكيف مع المدخلات دون معرفة مسبقة بنوع الانزياح.

المساهمات الرئيسية

تشخيصات بيانات ID لاختيار المشفر: يثبت البحث أنه يمكن قياس تخصص المشفر حصرياً من بيانات ID باستخدام $\eta^2$ و $\Delta\mu$ . تنجح هذه المقاييس في التنبؤ بالمشفر الذي سيعمل بشكل أفضل على انزياحات معينة (دلالية مقابل متغيرات مصاحبة) دون ملاحظة أي عينات OOD.
إطار عمل EncMin2L: استراتيجية دمج مبتكرة وغير مرتبطة بمشفر محدد، تجمع بين احتمالات الانتشار (diffusion likelihoods) لكل مشفر عبر بوابة حد أدنى ثنائية المستويات. وهي تتجنب عيوب النماذج متعددة المشفرات الضخمة (التي تتطلب بارامترات أكثر بكثير وغالباً ما تفشل في التقاط هندسة المشفرات الفردية) عن طريق التجميع الإحصائي للكواشف المتخصصة.
المعايرة الإحصائية: توفر الطريقة إجراء اختبار متعدد صالح إحصائياً. من خلال رسم الدرجات كقيم p-values وتطبيق اختبار تيبيت، يضمن إطار العمل استقرار المعايرة ويسمح بتعديل العتبة مباشرة بناءً على مستويات FPR المرغوبة دون الحاجة لإعادة التدريب.

النتائج التجريبية

تم تقييم إطار العمل على أربعة اختبارات OOD تمثل أنواع انزياح مختلفة:

SVHN: انزياح نطاق عالمي.
CIFAR-100: انزياح دلالي دقيق.
CIFAR-10C: انزياح متغيرات مصاحبة (فسادات).
DTD/CelebA: انزياحات الملمس ونطاق الوجه (Far-OOD).

الأداء:

حقق EncMin2L نسبة $\ge 0.94$ AUROC عبر جميع أنواع الانزياح الأربعة في آن واحد عندما كان CIFAR-10 هو توزيع ID.
تفوق على أفضل نماذج الأساس الضخمة (monolithic) أحادية المشفر والمتعددة المشفرات.
الكفاءة: حقق EncMin2L هذه النتائج بـ 2.3 ضعف أقل من عدد البارامترات مقارنة بأفضل نموذج أساس ضخم (الذي تطلب بعداً مخفياً أكبر بكثير لمطابقة الأداء).
الدراسة الاستقصائية (Ablation): أكدت تجارب "ترك واحد واستبعاد البقية" أن إزالة مشفر معين (مثل CLIP) تسبب انخفاضاً كبيراً في الأداء على نوع الانزياح الذي يتنبأ به ملفه التشخيصي (مثل SVHN)، مما يؤكد صحة فرضية التخصص.

المقارنات:

مقابل انتشار فضاء البكسل (Pixel-Space Diffusion): تفوق EncMin2L بشكل كبير على طرق فضاء البكسل (مثل DiffPath وLMD وProjection Regret) في الانزياحات الدلالية (CIFAR-100)، حيث فشلت طرق فضاء البكسل في التقاط هياكل كثافة الفئات الشرطية.
مقابل طرق فضاء الميزات (Feature-Space Methods): بينما أدت طرق k-NN على مشفرات محددة أداءً جيداً في حالات معينة، إلا أنها افتقرت إلى القوة للتعامل مع جميع أنواع الانزياح في وقت واحد. وفر EncMin2L حلاً موحداً.
مقابل الطرق القائمة على التصنيف (Classifier-Based Methods): تفوق EncMin2L على MSP وMahalanobis وEnergy scores، خاصة في السيناريوهات التي تكون فيها حدود الفئات غامضة أو كان توزيع ID معقداً (مثل CIFAR-100).

الأهمية والادعاءات

يدعي البحث أن EncMin2L يمثل تقدماً كبيراً في كشف OOD من خلال:

حل مشكلة "الانزياح المجهول": يوفر آلية لكشف عينات OOD عبر طيف كامل من انزياحات التوزيع دون الحاجة لمعرفة نوع الانزياح مسبقاً أو امتلاك بيانات OOD للتدريب.
الاستفادة من تنوع المشفرات: يضع إطاراً رسمياً للملاحظة القائلة بأن المشفرات المختلفة تمتلك نقاط قوة تكميلية. بدلاً من إجبار نموذج واحد على تعلم كل الميزات، فإنه يجمع نماذج متخصصة، محققاً دقة أعلى بتكلفة حاسوبية أقل.
أداة تصميم عملية: تسم-ح خطة التشخيص ( $\eta^2$ و $\Delta\mu$ ) للممارسين باختيار ودمج المشفرات أثناء مرحلة التصميم بناءً فقط على بيانات ID، مما يجعل إطار العمل قابلاً للتكيف مع سيناريوهات النشر المختلفة دون الحاجة لأمثلة OOD.

يؤكد المؤلفون أن طريقتهم تعتمد على الصلاحية الإحصائية لاختبار تيبيت وخصائص الانتشار في فضاء التمثيل، مما يوفر إشارة قوية ومستقرة المعايرة تتكيف مع الخصائص التوزيعية لكل مدخل.