🤖 machine learning

Vendi Novelty Scores for Out-of-Distribution Detection

تقدم هذه الورقة "درجة فيندي للابتكار" (VNS)، وهي كاشف للبيانات خارج التوزيع، خطي الزمن وغير معلمي، يستفيد من مقاييس التنوع لتحقيق أداء رائد عبر مختلف المعايير المرجعية مع الحفاظ على الفعالية حتى مع الحد الأدنى من بيانات التدريب.

المؤلفون الأصليون: Amey P. Pasarkar, Adji Bousso Dieng

نُشر 2026-05-22

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Amey P. Pasarkar, Adji Bousso Dieng

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك حارس أمن ذكي للغاية ومدرب تدريباً عالياً عند مدخل أحد المتاحف. لقد أمضى هذا الحارس سنوات في دراسة آلاف اللوحات من عصر النهضة، ويمكنه أن يخبرك على الفور ما إذا كانت اللوحة الجديدة هي لوحة أصلية لـ "رامبرانت" أم أنها مزيفة. ولكن ماذا يحدث إذا اقترب شخص ما يحمل صورة لمحمص خبز، أو قط كرتوني، أو منحوتة تجريدية حديثة؟

قد يظل الحارس يقول: "أنا متأكد بنسبة 99% أن هذه لوحة!" لأنه واثق جداً في تدريبه، رغم أنه مخطئ تماماً. في عالم الذكاء الاصطناعي، يُسمى هذا بـ مشكلة التوزيع الخارج عن النطاق (Out-of-Distribution - OOD). فالذكاء الاصطناعي يرى شيئاً لم يره من قبل، لكنه لا يدرك أنه في حالة ارتباك.

تقدم هذه الورقة البحثية أداة جديدة تسمى درجة فيندي للجدة (Vendi Novelty Score - VNS) لمساعدة أنظمة الذكاء الاصطناي على إدراك متى تنظر إلى شيء غريب تماماً. وإليك كيف تعمل، مشروحة من خلال تشبيهات بسيطة.

الطريقة القديمة: تخمين الثقة

تحاول معظم الطرق الحالية اكتشاف هؤلاء "الغرباء" عبر سؤال الذكاء الاصطناعي: "ما مدى ثقتك؟"

الخلل: إذا تم تدريب الذكاء الاصطناعي على القطط والكلاب، ثم عرضت عليه محمص خبز، فقد يظل يشعر بثقة كبيرة لأن محمص الخبز يتشارك بعض السمات البصرية (مثل الحواف أو الألوان) مع أذن القطة. الأمر يشبه حارساً اعتاد رؤية المعاطف الحمراء لدرجة أنه يعتقد أن عمود إطفاء أحمر هو إنسان.

الطريقة الجديدة: قياس "تنوع الحشد"

قرر مؤلفو هذه الورقة التوقف عن سؤال "ما مدى ثقتك؟" والبدء في سؤال: "إلى أي مدى يغير هذا الشخص الجديد من شكل الحشد؟"

لقد استخدموا مفهوماً يسمى درجة فيندي (Vendi Score)، وهو في الأساس طريقة متطورة لقياس التنوع.

التشبيه: قائمة ضيوف الحفلة

تخيل أن لدى الذكاء الاصطناعي ذاكرة لكل الأشخاص الذين قابلهم (بيانات التدريب).

حشد التوزيع الداخلي (ID): هؤلاء هم الأشخاص الذين يعرفهم الذكاء الاصطناعي جيداً. وهم مقسمون إلى "مجموعات" (مثل مجموعة كل ذوي الشعر الأحمر، ومجموعة كل طوال القامة، إلخ).
عينة الاختبار: يدخل شخص جديد.

كيف تعمل درجة VNS:

الفحص المحلي (المجموعة): ينظر الذكاء الاصطناعي إلى المجموعة المحددة التي قد ينتمي إليها الشخص الجديد (على سبيل المثال: "هل هذا الشخص من ذوي الشعر الأحمر؟"). ثم يسأل: "إذا أضفنا هذا الشخص الجديد إلى مجموعة ذوي الشعر الأحمر، هل ستصبح المجموعة أكثر تنوعاً أم أكثر تكراراً؟"
- إذا كان الشخص الجديد من ذوي الشعر الأحمر ولكن بتسريحة شعر فريدة، فستصبح المجموعة أكثر تنوعاً.
- إذا كان الشخص الجديد من ذوي الشعر الأحمر ويشبه تماماً كل من في المجموعة، فلن يتغير الشيء كثيراً.
- التحول المفاجئ: إذا كان الشخص الجديد في الواقع "محمص خبز" (أو قطاً كرتونياً)، فإن إضافة هذا المحمص إلى مجموعة "ذوي الشعر الأحمر" سيخلق مزيجاً غريباً ومزعجاً. هنا تقفز "درجة التنوع" لأن محمص الخبض لا يتناسب مع النمط على الإطلاق.
الفحص العالمي (الحفلة بأكملها): ينظر الذكاء الاصطناعي أيضاً إلى الحفلة بأكملها. "إذا أضفت محمص الخبز هذا إلى الغرفة بأكملها، هل ستشعر الغرفة بالفوضى؟"
- تحسب درجة VNS مدى قدرة العينة الجديدة على إحداث اضطراب في التناغم العام للبيانات.
الدرجة النهائية: يجمع الذكال الاصطناعي بين هذين الفحصين. إذا جعلت العينة الجديدة المجموعة المحلية غريبة والحفلة العالمية فوضوية، فإن درجة فيندي للجدة (VNS) ترتفع. الدرجة العالية تعني: "مهلاً، هذا لا ينتمي إلى هنا! يجب أن نكون حذرين".

لماذا يعد هذا أمراً مهماً؟

تدعي الورقة البحثية أن هذه الطريقة تعد تغييراً جذرياً لثلاثة أسباب رئيسية:

1. إنها سريعة وخفيفة الوزن
عملية حساب التنوع تتطلب عادةً رياضيات ثقيلة تستغرق وقتاً طويلاً (مثل فحص كل شخص في الملعب مقابل كل شخص آخر).

خدعة الورقة البحثية: وجدوا طريقاً مختصراً. بدلاً من النظر إلى الحشد بأكمله، ينظرون فقط إلى "أهم" شخص في المجموعة (المكافئ الرياضي لـ "القائد الرئيسي" للمجموعة).
النتيجة: إنها سريعة للغاية. وتظهر الورقة أنها تعمل بسرعة تقارب أبسط الطرق، مما يجعلها عملية للاستخدام في الوقت الفعلي (مثل السيارات ذاتية القيادة).

2. لا تحتاج إلى ذاكرة كاملة
عادةً، للتحقق مما إذا كان الشيء جديداً، تحتاج إلى تذكر كل مثال رأيته على الإطلاق. وهذا يستهلك الكثير من ذاكرة الكمبيوتر.

ادعاء الورقة البحثية: تعمل VNS بشكل مذهل حتى لو عرضت عليها 1% فقط من بيانات التدريب. إنه يشبه حارس الأمن الذي يمكنه رصد غريب حتى لو تذكر 1% فقط من الأشخاص الذين قابلهم، لأنه يفهم هيكل الحشد، وليس مجرد الوجوه.

3. تعمل في كل مكان
اختبر المؤلفون هذه الطريقة على العديد من أنواع "أدمغة" الذكاء الاصطناعي (البنى الهيكلية) والعديد من أنواع "المتاحف" (مجموعات البيانات مثل CIFAR-10 و CIFAR-100 و ImageNet).

النتيجة: تفوقت VNS باستمرار على أفضل الطرق الموجودة أو ساوتها. وكانت جيدة بشكل خاص في رصد العناصر "القريبة من التوزيع الخارج عن النطاق" (Near-OOD)—وهي الأشياء التي تبدو شبه مشابهة لما يعرفه الذكاء الاصطناعي ولكنها ليست دقيقة تماماً (مثل صورة كلب تشبه الذئب قليلاً).

الملخص

درجة فيندي للجدة (Vendi Novelty Score) هي طريقة جديدة لإخبار الذكاء الاصطناعي عندما يتجاوز حدود معرفته. فبدلاً من الاكتفاء بسؤال "هل أنت متأكد؟"، هي تسأل: "هل يتناسب هذا الشيء الجديد مع نمط المجموعة؟"

من خلال قياس مدى إحداث العينة الجديدة لاضطراب في تنوع ذاكرة الذكاء الاصطناعي، يمكنها رصد الغرباء (مثل محمصات الخبز في متحف للقطط) بدقة عالية، وباستخدام ذاكرة قليلة جداً، وبسرعة كبيرة. وهذا يساعد في الحفاظ على سلامة أنظمة الذكاء الاصطناعي من خلال معرفة متى تقول: "أنا لا أعرف ما هذا، دعوا بشراً يتعاملون مع الأمر".

ملخص تقني: درجات ابتكار "فندي" (Vendi Novelty Scores) للكشف عن البيانات خارج التوزيع

بيان المشكلة

غالبًا ما تُظهر أنظمة التعلم الآلي الحديثة سلوكيات غير متوقعة عند مواجهة مدخلات خارج التوزيع (OOD)، حيث تنتج في كثير من الأحيان تنبؤات عالية الثقة ولكنها خاطئة. يشكل هذا مخاطر كبيرة في المجالات عالية الخطورة مثل القيادة الذاتية، والتصوير الطبي، والاكتشاف العلمي. وبينما يعد الكشف عن البيانات خارج التوزيع (OOD) أمرًا بالغ الأهمية للسلامة، تواجه الطرق الحالية المعتمدة على ما بعد التدريب (post-hoc) قيودًا:

الطرق القائمة على اللوجيت (Logit-based methods): (مثل احتمالية "ماكس سوفتماكس" أو درجات الطاقة) تتجاهل إحصائيات ميزات التوزيع الداخلي، مما يقلل من الموثوقية.
طرق كثافة فضاء الميزات (Feature-space density methods): (مثل مسافة ماهالانوبيس) تعتمد غالبًا على افتراضات تقييدية حول هندسة التمثيلات (مثل التوزيع الطبيعي أو الانهيار العصبي/Neural Collapse) والتي قد لا تتحقق عبر البنى الهيكلية المتنوعة.
الطرق القائمة على التشابه (Similarity-based methods): (مثل k-الأقرب للجيران/k-Nearest Neighbors) تسبب عبئًا حسابيًا كبيرًا وقت الاستدلال.
الطرق القائمة على التدرج (Gradient-based methods): تتطلب غالبًا عمليات تمرير أمامي وخلفي متعددة، مما يجعلها غير عملية للتطبيقات الحساسة لزمن الاستجابة (latency).

هناك حاءة إلى كاشف OOD فعال حسابيًا، يعمل في مرحلة ما بعد التدريب، ولا يعتمد على افتراضات توزيع تقييدية، ويمكنه العمل بفعالية حتى مع الوصول المحدود إلى بيانات التدريب.

المنهجية: درجة ابتكار فندي (VNS)

يقترح المؤلفون درجة ابتكار فندي (VNS)، وهو كاشف OOD يعمل في مرحلة ما بعد التدريب، ويقوم على مفهوم التنوع (diversity) بدلاً من تقدير الكثافة. تستفيد VNS من درجة فندي (Vendi Score - VS)، وهي عائلة من مقاييس التنوع القائمة على التشابه، لقياس مدى زيادة عينة الاختبار لتنوع مجموعة ميزات التوزيع الداخلي (ID).

الخوارزمية الأساسية

الابتكار المشروط بالفئة (Class-Conditional Novelty):
- بالنسبة لمصنف مدرب $f_\theta$ يحتوي على $C$ من الفئات، تقوم الطريقة باستخراج التمثيلات (embeddings) $h(x)$ من الطبقة قبل الأخيرة.
- لكل فئة $c$ ، يتم حساب مصفوفة كثافة مشروطة بالفئة $\rho_c$ من تمثيلات التدريب الخاصة بتلك الفئة.
- يُعرف ابتكار عينة اختبار $x$ بالنسبة للفئة $c$ بأنه نسبة التغير اللوغاريتمي في درجة فندي من الرتبة الثانية ( $VS_2$ ) عند إضافة $x$ إلى مجموعة الفئة:
  $\Delta_c(x) = \log VS_2(\rho'_c) - \log VS_2(\rho_c)$
- لضمان الكفاءة، يستخدم المؤلفون تقريب الرتبة-1 (rank-1 approximation). فبدلاً من الاحتفاظ بالطيف الكامل للقيم الذاتية لـ $\rho_c$ ، يقومون بتقريب التغيير في $VS_2$ باستخدام أكبر قيمة ذاتية $\lambda_c$ والمتجه الذاتي المقابل لها $u_c$ . وهذا يقلل من تعقيد حساب الدرجات المشروطة بالفئة إلى $O(D)$ لكل فئة.
التجميع الموزون بالاحتمالية (Probability-Weighted Aggregation):
- بدلاً من الاعتماد على فئة متوقعة واحدة، تقوم VNS بتجميع درجات الابتكار المشروطة بالفئة باستخدام احتمالات الفئة المتوقعة لـ $x$ أي $p(x)$ .
- تُحسب درجة OOD المحلية كالتالي:
  $S_{\text{LOCAL-OOD}}(x) = \sum_{c \in T_K(x)} N_c p_c(x)^\gamma \Delta_c(x)$
  حيث تمثل $T_K(x)$ أعلى $K$ من الفئات المتوقعة، و $N_c$ هو حجم الفئة (يُستخدم للتحجيم)، و $\gamma$ يتحكم في حدة التجميع.
تصحيح التنوع العالمي (Global Diversity Correction):
- لمراعاة الاختلافات في الكثافة العالمية، يتم حساب درجة ابتكار عالمية بناءً على التغيير في $VS_\infty$ (والذي يعتمد على أكبر قيمة ذاتية لمصفوفة الكثافة العالمية) عند إضافة عينة الاختبار إلى مجموعة البيانات بأكملها.
- تجمع درجة VNS النهائية بين الإشارات المحلية والعالمية:
  $\text{VNS}(x) = S_{\text{LOCAL-OOD}}(x) - g \cdot S_{\text{GLOBAL-OOD}}(x)$
  حيث $g \in \{0, 1\}$ هو معامل ثنائي يحدد ما إذا كان سيتم تطبيق التصحيح العالمي.

التعقيد (Complexity)

التعقيد الزمني: $O(CD)$ ، حيث $C$ هو عدد الفئات و $D$ هو بُعد التمثيل. هذا خطي في كلا المعاملين، مما يجعلها أسرع بكثير من الطرق القائمة على مسافة ماهالانوبيس ( $O(CD^2)$ ) وطرق k-NN.
تعقيد المساحة: $O(CD)$ ، حيث تتطلب فقط تخزين أكبر قيمة ذاتية ومتجه ذاتي لكل فئة.

المساهمات الرئيسية

نموذج جديد: تقديم منظور قائم على التنوع للكشف عن OOD، والابتعاد عن نماذج الكثافة التقليدية أو تحليل اللوجيت.
درجة ابتكار فندي (VNS): اقتراح خوارزمية محددة تقيس الابتكار عبر تأثير عينة الاختبار على تنوع التمثيلات، باستخدام تقريبات الرتبة-1 الفعالة لدرجة فندي.
تكامل الإشارات الهجين: دمج إشارات الابتكار المحلية (المشروطة بالفئة) والعالمية، الموزونة باحتمالات التنبؤ، لتحسين المتانة.
كفاءة البيانات: إثبات أن VNS تحتفظ بأداء يضاهي أحدث التقنيات (SOTA) حتى عند حسابها باستخدام 1% فقط من بيانات التدريب، مما يتيح النشر في البيئات محدودة الذاكرة.
التحقق النظري والتجريبي: توفير تبرير نظري لتقريب الرتبة-1 وتحقق تجريبي واسع النطاق عبر مجموعات بيانات وبنى هيكلية مختلفة.

النتائج التجريبية

قيم المؤلفون VNS على معايير OOD القياسية: CIFAR-10، و CIFAR-100، و ImageNet-1K، باستخدام بنى تشمل ResNet و ViT و Swin-T.

الأداء: حققت VNS أداءً يضاهي أحدث التقنيات (SOTA) في CIFAR-10 ونتائج تنافسية في CIFAR-100. وفي معيار ImageNet-1K، قللت VNS من معدل الإيجاب الخاطئ عند معدل الإيجاب الحقيقي بنسبة 95% (FPR@95) بنسبة 13% مقارنة بثاني أفضل خوارزمية في المتوسط.
المتانة: على عكس بعض طرق تشكيل التنشيط التي تعمل جيدًا على ResNet ولكنها تتراجع على Transformers، أظهرت VNS أداءً ثابتًا عبر بنيات مختلفة (ResNet, ViT, Swin-T).
الكفاءة: VNS أسرع بعدة مراتب من ثاني أكثر الطرق دقة (RMDS++) وتماثل في زمن الاستجابة (latency) الطرق المعتمدة على اللوجيت فقط (مثل GEN, NCI).
ندرة البيانات: عندما تم تدريبها على 1% فقط من بيانات تدريب ImageNet، حققت VNS متوسط AUROC قدره 88.96%، وهو مطابق تقريبًا لأدائها مع الوصول إلى البيانات الكاملة (88.59% AUROC).

الأهمية والادعاءات

يزعم البحث أن VNS تقدم حلاً مبدئيًا، وفعالًا، ومتينًا للكشف عن OOD. وتكمن أهميتها في:

تجنب الافتراضات التقييدية: من خلال الاعتماد على مقاييس التنوع بدلاً من افتراضات الكثافة الطبيعية (Gaussian)، فإن VNS أقل حساسية لانتهاكات الافتراضات الهندسية الشائعة في تمثيلات التعلم العميق.
النشر العملي: التعقيد الزمني الخطي والقدرة على العمل مع الحد الأدنى من بيانات التدريب يجعل VNS مناسبة للسيناريوهات الواقعية حيث يكون الوصول إلى بيانات التدريب محدودًا أو زمن الاستجابة حرجًا.
السلامة: توفر الطريقة آلية لأنظمة التعلم الآلي لتحديد المدخلات التي تتجاوز قدراتها، مما يسمح باستجابات أكثر أمانًا مثل الامتناع عن التنبؤ أو التصعيد إلى العنصر البشري.

يشير المؤلفون إلى وجود قيود، بما في ذلك الحاجة إلى ضبط المعلمات الفائقة (hyperparameter tuning) والذي يعالجون ذلك عبر مجموعة تحقق مؤتمتة، والاعتماد على نواة جيب التمام (cosine kernel). ويؤكدون أنه بينما تحسن VNS السلامة، إلا أنها ليست حلاً كاملاً، بل يجب أن تكون جزءًا من بروتوكول سلامة أوسع يتضمن المراقبة والإشراف البشري.