Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models

ملخص تقني: التنقيب عن السلبيات غير المنحاز يحسن اكتشاف البيانات خارج التوزيع باستخدام نماذج الرؤية واللغة المدربة مسبقاً

بيان المشكلة
يعد اكتشاف البيانات خارج التوزيع (OOD) أمراً بالغ الأهمية لضمان موثوقية نماذج تعلم الآلة في سيناريوهات العالم المفتوح حيث قد تحتوي بيانات الاختبار على فئات غير مرئية. أظهرت الأساليب الحالية التي تستخدم نماذج الرؤية واللغة (VLMs) المدربة مسبقاً، مثل CLIP، إمكانات واعدة في اكتشاف الـ OOD اللاحق (post-hoc) من خلال الاستفضاء من التقارب الدلالي بين تسميات التوزيع الداخلي (ID) والتسميات "السلبية" (المتميزة دلالياً عن الـ ID). ومع ذلك، تواجه هذه الأساليب قيداً نظرياً كبيراً؛ إذ تعتمد الطرق الحالية، مثل NegLabel، على قواعد استدلالية (مثل تشابه جيب التمام) لتنقيب التسميات السلبية من بيانات مجموعة النصوص "البرية" غير المصنفة (مثل WordNet). ويرى المؤلفون أن هذه القواعد الاستدلالية تفتقر إلى الضمانات النظرية لالتقاط عدم التشابه الدلالي الحقيقي، مما يؤدي إلى "تحيز تنقيب السلبيات". يحدث هذا التحيز لأن مجموعة السلبيات المنقبة تكون ملوثة حتماً بـ "سلبيات كاذبة" (وهي تسميات هي في الواقع متشابهة دلالياً مع فئات الـ ID)، مما يؤدي إلى دوال تسجيل OOD غير مثالية. ويتمثل التحدي الجوهري المعالج في كيفية تخفيف تحيز أخذ العينات هذا دون الحاجة إلى معلومات حقيقية عن التشابه أو تغذية راجعة بشرية إضافية على مجموعة النصوص البرية.

المنهجية
يقدم الأسلوب المقترح، التنقيب عن السليبات غير المنحاز (Debiased Negative Mining)، إطاراً نظرياً لتصحيح تحيز أخذ عينات التسميات السلبية عن طريق التقريب غير المباشر للتوزيع الحقيقي للتسميات السلبية. يعتمد هذا النهج على الخطوات التالية:

1. نمذجة التوزيع: يقوم المؤلفون بنمذجة توزيع البيانات البرية غير المصنفة ($Q_Y$) كمزيج من تسميات الإيجاب الحقيقية ($P^+_Y$) والتسميات السلبية الحقيقية ($P^-_Y$) باستخدام نموذج هوبر للتلوث (Huber contamination model): $Q_Y = \tau \cdot P^+_Y + (1-\tau) \cdot P^-_Y$، حيث $\tau$ هو احتمال مسبق يُعامل كمعلمة فائقة (hyperparameter).
2. الاشتقاق النظري: من خلال إعادة ترتيب نموذج المزيج، يتم التعبير عن توزيع السلبيات الحقيقي كـ $P^-_Y = (Q_Y - \tau \cdot P^+_Y) / (1-\tau)$. ويستنتج المؤلفون دالة تسجيل OOD غير منحازة بناءً على هذه العلاقة.
3. التقريب التقاربي: لتجنب التقديرات المكلفة حاسوبياً، يستخدم الأسلوب نظرية التقارب المحدود لإظهار أنه مع اقتراب عدد التسميات السلبية من اللانهاية، فإن دالة التسجيل تتقارب إلى شكل يعتمد على التوقعات لتوزيع البيانات البرية والتوزيع الإيجابي.
4. أخذ عينات مونت كارلو للأهمية (Monte-Carlo Importance Sampling): يتم تنفيذ دالة تسجيل الـ OOD النهائية غير المنحازة كـ مُقدّر مونت كارلو. وهي تتطلب:
   • أخذ عينات من المجموعة البرية ($u_i$): اختيار عينات ممثلة من المجموعة البرية بناءً على الكثافة المحلية (باستخدام أقرب $\alpha$ جيران) لتقريب التوقع فوق $Q_Y$.
   • تخليق التسميات الإيجابية ($v_i$): بما أن التسميات الإيجابية الحقيقية من المجموعة البرية غير معروفة، يقوم الأسلوب بتخليق سمات إيجابية عبر تطبيق تحويل يحافظ على الدلالة (إضافة ضوضاء غاوسية وتطبيع) إلى تمثيلات (embeddings) تسميات الـ ID المعروفة.
   • التسجيل: يتم حساب درجة OOD النهائية عن طريق الجمع بين تقارب تسميات الـ ID والفرق الموزون بين توقع المجموعة البرية وتوقع الإيجاب المُخلق، مما يؤدي فعلياً إلى إلغاء تلوث السلبيات الكاذبة.

المساهمات الرئيسية

• الإطار النظري: طور البحث إطاراً نظرياً جديداً يصحح تحيز أخذ عينات التسميات السلبية دون الحاجة إلى معلومات حقيقية عن التشابه أو عدم التشابه، مما يعالج مشكلة "السلبيات الكاذبة" المتأصلة في التنقيب الاستدلالي.
• التنفيذ العملي: قام المؤلفون بتنفيذ هذا التصحيح كاستراتيجية فعالة لأخذ عينات الأهمية تعتمد فقط على الوصول إلى الأمثلة الإيجابية (تسميات الـ ID) والبيانات البرية غير المصنفة، متجنبين الحاجة إلى أي إشراف إضافي.
• الأداء المتميز (State-of-the-Art): أظهرت التجارب المكثفة أن الطريقة تحقق نتائج جديدة ومتميزة عبر مختلف معايير اختبار OOD، وبنيات CLIP المختلفة (ViT-B/32, ViT-L/14, Res-Net-50)، ودقات إدخال مختلفة.
• المتانة: أظهرت الطريقة قدرة عالية على التعميم والمتانة في السيناريوهات ذات النطاقات المزاحة (مثل ImageNet-A, ImageNet-R, ImageNetV2)، متفوقة على الأساليب الحالية ذات القدرة صفرية (zero-shot).

النتائج التجريبية
تم تقييم الطريقة على معيار ImageNet-1K مع تسميات الـ ID، والاختبار مقابل مجموعات بيانات OOD تشمل iNaturalist، وSUN، وPlaces365، وTextures.

• الأداء: حققت الطريقة المقترحة متوسط AUROC بنسبة 94.52% وFPR95 بنسبة 22.37%، متفوقة على أفضل طريقة سابقة ذات قدرة صفرية، وهي NegLabel (94.21% AUROC، 25.40% FPR95).
• الدراسة الاستقصائية (Ablation): تفوقت الطريقة باستمرار على NegLabel عبر مختلف الدعامات البصرية (ViT-B/32, ViT-L/14, ResNet-50) ودقات الإدخال (224x224 مقابل 336x336).
• حساسية المجموعة (Corpus Sensitivity): أظهرت الطالة أداءً متفوقاً على NegLabel عند اختبارها مع مصادر مجموعات مختلفة (Common-20K وPart-of-Speech Tags)، مما يشير إلى المرونة في اختيار البيانات البرية.
• المعلمات الفائقة (Hyperparameters): وُجد أن الطريقة مستقرة عبر نطاق واسع من المعلمات الفائقة، بما في ذلك الاحتمال المسبق $\tau$، وكثافة الضوضاء $\sigma$، وعدد التسميات المأخوذة $L$.

الأهمية
يزعم البحث أنه بينما كان تنقيب التسميات السلبية عملية استدلالية ناجحة، إلا أن قوتها لم تُستغل بالكامل بسبب مشكلة السلبيات الكاذبة التي لم تُعالج. ومن خلال توفير تصحيح نظري لهذا التحيز، يعمل هذا العمل على "إطلاق" إمكانات نماذج الرؤية واللغة (VLMs) لاكتشاف الـ OOD. ويؤكد المؤلفون أن نهجهم يحقق هذه المكاسب دون الحاجة إلى أي بيانات تدريب إضافية أو تغذية راجعة بشرية على المجموعة البرية، مما يجعله حلاً عملياً ومتيناً لاكتشاف الـ OOD بقدرة صفرية. ويشير العمل إلى أن الاتجاهات المستقبلية قد تتضمن دمج نماذج اللغة الكبيرة متعددة الوسائط (Multi-modal LLMs)، لكن المساهمة الحالية تركز على تحسين عملية تنقيب السلبيات ضمن أطر عمل الـ VLMs الحالية.