ملخص تقني: GICDM – التخفيف من ظاهرة الـ Hubness لتقييم النماذج التوليدية المعتمدة على المسافة بشكل موثوق

1. بيان المشكلة

يعتمد تقييم النماذج التوليدية بشكل متكرر على فضاءات التضمين عالية الأبعاد (مثل InceptionV3، DINOv2، CLAP) لحساب المسافات بين العينات الحقيقية والاصطناعية. ومع ذلك، فإن هذه الفضاءات عالية الأبعاد عرضة لظاهرة الـ hubness (المركزية)، وهي نتيجة لـ "لعنة الأبعاد" (curse of dimensionality).

في الأبعاد العالية، تصبح علاقات الجيران الأقرب غير متماثلة للغاية. تظهر بعض النقاط، التي تسمى hubs (المراكز)، بشكل متكرر وغير متناسب كأقرب جيران لنقاط أخرى، حتى وإن كانت غير مرتبطة بها دلاليًا. وفي المقابل، هناك نقاط كثيرة، تسمى antihubs (مضادات المركزية)، لا تظهر أبدًا كجيران أقرب. هذا التشوه يبطل الافتراض بأن القرب يعني التشابه الدلالي.

توضح الورقة أن ظاهرة الـ hubness تسبب انحيازًا شديدًا لمقاييس الدقة (Fidelity) والتغطية (Coverage) القياسية المعتمدة على المسافة (مثل Precision و Recall و Density و Coverage). وتحديدًا:

• دقة زائفة (False Fidelity): تظهر نقاط الـ "hub" المولدة اصطناعيًا قريبة من العديد من النقاط الحقيقية، مما يضخم درجات الدقة.
• تغطية زائفة (False Coverage): تعمل النقاط الحقيقية في مناطق الـ "antihub" كنقاط عمياء، حيث تتلقى درجات دقة صفرية من العينات المولدة.
• فشل المقاييس (Metric Failure): في السيناريوهات التي تكون فيها التوزيعات الحقيقية والمولدة منفصلة (على سبيل المثال، مزيج من الكرات الفائقة ذات أنصاف أقطار متبادلة)، تعطي المقاييس القياسية درجات غير صفرية بشكل خاطئ في الأبعاد العالية، مما يفشل في اكتشاف عدم وجود تداخل.

تفترض المقاييس الموجودة غالبًا التوزيع الطبيعي أو تعتمد على تقريبات توزيع بسيطة لا تأخذ في الاعتبار هذه التشوهات الهيكلية في فضاء التضمين.

2. المنهجية: GICDM

يقترح المؤلفون Generative ICDM (GICDM)، وهو منهج مصمم للتخفيف من ظاهرة الـ hubness خصيصًا لتقييم النماذج التوليدية. يوسع GICDM منهج Iterative Contextual Dissimilarity Measure (ICDM) الكلاسيكي (Jégou et al., 2010)، والذي تم استبعاده سابقًا من تقييم النماذج التوليدية بسبب المخاوف الحسابية وعدم القدرة على التعامل مع حالات خارج العينة (out-of-sample).

يعمل GICDM بناءً على ثلاث رغبات أساسية:

1. توحيد كثافة البيانات الحقيقية: تقليل الـ hubness في البيانات الحقيقية بحيث تصبح علاقات الجيران الأقرب ذات معنى ومتماثلة.
2. الحفاظ على التموضع النسبي: الحفاظ على البنية الهندسية المحلية الحقيقية بين النقاط المولدة ومانيفولد (manifold) البيانات الحقيقية.
3. الاستقلال الشرطي: ضمان أن تقييم النقطة المولدة يعتمد فقط على علاقتها بالمجموعة الحقيقية، وليس على النقاط المولدة الأخرى.

الخطوات الخوارزمية

1. ICDM على البيانات الحقيقية: يتم تطبيق خوارزمية ICDM بشكل تكراري على مجموعة نقاط البيانات الحقيقية $\{x^r_i\}$. تقوم هذه العملية بحساب عوامل القياس $\{\delta^r_i\}$ التي تعمل بفعالية على تسطيح الكثافة المحلية لمانيفولد البيانات الحقيقية. تعمل قاعدة التحديث على تغيير مقاييس المسافات تكراريًا لمساواة متوسط مسافة الجيران لجميع النقاط، لتصل إلى حالة تكون فيها تقديرات الكثافة المحلية موحدة.
2. قياس خارج العينة للنقاط المولدة: لكل نقطة مولدة $x^g_j$، يتم حساب عامل قياس $\delta^g_j$ بشكل مستقل. ويتم اشتقاق ذلك من خلال فرض أن متوسط مسافة الجيران للنقطة المولدة (بالنسبة للجيران الحقيقيين المقاسين) يطابق متوسط المسافة المتوازن للبيانات الحقيقية.
   $$\delta^g_j = \frac{\mu_{r,eq}}{\frac{1}{K+1} \sum_{k=1}^{K+1} \delta^r_{NN^{eq}_k(x^g_j)} d(x^g_j, NN^{eq}_k(x^g_j))}$$
   هنا، تم استخدام $K+1$ بدلاً من $K$ لمراعاة حقيقة أن النقطة المولدة ليست جزءًا من المجموعة الحقيقية.
3. الترشيح متعدد المقاييس (Multi-Scale Filtering): لمنع الإفراط في التصحيح، تستخدم الطريقة استراتيجية ترشيح. إذا انحرف عامل القياس المحسوب للنقطة المولدة $\delta^g_j$ بشكل كبير عن متوسط قياس جيرانها الحقيقيين، يتم وسمها على أنها خارج مانيفولد البيانات الحقيقية.
   • يتم إجراء الترشيح على مقاييس متعددة (باستخدام أحجام جيران مختلفة، مثل $K_1$ و $K_2$). يعالج هذا مشكلة "نطاق التقاطع" (crossover regime) حيث قد تمتلك النقاط الخارجة عن المانيفولد، في أبعاد وكثافات معينة، مسافات مشابهة صدفةً للنقاط داخل المانيفولد.
   • يتم تخصيص دقة صفرية للنقاط التي تفشل في الاختبار، ولا تساهم في التغطية.

يتم تعريف عدم التشابه النهائي بين نقطة حقيقية $x^r_i$ ونقطة مولدة $x^g_j$ كالتالي:
$$\text{GICDM}(x^r_i, x^g_j) = d(x^r_i, x^g_j) \cdot \delta^r_i \cdot \delta^g_j$$

3. المساهمات الرئيسية

• إثبات الـ Hubness في التضمينات: تظهر الورقة تجريبيًا أن فضاءات التضمين الشائعة المستخدمة في تقييم النماذج التوليدية (VGG16، InceptionV3، DINOv2، DINOv3، CLAP) تعاني من ظاهرة hubness كبيرة، حيث تظهر أعلى 1% من النقاط بمعدل 4 إلى 16 ضعف تكرار ظهور النقاط المتوسطة كجيران، وتعمل 10-30% من النقاط كـ antihubs.
• إحياء ICDM: يوضح المؤلفون أن منهج Iterative Contextual Dissatisfaction Measure (ICDM)، الذي تم تجاهله سابقًا لصالح NICDM غير التكراري، يتفوق باستمرار على طرق تقليل الـ hubness الأخرى (بما في ذلك CSLS و DSL و Sphere projection) عبر 17 مزيجًا من البيانات والتضمينات.
• إطار عمل GICDM: تقديم منهج مخصص يطبق ICDM على البيانات الحقيقية مع التعامل مع النقاط المولدة خارج العينة عبر القياس المستقل والترشيح متعدد المقاييس.
• التحقق من المعايير المرجعية: اختبارات واسعة النطاق على معايير اصطناعية (Räsä et al., 2025) وبيانات من العالم الحقيقي (CIFAR-10، ImageNet، LSUN، FFHQ) تظهر أن GICDM يعالج فشل المقاييس الناتج عن الـ hubness.

4. النتائج التجريبية

• المعايار الاصطناعية: في المعيار المقترح من قبل Räsä et al. (2025)، حسن GICDM أداء المقاييس القياسية بشكل كبير. على سبيل المثال، اجتاز Clipped Density معيار 23 (بعد أن كان 18) واجتاز Clipped Coverage معيار 22 (بعد أن كان 18). والأهم من ذلك، صحح GICDM "اختبار الكرة الفائقة" (Hypersphere Test)، حيث أعطت التوزيعات المنفصلة سابقًا درجات غير صفرية بسبب الـ hubness؛ ومع استخدام GICDM، بقيت الدرجات عند الصفر بشكل صحيح.
• الارتباط البشري: عند التقييم مقابل معدلات الخطأ البشري (التمييز بين الصور الحقيقية والمولدة)، حافظ GICDM على أو حسن معامل ارتباط بيرسون لـ Clipped Density (أفضل مقياس أداء). كان هذا التحسن أكثر وضوحًا في تضمينات DINOv3، التي تتأثر بشدة بالـ hubness.
• التوجيه الخالي من التصنيف (Classifier-Free Guidance): في التجارب مع DiT-XL-2 على ImageNet، اقترحت المقايسة القياسية خطأً أن التوجيه الخالي من التصنيف يزيد من كل من الدقة والتغطية. صحح GICDM هذا، حيث أظهر زيادة في الدقة وانخفاضًا في التغطية، مما يتماشى مع التوقعات النظرية.
• التحليل النوعي: أظهرت عمليات التصور لبيانات LSUN Bedroom أن الـ hub الأكثر تكرارًا في الصور المولدة ظهر في 64 حارة حقيقية قبل التصحيح، وانخفض إلى 4 بعد استخدام GICDM. الجيران المتبقون كانوا أكثر تشابهًا دلاليًا مع الـ hub، مما يشير إلى استعادة بنية الجوار.

5. الأهمية والقيود

تدعي الورقة أن GICDM يتيح تقييمًا أكثر موثوقية وموثوقية للنماذج التوليدية في الفضاءات عالية الأبعاد من خلال حل حالات الفشل الناجمة عن ظاهرة الـ hubness. إنه يستعيد صلاحية المقاييس المعتمدة على المسافة، مما يضمن توافقها بشكل أفضل مع التقييم البشري والتوقعات النظرية.

الادعاءات المتواضلة والقيود:

• الاعتماد على المتانة: يذكر المؤلفون صراحة أن فعالية GICDM تعتمد على كون المقياس الأساسي متينًا تجاه القيم المتطرفة الحقيقية. المقاييس مثل Clipped Density و Clipped Coverage، التي تحد من تأثير النقاط الفردية، هي الأكثر استفادة. المقاييس غير المتينة (مثل Precision و Density القياسية) قد لا تتحسن أو قد تتدهور حتى في ارتباطها مع النتائج البشرية عند تطبيق GICDM.
• ليس مقياس مسافة: GICDM هو مقياس لعدم التشابه (dissimilarity measure) لا يتبع متباينة المثلث. ومع ذلك، يجادل المؤلفون بأن هذا مقبول في التقييم التوليدي، الذي يتطلب أساسًا ترتيب الجيران وتحديد عضوية الجوار، وهي عمليات لا تتطلب بدقة متباينة المثلث.
• التكلفة الحسابية: على الرغم من أن GICDM يضيف عبئًا (ICDM تكراري وعمليات قياس)، إلا أن تعقيده هو $O(N(TN + M))$، وهو ما يقارب حسابات المسافة $O(N^2)$ التي تتطلبها بالفعل عمليات البحث عن أقرب جار في الأبعاد العالية.

في الختام، تفترض الورقة أن الـ hubness هي سبب جوهري وغالبًا ما يتم التغافل عنه لفشل المقاييس في تقييم النماذج التوليدية، وأن GICDM يوفر تصحيحًا ضروريًا لاستعادة موثوقية هذه التقييمات.