EDGE-Shield: Efficient Denoising-staGE Shield for Violative Content Filtering via Scalable Reference-Based Matching

إليك ملخص تقني مفصل لورقة البحث بعنوان "EDGE-Shield: درع تنقية فعال يعتمد على إزالة الضجيج (Denoising-staGE) لتصفية المحتوى المخالف عبر مطابقة التشابه المرجعية القابلة للتوسع."

1. بيان المشكلة

أدى التقدم السريع في نماذج توليد الصور من النصوص (T2I) إلى مخاطر كبيرة تتعماق بحقوق الطبع والنشر، وتوليد التزييف العميق (deepfake)، وانتهاك حقوق الأفراد (مثل حق العلنية). تواجه أساليب تصفية المحتوى الحالية ثلاث قيود حرجة:

• انقطاع المعرفة (Knowledge Cutoff): لا تستطيع الفلاتر القائمة على التدريب الحماية من الأعمال المحمية بحقوق الطثال أو الأفراد الذين ظهروا حديثاً ولم يكونوا موجودين في بيانات التدريب الخاصة بها.
• الكمون العالي (High Latency): تنتظر فلاتر المخرجات التقليدية حتى يكتمل توليد الصورة لتقييم السلامة، مما يهدر الموارد الحسابية على عمليات التوليد غير الآمنة.
• مشكلات القابلية للتوسع (Scalability Issues): غالباً ما تعاني الفلاتر المرجعية (التي تقارن الصور المولدة مقابل قاعدة بيانات من المراجع المحمية) في التوسع. فتقييم الصور مقابل آلاف المراجع بشكل تسلسلي أثناء الاستدلال يؤدي إلى زمن استجابة باهظ التكلفة.

2. المنهجية: EDGE-Shield

يقترح المؤلفون EDGE-Shield، وهو فلتر محتوى مرجعي قابل للتوسع مصمم للعمل أثناء عملية إزالة الضجيج (المراحل المتوسطة) بدلاً من نهايتها. تدمج الطريقة ثلاث مكونات أساسية:

أ. تخزين التضمينات المرجعية مسبقة الحساب (Pre-computed Reference Embedding Caching)

لحل اختناق القابلية للتوسع، يقوم EDGE-Shield بفصل معالجة المراجع عن حلقة التوليد:

• الحساب المسبق خارج الإنترنت (Offline Pre-computation): يتم ترميز الصور المرجعية إلى ناقلات ميزات باستخدام مشفر صور (مثل CLIP أو SigLIP أو Qwen3-VL Embedding) وتطبيعها باستخدام $\ell_2$.
• تخزين المصفوفة: تُخزن هذه الناقلات في مصفوفة مرجعية مخزنة مؤقتاً $\mathbf{R} \in \mathbb{R}^{n \times d}$.
• الكفاءة: أثناء الاستدلال، لا يقوم النظام بإعادة ترميز المراجع، بل يقوم بعملية ضرب مصفوفة في ناقل واحدة لحساب درجات التشابه مقابل جميع المراجع $n$ في وقت واحد، مما يضمن بقاء زمن الاستجابة ثابتاً بغض النظر عن حجم مجموعة المراجع.

ب. تحويل x-pred (تقدير النقاء الزائف)

لتمكين الكشف المبكر دون انتظار الصورة النهائية، تقوم الطريقة بتحويل المتجهات الكامنة (latents) المتوسطة والمشوشة إلى تقديرات "نقية زائفاً":

• السياق: تتنبأ نماذج T2I الحديثة القائمة على التدفق (flow-based) بسرعة التدفق ($v$-pred).
• التحويل: يطبق النظام تحويل x-pred على المتجه الكامن المتوسط $z_t$ عند الخطوة الزمنية $t$. باستخدام سرعة التدفق المتوقعة $v_\theta(z_t, t)$، يقوم بتقدير المتجه الكامن النقي $x_\theta$ عبر الصيغة:
  $$\boldsymbol{x}_\theta(\boldsymbol{z}_t, t) = \boldsymbol{z}_t + (1 - t) \boldsymbol{v}_\theta(\boldsymbol{z}_t, t)$$
• الفائدة: يسمح هذا للنظام بإعادة بناء تمثيل بصري للصورة النهائية في مراحل مبكرة جداً من إزالة الضجيج (على سبيل المثال، عند $t=1$)، مما يتيح فحوصات السلامة قبل اكتمال التوليد بوقت طويل.

ج. تسجيل التشابه والقرار

1. فك الترميز (Decoding): يتم فك ترميز المتجه الكامن النقي المقدر $x_\theta$ إلى مساحة البكسل باستخدام فك ترميز VAE الخاص بالنموذج.
2. التضمين (Embedding): يتم إعادة ترميز الصورة المفكوكة إلى مساحة التضمين لإنشاء ناقل استعلام $e_t$.
3. التسجيل (Scoring): يتم حساب تشابه جيب التمام (Cosine similarity) بين $e_t$ ومصفوفة المراجع المخزنة $\mathbf{R}$.
4. تحديد العتبة (Thresholding): تتم مقارنة أقصى درجة تشابه $p = \max(s_i)$ مع عتبة $\gamma$. إذا كان $p > \gamma$، يتم إيقاف التوليد فوراً؛ وإلا يستمر التوليد.

3. المساهمات الرئيسية

1. تصفية مرجعية قابلة للتوسع: أول طريقة تدمج التصفية المرجعية مباشرة في حلقة إزالة الضجيج بتعقيد زمني ثابت بالنسبة لعدد المراجع، متجاوزة بذلك اختناق "التوسع الخطي" للطرق السابقة.
2. الكشف في مرحلة مبكرة عبر x-pred: يسمح تقديم تحويل x-pred بالكشف الدقيق عن المحتوى المخالف في المراحل المبكرة من التوليد، مما يقلل بشكل كبير من الحوسبة المهدرة.
3. خالٍ من التدريب ومستقل عن النموذج: لا يتطلب النهج إعادة تدريب نموذج T2I ويعمل مع بنيات مختلفة (تم اختباره على النماذج القائمة على ODE مثل Z-Image-Turbo و Qwen-Image).

4. النتائج التجريبية

قيم المؤلفون EDGE-Shield على نموذجي T2I (Z-Image-Turbo و Qwen-Image) باستخدام مجموعتي بيانات CPDM (البيانات الشخصية وحقوق الملكية الفكرية) و HUB.

• تقليل زمن الاستجابة (Latency Reduction):
  • Z-Image-Turbo: حقق انخفاضاً بنسبة ~79% في وقت المعالجة (من ~2.1 ثانية إلى ~0.45 ثانية) مقارنة بالنماذج المرجعية.
  • Qwen-Image: حقق انخفاضاً بنسبة ~50% في وقت المعالجة.
• الدقة (ROC-AUC):
  • حقق EDGE-Shield درجة ROC-AUC تبلغ ~0.85–0.86 لكلا النموذجين، متفوقاً على مقاييس الإدراك التقليدية (LPIPS، Normalized L2) وعلى النماذج المرجعية المنافسة القائمة على VLM (مثل LLaVaGuard و InternVL3.5).
  • أدى أداءً مقارباً للنموذج المرجعي القوي Qwen3-VL ولكن بزمن استجابة أقل بكثير.
• القابلية للتوسع:
  • مع زيادة عدد المراجع من 10 إلى 140، حافظ EDGE-Shield على زمن استجابة قريب من الثبات، بينما أظهرت النماذج المرجعية القائمة على VLM زيادات خطية في زمن الاستدلال.
• دراسات الاستئصال (Ablation Studies):
  • ثبت أن تحويل x-pred أمر بالغ الأهمية؛ فبدونه، فشل الفلتر في اكتشاف الانتهاكات في الخطوات الزمنية المبكرة (سجل ~0.5 AUC في البداية)، بينما مع استخدام x-pred، تم تحقيق دقة عالية على الفور.
  • أدى استخدام Qwen3VL-Embedding كمشفر إلى أعلى أداء (ROC-AUC 0.857 على Z-Image).

5. الأهمية والقيود

الأهمية:
يسد EDGE-Shield الفجوة بين القوة (الحماية المرجعية ضد حقوق الملكية الفكرية/الأفراد الجدد) والكفاءة (زمن الاستجابة المنخفض). فهو يوفر حلاً عملياً للسلامة في الوقت الفعلي لتطبيقات الذكاء الاصماعي التوليدي، مما يسمح للمنصات بحظر المحتوى المخالف قبل رندرة الصورة بالكامل، مما يوفر الموارد الحسابية ويمنع عرض المخرات الضارة.

القيود:

• محاكاة الأسلوب (Style Mimicry): يواجه النهج صعوبة في التعامل مع محاكاة الأسلوب الفني مقارنة بالوجوه أو الملكيات الفكرية المحددة. ويعزى ذلك إلى طبيعة تشابه جيب التمام، الذي يجد صعوبة في التمييز بين الاختلافات الأسلوبية الدقيقة مقارنة بالميزات الدلالية الواضحة.
• تدهور الجودة: في بعض الحالات (تحديداً Qwen-Image)، أدى تطبيق x-pred في الخطوات المتأخرة جداً إلى تدهور طفيف في جودة إعادة البناء، رغم أن ذلك لم يؤثر بشكل كبير على قرار التصفية.

العمل المستقبلي:
يقترح المؤلفون تحسين البنية للتعامل مع عشرات الآلاف من المراجع وتحسين اكتشاف محاكاة الأسلوب، ربماً من خلال تجاوز مجرد تشابه جيب التمام للبحث عن ميزات أسلوبية أكثر تحديداً.