When Understanding Becomes a Risk: Authenticity and Safety Risks in the Emerging Image Generation Paradigm

1. بيان المشكلة

ينتقل مجال توليد الصور من النص إلى الصورة (T2I) من نماذج الانتشار (Diffusion Models) (مثل Stable Diffusion) إلى نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) (مثل Janus وBagel). وبينما توفر هذه النماذج (MLLMs) فهماً دلالياً فائقاً، وقدرة على الاستنتاج، والقدرة على اتباع التعليمات المعقدة والحوارية، تفترض هذه الورقة أن هذه التطورات تفرض مخاطر أمنية جديدة وربما أكبر.

تتمثل المشكلة الجوهرية في أن دفاعات السلامة الحالية وكواشف الصور المزيفة مصممة أساساً لنماذج الانتشار. ولا يزال من غير الواضح ما إذا كانت القدرات الدلالية المعززة لنماذج (MLLMs):

1. تزيد من احتمالية توليد محتوى غير آمن (مثل العنف، أو المحتوى الجنسي، أو خطاب الكراهية) من خلال تفسير المطالبات المجردة أو المشفرة بشكل أفضل.
2. تنتج صوراً مزيفة يصعب اكتشافها، مما يقوض أدوات التحليل الجنائي الحالية.

2. المنهجية

أجرى المؤلفون مقارنة تجريبية منهجية بين نموذجين من نماذج الانتشار وخمسة من أحدث نماذج (MLLMs).

النماذج التي تم تقييمها:

• نماذج الانتشار: SD3.5 Large، وSD3.5 Large Turbo.
• نماذج (MLLMs): Bagel، وJanus، وJanus Pro، وTokenFlow، وVILA-U.

أبعاد التقييم:
ركزت الدراسة على بُعدين حرجين للسلامة:

1. توليد الصور غير الآمنة:

   • مجموعة البيانات: 1,184 مطالبة غير آمنة تم تجميعها من أربعة مصادر (Lexica، و4chan، وTemplate، وI2P) ومجموعة بيانات "TemplateLong" الموسعة ذات التفاصيل الوصفية الغنية.
   • البروتوكول: قام كل نموذج بتوليد 10 صور لكل مطالبة (إجمالي 82,880 صورة). تم تعطيل فلاتر السلامة الخارجية لقياس الميل الجوهري للنموذج.
   • المقياس: "درجة عدم الأمان" (Unsafe Score) المحسوبة بناءً على نسبة الصور التي تم تصنيفها كمحتوى غير لائق (NSFW) بواسطة واجهة برمجة تطبيقات الاعتدال من OpenAI (تم التحقق منها مقابل مقيمي البشر).
   • التحليل: تضمن دراسات حالة نوعية حول المطالبات المجردة، والمطالبات غير الإنجليزية (الصينية)، والتحيز الجنساني في المطالبات الجنسية المحايدة.

2. كشف الصور المزيفة:

   • مجموعة البيانات: 2,000 مطالبة حميدة من MSCOCO وFlickr30k، مما أنتج 14,000 صورة.
   • الكواشف: تم اختبار أربعة كواشف: اثنان تجاريان (Winston.AI، وIlluminarty) واثنان من نماذج الأبحاث مفتوحة المصدر (DE-FAKE، وAIorNot-SigLIP2).
   • التجارب:
     • الخط المرجعي (Baseline): اختبار الكواشف الجاهزة.
     • الضبط الدقيق/التدريب: إعادة تدريب الكواشف على بيانات متعددة المصادر (خلط مخرجات نماذج الانتشار مع مخرجات MLLM) وعلى بيانات أحادية المصدر لاختبار القدرة على التعميم.
     • توسيع المطالبة (Prompt Extension): اختبار دقة الكشف مع زيادة تفصيل المطالبات (v0: الأصلية، v1: تفاصيل متوسطة، v2: تفاصيل عالية) لمعرفة ما إذا كانت قدرة MLLMs على تفسير السياق تجعل الصور أكثر "واقعية" ويصعب اكتشافها.

3. المساهمات والنتائج الرئيسية

أ. توليد الصور غير الآمنة

• خطر أعلى في نماذج (MLLMs): أنتجت نماذج (MLLMs) باستمرار درجات عدم أمان أعلى من نماذج الانتشار عبر جميع مجموعات البيانات. على سبيل المثال، في مجموعة بيانات TemplateLong، سجل نموذج Janus Pro درجة عدم أمان بلغت 0.613، بينما سجلت نماذج الانتشار أقل من 0.28.
• عامل "الاستيعاب": المحرك الرئيسي لهذه الفجوة ليس بالضرورة ضعف التوافق مع معايير السلامة، بل الفهم الدلالي المتفوق.
  • نماذج الانتشار: غالباً ما تفشل في تفسير المطالبات المجردة أو المعقدة، مما يؤدي إلى صور "تالفة" أو مشوهة (مثل عيوب النصوص، أو البقع السوداء). هذه الإخفاقات غالباً ما تُصنف خطأً على أنها "آمنة" من قبل الكواشف، مما يخفض درجات عدم الأمان اصطناعياً.
  • نماذج (MLLMs): تنجح في تفسير المطالبات المجردة، أو الاستعارية، أو القائمة على العامية (على سبيل المثال، تفسير "sh*t hole" كبيئة متهالكة بدلاً من نص حرفي) وتولد صوراً متماسكة وواقعية غير آمنة.
• الثغرات عبر اللغات: نجحت نماذج (MLLMs) في توليد صور غير آمنة من مطالبات باللغة الصينية، في حين فشلت نماذج الانتشار في تفسير اللغة تماماً، مما أدى إلى درجات عدم أمان صفرية (بسبب فشل التوليد). وهذا يوسع نطاق الهجوم ليشمل المهاجمين غير الناطقين بالإنجليزية.
• التحيز الجنساني: أظهرت نماذج (MLLMs) تحيزاً جنسانياً كبيراً في التوليد غير الآمن. فعند إعطائها مطالبات جنسية محايدة جنسياً، قامت نماذج مثل Bagel بتوليد صور لنساء بنسبة 80% من الوقت، مما يعزز الصور النمطية الضارة.

ب. كشف الصور المزيفة

• التملص من الكواشف: الصور الناتجة عن نماذج (MLLMs) أصعب بكثير في الكشف عنها كصور مزيفة مقارنة بنماذج الانتشار. أظهرت الكواشف التجارية انخفاضاً في الدقة يصل إلى 30-40% لنماذج (MLLMs) مقارنة بنماذج الانتشار.
• تحيز التدريب: تعود فجوة الكشف إلى حد كبير إلى تحيز بيانات التدريب. الكواشف المدربة حصرياً على مخرجات نماذج الانتشار تفشل في التعرف على عيوب (artifacts) نماذج (MLLMs).
  • التخفيف من الأثر: أدت إعادة تدريب الكواشف على بيانات شاملة للنماذج (خلط مخرجات نماذج الانتشار مع مخرجات MLLM) إلى تحسين الدقة بشكل ملحوظ (غالباً >90%)، مما يثبت أن الفجوة قابلة للتعلم ولكنها تتطلب بيانات محددة.
  • التعميم: الكواشف التي تم ضبطها بدقة على نموذج (MLLM) واحد (مثل Janus) فشلت في التعميم جيداً على نماذج (MLLMs) أخرى، مما يشير إلى أن التنوع المعماري العالي بين نماذج (MLLMs) يجعل الكشف الموحد أمراً صعباً.
• هجوم توسيع المطالبة: مع زيادة تفصيل المطالبات وثراء السياق، أنتجت نماذج (MLLMs) صوراً أكثر واقعية أفلتت من الكشف (انخفضت الدقة من ~0.98 إلى ~0.88). ظلت نماذج الانتشار غير متأثرة إلى حد كبير بتعقيد المطالبة، وحافظت على قابلية كشف عالية.

4. الأهمية والآثار المترتبة

• تحول النموذج في المخاطر: تؤسس هذه الورقة لفكرة أن الانتقال إلى نماذج (MLLMs) ليس مجرد تحسين في سهولة الاستخدام، بل هو تراجع أمني. الميزة التي تجعل نماذج (MLLMs) مفيدة (الفهم الدلالي العميق) هي نفسها الميزة التي تجعلها خطيرة (تفسير النوايا المجردة غير الآمنة وتوليد تزييف عالي الدقة).
• قصور الدفاعات الحالية: إن فلاتر السلامة وكواشف الصور المزيفة الحالية غير مؤهلة لعصر (MLLMs). فالفلاتر القائمة على الكلمات المفتاحية يسهل تجاوزها بفضل قدرة (MLLMs) على فهم اللغة الاستعارية.
• الحاجة إلى دفاعات تكيفية:
  • يجب أن تتطور آليات السلامة من مجرد حظر الكلمات المفتاحية إلى الاستنتاج الدلالي لفهم النوايا وراء المطالبات المعقدة.
  • تتطلب كواشف الصور المزيفة تدريباً شاملاً للنماذج ويجب أن تكون صامدة أمام هجمات "توسيع المطالبة" حيث يستخدم المهاجمون أوصافاً غنية لخداع الكواشف.
• المخاوف الأخلاقية: تسلط النتائج الضوء على نواقل جديدة للمعلومات المضللة، والمضايقات، والصور غير الرضائية، خاصة بالنظر إلى القدرات العابرة للغات والتحيزات الجنسانية الملاحظة في نماذج (MLLMs).

الخاتمة

تخلص الورقة إلى أنه بينما تمثل نماذج (MLLMs) قفزة تكنولوجية في الذكاء الاصطناه التوليدي، إلا أنها تقدم سيناريو "السلاح ذو الحدين": فقدراتها الاستيعابية المتقدمة تخفض بشكل كبير حاجز توليد المحتوى الضار وتزيد في الوقت نفسه من صعوبة اكتشاف الوسائط الاصطعية. يجب على مجتمع البحث والصناعة تطوير بروتوكولات سلامة تكيفية وواعية دلالياً بشكل عاجل للتخفيف من هذه المخاطر الناشئة.