ملخص تقني: حماية توليد الصور من النص عبر تحسين الضجيج-المطالبة (PNO) أثناء الاستدلال

1. بيان المشكلة

تعد نماذج الانتشار (Diffusion Models) من "النص إلى الصورة" (T2I)، رغم قدرتها على إنتاج صور عالية الجودة والمتنوعة، عرضة لإنتاج محتوى غير آمن يحتوي على مواد حساسة أو غير لائقة بسبب التحيزات الموروثة من مجموعات البيانات الضخمة وغير المفلترة. تواجه آليات السلامة الحالية قيوداً كبيرة:

• تصفية البيانات وإعادة التدريب: عملية مكلفة حاسوبياً وغالباً ما تفشل في إزالة كافة المحتوى غير الآمن.
• الضبط الدقيق (Fine-tuning): يتطلب موارد ضخمة، ويعاني من ضعف التعميم على المطالبات غير المرئية، ويخاطر بتدهور جودة الصورة.
• التدخلات أثناء الاستدلال (التوجيه/التعديل): الطرق مثل "المطالبة السلبية" (Negative Prompting) أو تعديل النماذج غالباً ما يسهل تجاوزها وتفتقر إلى المتانة ضد الهجمات العدائية.
• الصراع الجوهري: هناك توتر متأصل بين الاتباع الأمين لمطالبات المستخدم وتجنب المخرجات غير الآمنة. تفشل الطرق الحالية غالباً في موازنة هذه الأهداف، فإما أن تضحي بالسلامة أو تنحرف بشكل كبير عن الدلالات المقصودة.

علاوة على ذلك، فإن أنظمة (T2I) معرضة بشدة للهجمات العدائية حيث يتم صياغة مطالبات خبيثة للالتفاف على فلاتر السلامة. يحدد البحث فجوة حرجة: لا يوجد نهج قوي، خالٍ من التدريب، يعمل بفعالية على كبح التوليد السام مع الحفاظ على توافق عالٍ بين المطالبة والصورة دون الحاجة إلى إعادة تدريب مكثفة للنماذج.

2. المنهجية: تحسين الضجيج-المطالبة (PNO)

يقترح المؤلفون تحسين الضجيج-المطالبة (PNO)، وهو إطار عمل مبتكر وخالٍ من التدريب يعمل خلال مرحلة الاستدلال. يعامل PNO توليد الصور الآمنة كمسألة تحسين، حيث يقوم بضبط مكونين أساسيين في عملية أخذ عينات الانتشار بشكل مشترك:

2.1. متغيرات التحسين

بدلاً من تعديل أوزان النموذج أو النص المتقطع، يقوم PNO بالتحسين في مساحات مستمرة:

1. تضمين المطالبة المستمر ($c$): التمثيل الكامن لمطالبة النص (مثل CLIP). يسمح التحسين في هذا الفضاء المستمر بتحكم أدق في الدلالات مقارنة بتعديل النص المتقطع.
2. مسار الضجيج المحقون ($\tau = \{x_T, z_T, \dots, z_1\}$): تسلسل عينات الضجيج المستخدمة أثناء عملية إزالة الضجيج (تحديداً في أخذ عينات DDIM). يتحكم مسار الضجيج في التفاصيل منخفضة المستوى والتحقق المحدد للصورة.

2.2. دالة الهدف

الهدف هو تقليل دالة خسارة السمية مع الحفاظ على الطبيعة الغاوسية للضجيج والحفاظ على التوافق مع المطالبة الأصلية. تُصاغ مسألة التحسين كالتالي:
$$\min_{c, \tau} L_{toxic}(x_0) + \lambda L_{reg}(\tau)$$
بشرط:
$$x_0 = \text{DDIM}(c, \tau)$$

• $L_{toxic}(x_0)$: دالة خسارة تقيس عدم ملاءمة الصورة المولدة $x_0$، وتُقاس عادةً بواسطة مصنف سلامة صور مدرب مسبقاً (مثل Q16).
• $L_{reg}(\tau)$: حد تنظيم يضمن بقاء مسار الضجيج المحسن قريباً من التوزيع الغاوسي القياسي، مما يمنع عملية التوليد من عدم الاستقرار.
• $\lambda$: معامل فائق يتحكم في قوة التنظيم.

2.3. الخوارزمية

يستخدم PNO حلقة تحسين قائمة على التدرج (الخوارزمية 2):

1. التهيئة: تهيئة تضمين المطالبة $c$ من نص المستخدم ومسار الضجيج $\tau$ عبر أخذ عينات عشوائية.
2. أخذ العينات: توليد صورة $x_0$ باستخدام أخذ عينات DDIM مع $c$ و $\tau$ الحاليين.
3. التقييم: حساب خسارة السمية وخسارة التنظيم.
4. التحديث: حساب التدرجات بالنسبة لكل من $c$ و $\tau$ وتحديثهما باستخدام مُحسن (مثل Adam).
5. الإنهاء: تتكرر العملية حتى تنخفض خسارة السمية عن حد معين أو يتم الوصول إلى الحد الأقصى من التكرارات.

2.4. التبرير النظري للتحسين المشترك

يجادل البحث بأن تحسين المطالبة فقط أو الضجيج فقط هو أمر غير أمثل:

• الضجيج فقط: يمكنه فقط تعديل التفاصيل منخفضة المستوى. إذا كان تضمين المطالبة يشفر مفهوماً ساماً، فإن اضطراب الضجيج لا يمكنه إزالة السمية الدلالية عالية المستوى.
• المطالبة فقط: يمكنها إزالة السمية ولكنها غالباً ما تتطلب انحرافات كبيرة في فضاء التضمين، مما يؤدي إلى فقدان كبير في التوافق الدلالي مع المطالبة الأصلية.
• التحسين المشترك: من خلال استخدام كلا الاتجاهين، يمكن لمسار الضجيج امتصاص جزء من "تدرج السمية"، مما يسمح لتضمين المطالبة بالتحرك فقط بالقدر اللازم للهروب من المنطقة السامة. ينتج عن ذلك مقايضة متفوقة بين السلامة والتوافق.

3. المساهمات الرئيسية

1. إطار عمل مبتكر: تقديم PNO، وهو أول نهج يستفيد من التحسين في وقت الاستدلال لكل من تضمينات المطالبة ومسارات ضجيج الانتشار لتعزيز سلامة (T2I) دون إعادة تدريب النموذج.
2. اكتشاف التآزر: إثبات التآزر النظري والتجريبي بين تضمينات المطالبة (التي تتحكم في "ماذا" يتم توليده) ومسارات الضجيج (التي تتحكم في "كيفية" رندرة ذلك) في تحقيق أهداف السلامة.
3. المتانة: إثبات أن PNO متين ضد الهجمات العدائية المصممة لتجاوز آليات السلامة الحالية.
4. التوافق الأمثل: تقديم دليل تجريبي يظهر أن PNO يحقق جبهة باريتو (Pareto frontier) متفوقة على الطرق الحالية، حيث يوازن بين سلامة الصورة والتوافق مع المطالبة بشكل أفضل من أي خط أساس آخر.
5. الكفاءة: منهج خالٍ من التدريب لا يتسبب إلا في تكاليف استدلال هامشية مقارنة بالمتطلبات الموردية الثقيلة للضبط الدقيق أو إعادة التدريب.

4. النتائج التجريبية

قيم المؤلفون PNO على مجموعة بيانات I2P (المطالبات السامة الطبيعية) ومجموعة بيانات Ring-a-bell (المطالبات العدائية) باستخدام Stable Diffusion 1.5 (SD1.5) كنموذج أساسي.

4.1. تقليل السمية

• مجموعة بيانات I2P: حقق PNO توليدات آمنة بنسبة تقارب 100% عبر معظم الفئات، متفوقاً بشكل كبير على خطوط الأساس مثل SafeGen و SalUn و UCE وطرق الاستدلال مثل SLD و Negative Prompting.
• المتانة العدائية: في مجموعة بيانات Ring-a-bell، خفض PNO نسبة السمية إلى 0.00% (مقياس Q16)، بينما عانت الطرق الأخرى بشكل كبير، وغالباً ما أنتجت صوراً غير آمنة بمعدلات مماثلة أو أعلى من النموذج الأساسي.
• التعميم: ظلت النتائج ثابتة عند التقييم باستخدام نماذج لغوية-بصرية (VLMs) مستقلة والتحقق المتبادل مع مصنفات سلامة مختلفة (MHSC)، مما ينفي احتمالية "اختراق المكافأة" (reward hacking) ضد مقيم واحد.

4.2. الجودة والتوافق

• درجة CLIP: حافظ PNO على درجات CLIP عالية (التوافق بين النص والصورة)، مما يثبت أن فرض السلامة لم يأتِ على حساب تجاهل مطالبة المستخدم.
• المقايضة: شكلت إعدادات PNO (عبر تغيير معدلات التعلم) جبهة باريتو مهيمنة، حيث قدمت مقايضات أفضل بين السلامة والتوافق مقارنة بأي طريقة أخرى تم تقييمها.
• الكفاءة: وصل PPNO إلى التوليدات الآمنة في غضون 3 تكرارات (أقل من 20 ثانية) لأكثر من 60% من المطالبات. وهو لا يتطلب بيانات تدريب إضافية أو ضبطاً دقيقاً للنموذج، ويعمل بفعالية على وحدات معالجة الرسوميات الاستهلاكية.

4.3. دراسات الاستئصال (Ablation Studies)

• المشترك مقابل المنفرد: تفوق التحسين المشترك للضجيج والمطالبة بشكل كبير على تحسين أي من المكونين بمفرده، محققاً سمية تقترب من الصفر مع توافق معقول وعدد أقل من التكرارات.
• التهيئة: أدى البحث العشوائي عن مسار الضجيج الأولي إلى تحسين الأداء عبر جميع المقاييس.
• حجم الخطوة: قللت خطوات الحجم الأكبر من السمية بشكل أسرع، بينما أعطت الخطوات الأصغر الأولوية للتوافق، مما يوفر مرونة لمختلف أولويات المستخدم.

5. الأهمية والادعاءات

يزعم البحث أن PNO يمثل خطوة كبيرة للأمام في جعل نماذج انتشار (T2I) جديرة بالثقة. تكمن أهميته الأساسية في:

• سلامة خالية من التدريب: يقدم حلاً عملياً وقابلاً للنشر لا يتطلب التكاليف الباهظة لإعادة تدريب أو ضبط النماذج الكبيرة.
• المتانة: يعالج الثغرة الحرجة في الأنظمة الحالية تجاه الهجمات العدائية، مما يوفر آلية دفاع يصعب تجاوزها.
• التحسين المتوازن: يحل الصراع بين السلامة والمنفعة من خلال الاستفادة من التحكم المتعامد الذي توفره مسارات الضجيج وتضمينات المطالبة، محققاً مستوى من الحفاظ على التوافق لم تستطع تدخلات السلامة السابقة تحقيقه.

يخلص المؤلفون إلى أن PNO لديه القدرة على أن يصبح نهجاً معيارياً لتوليد الصور الآمنة، مع التركيز في العمل المستقبلي على تحسين سرعة الاستدلال وتطوير دوال هدف أكثر متانة لتقييم السلامة.