🤖 AI

Localized Concept Erasure in Text-to-Image Diffusion Models via High-Level Representation Misdirection

تقترح هذه الورقة تقنية "تضليل التمثيل عالي المستوى" (HiRM)، وهي مفهوم جديد لمحو المفاهيم يعمل على تضليل التمثيلات الدلالية عالية المستوى للمفاهيم المستهدفة بشكل انتقائي داخل الطبقات المبكرة لمشفر النصوص، وذلك بهدف كبح المحتوى الضار أو المحمي بحقوق الطبع والنشر بفعالية مع الحفاظ على الجودة التوليدية للمفاهيم غير ذات الصلة وضمان التوافق مع بنيات النماذج المتنوعة.

المؤلفون الأصليون: Uichan Lee, Jeonghyeon Kim, Sangheum Hwang

نُشر 2026-02-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Uichan Lee, Jeonghyeon Kim, Sangheum Hwang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك استوديو فنون سحرياً (نموذج تحويل النص إلى صورة بالذكاء الاصطناعي) يمكنه رسم أي شيء تصفه. إذا قلت "قطة"، سيرسم قطة. وإذا قلت "لوحة لفان جوخ"، سيرسم لوحة فنية رائعة.

ولكن هناك مشكلة: أحياناً يستخدم الناس هذا الاستوديو لرسم أشياء لا ينبغي لهم رسمها، مثل الأعمال الفنية المحمية بحقوق النشر، أو الصور الخاصة، أو المحتوى غير اللائق (NSFW). ولإيقاف ذلك، يحاول المطورون "محو تعلم" هذه المفاهيم السيئة حتى ينساها الذكاء الاصطناعي.

الطريقة القديمة: نهج "القوة الغاشمة" (Brute Force)

في السابق، كان محاولة جعل الذكاء الاصطناعي ينسى شيئاً ما تشبه محاولة إصلاح محرك سيارة مكسور عن طريق تفكيك السيارة بأكملها وصنفرة تروسها.

المشكلة: إذا حاولت إزالة "فان جوخ" عن طريق تعديل المحرك الرئيسي (مولد الصور)، فقد تعطل بالخطأ القدرة على رسم "القطط" أو "الشموس". يصاب الذكاء الاصطناعي بالارتباك ويبدأ في رسم فوضى غريبة وضبابية. إنها عملية فوضوية، مكلفة، وبطيئة، وغالباً ما تفسد الأشياء الجيدة أثناء محاولة إصلاح الأشياء السيئة.

الفكرة الجديدة: "أمين المكتبة الذكي" (HiRM)

تقدم هذه الورقة البحثية طريقة جديدة تسمى HiRM (تضليل التمثيل عالي المستوى). بدلاً من تحطيم المحرك، يعمل HiRM كـ أمين مكتبة ذكي يعرف بالضبط مكان تخزين "الكتب السيئة" على الرفوف.

إليك كيف يعمل HiRM، باستخدام تشبيه بسيط:

1. المكتبة ذات الجزئين

تخيل أن عقل الذكاء الاصطناعي يتكون من قسمين رئيسيين:

القبو (الطبقات المبكرة): هذا هو المكان الذي تُخزن فيه المكونات الخام. هو يعرف شكل "الأحمر"، أو "المستدير"، أو "الفروي". إنه الأساس.
الطابق العلوي (الطبقات المتأخرة): هذا هو المكان الذي يتم فيه تجميع المعنى. يأخذ "فروي" + "أربع أرجل" + "ينبح" ويقرر: "آه، هذا كلب".

2. خطأ الماضي

حاولت الأساليب السابقة مسح مفهوم "الكلب" عبر الذهاب إلى القبو ومحاولة حذف مفهوم "الفرو" أو "الأرجل الأربعة".

النتيجة: الآن، لا يستطيع الذكاء الاصطناعي رسم الكلاب، ولكنه أيضاً لا يستطيع رسم القطط أو الدببة أو الأرانب لأنها جميعاً تشترك في تلك "المكونات الفروية" نفسها. تصبح المكتبة بأكملها فوضوية.

3. استراتيجية HiRM: "التضليل"

HiRM ذكي. فهو يدرك أن المعنى لـ "الكلب" لا يكتمل تماماً إلا في الطابق العلوي.

الخطة: يذهب HiRM إلى القبو (حيث توجد المكونات) ويجري تعديلاً دقيقاً للغاية. هو لا يحذف المكونات؛ بل يغير فقط التعليمات الخاصة بكيفية إرسالها إلى الطابق العلوي.
الخدعة السحرية: عندما يحاول الذك_الاصطناعي التفكير في "كلب"، يهمس HiRM سراً إلى الطابق العلوي: "مهلاً، لا تفكر في 'كلب'. بدلاً من ذلك، فكر في 'ضجيج عشوائي' أو 'حيوان عام'."

لأن HiRM قام فقط بتعديل التعليمات في القبو، يتلقى الطابق العلوي رسالة مربكة. يحاول بناء "كلب"، لكن التعليمات تقول "لا تبنِ كلباً". وهكذا، يتلاشى مفهوم "الكلب".

الأمر الحاسم: نظرًا لأن مكونات القبو (الفرو، الأرجل، العيون) لم تُحذف، فلا يزال بإمكان الذكاء الاصطناعي بناء "قطة" أو "دب" بشكل مثالي باستخدام تلك المكونات نفسها. لقد تم فقط تضليل تعليمات "الكلب"، وليس المكونات نفسها.

لماذا يعد هذا أمراً هاماً؟

الدقة: يشبه الأمر إزالة توابل معينة من وصفة دون تغيير القدر أو الموقد. ستحصل على نتيجة خالية من الطعم "الحار"، لكن الحساء سيظل رائعاً.
السرعة والتكلفة: إنه سريع للغاية. بدلاً من إعادة تدريب الذكاء الاصطناعي بالكامل (وهو ما يستغرق أياماً وحواسيب عملاقة)، يقوم HiRM فقط بتعديل جزء صغير من معالج النصوص. إنه يشبه تغيير سطر واحد من الكود في برنامج ضخم.
تعدد الاستخدامات: نظرًا لأنه يغير فقط "أمين المكتبة" (مشفر النص)، يمكنك أخذ هذا الإصلاح وتطبيقه على أي نسخة من استوديو الفنون، حتى الأحدث والأقوى منها (مثل Flux)، دون الحاجة لإعادة تدريبها.
الأمان: يعمل بشكل رائع ضد محاولات "كسر الحماية" (jailbreak). حتى لو حاول شخص ما خداع الذكاء الاصطناعي بطلبات غريبة لرسم العري أو الفن المحمي بحقوق النشر، فإن "تضليل" HiRM يمنع الذكاء الاصطناعي من اتباع الأوامر السيئة، بينما يسمح له برسم صور جميلة وآمنة.

الخلاصة

HiRM هو أداة جراحية. بدلاً من تقطيع الآلة بأكملها لإزالة فكرة سيئة واحدة، فإنه يقوم بلطف بتوجيه أفكار الذكاء الاصطناعي في اللحظة التي يتشكل فيها المفهوم. إنه يمنع حدوث الأشياء السيئة مع الحفاظ على الأشياء الجيدة (الإبداع، الجودة، والسرعة) سليمة تماماً.

إليك ملخص تقني مفصل لورقة البحث بعنوان "محو المفاهيم الموضعي في نماذج الانتشار من النص إلى الصورة عبر تضليل التمثيلات عالية المستوى" (HiRM).

1. بيان المشكلة

تنطوي نماذج الانتشار (Diffusion Models) من النص إلى الصورة (T2I) على مخاطر كبيرة تتعلق بتوليد محتوى ضار أو خاص أو محمي بحقوق الطبع والنشر. وبينما تم تطوير تقنيات محو المفاهيم (concept erasure) للتخفيف من هذه المخاطر، تواجه الأساليب الحالية قيوداً حرجة:

المفاضلة بين المحو والمنفعة: معظم الأساليب تقوم بضبط دقيق (fine-tuning) للنموذج الأساسي لإزالة الضجيج (U-Net)، مما يؤدي غالباً إلى "تحطم التمثيلات" (representation shattering)، وهو ما يقلل من جودة الصور غير المتعلقة بالمفهوم المراد محوه.
التكلفة الحسابية العالية: تتطلب الأساليب القائمة على التدريب عمليات ضبط دقيق مكثفة، مما يجعلها مكلفة وصعبة النشر.
عدم الفعالية مع المفاهيم المجردة: غالباً ما تفشل الأساليب القائمة على مشفر النصوص (مثل Diff-QuickFix) في إزالة المفاهيم المجردة عالية المستوى مثل المحتوى غير اللائق جنسياً (NSFW/العري)، لأنها تعدل الطبقات المبكرة فقط دون معالجة المعنى الدلالي المتكامل الذي يتشكل في الطبقات اللاحقة.
الافتقار إلى القابلية للنقل: العديد من أساليب المحو مرتبطة بهيكلية معينة (مثل U-Net) ولا تنتقل بسهء إلى الهيكليات الأحدث مثل Flux أو النماذج المعدلة بواسطة LoRA.

2. المنهجية: تضليل التمثيل عالي المستوى (HiRM)

يقترح المؤلفون HiRM، وهو إطار عمل مبتكر لمحو المفاهيم يقوم بفصل موقع تحديث النموذج عن هدف المحو الدلالي.

الرؤية الجوهرية

تكشف دراسات التتبع السببي (causal tracing) الحديثة أن:

السمات البصرية (السمات منخفضة المستوى) تتركز في الطبقات المبكرة (تحديداً أول كتلة ترانسفورمر) من مشفر CLIP النصي.
المفاهيم الدلالية عالية المستوى (المعاني المتماسكة) تتكامل وتظهر في الطبقات النهائية للمشفر النصي.

استراتيجية HiRM

تستفيد HiRM من هذه الرؤية عبر تطبيق استراتيجية "التضليل":

موقع التحديث: تقوم بتحديث فقط بارامترات ( $\theta_1$ ) لأول كتلة ترانسفورمر في مشفر CLIP النصي. بينما يظل باقي النموذج (بما في ذلك U-Net وطبقات مشفر النصوص اللاحقة) ثابتاً.
هدف المحو: تحدد هدف المحو بناءً على التمثيلات عالية المستوى ( $h^{(L)}$ ) للكتلة النهائية.
الآلية: تدرب الطريقة الكتلة الأولى لتوجيه تمثيلات الرموز (tokens) للكتلة النهائية للمفهوم المستهدف نحو "متجهات تضليل" محددة.

تقترح الورقة نوعين من متجهات التضليل:

HiRM-R (العشوائي): يوجه التمثيلات النهائية للرموز المستهدفة نحو متجهات عشوائية غير مرتبطة بمفهوم معين. وهذا يعمل بفعالية على كبح المفهوم عبر دفعه خارج النطاق الدلالي (semantic manifold).
HiRM-S (الدلالي): يوجه التمثيلات النهائية نحو اتجاه محدد دلالياً، مثل فئة عليا (مثلاً: تحويل "فان جوخ" $\leftarrow$ "لوحة") أو متجه سلامة (للمفاهيم غير اللائقة جنسياً). بالنسبة للمحتوى غير اللائق، يتم بناء متجه سلامة عبر طرح تمثيل تجريبي للعري من تمثيل مطالبة عامة.

دالة الخسارة (Loss Function)

تقلل دالة الخسارة المسافة بين مخرج الكتلة النهائية ( $h^{(L)}_t$ ) ومتجه التضليل المستهدف ( $\hat{v}_t$ )، مع ضربه في معامل توجيه $c$ :
$\mathcal{L} = \frac{1}{T} \sum_{t=1}^{T} \| h^{(L)}_t - c \cdot \hat{v}_t \|^2$
ومن الأهمية بمكان أن التدرجات (gradients) يتم تمريرها رجعياً فقط إلى بارامترات الكتلة الأولى ( $\theta_1$ )، مما يضمن بقاء قدرات استخراج السمات الأساسية للنموذج سليمة للمفاهيم غير المستهدفة.

3. المساهمات الرئيسية

استراتيجية محو منفصلة: تعد HiRM أول طريقة تفصل صراحة بين موقع التحديث (الطبقات المبكرة) وهدف الإشراف (الدلالات عالية المستوى)، مما يحقق محواً دقيقاً دون "تحطم التمثيلات".
كفاءة عالية وقابلية للنقل: من خلال تعديل مشفر النصوص المشترك فقط، فإن HiRM مستقل عن الهيكلية (model-agnostic). وهي تنتقل بسلاسة إلى الهيكليات الحديثة مثل Flux ونماذج LoRA-tuned دون الحاجة لضبط دقيق إضافي لنموذج إزالة الضجيج (denoiser).
رقعة سلامة تآزرية: تعمل HiRM كـ "رقعة سلامة" نموذجية يمكن دمجها مع أساليب المحو القائمة على إزالة الضجيج (مثل ESD و CA)، مما يعزز بشكل كبير المتانة ضد الهجمات العدائية مع الحفاظ على المنفعة التوليدية.
تقييم شامل: تم التحقق من فعالية الطريقة عبر اختبارات متنوعة تشمل UnlearnCanvas (الأنماط والأشياء)، و I2P (المحتوى غير اللائق)، وبيئات هجوم عدائية مختلفة (Ring-A-Bell, MMA-Diffusion).

4. النتائج التجريبية

قيم المؤلفون HiRM مقابل 11 نموذجاً أساسياً (سواء كانت قائمة على التدريب أو خالية من التدريب) عبر مقايسات متعددة.

UnlearnCanvas (الأنماط والأشياء):
- حققت HiRM-S متوسط دقة (AA) بنسبة 96.94% لمحو الأنماط و 96.94% لمحو الأشياء، متفوقة على معظم النماذج الأساسية.
- على عكس الأساليب الأخرى التي تعاني من مقايضة (دقة محو عالية مقابل احتفاظ منخفض)، حافظت HiRM على درجات احتفاظ عالية في النطاق الداخلي (IRA) والنطاق المتقاطع (CRA) (على سبيل المثال، >97% للأنماط)، مما يثبت حفاظها على جودة توليد المحتوى غير المستهدف.
- الكفاءة: تطلبت HiRM فقط 1.20 ثانية من وقت التدريب و 1.60 جيجابايت من الذاكرة، وهي أسرع وأخف بكثير من طرق ضبط U-Net (على سبيل المثال، استغرق ESD حوالي 7372 ثانية).
المحتوى غير اللائق (NSFW) والمتانة العدائية:
- في اختبار I2P، أظهرت HiRM-R و HiRM-S متانة فائقة ضد الهجمات ذات الصندوق الأسود (Ring-A-Bell) مقارنة بـ Diff-QuickFix.
- حققت HiRM-S نسبة نجاح هجوم بلغت 0.66% في اختبار Ring-77، ودرجة CLIP بلغت 0.66 على COCO-1k، مما يشير إلى سلامة قوية دون التضحية بجودة الصورة.
- التقييم بواسطة MLLM: عند التقييم بواسطة نموذج لغوي بصري كبير (InternVL2.5)، احتلت HiRM-R المركز الأول بين جميع الأساليب من حيث درجات السلامة، متفوقة حتى على النماذج القوية مثل RECE.
القابلية للنقل:
- عند تطبيقها مباشرة على Flux1.dev (محول التدفق المصحح)، قللت HiRM-R من توليد المحتوى غير اللائق بنسبة ~50% مع الحفاظ على درجة CLIP الأصلية، مما أثبت قابلية النقل بنمط "الصفر تدريب" (zero-shot transferability).
- عند دمجها مع الأساليب القائمة على إزالة الضجيج (مثل ESD + HiRM-R)، انخفضت نسبة نجاح الهجوم من 41.05% إلى 12.63%، مما يظهر تأثيراً تآزرياً قوياً.

5. الأهمية والأثر

تغيير النموذج الفكري: تتحدى HiRM المفهوم السائد بأن محو المفاهيم يتطلب ضبطاً دقيقاً ثقيلاً لنموذج إزالة الضجيج. فهي تثبت أن التدخل المستهدف في مشفر النصوص كافٍ وأكثر كفاءة.
التوازن بين السلامة والمنفعة: تحل معضلة "المنفعة مقابل السلامة" الحرجة، وهي عقبة رئيسية في نشر الذكاء الاصطناعي التوليدي الآمن. فهي تسمح للمنصات بإزالة المفاهيم الضارة (مثل العري أو أنماط حقوق الطبع والنشر المحددة) دون تقليل قدرة النموذج على توليد محتوى عالي الجودة وغير متعلق بها.
القابلية للتوسع: التكلفة الحسابية المنخفضة والنمطية تجعل HiRM "رقعة سلامة" عملية يمكن نشرها بسهولة عبر عائلات النماذج المختلفة (SD, Flux, LoRA variants) وتحديثها ديناميكياً مع ظهور تهديدات جديدة.
الاتجاهات المستقبلية: يقترح المؤلفون أن العمل المستقبلي قد يتضمن استخدام أوزان أهمية مستوى الرمز (token-level importance weighting) لزيادة دقة عملية المحو وتوسيع الطريقة لتشمل المطالبات التركيبية المعقدة.

باختأصار، تمثل HiRM تقدماً كبيراً في مجال "إلغاء التعلم الآلي" (machine unlearning) لنماذج الانتشار، حيث تقدم حلاً خفيف الوزن، قابلاً للنقل، وفعال للغاية لإزالة المفاهيم الضارة مع الحفاظ على القدرات التوليدية للنموذج.