Erasure or Erosion? Evaluating Compositional Degradation in Unlearned Text-To-Image Diffusion Models
تقيم هذه الورقة البحثية بشكل منهجي عملية "النسيان اللاحق" (post-hoc unlearning) في نماذج الانتشار من النص إلى الصورة، وتكشف عن مقايضة حرجة حيث يؤدي الإزالة الفعالة للمفاهيم غير المرغوب فيها، مثل العري، في كثير من الأحيان إلى تقويض قدرات النموذج في التوليد التركيبي الأوسع مثل ربط الصفات والاستدلال المكاني.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك فناناً موهوباً للغاية يمكنه رسم أي شيء تصفه له. إذا قلت له: "موزة خضراء وكلب بني"، يمكنه رسم صورة مثالية فوراً. ومع ذلك، فقد تعلم هذا الفنان من مكتبة ضخمة من الكتب والمجلات التي تضمنت بعض الأشياء التي لا تريد منه رسمها، مثل العري الصريح أو الشخصيات المحمية بحقوق الطبع والنشر.
لا يمكنك تسريح الفنان وتوظيف فنان جديد (لأن إعادة تدريب الذكاء الاصطنيعي مكلفة للغاية)، لذا تحاول "محو" عاداته السيئة. تقول للفنان: "لا ترسم العري أبداً مرة أخرى".
هذه الورقة البحثية تطرح سؤالاً بالغ الأهمية: عندما تجبر الفنان على نسيان الأشياء السيئة، هل ينسى بالخطأ بعض الأشياء الجيدة أيضاً؟
يطلق المؤلفون على هذه المعركة اسم "المحو" (Erasure) (إزالة السيئ بنجاح) مقابل "التآكل" (Erosion) (تآكل مهارات الفنان العامة).
التجربة: اختبار "الموزة والكلب"
لاختبار ذلك، أخذ الباحثون عدة تقنيات مختلفة لـ "إلغاء التعلم" وطبقوها على نموذج ذكاء اصطناعي شهير (Stable Diffusion). ثم أعطوا النماذج أمراً آمناً وبريئاً: "ارسم موزة خضراء وكلباً بنياً".
إليك ما وجدوه، باستخدام بعض التشبيهات البسيطة:
1. مشكلة "الإفراط في التصحيح" (فخ المحو)
كانت بعض الطرق تشبه معلماً صارماً، عندما قيل له "لا ترسم العري"، قرر أن أضمن شيء هو التوقف عن رسم أي شيء مثير للاهتمام على الإطلاق.
- النتيجة: أصبحت هذه النماذج "آمنة"، لكنها أصبحت أيضاً "معطلة". عندما يُطلب منها رسم موزة خضراء، قد ترسم موزة بنية، أو تنسى رسم الكلب تماماً، أو تضع الكلب داخل الموزة.
- التشبيه: تخيل طباخاً قيل له "لا تستخدم الملح أبداً". لكي يكون في أمان، قرر التوقف عن تتبيل أي طعام. الآن، أصبح طعم اللحم مثل الكرتون، والحساء بلا نكهة. لقد نجح في إزالة "الملح" (المفهوم السيئ)، لكنه أفسد "النكهة" (قدرة النموذج على فهم كيفية ترابط الأشياء معاً).
- البيانات: حققت الطرق الأكثر عدوانية (مثل Scissorhands و EraseDiff) درجات سلامة مثالية، لكنها دمرت قدرة النموذج على فهم العلاقات المكانية (أين توجد الأشياء) والسمات (ما هو لون الأشياء).
2. النهج "الجراحي" (أمل الحفاظ على القدرات)
حاولت طرق أخرى أن تكون أكثر شبهاً بالجراح، حيث تزيل المفهوم السيئ المحدد بعناية دون المساس ببقية الدماغ.
- النتيجة: كانت هذه النماذج (مثل SPM و ACE) أفضل في الحفاظ على مهاراتها العامة. كان لا يزال بإمكانها رسم موزة خضراء وكلب بني بشكل صحيح.
- العقبة: لم تكن دائماً مثالية بنسبة 100% في إزالة الشيء السيئ. أحياناً، قد يتسلل جزء ضئيل من المفهوم "المحظور".
- التشبيه: هذا يشبه طباخاً يزيل مملحة الملح بعناية ولكنه يحتفظ بالفلفل والتوابل. قد يحتوي الطعام على "رشة" صغيرة جداً من الملح إذا لم يكن حذراً، لكن طعم اللحم سيظل لذيذاً.
المقايضة الكبرى
تكشف الورقة حقيقة مؤلمة: لا يمكنك الحصول على كليهما بشكل عام.
- إذا كنت تطلب سلامة بنسبة 100% (محو كامل)، فإن الذكاء الاصطناعي غالباً ما يفقد "منطقه السليم". ينسى كيف يربط الألوان بالأشياء أو كيف يعد الأشياء. إنه يشبه شخصاً، بعد إخباره بأن ينسى كلمة محددة، بدأ يتحدث بكلمات غير مفهومة لأنه نسي كيف تعمل قواعد اللغة.
- إذا كنت تطلب من الذكاء الاصطناعي الحفاظ على مهاراته (تركيب مثالي)، فإنه غالباً ما يفشل في محو المفهوم السيئ تماماً.
لماذا هذا مهم؟
يجادل المؤلفون بأننا نقيس النجاح بالطريقة الخاطئة حالياً. نحن نتحقق فقط من: "هل رسم الذكاء الاصطناعي العري؟" إذا كانت الإجابة "لا"، نقول: "عمل رائع!".
لكن الورقة تقول: "انتظر، انظر إلى الموزة!" إذا لم يعد بإمكان الذكاء الاصطناعي رسم موزة خضراء لأننا أجبرناه على نسيان العري، فإن الذكاء الاصطناعي معطل. إنه ليس مجرد "آمن"؛ بل هو "متضرر دلالياً".
الخلاصة
تخلص الورقة إلى أننا بحاجة إلى التوقف عن معاملة سلامة الذكاء الاصطناعي كمجرد مفتاح تشغيل/إيقاف بسيط. نحن بحاجة إلى تعليم الذكاء الاصطناعي أن يكون آمناً دون كسر عقله. النموذج الذي يكون آمناً من الناحية التقنية ولكنه لم يعد قادراً على فهم العالم (على سبيل المثال، لا يعرف أن الموزة عادة ما تكون صفراء أو أن الكلب عادة ما يكون على الأرض) ليس أداة مفيدة.
باخت اختصار: لا تكتفِ بطرد العادات السيئة؛ تأكد من أن الفنان يحتفظ بموهبته. إذا محوت الكثير، فلن تحصل على فنان أفضل؛ ستحصل فقط على لوحة فارغة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.