TEA: Text Encoder Alignment for Robust Concept Erasure in Text-to-Image Models
تقترح الورقة البحثية إطار عمل TEA، وهو إطار عمل خفيف الوزن ومستقل عن النموذج يحقق محواً قوياً للمفاهيم في نماذج تحويل النص إلى صورة من خلال ضبط المشفر النصي لضبط محاذاة المطالبات التي تحتوي على مفاهيم معينة مع ركائز آمنة، مما يؤدي إلى القضاء على الثغرات العدائية دون أي عبء إضافي أثناء الاستدلال أو تدهور في جودة التوليد الحميد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تستطيع فيه الحواسيب رسم لوحات من مجرد جملة واحدة. تكتب "قطة تجلس على سطح منزل تحت ضوء القمر"، فتقوم آلة، تدربت على ملايين الصور والتعليقات، بإنشاء مشهد واقعي مذهل في ثوانٍ معدودة. هذه التقنية، المعروفة باسم نموذج "النص إلى صورة"، فتحت أبواباً للفنانين والمصممين، محولةً الخيال إلى واقع مرئي. ومع ذلك، فإن هذه القوة ذاتها تحمل خطراً؛ فتماماً كما يمكن لمزور ماهر أن يقلد أسلوباً معيفاً، يمكن لمستخدم ذكي أن يخدع هذه الحواسيب لإنشاء صور ضارة أو غير لائقة عبر استخدام تعليمات ملتوية ومصاغة بأسلوب جديد للالتفاف على فلاتر الأمان المدمجة في النظام. فالكمبيوتر يرى الكلمات، لكنه يفتقر إلى إدراك القصد، مما يؤدي لتوليد محتوى لم يكن من المفترض رؤيته أبداً.
لسنوات، حاول العلماء إصلاح هذا الأمر عبر تعليم الكمبيوتر نسيان أفكار سيئة معينة، وهي عملية تسمى "محو المفاهيم". تحاول بعض الطرق مسح البيانات السيئة قبل أن يتعلمها الكمبيوتر، بينما تحاول طرق أخرى منع ظهور الصور السيئة فقط في لحظة إنتاجها. لكن هذه الحلول غالباً ما تشوبها عقبة: فهي إما بطيئة جداً بحيث لا يمكن استخدامها على نطاق واس كبير، أو تجعل الكمبيوتر أسوأ في رسم الصور الجيدة، أو تتطلب قوة حوسبة هائلة ومستمرة في كل مرة يطلب فيها شخص ما صورة. كان الهدف دائماً هو إيجاد طريقة لإزالة القدرة على إنشاء محتوى ضار بشكل دائم دون إبطاء الآلة أو تدمير موهبتها الفنية.
لقد اقترح فريق من الباحثين الآن نهجاً جديداً يعالج هذه المشكلة من خلال تغيير كيفية فهم الكمبيوتر للغة، بدلاً من تغيير كيفية رسمه للصور. أطلقوا على طريقتهم اسم TEA، وهو اختصار لـ "محاذاة مشفر النص" (Text Encoder Alignment). في أنظمة صنع الصور هذه، يعمل جزأين رئيسيين معاً: الجزء الأول هو "مشفر النص"، الذي يعمل كمترجم، حيث يحول جملتك المكتوبة إلى مجموعة من الأرقام التي يفهمها الكمبيوتر. والجزء الثاني هو "العمود الفقري التوليدي"، الذي يأخذ تلك الأرقام ويرسم الصورة فعلياً. كانت المحاولات السابقة لمنع الصور السيئة تتضمن تعديل جزء الرسم، وهو أمر يشبه محاولة إصلاح تسريب في منزل عن طريق طلاء الجدران؛ إنه أمر فوضوي وغير فعال غالباً لأن المشكلة تكمن في كيفية ترجمة التعليمات في المقام الأول.
أدرك الباحثون أن مفتاح منع الصور الضارة يكمن في المترجم. فقد وجدوا أن قدرة الكمبيوتر على التعرف على مفهوم سيء معين، مثل العري، تتركز في مشفر النص. ولإصلاح ذلك، ابتكروا عملية تدريب تعدل هذا المترجم فقط، تاركةً جزء الرسم دون أي تغيير. بدأوا بزوج من الجمل: جملة تحتوي على الفكرة الضارة، مثل "امرأة عارية في غابة"، وجملة أخرى مطابقة لها تقريباً ولكنها آمنة، مثل "امرأة في غابة". ثم علموا المترجم أن يجعل الأرقام الناتجة عن الجملة السيئة تبدو متطابقة تماماً مع الأرقام الناتجة عن الجملة الآمنة.
وللقيام بذلك، استخدموا لعبة "القط والفأر" الذكية. فقد أنشأوا برنامجاً حاسوبياً صغيراً، وهو "المميز" (discriminator)، ومهمته هي التمييز بين الأرقام القادمة من الجملة السيئة وتلك القادمة من الجملة الآمنة. حاول المترجم الرئيسي خداع هذا المميز عبر تغيير إعداداته الخاصة بحيث تنتج الجملتان أرقاماً متطابقة. وفي الوقت نفسه، حرص الباحثون على ألا ينسى المترجم كيفية التعامل مع الجمل العادية والآمنة؛ فعلوا ذلك من خلال التأكد من أن الجمل الآمنة لا تزال تبدو كما كانت قبل التغييرات التي طرأت. وقد ضمن هذا أن يظل الكمبيوتر قادراً على رسم صور جميلة وغير ضارة للغابات والنساء، ولكن دون القدرة على رسم النسخة الضارة المحددة.
كانت نتائج هذه الطريقة مذهلة. فعند اختبارها ضد مجموعة متنوعة من المحاولات الخداعية، بما في ذلك تلك المصممة من قبل خبراء للالتفاف على أنظمة الأمان، نجح هذا النهج الجديد في منع الصور الضارة بشكل شبه كامل. وفي الاختبارات التي فشلت فيها الطرق الأخرى في منع المحتوى السيئ أو جعلت الكمبيوتر أسوأ في رسم الصور الجيدة، نجحت هذه الطريقة في تحقيق كلا الأمرين. لقد عملت على النسخ القديمة من هذه التقنية وأيضاً على أحدث الأنظمة المتطورة، مما يثبت أن الفكرة صالحة لمختلف أنواع مولدات الصور. والأهم من ذلك، ولأن جزء الرسم لم يتغير أبداً، لم تتباطأ سرعة النظام على الإطلاق؛ فقد استغرق إنشاء الصورة نفس الوقت الذي كان يستغرقه من قبل، دون الحاجة إلى قوة حوسبة إضافية في كل مرة يطلب فيها المستخدم صورة.
كما اختبر الباحثون ما إذا كان بإمكان هذه الطريقة إزالة أنواع أخرى من المفاهيم غير المرغوب فيها، مثل أساليب فنية محددة. ووجدوا أنه يمكنها بنجاح منع الكمبيوتر من نسخ أساليب فنانين محددين، بما في ذلك فان جوخ وكلي مكيرنان، عند الطلب، مع السماح له بالرسم بأساليب أخرى. وهذا يشير إلى أن الطريقة ليست مجرد "أداة ذات ميزة واحدة" لإزالة العري، بل هي أداة مرنة يمكن استخدامها لإزالة أي فكرة محددة لا يريد المستخدم أن يولدها الكمبيوتر. ومن خلال التركيز على خطوة الترجمة واستخدام عملية تدريب بسيطة وفعالة، أظهر الفريق أنه من الممكن جعل هذه الأدوات القوية أكثر أماناً دون التضحية بسرعتها أو قدرتها على الإبداع الفني.
يمثل هذا العمل خطوة هامة للأمام في جعل الذكاء الاصطناعي أكثر أماناً وموثوقية. فهو يبتعد عن فكرة المراقبة المستمرة وحظر المخرجات، وبدلاً من ذلك يبني الأمان مباشرة في طريقة فهم الكمبيوتر للغة. الطريقة خفيفة الوزن، تتطلب فترة تدريب قصيرة فقط، وتترك بقية النظام كما كان تماماً. وبالنسبة لأي شخص يعتمد على هذه الأدوات لإنشاء المحتوى، فإن هذا يعني مستقبلاً يمكن فيه الوثوق بالكمبيوتر لاتباع التعليمات دون تجاوز الخطوط الحمचनाً بالخطأ، مع الحفاظ على شرارته الإبداعية كاملة. لقد أتاح الباحثون الكود الخاص بهم، مما يسمح للآخرين باختبار هذا النهج والبناء عليه، لضمان أن يظل المسار نحو توليد صور أكثر أماناً مفتوحاً لمزيد من الاكتشاف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.