Erased, But Not Forgotten: Erased Rectified Flow Transformers Still Remain Unsafe Under Concept Attack
تقدم هذه الورقة ReFlux، وهو أسلوب هجوم مفاهيمي مبتكر يستغل توطين الانتباه في نماذج التدفق المصحح (rectified flow transformers) مثل Flux لإثبات أن تقنيات محو المفاهيم الحالية تظل غير فعالة وغير آمنة ضد إعادة التنشيط المستهدف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "الممحاة السحرية" التي لم تكن سحرية بما يكفي
تخيل أن لديك فناناً فائق الذكاء (ذكاء اصطناعي) يمكنه رسم أي شيء تصفه له. لكن هذا الفنان تعلم بعض العادات السيئة من الإنترنت؛ إذ يمكنه رسم أشياء غير لائقة أو ضارة إذا طلبت منه ذلك.
لإصلاح ذلك، حاول المطورون استخدام "ممحاة سحرية" (مسح المفاهيم). أخبروا الفنان: "انسَ كيف ترسم العري، أو العنف، أو مشاهير محددين". ظنوا أنهم مسحوا ذاكرة الفنان تماماً.
المشكلة: تكشف هذه الورقة البحثية أن "الممحاة السحرية" لم تمسح الذاكرة حقاً، بل وضعت فقط بطانية ثقيلة فوق الأفكار السيئة. لا يزال الفنان يتذكر كيفية رسمها؛ هو فقط يحتاج إلى شخص يسحب البطانية عنه.
ابتكر المؤلفون أداة جديدة تسمى ReFlux (أداة "سحب البطانية") لإثبات أن الذكاء الاصطناعي لا يزال غير آمن حتى بعد اتخاذ تدابتد السلامة هذه.
الشخصيات في قصتنا
- الفنان (Flux): هذا هو نموذج الذكاء الاصطناعي الجديد والقوي جداً. على عكس الفنانين القدامى الذين كانوا يرسمون ضربة فرشاة واحدة تلو الأخرى (مثل Stable Diffusion)، فإن Flux يشبه قائد الأوركسترا؛ فهو ينظر إلى الصورة والكلمات معاً، لتنساب بسلاسة من لوحة بيضاء إلى تحفة فنية مكتملة.
- فريق السلامة (الممحاة): هم الأشخاص الذين حاولوا "إلغاء تعلم" المفاهيم السيئة. لقد حاولوا إزالة "النوتات" الموسيقية المحددة في أغنية الذكاء الاصطناعي والتي تتوافق مع الأفكار السيئة بشكل جراحي.
- المخترقون (ReFlux): هم مؤلفو هذه الورقة البحثية. هم لا يحاولون صنع فن سيء، بل يحاولون اختبار السلامة. يريدون معرفة ما إذا كان "إلغاء التعلم" قد نجح بالفعل أم لا.
الاكتشاف الجوهي: لماذا فشلت الحيل القديمة؟
حاول الباحثون استخدام حيل قديمة (هجمات صُممت للفنانين القدامى) لإيقاظ الفنان الجديد (Flux)، لكنهم فشلوا. لماذا؟
- الفنان القديم (Stable Diffusion): إذا أردت جعل الفنان يرسم "قطة"، يكفي أن تهمس بكلمة "قطة" بصوت أعلى. الفنان هنا يستجيب للكلمات الفردية.
- الفنان الجديد (Flux): هذا الفنان يستمع إلى الجملة بأكملها وإلى تدفق الموسيقى. هو لا يهتم بالكلمات الفردية بقدر اهتمامه بكيفية ارتباط الكلمات بالصورة.
أدرك الباحثون أن "الممحاة السحرية" الخاصة بفريق السلامة عملت عن طريق إخفاء الضوء المسلط.
- تخيل أن لدى الذكاء الاصطناعي كشافاً يسلط الضوء على كلمة "قطة" في الوصف (البرومبت).
- قام فريق السلامة بتعتيم هذا الكشاف حتى لا يرى الفنان كلمة "قطة".
- الخلل: الفنان لا يزال يعرف أين توجد كلمة "قطة"؛ الكشاف فقط خفت ضوؤه.
الحل: ReFlux (مُعزز الضوء المسلط)
بنى المؤلفون ReFlux، وهي أداء ذكية لا تكتفي بمجرد الصراخ بالكلمة بصوت أعلى، بل تقوم بثلاثة أشياء ذكية:
- مُعزز الضوء المسلط (إعادة تنشيط الانتباه): يقوم بتعتيم الكشاف بلطف ليعيد رفع شدة الضوء، ولكن بحذر حتى لا يعمي الفنان أو يفسد بقية اللوحة.
- دليل التدفق (توجيه السرعة): بما أن Flux هو فنان "تدفق"، فإن ReFlux يوجه ضربات فرشاة الفنان في الاتجاه الصحيح، موجهاً الطلاء ليشكل المفهوم الممسوح دون إفساد بقية الصورة.
- حافظ الذاكرة (الاتساق): يتأكد من أنه بينما تعود "القطة" للظهور، يظل "الكلب" و"الخلفية" كما هم تماماً. هو لا يريد تدمير اللوحة بأكملها لإصلاح جزء واحد منها.
النتيجة: باستخدام كمية ضئيلة جداً من الذاكرة الإضافية (مثل وحدة تخزين USB صغيرة)، نجح ReFlux في جعل المفاهيم "الممسوحة" تظهر مرة أخرى، مما أثبت أن عمل فريق السلامة كان غير مكتمل.
التشبيه: "المكتبة الهامسة"
تخيل أن الذكاء الاصطناعي عبارة عن مكتبة تحتوي على ملايين الكتب.
- فريق السلامة أخذ كل الكتب المتعلقة بـ "الأفكار الخطيرة" وأغلقها في قبو مظلم. ظنوا أنه لا يمكن لأحد العثور عليها.
- المهاجمون القدامى حاولوا الصراخ بكلمة "خطر!" عند مدخل المكتبة، لكن المكتبة الجديدة (Flux) لديها جدران عازلة للصوت، لذا لم ينجح الصراخ.
- ReFlux أدرك أن الكتب لم تذهب، بل كانت فقط في الظلام. ReFlux لم يصرخ؛ بل ببساطة أشعل كشافاً ضوئياً في القبو وسار مباشرة نحو الكتب.
وجد المؤلفون أنه على الرغم من إغلاق الكتب، إلا أن موظفي المكتبة (الذكاء الاصطناٍ) لا يزالون يعرفون مكانها بالضبط ويمكنهم إخراجها إذا أظهرت لهم الكشاف.
لماذا يهم هذا الأمر؟
قد تسأل، "لماذا تحاولون كسر قواعد السلامة؟"
يجادل المؤلفون بأن كأنك لا تستطيع إصلاح ما لا يمكنك قياسه.
- إذا اعتقدنا أن "الممحاة السحرية" تعمل، فقد نطلق هذه الأنظمة في الإنترنت، ظناً منا أنها آمنة.
- لكن إذا كانت هي في الواقع مجرد "تخفي" الأفكار السيئة، فيمكن خداعها لإظهارها مرة أخرى.
- ReFlux يشبه اختبار الإجهاد لجسر ما. من خلال محاولة كسر الجسر، يثبتون أنه ضعيف لكي يتمكن المهندسون من بناء واحد أقوى.
الخلاصة
تخلص الورقة البحثية إلى أن أساليب السلامة الحالية لنماذج الذكاء الاصطناعي الجديدة والقوية هذه ليست قوية بما يكفي. إنها تشبه لوحة "الرجاء عدم الإزعاج" على الباب؛ الأفكار السيئة لا تزال خلف الباب، تنتظر فقط من يطرق بقوة (أو يستخدم المفتاح المناسب، مثل ReFlux) للدخول.
يدعو المؤلفون إلى أدوات سلامة أفضل لا تكتفي بإخفاء الأفكار السيئة، بل تزيلها حقاً، لضمان أن الجيل القادم من الذكاء الاصطناعي آمن حقاً للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.