Attacks on Approximate Caches in Text-to-Image Diffusion Models
تكشف هذه الورقة عن ثغرات أمنية حرجة في التخزين المؤقت التقريبي لنماذج الانتشار من النص إلى الصورة، حيث توضح كيف يمكن للمهاجمين استغلال الحالات الوسيطة المشتركة عن بُعد لإنشاء قنوات خفية، وسرقة مطالبات المستخدمين، وتسميم المخرجات بشعارات غير مصرح بها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك في مرسم فني راقٍ ومزدحم، حيث يقوم روبوت سحري (نموذج الانتشار - Diffusion Model) برسم لوحات بناءً على أوصافك المنطوقة (البرومبت/الأوامر). رسم هذه اللوحات بطيء ومكلف لأن الروبوت يتعين عليه البدء من لوحة بيضاء مليئة بالضجيج ثم تنقيحها ببطء، خطوة بخرة، عبر مراحل متعددة.
لجعل هذه العملية أسرع وأرخص، قدم المرسم "دفتر رسومات ذكي" (المخزن المؤقت التقريبي - Approximate Cache). وإليك كيف يعمل: إذا طلبت صورة لـ "تفاحة حمراء"، وطلب شخص آخر قبل قليل "تفاحة حمراء لامعة"، فإن الروبوت لا يبدأ من الصفر؛ بل يبحث في دفتر رسوماته، ويجد اللوحة شبه المكتملة للتفاحة الحمراء، ويكتفي فقط بإنهاء التفاصيل الأخيرة. هذا يوفر الوقت والمال.
ومع ذلك، اكتشف الباحثون في هذه الورقة أن هذا "الدفتر الذكي" يحتوي على ثغرة أمنية خطيرة. نظرًا لأن المرسم يشارك هذا الدفتر مع جميع العملاء، فقد خلق بابًا خلفيًا سريًا يمكن للمخترقين استغلاله بثلاث طرق ذكية.
1. شبكة الهمس السرية (القناة الخفية - Covert Channel)
التشبيه: تخيل جاسوسين، أليس وبوب، لا يستطيعان التحدث إلى بعضهما البعض مباشرة. كلاهما يزور المرسم الفني.
- الحيلة: تريد أليس إرسال رسالة سرية إلى بوب. تهمس للروبوت بكلمة غريبة ومحددة جدًا (مثل "Apricity"، وهي كلمة قديمة تعني ضوء الشمس). يقوم الروبوت برسم الصورة ويحفظ "المسودة نصف المكتملة" في دفتر الرسومات المشترك.
- الإشارة: يطلب بوب لاحقًا من الروبوت رسم صورة باستخدام تلك الكلمة الغريبة نفسها.
- إذا كان الروبوت سريعًا، فهذا يعني أنه وجد مسودة أليس في الدفتر (إصابة - Hit).
- إذا كان الروبوت بطيئًا، فهذا يعني أنه اضطر للبدء من الصفر (إخفاق - Miss).
- الشفرة: يتفق أليس وبوب على أن "السريع" يعني الحرف 1 و"البطيء" يعني الحرف 0. ومن خلال إرسال سلسلة من الكلمات الغريبة، يمكنهما إرسال رسائل نصية سرية لبعضهما البعض عبر سرعة رسم الروبوت.
- التخفي: نظرًا لأن دفتر الرسومات يحتفظ بهذه المسودات "نصف المكتملة" لأيام، يمكن لبوب التحقق من الرسالة في أي وقت يريد. الأمر يشبه ترك ملاحظة في كتاب بمكتبة عامة تبقى هناك لأساب_يع.
2. سارق الأوامر (كاشف المخزن المؤقت - CacheExposer)
التشبيه: تخيل فنانًا محترفًا يقضي ساعات في صياغة الوصف المثالي والمعقد للحصول على تحفة فنية من الروبوت. هذا الوصف هو وصفته السرية.
- الحيلة: يريد لص الحصول على هذه الوصفة. لا يمكنه رؤية شاشة الفنان، لكن يمكنه أن يطلب من الروبوت رسم آلاف الصور المختلفة قليلاً.
- الدليل: يلاحظ اللص أنه عندما يطلب صورة تشبه وصفة الفنان السرية تمامًا، يكون الروبوت سريعًا (لأنه وجد مسودة الفنان المخزنة في الذاكرة).
- السرقة: من خلال تحليل أي من تخميناته الآلاف جعل الروبوت سريعًا، والنظر في التشابهات الطفقة في الصور الناتجة، يمكن للص thief هندسة وصفة الفنان الأصلية رياضيًا وعكسها.
- النتيجة: يسرق اللص "البرومبت" (الوصفة) ويمكنه الآن إنتاج نفس التحفة الفنية دون دفع ثمنها للفنان ودون القيام بالعمل الشاق لتصميم الوصف.
3. قنبلة ملصقات الشعارات (تسميم المخزن المؤقت - CachePoison)
التشبيه: تخيل أن شخصًا مثيرًا للمشاكل يريد وضع شعاره الخاص على لوحات الجميع دون علمهم.
- الحيلة: أولاً، يسرق المثير للمشاكل وصفة مشهورة (باستاستخدام الطريقة المذكورة أعلاه). ثم يضيف سرًا وصفًا لشعاره (مثل "علامة نايكي - Nike swoosh") إلى تلك الوصفة ويحفظها مرة أخرى في دفتر الرسومات المشترك.
- التسميم: الآن، عندما يطلب عميل بريء صورة تشبه تلك الوصفة، يسحب الروبوت المسودة "المسمومة" من الدفتر.
- النتيجة: على الرغم من أن العميل لم يطلب شعارًا أبدًا، إلا أن الروبوت يكمل اللوحة باستخدام المسودة المسمومة، وتتضمن الصورة النهائية سحريًا شعار المثير للمشاكل. يحصل العميل على صورة بها علامة تجارية غير مرغوب فيها، ويحصل المثير للمشاكل على إعلانات مجانية.
لماذا هذا مهم؟
توضح الورقة أنه بينما تجعل "الدفاتر الذكية" فن الذكاء الاصطناعي أسرع، إلا أنها تنتهك خصوصية وسلامة النظام.
- الخصوصية: لا يمكنك الحفاظ على سرية رسائلك أو وصفاتك الفنية المخصصة إذا كان النظام يشارك عمله "نصف المكتمل" مع الجميع.
- السلامة: يمكن للأطراف السيئة استخدام هذا المساحة المشتركة للتجسس عليك، أو سرقة عملك، أو فرض محتواهم الخاص على صورك.
يقترح الباحثون حلولًا بسيطة، مثل الاختيار العشوائي للمسودة التي سيتم استخدامها (حتى لا يتمكن الجواسيس من التنبؤ بالسرعة)، أو تصفية الشعارات المشبوهة، أو مراقبة المستخدمين الذين يطرحون الكثير من الأسئلة بسرعة كبيرة. وحتى يتم تطبيق هذه الإصلاحات، فإن استخدام هذه "الدفاتر الذكية" المشتركة يشبه ترك مذكراتك مفتوحة على مقعد في حديقة عامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.