Fingerprinting Text-to-Image Diffusion Models via Collapsed Generation
تقدم هذه الورقة إطار عمل غير جراحي للتحقق من ملكية نماذج الانتشار من النص إلى الصورة عبر الاستفادة من "التوليد المنهار"، وهي ظاهرة خاصة بالنموذج حيث تؤدي ظروف مدخلات معينة باستمرار إلى إنتاج صور متطابقة عبر بذور عشوائية مختلفة، مما يتيح كشف الملكية بشكل موثوق في كل من بيئات الصندوق الأبيض والصندوق الأسود دون الحاجة إلى علامات مائية جراحية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا يرسم فيه الفنانون باستخدام الفرش، بل باستخدام كلمات سحرية. تكتب جملة مثل "قطة سايبربانك تأكل البيتزا"، فيقوم الكمبيوتر فوراً باستحضار صورة جديدة تماماً وعالية الدقة. هذا هو عالم نماذج الانتشار من النص إلى الصورة (Text-to-Image Diffusion Models)، السحرة الرقميين وراء طفرة الفن بالذكاء الاصطناعي الأخيرة. تعمل هذه النماذج عن طريق البدء بشاشة مليئة بضجيج السكون (مثل تلفزيون قديم لا توجد به إشارة) ثم تقوم بتنظيفها ببطء، خطوة بخطوة، حتى تظهر صورة واضحة. ولأن هذه النماذج قوية جداً، تقوم الشركات ببيعها كخدمات أو مشاركة "الوصفة" (ملف النموذج) ليستفيد منها الآخرون. لكن هذا يخلق مشكلة شائكة: إذا سرق شخص ما وصفة الشركة السرية أو عدلها قليلاً وباعها على أنها ملكه، فكيف يثبت المالك الأصلي أنها تخصه؟ لا يمكنهم مجرد النظر داخل الكود إذا أخفاه السارق، ولا يمكنهم دائماً تغيير النموذج لزرع علامة مائية رقمية سرية دون إفساد الفن. إنهم بحاجة إلى طريقة للإيقاع بالسارق بمجرد مراقبة ما يفعله النموذج.
تقدم هذه الورقة البحثية خدعة استقصائية ذكية جديدة تسمى "التوليد المنهار" (Collapsed Generation). فكر في الأمر كأنه اختبار شخصية للذكاء الاصطناعي. عادةً، إذا طلبت من الذكاء الاصطناعي رسم صورة خمس مرات باستخدام نفس الكلمات ولكن بنقطة بداية عشوائية مختلفة (مثل رمي النرد)، فستحصل على خمس صور مختلفة وفريدة تماماً. يشبه الأمر طلب برجر من طباخ خمس مرات؛ ستتوقع خمس برغرات مختلفة قليلاً. ومع ذلك، اكتشف الباحثون أنه بالنسبة لكلمات محددة معينة، "تعلق" بعض نماذج الذكاء الاصطناعي في حلقة مفرغة. مهما رميت النرد، ينتج النموذج نفس الصورة تقريباً في كل مرة. يبدو الأمر كما لو أن الطباخ، عندما يُطلب منه صنع "برجر"، يفقد فجأة القدرة على تنويع الوصفة ويقدم نفس البرجر المتطابق خمس مرات متتالية. تشير الورقة إلى أن هذا السلوك المتكرر الغريب هو بصمة فريدة لتدريب هذا النموذج المحدد. إذا وجدت نموذجاً مشتبهاً به ينتج صور "البرجر المتطابق" هذه عند طرح الأسئلة الصحيحة، فقد أمسكت به وهو يستخدم وصفة المالك الأصلي السرية، حتى لو حاول السارق تمويهها.
أداة المحقق الجديدة: الإمساك بالذكاء الاصطناعي من خلال "تأتأته"
أدرك الباحثون، وهم فريق من جامعة فودان وآخرون، أن هذا "التأتأ" أو التوليد المنهار ليس خطأً برمجياً، بل هو سمة من سمات كيفية تعلم هذه النماذج. فعندما يحفظ النموذج أنماطاً معينة من بيانات التدريب الخاصة به، فإنه يفقد أحياناً قدرته على الإبداع لتلك المطالبات (prompts) المحددة. وبدلاً من استكشاف مجموعة واسعة من الاحتمالات، ينهار إلى نتيجة واحدة متسقة للغاية. وجد الفريق أن هذا السلوك يشبه بصمة الصوت الفريدة؛ فكما قد يقول شخصان نفس الجملة ولكن بلكنات مختلفة، فإن نموذجين مختلفين من الذكاء الاصطناعي تم تدريبهما على بيانات مختلفة سيتفاعلان بشكل مختلف مع نفس المطالبة. قد ينتج أحدهما مجموعة متنوعة وفوضوية من الصور، بينما ينتج "النموذج المسروق" مجموعة مملة ومتطابقة.
تقترح الورقة لعبة "القط والفأر" من خطوتين لإثبات الملكية. أولاً، يحتاج المالك الأصلي (المحقق) إلى إيجاد "الكلمات السحرية" أو "الإعدادات السحرية" التي تسبب هذا التأتأ في نموذجه الخاص. وهم يفعلون ذلك بطريقتين، اعتماداً على مدى وصولهم إلى النموذج المشتبه به:
- نهج "الصندوق الأبيض" (الداخل): إذا كان بإمكان المحقق رؤية التروس الداخلية للنموذج (كما لو أن السارق سرب الكود)، فيمكنه استخدام الكمبيوتر للبحث رياضياً عن "التضمين" (embedding) المثالي (نسخة رقمية من المطالبة) الذي يجبر النموذج على التأتأ. هم لا يحتاجون لانتظار الصورة النهائية؛ إذ يمكنهم رؤية النموذج وهو يعلق في وقت مبكر من العملية، مما يوفر قدراً هائلاً من قوة الحوسبة.
- نهج "الصندوق الأسود" (الخارجي): إذا كان النموذج المشتبه به مخفياً خلف موقع إلكتروني أو تطبيق حيث يمكنك فقط كتابة نص والحصول على صورة، فلا يمكن للمحقق تعديل التروس الداخلية. بدلاً من ذلك، يقوم بالتنقيب في بيانات التدريب الأصلية للعثور على جمل طبيعية حقيقية تسبب بالفعل هذا التأتأ في النموذج. وقد وجدوا أن "مطالبات التأتأ" هذه غالباً ما تتوافق مع الصور التي تعلمها النموذج بسهولة كبيرة (خسارة "loss" منخفضة أثناء التدريب). ومن خلال اختبار هذه الجمل الطبيعية، يمكنهم معرفة ما إذا كان النموذج المشتبه به يتأتأ عليها أيضاً.
الحكم: هل هو مقلد؟
بمجرد أن يمتلك المحقق قائمة "محفزات التأتأ" الخاصة به، فإنه يختبر النموذج المشتبه به. يطلب من النموذج المشتبه به توليد صور باستخدام هذه المحفزات، مع تغيير "البذرة العشوائية" (random seed) عدة مرات. إذا كان النموذج المشتبه به مقلداً، فسينتج مجموعة من الصور المتطابقة تقريباً، تماماً مثل الأصل. أما إذا كان نموذجاً مختلفاً تماماً وغير مرتبط به، فسينتج كومة فوضوية من الصور المختلفة، مما يظهر أنه لا يشارك نفس "الذاكرة" لتلك المطالبات المحددة.
اختبر الباحثون هذه الفكرة على أنواع مختلفة من نماذج الذكاء الاصطناعي، بما في ذلك تلك القائمة على تصميمات "UNet" القديمة وتصميمات "Transformer" الأحدث. ووجدوا أن هذه الطريقة تعمل بشكل جيد للغاية. إذ يمكنها التمييز بين نموذجين تم تدريبهما بشكل منفصل، حتى لو بدوا متشابهين على السطح. والأهم من ذلك، أن البصمة صعبة الكسر. فحتى لو حاول السارق إخفاء آثاره من خلال:
- الضبط الدقيق (Fine-tuning): تعليم النموذج مهارات جديدة،
- التقليم (Pruning): قطع أجزاء من النموذج لجعله أصغر،
- الكمّية (Quantization): تبسيط الأرقام التي يستخدمها النموذج،
- أو حتى محاولة التمويه (Obfuscation) للنتائج،
...فإن سلوك "التأتأ" غالباً ما يظل صامداً. وتظهر الورقة أنك لست بحاجة لطرح ملايين الأسئلة للإيقاع بسارق؛ فعدد متواضع من الاختبارات كافٍ للحصول على إجابة قوية إحصائياً.
ماذا يعني هذا (وما لا يعنيه)
توضح الورقة البحثية بحذر أن هذا ليس عصا سحرية تحل كل مشايات حقوق الطبع والنشر فوراً. فهي لا تدعي أنها تمنع السرقة من الحدوث، ولا تقترح أن كل نموذج يمتلك هذه البصمات (رغم أنهم وجدوها في النماذج التي اختبروها). كما تشير أيضاً إلى أنه بينما تعد طريقة "الصندوق الأبيض" فعالة جداً، فإن طريقة "الصندوق الأسود" تعتمد على العثور على المطالبات الطبيعية المناسبة، وهو أمر قد يشبه البحث عن إبرة في كومة قش، رغم أن طريقتهم في البحث عن عينات التدريب ذات "الخسارة المنخفضة" تجعل الأمر أسرع بكثير.
ومن الأهمية بمكان أن المؤلفين يجادلون ضد فكرة أنك بحاجة لزرع علامة مائية سرية داخل النموذج لإثبات الملكية. لقد أظهروا أن سلوك النموذج الطبيعي الخاص نفسه — ميله للوقوع في حلقة مفرغة لمدخلات معينة — كافٍ كدليل. وهذا أمر مهم لأنه يعني أنك لست بحاجة لتغيير النموذج لحمايته. يمكنك فقط مراقبة كيفية تصرفه.
في النهاية، تشير هذه الأبحاث إلى أن التوليد المنهار هو وسيلة موثوقة وغير اقتحامية للتحقق من ملكية نموذج فن الذكاء الاصطناعي. إنها تحول عيوب النموذج الخاصة إلى توقيع. فإذا أنتج النموذج نفس الصورة مراراً وتكراراً عندما ينبغي أن يكون مبدعاً، فقد يكون ببساطة يغني أغنية المالك الأصلي، بغض النظر عن مدى محاولة السارق تغيير الكلمات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.