TokenTrace: Multi-Concept Attribution through Watermarked Token Recovery

إليك ملخص تقني مفصل لورقة البحث بعنوان "TokenTrace: إسناد متعدد المفاهيم من خلال استعادة الرموز المائية".

1. بيان المشكلة

تشكل نماذج الذكاء الاصطناعي التوليدي، وخاصة نماذج الانتشار (diffusion models) من نص إلى صورة، مخاطر كبيرة على الملكية الفكرية (IP) من خلال إعادة إنتاج أساليب فنية ومفاهيم فريدة دون نسبها لأصحابها. وبينما توفر العلامات المائية حلاً، إلا أن الأساليب الحالية تواجه قيوداً حرجة في السيناريوهات المعقدة:

• هشاشة نطاق البكسل (Pixel-Domain Fragility): الأساليب التي تدمج العلامات المائية مباشرة في مساحة البكسل (مثل ProMark) غالباً ما تكون هشة وتفشل تحت تأثير التحويلات الشائعة مثل الضغط أو القص.
• الافتقار إلى الإدراك في النطاق الكامن (Latent-Domain Agnosticism): الأساليب التي تدمج العلامات المائية في الفضاء الكامن توفر متانة أفضل، لكنها عادةً ما تعامل الصورة ككيان كلي واحد. وهي تفشل في فك الارتباط (disentangle) بين المفاهيم المتعددة (على سبيل المثال، كائن محدد تم تصويره بأسلوب معين) داخل صورة واحدة.
• التحدي التركيبي (Compositional Challenge): لا تستطيع أنظمة الإسناد الحالية التحقق بشكل مستقل من المفاهيم المتداخلة. إذا كانت الصورة تحتوي على كل من "الأسلوب A" و"الكائن B"، فإن الأساليب الحالية لا تستطيع عزل توقيع "الأسلوب A" عن "الكائن B" دون تداخل.

2. المنهجية: TokenTrace

إن TokenTrace هو إطار عمل للعلامات المائية الاستباقية مصمم لدمج توقيعات متعددة المفاهيم وقوية مباشرة في عملية التوليد. وهو يعمل عبر مرحلتين رئيسيتين: ترميز المفهوم (Concept Encoding) وفك ترميز المفهوم (Concept Decoding).

أ. ترميز المفهوم (استراتيجية التكييف المزدوج)

بدلاً من تعديل بكسلات الصورة النهائية، يقوم TokenTrace بتعديل مدخلات نموذج الانتشار لدمج توقيع سري ($S$) مرتبط بمفهوم محدد. ويتم تحقيق ذلك عبر شبكتين متوازيتين:

1. مشفر المفهوم ($f_{enc}$): يقوم بتعديل تضمين النص (text prompt embedding). يأخذ سر المفهوم ($S$) وتضمين رمز المفهوم المستهدف ($e_c$) لتوليد اضطراب يُضاف إلى الرمز المحدد في النص.
   • المعادلة: $\hat{e}_c = e_c + f_{enc}(e_c, S)$
2. رسم الخرائط السري ($f_{map}$): يقوم بتعديل الضجيج الكامن الأولي ($z_T$). حيث يولد نمطاً غاوسياً مهيكلاً بناءً على $S$ ويضيفه إلى الضجيج الأولي.
   • المعادلة: $\hat{z}_T = z_T + f_{map}(S)$

بعد ذلك، يقوم نموذج الانتشار بتوليد الصورة ذات العلامة المائية ($I_{wm}$) بناءً على هذه المدخلات المعدلة ($\hat{E}_{prompt}$ و $\hat{z}_T$). ومن خلال دمج التوقيع في كل من المجال الدلالي (النص) والمجال الكامن (الضجيج)، يتم دمج العلامة المائية بعمق في بنية الصورة، مما يتجنب مشكلات التداخل المكاني.

ب. فك ترميز المفهوم (الاسترجاع القائم على الاستعلام)

لاستعادة العلامة المائية، يستخدم TokenTrace وحدة قائمة على الاستعلام تسمح بإسناد مستهدف:

1. المدخلات: الصورة ذات العلامة المائية ($I_{wm}$) واستعلام نصي ($P_{query}$) يحدد المفهوم المراد استعادته (على سبيل المثال، "صورة لـ <رمز_الأسلوب>").
2. وحدة TokenTrace: هي شبكة فعالة في استخدام المعلمات (parameter-efficient) تستخدم مشفرات CLIP مجمدة (للصورة والنص) وطبقات إسقاط وانتباه قابلة للتدريب. تقوم بدمج ميزات الصورة واستعلام النص للتنبؤ بتضمين المفهوم ($\tilde{e}_c$).
3. فك الترميز السري: شبكة خطية خفيفة الوزن تترجم التضمين المتوقع إلى السر المكتوم الأصلي ($\tilde{S}$).
4. التحقق: يتحقق النظام مما إذا كان السر المسترجع يطابق الحقيقة الأرضية (ground truth) للمفهوم المستعلم عنه.

ج. هدف التدريب

يتم تدريب النموذج من البداية إلى النهاية باستخدام دالة خسارة مركبة ($L_{total}$) توازن بين أربعة قيود:

• خسارة BCE: تضمن الاسترجاع الدقيق للسر المكتوم.
• خسارة واصف الأسلوب التبايني (CSD Loss): تحافظ على الاتساق الدلالي/الأسلوبي عالي المستوى.
• خسارة L2: تقلل من الاختلافات على مستوى البكسل (عدم الإدراك).
• خسارة التنظيم (Regularization Loss): تضمن مطابقة تضمين المفهوم المتوقع للحقيقة الأرضية.

3. المساهمات الرئيسية

1. الدمج ثنائي المجال: إطار عمل مبتكر يربط العلامات المائية بدلالات المفهوم عبر تعديل كل من تضمينات النص والضجيج الكامن الأولي، مما يحل مشكلة التداخل المكاني بشكل جذري.
2. فك الارتباط القائم على الاستعلام: تقديم آلية تسمح للمستخدمين بتحديد أي مفهوم يريدون استعادته عبر استعلام نصي، مما يتيح الإسناد المستقل لمفاهيم متعددة متداخلة (مثل الكائن + الأسلوب) من صورة واحدة.
3. أداء رائد (State-of-the-Art): أظهر أداءً فائقاً في كل من مهام الإسناد أحادية المفهوم ومتعددة المفاهيم مع الحفاظ على دقة بصرية عالية ومتانة قوية.

4. النتائج التجريبية

قيم المؤلفون TokenTrace على WikiArt (الأساليب)، وImageNet (الأجسام)، ومعايير مخصصة متعددة المفاهيم.

• الإسناد أحادي المفهوم:
  • WikiArt (الأساليب): حقق TokenTrace دقة إسناد بلغت 91.67%، متفوقاً على أفضل خط أساس استباقي (CustomMark: 89.25%) والأساليب السلبية (CLIP: 52.60%).
  • ImageNet (الأجسام): حقق دقة إسناد بلغت 90.43%، متفوقاً بشكل كبير على ProMark (87.30%) وCustomMark (87.12%).
• الإسناد متعدد المفاهيم:
  • في السيناريوهات التي تحتوي على مفهومين مخصصين (كائن + أسلوب)، حقق TokenTrace دقة 88.62% مقابل 85.14% لـ CustomMark.
  • في سيناريوهات معقدة تحتوي على 4 مفاهيم، حقق TokenTrace دقة 81.57%، متفوقاً بشكل دراماتيكي على CustomMark (72.78%).
  • أكدت النتائج النوعية قدرة النظام على استعادة أسرار محددة (مثل "قطة" مقابل "سترة") من صورة واحدة بدقة عالية.
• المتانة: حافظت الطريقة على دقة تزيد عن 90% ضد التدوير وأكثر من 87% ضد ضغط JPEG والهجمات العدائية.
• القابلية للتوسع والكفاءة:
  • تدهورت الأداء تدريجياً وبشكل سلس مع توسع مجموعة المفاهيم من 10 إلى 1,000 مفهوم.
  • التعلم المتسلسل: يمكن تحديث النموذج بمفاهيم جديدة باستخدام 10% فقط من دورات التدريب الإضافية دون حدوث نسيان كارثي.
• الدقة البصرية: كانت الصور ذات العلامة المائية غير قابلة للتمييز بصرياً عن الصور الأصلية النظيفة، مع درجات عالية في CSD وCLIP.

5. الأهمية

يمثل TokenTrace تحولاً في نموذج إسناد الذكاء الاصطناعي من العلامات المائية الشمولية للصورة إلى العلامات المائية الدلالية الخاصة بالمفهوم.

• حماية الملكية الفكرية: يوفر أداة عملية للفنانين والمبدعين لحماية أساليبهم ومفاهيمهم الفريدة، حتى عند دمجها مع عناصر أخرى في المخرجات التوليدية.
• الابتكار التقني: من خلال الاستفادة من المجال الدلالي (تضمينات النص) بدلاً من مجرد مساحة البكسل أو المسافة الكامنة، فإنه يحل مشكلة "تداخل الإشارات" المتأصلة في التوليد متعدد المفاهيم.
• العملية: تجعل آلية الاسترجاع القائمة على الاستعلام من النظام سهل الاستخدام وقابلاً للتكيف مع سيناريوهات العالم الحقيقي حيث يلزم تتبع مصدر محدد دون الحاجة لإعادة تدريب النموذج بالكامل.

باخت-صار، يقدم TokenTrace حلاً قوياً وقابلاً للتوسع وغير محسوس لتتبع أصل الصور المعقدة والمتعددة المفاهيم الناتجة عن الذكاء الاصطناعي، مما يعالج فجوة حرجة في المشهد الحالي لأخلاقيات الذكاء الاصماعي التوليدي وحماية الملكية الفكرية.