ملخص تقني: TrajShield

1. بيان المشكلة

لقد تقدمت نماذج تحويل النص إلى فيديو (T2V) بشكل كبير في توليد فيديوهات متماسكة زمنياً من مطالبات اللغة الطبيعية. ومع ذلك، فإن آليات السلامة الحالية، والموروثة إلى حد كبير من مجالات تحويل النص إلى صورة (T2I)، غير كافية لنماذج T2V. تعمل الدفاعات الحالية بشكل أساسي على السطح المعجمي للمطالبة المدخلة (مثل القوائم السوداء للكلمات المفتاحية، أو المصنفات السطحية، أو إعادة الكتابة العامة باستخدام النماذج اللغوية الكبيرة LLM). وتفشل هذه الأساليب في معالجة التمييز الجوهري بين الصور الثابتة والفيديو الديناميكي: المخاطر الناشئة زمنياً.

في عملية توليد T2V، قد تفتقر المطالبة التي تبدو حميدة (مثل "رجلان يتجادلان في موقف للسيارات") إلى كلمات مفتاحية ضارة صريحة، ولكنها قد تؤدي إلى محتوى غير آمن (مثل العنف الجسدي) من خلال الاستقراء الزمني للنموذج نحو التماسك السردي. وتكون المخاطر غير مرئية على مستوى المطالبة، ولا تتجسد إلا عندما يقوم المولد بفك تفاصيل المشهد بمرور الوقت. علاوة على ذلك، تفشل الدفاعات الحالية غالباً أمام هجمات الاختراق المتطورة (jailbreak attacks) التي تخفي النوايا الضارة من خلال إعادة الصياغة أو المطالبات العدائية. ويتمثل التحدي الجوهري في توقع المسار الزمني الذي سينتجه نموذج T2V، وتحديد الأصل السببي للمخاطر الناشئة، والتدخل بأقل قدر من التغيير الدلالي قبل رندرة إطار واحد.

2. المنهجية: TrajShield

يقترح المؤلفون TrajShield، وهو إطار دفاعي يعمل في وقت الاستدلال ولا يتطلب تدريباً، يعيد صياغة سلامة T2V كمسألة تدخل سببي ضمن فضاء دلالي مهيكل زمنياً. بدلاً من تعديل النص الخام بناءً على الأنماط المعجمية، يقوم TrajShield بمحاكاة المسار الضمني للمطالبة لتحييد المخاطر مع الحفاظ على الدلالات غير المتعلقة بالسلامة. يتكون الإطار من ثلاث مراحل متتالية:

أ. فك الارتباط بين الحركة والدلالة (MSD)

لمنع الانجراف الدلالي العرضي (حيث يؤدي تحييد الخطر إلى تغيير هوية المشهد أو أسلوبه دون قصد)، يقوم TrajShield بتفكيك المطالبة المدخلة $P$ إلى ثلاثة مكونات مستقلة شرطياً:

1. السياق المكاني الثابت ($E$): يلتقط العناصر الثابتة زمنياً، بما في ذلك أوصاف الموضوعات، والبيئات المحيطة، وإشارات الأسلوب السينمائي. يعمل هذا كمرساة مجمدة لضمان بقاء هوية الموضوع والنبرة البصرية دون تغيير.
2. مسار الحركة ($T$): تسلسل مرتب زمنياً وحالات المشهد (على سبيل المثال: البداية، المنتصف، الخاتمة) الذي يلتقط التطور الديناميكي الضمني. يقوم النظام بإجراء استقراء ديناميكي ضمني لاستنتاج الأقواس الزمنية المعقولة حتى لو كانت مطالبة المستخدم غير محددة بدقة.
3. مرساة النية ($I$): تقطير موجز لهدف المستخدم الإبداعي الأساسي، مستخلص من التفاصيل التي قد تكون ضارة، ويعمل كمنظم دلالي أثناء عملية إعادة الكتابة.

ب. مخطط انتشار المخاطر الزمني (TRPG)

تعمل هذه الوحدة بالكامل في الفضاء الدلالي لمحاكاة المسار وتحديد الأصل السببي للخطر دون رندرة إطارات الفيديو.

1. توسيع المسار (Trajectory Rollout): يتم نمذجة مسار الحركة كسلسلة ماركوف مشروطة بالسياق، والتي تتنبأ بالحالات اللاحقة بناءً على الحالة الحالية والسياق المكاني.
2. تقييم المخاطر الهرمي: عند كل مرساة زمنية، يتم تقييم الخطر عبر ثلاثة أبعاد:
   • خطر المحتوى: ما إذا كانت الحالة اللحظية تحتوي على محتوى ضار (خطر ثابت).
   • خطر الانتقال: ما إذا كان التغيير بين الحالات يشكل تصعيداً سببياً نحو الضرر (خطر ديناميكي).
   • الخطر الاستشرافي: ما إذا كان الاستمرار في المسار دون عائق سيؤدي إلى حالة نهائية غير آمنة.
3. الإسناد السببي: يحدد النظام نقطة التشغيل المبكرة ($t_r$) حيث يتجاوز الخطر المركب عتبة السلامة. ومن ثم يستنتج قيداً آمناً ($C$)، وهو توجيه تصريحي يحدد ما يجب تغييره (تحييد النمط غير الآمن) وما يجب الحفاظ عليه (البادئة الحميدة والنية).

ج. إعادة الكتابة الآمنة المتسقة زمنياً (TCSR)

تجمع المرحلة النهائية مطالبة آمنة $P^*$ عن طريق:

1. ترسيخ السياق الثابت: قفل السياق المكاني $E$ بشكل صارم لضمان عدم حدوث انجراف دلالي في الموضوعات أو البيئة.
2. استبدال المسار بالواقع المضاد المقيد: توليد مسار حركة بديل $T^*$ يلبي القيد الآمن $C$، ويحافظ على البادئة الحميدة (الحالات قبل $t_r$)، ويحافظ على القرب الدلالي للحركة (على سبيل المثال، استبدال العنف الجسدي بمواجهة لفظية)، ويلتزم بمرساة النية $I$.
3. تجميع المطالبة: تركيب السياق المجمد مع المسار الواقعي المضاد في مطالبة لغوية طبيعية سلسة.

3. المساهمات الرئيسية

تحدد الورقة ثلاث مساهمات رئيسية:

1. تحديد المخاطر الناشئة زمنياً: عرّف المؤلفون فئة تهديد لم تكن ملحوظة سابقاً في T2V، حيث تولد المطالبات الحميدة محتوى غير آمن من خلال الاستقراء الزمني، مما يسمح لها بالتهرب من الدفاعات المعجمية الحالية بشكل منهجي.
2. إطار عمل TrajShield: آلية دفاع موحدة لا تتطلب تدريباً، تتعامل مع المطالبات غير الآمنة الصريحة، وهجمات الاختراق، والمخاطر الناشئة زمنياً عبر محاكاة المسار، وتحديد موقع الخطر السببي، وإعادة الكتابة الواقعية المضادة ذات التدخل الأدنى.
3. التحقق التجريبي: تجارب شاملة تثبت أن TrajShield يحقق أداء دفاعياً هو الأفضل في فئته عبر 14 فئة سلامة وعدة نماذج خلفية لـ T2V مع الحفاظ على الدقة الدلالية العالية.

4. النتائج التجريبية

قيم المؤلفون TrajShield باستخدام معيار T2VSafetyBench (14 فئة سلامة) ومجموعة بيانات SafeWatch (مطالبات غير آمنة من العالم الحقيقي) باستخدام ستة نماذج T2V (بما في ذلك Pixverse، وHailuo، وKling، وSeedance، وVeo، وSora).

• أداء السلامة: خفض TrajShield معدل نجاح الهجوم (ASR) بمتوسط 52.44% عبر جميع النماذج والفئات. وتحديداً، انخفض متوسط ASR من 70.00% (النماذج الأصلية) إلى 15.64% (النماذج التي تم الدفاع عنها).
• المقارنة مع النماذج المرجعية: تفوق الأسلوب بشكل كبير على الدفاعات الحالية، بما في ذلك القوائم السوداء للكلمات المفتاحية، والتحليل الدلالي (Toxic-BERT)، وإعادة الكتابة باستخدام النماذج اللغوية الكبيرة. على سبيل المثال، في نموذج Sora، خفض TrajShield معدل ASR إلى 20.86%، بينما حققت إعادة الكتابة باستخدام LLM نسبة 51.57% فقط.
• القوة والصلابة: ظل الدفاع فعالاً ضد هجمات الاختراق المتنوعة (RAB، DACA، SceneSplit، SPARK)، حيث خفض ASR إلى نطاق ضيق يتراوح بين 6% و21% بغض النظر عن استراتيجية الهجوم.
• الدقة الدلالية: في المطالبات الحميدة (مجموعة بيانات MSVD)، حافظ TrajShield على درجات عالية من تشابه CLIP (CS) والتماسك الزمني (TC)، مقارنة بالنموذج المرجعي، مما يشير إلى أن الدفاع لا يقلل من جودة التوليدات الآمنة.
• دراسات الاستئصال (Ablation Studies): أدى إزالة أي من الوحدات الثلاث الأساسية (MSD أو TRPG أو TCSR) إلى تدهور كبير في الأداء، مما يؤكد أن فك الارتباط بين الحركة والدلالة، وتحديد محفزات الخطر السببية، وإعادة الكتابة المقيدة هي كلها أمور ضرورية لفعالية النظام.

5. الأهمية والادعاءات

تزعم الورقة أن TrajShield يمثل تحولاً جذرياً في سلامة T2V، من التصفية المعجمية الثابتة إلى الوساطة في مستوى المسار. ويجادل المؤلفون بأن الدفاع الفعال لنماذج الفيديو التوليدية يجب أن يتماشى مع الطبيعة الزمنية والتركيبية لتوليد الفيديو. ومن خلال التدخل في "فضاء نية الفيديو الكامن" قبل التوليد، يعالج TrajShield الفجوة الهيكلية في الدفاعات الحالية: وهي عدم القدرة على اكتشاف المخاطر التي تظهر فقط من خلال التقدم السببي للزمن.

ويخلص المؤلفون إلى أن نهجهم يقدم مقايضة أفضل بين السلامة والدقة مقارنة بالنماذج المرجعية المنافسة، مما يؤكد ضرورة الوساطة الواعية زمنياً للنماذج التوليدية حيث تنشأ الضررية من خلال البنية الكامنة. كما يقرون بالقيود، مشيرين إلى أن التقطيع الخشن للمسار الحالي قد لا يستوعب بالكامل الديناميكيات المعقدة ذات الأفق الطويل، ويقترحون أن الجمع بين هذا الدفاع قبل التوليد والرقابة بعد التوليد يظل اتجاهاً للعمل المستقبلي.