ملخص تقني: TokenTrim

بيان المشكلة

برز توليد الفيديو التكراري (Autoregressive video generation) كنموذج مهيمن لتخليق فيديوهات طويلة من خلال تكييف دفعات جديدة من الإطارات تكرارياً بناءً على المحتوى الذي تم توليده مسبقاً. ومع ذلك، يعاني هذا النهج من الانجراف الزمني (temporal drift)، وهي ظاهرة حيث تتراكم الأخطاء والتناقضات الطفيفة التي تظهر في الإطارات الأولى وتتضخم عبر الآفاق الزمنية الطويلة. يؤدي هذا التراكم إلى تغيرات في الهوية، وتدهور هيكلي، وفقدان التماسك العالمي، والانهيار الدلالي.

ركزت المحاولات الأخيرة للتخفيف من الانجراف على تعزيز التكييف طويل المدى (مثل تخزين مفتاح-قيمة الزمني (Temporal KV caching)، أو الرموز المرجعية (anchor tokens)) أو تعديل إجراءات التدريب (مثل "الفرض الذاتي" (self-forcing) مع قطع التدرج العشوائي). ويفترض المؤلفون أن هذه الطرق تظل هشة لأنها تفشل في معالجة السبب الجذري لانتشار الخطأ أثناء الاستدلال: وهو إعادة الاستخدام غير المنضبط لرموز التكييف الكامنة الفاسدة (corrupted latent conditioning tokens). فبمجرد فساد منطقة في الحالة الكامنة، يتم إعادة استخدامها مراراً وتكراراً في الخطوات التكرارية اللاحقة، مما يهيمن على عملية الانتباه ويؤدي إلى نشر الأخطاء للأمام. يفتقر النظام حالياً إلى آلية لتقييم أي الرموز الكامنة المخزنة (cached latent tokens) يمكن الوثوق بها.

المنهجية: TokenTrim

يقترح المؤلفون TokenTrim، وهو طريقة تعمل بالكامل أثناء مرحلة الاستدلال (inference-time) مصممة لتحديد وإزالة الرموز الكامنة غير المستقرة قبل إعادة استخدامها للتكييف. يعمل TokenTrim بالكامل في الفضاء الكامن، ولا يتطلب أي تغييرات في البنية، ولا إعادة تدريب، ويقدم عبئاً حسابياً ضئيلاً.

تتكون الطريقة من المكونات الأساسية التالية:

1. التهيئة المستقرة للحركة (Motion-Stabilized Initialization)

لتقليل الفساد في المراحل المبكرة، يتم توليد الدفعة الأولى من الإطارات باستخدام FlowMo، وهي تقنية تنظيم أثناء الاستدلال تقدم توجيهاً للتباين الواعي بالحركة. ينتج عن ذلك مرجع كامن مستقر (stable latent anchor). أما الدفعات اللاحقة، فيتم توليدها باستخدام النموذج التكراري الأساسي.

2. بناء الملخص الكامن (Latent Summary Construction)

في كل خطوة تكرارية $t$، يقوم النهج بتشفير الدفعة المولدة سابقاً ($X_{t-1}$) والدفعة المرشحة الحالية ($X_t$) إلى رموز كامنة. ولتمكين المقارنة المباشرة، يتم إنشاء ملخص كامن ($Z_{t-1}$ و $Z_t$) عن طريق متوسط الرموز الكامنة المكانية عبر البعد الزمني (الإطارات) لكل دفعة.

3. تقدير الانجراف لكل رمز (Per-Token Drift Estimation)

تحسب الطريقة درجة الانجراف ($d_i$) لكل مؤشر رمز مكاني $i$ عن طريق قياس المسافة الإقليدية بين التمثيلات الكامنة في الملخصات الحالية والسابقة:
$$d_i = \|Z_t(i) - Z_{t-1}(i)\|_2$$
تشير درجات الانجراف العالية إلى احتمال وجود فساد أو انحراف دلالي في مواقع رموز محددة.

4. المحفز التكيفي وتقييم الشدة (Adaptive Trigger and Severity Assessment)

بدلاً من التقليم غير المشروط، يقيم TokenTrim ما إذا كانت الدفعة الحالية تظهر انحرافاً غير طبيعي.

• يحدد أعلى $p \cdot N$ من الرموز ذات درجات الانجراف الأعلى (حيث $p$ هو كسر التقليم و $N$ هو إجمالي عدد الرموز).
• يحسب درجة شدة الانجراف ($D_t$) كمتوسط الانجراف لهذه الرموز العليا.
• يحافظ على إحصائيات جارية (المتوسط $\mu_t$ والانحراف المعياري $\sigma_t$) لشدة الانجراف من الدفعات المقبولة سابقاً.
• يتم تفعيل تدخل التقليم فقط إذا كان $D_t > \mu_t + \lambda\sigma_t$، حيث $\lambda$ هو معامل حساسية. تُستخدم فترة إحماء ($T_{warm}$) في البداية لتجميع إحصائيات موثوقة.

5. التقليم الصلب وإعادة التوليد (Hard Pruning and Regeneration)

عند تجاوز معيار الانجراف:

• يتم تطبيق قناع تقليم مكاني على ذاكرة المفتاح-القيمة (KV cache) الزمنية، مما يؤدي إلى إزالة المفاتيح والقيم المقابلة لمواقع الرموز غير المستقرة.
• يتم إعادة توليد الدفعة الحالية لمرة واحدة، مشروطة بهذا التخزين المؤقت المقلم.
• إذا ظلت الدفعة المعاد توليدها تنتهك معيار الانجراف، يتم قبولها كما هي لمنع الحلقات اللانهائية.
• إذا لم يتم تجاوز معيار الانجراف، يتم قبول الدفعة دون تعديل.

يتوافق TokenTrim مع الأطر التكرارية التي تستخدم الانتباه الذاتي مع تخزين KV، وقد تم إثبات ذلك تحديداً على استراتيجيات Self Forcing و Rolling Forcing.

المساهمات الرئيسية

1. الكشف عن الانجراف أثناء الاستدلال: قدمت الورقة آلية للكشف الصريح عن الرموز الكامنة غير المستقرة أثناء الاستدلال، مما ينقل التركيز من قدرة النموذج إلى التحكم في انتشار المعلومات.
2. التقليم الصلب للرموز الكامنة: على عكس الطرق التي تعدل مناطق مكانية كاملة أو معاملات النموذج، يقوم TokenTrim بإزالة رموز محددة فاسدة انتقائياً من السياق التكراري، مما يمنع المعلومات غير الموثوقة من التأثير على الخطوات المستقبلية.
3. التكامل الخالي من التدريب: تعمل الطريقة دون تعديل أوزان النموذج، أو إجراءات التدريب، أو مغادرة الفضاء الكامن، مما يجعلها متوافقة مع أحدث أطر توليد الفيديو.
4. التهيئة المستقرة للحركة: يوفر دمج FlowMo في الدفعة الأولية مرجعاً مستقراً، مما يكمل آلية التقليم.

النتائج التجريبية

قيم المؤلفون TokenTrim على نموذج Wan2.1-1.3B لتحويل النص إلى فيديو باستخدام استراتيجيات Rolling Forcing و Self Forcing.

• الأداء الكمي (VBench):
  • في حالة Rolling Forcing، حسن TokenTrim الدرجة النهائية من 75.12% إلى 79.67% (+4.55%)، مع مكاسب كبيرة في الجودة (+5.58%) والدرجات الدلالية (+3.53%).
  • في حالة Self Forcing، ارتفعت الدرجة النهائية من 75.93% إلى 81.84% (+5.91%).
  • تفوق TokenTrim باستمرار على FlowMo (طريقة توجيه الحركة أثناء الاستدلة) وعلى الطرق التكرارية الأساسية في جميع المقاييس المجمعة.
• دراسة التفضيل البشري (VideoJAM-Bench):
  • في المقارنات المباشرة، كان تفضيل TokenTrim أكبر بكثير من النماذج المرجعية و FlowMo في تقليل الانجراف الزمني (41.7% مقابل 15.2% لمرجع Rolling Forcing؛ و 49.7% مقابل 10.2% مقابل FlowMo).
  • أظهر أيضاً أداءً فائقاً في تماسك الحركة والجودة الجمالية مع الحفاظ على التوافق بين النص والفيديو.
• الكفاءة: زاد TokenTrim من وقت التشغيل الفعلي بمقدار 1.08x فقط مقارنة بالنموذج المرجعي، بينما تسببت إعدادات FlowMo في تباطؤ قدره 2.18x.
• الدراسات الاستقصائية (Ablation Studies):
  • أدى التقليم الشديد (20%) إلى تدهور الأداء بشكل حاد، بينما حقق التقليم المتوسط (10%) أفضل النتائج.
  • أدى إزالة تهيئة FlowMo إلى تقليل الأداء، مما يؤكد الفائدة التكاملية للبداية المستقرة.

الأهمية والادعاءات

تدعي الورقة أن الانجراف الزمني ليس مجرد مسألة نمذجة أو بيانات، بل هو مشكلة انتشار معلومات أثناء الاستدلال. ومن خلال التعامل مع ذاكرة KV كآلية ذاكرة نشطة وذاتية التصحيح بدلاً من كونها سجلاً سلبياً للتاريخ، يوضح TokenTrim أن التحكم في سياق التكييف أثناء الاستدلال وحده يمكن أن يقلل بشكل كبير من الانجراف الزمني.

خلص المؤلفون إلى أن التقدم المستقبلي في توليد الفيديو اللانهائي قد لا يعتمد فقط على مقدار السياق الذي يمكن للنموذج تذكره، بل على قدرته على الاستبعاد الانتقائي للضوضاء التي تهدد بتشويه الواقع. وهم يضعون TokenTrim كآلية متميزة وغير مستكشفة كفاية تعمل على تحسين التماسك الزمني طويل المدى دون التكلفة الحسابية لإعادة التدريب أو تعديل البنية.