💻 computer science

MemRoPE: Training-Free Infinite Video Generation via Evolving Memory Tokens

يُعد MemRoPE إطار عمل لا يتطلب تدريباً يتيح توليد فيديوهات لانهائية وعالية الدقة من خلال تقديم رموز ذاكرة متطورة لضغط السياق الديناميكي وفهرسة RoPE عبر الإنترنت لحل الصراعات الموضعية، مما يتغلب بذلك على انزياح الهوية وركود الحركة المتأصلين في أساليب الانتشار ذاتية الانحدار الحالية.

المؤلفون الأصليون: Youngrae Kim, Qixin Hu, C. -C. Jay Kuo, Peter A. Beerel

نُشر 2026-03-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Youngrae Kim, Qixin Hu, C. -C. Jay Kuo, Peter A. Beerel

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول سرد قصة تستغرق ساعة كاملة. لديك راوٍ موهوب جداً (الذكاء الاصطناعي)، لكن ذاكرته سيئة للغاية. في كل مرة يروي فيها جملة جديدة، ينسى الجملة التي سبقتها، أو يبدأ في خلط أسماء الشخصيات. وبحلول الوقت الذي يصل فيه إلى نهاية القصة، يكون البطل قد تحول إلى شرير، والمكان قد تغير من غابة إلى صحراء، وتصبح الحبكة غير منطقية.

هذه هي بالضبط المشكلة التي تواجهها مولدات الفيديو الحالية بالذكاء الاصطناعي. فهي بارعة في صنع مقاطع قصيرة مدتها 5 ثوانٍ، ولكن عندما تطلب منها صنع فيديو مدته ساعة، تنهار الجودة. تبدأ الشخصيات في التغير، والخلفية في التشوّه، وتتعثر الحركة.

MemRoPE هو حل جديد "لا يتطلب إعادة تدريب" (بمعنى أنه لا يحتاج لتعلم أي شيء جديد) يعالج مشكلة الذاكرة هذه. إليك كيف يعمل، باستخدام بعض التشبيهات البسيطة:

1. المشكلة: "النافذة المنزلقة" مقابل "الثقب الأسود"

تستخدم معظم مولدات الفيديو الحالية بالذكاء الاصطناعي ما يسمى بـ النافذة المنزلقة (Sliding Window). تخيل أنك تنظر من خلال أنبوب ضيق؛ يمكنك فقط رؤية آخر 10 ثوانٍ من الفيديو. ومع دخول ثوانٍ جديدة، تسقط الثواني الأقدم من الخلف وتُلقى في ثقب أسود للأبد.

النتيجة: ينسى الذكاء الاصطناعي من كانت الشخصية الرئيسية قبل 20 دقيقة. كما أنه يحاول الحفاظ على "مرساة ثابتة" (مثل صورة للإطار الأول) لتذكر البداية، لكن هذه الصورة لا تتحدث أبداً، لذا فهي لا تساعد في الأمور التي تتغير بمرور الوقت.

2. الحل: "أمين المكتبة الذكي" (رموز الذاكرة)

يقدم MemRoPE أميناً للمكتبة ذكياً لا يرمي الكتب بعيداً، بل يقوم بتلخيصها بدلاً من ذلك.

نظام المسارين: يحافظ الذكاء الاصطناعي على "دلوين" خاصين للذاكرة:
- الدلو طويل المدى (الموسوعة): هذا الدلو يمتص ببطء معلومات عن كامل الفيديو حتى الآن. إنه يتذكر وجه الشخصية الرئيسية، والنمط العام للغرفة، وجوهر القصة. وهو يتحدث ببطء شديد، لذا لا يرتبك بسبب كل حركة صغيرة.
- الدلو قصير المدى (الملاحظة اللاصقة): هذا الدلو يحمل الأحداث الحديثة. إنه يتذكر ما حدث في الثواني القليلة الماضية حتى لا يبدو الفيديو متجمداً أو متقطعاً.
كيف يعمل: بينما يعمل الفيديو، يأخذ الذكاء الاصطناعي الإطارات الأقدم التي أوشكت على النسيان، ويضغطها في ملخص، ويحدث هذين الدلوين. الأمر يشبه التقاط صورة للفيلم بأكم له حتى الآن والاحتفاظ بها في جيبك، بدلاً من محاولة تذكر كل ثانية بمفردها.

3. السر الخفي: "الصندوق غير الملصق" (فهرسة RoPE عبر الإنترنت)

هذا هو الجزء التقني السحري، ولكن إليك النسخة المبسطة.

في الذكاء الاصطناعي، لكل معلومة "ملصق" يخبرنا بمكانها في الزمن (مثل "الإطار 1"، "الإطار 2"، إلخ). عادةً، تكون هذه الملصقات ملتصقة بالمعلومة بشكل دائم. إذا حاولت خلط معلومات من الإطار 1 والإطار 100 معاً، ستختلط الملصقات وتتعطل العمليات الحسابية.

يستخدم MemRoPE خدعة تسمى فهرسة RoPE عبر الإنترنت (Online RoPE Indexing):

التشبيه: تخيل أن لديك صندوقاً من قطع الليغو. عادةً، تكون القطع مختومة بعبارة "جزء من المنزل أ" أو "جزء من المنزل ب". إذا حاولت لصقها معاً، فلن تتناسب.
حركة MemRoPE: يأخذ القطع (بيانات الفيديو) ويضعها في صندوق بدون أي أختام. هو يضع الأختام فقط بعد خلط القطع معاً، مباشرة قبل أن ينظر إليها الذكاء الاصطناعي.
النتيجة: يمكن للذكاء الاصطناعي الآن خلط "الذاكرة طويلة المدى" مع "الإطار الجديد" بأمان دون أن ترتبك الحسابات. هذا يسمح للذكاء الاصطناعي بالنظر إلى ساعة كاملة من الفيديو كقصة واحدة مستمرة ومتماسكة، رغم أنه ينظر فقط إلى جزء صغير منها في كل مرة.

لماذا يعد هذا أمراً مهماً؟

لا حاجة لإعادة التدريب: لست بحاجة لتعليم الذكاء الاصطناعي طريقة جديدة للتعلم. يمكنك فقط توصيل نظام "أمين المكتبة الذكي" هذا بالنماذج الموجودة، وستصبح أفضل فوراً في إنتاج الفيديوهات الطويلة.
طول غير محدود: بما أن دلاء الذاكرة تحافظ على نفس الحجم (فهي فقط تصبح ملخصات أكثر ذكاءً)، يمكنك إنشاء فيديو لمدة ساعة، أو 10 ساعات، أو حتى أطول من ذلك دون أن تنفد ذاكرة الكمبيوتر.
اتساق مثالي: في أمثلة الورقة البحثية، أنتج MemRoPE فيديو لمدة ساعة لامرأة تسير في طوكيو. ظل وجه المرأة وملابسها وأضواء النيون ثابتة طوال الوقت. أما الطرق الأخرى فقد جعلت وجهها يتحول إلى وحش أو حولت الأضواء إلى تشويش ثابت.

باخت://الخلاصة

فكر في MemRoPE كمن يمنح الذكاء الاصطناعي ذاكرة فوتوغرافية تُحدث نفسها تلقائياً. فبدلاً من نسيان الماضي أو تجميد الحاضر، يقوم باستمرار بتلخيص تاريخ الفيديو مع الحفاظ على حدة الأحداث الأخيرة. وهذا يسمه بسرد قصة متماسكة وعالية الجودة يمكن أن تستمر لساعات، بدلاً من مجرد بضع ثوانٍ.

إليك ملخص تقني مفصل لورقة البحث بعنوان "MemRoPE: توليد فيديو لانهائي بدون تدريب عبر رموز الذاكرة المتطورة".

1. بيان المشكلة

تسمح نماذج انتشار الفيديو ذات التوليد الذاتي (Autoregressive video diffusion models) ببث الإطارات في الوقت الفعلي، لكنها تواجه قيوداً حرجة عند توليد محتوى طويل الأمد (دقائق إلى ساعات):

فقدان السياق وانحراف الهوية: تستخدم مخازن (KV caches) ذات النافذة المنزلقة القياسية آلية FIFO (الداخل أولاً يخرج أولاً) للإخلاء، مما يؤدي إلى التخلص من السياق السابق. يؤدي هذا إلى تدهور تدريجي في هوية الموضوع، والجودة البصرية، والتماسك الحركي بمرور الوقت.
المرتكزات الثابتة: تحاول الطرق الحالية (مثل Deep Forcing) حل ذلك عن طريق الحفاظ على الإطارات الأولية كـ "بالوعات انتباه" (attention sinks). ومع ذلك، فإن هذه المرتكزات الثابتة لا يمكنها عكس المحتوى المتطور لفيديو متنامٍ.
اختيار الرموز المنفصلة: تقوم طرق مثل الضغط التشاركي (Participative Compression - PC) باختيار الرموز بناءً على درجات الانتباه التراكمية. يتسبب هذا في استقرار المخزن مؤقتاً على مجموعة راكدة من الرموز، مما يؤدي إلى تحولات بصرية مفاجئة كلما تم تحديث المخزن.
الاستقراء الموضعي: تتطلب تمديد التوليد إلى ما وراء أفق التدريب التعامل مع تضمينات الموضع الدوارة (Rotary Position Embeddings - RoPE). تخزن الطرق القياسية المفاتيح (Keys) مع تطبيق RoPE بالفعل. إن متوسط هذه المفاتيح (لأغراض ضغط الذاكرة) غير صحيح رياضياً لأن RoPE لا يتوزع عبر عملية الجمع، مما يؤدي إلى مراحل دورانية غير متوافقة وانكسار في الانتباه الزمني.

2. المنهجية: MemRoPE

إن MemRoPE هو إطار عمل يعمل بدون تدريب مصمم لتمكين توليد فيديو غير محدود باستخدام مخزن (KV cache) ثابت الحجم. وهو يقدم مكونين مصممين معاً:

أ. رموز الذاكرة (المتوسط المتحرك الأسي ثنائي المسار - Dual-Stream EMA)

بدلاً من التخلص من الإطارات القديمة أو اختيار رموز منفصلة، يقوم MemRoPE بضغط تاريخ التوليد بأكمله باستمرار في مخزن ثابت الحجم باستخدام المتوسط المتحرك الأسي (EMA).

المسارات المزدوجة: يحافظ على مسارين متوازيين للذاكرة:
- الذاكرة طويلة الأمد ( $\mu_L$ ): متوسط متحرك بطيء الحركة ( $\alpha_L \approx 0.01$ ) يلتقط الهوية المستقرة، والهيكل العالمي للمشهد.
- الذاكرة قصيرة الأمد ( $\mu_S$ ): متوسط متحرك سريع الحركة ( $\alpha_S \approx 0.1$ ) يتتبع الديناميكيات والحركة الحديثة.
الآلية: مع خروج الإطارات من النافذة المنزلقة المحلية، تقوم عمليات التجميع المكاني للمفاتيح والقيم بتحديث هذين المسارين. يضمن ذلك احتواء المخزن دائماً على تمثيل متطور بسلاسة لتاريخ الفيديو دون زيادة في تكلفة الذاكرة.

ب. فهرسة RoP عبر الإنترنت (Online RoPE Indexing)

لجعل تجميع EMA صالحاً رياضياً، يقوم MemRoce بفصل المحتوى عن الموضع.

التخزين غير المرتبط بالموضع: يتم تخزين جميع المفاتيح في المخزن بدون تطبيق RoP (مفاتيح خام). هذا يمنع خلط المراحل الدورانية غير المتوافقة أثناء عملية المتوسط الحسابي.
الفهرسة الديناميكية: في كل خطوة انتباه، يتم تعيين مؤشرات نسبية للكتلة (block-relative indices) إلى التسلسل بأكمله (البالوعة + الذاكرة + النافذة المحلية) بدءاً من الصفر. يتم تطبيق RoPE أثناء التشغيل على هذه المؤشرات قبل حساب الانتباه.
الفائدة: يحل هذا مشكلة الاستقراء الموضعي (إبقاء المؤشرات ضمن نطاق التدريب) ويجعل التجميع الزمني للمفاتيح معرفاً بشكل جيد.

ج. هيكل المخزن ثلاثي الطبقات

يتكون إجمالي مخزن KV عند أي خطوة $t$ من:

البالوعة ( $K_{sink}$ ): الإطار (أو الإطارات) عالي الجودة الأول الذي يعمل كمرتكز ثابت.
الذاكرة ( $K_{mem}$ ): مسارات EMA المزدوجة ( $\mu_L, \mu_S$ ) التي تمثل التاريخ المضغوط.
المحلية ( $K_{local}$ ): النافذة المنزلقة الأخيرة للإطارات.

3. المساهمات الرئيسية

توليد لانهائي بدون تدريب: يتيح MemRoPE توليد فيديوهات تستمر لساعات (تم إثبات ذلك حتى ساعة واحدة) باستخدام مخزن ثابت الحجم، دون الحاجة إلى أي تدريب إضافي للنموذج.
رموز الذاكرة: آلية EMA ثنائية المسار مبتكرة تقوم بضغط التاريخ باستمرار في تمثيلات طويلة وقصيرة الأمد، مما يحافظ على الهوية العالمية والديناميكيات المحلية.
فهرسة RoPE عبر الإنترنت: تقنية تقوم بتخزين المفاتيح بدون ترميز موضعي وتطبيق RoPE ديناميكياً أثناء الاستدلال. هذا يحل عدم التوافق الرياضي لمتوسط مفاتيح RoPE ويمكّن التجميع الزمني المستقر.
أداء فائق: يتفوق إطار عمل MemRoPE على الطرق الرائدة الأخرى التي تعمل بدون تدريب (مثل Deep Forcing و $\infty$ -RoPE) من حيث الجودة البصرية، واتساق الموضوع، والتماسك الزمني عبر المقاييس من دقائق إلى ساعات.

4. النتائج التجريبية

قيم المؤلفون MemRoPE على النماذج الأساسية Self-Forcing و LongLive باستخدام معيار VBench-Long.

الأداء الكمي:
- 120 ثانية و 240 ثانية: حقق MemRoPE أعلى متوسط درجات عبر جميع المقاييس، لا سيالما في الجودة الجمالية، وجودة التصوير، واتساق الموضوع.
- 480 ثانية و 1 ساعة: تفوق MemRoFE بشكل كبير على $\infty$ -RoPE (الطريقة الوحيدة الأخرى القادرة على التوليد لمدة ساعة). على سبيل المثال، في نموذج LongLive عند ساعة واحدة، سجل MemRoPE درجة 87.99 مقابل 87.01 لـ $\infty$ -RoPE، مع مكاسب ملحوظة في اتساق الموضوع واستقرار الخلفية.
- المقارنة: بينما يتفوق $\infty$ -RoPE في سلاسة الحركة قصيرة المدى، فإنه يفشل في الحفاظ على الهوية طويلة المدى. أما Deep Forcing فيعاني من تحولات بصرية مفاجئة بسبب اختيار الرموز المنفصلة.
النتائج النوعية:
- تظهر المقارنات البصرية أن النماذج المرجعية تعاني من انحراف هوية الموضوع (على سبيل المثال، تغير عدد الجراء، أو تحولات الألوان، أو الانهيار الهيكلي) مع زيادة طول الفيديو.
- يحافظ MemRoPE على مظهر ثابت للموضوع، وهيكل الخلفية، ونغمة اللون طوال عمليات التوليد التي تستمر لساعة كاملة.
دراسة المستخدم وتقييم VLM:
- في دراسة مستخدم (2AFC)، فضل المشاركون MemRoPE على جميع النماذج المرجعية في أكثر من 93%+ من الحالات فيما يتعلق باتساق اللون والموضوع.
- أكد التقييم القائم على نماذج الرؤية اللغوية الكبيرة (Gemini 3.1-Pro) أن MemRoPE يمتلك أعلى درجات الاستقرار البصري.
الكفاءة: يضيف MemRoPE تأخيراً طفيفاً جداً في الاستدلال. وفي بعض الإعدادات (Self-Forcing)، هو في الواقع أسرع من النموذج المرجعي لأن مخزنه ثلاثي الطبقات المدمج يقلل من إجمالي عدد الرموز التي يتم الانتباه إليها مقارنة بالنوافذ المنزلقة الأكبر.

5. الأهمية

يعالج MemRoPE عقبة أساسية في توليد الفيديو ذاتي التوليد: المقايضة بين قيود الذاكرة والتماسك طويل الأمد.

تحول في النموذج المعرفي: إنه ينتقل من فكرة "الاحتفاظ بمزيد من الإطارات" (وهو أمر مكلف للذاكرة) إلى "التذكر بشكل أفضل" (عبر الضغط الذكي).
العملية: كونه يعمل بدون تدريب، يمكن دمجه في أي نموذج انتشار فيديو ذاتي التوليد حالي، مما يجعله قابلاً للتطبيق الفوري على الأنظمة المتطورة الحالية.
التطبيقات المستقبلية: تتيح هذه التكنولوجيا تطبيقات متقدمة مثل محاكاة العالم المستمرة، واللقطات السينمائية الطويلة، وتوليد البيانات الاصطناعية للقيادة الذاتية، حيث يعد الحفاظ على الهوية المستمرة عبر فترات ممتدة أمراً بالغ الأهمية.

في الختام، يثبت MemRoPE أنه من خلال فصل الترميز الموضعي عن تخزين المحتوى واستخدام تجميع الذاكرة المستمر، يمكن توليد فيديوهات عالية الدقة تستمر لساعات طويلة دون التدهور الذي يصاحب عادةً التوليد ذاتي التوليد.