🤖 AI

Model Already Knows the Best Noise: Bayesian Active Noise Selection via Attention in Video Diffusion Model

تقترح الورقة البحثية ANSE، وهو إطار عمل مدرك للنموذج يستفيد من مقياس عدم يقين قائم على الانتباه البايزي (BANSA) لاختيار بذور الضوضاء الأولية المثلى لنماذج انتشار الفيديو تلقائياً، مما يؤدي إلى تحسين جودة التوليد والتماسك الزمني مع حد أدنى من عبء الاستدلال.

المؤلفون الأصليون: Kwanyoung Kim, Sanghyun Kim

نُشر 2026-03-04

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kwanyoung Kim, Sanghyun Kim

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طاهٍ يحاول خبز كعكة الشوكولاتة المثالية. لديك وصفة مثالية (نموذج الذكاء الاصطناعي) ووصف واضح لما تريده (نص الأوامر، مثل "كعكة شوكولاتة بالفراولة").

ومع ذلك، قبل أن تبدأ في الخلط، تحتاج إلى أخذ حفنة من الدقيق من وعاء ضخم وفوضوي. في عالم توليد الفيديو بالذكاء الاصطناعي، يُطلق على هذا "الدقيق" اسم الضجيج (Noise).

إليك المشكلة: حتى لو كانت الوصفة هي نفسها، فإن الحفنة المحددة التي تأخذها في البداية تغير كل شيء.

إذا أخذت حفنة "محظوظة"، ستحصل على كعكة هشة ولذيذة.
إذا أخذت حفنة "سيئة"، ستحصل على كتلة كثيفة ومحترقة.

في الماضي، كان صانعو فيديو الذكاء الاصطناعي يأخذون حفنة من الضجيج عشوائياً. أحياناً ينجح الأمر؛ وغالباً لا ينجح. حاول باحثون آخرون إصلاح ذلك باستخدام "قواعد خارجية" (مثل تصفية الدقيق عبر منخل محدد)، لكن ذلك كان بطيئاً ولم يعمل دائماً مع كل كعكة.

تقدم هذه الورقة البحثية طريقة جديدة تسمى ANSE (الاختيار النشط للضجيج من أجل التوليد). وإليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. "الحدس" الخاص بالذكاء الاصطناعي (الفكرة الجوهرية)

بدلاً من مجرد أخذ ضجيج عشوائي أو استخدام مناخل خارجية، تسأل ANSE نموذج الذكاء الاصطناعي نفسه: "مهلاً، قبل أن نبدأ الخبز، أي حفنة من الدقيق تشعر بالثقة تجاهها أكثر؟"

لدى الذكاء الاصطناعي "حدساً" (يُسمى رياضياً عدم اليقين - Uncertainty) بشأن بذور الضجيج المختلفة.

عدم يقين عالٍ: الذككاء الاصطناعي مرتبك. الأمر يشبه طاهٍ ينظر إلى كومة من الدقيق ويفكر: "ليس لدي أدنى فكرة إلى ماذا سيتحول هذا. قد يكون كعكة، أو قد يكون طيناً".
عدم يقين منخفض: الذكاء الاصطناعي واثق. الأمر يشبه الطاهي الذي يقول: "أعرف تماماً ما سيفعله هذا الدقيق. سيصنع كعكة رائعة".

هدف ANSE هو العثور على الضجيج الذي يعطي الذكاء الاصطناعي أقل قدر من عدم اليقين (أعلى قدر من الثقة).

2. "اختبار الجمهور" (كيفية قياس الثقة)

كيف يعرف الذكما الاصطناعي ما إذا كان واثقاً؟ يستخدم الباحثون حيلة ذكية تسمى BANSA (الاختيار النشط للضجيج عبر الانتباه البايزي).

تخيل أن الذكاء الاصطناعي عبارة عن لجنة مكونة من 10 طهاة ينظرون إلى نفس الحفنة من الدقيق.

ضجيج سيء (درجة BANSA عالية): الطاهي رقم 1 يعتقد أنها كعكة. الطاهي رقم 2 يعتقد أنها فطيرة. الطاهي رقم 3 يعتقد أنها حساء. إنهم جميعاً يتجادلون ومختلفون ومرتبكون. هذه بذرة سيئة.
ضجيج جيد (درجة BANSA منخفضة): ينظر الطهاة العشرة إلى الدقيق ويقولون جميعاً: "نعم، هذه بالتأكيد ستكون كعكة". إنهم جميعاً متفقون وواثقون. هذه بذرة جيدة.

تقيس الورقة هذا "الاتفاق" من خلال النظر إلى خرائط الانتباه (Attention Maps) الخاصة بالذكاء الاصطناعي. فكر في خرائط الانتباه كأنها "نظرة" الذكاء الاصطناعي.

إذا كانت نظرة الذكاء الاصطناعي مهتزة وتنتقل بعشوائية شديدة عند النظر إلى الضجيج، فهو مرتبك (بذرة سيئة).
إذا كانت نظرته ثابتة ومركزة، فهو يعرف ما يفعله (بذرة جيدة).

3. "خدعة السرعة" (لجعل العملية سريعة)

عادةً، للتحقق مما إذا كان هناك لجنة من 10 طهاة متفقون، سيتعين عليك سؤالهم 10 مرات منفصلة. وهذا يستغرق وقتاً طويلاً ويبطئ عملية توليد الفيديو.

"الخلطة السرية" للورقة البحثية هي قناع برنولي (Bernoulli Mask).
بدلاً من سؤال اللجنة 10 مرات، يسألونهم مرة واحدة، ولكنهم يضعون "عصابة أعين" على عدد عشوائي قليل من الطهاه أثناء ذلك السؤال الواحد. ولأن العصابات عشوائية، فإن إجابات الطهاة تختلف قليلاً، مما يحاكي 10 آراء مختلفة فوراً.

يسمح هذا للنظام بالتحقق من "ثقة" الضجيج في جزء من الثانية دون إبطاء عملية إنشاء الفيديو.

4. النتيجة: أفلام أفضل، وأسرع

من خلال اختيار بذور الضجيج "المحظوظة" حيث يكون الذكاء الاصطناعي أكثر ثقة:

تبدو الفيديوهات أفضل: أخطاء تقنية أقل، حركة أكثر سلاسة، وتبدو الشخصيات أكثر واقعية.
تتطابق القصة بشكل أفضل: إذا طلبت "قطة ترقص"، فمن غير المرجح أن يصنع الذكاء الاصطناعي بالخطأ كلباً يركض.
إنها فعالة: لا تضيف سوى وقت ضئيل جداً للعملية (حوالي 10-15% إضافية)، بينما الطرق الأخرى التي تحاول إصلاح الضجيج لاحقاً يمكن أن تضاعف أو تضاعف ثلاث مرات وقت العمل.

الملخص

فكر في ANSE كمساعد ذكي يتحقق من "مزاج" الذكاء الاصطناعي قبل بدء الفيديو. بدلاً من التخمين أي نقطة بداية ستنجح، يسأل المساعد الذكاء الاصطناعي: "هل أنت متأكد من نقطة البداية هذه؟" إذا كان الذكاء الاصطناعي واثقاً (عدم يقين منخفض)، فيمضون قدماً. أما إذا كان الذكاء الاصطناعي مرتبكاً (عدم يقين عالٍ)، فيختارون نقطة بداية أخرى.

النتيجة؟ يقضي الذكاء الاصطناعي وقتاً أقل في الارتباك ووقتاً أكثر في صنع فيديوهات مذهلة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "النموذج يعرف بالفعل الضجيج الأفضل: الاختيار النشط للضجيج عبر بايزي من خلال الانتباه في نماذج انتشار الفيديو" (ANSE).

1. بيان المشكلة

تعاني نماذج الانتشار لتحويل النص إلى فيديو (T2V) من حساسية عالية لبذرة الضجيج الأولية (initial noise seed). فحتى مع نفس الوصف (prompt)، يمكن أن تؤدي البذور العشوائية المختلفة إلى نتائج متباينة جذرياً من حيث جودة الفيديو، والتماسك الزمني، والالتزام بالوصف.

قصور الطرق الحالية: تعتمد النهج الحالية لتحسين تهيئة الضجيج على أولويات خارجية (مثل تصفية الترددات، أو تنعيم ما بين الإطارات، أو أولويات غاوس). تتطلب هذه الطرق غالباً:
- ضبط دقيق ثقيل (fine-tuning) أو استراتيجيات إعادة جدولة معقدة.
- عمليات انتشار كاملة متكررة (زيادة في وقت الاستدلال)، مما يؤدي إلى أعباء حسابية كبيرة (غالباً ما تزيد عن 100% من وقت الاستدلال).
- تجاهلها للإشارات الداخلية للنموذج التي تشير بطبيعتها إلى أي البذور هي "جيدة" أو "سيئة" لوصف معين.

2. المنهجية: ANSE و BANSA

يقترح المؤلفون إطار عمل ANSE (الاختيار النشط للضجيج من أجل التوليد)، وهو إطار عمل مدرك للنموذج يختار بذور الضجيج عالية الجودة عن طريق قياس عدم اليقين القائم على الانتباه دون الحاجة لإعادة تدريب النموذج.

المفهوم الجوهري: BANSA (الاختيار النشط للضجيج عبر بايزي من خلال الانتباه)

يكيف هذا الإطار مبدأ BALD (التعلم النشط عبر بايزي من خلال عدم الاتفاق)، المستخدم تقليدياً في عدم اليقين الخاص بالتصنيف، ليناسب فضاء الانتباه التوليدي.

الآلية: بدلاً من التنبؤ بـ logit الفئات، يقيس BANSA عدم الاتفاق في الإنتروبيا عبر عينات انتباه عشوائية متعددة.
دالة الاستحواذ (Acquisition Function): بالنسبة لبذرة ضجيج $z$ $z$ ، ووصف $c$ $c$ ، وخطوة زمنية $t$ $t$ معينة، يقوم النموذج بتوليد $K$ $K$ من خرائط الانتباه العشوائية (عبر الاضطرابات). يتم حساب درجة BANSA كالتالي:
$\text{BANSA} = H\left(\frac{1}{K}\sum A^{(k)}\right) - \frac{1}{K}\sum H(A^{(k)})$
حيث $H$ $H$ هو إنتروبيا شانون.
- التفسير: تشير درجة BANSA المنخفضة إلى أن خرائط الانتباه متسقة وواثقة (عدم يقين معرفي منخفض). بينما تشير الدرجة العالية إلى عدم الاتفاق وعدم اليقين.
- استراتيجية الاختيار: يختار الإطار بذرة الضجيج ذات أدنى درجة BANSA، حيث تثبت الأدلة التجريبية أن هذه البذور تؤدي إلى فيديوهات أكثر تماسكاً والتزاماً بالوصف.

التقريبات الفعالة

لجعل BANSA قابلاً للتنفيذ أثناء الاستدلال دون إعادة تدريب أو تكاليف حسابية هائلة، قدم المؤلفون تحسينين رئيسيين:

الانتباه المقنع ببيرنولي (Bernoulli-Masked Attention): بدلاً من تشغيل $K$ من عمليات التمرير الأمامي الكاملة (وهو أمر مكلف)، تضخ الطريقة العشوائية في تمرير أمامي واحد عبر تطبيق أقنعة بيرنولي عشوائية على درجات الانتباه. هذا يولد $K$ من العينات العشوائية من عملية حسابية واحدة.
بتر الطبقات (Layer Truncation): حساب BANSA عبر جميع طبقات الانتباه يعد أمراً فائضاً. استخدم المؤلفون تحليل الارتباط التراكمي لتحديد عمق القطع $d^*$ (على سبيل المثال، الطبقة 14 في CogVideoX-2B) حيث يرتبط مقياس BANSA الجزئي ارتباطاً عالياً بمقياس الطبقة الكاملة. هذا يقلل الحساب بشكل كبير مع الحفاظ على دقة الاختيار.

3. المساهمات الرئيسية

أول إطار عمل للاختيار النشط للضجيج لنماذج انتشار الفيديو: يعد ANSE أول طريقة تعامل اختيار الضجيج كمسألة تعلم نشط قائمة على عدم اليقين البايزي داخل فضاء الانتباه للنماذج التوليدية.
دالة استحواذ BANSA: تقدم مقياساً مبتكراً يقيس اتساق الانتباه تحت الاضطرابات العشوائية، مما يسمح باختيار مدرك للنموذج دون أولويات خارجية أو إعادة تدريب.
نشر فعال في وقت الاستدلال: يثبت أن الحصول على اختيار عالي الجودة يمكن تحقيقه بـ أعباء هامشية (زيادة بنحو 10-15% فقط في وقت الاستدلال) باستخدام قناع بيرنولي وبتر الطبقات.
القدرة على التعميم: الطريقة قابلة للتركيب والتشغيل (plug-and-play) وتعمل عبر بنيات متنوعة، بما في ذلك نماذج U-Net (مثل AnimateDiff) ونماذج MMDiT (مثل CogVideoX، HunyuanVideo، Wan2.1).

4. النتائج التجريبية

تم تقييم الطريقة على عدة نماذج أساسية (backbones) لـ T2V (AnimateDiff، CogVideoX-2B/5B، HunyuanVideo، Wan2.1) باستخدام معيار VBench و FVMD (مسافة حركة الفيديو فريشيه).

التحسينات الكمية:
- AnimateDiff: حسنت إجمالي درجة VBench من 77.98 إلى 79.33 (+1.35 نقطة) مع زيادة بنسبة 10.98% فقط في وقت الاستدلال.
- CogVideoX-5B: حسنت الإجمالي من 81.52 إلى 81.71 مع زيادة بنسبة 13.1% في الوقت.
- المقارنة مع SOTA: يتفوق ANSE أو يضاهي طرق الأولويات الترددية (مثل FreqPrior) مع كونه أسرع بكثير. غالباً ما تسبب FreqPrior زيادة في الوقت تتجاوز 100%، بينما يظل ANSE تحت 15%.
- جودة الحركة: حقق ANSE درجات FVMD أقل في MSR-VTT، مما يشير إلى دقة أفضل في الحركة.
التحليل النوعي:
- أظهرت الفيديوهات المولدة ببذور ذات درجة BANSA منخفضة تحسناً في التماسك الزمني، وتقليلاً في الوميض (flickering)، ودقة تشريحية أفضل (مثل "كوالا يعزف البيانو").
- السلوك عبر الأوصاف المختلفة: توضح الورقة أن فعالية الضجيذ تعتمد على الوصف؛ فالبذرة "الجيدة" لوصف ما قد تكون "سيئة" لوصف آخر، مما يؤكد الحاجة إلى الاختيار لكل وصف على حدة بدلاً من بذرة عالمية.
دراسات الاستئصال (Ablation Studies):
- عكس المعيار: أدى اختيار البذور ذات درجات BANSA الأعلى (أعلى قدر من عدم اليقين) إلى تدهور جودة الفيديو، مما يؤكد صحة منطق الاختيار.
- العشوائية: تفوق قناع بيرنولي (BANSA-B) على العشوائية القائمة على Dropout، مما يشير إلى أن استراتيجية القناع تلتقط عدم اليقين على مستوى الانتباه بشكل أفضل.

5. الأهمية والأثر

نموذج توسيع وقت الاستدلال: يقدم ANSE طريقة جديدة لتوسيع نماذج الانتشار ليس عبر زيادة خطوات إزالة الضجيج أو معاملات النموذج، بل عبر الاختيار الذكي للشرط الأولي.
فعالية التكلفة: يوفر نهجاً مبدئياً وقابلاً للتعميم لاختيار الضجيج يقدم مكاسب نوعية كبيرة بتكلفة حسابية ضئيلة، مما يجعله عملياً للغاية للنشر في العالم الحقيقي.
رؤية نظرية: تجسر هذه الدراسة الفجوة بين التعلم النشط (تقدير عدم اليقين) والنمذجة التوليدية، مثبتة أن إشارات الانتباه الداخلية كافية للتنبؤ بجودة التوليد.
الاتجاهات المستقبلية: يقترح المؤلفون دمج ANSE مع طرق صقل ما بعد التدريب (مثل Self-Forcing) لتعزيز الجودة بشكل أكبر، حيث يتعامل ANSE مع التهيئة بينما تتعامل الطرق الأخرى مع مسار أخذ العينات.

باختصار، يستغل ANSE آليات الانتباه الخاصة بالنموذج نفسه لـ "معرفة" أي بذور الضجيح ستكون الأفضل، مما يوفر حلاً خفيف الوزن وعالي التأثير لمشكلة العشوائية في توليد الفيديو.