🤖 AI

World Models That Know When They Don't Know - Controllable Video Generation with Calibrated Uncertainty

تقترح هذه الورقة البحثية C3، وهي طريقة مبتكرة لتقدير عدم اليقين تقوم بتدريب نماذج الفيديو القابلة للتحكم لتوليد خرائط حرارية للثقة عالية الدقة ومعايرة على مستوى شبه الرقعة (subpatch) من خلال تقدير عدم اليقين في الفضاء الكامن واستخدام قواعد تسجيل ملائمة تماماً، مما يتيح الكشف الموثوق عن الهلوسة وتحديد البيانات الخارجة عن التوزيع لتطبيقات الروبوتات.

المؤلفون الأصليون: Zhiting Mei, Tenny Yin, Micah Baker, Ola Shorinwa, Anirudha Majumdar

نُشر 2026-03-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhiting Mei, Tenny Yin, Micah Baker, Ola Shorinwa, Anirudha Majumdar

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك كاميرا فيديو سحرية وذكية للغاية يمكنها التنبؤ بالمستقبل. تخبر الكاميرا: "يا ذراع الروبوت، ارفع ذلك الكوب الأحمر"، فتقوم فوراً بإنشاء فيديو لما سيحدث تالياً بالضبط. هذا هو ما تفعله نماذج الفيديو القابلة للتحكم (Controllable Video Models) الحديثة؛ فهي مذهلة في إنشاء أفلام واقعية لحركات الروبوتات، أو سقوط الأشياء، أو تطور المشاهد.

لكن هناك مشكلة: هذه الكاميرات تكذب أحياناً.

تماماً مثل الشخص الحالم الذي يضيع في خياله الخاص، تقوم هذه النماذج الذكية أحياناً بـ "الهلوسة". قد تُظهر لك الروبوت وهو يلتقط كوباً ليس موجوداً أصلاً، أو يتحول الكوب إلى موزة، أو تمر يد الروبوت من خلال الطاولة. الجزء المخيف؟ الذكاء الاصطناعي لا يعرف أنه يكذب. إنه يعرض لك الفيديو المزيف بثقة بنسبة 100%، مما يجعلك تعتقد أنه حقيقي.

هذه مشكلة ضخمة في مجال الروبوتات. إذا كانت "رؤية المستقبل" لدى سيارة ذاتية القيادة تهلوس وتعتبر مشاةً مجرد سحابة، فقد تصطدم بهم. نحن بحاجة لطريقة نقول بها للذكاء الاصطناعي: "مهلاً، أنت لست متأكداً من هذا الجزء. لا تثق به."

إليك C3: "كاشف الصدق" لفيديوهات الذكاء الاصطناعي

قام الباحثون في جامعة برينستون ببناء نظام جديد يسمى C3 (المعاير، القابل للتحكم، والمستمر - Calibrated Controllable Continuous). فكر في C3 ليس ككاميرا جديدة، بل كـ مشرف صادق يجلس بجانب مولد الفيديو مباشرة.

إليك كيف يعمل C3، باستخدام بعض التشبيهات البسيطة:

1. "بطاقة تقييم الثقة" (بدلاً من مجرد صورة)

عادةً، عندما ينشئ الذكاء الاصطناعي فيديو، فإنه يعطيك الصورة فقط. يضيف C3 طبقة ثانية: بطاقة تقييم الثقة.

التشبيه: تخيل مذيع نشرة الطقس. المذيع العادي يقول: "ستمطر غداً". أما C3 فهو مثل مذيع يقول: "ستمطر غداً، لكنني متأكد بنسبة 40% فقط بشأن الجانب الشمالي من المدينة".
كيف يعمل: يقوم C3 بتقسيم الفيديو إلى مربعات صغيرة جداً (subpatches). لكل مربع على حدة، يسأل الذكاء الاصطناعي: "ما مدى تأكدك من أن هذه البكسل حقيقية؟" إذا كان الذكاء الاصطناعي يخمن، يضع C3 علامة بـ خريطة حرارية حمراء (مثل علامة تحذير) على ذلك المكان. وإذا كان الذكاء الاصطناعي واثقاً، يظل اللون بارداً وأزرق.

2. خدعة "اللغة السرية" (الفضاء الكامن - Latent Space)

للتحقق مما إذا كان الذكاء الاصطناعي يكذب، يمكنك محاولة مشاهدة الفيديو ومقارنته بالواقع. لكن هذا يستغرق وقتاً طويلاً ويتطلب حاسوباً خارقاً.

التشبيه: تخيل محاولة التحقق مما إذا كان الطاهي يطبخ شريحة لحم مثالية عن طريق تذوق الطبق النهائي (فضاء البكسل - Pixel Space). إنها عملية بطيئة وفوضوية. C3 أكثر ذكاءً؛ فهو يستمع إلى أفكار الطاهي الداخلية بينما لا يزال في المطبخ (الفضاء الكامن - Latent Space).
كيف يعمل: نماذج فيديو الذكاء الاصطناعي لا "ترى" البكسلات فعلياً؛ بل تفكر بلغة مضغوطة وسرية تسمى "الفضاء الكامن". يتعلم C3 قراءة هذه اللغة السرية. إنه يتحقق من ثقة الذكاء الاصطناعي الداخلية قبل أن يتم رسم الفيديو بالكامل. وهذا يجعله سريعاً جداً وغير مكلف في التشغيل، حتى مع النماذج الضخمة.

3. تعليم الذكاء الاصطناعي قول "لا أعرف"

الابتكار الأكبر هو كيفية تعليم الذكاء الاصطناعي أن يكون صادقاً.

التشبيه: تخيل طالباً يؤدي امتحاناً. إذا خمن عشوائياً وأصاب الإجابة، يحصل على نجمة ذهبية. ولكن إذا خمن وأخطأ، يحصل على عقوبة. يستخدم C3 قاعدة تسجيل خاصة (تسمى قاعدة التسجيل الصحيحة - Proper Scoring Rule) تعاقب الذكاء الاصطناعي إذا كان واثقاً جداً بينما هو في الواقع مخطئ.
النتيجة: يتعلم الذكاء الاصطناعي أن كون المرء صادقاً بشأن عدم يقينه أكثر قيمة من التظاهر بالعبقرية. إنه يتعلم أن يقول: "أنا لست متأكداً من هذا الجزء"، بدلاً من اختلاق قصة مزيفة.

لماذا يهم هذا؟ (الاختبار في العالم الحقيقي)

اختبر الباحثون C3 في مختبر روبوتات حقيقي. أعطوا الروبوت مهاماً لم يرها من قبل، مثل:

خلفيات جديدة: وضع هيكل عظمي في المطبخ.
إضاءة غريبة: تشغيل وإطفاء الأضواء بسرعة.
أدوات غريبة: ربط منشفة بيد الروبوت.

النتيجة:
عندما حاول الروبوت القيام بهذه المهام الغريبة، بدأ مولد الفيديو بالهلوسة (على سبيل المثال، تحول يد الروبوت إلى كتلة هلامية).

بدون C3: سيقوم الروبوت بتوليد فيديو مزيف ويحاول التصرف بناءً عليه، مما قد يؤدي إلى الاصطدام أو كسر الأشياء.
مع C3: في اللحظة التي واجه فيها الروبوت الإضاءة الغريبة أو الهيكل العظمي، أضاء C3 الشاشة بـ مناطق تحذير حمراء ساطعة. لقد أخبر النظام: "توقف! أنا لا أعرف ما الذي يحدث هنا. لا تثق بهذا الفيديو!"

الخلاية

C3 هو بمثابة شبكة أمان لخيال الذكاء الاصطناعي.

إنه يسم يسمح للروبوتات باستخدام نماذج الفيديو القوية لـ "رؤية" المستقبل، ولكنه يضيف طبقة حاسمة من الوعي الذاتي. إنه يضمن أنه عندما يبدأ الذكاء الاصطناعي في تخيل فيزياء مستحيلة (مثل اختفاء الأشياء أو تغير لونها)، فإنه يرفع راية حمراء على الفور.

في عالم نريد فيه للروبوتات أن تساعدنا في منازلنا ومستشفياتنا، نحن لا نحتاج فقط إلى روبوتات ذكية؛ بل نحتاج إلى روبوتات تعرف متى لا تعرف. C3 يمنحها هذا التواضع.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "نماذج العالم التي تعرف متى لا تعرف: توليد فيديو قابل للتحكم مع تقدير عدم اليقين المعاير" (C3).

1. بيان المشكلة

حققت التطورات الأخيرة في نماذج الفيديو التوليدية (مثل النماذج القائمة على الانتشار والمشروطة بالنصوص أو أفعال الروبوتات) جودة عالية في التركيب (synthesis). ومع ذلك، تعاني هذه النماذج من قصورين حرجين يعيقان نشرها في المجالات الحساسة للسلامة مثل الروبوتات:

الهلوسة (Hallucination): غالبًا ما تولد النماذج إطارات مستقبلية غير متسقة فيزيائيًا أو غير متوافقة مع الواقع (مثل تحول الأجسام، أو اختفائها، أو انتهاك قوانين الفيزياء).
الافتقار إلى تقدير الثقة: لا تستطيع النماذج الحالية تقييم أو التعبير عن عدم اليقين الخاص بها. فهي تولد مخرجات بنفس مستوى الثقة بغض النظر عما إذا كان المدخل ضمن توزيع التدريب أو ما إذا كان التنبؤ من المرجح أن يكون هلوسة.
قصور طرق تقدير عدم اليقين (UQ) الحالية: طرق تقدير عدم اليقين السابقة للفيديو إما أنها غير قابلة للحساب عمليًا (تتطلب مجموعات أو عينات مونت كارلو لنماذج بمليارات المعلمات) أو تفتقر إلى الدقة المكانية/الزمانية (تقدم درجة ثقة واحدة فقط للفيديو بأكل بدلاً من تقديرات على مستوى الإطار أو البكسل).

2. المنهجية: C3

يقترح المؤلفون C3 (توليد الفيديو المستمر القابل للتحكم والمعاير)، وهو إطار لتقدير عدم اليقين مصمم لتدريب نماذج الفيديو على تقدير ثقتها عند مستوى "دون الرقعة" (subpatch level) (أي بمقياس مستمر وكثيف).

البنية الأساسية

يعمل C3 ضمن إطار محول الانتشار الكامن (Latent Diffusion Transformer - DiT). وبدلاً من تقدير عدم اليقين في مساحة البكسل عالية الأبعاد (وهو أمر مكلف حاسوبيًا)، يقوم C3 بإجراء تقدير عدم اليقين مباشرة في المساحة الكامنة (latent space).

توليد الفيديو: يستخدم عملية انتشار كامنة قياسية حيث يتم تشفير إطارات الفيديو والمدخلات والأفعال إلى مساحة كامنة $U$ عبر VQ-VAE.
مسبار عدم اليقين ( $f_\phi$ ): يتم دمج مسبار خفيف الوزن يعتمد على المحولات (Transformer-based probe) في مسار توليد الفيديو. يأخذ المسبار الميزات الكامنة الداخلية ( $z$ ) من الطبقة قبل الأخيرة من الـ DiT، جنبًا إلى جنب مع تضمينات الفعل والخطوة الزمنية ( $c$ )، للتنبؤ بخريطة ثقة كثيفة $\hat{q}$ .
التدريب المتزامن: يتم تدريب نموذج توليد الفيديو ( $\theta$ ) ومسبار عدم اليقين ( $\phi$ ) بشكل مشترك (أو بشكل مستقل باستخدام إيقاف التدرج/stop-gradient) لتحسين كل من دقة التوليد والمعايرة.

الابتكارات التقنية الرئيسية

قواعد التسجيل المناسبة للمعايرة:
صاغ المؤلفون تقدير عدم اليقين كمسألة تصنيف لدقة الفيديو المولد. ولضمان أن تكون الثقة المتوقعة $\hat{q}$ معايرة (أي إذا توقع النموذج ثقة بنسبة 80%، فإنه يكون صحيحًا بنسبة 80% من الوقت)، قاموا بتدريب النموذج باستخدام قواعد تسجيل مناسبة تمامًا (strictly proper scoring rules) كدوال للخسارة:
- درجة براير (Brier Score - BS): تُستخدم للتصنيف الثنائي ذي المقياس الثابت.
- الإنتروبيا المتقاطعة (Cross-Entropy - CE): تُستخدم للتصنيف متعدد الفئات.
- الإنتروبيا المتقاطعة الثنائية (Binary Cross-Entropy - BCE): تُستخدم للتصنيف ذي المقياس المستمر.
  هذا النهج يلغي الانحيازات الاستقرائية المرتبطة بتوزيعات احتمالية محددة ويجبر النموذج على تعلم الاحتمالية الحقيقية للدقة.
ثلاثة متغيرات معمارية:
- التصنيف ثابت المقياس (FSC): يتنبأ بالدقة مقابل عتبة خطأ ثابتة $\epsilon$ .
  টি
- التصنيف متعدد الفئات (MCC): يقسم مساحة الخطأ إلى فئات (bins) ويتنبأ باحتمالية الوقوع في فئة محددة.
- التصنيف الثنائي المستمر المقياس (CS-BC): المتغير الأكثر مرونة. فهو يشترط التنبؤ بناءً على عتبة خطأ $\epsilon$ اختيارية يتم تحديدها عند الاستنتاج، مما يسمح بتقدير ثقة مستقل عن الدقة (resolution-independent).
فك التشفير من الكامن إلى البكسل:
بما أن خريطة الثقة $\hat{q}$ موجودة في المساحة الكامنة، فهي ليست قابلة للتفسير مباشرة. يقوم المؤلفون بفك تشفيرها إلى مساحة RGB عن طريق:
- إنشاء "خريطة ألوان كامنة" عن طريق تشفير إطارات الفيديو أحادية اللون (أحمر، أخضر، أزرق).
- استكمال (Interpolation) قيم الثقة المتوقعة على خريطة الألوان هذه.
- فك تشفير النتيجة إلى مساحة البكسل لإنشاء خرائط حرارية لعدم اليقين حيث يشير اللون الأحمر إلى عدم اليقين العالي (الهلوسة) والأزرق/الأخضر إلى الثقة العالية.

3. المساهمات الرئيسية

تقدير عدم اليقين المكاني الزماني الكثيف: يعد C3 أول طريقة توفر تقديرات ثقة على مستوى دون الرقعة (subpatch-level) لتوليد الفيديو القابل للتحكم، مما يتيح تحديد مواقع الهلوسة بدقة.
الكفاءة في المساحة الكامنة: من خلال العمل في المساحة الكامنة بدلاً من مساحة البكسل، يتجنب C3 التكاليف الحسابية الباهظة لطرق تقدير عدم اليقين في مساحة البكسل، مما يجعله قابلًا للتطبيق على نماذج الفيديو الرائدة واسعة النطاق.
المعايرة عبر قواعد التسجيل المناسبة: يضمن استخدام قواعد التسجيل المناسبة تمامًا أن تقديرات الثقة في النموذج معايرة إحصائيًا، مما يعالج مشكلة الإفراط في الثقة.
القابلية للتفسير: تنتج الطريقة خرائط حرارية RGB بديهية تتوافق مع الحدس الفيزيائي، مما يسلط الضوء بوضوح على المناطق التي "لا يعرفها" النموذج.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعات بيانات روبوتية واسعة النطاق (Bridge و DROID) وفي تجارب واقعية باستخدام روبوت WidowX 250.

أداء المعايرة:
- حقق C3 انخفاضًا في خطأ المعايرة المتوقع (ECE) و الخطأ الأقصى للمعايرة (MCE) عبر جميع متغيرات النموذج (FSC, MCC, CS-BC).
- لم تكن النماذج مفرطة في الثقة ولا ناقصة الثقة؛ فقد عبرت عن الشك المناسب عندما كانت التنبؤات غير دقيقة.
التفسير وكشف الهلوسة:
- نوعيًا: نجحت الخرائط الحرارية في تحديد مواقع هلوسات محددة، مثل ظهور أجسام من العدم، أو التشوهات غير الفيزيائية، أو تغيرات الألوان.
- كميًا: كان هناك ارتباط سلبي ذو دلالة إحصائية (على سبيل المثال، -0.373 لـ FSC) بين ثقة النموذج وخطأ التوليد. فكلما زاد الخطأ، انخفضت الثقة.
كشف البيانات خارج التوزيع (OOD Detection):
- في الاختبارات الواقعية مع مدخلات خارج التوزيع (خلفيات جديدة، إضاءة شديدة، فوضى، أدوات نهاية طرفية غير مرئية)، حدد C3 بشكل صحيح زيادة عدم اليقين في مناطق الفيديو المتأثرة بهذه التحولات.
- ظل النموذج معايرًا حتى عندما تدهورت جودة الفيديو بشكل كبير بسبب تحولات التوزيع.
جودة الفيديو:
- لم تؤدِ إضافة وحدة تقدير عدم اليقين إلى تقليل جودة توليد الفيديو. في الواقع، أظهر C3 درجات أفضل قليلاً في مقاييس SSIM و PSNR و LPIPS مقارلة بالنموذج الأصلي بدون تقدير عدم اليقين.
دراسات الاستئصال (Ablation Studies):
- إيقاف التدرج (Stop-Gradient): إزالة عامل إيقاف التدرج (السماح بالانتشار العكسي من مسبار عدم اليقين إلى مولد الفيديو) لم يحسن المعايرة بشكل كبير ولكنه زاد من التكلفة الحسابية.
- فرض الانتشار (Diffusion Forcing): أدى استخدام فرض الانتشار إلى تدهور المعايرة، مما أدى إلى تقديرات متحفظة للغاية (ناقصة الثقة).

5. الأهمية

يمثل هذا العمل خطوة مهمة نحو الذكاء الاصطناعي المتجسد الموثوق. من خلال تمكين نماذج العالم الفيديوية من "معرفة متى لا تعرف"، يوفر C3 آلية لـ:

السلامة: يمكن لأنظمة الروبوتات استخدام الخرائط الحرارية لعدم اليقين لتفعيل سلوكيات الاحتياط أو التدخل البشري عندما يتوقع النموذج خطرًا عاليًا لحدوث هلوسة.
الموثوقية: إنه ينقل نماذج توليد الفيديو من "صناديق سوداء" إلى أنظمة قابلة للتفسير حيث يمكن قياس ثقة المخرجات وتحديد موقعها مكانيًا.
القابلية للتوسع: يجعل نهج المساحة الكامنة تقدير عدم اليقين الصارم أمرًا ممكنًا للجيل القادم من نماذج الفيديو التأسيسية ذات المليارات من المعلمات.

يخلص المؤلفون إلى أنه بينما تظل الضمانات النظرية قائمة بدقة ضمن نطاق التدريب، فإن C3 يظهر معايرة قوية في سيناريوهات خارج التوزيع (OOD)، مما يجعله مكونًا حاسمًا للتبني العملي لنماذج الفيديو في مجال الروبوتات.