Unsupervised Decomposition and Recombination with Discriminator-Driven Diffusion Models

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التفكيك وإعادة التركيب غير الخاضع للإشراف باستخدام نماذج الانتشار المدفوعة بالمميز" (Unsupervised Decomposition and Recombination with Discriminator-Driven Diffusion Models).

1. بيان المشكلة

تتناول الورقة تحدي فك الارتباط غير الخاضع للإشراف (unsupervised disentanglement) والتوليد التركيبي (compositional generation) في البيانات المعقدة (الصور والفيديوهات).

• الهدف: تفكيك البيانات إلى تمثيلات كامنة عاملية (مثل فصل الخلفية، الإضاءة، سمات الكائن، أو بدائيات الحركة) دون إشراف صريح، بحيث يمكن إعادة تركيب هذه العوامل لتخليق عينات جديدة منطقية فيزيائياً ومتماسكة دلالياً.
• التحدي: فك الارتباط غير الخاضع للإشراف بالكامل مستحيل نظرياً دون فرض افتراضات إضافية. تفشل الطرق الحالية (مثل $\beta$-VAE أو نماذج الانتشار القياسية) غالباً في تعلم تمثيلات تدعم التعميم التركيبي. فعندما يتم إعادة تركيب العوامل الكامنة من مصادر مختلفة بشكل ساذج، فإن العينات الناتية غالباً ما تقع "خارج النطاق" (off-manifold)، مما ينتج عنه عيوب بصرية أو سيناريوهات مستحيلة فيزيائياً (مثل إضاءة غير متسقة أو هندسة كائن مكسورة).
• الفجوة: تفتقر النهج الحالية إلى آلية للتحقق مما إذا كان إعادة التركيب منطقياً دون الاعتماد على تغذية راجعة خارجية مكلفة (مثل التفضيل البشري أو المحاكاة الفيزيائية) أثناء تدريب النموذج التوليدي نفسه.

2. المنهجية

يقترح المؤلفون إطار عمل يدمج نماذج الانتشار (Diffusion Models) مع مميز تنافسي (Adversarial Discriminator) لفرض الاتساق الفيزيائي والدلالي أثناء إعادة التركيب.

أ. النموذج التوليدي العواملي (Factorized Generative Model)

يعتمد الهيكل الأساسي على Decomp Diffusion، الذي ينمذج تنبؤ تقليل الضجيج $\epsilon_\theta$ كمتوسط لمساهمات من $K$ من العوامل الكامنة المتميزة:
$$\epsilon_\theta(x_t, t) = \frac{1}{K} \sum_{k=1}^K \epsilon_\theta(x_t, t, z_k)$$
حيث أن $z = (z_1, \dots, z_K)$ هي العوامل الكامنة. يسمح هذا الصياغة بتفكيك الصورة/الفيديو إلى مكونات.

ب. التدريب التنافسي المدفوع بالمميز (Discriminator-Driven Adversarial Training)

الابتكار الرئيسي هو تقديم مميز إعادة التركيب ($D_\psi$) المدرب للتمييز بين:

1. عينات المصدر الواحد: المولدة من عوامل كامنة مستنتجة من صورة/فيديو واحد.
2. العينات المعاد تركيبها: المولدة عن طريق خلط العوامل الكامنة من مدخلين مختلفين ($z^{(A)}$ و $z^{(B)}$) عبر قناع ثنائي $S$.

هدف التدريب:
يستخدم النظام استراتيجية تقليل متبادل:

1. تحديث المميز: يُدرب لتقليل خسارة التصنيف، والتمييز بين التنبؤات الحقيقية (المصدر الواحد) والتنبؤات المزيفة (المعاد تركيبها).
   L_{clf} = -\mathbb{E}[\log D_\psi(\hat{x}_{single}) + \log(1 - D_\psi(\hat{x}_{recomb))]
2. تحديث المولد/المشفّر: يُدرب لتقليل خسارة إعادة البناء (خسارة الانتشار القياسية) بالإضافة إلى خسارة تنافسية تشجع العينات المعاد تركيبها على خداع المميز.
   $$L_{adv} = -\mathbb{E}[\log D_\psi(\hat{x}_{recomb})]$$
   $$L_{total} = L_{MSE} + \lambda L_{adv}$$

الرؤية الجوهرية: من خلال تحسين المولد لـ "خداع" المميز، يُجبر النموذج ضمناً على تعلم مساحة كامنة تؤدي فيها إعادة التركيب المنسقة مكانياً إلى عينات لا يمكن تمييزها عن البيانات الصالحة. يعمل هذا كمنظم يقلص الاعتماد الإحصائي بين المكونات الكامنة، مما يدفع التمثيل نحو بنية حاصل الضرب الديكارتي (التحليل إلى عوامل).

ج. التطبيق على الروبوتات (الفيديو)

بالنسبة لفيديوهات الروبوتات، يقوم الأسلوب بتكييف نموذج الانتشار بناءً على الإطار الأول لتثبيت تخطيط المشهد. تلتقط العوامل الكامنة بدائيات الحركة (مثل الوصول، الإمساك، التحرك). تسمح إعادة تركيب هذه العوامل بتوليد مسارات مهام جديدة لم تكن موجودة في عروض التدريب ولكنها تظل قابلة للتنفيذ فيزيائياً.

3. المساهمات الرئيسية

1. الإشارة التنافسية للتحليل إلى عوامل: تقديم إشارة تدريب مبتكرة باستخدام مميز للتمييز بين المصدر الواحد مقابل المعاد تركيبه، مما يوجه النماذج غير الخاضعة للإشراف بفعالية نحو فك ارتباط أفضل دون تسميات أرضية.
2. تحسين التوليد التركيبي: أظهر أن هذه التغذية الراجعة التنافسية تقلل بشكل كبير من عيوب "خارج النطاق" في الصور والفيديوهات المعاد تركيبها، مما يضمن الاتساق الفيزيائي والدلالي.
3. استكشاف الروبوتات: تطبيق الطريقة على معيار LIBERO، حيث أظهر أن إعادة تركيب مكونات الحركة المتعلمة يولد مسارات فيديو متنوعة توسع تغطية فضاء الحالة بشكل كبير لاستكشاف الروبوت.
4. التحليل النظري: تقديم تبرير نظري يوضح أن فرض إغلاق إعادة التركيب يستلزم بنية حاصل الضرب الديكارتي في الفضاء الكامن، وأن إعادة التركيب العشوائية تقلص المعلومات المتبادلة بين المكونات الكامنة.

4. النتائج التجريبية

أ. مجموعات بيانات الصور (CelebA-HQ, Virtual KITTI, CLEVR, Falcor3D)

• الجودة الإدراكية: حققت الطريقة درجات أقل بكثير في مسافة فريدشيهت للإنسبشن (FID) مقارنة بالنموذج المرجعي (Decomp Diffusion) والنماذج الأخرى (InfoGAN, $\beta$-VAE).
  • مثال: في CelebA-HQ، انخفضت FID من 82.70 (النموذج المرجعي) إلى 43.98.
• فك الارتباط: تم قياسه بواسطة MIG (فجوة المعلومات المتبادلة) و MCC (معامل الارتباط المتوسط). تفوقت الطភាព المقترحة باستمرار على النماذج المرجعية، مما يشير إلى فصل أفضل للعوامل المستقلة.
  • مثال: في Falcor3D، تحسن MCC من 0.657 (Decomp Diffusion) إلى 0.707.

ب. الروبوتات (معيار LIBERO)

• تغطية فضاء الحالة: استُخدمت الطريقة لتوليد مسارات روبوتية جديدة عن طريق إعادة تركيب بدائيات الحركة.
• الأداء: زاد نهج "إعادة التركيب + التوليد" من عدد خانات فضاء الحالة التي تمت زيارتها بنسبة 35.8% في المشهد 5 و 73.8% في المشهد 6 مقارنة بالنموذج المرجعي بدون تغذية المميز الراجعة.
• الاتساق الفيزيائي: أظهرت الخطط المولدة، عند تنفيذها، درجات أقل في عدم الاتساق الفيزيائي ($L_{phys}$)، مما يعني أن الروبوت يمكنه تنفيذ الأفعال المعاد تركيبها بنجاح (مثل وضع بودينج على حافة طبق، وهو مزيج لم يره في التدريب).

5. الأهمية والأثر

• الربط بين التمثيل والتوليد: نجحت الورقة في سد الفجوة بين تعلم التمثيل (فك الارتباط) والنمذجة التوليدية (التركيب). لقد أثبتت أن تحسين جودة إعادة التركيب هو وسيط فعال لتعلم تمثيلات أفضل وأكثر تحليلية.
• تغذية راجعة قابلة للتوسع: تقدم بديلاً قابلاً للتوسع للتغذية الراجعة الخارجية المكلفة (مثل التسمية البشرية أو تجارب الروبوت الواقعية) باستخدام مميز داخلي لفرض المعقولية.
• التقدم في الروبوتات: يوضح التطبيق في الروبوتات مساراً عملياً للاستكشاف الموجه. بدلاً من الاستكشاف العشوائي، يمكن للوكلاء استكشاف الفضاء التركيبي للمهارات المتعلمة بشكل منهجي، مما يؤدي إلى سياسات أكثر قوة في البيئات غير المرئية.
• القدرة على التعميم: النهج مستقل عن المجال، حيث يعمل بفعالية على الصور الثابتة (الوجوه، المشاهد) والتسلسلات الديناميكية (فيديوهات الروبوت)، مما يشير إلى قابلية تطبيق واسعة في الذكاء الاصطناعي التوليدي.

باختاً، يثبت هذا العمل أن التغذية الراجعة التنافسية على إعادة التركيب هي آلية قوية لتعلم تمثيلات تركيبية مفككة الارتباط في نماذج الانتشار، مما يؤدي إلى توليد عالي الجودة واستكشاف أكثر فعالية في التحكم الروبوتي.