DEGMC: Denoising Diffusion Models Based on Riemannian Equivariant Group Morphological Convolutions

ملخص تقني: DEGMC (نماذج الانتشار لإزالة الضجيج القائمة على التلافيف المورفولوجية لمجموعات ريمان المتكافئة)

1. بيان المشكلة

تعالج الورقة البحثية قصورين جوهريين في نماذج الانتشار الاحتمالية لإزالة الضجيج (DDPM) الحالية، وتحديداً تلك التي تستخدم بنية U-Net القياسية:

• التكافؤ المحدود: تتميز شبكات U-Net القياسية بأنها متكافئة تحت الإزاحة (translation-equivariant) نظرياً فقط. فهي تفشل في مراعاة التناظرات الهندسية الأخرى ذاتياً مثل الدوران، والانعكاس، والتبديل (المجموعة الإقليدية $E(n)$).
• استخراج الميزات الهندسية: غالباً ما تعاني الطبقات التلافيفية التقليدية في التقاط البنى الهندسية الدقيقة غير الخطية والميزات الرقيقة، وهي أمور بالغة الأهمية لتوليد الصور عالية الدقة والبيانات القائمة على المتشعبات (manifold-based data).

2. المنهجية

يقترح المؤلفون إطار عمل DEGMC، وهو إطار يدمج هندسة ريمان ونظرية المجموعات في عملية الانتشار العكسي. الابتكار الجوهري يكمن في استبدال الطبقات التلافيفية القياسية بـ تلافيف مجموعات مورفولوجية متكافئة وعمليات حمل (convection operators).

المكونات التقنية الرئيسية:

• إطار عمل المتشعب الريماني: يتم تعريف النموذج على متشعبات ريمان عامة. وللتنفيذ الحسابي، استخدم المؤلفون كرة الهيبربوليك ($\mathbb{B}^n$). هذا الخيار استراتيجي لأن المقياس الهيبربوليكي ثابت تحت المجموعة الإقليدية $E(n)$، مما يسمح للنموذج بالحفاظ على التناظرات مثل الدوران والانعكاس مع التقاط البنى الهرمية من خلال الانحناء السالب.
• كتل الحمل-التمدد-التآكل (CDE): بدلاً من كتل ResNet القياسية، قدم المؤلفون ResnetCDEBlocks في الكتلة الوسطى لشبكة U-Net. تتكون هذه الكتل من:
  • حد الحمل (Convection Term): يتم حله عبر طريقة الخصائص (method of characteristics) باستخدام حقل متجه ثابت تحت تأثير المجموعة $G$. يعمل هذا كعامل إعادة أخذ عينات (resampling) مُتعلم لمحاذاة الميزات مكانياً.
  • التمدد والتآكل المورفولوجي: مشتق من الحلات اللزوجية لمعادلات هاميلتون-جاكوبي التفاضلية الجزئية من الدرجة الأولى. تسمكن هذه العمليات من المعالجة الهندسية متعددة المقاييس. وخلافاً للتلافيف القياسية، يمكن لهذه العمليات المورفولوجية تمثيل اللاخطية والهياكل الهندسية الرقيقة بشكل أفضل.
• بنية GMCunet: وهي نسخة معدلة من U-Net حيث تتعامل المشفرات وفك التشفير مع الميزات متعددة المقاييس، ولكن "الكتلة الوسطى" الحرجة (العنق) تستخدم كتل CDE لفرض التكافؤ تحت المجموعة $E(n)$.

3. المساهمات الرئيسية

• بنية مبتكرة: تقديم GMCUnet، وهي أول دمج مسجل بين U-Net للانتشار وكتل المتبقي (residual blocks) من نوع CDE.
• التكامل الرياضي: إطار عمل رسمي يجمع بين الطبيعة الاحتمالية لـ DDPM والصرامة الهندسية لمعادلات هاميلتون-جاكوبي وتأثيرات زمرة Lie.
• الحفاظ على التناظر: نهج منهجي لضمان تكافؤ النموذج تحت عمليات الإزاحة، والدوران، والانعكاس، والتبديل، مما يقلل من تعقيد مهمة التعلم.

4. النتائج التجريبية

تم تقييم النموذج مقابل النموذج المرجعي DDPM على ثلاث مجموعات بيانات: MNIST، و RotoMNIST (MNIST المدورة)، و CIFAR-10.

• MNIST: أظهر DEGMC تقارباً أسرع، حيث وصل إلى توليد عينات عالية الجودة في عدد دورات أقل من النموذج المرجعي.
• RotoMNIST (اختبار الضغط): تسلط هذه المجموعة الضوء على القوة الرئيسية للنموذج. فبينما انخفض أداء DDPM المرجعي بشكل كبير بسبب الدورات، حافظ DEGMC على جودة عالية، محققاً قيمة FID أقل بكثير (35.75) مقارنة بـ DDMM (44.74). وهذا يثبت فعالية التكافؤ الجوهري.
• CIFAR-10: في الصور الملونة الواقعية، تفوق DEGMC على النموذج المرجعي في كل من FID (الأقل هو الأفضل) و Inception Score (IS) (الأعلى هو الأفضل)، مما يشير إلى دقة صور فائقة وتنوع أكبر في العينات.

5. الأهمية

تكمن أهمية هذا العمل في تحوله من إزالة الضجيج الإحصائي البحت إلى إزالة الضجيج المدركة للهندسة. من خلال دمج التناظرات الفيزيائية والهندسية للبيانات مباشرة في بنية الشبكة العصبية عبر المعادلات التفاضلية الجزئية، أثبت المؤلفون أن:

1. يمكن جعل النماذج قوية تجاه التحولات الهندسية دون الحاجة إلى تعزيز ضخم للبيانات (data augmentation).
2. العمليات الرياضية (المورفولوجيا/الحمل) يمكن أن تعمل كبدائل قوية وقابلة للتفسير للأوزان القابلة للتعلم القياسية لالتقاط السمات الهيكلية المعقدة.
3. يوفر إطار العمل مساراً قابلاً للتوسع نحو تطبيق نماذج الانتشار على مجالات أكثر تعقيداً، مثل النمذجة الجزيئية ثلاثية الأبعاد وبيانات المتشعبات غير الإقليدية.