ملخص تقني: أخذ عينات الـ MAP المحلي لنماذج الانتشار

بيان المشكلة

برزت طريقة "أخذ عينات الانتشار اللاحق" (Diffusion Posterior Sampling - DPS) كإطار عمل قوي لحل المسائل العكسية من خلال أخذ عينات من توزيع اللاحقة $p(x_0 | y)$، مما يوفر تقديراً مبدئياً لعدم اليقين وتعدد الأنماط. ومع ذلك، فإن العديد من التطبيقات العملية في التصوير والعلوم تعطي الأولوية لتقدير النقطة الدقيق على حساب أخذ العينات التوزيعي الكامل. ويظل مُقدّر "الاحتمال الأقصى البعدي" (Maximum A Posteriori - MAP)، المعرّف بـ $\arg \max p(x_0 | y)$، هدفاً قياسياً لإعادة البناء.

تحاول الطرق القائمة على التحسين (مثل: Resample، وDiffPIR، وDCDP) تحسين أداء إعادة البناء من خلال التناوب بين خطوات إزالة الضجيج وخطوات التحسين. ومع ذلك، لا تزال العلاقة النظرية بين هذه الإجراءات التكرارية، وحل الـ MAP العالمي، وأخذ عينات اللاحقة غير واضحة. لم يثبت بعد ما إذا كانت هذه الطرق تتقارب نحو حل الـ MAP العالمي أو ما إذا كانت متسقة مع طريقة DPS. علاوة على ذلك، فإن الطبيعة المحددة لخطوات التحسين في هذه الطرق — سواء كانت تحل هدفاً عالمياً أم محلياً — تتطلب توضيحاً.

المنهجية: أخذ عينات الـ MAP المحلي (LMAPS)

قدم المؤلفون إطار عمل أخذ عينات الـ MAP المحلي (LMAPS)، وهو إطار استدلال جديد يحل مسائل الـ MAP المحلية بشكل تكراري على طول مسار الانتشار.

1. الإطار النظري

يعمل LMAPS عن طريق حل سلسلة من مسائل الـ MAP المحلية بدلاً من مسألة عالمية واحدة. عند كل خطوة انتشار $t$، وبالنظر إلى الحالة المشوشة $x_t$ والقياس $y$، تسعى الطريقة إلى:
$$x^*_0(t, x_t, y) := \arg \max_{x_0} p(x_0 | x_t, y)$$
يتبع ذلك خطوة انتقال DDIM قياسية:
$$x_{t-\Delta t} = g(x^*_0, x_t, \epsilon)$$

الاختلافات عن الطرق الموجودة:

• مقابل الـ MAP العالمي: يبحث الـ MAP العالمي عن نمط التوزيع اللاحق الكامل $p(x_0 | y)$. بينما يبحث LMAPS عن نمط اللاحقة الشرطية $p(x_0 | x_t, y)$ عند كل خطوة. يجادل المؤلفون بأن تسلسل المعظمات المحلية لا يتقارب بالضرورة نحو المعظم العالمي لـ $p(x_0 | y)$.
• مقابل DPS: تستخدم طريقة DPS المتوسط الشرطي $E[x_0 | x_t, y]$ في التحديث. يستبدل LMAPS هذا المتوسط بالنمط (mode) الشرطي. وهما متكافئان فقط إذا كانت اللاحقة الشرطية توزيعاً غاوسياً؛ وإلا فإن LMAPS يُدخل انحيازاً نحو النمط (mode-seeking bias)، متجنباً مناطق الكثافة المنخفضة بين الأنماط.
• مقابل DMAP: بينما يستخدم DMAP أيضاً منظور الـ MAP المحلي، فإنه يقوم بالتحسين في فضاء متغير الانتشار الكامن ($x^*_{t-\Delta t} = \arg \max p(x_{t-\Delta t} | x_t, y)$). أما LMAPS فيطرح المسألة مباشرة في فضاء الإشارة النظيفة ($x^*_0$)، مما يوفر رؤية مكملة ترتبط صراحةً باحتمالية القياس $p(y|x_0)$.

2. الخوارزمية العملية والتقريبات

لجعل مسألة الـ MAP المحلي قابلة للتطبيق للمسائل العكسية غير الخطية العامة، اقترح المؤلفون تقريبات وإعادة صياغات محددة:

• تقريب التباين (Covariance Approximation): يقرب المؤلفون التباين الشرطي $\Sigma_{0|t}$ للسابقة $p(x_0 | x_t)$ باستخدام شكل متماثل (isotropic) مدفوع بافتراض السابقة الغاوسية. ومع اقتراب مستوى الضجيج $\sigma_t \to 0$، يصبح تباين اللاحقة متماثلاً تقاربياً. هم يقربون $\Sigma_{0|t} \approx \frac{1}{SNR} I$، حيث $SNR = \alpha_t^2 / \sigma_t^2$.

• إعادة صياغة الهدف: تمت صياغة هدف الـ MAP المحلي كتقليل لمجموع مرجح من مسافة السابقة ومطابقة البيانات:
  $$x^*_0 = \arg \min_{x_0} \left\{ \frac{SNR}{k} \|x_0 - m_{0|t}\|^2 + \frac{1}{\sigma_y^2} \|y - H(x_0)\|^2 \right\}$$
  لتحسين الاستقرار العددي والقابلية للتفسير، تمت إعادة صياغته إلى مزيج محدب ثابت المقياس:
  $$x^*_0 = \arg \min_{x_0} \left\{ (1 - \mu_t) \frac{1}{2} \|x_0 - m_{0|t}\|^2 + \mu_t k_2 \|y - H(x_0)\|^2 \right\}$$
  حيث $\mu_t = \sigma_t^2 / (\sigma_t^2 + k_1^2)$. تسمح هذه الصياغة بالتخميد التلقائي (automatic annealing): فمع تناقص $t$ ($\sigma_t \to 0$)، ينتقل الهدف من كونه مدفوعاً بالقياس إلى كونه مدفوعاً بالسابقة.

• خطي مقابل غير خطي: بالنسبة للمسائل العكسية الخطية، يمكن اشتقاق حل الـ MAP المحلي في صيغة مغلقة، مما يستعيد طريقة "توييدي مومنت بروجكتد ديفيوجن" (TMPD) كحالة خاصة. أما بالنسبة للمسائل غير الخطية، فيتم الحصول على الحل عبر الانحدار الاشتقاقي (gradient descent).

المساهمات الرئيسية

1. التوحيد النظري: تصيغ الورقة LMAPS لتوحيد طرق المسائل العكسية القائمة على التحسين وطريقة TMPD تحت إطار احتمالي واحد. وهي توضح أن طرق التحسين تحل بطبيعتها مسائل MAP محلية بدلاً من الـ MAP العالمي أو أخذ عينات اللاحقة الكاملة.
2. التقدم المنهجي: قدم المؤلفون تقريباً للتباين مدفوعاً بالتوزيع الغاوسي وإعادة صياغة لدالة الهدف التي تعزز الاستقرار العددي والقابلية للتفسير من خلال التخميد التلقائي.
3. التحقق التجريبي: تم التحقق من إطار العمل عبر 10 مهام لترميم الصور (بما في ذلك العمليات الخطية وغير الخطية وغير القابلة للاشتقاق) و3 مسائل عكسية علمية.

النتائج التجريبية

قيم المؤلفون LMAPS على مجموعات بيانات FFHQ وImageNet لترميم الصور وعلى اختبارات معيارية للمسائل العكسية العلمية (تشتت عكسي خطي، التصوير بالرنين المغناطيسي ذو الاستشعار المضغوط، وتصوير الثقب الأسود).

• ترميم الصور: حقق LMAPS أداءً هو الأفضل في حالته (SOTA) في 43 حالة من أصل 60 عبر مقاييس PSNR وSSIM وLPIPS على FFHQ وImageNet. وقد تفوق باستمرار على خط الأساس DMAP الوثيق الصلة، مظهرًا تحسينات تزيد عن 2 ديسيبل في PSNR في مهام مثل إزالة ضبابية الحركة، وترميم JPEG، والكمية (quantization).
• المسائل العكسية العلمية: حقق LMAPS باستمرار أعلى قيم PSNR عبر جميع المهام العلمية. والجدير بالذكر أنه حقق مكاسب تزيد عن 1.5 ديسيبل في PSNR في ثلاث مهام تشتت عكسي خطي (LIS) مقارنة بالطرق السابقة.
• الكفاءة: أظهر LMAPS كفاءة فائقة مقارنة بـ DAPS، محققاً نتائج أفضل بموارد حوسبية أقل (على سبيل المثال، خطوات تحسين أقل لكل خطوة انتشار).

الأهمية والادعاءات

تدعي الورقة أن LMAPS يوفر تفسيراً احتمالياً مبدئياً لطرق التحسين، مما يسد الفجوة بين أخذ عينات اللاحقة (DPS) وتقدير النقطة (MAP). ومن خلال حل مسائل الـ MAP المحلية صراحةً، تقدم الطريقة رؤية موحدة تشرح سلوك الحلول التحسينية الموجودة.

يؤكد المؤلفون أنه بينما لا يقوم LMAPS بأخذ عينات من توزيع اللاحقة الكامل (وبالتالي لا يلتقط تعدد الأنماط بنفس الطريقة التي يفعلها DPS)، فإنه مصمم خصيصاً للسيناريوهات التي يكون فيها تقدير النقطة الدقيق هو الهدف الأساسي. يوفر إطار العمل بديلاً قوياً يوازن بين دقة إعادة البناء والسابقة الهيكلية لنماذج الانتشار، محققاً نتائج هي الأفضل في حالتها في كل من ترميم الصور القياسي ومهام إعادة البناء العلمية الصعبة. ويشير العمل إلى أن الأبحاث المستقبلية يمكن أن تستكشف فائدة تقدير الـ MAP العالمي مع سوابق الانتشار، وهو ما يظل تحدياً مفتوحاً.