Improving Diffusion Posterior Samplers with Lagged Temporal Corrections for Image Restoration

ملخص تقني: تحسين أخذ عينات التوزيع اللاحق للانتشار باستخدام التصحيحات الزمنية المتأخرة (LAMP)

بيان المشكلة

برز أخذ عينات التوزيع اللاحق (Posterior Sampling - PS) القائم على الانتشار كإطار عمل رائد لحل المشكلات العكسية في التصوير (مثل إزالة الضباب، وتكبير الدقة، وإكمال الأجزاء المفقودة). تجمع هذه الطرق بين نموذج انتشار مُتعلم مسبقاً وبين قيود القياس لأخذ عينات من توزيع الاحتمال اللاحق $p(x_0|y)$، حيث $y = Kx_0 + e$. تعتمد صياغات أخذ العينات القياسية، مثل DiffPIR وDDRM، على تحديث التقدير الحالي $x_t$ بشكل تكراري باستخدام خطوة إزالة الضجيج من نموذج الانتشار وخطوة تصحيح اتساق البيانات $D_t$.

ومع ذلك، يحدد المؤلفون قصوراً هيكلياً جوهرياً في هذه النهج القياسية: فهي تعتمد على تقديرات متسقة مع البيانات لحظية وخطوة بخطوة ($D_t$) يتم إعادة حسابها عند كل تكرار عكسي. يؤدي هذا التصميم إلى إدخال تباين زمني وعدم استقرار في الديناميكيات العكسية. من منظور الأنظمة الديناميكية، تقابل تحديثات أخذ العينات القياسية تجزئة من الدرجة الأولى لديناميكيات الانتشار بالإضافة إلى حد تصحيح متبقي. يعمل هذا الحد المتبقي كإشارة قوة متغيرة زمنياً تسبب اضطراباً في المسار، مما يؤدي إلى انحرافه عن الديناميكيات المستمرة والمنتظمة التي تفترضها الحلول عالية الرتبة (مثل DPM-Solver) المستخدمة في التوليد غير المشروط. وبناءً على ذلك، فإن افتقار طرق أخذ العينات القياسية إلى الذاكرة الزمنية يؤدي إلى تحديثات غير متسقة واستقرار دون المستوى الأمثل، لا سيما في الحالات سيئة التحديد.

المنهجية: LAMP

تقترح الورقة البحثية LAMP (LAgged Multistiposterial - التوزيع اللاحق متعدد الخطوات المتأخر)، وهو مخطط إضافي معياري يعالج حالات عدم الاستقرار هذه عن طريق إدخال تصحيح زمني متأخر.

1. إعادة التفسير الديناميكي: يعيد المؤلفون تفسير تحديث أخذ العينات القياسي كـ تجزئة من الدرجة الأولى لديناميكيات انتشار مدفوعة بقوة. ويظهرون أن التحديث $x^{PS}_{t-\Delta t}$ يمكن تفكيكه إلى خطوة أسية من الدرجة الأولى مدفوعة بهدف مدرك للقياس $D_t$ وحد تصحيح متبقي يتناسب مع الفجوة $(D_t - \hat{x}_{0|t})$.
2. التجزئة من الدرجة الثانية: لتحسين الاستقرار، يستخدم LAMP تجزئة من الدرجة الثانية للديناميكيات الأساسية. وخلافاً للمحللات عالية الرتبة التي تفترض وجود معادلة تفاضلية عادية (ODE) سلسة، يأخذ LAMP في الاعتبار صراحةً حد القوة المعتمد على المتبقي والمتأصل في المشكلات العكسية.
3. آلية التصحيح المتأخر: الابتكار الجوهري هو إدخال تصحيح زمني يعتمد على تباين التقديرات المتتالية. يجمع تحديث LAMP بين التجزئة من الدرجة الثانية والتصحيح المتبقي:
   $$x^{LAMP}_{t-\Delta t} = x^{PS}_{t-\Delta t} + \alpha_{t-\Delta t} A_1(h) \gamma \frac{D_t - D_{t+\Delta t}}{h_{prev}}$$
   هنا، يعمل الحد $(D_t - D_{t+\Delta t})/h_{prev}$ كـ مشتق زمني منفصل. ومن خلال اختيار معامل سالب $\gamma$، تطبق الطريقة تصحيحاً متأخراً، مما يسحب التقدير الحالي قليلاً نحو التقديرات السابقة بدلاً من الاستقراء (Extrapolation). هذا يعمل على تنعيم المسار ومواجهة التباين الناتج عن التصحيحات اللحظية.
4. الحفاظ الهيكلي: من المهم أن المؤلفين أثبتوا (الخاصية 1) أن LAMP يحافظ على بنية أخذ عينات التوزيع اللاحق القياسية. يمكن إعادة كتابة التحديث في الشكل المعياري $x_{t-\Delta t} = \alpha_{t-\Delta t} \tilde{D}_t + \sigma_{t-\Delta t} \epsilon_\Theta(x_t, t)$، حيث $\tilde{D}_t$ هو تقدير مفلتر زمنياً يُعرف بأنه مزيج محدب من التقديرات المتسقة مع البيانات الحالية والسابقة: $\tilde{D}_t = (1-\beta_t)D_t + \beta_t D_{t+\Delta t}$. وهذا يضمن أن LAMP هو امتداد معياري متوافق مع أي هيكل أساسي لأخذ عينات التوزيع اللاحق (مثل DiffPIR أو DDRM) دون تعديل المنقي (Denoiser) أو إجراء التدريب.

التحليل النظري

تقدم الورقة تحليلاً للمخاطر في خطوة واحدة (الخاصية 2) يحدد المقايضة بين الانحياز والتباين للتصحيح المتأخر. يوضح التحليل أن LAMP يحسن الانتقال العكسي عندما يتجاوز الانخفاض في تباين خطأ التقدير (بسبب التنعيم الزمني) مقدار الانحياز الناتج عن التأخر (بسبب انجراف هدف التوزيع اللاحق). ويوضح المؤلفون أن هذا الشرط يتحقق عادةً في المراحل المتأخرة من عملية الانتشار، مما يستدعي استراتيجية هجينة حيث يتم تفعيل LAMP بعد مرحلة إحماء قصيرة.

المساهمات الرئيسية

• تحديد عدم التطابق الهيكلي: يسلط المؤلفون الضوء على أن التفسيرات القائمة على المعادلات التفاضلية العادية (ODE) تفشل في التقاط حدود القوة المعتمدة على المتبقي الموجودة في أخذ عينات التوزيع اللاحق للمشكلات العكسية، مما يؤدي إلى عدم استقرار زمني.
• إطار عمل LAMP: يقترحون LAMP، وهو مخطط مصحح من الدرجة الثانية يدمج تصحيحاً زمنياً متأخراً في تحديث أخذ عينات التوزيع اللاحق.
• المعيارية والتوافق: ثبت أن LAMP هو أخذ عينات صالح للتوزيع اللاحق يمكن تنفيذه كإضافة (Plug-in) فوق أي طريقة موجودة لأخذ عينات التوزيع اللاحق (مثل DiffPIR، DDRM) دون الحاجة لإعادة التدريب أو تغيير النموذج الأمامي.
• التبرير النظري: يضع تحليل الخطأ المحلي شروطاً لتقليل المخاطر بواسطة التصحيح المتأخر، وتحديداً عندما تتطور الأهداف اللاحقة المتجاورة بسلاسة بالنسبة لضجيج التقدير.

النتائج التجريبية

قيم المؤلفون LAMP على المشكلات العكسية الخطية القياسية (إزالة الضباب الغاوسي، إزالة الضباب الحركي، وتكبير الدقة) عبر ثلاثة مجموعات بيانات: FFHQ، وImageNet، وCelebA. وقارنوا النسخ المحسنة بـ LAMP (مثل DiffPIR-LAMP، DDRM-LAMP) مع النماذج الأساسية والمتغيرات عالية الرتبة البدائية (1M، 2M).

• الأداء: يحسن LAMP باستمرار جودة إعادة البناء مقارنة بالنماذج الأساسية القوية. في الإعداد الصاخب ($\sigma_y = 0.05$)، حقق DDRM-LAMP أفضل أداء إجمالي، مظهرًا مكاسب ثابتة في PSNR وSSIM وLPIPS عبر جميع المهام. كما أظهر DiffPIR-LAMP تحسينات، خاصة في مهام إزالة الضباب وتكبير الدقة.
• الكفاءة: تم تحقيق هذه التحسينات دون زيادة في عدد تقييمات إزالة الضجيج (NFE)، مما يحافظ على التكلفة الحسابية للطرق الأساسية (على سبيل المثال، 20 NFE لـ DDRM، و100 NFE لـ DiffPIP).
• المقارنة مع الرتب العالية البدائية: أدت التجزئات البدائية من الدرجة الأولى والثانية (بدون تصحيح المتبقي المحدد) إلى تدهور الأداء باستمرار، مما يؤكد أن تصحيح المتبقي المتأخر المقترح هو العامل الرئيسي للتحسين.
• النتائج النوعية: تظهر المقارنات النوعية أن LAMP ينتج أنسجة أكثر نعومة، وحدوداً أكثر حدة، وحفاظاً أفضل على التفاصيل الدقيقة (مثل ملمس الشعر في CelebA، وحراشف صور الإغوانا) مقارنة بالنماذج الأساسية، مما يقلل من آثار الحبيبات والضبابية.

الأهمية والادعاءات

تدعي الورقة أن التصفية الزمنية للتقديرات المدركة للقياس هي آلية حاسمة لم تكن مستكشفة كفاية لتثبيت حلول التوزيع اللاحق القائمة على الانتشار. من خلال إعادة صياغة أخذ عينات التوزيع اللاحق كمنظومة ديناميكية ذات حد قوة يعتمد على المتبقي، يوضح المؤلفون أن تصحيحاً متأخراً بسيطاً يمكن أن يعزز جودة إعادة البناء والاستقرار بشكل كبير.

تكمن الأهمية في معيارية النهج: لا يتطلب LAMP نماذج جديدة، أو إعادة تدريب، أو استراتيجيات شرطية معقدة. بدلاً من ذلك، فإنه يقدم تحسيناً عاماً ومنخفض التكلفة لأخذ عينات التوزيع اللاحق المتطورة حالياً. يشير المؤلفون بتواضع إلى أن LAMP يرث قيود الطرق الأساسية (أي أنه لا يمكنه تعويض الاختلافات الجوهرية في النموذج)، وأن فعاليته تعتمد على السلوك الزمني لتسلسل التصحيح في أخذ العينات الأساسي. ومع ذلك، تشير النتائج إلى أنه بالنسبة للنماذج المستقرة، يوفر LAMP تحسيناً متسقاً وذا معنى إدراكي في دقة البيانات، لا سيما للهياكل دقيقة النطاق.