ملخص تقني: الفيزياء تهم في تقنية PnP: ضمانات الاستعادة باستخدام مُنقيات MMSE وNN

1. بيان المشكلة

تتناول الورقة مشكلة عكسية خطية سيئة التحديد لاستعادة متجه عشوائي $x \in \mathbb{R}^n$ من ملاحظة $y \in \mathbb{R}^m$ محكومة بالنموذج الأمامي:
$$y = Ax + e$$
حيث $A: \mathbb{R}^n \to \mathbb{R}^m$ هو مؤثر خطي، و $e$ هو ضجيج غاوسي بمتوسط صفري ومصفوفة تغاير $\Sigma_E$ قد تكون غير قطرية وموجبة محددة. المشكلة سيئة التحديد وقد تكون غير فريدة إذا لم يكن $A$ حقنياً.

تستقصي الورقة نموذج الوصل والتشغيل (Plug-and-Play - PnP)، وتحديداً تكرار الانقسام الأمامي-الخلفي (forward-backward splitting - FBS). بخلاف النهج الكلاسيكي الذي يعتمد على دالات تنظيمية صريحة، يستبدل PnP المؤثر القريب (proximal operator) بمؤثر تنقية (denoising operator) يُرمز له بـ $\hat{D}$. التكرار العام المدروس هو:
$$x_{k+1} = \hat{D}(x_k + \gamma B(y - Ax_k))$$
حيث $\gamma > 0$ هو حجم الخطوة و $B \in \mathbb{R}^{n \times m}$ هو مؤثر خطي. التحدي المركزي المعالج هو وضع ضمانات استعادة صارمة (حدود الخطأ) لهذا التكرار عندما يكون المنقي هو مُقدر الخطأ التربيعي المتوسط الأدنى (MMSE)، وتوسيع هذه النتائج لتشمل الحالات التي يتم فيها تقريب MMSE بواسطة شبكة عصبية (NN).

هناك تميز حاسم في هذا العمل في معالجة توزيع الضجيج. فبينما تفترض العديد من التحليلات الحالية لـ PnP أن المنقي قد تم تدريبه على ضجيج غاوسي متماثل المناحي (isotropic Gaussian noise) ($\sigma^2 I$)، فإن هذه الورقة تنظر في الضجيج الغاوسي المتدهور (degenerate Gaussian noise) ذي هياكل تغاير عامة، مدركة أن الضجيج الذي يُحقن في المنقي أثناء عملية PnP يعتمد على المؤثر الأمامي $A$ واختيار $B$.

2. المنهجية

2.1 إطار عمل مُنقي MMSE

يُعرف المؤلفون المُنقي الأمثل $\hat{D}$ بأنه مُقدر MMSE لـ $X$ بناءً على ملاحظة مشوشة $Z = X + \Upsilon$، حيث $\Upsilon \sim \mathcal{N}(0, \Sigma_\Upsilon)$. ومن الأهمية بمكان أن $\Sigma_\Upsilon$ لا يُفترض أن تكون متماثلة المناحي؛ بل يُسمح بأن تكون متدهورة (ناقصة الرتبة) ويتم اختيارها لتطابق توزيع حد الضجيج $\gamma B e$ الناتج أثناء تكرار PnP.

يُعرف مُقدر MMSE كمتوسط شرطي لاحق:
$$\hat{D}_\mu(z) = \mathbb{E}[X | Z=z] = \frac{\int x \phi(z-x; \tilde{\Sigma}_\Upsilon) d\mu(x)}{\int \phi(z-x; \tilde{\Sigma}_\Upsilon) d\mu(x)}$$
حيث $\phi$ هو نواة كثافة غاوسية متكيفة مع الفضاء الجزئي $V = \text{Im}(\Sigma_\Upsilon)$.

2.2 الافتراضات الرئيسية

يعتمد التحليل على عدة افتراضات هيكلية:

• المدمجة (Compactness): دعم التوزيع القبلي $\mu_X$ مدمج ومحدود بـ $M$.
• اتساق الفضاء الجزئي: يقع دعم $\mu_X$ ضمن الفضاء الجزئي $V$ الذي تولده مصفوفة التغاير $\Sigma_\Upsilon$.
• خصائص المؤثر: المصفوفة $BA$ متناظرة وموجبة شبه محددة. المؤثر $B$ يوجه إلى $V$.
• الحقن المقيد: التقاطع بين نواة $BA$ والمخروط المماسي للمحيط المحدب لدعم $\mu_X$ هو تقاطع تافه، مما يضمن القابلية للعكس على المجموعة ذات الصلة.

2.3 تحليل تقريبات الشبكات العصبية

إدراكاً منهم أن مُقدر MMSE الدقيق صعب الحساب في الأبعاد العالية، وسع المؤلفون تحليلهم ليشمل المنقيات التي يتم تمثيلها بواسطة شبكات عصبية ReLU. يستخدمون نظرية التقريب لتحديد العرض والعمق وحجم الأوزان اللازم للشبكة لتقريب دالة الوحدة (identity map) -وبالتالي تقريب MMSE- على دعم التوزيع القبلي بدقة محددة $\epsilon$.

3. المساهمات الرئيسية

تقدم الورقة ثلاث مساهمات رئيسية، متجاوزة الرؤية التي تعتبر منقيات PnP "صندوقاً أسود":

1. انتظام واستقرار مُنقيات MMSE:
   أثبت المؤلفون أن مُنقي MMSE متصل ليبشيتز (Lipschitz continuous)، وتحت شروط معينة (ضجيج غاوسي بتغاير غير متدهور)، يكون متماسكاً (cocoercive). يوفر هذا تبريراً نظرياً صارماً لخاصية "عدم التمدد القوي" (firm non-expansiveness) التي تُفرض تجريبياً في طرق PnP. كما أثبتوا استقرار المنقي بالنسبة للمقياس القبلي (استمرارية Wasserstein).

2. ضمانات الاستعادة لـ PnP مع MMSE:
   تقدم الورقة حدود خطأ للنقطة (pointwise) ولـ مسافة Wasserstein لعملية تكرار PnP-FBS.

• الحدود النقطية: يعتمد حد الخطأ على رقم الشرط (condition number) للمؤثر $BA$ المقيد على المخروط المماسي لمجموعة الحل، ومستوى الضجيج، وخطأ أخذ العينات من التوزيع القبلي التجريبي.
• حدود Wasserstein: يتوزع تكرار العمليات نحو التوزيع القبلي الحقيقي. يتضمن الحد صراحةً حداً من مقياس Bures، والذي يقيس التفاوت بين توزيع الضجيج المستخدم لتدريب المنقي ($\Upsilon$) والضجيج الفعال في التكرار ($\gamma B E$).

3. ضرورة المنقيات المدركة للفيزياء (Physics-Aware):
   النتيجة النظرية المركزية هي أن المنقي لا يمكن اختياره بطريقة غير مدركة للفيزياء. يجب أن يكون اختيار المؤثر $B$ ومصفوفة تغاير الضجيج $\Sigma_\Upsilon$ المستخدمة لبناء المنقي مرتبطين ببعضهما البعض. وتحديداً، لتحقيق الأداء الأمثل، يجب تدريب المنقي على إحصائيات ضجيج تطابق الضجيج المحول $\gamma B E$. الخيار القياسي $B = A^\top$ يفترض ضمناً أن المنقي غير مدرك للنموذج الأمامي، وهو ما يظهر المؤلفون أنه يؤدي إلى حدود استعادة دون المستوى الأمثل ما لم تتحقق شروط معينة.

4. النتائج الرئيسية

4.1 الاستعادة النقطية

توفر النظرية 3.2 حداً لخطأ إعادة البناء $\|x_k - x\|$. يتقارب الخطأ إلى جوار الحل المحدد بـ:

• تضخيم الضجيج: يتناسب طردياً مع $\gamma \|B\| \|e\|$.
• أداء المنقي: يرتبط بالمسافة بين الإشارة الحقيقية وعينات التدريب التجريبية.
• التحسين (Conditioning): يعتمد معدل التقارب $q$ على رقم الشرط لـ $BA$ على مجموعة الحل.
  الأهم من ذلك، أن الحد يظل صالحاً حتى لو لم يكن المنقي انكماشياً (contractive)، بشرما كان رقم الشرط لـ $BA$ ملائماً بما يكفي بالنسبة لثابت ليبشيتز الخاص بالمنقي.

4.2 الاستعادة التوزيعية

تحدد النظرية 3.6 حدود مسافة Wasserstein التربيعية المتوقعة $W_2^2(\hat{\mu}_k, \mu_X)$ بين توزيع التكرارات والتوزيع القبلي الحقيقي. يكشف الحد أن الخطأ يتم تقليله عندما يتطابق تغاير ضجيج التدريب $\Sigma_\Upsilon$ مع تغاير ضجيج التكرار $\gamma^2 B \Sigma_E B^\top$. وإذا كان هذا التطابق مثالياً، فإن حد مقياس Bures يتلاشى، مما يحسن الحد بشكل كبير.

4.3 تقريب الشبكة العصبية

توسع النظرية 3.11 الحدود النقطية لتشمل حالة استبدال مُقدر MMSE بشبكة عصبية مدربة. يتضمن حد الخطأ بنوداً لـ:

• خطأ التقريب للشبكة (يعتمد على $\epsilon$).
• ثوابت ليبشيتز للشبكة.
• خطأ أخذ العينات من بيانات التدريب.
  يستنتج المؤلفون متطلبات محددة لعمق وعرض الشبكة لتحقيق دقة تقريب معينة، موضحين أن ضمانات الاستعادة تظل قائمة طالما كانت الشبكة تعبيرية بما يكفي.

5. الأهمية والادعاءات

تدعي الورقة أن تحليلها يغير بشكل جذري فهم طرق PnP من خلال إثبات أن الفيزياء تهم.

• رفض عدم الإدراك (Agnosticism): يجادل المؤلفون بأن الممارسة الشائعة لتدريب المنقيات على ضجيج عام (مثل الضجيج الغاوسي متماثل المناحي) وتطبيقها على مسائل عكسية ذات مؤثرات أمامية $A$ وتغايرات ضجيج $\Sigma_E$ عشوائية هو أمر معيب نظرياً. يجب أن يكون المنقي "مدركاً للفيزياء"، بمعنى أن توزيع ضجيج التدريب الخاص به يجب أن يتوافق مع ضجيج التكرار الفعال الناتج عن المؤثر $B$ في تكرار PnP.
• تخفيف الافتراضات: من خلال الاستفيد من الخصائص المحددة لمقدر MMSE (مثل التماسك وحدود ليبشيتز المستمدة من التوزيع القبلي)، يستنتج المؤلفون ضمانات استعادة دون الحاجة إلى الافتراض القوي بأن المنقي هو تطبيق انكماشي أو مؤثر لدالة محدبة.
• حدود كمية: توفر الورقة حدود خطأ صريحة وغير تقاربية (non-asymptotic) تقيس المقايضات بين جودة النموذج العكسي، وجودة المنقي (وبيانات تدريبه)، ومستوى الضجيج.

في الختام، يوفر هذا العمل أساساً نظرياً رصيناً لطرق Plug-and-Play، مؤكداً أن تصميم المنقي واختيار مؤثر الانقسام $B$ مرتبطان ارتباطاً وثيقاً بالنموذج الأمامي وإحصائيات الضجيج لمشكلة عكسية محددة.