Spectral Collapse in Diffusion Inversion

1. بيان المشكلة: الانهيار الطيفي (Spectral Collapse)

تتناول الورقة نمط فشل حرج في الترجمة غير المقترنة من صورة إلى صورة (unpaired image-to-image translation) باستخدام عملية العكس التوزيعي الشرطي (conditional diffusion inversion). وتحديداً، تركز على المهام التي يكون فيها النطاق المصدر شحيحاً طيفياً (يفتقر إلى المعلومات عالية التردد، مثل الصور منخفضة الدقة أو الرسومات التخطيطية/Sketches) والنطاق المستهدف كثيفاً طيفياً (يتطلب أنسجة عالية التردد، مثل الصور الفوتوغرافية عالية الدقة أو الصور الواقعية).

• الظاهرة: حدد المؤلفون ظاهرة أطلقوا عليها اسم "الانهيار الطيفي". فعند استخدام طرق العكس الحتمية القياسية (مثل DDIM) لتعيين مدخل شحيح طيفياً إلى متجه ضجيج كامن ($z_T$)، فإن المتجه الكامن الناتج لا يتبع توزيع غاوسي متماثل المناحي (isotropic Gaussian) كما هو متوقع. بدلاً من ذلك، يحتفظ بآثار هيكلية منخفضة التردد للمدخل، ويفتقر إلى التباين عالي التردد.
• النتيجة: نظرًا لأن المتجه الكامن المستعاد يفتقر إلى التباين العشوائي (الضجيج) اللازم لـ "بذر" تفاصيل جديدة، فإن عملية أخذ العينات التوليدية اللاحقة تنتج مخرجات مفرطة في النعومة (oversmoothed) وفقيرة في الأنسجة. يفشل النموذج في تخيل (hallucinate) أنسجة عالية التردد معقولة لأن الفضاء الكامن قد "انهار" إلى فضاء فرعي منخفض الأبعاد.
• المقايضة: المحاولات الحالية لإصلاح ذلك باستخدام حقن الضجيج العشوائي (مثل TABA وReNoise) تنجح في استعادة الأنسجة ولكنها تكسر الرابط الدلالي بالمدخل، مما يسبب انزياحاً هيكلياً (structural drift) (حيث تبدو الصورة المولدة واقعية ولكنها لم تعد تطابق هيكل المصدر).

2. المنهجية: توجيه التباين المتعامد (Orthogonal Variance Guidance - OVG)

لحل المقايضة بين الدقة الهيكلية وواقعية الأنسجة، يقترح المؤلفون توجيه التباين المتعامد (OVG)، وهو أسلভাবে (method) يعمل أثناء الاستدلال لتصحيح ديناميكيات المعادلات التفاضلية العادية (ODE) لنموذج الانتشار.

الآلية الجوهرية

يعمل OVG عن طريق حقن التباين عالي التردد حصرياً في الفضاء الصفري (null-space) للتدرج الهيكلي. وهو يضمن أن توليد الأنسجة لا يتداخل مع الحفاظ على المخطط الدلالي للمدخل.

تتضمن الطريقة هدفين متنافسين عند كل خطوة زمنية $t$:

1. التصحيح عالي التردد (الغاوسية): دالة خسارة ($L_{HF}$) تعاقب الانحرافات في طاقة الضجيج المتوقعة عن توقعها النظري (تركيز القياس على كرة فائقة - concentration of measure on a hypersphere). هذا يجبر المتجه الكامن على استعادة التباين المطلوب للأنسجة الواقعية.
2. التصحيح منخفض التردد (الهيكل): دالة خسارة ($L_{LF}$) تعاقب الانزياح في التقدير منزوع الضجيج بالنسبة للمرجع منخفض التردد للمدخل (مثل الرسم التخطيطي أو الصورة منخفضة الدقة). هذا يحافظ على الدقة الهيكلية.

الإسقاط المتعامد (Orthogonal Projection)

عندما تتعارض تدرجات هذين الهدفين (أي تشير في اتجاهات متعاكسة)، يطبق OVG إسقاطاً هندسياً مستوحى من تعلم المهام المتعددة (تحديداً PCGrad):

• يقوم بإسقاط متجه التحديث عالي التردد على المستوى العمودي للتدرج الهيكلي.
• يضمن ذلك حقن التباين بشكل متعامد مع الميزات الهيكلية.
• النتيجة: يمكن للنموذج تخيل أنسجة واقعية (استعادة الغاوسية) دون إفساد المخطط الدلالي للمدخل.

رؤية حول المعلمة (Parameterization Insight)

تسلط الورقة الضوء أيضاً على أن اختيار هدف التدريب أمر بالغ الأهمية. فالنماذج المدربة باستخدام هدف التنبؤ بـ $x_0$ (التنبؤ بالصورة النظيفة مباشرة، كما في EDM) هي بطبيعتها أكثر قوة ضد الانهيار الطيفي من تلك التي تستخدم التنبؤ بـ $\epsilon$ (التنبؤ بالضجيج)، رغم أن التنبؤ بـ $x_0$ وحده لا يزال يعاني من الانزياح الهيكلي بدون OVG.

3. المساهمات الرئيسية

1. تحديد الانهيار الطيفي: يقدم المؤلفون تحليلاً تجريبياً منهجياً يثبت أن العكس الحتمي يفشل في مهام الترجمة من الشحيح طيفياً إلى الكثيف طيفياً لأن المتجه الكامن المعكوس يحتفظ ببقايا منخفضة التردد بدلاً من التقارب نحو ضجيج غاوسي نقي.
2. التحليل النظري: يثبتون أن الانهيار ينبع من التحيز الطيفي للشبكات العصبية العميقة (ReLU/Transformers) مقترناً بالافتراضات الخطية لحلول ODE الحتمية. في أنظمة التنبؤ بـ $\epsilon$، يتلاشى مُقدر الدرجة (score estimator) بالنسبة للترددات العالية في أنظمة SNR المنخفضة، مما يؤدي إلى تجميد توليد الأنسجة.
3. توجيه التباين المتعامد (OVG): خوارزمية مبتكرة أثناء الاستدلال تفصل استعادة الأنسجة عن الحفاظ على الهيكل عبر حقن التباين بشكل متعامد مع التدرج الهيكلي.
4. التقييم الشامل: تجارب مكثفة على التكبير الفائق للمجهر البيولوجي (BBBC021) والترجمة من الرسم التخطيطي إلى الصورة (Edges2Shoes) عبر بنيات مختلفة (U-Net, DiT) وفضاءات مختلفة (Latent, Pixel).

4. النتائج التجريبية

تم تقييم الطريقة على مجموعتي بيانات رئيسيتين:

• BBBC021: صور مجهرية بيولوجية للتكبير الفائق (×8، ×16، ×32).
• Edges2Shoes: ترجمة الرسم التخطيطي إلى صورة.

النتائج الرئيسية:

• مقايضة متفوقة: يحقق OVG أفضل حدود باريتو (Pareto frontier) بين درجة التردد العالي (SHF) (واقعية الأنسجة) ودرجة التردد المنخفض (SLF) (الدقة الهيكلية).
• المكاسب الكمية:
  • في Edges2Shoes، حقق OVG مع EDM قيمة LPIPS بلغت 0.381 (أفضل جودة إدراكية) مع الحفاظ على SLF قدره 0.60، متفوقاً بشكل كبير على النماذج العشوائية الأساسية مثل TABA (التي سجلت SLF قدره 0.46).
  • في BBBC021 (×16)، استعاد OVG الأنسجة البيولوجية الواقعية (النوى، الأغشية) بدرجة SHF تتراوح بين 0.95–0.97، بينما عانت النماذج الحتمية الأساسية من نعومة مفرطة شديدة (SHF ~0.83).
• القوة (Robustness): تعمل الطريقة بفعالية عبر عوامل تصغير مختلفة (تصل إلى ×32)، وبنيات مختلفة (U-Net مقابل DiT)، وفضاءات بيانات مختلفة (Latent مقابل Pixel)، مما يؤكد أن الانهيار الطيفي هو مشكلة جوهرية في ديناميكيات العكس، وليس مجرد خلل في نموذج معين.

5. الأهمية

يغير هذا العمل فهمنا لعملية العكس في نماذج الانتشار بشكل جذري. فهو يثبت أن العكس الحتمي غير كافٍ للمهام التي تتطلب توليد معلومات جديدة عالية التردد من مدخلات شحيحة.

• الأثر النظري: يتحدى الافتراض القائل بأن مجرد عكس عملية انتشار ODE كافٍ للتحرير عالي الدقة، كاشفاً عن "فراغ طيفي" في الفضاء الكامن.
• الأثر العملي: يوفر OVG حلاً جاهزاً للاستخدام (plug-and-play) للتطبيقات الحرجة مثل التكبير الفائق للصور الطبية (حيث يكون تخيل هياكل خاطئة أمراً خطيراً) والتوليد الفني (الرسم التخطيطي إلى صورة)، مما يسمح بإنشاء أنسجة واقعية مع الالتزام الصارم بالقيود الهيكلية للمستخدم.

باختصار، تحل هذه الورقة مشكلة "المقايضة بين الهيكل والنسيج" في نماذج الانتشار من خلال فرض رياضياً أن التفاصيل الجديدة يتم توليدها في اتجاه متعامد مع الهيكل الموجود، مما يسمح بكل من إعادة البناء عالية الدقة وتوليد الأنسجة الواقعية.