ملخص تقني: التوجيه الخالي من التصنيف الموزع (Factored Classifier-Free Guidance)

بيان المشكلة

يهدف التوليد المقابل للواقع (Counterfactual generation) إلى محاكاة النتائج الافتراضية الواقعية تحت تدخلات سببية (على سبيل المثال: "كيف سيبدو تطور مرض هذا المريض إذا تلقى العلاج أ بدلاً من ب؟). وبينما أصبحت نماذج الانتشار (Diffusion models) المدمجة مع انعكاس DDIM والتوجيه الخالي من التصنيف (CFG) هي الحالة الأحدث في هذا المجال، يحدد المؤلفون قصوراً حرجاً في الـ CFG القياسي: تضخيم السمات (attribute amplification).

يطبق الـ CFG القياسي وزناً عالمياً واحداً ($\omega$) على تضمين الشرط بأكمله. وفي التوليد المقابل للواقع، يؤدي هذا التقوية الموحدة عن غير قصد إلى تضخيم ليس فقط السمات المتدخل فيها، بل أيضاً السمات التي يجب أن تظل ثابتة تحت التدخل السببي. هذا التضخيم "خارج الهدف" ينتهك المسار السببي المقصود، ويعدل سمات خارج المسار السببي، ويسبب انحراف مسار التوليد عن نطاق البيانات الأصلي (data manifold)، مما يؤدي إلى تدهور الحفاظ على الهوية والصحة البديهية (axiomatic soundness) للاستنتاجات المقابلة للواقع.

المنهجية: التوجيه الخالي من التصنيف الموزع (FCFG)

للتخفيف من تضخيم السمات الزائف دون تغيير نموذج الانتشار الأساسي، يقترح المؤلفون التوجيه الخالي من التصنيف الموزع (FCFG). وهي تقنية مرنة ومستقلة عن النموذج تُستخدم أثناء الاستدلال، وتسمح بالتحكم في السمات بناءً على رسم بياني سببي.

1. تضمين الشرط المجزأ للسمات (Attribute-Split Conditioning Embedding)

يقدم هذا الأسلوب تغييراً هيكلياً في آلية الشرط. فبدلاً من دمج سمات متعددة في متجه واحد، يستخدم FCFG مُضمنًا مجزأً للسمات (attribute-split embedder). حيث يتم تضمين كل سمة أب ($pa_i$) بشكل مستقل عبر طبقة متعددة الطبقات (MLP) مخصصة، $E_i$. ويتشكل متجه الشرط النهائي $c$ من خلال دمج هذه التضمينات المستقلة:
$$c = \text{concat}(E_1(pa_1), E_2(pa_2), \dots, E_K(pa_K))$$
هذه البنية تحافظ على هوية كل سمة في فضاء التضمين، مما يسمح بالتعطيل الانتقائي للرموز الفارغة (null-tokenization) أو تعديل سمات فردية أثناء الاستدلال.

2. صياغة التوجيه القائم على المجموعات (Group-Wise Guidance Formulation)

يقسم FCFG السمات الدلالية إلى $M$ من المجموعات المنفصلة (على سبيل المثال، مجموعة "متأثرة" تحتوي على السمات المتدخل فيها وأحفادها، ومجموعة "ثابتة" تحتوي على السمات المتوقع بقاؤها دون تغيير). وتحت افتراض أن هذه المجموعات مستقلة شرطياً مع المتغير الكامن $x_t$، يستنتج المؤلفون تابع احتمال تقريبي مجزأ:
$$p_\omega(x_t | pa) \propto p(x_t) \prod_{m=1}^M p(pa^{(m)} | x_t)^{\omega_m}$$
حيث $\omega_m$ هو وزن توجيه متميز للمجموعة $m$.

يتم حساب تنبؤ الضجيج الموجه $\epsilon_{\text{FCFG}}$ عن طريق جمع التنبؤ غير المشروط مع الفروق الموزونة لكل مجموعة:
$$\epsilon_{\text{FCFG}}(x_t, t, c) = \epsilon_\theta(x_t, t, \emptyset) + \sum_{m=1}^M \omega_m \left( \epsilon_\theta(x_t, t, c^{(m)}) - \epsilon_\theta(x_t, t, \emptyset) \right)$$
هنا، $c^{(m)}$ هو تضمين مقنع (masked embedding) حيث يتم الاحتفاظ فقط بالسمات التي تنتمي إلى المجموعة $m$، بينما تُستبدل السمات الأخرى برموز فارغة.

3. التكامل مع الاستدلال المقابل للواقع

يتم دمج FCFG في خط أنابيب الاستدلال القياسي المكون من ثلاث خطوات (الاستنباط، الإجراء، التنبؤ):

• الاستنباط (Abduction): يستخدم انعكاس DDIM لتقدير الضجيج الخارجي $u$ من الصورة المرصودة والسمات الواقعية.
• الإجراء (Action): يطبق التدخل السببي لتوليد السمات المقابلة للواقع.
• التنبؤ (Prediction): يستخدم مسار DDIM العكسي الموجه بـ FCFG. ومن الأهمية بمكان أن خطوة التنبؤ تطبق أوزاناً متميزة ($\omega_{\text{aff}}$ للسمات المتأثرة، و $\omega_{\text{inv}}$ للسمات الثابتة) لتوجيه التوليد نحو التدخل مع الحفاظ على العوامل الثابتة.

تم تصميم الإطار ليكون متوافقاً مع مخططات التوجيه المتقدمة، بما في ذلك CFG++ و Adaptive Projected Guidance (APG)، من خلال تطبيق نفس التفكيك القائم على المجموعات على صيغ التقدير الخاصة بها.

المساهمات الرئيسية

1. تحديد فشل الـ CFG الناجم عن التوجيه: يحلل المؤلفون ويثبتون أن آلية التوجيه العالمية في CFG القياسي هي مصدر رئيسي لتضخم السمات، مما يسبب تغيرات زائفة في السمات الثابتة حتى عندما يكون الرسم البياني السببي معروفاً.
2. اقتراح FCFG: قدموا "التوجيه الخالي من التصنيف الموزع"، وهو امتداد بسيط يخصص أوزان توجيه منفصلة لمجموعات السمات. وهذا يسمح بتحكم دقيق وقابل للتفسير في العملية التوليدية دون الحاجة لتغيير بنية النموذج أو إعادة تدريبه.
3. التحقق التجريبي: من خلال تجارب مكثفة على مجموعات بيانات الصور الطبيعية (CelebA-HQ) والطبية (EMBED, MIMIC-CXR)، يثبت البحث أن FCFG يقلل بشكل كبير من التضخم خارج الهدف مع الحفاظ على فعالية التدخل أو تحسينها.

النتائج التجريبية

قيم المؤلفون FCFG مقابل CFG القياسي وطرق أخرى لتوليد المقابل للواقع (HVAE, HVAE-soft, SA-DCG) عبر ثلاث مجموعات بيانات:

• CelebA-HQ: في التدخلات التي تستهدف سمات مثل "الابتسام" (Smiling)، "ذكر" (Male)، أو "شاب" (Young)، تسبب الـ CFG العالمي مع أوزان توجيه عالية ($\omega \ge 2.0$) في تغيرات غير مقصودة كبيرة في السمات غير المتدخل فيها (مثل تغيير العمر أو الهوية عند استهداف الابتسام فقط). حقق FCFG، باستخدام وزن أقل للسمات الثابتة ($\omega_{\text{inv}} \approx 1.0-1.2$) ووزن أعلى للسمات المتأثرة ($\omega_{\text{aff}} \ge 2.0$)، تغيرات مماثلة في السمة المستهدفة مع الحفاظ على استقرار السمات الثابتة. أدى ذلك إلى درجات أقل في متوسط الخطأ المطلق (MAE) ودرجات LPIPS لخاصية العكسية، مما يشير إلى حفظ أفضل للهوية.
• EMBED (تصوير الثدي بالأشعة السينية): عند التدخل في كثافة الثدي، ضخم الـ CFG العالمي عن غير قصد وجود علامات جلدية دائرية. نجح FCFG في كبح هذا التحول الزائف، محافظاً على الأداء المستقر في السمة غير المتدخل فيها.
• MIMIC-CXR (الأشعة السينية للصدر): أدت التدخلات في نتائج المرض ("finding") باستخدام CFG العالمي إلى تغيرات غير مقصودة في سمات العرق والجنس. نجح FCFG في حصر التغييرات في نتيجة المرض، مما قلل من تغيرات AUC خارج الهدف من القيم الموجبة الكبيرة (التي تشير إلى التضخم) إلى قيم قريبة من الصفر أو سالبة.

في جميع الحالات، حسن FCFG المقايضة بين فعالية التدخل والتضخم خارج الهدف. علاوة على ذلك، أظهر FCFE توافقاً مع CFG++ و APG، مما خفف من تضخم السمات المتأصل في تلك الطرق المتقدمة أيضاً.

الأهمية والادعاءات

يزعم البحث أن FCFG يعالج قصوراً جوهرياً في نماذج الانتشار الموجهة للاستدلال السببي. فمن خلال فصل إشارة التوجيه عبر مجموعات محددة دلالياً أو سببياً، يتيح FCFG توليد نماذج مقابلة للواقع تكون أكثر صحة من الناحية البديهية (تلتزم بالرسم البياني السببي) وأكثر قابلية للعكس (تحافظ بأمانة على الهوية).

يؤكد المؤلفون أن FCFG هو علاج بسيط في وقت الاستدفاء لا يتطلب:

• أهداف تدريب إضافية تعتمد على التنبؤ (على عكس متغيرات HVAE).
• أطر عمل معقدة لـ "المشفر التلقائي للانتشار" (على عكس SA-DCG).
• اكتشافاً سببياً (فهو يفترض الوصول إلى رسم بياني سببي محدد مسبقاً أو تقسيم دلالي).

يشير العمل إلى أن الطبيعة "العالمية" لـ CFG القياسي تمثل عائقاً أمام الاستدلال الموثوق للمقابل للواقع، وأن توزيع إشارة التوجيه هو خطوة ضرورية للتحرير الدقيق والمتحكم به للصور في السياقات السببية. ويشير المؤلفون إلى بعض القيود، وتحديداً أن FCFG يعتمد على متغيرات شرطية مهيكلة وتصنيفات محددة مسبقاً، وأن أوزان التوجيه يتم اختيارها حالياً تجريبياً وليس بشكل تكيفي.