ملخص تقني: إطار عمل المجال المتوسط للتحكم التوزيعي عند الاستدلال لنماذج الانتشار

بيان المشكلة

تُستخدم نماذج الانتشار (Diffusion models) بشكل متزايد كأدوات أخذ عينات قابلة للتحكم، حيث يتم توجيه عمليات التوليد أثناء الاستدلال لتلبية أهداف محددة. وبينما تتعامل الطرق الحالية بفعالية مع المكافآت النقطية (المعرفة على العينات الفردية، $r: \mathbb{R}^d \to \mathbb{R}$)، فإن العديد من التطبيقات الحرجة تتطلب مكافآت توزيعية (المعرفة على المقياس المتولد، $R: \mathcal{P}(\mathbb{R}^d) \to \mathbb{R}$). وتشمل هذه الأهداف التوزيعية معايرة الجمهرات لتطابق ملاحظات تجريبية، أو تشجيع التنوع، أو موازنة الأنماط (modes).

تدمج النهج الحالية للتوجيه التوزيعي غالباً حدود التدرج للمكافأة في ديناميكيات الاستدلال (مثل الجهود التنافرية أو احتمالات المجموعات). ومع ذلك، وعلى غرار طرق التوجيه النقطي المبكرة، تفتقر هذه الاستدلالات إلى الضمانات النظرية فيما يتعلق بالتوزيع الذي يتم أخذ العينات منه. فمجرد إضافة حد التدرج لا يضمن أن الجسيمات ستتبع المقياس المائل $\mu^*$ الذي يعظم هدف KL-regularized:
$$\arg \max_{\mu} \left\{ R(\mu) - \text{KL}(\mu \| p_1) \right\}$$
وعلى عكس الحالة النقطية، حيث يكون الهدف المائل عبارة عن ميل أسي صريح ($\mu^* \propto p_1 e^r$)، فإن الحالة التوزيعية تؤدي إلى هدف ضمني حيث يعتمد جهد الميل نفسه على المقياس. ولا يوجد حالياً إطار عمل مؤسس نظرياً لتصحيح الديناميكيات والأوزان لاستهداف هذا التوزيع الضمني.

المنهجية

يقترح المؤلفون إطار عمل للمجال المتوسط (Mean-Field Framework) لصياغة وحل التحكم التوزيعي عند الاستدلال.

1. الصياغة النظرية

يتم تأطير المشكلة كاستهداف لمقياس مائل $\mu^*_t$ عند كل خطوة زمنية $t \in [0,1]$، والمعرف ضمنياً بـ:
$$\mu^*_t(dx) = \frac{1}{Z_t} e^{\Psi_t(x, \mu^*_t)} p_t(x) dx$$
حيث $\Psi_t(x, \mu) = \frac{\delta R_t}{\delta \mu}(x, \mu)$ هو التباين الأول (المشتق الوظيفي) للمكافأة المعتمدة على الزمن $R_t$. وهذا يخلق علاقة اتساق ذاتي حيث يعتمد المقياس المستهدف على الجهد، والذي بدوره يعتمد على المقياس.

2. ديناميكيات ميكان-فلافو الموزونة (Weighted McKean-Vlasov Dynamics)

لتتبع هذا المسار، يستنتج المؤلفون نظام ميكان-فلافو موزوناً. وخلافاً للتوجيه بالاشتقاق القياسي، فإن حد التوجيه $\nabla_x \Psi_t(X_t; \mu_t)$ يحفز التفاعل بين الجسيمات لأنه يعتمد على المقياس التجريبي المتطور $\mu_t$.

الديناميكيات المثالية لجسيم $X_t$ ووزنه اللوغاريتمي $A_t$ هي:
$$dX_t = \left[ b_t(X_t) + \epsilon_t s_t(X_t) + \epsilon_t \nabla_x \Psi_t(X_t; \mu_t) \right] dt + \sqrt{2\epsilon_t} dB_t$$
$$dA_t = \left[ b_t(X_t) \cdot \nabla_x \Psi_t(X_t; \mu_t) + \dot{\Psi}_t(X_t) \right] dt$$
حيث $\dot{\Psi}_t(x) = \frac{d}{dt} \Psi_t(x, \mu_t)$ هو حد تصحيحي حاسم. وبخلاف الحالة النقطية حيث يكون $\dot{\Psi}_t$ ببساطة هو $\partial_t r$، فإنه يتضمن هنا التطور الزمني للمقياس $\mu_t$. وقد أظهر المؤلفون أن $\dot{\Psi}_t$ يحقق معادلة تكاملية ضمنية تتضمن التباين الثاني لدالة المكافأة.

3. خوارزمية الجسيمات المحدودة

لتنفيذ ذلك، يقترح المؤلفون مخطط جسيمات متفاعل موزون (الخوارزمية 1):

• تحديثات المواقع: يتم تحديث الجسيمات باستخدام الانجراف الأساسي، والدرجة (score)، وتدرج المكافأة بالنسبة للمقياس التجريبي الحالي $\hat{\mu}_t$.
• تحديثات الأوزان اللوغاريتمية: يتم تحديث الأوزان لتصحيح التفاوت بين ديناميكيات التوجيه والمسار المائل المستهدف. يتطلب هذا حساب $\dot{\Psi}_t$.
• حل $\dot{\Psi}_t$: توفر الورقة طريقتين لحساب حد المشتق الزمني الضمني:
  1. النظام الخطي الضمني: حل نظام خطي مشتق من المعادلة التكاملية (الافتراض 3.3).
  2. التكرار بنقطة ثابتة: مخطط تكرار بيكارد (Picard iteration) خفيف الوزن لتقريب تحديثات الأوزان.
• إعادة أخذ العينات (Resampling): يتم استخدام طريقة مونت كارلو التسلسلي (SMC) لإعادة أخذ العينات لمنع تدهور الأوزان.

يستعيد إطار العمل توجيه المكافأة النقطية القياسي كحالة خاصة حيث $R(\mu) = \int r(x) d\mu(x)$.

المساهمات الرئيسية

1. صياغة التوجيه التوزيعي: صاغ المؤلفون التوجيه على مستوى التوزيع كاستهداف لمقياس مائل حيث يعتمد الميل نفسه على المقياس، مما وضع نظيراً توزيعياً للأهداف المائلة للمكافآت النقطية.
2. استنتاج ديناميكيات ميكان-فلافو الموزونة: استنتجوا نظاماً ديناميكياً مبدئياً مع إعادة وزن "فاينمان-كاك" التصحيحية التي تضمن أن الجسيمات المتفاعلة الموزونة تتبع المسار المائل المطلوب $\mu^*_t$.
3. الاستعادة النظرية والتأسيس: يستعيد الإطار توجيه المكافأة النقطية كحالة خاصة ويوفر أساساً نظرياً لطرق التوجيه الاستدلالية الحالية (مثل أخذ عينات التنوع، والتوجيه التجريبي).
4. ضمانات التقارب: تثبت الورقة أن نظام الجسيمات المحدودة يتقارب إلى الديناميكيات المثالية مع زيادة عدد الجسيمات $N \to \infty$.

النتائج التجريبية

تحقق المؤلفون من صحة إطار العمل في كل من الإعدادات منخفضة الأبعاد وعالية الأبعاد:

• البعد المنخفض (خليط 1D):

  • المهمة: إمالة خليط غاوسي ثنائي النمط نحو توزيع مستهدف ذي أوزان أنماط مختلفة باستخدام مكافأة "مسافة ماكسيموم مين ديسكريبنسي" (MMD) مربعة.
  • النتائج: التوجيه بالاشتقاق فقط يدفع الجسيمات نحو الهدف ولكنه يفشل في مطابقة الشكل الدقيق للتوزيع المائل $\mu^*$. في المقابل، يستهدف منهج المجال المتوسط $\mu^*$ بدقة، مما يقلل فجوة الأمثلية $J(\mu) - J(\mu^*)$ عندما تتطابق قوة التوجيه $\lambda$ مع بارامتر الهدف. وينطبق هذا عبر جداول ضوضاء مختلفة.

• البعد العالي (تشكل البروتين):

  • المهمة 1 (HIV-1 Protease): توجيه مجموعات Boltz-2 لتطابق توزيعات مسافة البقايا المرصودة تجريبياً (بيانات DEER). كان النموذج الأساسي منحازاً نحو الحالة "المغلقة"؛ وكان الهدف هو استعادة نسب الحالة "شبه المفتوحة".
    • النتيجة: طابق توجيه المجال المتوسط بدقة توزيع مسافة البقايا التجريبي، بينما أنتج التوجيه بالاشتقاق فقط توزيعاً ذا شكل مختلف قليلاً وقمم أقوى.
  • المهمة 2 (Adenylate Kinase): التوجيه نحو توزيع ثنائي الأبعاد لزوايا الروابط المستمدة من محاكاة الديناميكا الجزيئية.
    • النتيجة: أنتج توجيه المجال المتوسط إزاحة أقوى نحو التوزيع المستهدف مقارنة بطرق الاشتقاق فقط.
  • المهمة 3 (علم البلورات بالأشعة السينية): توجيه توليدات Protenix لتناسب خريطة كثافة إلكترونية (هيكل 4OLE) تظهر تشكلات متباينة.
    • النتيجة: بالنسبة لنفس قوة التوجيه، حقق توجيه المجال المتوسط محاذاة جيب التمام (cosine alignment) أعلى مع الكثافة المستهدفة ووضع المزيد من العينات في التشكل البديل (Conformation B) مقارنة بالتوجيه بالاشتقاق فقط، مما يشير إلى أن طرق الاشتقاق فقط تعاني من نقص في التوجيه مقارنة بهدف المسألة العكسية الحقيقي.

الأهمية والادعاءات

تدعي الورقة أنها تسد الفجوة بين التحكم النقطي والتوزيعي من خلال توفير أساس نظري مبدئي للأخير.

• الصحة: الادعاء الرئيسي هو أن الإجراء المقترح يستهدف بدقة المقياس المائل للمكافأة $\mu^*$ في حد الجسيمات اللانهائية، مما يصحح التفاوتات المتأصلة في التوجيه بالاشتقاق الاستدلالي.
• القابلية للتفسير: يوضح إطار العمل أن طرق التوجيه الحالية على مستوى الدفعة (batch-level) هي في الواقع عمليات اشتقاق لكنها تفتقر إلى إعادة الوزن التصحيحية اللازمة لأخذ عينات من التوزيع المائل/الخلفي الحقيقي.
• العملية: رغم أن الطريقة تضيف تكلفة حسابية إضافية (حل $\dot{\Psi}_t$)، إلا أن المؤلفين يشيرون إلى أنها غالباً ما تكون ضئيلة مقارنة بتقييمات الشبكة في الإعدادات عالية الأبعاد (مثل البروتينات) وأن حل النقطة الثابتة فعال.
• القيود: يقر المؤلفون بأن الاعتماد على إعادة أخذ العينات قد يكون عائقاً لأنماط مثل الصور (مما قد يؤدي إلى عينات مكررة)، وأن الطريقة تتطلب دوال مكافأة قابلة للاشتقاق. ويقترحون أن الجمع مع تقنيات تقليل التباين (مثل حلول معادلة بواسون) يمكن أن يخفف من مشكلات إعادة أخذ العينات.

يضع هذا العمل نفسه ليس كبديل لجميع الطرق الموجودة، بل كترسيخ دقيق يفسر لماذا تعمل بعض الاستدلالات ويوفر آلية لضمان استهدافها للتوزيع المائل الصحيح.