Composing diffusion priors with explicit physical context via generative Gibbs sampling

ملخص تقني: تركيب الأولويات الانتشارية مع سياق فيزيائي صريح عبر أخذ عينات جيبس التوليدية

بيان المشكلة
تقدم نماذج الانتشار المدربة مسبقاً أولويات متعلمة قوية لأخذ العينات العلمية، ومع ذلك فهي غالباً ما تصف مجموعة فرعية مختارة فقط من درجات حرية النظام (مثل العمود الفقري للبروتين أو جزء جزيئي) بدلاً من حالة النظام الكاملة. في التطبيقات العلمية، تعتمد التوزيعات المستهدفة بشكل متكرر على سياق فيزيائي—مثل المذيبات، الأيونات، المجالات الخارجية، أو التفاعلات مع الأنظمة الفرعية الأخرى—الذي لا يتم تمثيله بالكامل بواسطة نموذج توليدي واحد. تتطلب طرق الاستدلال التقليدية عند وقت الاستدلال، مثل التوجيه (guidance) أو أخذ عينات البعد اللاحق (posterior sampling)، ضرورة التعبير عن كل السياق من خلال متغيرات النموذج التوليدي. وهذا يستلزم تهميش درجات الحرية غير الممثلة في شكل حد طاقة حرة فعال، وهو أمر غالباً ما يكون مستعصياً حسابياً للبيئات عالية الأبعاد أو فائضاً عن الحاجة عندما تكون الأنظمة الفرعية الأخرى مُمذجة جيداً بالفعل بواسطة أولويات منفصلة أو حقول قوة. التحدي الجوهري الذي يعالجه البحث هو تركيب أولويات جزئية متعلمة متعددة مع سياق فيزيائي صريح على مستوى النظام أثناء وقت الاستدلال دون إعادة تدريب النماذج.

المنهجية: أخذ عينات جيبس التوليدية لفيزياء واعية (GG-PA)
يقترح المؤلفون إطار عمل GG-PA، وهو إطار عمل خالٍ من التدريب يصيغ تركيب الأولويات الجزئية المتعلمة والسياق الفيزيائي الصريح كاستدلال على توزيع مستهدف مشترك في فضاء حالة معزز.

1. فضاء الحالة المعزز: يحافظ الأسلوب على تمثيل صريح لحالة النظام الكامل $s$ (مثل إحداثيات جميع الذرات بما في ذلك المذيب) ويربطها بـ $K$ من الأولويات الانتشارية المدربة مسبقاً عبر مؤثرات إسقاط $\Phi_i: S \to X_i$. الحالة المعززة هي $Z = S \times \prod X_i$.
2. التوزيع المستهدف المشترك: يتم تعريف عائلة من كثافات التوزيع المستهدفة المشتركة مفهرسة بزمن الانتشار $t$:
   $$\pi_t(s, \{x_i\}) \propto q_{\text{ctx}}(s, t) \prod_{i=1}^K \left[ p_i(x_i) \cdot q^{(i)}_t(\Phi_i(s) | x_i) \right]$$
   هنا، $p_i$ هي الأولويات المدربة مسبقاً، و $q^{(i)}_t$ هي نوى الانتشار الأمامي التي تعمل كروابط، و $q_{\text{ctx}}$ هو عامل السياق الفيزيائي الصريح (مثل عامل بولتزمان). عندما $t \to 0$، تفرض نوى الربط اتساقاً صارماً ($\Phi_i(s) = x_i$)، مما يستعيد التوزيع المركب حيث تحكم الأولويات مجموعات فرعية محددة ويحكم السياق بقية الأجزاء.
3. أخذ عينات جيبس التوليدية: يتناوب أخذ العينات بين خطوتين:
   • إزالة الضجيج المتوازي: يتم تحديث كل متغير أولوية $x_i$ عن طريق أخذ عينات من البعد اللاحق الناجم عن الأولوية $p_i$ والحالة المسقطة الحالية $\Phi_i(s)$ التي تُعامل كملاحظة مشوبة بالضجيج. يتم تنفيذ ذلك عن طريق تشغيل عملية أخذ العينات العكسي للزمن المدرب مسبقاً.
   • التجميع الواعي بالسياق: يتم تحديث حالة النظام الكامل $s$ مشروطة بقيم $x_i$ الحالية والسياق الصريح. تقوم هذه الخطوة بتقليل جهد فعال $U_{\text{eff}}$ مشتق من السياق ومن احتمالية الـ log-likelihood لنوى الانتشار الأمامي.
4. تبادل النسخ (Replica Exchange): لمعالجة المقايضة بين الدقة (عند $t$ صغير) والخلط (عند $t$ كبير)، يقدم المؤلفون تبادل النسخ عبر زمن الانتشار. تعمل نسخ متعددة عند قيم $t$ مختلفة، مع اقتراح حركات تبديل بناءً على نسبة قبول قابلة للحساب حيث تُلغي كثافات الأولوية المستعصية بعضها البعض.

الخصائص النظرية

• الدقة التقاربية: بالنسبة للأنظمة القابلة للتفكيك، يستعيد الهامش المستهدف التوزيع الفيزيائي الحقيقي عند $t \to 0$.
• الدقة في زمن محدد: في الإعدادات التي تكون فيها التفاعلات تربيعية (Linear-Gaussian)، يظل الأسلوب دقيقاً عند زمن $t$ محدد بشرط أن يتم تحديد جدول السياق ليلبي شروط مطابقة العزوم المحددة (Gaussian deconvolution). ينتج عن هذا حد حرج لأقصى زمن انتشار مسموح به $t_{\text{max}}$.
• الارتباط بـ Split Gibbs: يعمم الإطار أساليب split Gibbs للمسائل العكسية الخطية، مما يوفر تصحيح التباين الذي يتجنب الانحياز الموجود في التنفيذات القياسية.

النتائج التجريبية
يقيم المؤلفون GG-PA على ثلاثة أنظمة تزداد تعقيداً:

1. نظام البئر المزدوج المقترن: نظام تربيعي ثنائي الأبعاد للتحقق من الدقة في زمن محدد وفعالية تبادل النسخ. نجح GG-PA في استعادة عدم التماثل الناجم عن البيئة. أدى تبادل النسخ إلى تسريع الخلط بشكل كبير في نظام $t$ المنخفض والمتصلب مقارنة بأخذ عينات الزمن الثابت والديناميكا الجزيئية (MD).
2. نموذج $\phi^4$ الشبكي: نموذج Ginzburg-Landau ثنائي الأبعاد يختبر تركيب السلوك الجماعي متعدد الأجسام الغائب عن توزيع التدريب. تم تدريب النموذج فقط على عوامل البئر المزدوج المحلية. نجح GG-PA في إعادة إنتاج انتقال الطور في التوازن، وكسر التماثل التلقائي، والأسات (critical exponents). وفر تبادل النسخ تسريعاً بمقدار عدة رتب مقدارية بالقرب من النقطة الحرجة.
3. أنظمة ألانين دي ببتيد (Alanine Dipeptide): نماذج ذرية تتضمن تفاعلات غير تربيعية.
   • AD–Na+: استطاع GG-PA رصد إزاحة التوزيع في مسافات أكسجين الكربونيل الناتجة عن تنسيق الأيونات، متفوقاً على الأولوية المدربة في الفراغ والمستخدمة مباشرة.
   • AD Dimer: تم تركيب نسختين من أولوية المونومر لنمذجة ثنائيات الهيدروجين المرتبطة. استعاد GG-PA-RE التنظيم التماثلي النوعي (التوجه المتوازي مقابل المتوازي المتعاكس) وتفضيلات الحالة الالتوائية المشروطة، رغم الطبيعة غير التربيعية للتفاعلات وغياب ضمانات الدقة في زمن $t$ المحدد.

المساهمات الرئيسية

1. الصياغة: صياغة جديدة لتركيب أولويات الانتشار الجزئية كاستدلال على حالة نظام كامل صريح، مما يتجاوز عملية التهميش المستعصية.
2. الخوارزمية والنظرية: اشتقاق أخذ عينات GG-PA مع براهين على الدقة التقاربية، والدقة في زمن محدد للتفاعلات التربيعية، وتصحيح التباين لأساليب split Gibbs.
3. الإثبات العملي: عرض عددي لتركيب الأولويات المتعددة النمطية في أنظمة بوجود أو غياب التفاعلات التربيعية، مما يظهر القدرة على استعادة الإزاحات الناتجة عن السياق والسلوك الجماعي الناشئ دون إعادة تدريب.

الأهمية والادعاءات
يضع البحث GG-PA كنهج عملي لدمج الأولويات التوليدية المدربة مسبقاً مع السياقات الفيزيائية الصريحة. يدعي المؤلفون أن هذا النموذج النمطي يسمح بتطبيق الأولويات المتعلمة والفيزياء الصريحة حيثما كان ذلك أكثر ملاءمة، مما يتجنب الحاجة لإعادة تدريب النماذج الضخمة (monolithic models) عندما تتغير بيئات النظام. هذه الطريقة ذات قيمة خاصة للأنظمة العلمية ذات درجات الحرية البيئية عالية الأبعاد التي يمكن التعامل معها بسهولة بواسطة حقول القوة أو الأولويات المنفصلة. كما يقر المؤلفون بوجود قيود، بما في ذلك الاعتماد على الهياكل التربيعية للدقة في زمن $t$ محدد، والتكلفة الحسابية للحفاظ على نسخ متعددة، لكنهم يؤكدون على قدرة الطريقة على التعامل مع مهام أخذ العينات المعقدة المعتمدة على السياق والتي يصعب على تقنيات أخذ العينات اللاحقة أو التوجيه القياسية التعامل معها.