Proximal Diffusion Neural Sampler

ملخص تقني: المُنقّب العصبي للانتشار القريب (PDNS)

بيان المشكلة
يُعد تعلم مُنقّب عصبي قائم على الانتشار (diffusion-based neural sampler) لسحب عينات من توزيع مستهدف غير معير (مثل توزيع بولتزمان $\pi(x) \propto e^{-\beta E(x)}$) مهمة أساسية في الإحصاء الحسابي، والاستدلال البايزي، والفيزياء الإحصائية. غالبًا ما تُصاغ هذه المشكلة كمسألة تحكم أمثل عشوائي (SOC) على مقاييس المسارات، حيث تقوم شبكة عصبية بتمثيل عملية تحكم لنقل توزيع مرجعي بسيط إلى التوزيع المستهدف.

ومع ذلك، تواجه عملية تدريب هذه المُنقّبات تحديات كبيرة عندما يكون التوزيع المستهدف متعدد الأنماط (multimodal) مع وجود حواجز طاقة عالية تفصل بين الأنماط. في مثل هذه السيناريوهات، غالبًا ما تعاني الطرق القياسية القائمة على التحكم الأمثل العشوائي (بما في ذلك متغيرات تقاطع الإنتروبي Cross-Entropy وWeighted Denoising Cross-Entropy) من انهيار النمط (mode collapse). ففي وقت مبكر من التدريب، يستوعب النموذج بعض الأنماط فقط؛ ثم تعمل دالة الخسارة العالمية على تعزيز هذه الأنماط الملتقطة بناءً على المسارات المحدودة التي تم توليدها، مما يؤدي إلى تركيز الكتلة الاحتمالية على مجموعة فرعية من الأنماط مع تجاهل الأنماط الأخرى. يؤدي هذا إلى عدم استقرار التحسين وضعف تغطية التوزيع المستهدف.

المنهجية
يقترح المؤلفون المُنقّب العصبي للانتشار القريب (PDNS)، وهو إطار عمل موحد مصمم لمعالجة انهيار النمط من خلال إعادة صياغة عملية التدريب كمتتالية من المسائل الفرعية المحلية بدلاً من تقليل عالمي واحد.

1. إطار عمل موحد: يقوم البحث أولاً بتوحيد مُنقّبات الانتشار المستمرة والمنفصلة تحت إطار عمل واحد للتحكم الأمثل العشوائي (SOC). حيث يُعرّف مقياس المسار الأمثل $P^*$ كحل لتقليل هدف الإنتروبي النسبي الخاضع لمقياس مسار مرجعي $P_{ref}$ يستوفي شرط "عدم وجود ذاكرة" (الاستقلال بين التوزيعات الأولية والنهائية).
2. طريقة النقطة القريبة (Proximal Point Method): للتخفيف من انهيار النمط، يطبق PDNS طريقة النقطة القريبة على فضاء مقاييس المسار. بدلاً من تحسين الهدف العالمي مباشرة، تقوم الخوارزمية بشكل تكراري بحل مسألة فرعية محلية عند الخطوة $k$:
   $$P_{\theta^*_k} = \arg\min_{P_\theta} \left( -E_{P_\theta}[r(X_T)] + KL(P_\theta \| P_{ref}) + \frac{1}{\eta_k} KL(P_\theta \| P_{\theta_{k-1}}) \right)$$
   هنا، $\eta_k$ هو حجم خطوة التقريب، ويعمل حد $KL(P_\theta \| P_{\theta_{k-1}})$ كمنظم يبقي التكرار الحالي قريبًا من التكرار السابق.
3. الخصائص النظرية: يثبت المؤلفون أن الحل الأمثل للخطوة القريبة $k$ هو استيفاء هندسي (geometric interpolation) بين التكرار السابق ومقياس المسار الأمثل. وتحديدًا، يكون التوزيع النهائي للخطوة $k$، وهو $P_k$، عبارة عن استيفاء هندسي بين التوزيع النهائي المرجعي $\nu$ والتوزيع المستهدف $\pi$. ومع اقتراب $k$ من $\infty$، تتقارب متتالية مقاييس المسار نحو $P^*$. تضمن هذه العملية المتدرجة أن يستكشف النموذج فضاء الحالة تدريجيًا، مما يمنع الالتزام المبكر بنمط واحد.
4. التجسيد العملي (Proximal WDCE): من أجل الكفاءة، يقوم المؤلفون بتجسيد PDNS باستخدام هدف الإنتروبي المتقاطع لإزالة الضجيج الموزون القريب (Proximal Weighted Denoising Cross-Entropy). يتجنب هذا النهج تخزين المسارات الكاملة باستخدام أوزان الأهمية المتراكمة عبر الإنترنت (online).
   • الحالة المستمرة: يتضمن الهدف مطابقة درجة إزالة الضجيج (أو الجسر) مع حد وزن مشتق من حجم خطوة التقريب $\eta_k$ ودالة الطاقة.
   • الحالة المنفصلة: يكيف الهدف انتشار الانتشار المنفصل المقنع (masked discrete diffusion)، مستخدمًا مخطط وزن مشابه يعتمد على مشتق رادون-نيكوديم (Radon-Nikodym derivative) لمقاييس المسار.
5. تصميم المجدول (Scheduler Design): يناقش البحث استراتيجيات اختيار حجم الخطوة $\eta_k$ (أو ما يعادلها $\lambda_k$). إن $\eta_k$ الأصغر (تنظيم أقوى) يحافظ على تغطية الأنماط ولكنه يبطئ التقارب، بينما $\eta_k$ الأكبر يخاطر بانهيار النمط. يقترح المؤلفون كلاً من الجداول الزمنية المحددة مسبقًا (تناقص خطي لـ $\lambda_k$) واستراتيجية تكيفية تعدل $\eta_k$ بناءً على قيد منطقة الثقة (trust-region constraint) على تباعد KL بين النموذج الحالي والهدف التالي.

المساهمات الرئيسية

1. إطار عمل موحد: يدمج البحث مُنقّبات الانتشار القائمة على SOC المستمرة والمنفصلة في صياغة واحدة لمقياس المسار.
2. المُنقّب العصبي للانتشار القريب (PDNS): يقدم إطار عمل جديد يستفيد من تكرارات النقطة القريبة في فضاء المسار لاستقرار التعلم والتخفيف من انهيار النمط في البيئات متعددة الأنماط.
3. Proximal WDCE: يشتق المؤلفون تجسيدات ملموسة وفعالة حسابيًا لـ PDNS لكل من المجالات المستمرة والمنفصلة باستخدام خسائر الإنتروبي المتقاطع لإزالة الضجيء الموزون القريب.
4. استراتيجيات المجدول: يحدد المؤلفون استراتيجيات مبدئية لاختيار أحجام الخطوات القريبة، بما في ذلك مجدول تكيفي يوازن بين سرعة التقارب والاستقرار.

النتائج التجريبية
يقيّم المؤلفون PDNS عبر مجموعة واسعة من الاختبارات المعيارية المستمرة والمنفصلة:

• المهام المستمرة:
  • دوال الطاقة الاصطناعية: يتفوق PDNS على النماذج المرجعية القوية (بما في ذلك SMC وDDS وPIS وAS) في الاختبارات متعددة الأنماط مثل جهد 32 بئر (MW54)، والقمع (Funnel)، ومزيج غاوسي عالي الأبعاد (GMM40). ويحقق نتائج هي الأفضل حاليًا (state-of-the-art) في توزيع Student's t-mixture (MoS) وجهود الجسيمات (Lennard-Jones systems LJ-13 وLJ-55).
  • الديناميكا الجزيئية: في نظام Alanine Dipeptide (AD)، يحقق PDNS تباعدات KL مقاربة لطريقة ASBS المتطورة، ويصور بدقة الهياكل التشكيلية في مخططات راماتشاندران (Ramachandran plots).
• المهام المنفصلة:
  • الفيزياء الإحصائية: يتفوق PDNS بشكل كبير على LEAPS وMetropolis-Hastings (MH) في أخذ عينات من نماذج Ising وPotts عند درجات حرارة منخفضة (بالقرب من أو تحت النقاط الحرجة)، حيث يكون انفصال الأنماط شديدًا. ويحقق أخطاء أقل في المغناطيسية وارتباطات النقطتين.
  • التحسين التوافقي: عند تطبيقه على مشكلة الحد الأقصى للقطع (Maximum Cut) في رسوم Barabási–Albert وErdős–Rényi، يظهر PDNS القدرة على الوصول إلى جودة حلول تضاهي الحلول الحقيقية (Gurobi).

الأهمية والادعاءات
يزعم البحث أن PDNS يوفر حلاً قويًا لمشكلة انهيار النمط المتأصلة في تدريب مُنقّبات الانتشار العصبية للتوزيعات المعقدة متعددة الأنماط. ومن خلال تفكيك التحسين العالمي إلى سلسلة من الخطوات القريبة، تعزز الطريقة الاستكشاف الشامل عبر الأنماط وتثبت عملية التحسين في الفضاءات عالية الأبعاد.

يشير المؤلفون إلى محدوديتين رئيسيتين:

1. يركز البحث على تجسيد واحد لـ PDNS (وهو Proximal WDCE)، مما يترك مجالًا لاستكشاف أهداف أو أولويات قريبة أخرى.
2. تُجرى التجارب على اختبارات معيارية محكومة بدلاً من تطبيقات واقعية واسعة النطاق.

تشير الأعمال المستقبلية إلى استكشاف مسائل SOC مع ديناميكيات مرجعية غير قائمة على "عدم الذاكرة"، وتوسيع إطار العمل ليشمل فضاءات حالة أكثر عمومية، وتطوير تجسيدات أخرى للهدف القريب.