ملخص تقني: إطار عمل "سينكهورن" المحلي لإعادة بناء التوزيع الشرطي للحقول العشوائية متعددة الأبعاد

1. بيان المشكلة

يعد تحديد الحقول العشوائية من البيانات الرصدية تحديًا حاسمًا في التكميم غير اليقيني (UQ) والتعلم الآلي العلمي. تخضع العديد من الأنظمة الفيزيائية، مثل تدفق الوسط المسامي والنقل المضطرب، لمعاملات عشوائية تؤدي إلى استجابات عشوائية لا تستطيع النماذج الحتمية توصيفها بشكل كافٍ. الهدف الأساسي ليس مجرد التنبؤ بالمتوقع الشرطي، بل إعادة بناء التوزيع الاحتمالي الشرطي الكامل للحل العشوائي.

على الرغم من أن النماذج التوليدية العميقة (مثل CVAEs وGANs ونماذج الانتشار) أظهرت نتائج واعدة في تعلم التوزيعات المعقدة، إلا أنها غالبًا ما تفشل في الحفاظ على البنية الهندسية للمقاييس الاحتمالية المرتبطة بالحالات الفيزيائية المجاورة. يوفر النقل الأمثل (OT)، وتحديدًا مسافة "واسرستاين" (Wasserstein)، مسافة ذات معنى فيزيائي تظل معلوماتية حتى عندما تكون التوزيعات ذات دعامات منفصلة. ومع ذلك، فإن الحساب الدقيق لمسافات "واسرستاين" يتضمن حل مشكلات برمجة خطية واسعة النطاق، مما يصبح مكلفًا حسابيًا للغاية لتدريب الشبكات العصبية، لا سيما في الإعدادات عالية الأبعاد. قدم العمل السابق للمؤلفين إطار عمل محلي لمسافة $W_2$ المربعة لمعالجة مسألة المحلية، لكن الاعتماد على حسابات OT الدقيقة ظل يمثل عائقًا أمام قابلية التوسع.

2. المنهجية

يقترح المؤلفون إطار عمل تباعد سينكهورن المحلي (Local Sinkhorn Divergence Framework) لتدريب الشبكات العصبية العشوائية (SNNs) لإعادة بناء الحقول العشوائية متعددة الأبعاد. تدمج المنهجية ثلاثة مكونات أساسية:

أ. بنية الشبكة العصبية العشوائية (SNN)

يعتمد النموذج على شبكة عصبية عشوائية حيث يتم أخذ عينات من المعاملات العشوائية (التي تمثل متغير عدم اليقين $\omega$) أثناء الانتشار الأمامي. يسمح هذا للشبكة بتوليد عدة تحققات لنقطة مدخلات واحدة، مما يقرب التوزيع الشرطي $\mu_{\mathbf{x}}$ للحقل العشوائي المستهدف $\mathbf{y}(\mathbf{x}, \omega)$.

ب. مطابقة التوزيع المحلي عبر الجوار

للتعامل مع الطبيعة الشرطية للمشكلة دون معادلات حاكمة صريحة، يستخدم إطار العمل تقنية الجوار. لكل مدخل $\mathbf{x}_i$، يتم تحديد جوار $B(\mathbf{x}_i, \delta)$ بناءً على نصف قطر $\delta$. يتم بناء التوزيعات الشرطية التجريبية من العينات داخل هذا الجوار. تعمل دالة الخسارة على تقليل التفاوت بين التوزيعات التجريبية للحقيقة الأرضية وتنبؤات SNN عبر كامل نطاق المدخلات.

ج. تباعد سينكهورن غير المنحاز (Debiased Sinkhorn Divergence)

بدلاً من مسافة $W_2$ المربعة الدقيقة، يستخدم المؤلفون تباعد سينكهورن غير المنحاز ($S_\varepsilon$):

• التنظيم الإنتروبي: يقدم خوارزمية "سينكهورن" حدًا للتنظيم الإنتروبي ($\varepsilon$) لتكلفة OT، مما يجعل المشكلة قابلة للاشتقاق وقابلة للحل عبر قياس مصفوفة تكراري بدلاً من البرمجة الخطية.
• إزالة الانحياز: لإزالة انحياز الإنتروبيا المتأصل في النقل المنظم (حيث $S_\varepsilon(\mu, \mu) \neq 0$)، يستخدم المؤلفون التعريف التالي:
  $$S_\varepsilon(\mu, \hat{\mu}) = W_\varepsilon^2(\mu, \hat{\mu}) - \frac{1}{2}W_\varepsilon^2(\mu, \mu) - \frac{1}{2}W_\varepsilon^2(\hat{\mu}, \hat{\mu})$$
• دالة الخسارة: دالة الخسارة المقترحة هي متوسط تباعد سينكهورن عبر نطاق المدخلات:
  $$\mathcal{S}_{\varepsilon, \delta}^e(\mathbf{y}_{\mathbf{x}}, \hat{\mathbf{y}}_{\mathbf{x}}) = \int_{\mathcal{D}} S_\varepsilon(\mu_{\mathbf{x}, \delta}^e, \hat{\mu}_{\mathbf{x}, \delta}^e) \nu^e(d\mathbf{x})$$
  حيث $\mu_{\mathbf{x}, \delta}^e$ و $\hat{\mu}_{\mathbf{x}, \delta}^e$ هما مقاييس تجريبية مبنية من عينات الجوار.

د. التحليل النظري

يضع البحث حدود خطأ التعميم للإطار المقترح. يكشف التحليل عن مقايضة يتم التحكم فيها بواسطة معامل التنظيم $\varepsilon$ ونصف قطر الجوار $\delta$:

• مقايضة الانحياز والتباين: الاقتراب من قيمة صغيرة لـ $\varepsilon$ يقترب من مسافة $W_2$ الدقيقة (دقة هندسية عالية) ولكنه يعاني من بطء في التقارب الإحصائي في الأبعاد العالية. أما القيمة الأكبر لـ $\varepsilon$ فتحسن الكفاءة الإحصائية والسرعة الحسابية ولكنها تقدم انحياز تنظيم.
• لعنة الأبعاد: تشير الحدود إلى أن التنظيم الإنتروبي يمكن أن يخفف جزئيًا من لعنة الأبعاد مقارنة بمسافات "واسرستاين" التجريبية، خاصة عندما تتغير التوزيعات الشرطية بسلاسة.

3. المساهمات الرئيسية

1. توسيع إطار العمل: يوسع المؤلفون إطار عمل النقل الأمثل المحلي السابق من مسافة "واسرستاين" الدقيقة إلى تباعد "سينكهورن" غير المنحاز. ينتج عن ذلك طريقة قابلة للاشتقاق بالكامل، وقابلة للتوسع، وفعالة حسابيًا لتدريب الشبكات العصبية العشوائية.
2. الضمانات النظرية: يقدم البحث حدود خطأ تعميم نظرية توضح صراحة المقايضة بين انحياز التقريب والكفاءة الإحصائية. توضح هذه الحدود كيف يؤثر معامل التنظيم على معدل التقارب والقدرة على تخفيف لعنة الأبعاد.
3. التحقق التجريبي: تم التحقق من صحة إطار العمل عبر ثلاثة أمثلة عددية متميزة:
   • توزيع شرطي أحادي البعد: إعادة بناء خليط غاوسي ثنائي المنوال.
   • تدفق دارسي العشوائي (Stochastic Darcy Flow): مشكلة متعددة الأبعاد تتضمن حقول النفاذية والارتباطات المكانية.
   • أنظمة فِيتز-هوغ-ناغلو (FHN) العشوائية: شبكة من المذبذبات غير الخطية العشوائية المقترنة.

4. النتائج

أظهرت التجارب العددية أن إطار عمل "سينكهورن" المحلي يحقق توازنًا متفوقًا بين دقة إعادة البناء والكفاءة الحسابية:

• الدقة: في المثال أحادي البعد، تفوقت خسارة "سينكهورن" المحلية على خسائر الانحدار النقطي (MSE, MAE) وغيرها من الخسائر القائمة على التوزيع (Energy Distance, MMD, local $W_2$) في إعادة بناء كل من المتوسطات والتباينات الشرطية.
• الكفاءة: في اختبار تدفق دارسي العشوائي، حققت شبكة SNN القائمة على "سينكهورن" أدنى أخطاء المتوسط والتباين بين جميع الطرق المختبرة (بما في ذلك Heteroscedastic Gaussian Regression, MDN, CVAE, CNF). والأهم من ذلك، أنها قللت وقت التدريب بشكل كبير مقارنة بنهج $W_2$ المربع المحلي (308 ثانية مقابل 500 ثانية) مع الحفاظ على دقة مماثلة أو أفضل.
• الأنظمة الديناميكية: بالنسبة لنظام FHN العشوائي، نجحت الطريقة في إعادة بناء كل من مكونات الانجراف الحتمي والانتشار العشوائي للديناميكيات. أظهر نهج "سينكهورن" أخطاء أقل في دوال الانجراف والانتشار المتعلمة مقارنة بمرجع $W_2$ المحلي، مع انخفاض طفيف في وقت التدريب.
• المتانة: أشارت تحليلات الحساسية إلى أن الطريقة تظل مستقرة تحت مستويات ضوضاء متغيرة، وأن نصف قطر جوار ومعامل تنظيم متوسطين يوفران المقايضة المثلى بين انحياز التقريب والخطأ الإحصائي.

5. الأهمية والادعاءات

يزعم البحث أن إطار عمل "سينكهورن" المحلي المقترح يقدم تسوية عملية بين الدقة الهندسية، والكفاءة الإحصائية، وقابلية التوسع الحسابية للتكميم غير اليقيني.

• قابلية التوسع: من خلال استبدال حسابات OT الدقيقة بتباعد "سينكهورن"، تتغلب الطريقة على العائق الحسابي الذي كان يحد سابقًا من تطبيق النقل الأمثل المحلي للأنظمة العشوائية متعددة الأبعاد.
• الدقة الهندسية: على عكس الطرق القائمة على النواة (مثل MMD) أو النماذج القائمة على الاحتمالية التي قد تعاني مع الدعامات المنفصلة أو الهندسات المعقدة، يحافظ تباعد "سينكهورن" على البنية الهندسية للمقاييس الاحتمالية الأساسية.
• الرؤية النظرية: توفر حدود الخطأ المستمدة تبريرًا نظريًا لاستخدام التنظيم الإنتروبي في تعلم الحقول العشوائية عالية الأبعاد، مما يشير إلى أن الضبط المناسب لـ $\varepsilon$ يمكن أن يخفف من لعنة الأبعاد.
• القابلية العامة للتطبيق: يُقدم إطار العمل كأداة متعددة الاستخدامات للتعلم الآلي العلمي الاحتمالي، قادرة على التعامل مع المعادلات التفاضلية الجزئية العشوائية والأنظمة الديناميكية المعقدة حيث تتوفر فقط ملاحظات متفرقة.

يخلص المؤلفون إلى أن استغلال الجوارات المحلية باستخدام خسائر OT يعد أكثر أهمية للأداء من زيادة تعقيد المولد الشرطي، وأن نهج "سينكهورن" المحلي يستغل هذه الرؤية بفعالية ليتفوق على المعايير المرجعية للتعلم الآلي في التكميم غير اليقيني.