🤖 machine learning

Predict-Project-Renoise: Sampling Diffusion Models under Hard Constraints

تقدم هذه الورقة خوارزمية التنبؤ-الإسقاط-إعادة الضجيج (PPR)، التي تمكن نماذج الانتشار سابقة التدريب من أخذ عينات من توزيعات تستوفي قيوداً فيزيائية صارمة —مثل قوانين الحفظ والشروط الحدية— من خلال الإسقاط المتكرر عبر المزالة للضجيج وإعادة إضافة الضجيج، مما يحقق كلاً من انخفاض انتهاكات القيود والدقة التوزيعية العالية في التطبيقات العلمية المعقدة مثل التنبؤ بالطقس.

المؤلفون الأصليون: Omer Rochman-Sharabi, Gilles Louppe

نُشر 2026-05-14

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Omer Rochman-Sharabi, Gilles Louppe

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث "Predict-Project-Renoise: Sampling Diffusion Models under Hard Constraints" مترجماً إلى لغة يومية بسيطة مع استخدام تشبيهات إبداعية.

المشكلة الكبرى: الفنان "المثالي" مقابل المهندس المعماري "الصارم"

تخيل أن لديك فناناً عبقرياً وشهيراً عالمياً (نموذج الانتشار - Diffusion Model) يمكنه رسم مناظر طبيعية واقعية للغاية. تطلب منه رسم غابة، فيقوم بعمل رائع؛ الأشجار تبدو حقيقية، الضوء مثالي، والألوان نابضة بالحياة.

ومع ذلك، أنت أيضاً مهندس معماري لديك كتاب قواعد صارم. تقول للفنان: "يجب أن تكون لوحتك غابة، ولكن يجب أيضاً أن تخضع لقانون الجاذبية. لا أريد أشجاراً عائمة. وأيضاً، يجب أن يتدفق النهر تماماً حيث حدد المساح مساره. إذا لم يحدث ذلك، فاللوحة لا قيمة لها."

الفنان بارع في جعل الأشياء تبدو واقعية، لكنه لا يتبع قواعدك الرياضية الصارمة بشكل طبيعي. إذا طلبت منه فقط أن "يحاول بجهد أكبر"، فقد يرسم شجرة تبدو حقيقية ولكنها عائمة في الهواء، أو نهراً يتدفق للأعلى.

في العالم العلمي (مثل التنبؤ بالطقس أو ديناميكا السوائل)، نحتاج إلى ذكاء اصطناعي يولد بيانات تكون واقعية (تبدو مثل البيانات الحقيقية) و تلتزم بصرامة بالقوانين الفيزيائية (مثل حفظ الطاقة أو الشروط الحدودية). الطرق الموجودة حالياً تفشل غالباً في أحد الأمرين:

إما تجعل الشيء يبدو واقعياً، لكنها تكسر قوانين الفيزياء.
أو تجبر القوانين على أن تُطاع، لكن النتيجة تكون فوضوية ومكسرة وغير متناسقة.

الحل: خوارزمية "التنبؤ-الإسقاط-إعادة الضجيج" (PPR)

ابتكر مؤلفو هذه الورقة رقصة جديدة مكونة من ثلاث خطوات تسمى Predict-Project-Renoise (PPR) لإصلاح هذا الأمر. فكر في الأمر كطريقة لتوجيه الفنان دون إفساد أسلوبه الفني.

إليك كيف تعمل الخطوات الثلاث باستخدام تشبيه النحات وكرة الطين:

1. التنبؤ (غريزة الفنان) - Predict

أولاً، يأخذ الذكاء الاصطناعي كرة طين مشوشة وضبابية، ويستخدم تدريبه لتخمين الشكل الذي يجب أن يكون عليه المنحوت النهائي. إنه "يتنبأ" بالشكل.

في الورقة البحثية: يأخذ النموذج صورة مشوشة ويستخدم "مزيل الضجيج" (denoiser) الخاص به لتخمين الصورة النظيفة.
المشكلة: هذا التخمين عادة ما يكون جميلاً، ولكنه على الأرجح ينتهك قواعدك الصارمة (مثلاً: المنحوتة عائمة في الهواء).

2. الإسقاط (تصحيح المهندس المعماري) - Project

بعد ذلك، تأخذ هذا التخمين الجميل وتجبره على التوافق مع القواعد. تضغط على الطين لكي يستقر بثبات على الطاولة، أو تنحت الأجزاء العائمة.

في الورقة البحثية: هذه هي خطوة "الإسقاط" (Project). تقوم الخوارزمية رياضياً بدفع الصورة نحو مجموعة الحلول الصالحة.
العقبة: إذا أجبرت الطين فقط ليتخذ الشكل الصحيح، فقد تضغطه بقوة شديدة تجعله يفقد جماله الفني. قد يصبح كتلة مسطحة وغريبة تتبع القواعد تقنياً، لكنها لا تشبه المنحوتة الحقيقية في شيء. هذا هو المكان الذي تفشل فيه معظم الطرق الأخرى.

3. إعادة الضجيج (السحر السري) - Renoise

هذا هو السر في ورقة البحث. بعد أن تجبر الطين على اتخاذ الشكل الصحيح، لا تتركه كما هو فحسب. بل تهز الطاولة بلطف وتضيف القليل من "الضجيج" (العشوائية) مرة أخرى إلى الطين.

لماذا؟ هذا يسمح للطين بأن "يسترخي" ويجد شكلاً جديداً يكون فيه كلاً من (على الطاولة - أي يتبع القواعد) و (لا يزال يبدو كمنحوتة - أي يتبع تدريب الفنان).
الحلقة: تكرر هذه الدورة (تنبؤ -> إسقاط -> إعادة ضجيج) عدة مرات. وفي كل مرة، يقترب المنحوت من أن يكون مثالياً: يتبع القواعد، ومع ذلك لا يزال يبدو كتحفة فنية.

لماذا تعمل هذه الطريقة بشكل أفضل من غيرها؟

تجادل الورقة بأن الطرق السابقة حاولت تخطي بعض الخطوات أو القيام بها بترتيب خاطئ.

خطأ "الدفع المباشر": تحاول بعض الطرق مجرد دفع الصورة النهائية لتناسب القواعد. هذا يشبه محاولة إدخال وتد مربع في ثقب مستدير. النتيجة غالباً ما تكون فوضى مكسرة ومتعرجة لا تبدو كبيانات حقيقية بعد الآن.
ميزة "PPR": من خلال "الإسقاط عبر مزيل الضجيج"، تتحقق الخوارزمية من القواعد بينما لا يزال الذكاء الاصطناعي في عملية تخيل الصورة. إنه يشبه سؤال النحات: "هل هذا الجزء عائم؟" بينما لا يزال يشكل الطين، بدلاً من الانتظار حتى يجف الطين ويصبح صلباً.
ضرورة "إعادة الضجيج": تثبت الورقة أنه إذا لم تضف الضجيج مرة أخرى (Renoise)، فإن العملية ستتعثر. إنه يشبه محاولة إيجاد الموقع المثالي على الخريطة بالتحرك للأمام فقط؛ أنت بحاجة للقدرة على التمايل ذهاباً وإياباً لتجد الموقع الصحيح بالضبط.

النتائج: اختبارات من العالم الحقيقي

اختبر المؤلفون هذه الطريقة على ثلاثة تحديات مختلفة تماماً:

الأشكال ثنائية الأبعاد (DATA2D): أنماط بسيطة ثنائية الأبعاد. أظهروا أن PPR يمكنه إنشاء أشكال تتوافق مع منحنيات رياضية صارمة بدقة مع الحفاظ على شكل الأنماط الأصلية.
ديناميكا السوائل (Kuramoto-Sivashinsky): هذه معادلة معقدة تصف كيفية حركة السوائل ودورانها. أنتجت PPR محاكاة للسوائل لم تكن تبدو صحيحة فحسب، بل إنها في الواقع التزمت بمعادلات الفيزياء دون خلق "أخطاء تقنية" (مثل القفزات المستحيلة المفاجئة في الماء).
الطقس العالمي (Appa): استخدموا نموذج طقس ضخم (108 مليون متغير!). طلبوا من الذكاء الاصطناعي التنبؤ بالطقس ليوم معين بناءً على الملاحظات.
- النتيجة: أنتجت PPR توقعات جوية أكثر دقة واتبعت القوانين الفيزيائية للغلاف الجوي بشكل أفضل من أي طريقة أخرى. الطرق الأخرى أنتجت خرائط طقس كانت إما مستحيلة فيزيائياً أو خاطئة تماماً.

الخلاصة

تدعي الورقة أن Predict-Project-Renoise هي أول طريقة تنجح في تعليم الذكاء الاصطناعي كيف يكون "متبعاً للقواعد" دون أن يتحول إلى "روبوت" يفقد إبداعه.

التنبؤ (Predict): اترك الذكاء الاصطناي يخمن.
الإسقاط (Project): صحح التخمين بلطف ليتوافق مع القواعد.
إعادة الضجيج (Renoise): أضف القليل من الفوضى مرة أخرى لكي يجد الذكاء الاصطناعي النسخة الأفضل من التخمين الذي يتبع القواعد.

من خلال القيام بذلك بشكل متكرر، يتعلم الذكاء الاصطناعي توليد بيانات متوافقة بنسبة 100% مع القوانين العلمية الصارمة بينما تبدو أيضاً واقعية بنسبة 100%.

ملخص تقني: التنبؤ-الإسقاط-إعادة الضجيج (PPR)

بيان المشكلة

أثبتت نماذج الانتشار (Diffusion models) مكانتها كأطر عمل متطورة للنمذجة التوليدية العميقة، حيث تقوم بتقريب توزيعات البيانات عالية الأبعاد $p(x)$ بفعالية. ومع ذلك، في المجالات العلمية والهندسية مثل ديناميكا السوائل، والتصوير الطبي، ونمذجة المناخ، لا يكفي توليد عينات تقرب التوزيع $p$ فحسب. تتطلب هذه التطبيقات عينات $x$ تستوفي قيوداً صارمة $x \in C$ ، مثل قوانين الحفظ الدقيقة، أو الشروط الحدية، أو الاتساق مع الملاحظات، أو تباعد صفري في التدفقات غير القابلة للانضغاط.

تواجه الأساليب الحالية لأخذ العينات المقيدة قيوداً كبيرة:

الأساليب القائمة على التدريب: غالباً ما تفتقر إلى المرونة، وتتطلب إعادة تدريب للقيود المختلفة، وعادة ما تفرض القيود بشكل ناعم (softly) فقط.
أساليب التفكيك البايزي (Bayesian decomposition): (التي تعامل القيود كأرصاد مشوبة بالضجيج) لا تناسب القيود الصارمة لأن الاحتمالية الضمنية تقترب من دالة ديراك دلتا (Dirac delta). يتسبب هذا في جعل التدرجات غير مستقرة ومعلوماتية فقط في الجوار المباشر للمجموعة الممكنة.
الأساليب القائمة على الإسقاط (Projection-based): يمكنها فرض الإمكانية صراحةً، لكنها تعاني من عثرات نظرية وعملية. فهي غالباً ما تفشل في أخذ عينات من التوزيع المقيد الحقيقي، مما يؤدي إلى ثلاثة إخفاقات محددة: (i) انتهاكات القيود، (ii) توزيعات مقيدة غير صحيحة، و(iii) وقوع العينات خارج النطاق $S$ لتوزيع البيانات الأصلي (على سبيل المثال، إدخال عدم استمرارية في البيانات المستمرة). علاوة على ذلك، فإن الإسقاط المباشر للحالات المشوبة بالضجيج غالباً ما يكون غير محدد جيداً (ill-posed)، ويمكن لخطوات الإسقاط المتكررة أن تسبب انحيازاً منهجياً لأخذ العينات، مما يؤدي إلى انهيار النمط (mode collapse).

المنهجية: التنبؤ-الإسقاط-إعادة الضجيج (PPR)

يقترح المؤلفون أن أخذ العينات المقيد الصحيح يتطلب تقريب التوزيعات الهامشية المقيدة $p^C_t$ الناتجة عن معادلة تفاضلية عشوائية (SDE) للانتشار الأمامي تبدأ من المجموعة المقيدة $C$ .

الأساس النظري

يعرف البحث عملية انتشار أمامية حيث يتم سحب الحالة الأولية $x_0$ من $p^C(x_0) \propto p(x_0)\mathbb{1}_C(x_0)$ . وهذا يستحث سلسلة من الهوامش المقيدة $\{p^C_t\}$ . تتضمن العملية العكسية المقابلة دالة درجة (score function) مقيدة:
$\nabla_{x_t} \log p^C_t(x_t) = \nabla_{x_t} \log p_t(x_t) + \nabla_{x_t} \log P(x_0 \in C | x_t)$
يمثل الحد الثاني تدرج لوغاريتم الإمكانية، وهو يشير نحو المناطق التي يكون فيها العينة النظيفة $x_0$ مرجحة بأن تكون ممكنة (feasible).

خوارزمية PPR

لأخذ عينات من هذه الهوامش المقيدة دون إعادة تدريب، حدد المؤلفون نواة مصححة $K_t$ يكون توزيعها المستقر الفريد هو $p^C_t$ . ولأن أخذ العينات من التوزيع البعدي المقيد الدقيق أمر مستعصٍ، فقد قاموا بتقريب هذه النواة باستخدام عملية تكرارية من ثلاث خطوات عند كل خطوة انتشار عكسي:

التنبؤ (Predict): استخدم متنبئاً قياسياً (مثل DDIM) للانتقال من $x_{t+1}$ إلى $x_t$ .
الإسقاط (Project): بدلاً من إسقاط الحالة المشوبة بالضجيج $x_t$ أو التقدير منزوع الضجيج $d_\theta(x_t)$ مباشرة، يقوم PPR بالإسقاط من خلال منزوع الضجيج (denoiser). فهو يحل مسألة تحسين لإيجاد حالة مشوبة بالضجيج $x^*_t$ بحيث يحقق الناتج منزوع الضجيج القيد:
$x^*_t = \arg \min_{x} c(d_\theta(x))$
يضمن هذا بقاء التقدير النظيف المسقط $d_\theta(x^*_t)$ على منوع البيانات (data manifold) $S$ ، مما يتجنب العيوب مثل عدم الاستمرارية.
إعادة الضجيج (Renoise): يتم إعادة ضجيج التقدير المنزوع من الضجيج والممكن $d_\theta(x^*_t)$ عبر نواة الانتشار الأمامي للحصول على عينة جديدة $x'_t$ عند مستوى الضجيج الحالي $t$ .

تتكرر متوالية التنبؤ-الإسقاط-إعادة الضجيج هذه $M$ من المرات عند كل خطوة انتشار. وتعد خطوة إعادة الضجيج حاسمة لأنها تستعيد مستوى الضجيج الصحيح وتضخ العشوائية المطلوبة للاختلاط (mixing)، مما يمنع أخذ العينات من الانهيار إلى نقاط ثابتة.

المساهمات الرئيسية

صياغة الانتشار الأمامي/العكسي المقيد: يحدد البحث عملية الانتشار الأمامي المقيدة ويستنتج العملية العكسية المرتبطة بها ودالة الدرجة الخاصة بها، مع تحديد نواة مصححة ذات التوزيع الهامشي المقيد كالتوزيع المستقر الوحيد لها.
خوارزمية PPR: خوارزمية لأخذ العينات خالية من التدريب تقرب النواة المصححة من خلال الإسقاط المتكرر عبر منزوع الضجيج وإعادة الضجيج.
ضرورة المكونات: يوضح المؤلفون أن جميع المكونات الثلاثة (التنبؤ، والإسقاط من خلال منزوع الضجيج، وإعادة الضجيج) ضرورية. حيث يؤدي إزالة أي منها إلى تدهور كبير في الأداء، أو زيادة انتهاكات القيود، أو وقوع العينات خارج نطاق البيانات.
حدود الخطأ النظرية: يقدم البحث تحليلاً لخطأ التقريب، موضحاً أنه يتفكك إلى حد اختلاط (يتلاشى أسياً مع عدد التكرارات $M$ ) وانحياز غير قابل للاختزال ناتج عن تقريب التقدير النقطي.

النتائج التجريبية

تم تقييم الطريقة في ثلاث إعدادات متميزة:

DATA2D: توزيعات ثنائية الأبعاد (لوحة الشطرنج ومزيج غاوسي) مع قيود عشوائية.
Kuramoto-Sivashinsky (KS): معادلة تفاضلية جزئية أحادية البعد لنمذجة الاضطراب، تم اختبارها على مسارات مكونة من 128 بُعداً.
WEATHER: التنبؤ العالمي بالطقس باستخدام نموذج Appa الكامن للطقس (حالة غلاف جوي مكونة من 108 بُعداً).

مقاييس الأداء:

الإمكانية (Feasibility): حققت PPR معدل إمكانية (عينات تحقق $c(x) \le \epsilon$ ) بنسبة 82.7% على مجموعة بيانات KS و 79.0% على DATA2D. في المقابل، حققت أفضل الطرق الأخرى معدلات إمكانية بلغت حوالي 1% (KS) و 31% (DATA2D).
انتهاك القيود: أظهرت PPR باستمرار أدنى مستويات انتهاك القيود عبر جميع مجموعات البيانات.
الدقة التوزيعية: أنتجت PPR عينات ظلت ضمن نطاق البيانات $S$ (تحافظ على الاستمرارية والانتظام)، بينما أنتجت العديد من الطرق المرجعية (مثل CPS و PDM و HDC) عينات غير مستمرة وقعت خارج منوع البيانات.
الدقة: في مهام KS والطقس، حققت PPR قيم RMSE أقل، ودرجات مهارة (Skill scores) أفضل، وCRPS (درجة الاحتمال المستمر المرتبة) أقل مقارنة بالنماذج المرجعية مثل DPS و MMPS و Trust Sampling (TS).

الأهمية والادعاءات

يزعم البحث أن PPR يعالج بنجاح التحدي طويل الأمد المتمثل في أخذ عينات من نماذج الانتشار تحت قيود صارمة دون إعادة تدريب. تكمن أهميته الأساسية في قدرته على تحقيق انتهاكات منخفضة للقيود ودقة توزيعية عالية في آن واحد، وهو مزيج تفشل في تقديمه الأساليب الموجودة.

يؤكد المؤلفون أن PPR يقدم مقايضة ذات معنى بين التكلفة الحسابية وجودة العينات: حيث يؤدي زيادة عدد تطبيقات النواة ( $M$ ) باستمرار إلى تحسين تقريب التوزيع المقيد. علاوة على ذلك، من خلال الإسقاط عبر منزوع الضجيج، تضمن الطريقة بقاء العينات متسقة مع منوع البيانات المتعلم، مما يتجنب العيوب (مثل عدم الاستمرارية) الشائعة في طرق الإسقاط في فضاء $x_0$ .

يخلص العمل إلى أن PPR يمثل حلاً قوياً وخالياً من التدريب للتطبيقات العلمية التي تتطلب التزاماً دقيقاً بالقوانين الفيزيائية أو البيانات الرصدية، رغم ملاحظته لبعض القيود المتعلقة بالقيود غير القابلة للتفاضل أو المنفصلة.