🤖 machine learning

Conservative Flows: A New Paradigm of Generative Models

تقدم هذه الورقة البحثية "التدفقات المحافظة" (Conservative Flows)، وهو نموذج توليدي جديد يحسن النماذج القائمة على التدفق من خلال إجراء ديناميكيات عشوائية منفصلة تبدأ من حالات مدعومة بالبيانات بدلاً من الضجيج، وذلك باستخدام آليات أخذ عينات تحافظ على الاحتمالية لتعزيز جودة التوليد باستمرار عبر مختلف مجموعات البيانات.

المؤلفون الأصليون: Eshed Gal, Md Shahriar Rahim Siddiqui, Moshe Eliasof, Eldad Haber

نُشر 2026-05-11

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Eshed Gal, Md Shahriar Rahim Siddiqui, Moshe Eliasof, Eldad Haber

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول إنشاء صورة جديدة وواقعية لزهرة.

الطريقة القديمة (من الضجيج إلى البيانات):
فكر في الطرق الشائعة حالياً (مثل مولدات الصور بالذكاء الاصطناعي التقليدية) على أنها تبدأ بوعاء من "الثلج التلفزيوني" النقي (الضجيج العشوائي). يتعين على الذكاء الاصطناعي تعلم خريطة ضخمة ومعقدة لتوجيه ذلك الثلج الفوضوي عبر عاصفة، وتحويله خطوة بخطوة حتى يصبح زهرة مثالية. الأمر يشبه محاولة نحت تمثال من خلال البدء بكومة من الرمل والأمل في تشكيل أسد منها.

الطريقة الجديدة (التدفقات المحافظة):
تقترح هذه الورقة البحثية نهجاً مختلفاً يسمى "التدفقات المحافظة" (Conservative Flows). بدلاً من البدء بالضجيج، تخيل أنه قد تم إعطاؤك زهرة حقيقية ومثالية لتبدأ بها. هدفك ليس بناء زهرة من الصفر؛ بل هو أخذ تلك الزهرة الحقيقية، وتحريكها قليلاً، أو تغيير زاويتها، أو استبدال بعض بتلاتها بشكل طفيف، ولكن مع ضمان بقائها زهرة صالحة طوال الوقت.

يسمي المؤلفون هذا تحولاً من "النقل" (من الضجيج إلى البيانات) إلى "الثبات" (البقاء داخل نطاق البيانات).

إليك كيف تعمل طريقتان جديدتان باستخدام تشبيهات بسيطة:

1. "المشي المصحح بـ ميتروبوليس" (dMALA)

تخيل أنك تسير على مسار جبلي ضيق ومتعرج (توزيع البيانات). تريد اتخاذ خطوة لرؤية مشهد جديد، ولكن يجب أن تظل على المسار.

المشكلة: إذا اتخذت خطوة عشوائية للأمام فقط (كما يفعل الذكاء الاصطناعي القياسي)، فقد تخرج عن المسار عن طريق الخطأ وتتردى من المنحدر. تقول الرياضيات إنك يجب أن تبقى على المسار، ولكن لأنك تتخذ خطوات في شكل "كتل" (التقطيع)، فإنك تنحرف عنه.
الحل: يضيف المؤلفون "فحص سلامة". أنت تأخذ خطوة، ثم تسأل: "هل بقيت على المسار؟"
- إذا كانت الإجابة نعم، فاستمر في الخطوة.
- إذا كانت الإجابة لا، فعد إلى المكان الذي كنت فيه.
النتيجة: يمكنك التجول حول الجبل بحرية، واستكشاف مناظر جديدة، ولكن هناك ضمان رياضي بأنك لن تسقط أبداً من الحافة. أنت تقف دائماً على زهرة صالحة، وإن كانت مختلفة قليلاً عن السابقة.

2. "التدفق المصحح بالتنبؤ"

تخيل أنك تمسك بزهرة حقيقية، ولكنك تريد رؤية كيف ستبدو إذا كانت ضبابية قليلاً أو مشوهة، ثم تعيدها إلى حالة الوضوح المثالية.

الخطوة 1 (المتنبئ): أنت تضيف عمداً القليل من الضبابية أو الضجيج إلى زهرتك. لم تعد حادة تماماً، لكنها لا تزال قابلة للتمييز.
الخطوة 2 (المصحح): تستخدم "عدسة سحرية" مدربة مسبقاً (نموذج تدفق تعلمه الذكاء الاصطناعي بالفعل) لإصلاح الضبابية فوراً وإعادة الزهرة إلى حالة حادة ومثالية.
النتيجة: بما أن "العدسة السحرية" قد تم تدريبها لإصلاح هذا النوع من الضبابية تحديداً، فإن الزهرة ستعود لتصبح زهرة صالحة. يمكنك القيام بذلك مراراً وتكراراً، مما يجعل الزهرة تبدو مختلفة في كل مرة، لكنها لا تتحول أبداً إلى صخرة أو سحابة.

لماذا يعد هذا أمراً هاماً؟

تدعي الورقة ثلاث فوائد رئيسية:

لا يوجد وقت "للتحمية" (Burn-in): غالباً ما تبدأ الطرق القديمة بضجيج عشوائي وتستغرق وقتاً طويلاً "للإحماء" قبل إنتاج أي شيء جيد. هذه الطريقة تبدأ بزهرة حقيقية (أو صورة مسترجعة)، لذا فهي تكون جيدة فوراً.
جودة أفضل: لأن الذكاء الاصطناعي لا يغادر أبداً منطقة "الزهرة الصالحة"، فإن الصور التي ينتجها غالباً ما تكون أكثر حدة وواقعية (درجات FID أقل) من طرق "الضجيج إلى البيانات" القديمة.
إعادة استخدام النماذج القديمة: لا تحتاج إلى تدريب ذكاء اصطناعي جديد من الصفر. يمكنك أخذ نموذج ذكاء اصطناعي قوي وموجود بالفعل (مثل SoFlow أو SiT) ومجرد توصيل قواعد "التحريك" هذه فوقه. الأمر يشبه أخذ سيارة قياسية وإضافة نظام GPS جديد وأكثر ذكاءً يبقيها على الطريق.

الخلاية

المؤلفون لا يقولون إن هذه هي الطريقة الوحيدة لصنع الفن بالذكاء الاصطناعي. هم يقولون: إذا كان لديك بالفعل صورة جيدة، فلماذا تبدأ من الصفر باستخدام الضجيج؟ بدلاً من ذلك، ابدأ بالصورة الجيدة، وحركها حول باستخدام قواعدهم الجديدة، وستحصل على نسخة متجددة وعالية الجودة تضمن أنها تبدو حقيقية.

لقد اختبروا ذلك على أشكال اصطناعية (مثل لفافة سويس Swiss roll)، وزهور، وآلاف الصور من ImageNet، ووجدوا أن طرق "التحريك" الخاصة بهم تنتج باستمرار نتائج أفضل من طرق "الضجيج إلى الصورة" القياسية.

ملخص تقني: التدفقات المحافظة (Conservative Flows)

بيان المشكلة

تتحدد النمذجة التوليدية الحديثة بشكل أساسي من خلال نموذج النقل (transport): تعلم رسم خرائط من توزيع مرجعي بسيط (عادةً ضجيج غاوسي) إلى توزيع بيانات معقد. وبينما حققت نماذج الانتشار القائمة على الدرجات (score-based) والتدفق (flow-based) نتائج رائدة من خلال عكس عملية إضافة الضجيج الأمامية، فإن هذا النهج يتطلب بطبيعته تعلم خريطة نقل عالمية عبر عائلة من التوزيعات الوسيطة.

يحدد المؤلفون قصورًا جوهريًا في التقطيع (discretization) للديناميكيات المستمرة زمنيًا المستخدمة في هذه النماذج. وتحديدًا، بينما تحافظ ديناميكيات لانجفان (Langevin dynamics) المستمرة زمنيًا نظريًا على توزيع البيانات المستهدف $p$ كإجراء ثابت (invariant measure)، فإن تقريباتها الصريحة في الزمن المنفصل (مثل خوارزمية لانجفان غير المعدلة، ULA) تفشل في القيام بذلك بدقة. ويتسبب خطأ التقطيع في انحراف العينات المولدة بعيدًا عن مجمع البيانات (data manifold) الحقيقي بمرور الوقت، مما يكسر شرط بقاء عملية التوليد ضمن توزيع البيانات في كل خطوة.

علاوة على على ذلك، يرى المؤلفون أنه في العديد من الإعدادات العملية — مثل أنظمة الاسترجاع المعززة أو خطوط أنابيب التوليد الكامنة — لا يبدأ التوليد بالضرورة من حالة ضجيج "خالية من المعلومات". بدلاً من ذلك، غالبًا ما توجد حالات أولية صالحة في شكل نقاط بيانات مسترجعة، أو جيران أقرب، أو رموز كامنة تقع بالفعل بالقرب من أو على توزيع الهدف. ويطرح البحث فكرة أن هذه السيناريوهات تتطلب تحولًا في النموذج من النقل (من الضجيج إلى البيانات) إلى الثبات (من البيانات إلى البيانات) كنهج أكثر طبيعية وكفاءة.

المنهجية

يقترح البحث إطار عمل التدفقات المحافظة (Conservative Flows)، حيث يتم إجراء التوليد عبر ديناميكيات عشوائية منفصلة تترك توزيع البيانات ثابتًا. يتم بدء النظام من حالات مدعومة بالبيانات ( $x_0 \sim p$ ) ويتطور مع الحفاظ على القانون الاحتمالي في كل خطوة ( $x_j \sim p$ لكل $j \ge 1$ ).

يقدم إطار العمل آليتين مختلفتين لأخذ العينات المحافظة على الاحتمال يمكنهما العمل مباشرة فوق نماذج مطابقة التدفق (flow-matching) المدربة مسبقًا دون الحاجة لإعادة التدريب:

1. ديناميكيات لانجفان المصححة (dMALA)

تعدل هذه الطريقة خوارزمية لانجفان المعدلة بـ ميتروبوليس-هستينغز (MALA) لتناسب النمذجة التوليدية حيث يكون الكثافة الصريحة $p(x)$ غير متاحة.

الآلية: تستخدم مجال درجات متعلم $s_\theta$ أو، بشكل أكثر عملية، منظف ضجيج (denoiser) $D_\sigma$ مدرب للتنبؤ بالعينات النظيفة من الملاحظات المشوبة بالضجيج. ويتم اشتقاق منظف الضجيج مباشرة من الجسر (bridge) المستخدم في تدريب مطابقة التدفق.
التصحيح: لاستعادة الثبات، تستخدم الطريقة تصحيح ميتروبوليس-هستينغز. وبدلاً من اشتراط فرق لوغاريتم الكثافة $\log p(y) - \log p(x)$ غير المعروف، تستخدم الطريقة التكامل الخطي لمجال الدرجات المحافظ (أو متبقي منظف الضجيج) على طول المسار بين الحالة الحالية $x$ والمقترح $y$ .
هدف الثبات: تحافظ هذه الآلية على توزيع ممهد غاوسيًا $p_\sigma = p * \mathcal{N}(0, \sigma^2 I)$ ، حيث يتم تحديد $\sigma$ بواسطة مستوى الضجيج في منظف الضجيج.
الكفاءة: من خلال تقريب التكامل الخطي باستخدام قاعدة شبه المنحرف، تتبسط نسبة القبول لتصبح دالة لمربعات متبقيات منظف الضجيج، مما يتطلب تقييمين فقط لمنظف الضجيج في كل خطوة.

2. المتنبئ–المصحح (Predictor–Corrector Flow)

تستهدف هذه الطريقة توزيع البيانات الأصلي $p$ مباشرة، بدلاً من نسخة ممهدة منه.

الآلية: تعمل كعملية من خطوتين:
1. المتنبئ: يتم إضافة كمية محكومة من الضجيج إلى العينة الحالية $x \sim p$ ، مما ينقلها إلى توزيع "جسر" وسيط $p_\tau$ (حيث $\tau < 1$ ).
2. المصحح: يتم تطبيق خريطة تدفق متعلمة (أو خريطة حل مباشرة) لنقل العينة المشوبة بالضجيج عائدة إلى توزيع البيانات $p$ (عند الزمن $t=1$ ).
الثبات: تحت نموذج تدفق دقيق، يكون هذا النواة (kernel) حافظًا للاحتمال بشكل صارم. تعتمد الطريقة على قدرة نموذج التدفق على رسم خرائط العينات من الجسر عائدة إلى مجمع البيانات.
المرونة: على عكس الطبيعة المحلية للقبول/الرفض في dMALA، يسمح هذا النهج بتحركات أكبر وغير محلية عبر الانتقال مؤقتًا خارج المجمع ثم العودة عبر التدفق المتعلم.

المساهمات الرئيسية

تحول في النموذج: يعيد البحث صياغة النمذجة التوليدية من "نقل من الضجيج" إلى "سبر مستقر لتوزيع البيانات". الكائن المركزي هو ديناميكيات عشوائية تحافظ على القانون ذي الصلة، وتبدأ من حالات مدعومة بالبيانات.
آليتان للحفاظ على الاحتمال: طور المؤلفون آليتين محددتين لأخذ العينات (dMALA و Predictor–Corrector) تصححان أخطاء التقطيع في ديناميكيات لانجفان القياسية وتوليد التدفق.
إعادة استخدام النماذج المدربة مسبقًا: مساهمة عملية حاسمة هي أن أيًا من الآليتين لا يتطلب تدريب نموذج توليدي جديد من الصفر. يمكن لكليهما استخراج الدرجة أو منظف الضجيج أو خريطة التدفق اللازمة مباشرة من نقاط فحص مطابقة التدفق المدربة مسبقًا (مثل SoFlow و SiT).
التصحيح النظري: يعالج البحث صراحةً فشل ديناميكيات لانجفان المنفصلة في الحفاظ على القانون المستهدف ويوفر الاشتقاق الرياضي لتصحيحه عبر التكامل الخطي وتدفقات الجسر.

النتائج التجريبية

تم التحقق من صحة إطار العمل على هدف "سويس رول" (Swiss-roll) اصطناعي، وImageNet-256، وOxford Flowers-102.

الهدف الاصطناعي (Swiss-roll): أظهرت التجارب أنه بينما تنحرف ULA القياسية بعيدًا عن توزيع الهدف، تظل الديناميكيات المصححة (dMALA) وتدفق المتنبئ–المصحح على المجمع الصحيح، مما يحافظ على التوزيع عبر سلاسل طويلة.
ImageNet-256:
- حسنت كلتا الطريقتين باستمرار من أداء أخذ العينات الأساسي للنماذج الخلفية (backbones) المدربة مسبقةًا (SoFlow-XL/2-cond و SiT-REPA-XL).
- حققت dMALA أدنى درجات مسافة فريدت-إنسبشن (FID)، خاصة مع مستويات التمهيد الصغيرة ( $\sigma=0.3$ )، مما يشير إلى دقة عالية لتوزيع البيانات.
- حقق المتنبئ–المصحح درجات أعلى في مقياس Inception Score (IS) والدقة (Precision)، مما يشير إلى أنه يولد عينات أكثر تنوعًا وتميزًا، وإن كان بـ FID أعلى قليلاً من dMALA في بعض الإعدادات.
- سلوك السلسلة الطويلة: أظهرت كلتا الطريقتين تدهورًا تدريجيًا مع زيادة طول السلسلة ( $K$ )، وهو ما يتوافق مع تراكم أخطاء التقريب في النموذج الخلفي، لكنهما حافظتا على أداء أفضل بكثير من النماذج المرجعية.
الكفاءة الحسابية: أظهرت طريقة المتنبئ–المصحح تنافسية مع تكامل ODE المباشر. على سبيل المثال، حققت 200 عملية تقييم لوظيفة الشبكة (NFEs) لطريقة المتنبئ–المصحح (FID قدره 4.91) نتيجة أفضل من 800 خطوة من تكامل Euler الأمامي (6.51) لنفس النموذج الخلفي.

الأهمية والادعاءات

يضع المؤلفون هذا العمل كـ نموذج جديد للنمذجة التوليدية. ويدعون أنه من خلال تحويل الهدف من تحويل الضجيج إلى بيانات إلى الحفاظ على توزيع البيانات تحت ديناميكيات متعلمة، فإن إطار العمل يتيح:

تباين عينات أمين: من خلال إبقاء العملية في المناطق ذات الاحتمالية العالية من مجمع البيانات.
دقة بيانات محسنة: من خلال تصحيح أخطاء التقطيع التي تعاني منها ديناميكيات لانجفان القياسية.
إعادة استخدام فعالة: القدرة على تعزيز النماذج المدربة مسبقًا دون الحاجة لإعادة التدريب.

يقر البحث بتواضع بوجود قيود، مشيرًا إلى أن فعالية أخذ العينات مرتبطة بجودة التدفق أو نموذج الدرجات المدرب مسبقًا. يمكن أن تتراكم أخطاء التقريب في نموذج الدرجات عبر تطبيقات متكررة للنواة. بالإضافة إلى ذلك، اقتصر التحقق الحالي على المجالات المستمرة (الصور)، وتم تحديد توسيع هذا النموذج للمجالات المنفصلة مثل توليد النصوص كعمل مستقبلي. يؤكد المؤلفون أن مساهمتهم هي توحيد مبادئ الحفظ في إطار عمل تنظيمي يدور حول السبر المستقر بدلاً من عكس عملية إضافة الضجيج.