🤖 machine learning

Diverse Sampling in Diffusion Models with Marginal Preserving Particle Guidance

تقدم الورقة البحثية EDDY، وهي آلية توجيه خالية من التدريب لنماذج الانتشار ومطابقة التدفق تعزز تنوع العينات من خلال ديناميكيات خالية من التباعد مع الحفاظ بدقة على التوزيع الهامشي والحفاظ على جودة توليد عالية.

المؤلفون الأصليون: Gal Vinograd, Idan Achituve, Ethan Fetaya

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Gal Vinograd, Idan Achituve, Ethan Fetaya

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك فنان أتقن أسلوباً معيناً في الرسم. يمكنك رسم كرسي جميل، أو غرفة مريحة، أو غروب شمس بواقعية مثالية. ومع ذلك، في كل مرة تحاول فيها رسم "غرفة مريحة"، ينتهي بك الأمر برسم نفس الغرفة تماماً، مع اختلاف طفيف في الإضاءة فقط. أنت تريد التنوع — ترتيبات مختلفة للأثاث، ألوان مختلفة، زوايا مختلفة — دون أن تفقد "إحساس" الغرفة المريحة.

هذه هي المشكلة التي تحاول ورقة EDDY (التنوع الدقيق عبر الديناميكيات الخالية من التباعد) حلها لنماذج توليد الصور بالذكاء الاصطناعي.

إليك تفصيل لكيفية عملها، باستخدام تشبيهات بسيطة:

المشكلة: تأثير "الاستنساخ"

تعمل مولدات الصور الحديثة بالذكاء الاصطناعي (مثل نماذج الانتشار - Diffusion Models) عن طريق البدء من كومة من الضجيج العشوائي (Static) ثم تنظيفها ببطء للكشف عن صورة.

المشكلة: إذا طلبت من الذكاء الاصطناعي إنشاء 10 صور لـ "قطة"، وفعلت ذلك 10 مرات منفصلة، ستحصل على 10 قطط مختلفة. لكن إذا طلبت منه إنشاء 10 قطط في نفس الوقت لتوفير الوقت، فغالباً ما ستظهر متشابهة بشكل مريب. إنها "نسخ مستنسخة".
الحل القديم: حاولت الطرق السابقة إجبار الذكاء الاصطناعي على أن يكون مختلفاً عن طريق إضافة "قوة تنافر"، مثل قول: "مهلاً، لا ترسم ما يرسمه جارك!"
العيب: كانت الطرق القديمة تشبه حارساً خرقاً في حفلة. لقد دفعوا الصور بعيداً عن بعضها بقوة شديدة لدرجة أن الصور تشوهت. قد تبدو القطط مختلفة، لكن قد يكون لديها أيضاً ثلاثة أرجل أو عيوب غريبة لأن الذكاء الاصطناعي أُجبر على كسر قواعده الخاصة لتجنب الآخرين.

الحل: "سرب الأسماك" (EDDY)

يقترح المؤلفون طريقة جديدة لتوجيه الذكاء الاصطناعي تشبه مدرسة الأسماك.

الهدف: تريد من الأسماك (الصور) أن تنتشر وتستكشف المحيط بأك ول (التنوع)، ولكنك تريدها أيضاً أن تظل داخل حدود المحيط المحددة (الحفاظ على الجودة العالية واتباع المطالب/البرومبت).
السر الخفي (خدعة الفيزياء): تستخدم الورقة مفهوماً رياضياً يسمى معادلة فوكر-بلانك (Fokker-Planck equation). فكر في هذا كأنه "قانون الحفظ" لعملية الرسم الخاصة بالذكاء الاصطناعي. وهي تقول: إذا حركت الجسيمات (الصور) بطريقة دائرية محددة للغاية، يمكنك تغيير مكان استقرارها بالنسبة لبعضها البعض، دون تغيير الشكل العام للمحيط الذي تسبح فيه.
كيف يعمل:
- تخيل أن الذكاء الاصطناعي يرسم 10 صور في وقت واحد.
- ينظر EDDY إلى كل زوج من الصور. إذا اقتربت صورتان من بعضهما كثيراً (تشابهتا كثيراً)، يعطي EDDY كل منهما "دفعة دائرية" لطيفة للابتعاد عن الأخرى.
- السحر: هذه الدفعة هي "خالية من التباعد" (Divergence-free). بالمعنى اليومي، هي مثل دوامة في نهر. الماء يدور حول نفسه، مما يدفع الأشياء بعيداً، ولكن إجمالي كمية الماء في أي نقطة معينة يظل كما هو تماماً.
- بفضل هذه الخدعة الرياضية، تصبح الصور متنوعة (تستكشف أنماطاً أو تنوعات مختلفة)، ولكن جودة كل صورة على حدة تظل مثالية. لا تتعرض الصور للتشوه أو التلف.

التحدي "الإدراكي"

تشير الورقة إلى أنه بالنسبة للمهام المعقدة مثل تحويل النص إلى صورة، لا يمكننا مجرد قياس التشابه من خلال النظر إلى البكسلات (مثل مقارنة صورتين جنباً إلى جنب). نحن بحاجة إلى قياس ما إذا كان "إحساسهما" متشابهاً.

التشبيه: تخيل أنك تحاول معرفة ما إذا كانت لوحتان متشابهتين. أنت لا تعد البكسلات؛ بل تنظر إلى "الروح" أو "الأسلوب".
الحل: يستخدم EDDY "فضاء الميزات" (مثل تضمينات DINO أو CLIP) لقياس هذا "الإحساس". ومع ذلك، فإن إجراء الرياضيات الدقيقة لهذا "الإحساس" بطيء ومكلف للغاية بالنسبة للكمبيوتر.
الطريق المختصر: ابتكر المؤلفون تقريباً ذكياً (باستخدام "الفروق المحدودة" و"تقدير أثر هوتشينسون"). فكر في هذا كفنان ماهر يمكنه تخمين ضربة الفرشاة المثالية من خلال إجراء بعض الرسومات الأولية السريعة والخشنة بدلاً من حساب كل بكسل على حدة. إنه سريع، ورغم أنه ليس مثالياً رياضياً بنسبة 100%، إلا أنه يعمل بشكل جيد جداً مثل النسخة المثالية.

النتائج

اختبر المؤلفون EDDY على بيانات اصطناعية ونماذج حقيقية لتحويل النص إلى صورة (مثل FLUX و Stable Diffusion).

التنوع: نجح في إنشاء مجموعة متنوعة من الصور (على سبيل المثال، ترتيبات مختلفة للكراسي في الغرفة) مقارنة بالطرق القياسية.
الجودة: على عكس طرق "الحارس الخرق" القديمة التي خلقت عيوباً غريبة، حافظ EDDY على بقاء الصور واقعية وتتبع المطالب بدقة.
الكفاءة: يضيف EDDY مقداراً صغيراً من الوقت الإضافي لعملية التوليد (أبطأ بنسبة 25% تقريباً)، ولكنه يتجنب الحاجة إلى إعادة تدريب نموذج الذكاء الاصطناعي من الصفر.

الملخص

EDDY هو "شرطي مرور" جديد لتوليد الصور بالذكاء الاصطناعي. بدلاً من إجبار الصور على أن تكون مختلفة عن طريق كسرها، يستخدم دوامة رياضية ذكية لدفعها بعيداً عن بعضها بلطف. هذا يسمح للذكاء الاصطناعي بإنشاء مجموعة متنوعة من الصور عالية الجودة التي تتبع المطالب تماماً، دون التشوهات الغريبة التي شهدتها الطرق السابقة.

ملخص تقني: EDDY – التنويع عبر التوزيع الهامشي الدقيق من خلال الديناميكيات الخالية من التباعد

بيان المشكلة

أثبتت نماذج الانتشار (Diffusion) ومطابقة التدفق (Flow Matching) أنها أدوات توليدية قوية عبر مجالات مثل الصور، الجزيئات، والنصوص. وتتمثل إحدى استراتيجيات الاستدلال الشائعة لتحسين جودة العينات في التوجيه (Guidance)، حيث يتم تعديل حد الانجراف (Drift term) لتلبية شروط أو قيود معينة. ومع ذلك، عند توليد عينات متعددة لنفس الشرط، غالبًا ما يؤدي أخذ العينات المستقل والمتماثل توزيعيًا (I.I.D.) التقليدي إلى تنوع منخفض، حيث تتكتل المخرجات حول أنماط (Modes) متشابهة.

تحدد الطرق الحالية لمعالة هذا النقص في التنوع تدخلات بين العينات، مثل تحسين قيم الضجيج الأولية الكامنة أو إضافة جهود تنافر (Repulsive potentials) أثناء عملية أخذ العينات. وبينما يمكن لهذه الأساليب زيادة التنوع، إلا أن الورقة تحدد خللاً جوهريًا: فهي غالبًا ما تشوه التوزيع الهامشي (Marginal distribution) للعينات الفردية. يؤدي هذا التشوه إلى مقايضة حيث يأتي زيادة التنوع على حساب دقة العينة، مما يظهر في شكل عيوب مرئية، أو انخفاض في الالتزام بالوصف (Prompt adherence)، أو تدهور إدراكي. التحدي الأساسي هو إدخال تنوع قائم على الجسيمات يشجع العينات على استكشاف أنماط مختلفة من التوزيع الشرطي دون تغيير التوزيع الهامشي المستهدف لأي عينة منفردة، ويفضل أن يكون ذلك دون الحاجة إلى تدريب إضافي.

المنهجية: EDDY

يقترح المؤلفون EDDY (التنويع عبر التوزيع الهامشي الدقيق من خلال الديناميكيات الخالية من التباعد)، وهو آلية توجيه خالية من التدريب تستفيد من التناظرات في معادلة فوكر-بلانك (Fokker–Planck equation - FPE).

الأساس النظري

تستند الطريقة إلى ملاحظة أن معادلة فوكر-بلانك، التي تحكم تطور كثافة الاحتمال $p_t$ ، تسمح بوجود تناظرات غير بديهية. وتحديدًا، يمكن لبعض اضطرابات الانجراف أن تغير مسارات الجسيمات دون تغيير كثافة الهامش المتطورة.

تناظر FPE: يستخدم المؤلفون مؤثر ستين (Matrix Stein operator). لقد أثبتوا أنه إذا تم بناء اضطراب انجراف $\psi_t$ من مصفوفة منتظمة (Smooth) وغير متماثلة $A$ عبر المؤثر $A_p(A) = \text{div}(A) + A\nabla \log p$ ، فإن FPE الناتجة تظل دون تغيير. وبناء نتيجة، يظل التوزيع الهامشي $p_t$ محفوظًا لجميع الأوقات $t$ ، حتى مع تعديل التوزيع المشترك لعدة جسيمات متفاعلة.

بناء الخوارزمية

تطبق EDDY هذا المبدأ من خلال بناء مجال توجيه يحفز تفاعلات تنافر بين الجسيمات مع الحفاظ على حفظ الهامش:

المصفوفات غير المتماثلة لكل زوج: لكل زوج من الجسيمات $(x_i, x_j)$ ، يتم بناء مصفوفة غير متماثلة $A^{(ij)}$ باستخدام اتجاه تنافر $r^{(ij)} = -\nabla k(x_i, x_j)$ مشتق من نواة تشابه $k$ ، ومتجه $v^{(j)}$ (عادةً ما يكون الانجراف أو الدرجة/Score للجسيم $j$ ).
$A^{(ij)} = r^{(ij)} \otimes v^{(j)} - v^{(j)} \otimes r^{(ij)}$
انجراف خالٍ من التباعد: حقل التوجيه للجسيم $i$ هو متوسط مؤثر ستين المطبق على هذه المصفوفات عبر جميع الجيران:
$\psi_i^{\text{EDDY}} = \frac{1}{n-1} \sum_{j \neq i} A_p(A^{(ij)})$
ينتج عن ذلك مجال نقل خالٍ محليًا من التباعد (ومن هنا جاء الاسم "EDDY")، يقوم بدفع الجسيمات بعيدًا عن بعضها لزيادة التنوع مع ضمان نظري بأن الهامش الفردي يظل $p_t$ .

التقريبات العملية للأبعاد العالية

في الإعدادات عالية الأبعاد مثل توليد النصوص إلى صور، يكون حساب المشتقات من الدرجة الثانية الدقيقة للنواة (المطلوبة لـ حد التباعد) مكلفًا حاسوبيًا للغاية. تستخدم EDDY تقريبين عمليين:

الفروق المحدودة (Finite Differences): تُستخدم لتقريب حاصل ضرب هسيان-المتجه (Hessian-vector products).
تقدير أثر هوتشينسون (Hutchinson Trace Estimation): يُستخدم لتقريب حد لابلاس (Laplacian term).
تسمح هذه التقريبات للطريقة بالعمل على فضاءات السمات الإدراكية (مثل تضمينات DINO أو CLIP) بدلاً من مساحة البكسل الخام. وبينما تعني هذه التقريبات أن حفظ الهامش لم يعد دقيقًا تمامًا من الناحية النظرية، يجادل المؤلفون بأن الطريقة تظل تقديرًا لعينات محدودة للحقل الذي يحافظ على الهامش بشكل مثبت.

ولتقليل التكلفة الحاسوبية بشكل أكبر، يتم تطبيق التوجيه فقط خلال الجزء المبكر (عالي الضجيج) من مسار أخذ العينات (على سبيل المثال، أول 20% من الخطوات).

المساهمات الرئيسية

تحدد الورقة أربع مساهمات رئيسية:

التحديد النظري: تحديد وإثبات تناظرات FPE التي تسمح بآليات توجيه الجسيمات التي تحافظ على التوزيع الهامسي الأساسي.
البناء القائم على النواة: تقديم بناء محدد باستخدام مصفوفات زوجية غير متماثلة لتحفيز تفاعلات التنافر المتوافقة مع هذه التناظرات.
التقريبات القابلة للتوسع: تطوير تقريبات عملية (الفروق المحدودة ومقدرات هوتشينسون) تمكن من استخدام نوى فضاء السمات، مما يجعل الطريقة قابلة للتطبيق في المهام عالية الأبعاد مثل تحويل النص إلى صورة.
التحقق التجريبي: التقييم على التوزيعات الاصطناعية ونماذج توليد النصوص إلى صور الحديثة (FLUX.1-dev و SDXL)، مما يظهر تحسنًا في التنوع مع الحفاظ على دقة التوزيع مقارنة بالنماذج المرجعية.

النتائج التجريبية

يقيم المؤلفون EDDY مقابل أخذ العينات المستقل والمتماثل توزيعيًا (I.I.D.)، وتوجيه الجسيمات (PG)، وأخذ عينات الانتشار المعتمد على الشرط (CADS).

خليط غاوسي ثنائي الأبعاد اصطناعي: في خليط ثنائي الأبعاد من التوزيعات الغاوسية، نجحت EDDY-RBF (باستخدام نواة RBF الدقيقة) في زيادة تغطية الأنماط (التنوع) مع اجتياز الاختبارات الإحصائية (Kolmogorov-Smirnov، Mann-Whitney، Welch t-test) التي تؤكد أن التوزيع الهامشي لا يمكن تمييزه عن خط الأساس I.I.D.
توليد النصوص إلى صور:
- التنوع مقابل الدقة: تحقق EDDY باستمرار جبهة باريتو (Pareto frontier) أفضل من PG. عند مستويات التنوع المتساوية (مقاسة بتشابه DINO الزوجي)، تقدم EDDY توافقًا أعلى مع الوصف (CLIPScore) ودرجات جمالية أفضل.
- تقليل العيوب: بينما غالبًا ما تسبب PG عيوبًا بصرية شديدة (مثل الهياكل المشوهة) عند الدفع نحو التنوع، تحافظ EDDT على الواقعية الفوتوغرافية، حيث يظهر أي تدهور في شكل ضبابية طفيفة بدلاً من العيوب الهيكلية.
- المقارنة مع CADS: يحسن CADS التنوع عن طريق تشويه إشارات الشرط ولكن هذا يؤدي بشكل كبير إلى تدهور الالتزام بالوصف. تحافظ EDDY على قوة الالتزام بالوصف مع زيادة التنوع.
- النماذج المختبرة: أجريت التجارب على FLUX.1-dev (مطابقة التدفق) و Stable Diffusion XL (الانتشار).

الأهمية والادعاءات

تدعي الورقة أن EDDY توفر مسارًا مبدئيًا نحو التوليد الشرطي المتنوع. من خلال الاستفادة من تناظرات معادلة فوكر-بلانك، تقوم EDDY بفصل المقايضة بين التنوع والدقة التي تعاني منها طرق أخذ العينات التنافرية الحالية.

يؤكد المؤلفون أن EDDY خالية من التدريب، ولا تتطلب تعلم نماذج إضافية، على عكس الطرق التي تعتمد على تعلم دالات الجهد أو أوزان الأهمية. وبينما تتحمل الطة عبئًا حاسوبيًا (زيادة بنسبة 25% تقريبًا في وقت التشغيل على FLUX.1-dev بسبب تقييمات النواة والتقريبات)، يجادل المؤلفون بأن هذه تكلفة ضرورية لتحقيق عينات عالية الجودة ومتنوعة دون العيوب الشديدة التي تظهر في الأساليب المنافسة. تشير الدراسة إلى أن الحفاظ على التوزيع الهامسي هو قيد حاسم للحفاظ على جودة المخرجات التوليدية أثناء استكشاف أنماط التوزيع الشرطي.