📊 statistics

Intrinsic-Hybrid Latent Diffusion Models for Generative Modeling on Unknown Manifolds

تقدم الورقة البحثية نموذج الانتشار الكامن الهجين الجوهري (ILDM)، وهو إطار عمل توليدي يتغلب على قيود نماذج الانتشار القياسية ونماذج الانتشار الكامنة من خلال تفسير الفضاء الكامن كمتشعب ريماني وتوظيف عملية انتشار هجينة تنتقل ديناميكيًا بين الديناميكيات الإقليدية والديناميكيات المدركة للهندسة بناءً على عدم اليقين المحلي، مما يحقق جودة توليد فائقة على المتشعبات غير المعروفة مع بيانات محدودة.

المؤلفون الأصليون: Yizhu Wang, Mu Niu, Xiaochen Yang

نُشر 2026-08-06

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yizhu Wang, Mu Niu, Xiaochen Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت رسم صورة لقطة. تعرض عليه آلاف الصور، وفي النهاية يتعلم رسم قطة فروية. ولكن ماذا لو عرضت عليه حفنة قليلة فقط من الصور؟ قد يرتبك الروبوت، فيرسم قطة بثلاثة رؤوس أو بعجلات بدلاً من المخالب. هذا هو تحدي "النمذجة التوليدية" في الذكاء الاصطناعي: تعليم الحواسيب إنشاء بيانات جديدة وواقعية (مثل الصور أو الأصوات) عندما لا تملك مكتبة ضخمة من الأمثلة لدراستها.

لحل هذه المشكلة، غالباً ما يستخدم العلماء خدعة ذكية تسمى "الانتشار" (diffusion). فكر في الأمر كأنه لعبة "الهاتف المكسور" ولكن بشكل عكسي. أولاً، تأخذ صورة واضحة وتضيف إليها تدريجياً ضجيجاً (static noise) حتى تبدو ككتلة رمادية ضبابية. ثم تدرب الحاسوب على لعب اللعبة بشكل عكسي: بدءاً من الضجيج الرمادي، يتعلم إزالة الضجيج خطوة بخوة حتى تظهر صورة واضحة. عادةً، تعمل هذه الحواسيب في عالم مسطح يشبه الشبكة (يسمى الفضاء الإقليدي)، حيث يكون الأعلى دائماً للأعلى واليسار دائماً لليسار. لكن البيانات في العالم الحقيقي، مثل شكل وجه بشري أو منحنى سيارة، غالباً ما تعيش على سطح ملتف أو مطوي (يسمى "المنوع" أو manifold) لا يتناسب بدقة مع شبكة مسطحة. إذا حاولت السير على ورقة مجعدة باستخدام خريطة مسطحة، فستضل طريقك. تتناول هذه الورقة البحثية مشكلة كيفية تعليم روبوتات الذكاء الاصطناعي هذه التنقل عبر تلك الأسطح غير المرئية والملتوية، خاصة عندما لا تملك سوى عدد قليل من الصور للتعلم منها.

قدم الباحثون وراء هذه الدراسة، ييزو وانغ، ومو نيو، وشياوتشن يانغ، نظاماً جديداً يسمى نموذج الانتشار الكامن الهجين الجوهري (ILDM). وتتمثل نتيجتهم الرئيسية في أنه من خلال التعامل مع "الخريطة" الخفية التي يستخدمها الذكاء الاصطناعي كسطح مرن ومنحنٍ بدلاً من شبكة مسطحة، يمكن للروبوت التعلم بشكل أفضل من صور أقل. لقد اكتشفوا أن خريطة الذكاء الاصطناعي ليست مثالية في كل مكان؛ ففي بعض النقاط، تكون متأكدة جداً من مكان البيانات، ولكن في نقاط أخرى (بعيداً عن صور التدريب)، تكون مهتزة وغير مستقرة.

وللتعامل مع هذا، يستخدم نموذج ILDM استراتيجية "هجينة"، تشبه متنزهاً لديه نمطان مختلفان من التنقل. فعندما يكون المتنزه على مسار معروف وآمن (منطقة ذات يقين منخفض)، فإنه يسير بحذر على طول منحنيات التضاريس، محترماً شكل الأرض. هذا هو الجزء الريماني (Riemannian) من النموذج، حيث يتبع الذكاء الاصطناعي الهندسة الطبيعية للبيانات. ولكن إذا دخل المتنزه في غابة ضبابية وغير معروفة (منطقة ذات يقين عالٍ حيث تكون الخريطة غير موثوقة)، فإنه ينتقل إلى أسلوب مشي أبسط ومستقيم (ديناميكيات إقليدية) لتجنب العلوق أو السقوط من منحدر. يتحقق النموذج باستمرار من ثقته الخاصة: إذا كان غير متأكد، ينتقل إلى نمط المشي المستقيم الآمن؛ وإذا كان واثقاً، فإنه يلتصق بمنحنيات البيانات.

تجادل الورقة ضد النهج القياسي المستخدم في معظم النماذج الحالية، والذي يفترض أن الخريطة الخفية مسطحة دائماً ويتجاهل هذه المنحنيات. ويشير المؤلفون إلى أن افتراض "الخريطة المسطحة" هذا يتسبب في وقوع الذكاء الاصطناعي في الأخطاء، خاصة عندما تكون البيانات شحيحة. كما دحضوا فكرة أننا بحاجة إلى معرفة الشكل الدقيق لسطح البيانات مسبقاً؛ وبدلاً من ذلك، يتعلم نموذجهم الشكل واليقين "أثناء العمل" باستخدام مفكك شفرة احتمالي.

في تجاربهم، اختبر الفريق هذا النظام الجديد على ثلاث مجموعات مختلفة من البيانات: لعبة "القط المحظوظ" الدوارة (من مجموعة بيانات CO-100)، ومجموعة صغيرة من الأرقام المكتوبة بخط اليد (MNIST)، وصور لفحوصات القلب (تصوير الرنين المغناطيسي للقلب). وقد قاموا بمحاكاة عملية توليد صور جديدة ووجدوا أن نموذجهم الهجين أنتج نتائج أفضل بكثير من النماذج القياسية. وتحديداً، أنتج النموذج الجديد صوراً تبدو أكثر واقعية وبها تشوهات أقل، حيث سجل درجات أقل في اختبارات الجودة القياسية المعروفة بـ FID وLPIPS. وقد قاس المؤلفون هذا النجاح من خلال عمليات محاكاة حاسوبية ومقارنات، موضحين أنه من خلال السماح للذكاء الاصطناعي بالتبديل بين المشي "المنحني" والمشي "المستقيم" بناءً على مدى تأكده، يمكنه توليد صور عالية الجودة حتى عندما لم يشهد الكثير من الأمثلة في البداية.

ملخص تقني: نماذج الانتشار الكامنة الهجينة الجوهرية للنمذجة التوليدية على متشعبات مجهولة

بيان المشكلة
حققت نماذج الانتشار (DMs) أداءً فائقاً في توليد البيانات عالية الأبعاد، لكنها تواجه قيدين رئيسيين: الاعتماد الشديد على مجموعات بيانات تدريب ضخمة، وإهمال البنى الهندسية الجوهرية. وبينما تعمل نماذج الانتشار الكامنة (LDMs) على تخفيف حدة الأبعاد العالية عبر تعلم فضاء كامن، إلا أنها عادة ما تفرض بنية إقليدية على هذا الفضاء. هذا الافتراض يفشل في التقاط الهندسة الريمانية (Riemannian geometry) الجوهرية للمتغيرات، وهو خلل يصبح مشكلة خاصة في حالات ندرة البيانات. علاوة على ذلك، تفتقر طرق تعلم المتشعبات القياسية غالباً إلى المتانة في المناطق ذات الكثافة المنخفضة للبيانات، مما يؤدي إلى أخطاء إعادة بناء عالية وعدم يقين في عملية التعيين (mapping). كما تتطلب النهج الجوهرية الحالية معرفة صريحة بمؤثرات المتشعب (مثل القواعد الذاتية لـ Laplace-Beltrami)، وهو أمر نادراً ما يتوفر في الممارسة العملية.

المنهجية
يقترح المؤلفون نموذج الانتشار الكامن الهجين الجوهري (ILDM)، وهو إطار عمل يدمج تقليل الأبعاد الاحتمالي مع عمليات انتشار هجينة مدركة للهندسة على متشعبات مجهولة.

1. بارامترية المتشعب وتعلم المقياس:

يتم تفسير الفضاء الكامن كـ "مخطط" (chart) لمتشعب ريماني مجهول.
يتم تدريب مفكك شفرة احتمالي (إما مفكك شفرة يعتمد على العمليات الغاوسية (GP) أو المشفر التلقائي المتباين (VAE)) مسبقاً لتعيين الإحداثيات الكامنة إلى فضاء البيانات.
يتم اشتقاق موتّر المقياس الريماني ( $g$ ) من جاكوبي (Jacobian) مفكك الشفرة. بالنسبة لمفككات شفرة GP، يتبع هذا المقياس توزيع "ويشارت" غير المركزي، مما يرمز إلى كل من الهندسة الجوهرية وعدم اليقين في عملية تعيين اللامتنين (latent-to-data).
يُعامل الفضاء الكامن كـ "متشعب ضجيج البيانات"، مع الإقرار بأن النقاط البعيدة عن بيانات التدريب تؤدي إلى عمليات إعادة بناء يهيمن عليها الضجيج.

2. عملية الانتشار الأمامية الهجينة:

تم تصميم عملية الانتشار الأمامية كخليط من الحركة البراونية الريمانية (BM) والحركة البراونية الإقليدية (Euclidean BM).
تخضع آلية التبديل لـ التباين التنبئي ( $\sigma^2(x)$ ) لعملية التعيين $\phi$ .
في المناطق ذات عدم اليقين المنخفض (حيث يكون المقياس موثوقاً)، تتبع العملية ديناميكيات الحركة البراونية الريمانية المحددة بالمقياس $g$ .
في المناطق ذات عدم اليقين العالي (البعيدة عن بيانات التدريب)، تنتقل العملية إلى حركة براونية إقليدية قياسية للسماح باستكشاف مرن دون الاعتماد على تقديرات هندسية غير موثوقة.
يتم محاكاة هذه المعادلة التفاضلية العشوائية (SDE) الهجينة عددياً باستخدام طريقة "أويلر-ماروياما".

3. تقدير الدرجة (مطابقة درجة إزالة الضجيج التقريبية):

بما أن كثافة الانتقال لـ SDE الهجين غير قابلة للحل رياضياً (intractable)، فلا يمكن تطبيق مطابقة درجة إزالة الضجيج القياسية (DSM) مباشرة.
يقدم المؤلفون مطابقة درجة إزالة الضجيج التقريبية (ADSM). تقرب هذه الطة كثافة الانتقال غير القابلة للحل باستخدام توزيع غاوسي يتم تحديد معلماته من خلال المتوسط والتباين لمتجاهات المسارات الأمامية المحاكات.
يتم تدريب شبكة عصبية (U-Net) للتنبؤ بدالة الدرجة ( $\nabla_x \log p_t(x)$ ) باستخدام هذا الهدف التقريبي.
كما تم النظر في "مطابقة الدرجة المقطعية" (SSM) كبديل، ولكن لوحظ أنها تعاني من بطء في التقارب في الأبعاد العالية مقارنة بـ ADSM.

4. العملية الخلفية الهجينة:

تستخدم العملية التوليدية (الخلفية) ديناميكيات لانجفان الهجينة.
على غرار العملية الأمامية، تتبدل الديناميكيات بين تحديثات لانجفان الريمانية (في مناطق عدم اليقين المنخفض، باستخدام التدرج الطبيعي) وتحديثات لانجفان الإقليدية (في مناطق عدم اليقين العالي).
يتم توجيه العملية بواسطة دالة الدرجة المتعلمة وموتّر المقياس المعتمد على الموقع.

5. التوليد الشرطي:

يدعم الإطار التوليد الموجه بخاصية "المصنف الخالي من التوجيه" (classifier-free guidance) عبر التدريب المشترك لشبكات الدرجة الشرطية وغير الشرطية، مما يسمح بتوليد قابل للتحكم بناءً على تسميات الفئات.

المساهمات الرئيسية

الوعي الهندسي في الفضاء الكامن: يفسر ILDM الفضاء الكالم كـ "مخطط" لمتشعب ريماني مجهول، مع نمذجة موتر المقياس صراحةً لمراعاة التشوهات الهندسية المحلية.
الديناميكيات الهجينة المدركة لعدم اليقين: ينتقل النموذج ديناميكياً بين الانتشار الريماني والإقليدي بناءً على عدم اليقين في التعيين، مما يعالج مشكلات "عدم التطابق الهندسي" و"تدهور البيانات الشحيحة" التي تعاني منها نماذج LDM القياسية.
مطابقة درجة إزالة الضجيج التقريبية (ADSM): هدف تدريب مبتكر مصمم لبيئات الانتشار الهجينة حيث لا تتوفر كثافات انتقال ذات صيغة مغلقة، مما يتيح تقدير الدرجة بكفاءة عبر المسارات المحاكات.
المتانة في البيانات الشحيحة: تم تصميم الإطار خصيصاً ليعمل بفعالية في حالات البيانات الشحيحة حيث تعاني نماذج الانتشار التقليدية.

النتائج التجريبية
قيم المؤلفون ILDM على ثلاث مجموعات بيانات مرجعية في ظل ظروف البيانات الشحيحة:

COIL-100: وتحديداً جسم "القط المحظوظ" (72 صورة).
تصوير الرنين المغناطسي للقلب (Cardiac MRI): فحوصات البطين الأيسر.
MNIST: مجموعات فرعية من مجموعة البيانات.

الأداء الكمي: تفوق ILDM باستمرار على نماذج الانتشار (DM) ونماذج الانتشار الكامنة (LDM) القياسية، محققاً درجات أقل في مسافة فريدشيه للإنتروبيا (FID) وتشابه الباتش الإدراكي (LPIPS).
الأداء النوعي: أظهرت تصورات الحقول المتجهة المتعلمة أن تقديرات الدرجة في ILDM تشير بدقة نحو توزيع البيانات، ملتقطةً الهندسة المحلية للمتشعب. في المقابل، أنتجت نماذج LDM القياسية حقولاً متجهة تشير نحو مركز الفضاء الكامن، فاشلة في عكس البنية الجوهرية.
الدراسة الاستقصائية (Ablation): أظهرت التجارب على معامل عتبة التبديل ( $\alpha$ ) أن ضبط هذا المعلم يحسن جودة العينات مقارنة بنماذج LDM القياسية.

الأهمية والادعاءات
يزعم البحث أن ILDM يمثل تقدماً كبيراً في النمذجة التوليدية في السيناريوهات التي تكون فيها البيانات شحيحة وهندسة المتشعب الجوهرية مجهولة. ومن خلال توحيد تقليل الأبعاد الاحتمالي مع الانتشار المدرك للهندسة، يتغلب الإطار على قيود الافتراضات الإقليدية في الفضاءات الكامنة. ويفترض المؤلفون أن نهجهم يبسط النمذجة التوليدية عبر تقليل الأبعاد المحيطة مع احترام البنية الجوهرية، مما يقدم حلاً متيناً لتوليد صور عالية الدقة في البيئات محدودة البيانات. ويبرهن العمل على أن دمج تقدير عدم اليقين في ديناميكيات الانتشار أمر بالغ الأهمية للحفاظ على جودة التوليد عندما تكون بيانات التدريب محدودة.

أبحاث مشابهة