📊 statistics

Latent Stochastic Interpolants

تقدم هذه الورقة البحثية "المستدخلات العشوائية الكامنة" (Latent Stochastic Interpolants - LSI)، وهي إطار عمل يتيح التحسين المشترك والكامل من الطرف إلى الطرف للمشفرات، وفك التشفير، ونماذج المستدخلات العشوائية الكامنة عبر اشتقاق حد أدنى مستمر للبرهان (Evidence Lower Bound)، مما يجمع بين المرونة التوليدية للمستدخلات العشوائية والتعلم الفعال للفضاء الكامن لتوليد الصور عالية الأبعاد.

المؤلفون الأصليون: Saurabh Singh, Dmitry Lagun

نُشر 2026-04-23

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Saurabh Singh, Dmitry Lagun

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيفية رسم مناظر طبيعية خلابة.

الطريقة القديمة (نماذج الانتشار القياسية):
تعمل معظم أدوات الذكاء الاصطناعي الفنية حالياً بهذه الطريقة: تبدأ بلوحة مغطاة بضجيج عشوائي خالص (ضوضاء بيضاء)، ثم تقوم تدريجياً، خطوة بخطوة، بإزالة هذا الضجيج، وتدقيق الصورة حتى تظهر لوحة طبيعية مثالية.

المشكلة: هذا يشبه محاولة نحت تحفة فنية عبر تقطيع كتلة ضخمة وثقيلة من الرخام. يستغ�رق الأمر وقتاً طويلاً، ويتطلب الكثير من الطاقة، ويضطر الروبوت للقيام بهذا العمل الشاق لكل بكسل في الصورة النهائية.

فكرة "الاستيفاء العشوائي" (Stochastic Interpolant - SI):
طريقة أحدث تسمى "الاستيفاء العشوائي" تشبه امتلاك جسر سحري. بدلاً من مجرد تقطيع الضجيج، يمكنك بناء جسر بين أي نقطتين. يمكنك البدء بسحابة والانتهاء بجبل، أو قطة وكلب. إنها مرنة للغاية، ولكن هناك عقبة: لبناء هذا الجسر، تحتاج إلى رؤية كل من نقطة البداية ونقطة النهاية بوضوح في نفس الوقت.

المشكلة مع "الفضاءات الكامنة" (Latent Spaces):
تحاول نماذج الذكاء الاصطناعي غالباً أن تكون أكثر ذكاءً عبر العمل في مساحة ذهنية "مضغوطة" (الفضاء الكامن). بدلاً من رسم كل بكسل، تقوم أولاً بتلخيص الصورة في بعض المفاهيم الأساسية (مثل "سماء زرقاء"، "عشب أخضر"، "جبل").

العقبة: لم تكن طريقة "الاستيفاء العشوائي" القديمة قادرة على العمل هنا لأن "نقطة النهاية" (ملخص الصورة) ليست ثابتة؛ فهي تتغير في كل مرة يتعلم فيها الذكاء الاصطناعي شيئاً جديداً. الأمر يشبه محاولة بناء جسر نحو وجهة تتحرك باستمرار.

الحل: الاستيفاء العشوائي الكامن (LSI)

يقدم هذا البحث إطار عمل يُسمى LSI، وهو يحل هذه المشكلة. إليك كيف يعمل، باستخدام تشبيه بسيط:

1. المسرحية ذات الفصول الثلاثة

تخيل مسرحية بها ثلاث شخصيات رئيسية تعمل معاً كفريق واحد:

المترجم (Encoder): يأخذ صورة معقدة وعالية الدقة ويترجمها إلى "شفرة سرية" بسيطة ومضغوطة (التمثيل الكامن).
الحالم (Latent Model): هذا هو الفنان. يتعلم كيفية تحويل "حلم" بسيط (ضجيج عشوائي) إلى تلك "الشفرة السرية".
المفسر (Decoder): يأخذ "الشفرة السرية" ويترجمها مرة أخرى إلى صورة عالية الدقة.

الابتكار: في الماضي، كان على هؤلاء الثلاثة أن يتعلموا بشكل منفصل أو في تسلسل غير متناسق. أما LSI فيعلمهم جميعاً معاً، وفي وقت واحد، في تدفق مستمر.

2. جسر "الهدف المتحرك"

عبقرية هذا البحث تكمن في كيفية بناء الجسر لـ "الحالم".

عادةً، يحتاج "الحالم" لمعرفة مكان "الشفرة السرية" بدقة لبناء الجسر. ولكن بما أن "المترجم" يتعلم أيضاً، فإن "الشفرة السرية" تستمر في التحرك.
خدعة LSI: بدلاً من محاولة إصابة هدف متحرك، ابتكر المؤلفون قاعدة رياضية (ELBO) تسمح لـ "الحالم" بتعلم بناء الجسر بينما يقوم "المترجم" بتحريك الهدف. الأمر يشبه تعليم راقص قيادة شريك له يتعلم الخطوات أيضاً؛ حيث يعدلان نفسيهما تجاه بعضهما البعض في الوقت الفعلي.

3. لماذا يعد هذا أمراً هاماً؟ (الفوائد)

الكفاءة (تشبيه "الغرفة الصغيرة"):
تخيل أنك تحاول تنظيم مكتبة ضخمة.
- الطريقة القديمة: تمر على كل كتاب في كل رف (فضاء عالي الأبعاد) للعثور على نمط ما. يستغرق ذلك وقتاً طويلاً جداً.
- طريقة LSI: تطلب أولاً من أمين المكتبة تلخيص المكتبة في بطاقة فهرس واحدة (الفضاء الكامن). ثم تقوم بتنظيم بطاقة الفهرس. بمجرد تنظيم البطاقة، تطلب فقط من أمين المكتبة ترتيب الكتب.
- النتيجة: "الحالم" يقوم فقط بتنظيم بطاقة الفهرس الصغيرة، وليس المكتبة بأكملها. وهذا يوفر كميات هائلة من قدرة الكمبيوتر (FLOPs) والوقت.
المرونة (تشبيه "أي نقطة بداية"):
معظم نماذج الذكاء الاصطناعي مجبرة على البدء بنوع معين من "الضجيج" (مثل سحابة غاوسية قياسية). أما LSI فهو مثل الحرباء؛ يمكنه البدء من أي نوع من الضجيج أو التوزيعات، ومع ذلك يتعلم إنشاء صور مثالية. لا يهمه شكل نقطة البداية، طالما يمكنه بناء الجسر وصولاً إلى الصورة النهائية.
جودة أفضل:
لأن الذكاء الاصطناعي يتعلم "الشفرة السرية" و"الفن" معاً، تصبح الشفرة متوافقة تماماً مع الفن. والنتيجة هي صور أكثر حدة وواقعية (كما أثبتت اختباراتهم على مجموعة بيانات ImageNet) مقارنة بالطرق التي يتم فيها تعلم الشفرة والفن بشكل منفصل.

باخت-اختصار

الاستيفاء العشوائي الكامن (LSI) هو طريقة جديدة لتدريب فناني الذكاء الاصطناعي. بدلاً من إجبارهم على رسم كل بكسل من الصفر باستخدام قواعد ثقيلة وجامدة، فإنه يعلمهم:

تلخيص الصورة في "فكرة" بسيطة.
تعلم كيفية تحويل الأفكار العشوائية إلى هذه الملخصات.
تحويل هذه الملخصات إلى صور جميلة.

والأفضل من ذلك كله؟ إنه يعلم الخطوات الثلاث في آن واحد، مما يجعل العملية أسرع، وأقل تكلفة، وقادرة على إنتاج فن بجودة أعلى من ذي قبل. إنه الفرق بين بناء منزل طوبة بطوبة وسط عاصفة، وبين وضع مخطط مثالي وتجميع المنزل في ورشة عمل هادئة.

إليك ملخص تقني مفصل لورقة البحث "Latent Stochastic Interpolants" (LSI) المنشورة في مؤتمر ICLR 2026.

1. بيان المشكلة

الاستيفاء العشوائي (Stochastic Interpolants - SI) هو إطار عمل قوي للنمذجة التوليدية، قادر على تحويل التوزيعات الاحتمالية التعسفية (عبر الجسر بين توزيع سابق $p_0$ وتوزيع مستهدف $p_1$ ) باستخدام عمليات عشوائية مستمرة زمنياً. ومع ذلك، يعاني الـ SI القياسي من قصورين حرجين يمنعان تطبيقه في النمذجة التوليدية الحديثة والفعالة:

اشتراط وجود عينات مرصودة: يتطلب الـ SI وصولاً مباشراً إلى عينات من كل من التوزيع السابق ( $x_0$ ) والتوزيع المستهدف ( $x_1$ ) لبناء عملية الاستيفاء. وهذا يجعله غير مناسب لـ نماذج المتغيرات الكامنة التي يتم تحسينها بشكل مشترك، حيث لا يكون التوزيع المستهدف (الخلفي المجمع) ثابتاً بل يتم تعلمه جنباً إلى جنب مع المشفر (Encoder) وفك التشفير (Decoder).
عدم الكفاءة الحسابية: تطبيق الـ SI مباشرة في فضاءات الملاحظة عالية الأبعاد (مثل البكسلات الخام) مكلف حسابياً. وبينما تعمل نماذج المتغيرات الكامنة (مثل VAEs) على تقليل الأبعاد، فإن الطرق الحالية غالباً ما تفصل بين تعلم التمثيل الكامن وعملية التوليد، مما يؤدي إلى عدم توافق مثالي.

التحدي الجوهري هو تمكين التدريب المشترك والمتكامل (End-to-End) لمشفر، وفك تشفير، ونموذج توليدي بالكامل داخل فضاء كامن، مع الحفاظ على مرونة الـ SI في التعامل مع توزيعات سابقة تعسفية وتجنب الحاجة إلى تدريب كثيف المحاكاة.

2. المنهجية: الاستيفاء العشوائي الكامن (LSI)

يقترح المؤلفون الاستيفاء العشوائي الكامن (Latent Stochastic-Interpolants - LSI)، وهو إطار عمل يعمم الـ SI ليعمل ضمن فضاء كامن متعلم.

أ. الأساس النظري: حد الأدنى الأدنى للإثبات (ELBO) في الزمن المستمر

الابتكار الجوهري هو اشتقاق حد أدنى أدنى للإثبات (ELBO) مبني على أسس نظرية مباشرة في الزمن المستمر.

ديناميكيات النموذج: يتم نمذجة العملية التوليدية كمعادلة تفاضلية عشوائية (SDE) في الفضاء الكامن: $dz_t = h_\theta(z_t, t)dt + \sigma(z_t, t)dw_t$ .
التقريب التبايني: لتدريب النموذج، يتم بناء خلفية تباينية $Q$ . ومن الأهمية بمكان أن المؤلفين قاموا ببناء جسر انتشار (Diffusion Bridge) بين التوزيع السابق $p_0(z_0)$ والخلفي المجمع $p_\theta(z_1) = \int p_\theta(z_1|x)p(x)dx$ .
أخذ العينات الخالي من المحاكاة: تعد التكلفة الحسابية لمحاكاة الـ SDE للخلفية التباينية عند كل خطوة عقبة رئيسية في تدريب الـ SDE الكامن. يتغلب LSI على ذلك بافتراض ديناميكيات SDE خطية (انجراف خطي وضجيج مضاف). هذا يسمح باشتقاق الكثافة الشرطية $p(z_t | z_0, z_1)$ تحليلياً كتوزيع غاوسي. وبناءً على ذلك، يمكن توليد العينات الكامنة $z_t$ مباشرة عبر إعادة المعلمة (Reparameterization) دون الحاجة للتكامل العددي (خالٍ من المحاكاة)، تماماً مثل نماذج الانتشار القياسية.

ب. هدف التدريب

يتكون الـ ELBO المشتق من حدين رئيسيين:

حد إعادة البناء: $-\ln p_\theta(x_1|z_1)$ ، لضمان قدرة فك التشفير على إعادة بناء المدخلات من التمثيل الكامن.
حد عدم تطابق الديناميكيات: عقوبة على الفرق بين الانجراف التبايني وانجراف النموذج، والمشتق من تباعد KL في فضاء المسار.

دالة الخسارة النهائية (باستخدام معلمة InterpFlow) هي:
$\mathcal{L} = \mathbb{E} \left[ -\ln p_\theta(x_1|z_1) + \frac{\beta_t}{2} \left\| \sigma\sqrt{\frac{t}{1-t}}\epsilon + \sqrt{1-t}(z_1 - z_0) + \sqrt{t}z_t - \hat{h}_\theta(z_t, t) \right\|^2 \right]$
حيث:

$z_0 \sim p_0$ (السابق)، $z_1 \sim p_\theta(z_1|x)$ (الكامن المشفر).
$z_t$ هو المستوفى (Interpolant) الذي تم بناؤه كـ $z_t = \eta_t \epsilon + \kappa_t z_1 + \nu_t z_0$ .
$\beta_t$ هو حد وزن يوازن بين إعادة البناء ودقة التوليد.

ج. المكونات الهيكلية الرئيسية

التحسين المشترك: يتم تدريب المشفر، وفك التشفير، ونموذج الـ SI الكامن ( $h_\theta$ ) بشكل متزامن. وهذا يسمح للفضاء الكامن بالتطور خصيصاً لدعم العملية التوليدية، على عكس نماذج VAEs التقليدية حيث يكون الفضاء الكامن ثابتاً قبل تدريب التوليد.
التوزيعات السابقة المرنة: على عكس نماذج الانتشار القياسية التي تعتمد على توزيعات غاوسية بسيطة، يدعم LSI توزيعات سابقة تعسفية ( $p_0$ ) في الفضاء الكامن، مستفيداً من قدرة إطار SI على الجسر بين أي توزيعين.
أخذ العينات: يدعم الإطار استراتيجيات أخذ عينات مرنة، بما في ذلك أخذ العينات الحتمي (Probability Flow ODE) وأخذ العينات العشوائي (SDE)، بالإضافة إلى التوجيه الخالي من التصنيف (CFG).

3. المساهمات الرئيسية

الاستيفاء العشوائي الكامن (LSI): إطار عمل جديد يتيح التدريب المشترك والمتكامل لكل من المشفرات، وفك التشفير، والنماذج التوليدية الكامنة في الزمن المستمر.
ELBO مبني على أسس نظرية: اشتقاق ELBO في الزمن المستمر يوفر التحكم في الاحتمالية ويسمح بالتدريب الخالي من المحاكاة عبر بناء خلفية تباينية بواسطة جسر انتشار.
منظور توحيدي: يوضح أن SI يمكن دمجه في نماذج المتغيرات الكامنة، مما يجسّر الفجوة بين الطرق القائمة على التدفق (Flow-based)، ونماذج الانتشار، وVAE.
الكفاءة والمرونة: يتجنب الأسلوب العبء الحسابي لـ SI عالي الأبعاد مع الاحتفاظ بالقدرة على استخدام توزيعات سابقة متنوعة وتحقيق توليد عالي الدقة.

4. النتائج التجريبية

قيم المؤلفون LSI على معيار ImageNet (2012) بدقات 64x64، 128x128، و256x256.

الأداء: يحقق LSI درجات FID تنافسية مقارنة بنماذج SI في فضاء الملاحظة ذات عدد المعلمات المماثل. على سبيل المثال، عند دقة 128x128، حقق LSI درجة FID بلغت 3.12 (مقابل 3.46 لنموذج فضاء الملاحظة)، مما يثبت أن التعلم المشترك في الفضاء الكامن لا يضحي بالجودة.
الكفاءة الحسابية:
- توفير العمليات الحسابية (FLOPs): بينما تتشابه إجمالي المعلمات، فإن LSI أرخص بكثير أثناء أخذ العينات. لا يُستخدم المشفر، ويُستخدم فك التشفير مرة واحدة فقط. النموذج الكامن (الأصغر من نموذج الملاحظة الكامل) هو الذي يعمل بشكل متكرر.
- النتائج: أدى أخذ عينات صور 128x128 بـ 100 خطوة إلى انخفاض بنسبة 29.7% في العمليات الحسابية (FLOPs)، وشهدت صور 256x256 انخفاضاً بنسبة 64.9% مقارنة بالنماذج المرجعية في فضاء الملاحظة.
فوائد التعلم المشترك:
- أظهر تغيير وزن الخسارة $\beta$ أن التحسين المشترك للمشفر للمهمة التوليدية (عند زيادة $\beta$ ) يحسن FID بشكل كبير (من 4.53 إلى 3.75) مقارنة بالتدريب المستقل.
- الإطار قوي تجاه "تحولات السعة" (Capacity Shifts)، حيث يحافظ على الأداء حتى عند نقل قدرة النموذج من المولد الكامن إلى المشفر/فك التشفير.
مرونة التوزيع السابق: أظهرت التجارب أن LSI يعمل مع توزيعات سابقة متنوعة (Uniform, Laplacian, Gaussian Mixture)، رغم أن التوزيعات الغاوسية كانت الأفضل أداءً. وهذا يؤكد قدرة الطريقة على التحرر من قيد "التوزيع البسيط" الذي تفرضه نماذج الانتشار القياسية.
مرونة أخذ العينات: أظهرت الورقة نجاح التوجيه الخالي من التصنيف (CFG) والقلب (Inversion) (تشفير صورة إلى كامن، ثم إعادة فك تشفيرها)، مما يثبت قدرة النموذج على التحكم.

5. الأهمية والأثر

جسر الفجوة: نجح LSI في توحيد مرونة الاستيفاء العشوائي (التوزيعات السابقة التعسفية، صياغة الزمن المستمر) مع كفاءة نماذج المتغيرات الكامنة.
القابلية للتوسع: من خلال نقل العملية التوليدية إلى فضاء كامن أقل أبعاداً مع الحفاظ على ELBO صارم، يوفر LSI مساراً قابلاً للتوسع لتوليد صور عالية الدقة دون التكلفة الحسابية الهائلة لانتشار فضاء البكسل.
الصرامة النظرية: يوفر اشتقاق ELBO في الزمن المستمر للمتغيرات الكامنة أساساً نظرياً متيناً للأبحاث المستقبلية في النمذجة التوليدية الكامنة المشتركة، متجاوزاً نهج التدريب متعدد المراحل القائم على الحدس.
الفائدة العملية: القدرة على استخدام توزيعات سابقة متنوعة والتقليل الكبير في عمليات أخذ العينات (FLOPs) تجعل LSI مرشحاً واعداً للنشر في البيئات محدودة الموارد أو للتطبيقات التي تتطلب خصائص توزيعية محددة في الفضاء الكامن.

باختصار، يمثل الاستيفاء العشوائي الكامن (LSI) تقدماً كبيراً في النمذجة التوليدية، حيث يقدم بديلاً فعالاً ومرناً ومبنياً على أسس رياضية لكل من نماذج الانتشار القياسية ونماذج VAE التقليدية.