📊 statistics

Multi-Objective Learning for Diffusion Models: A Statistical Theory under Semi-Supervised Learning

تقترح هذه الورقة إطار عمل تدريب شبه مُشرف يتكون من مرحلتين، يقوم بتقطير نماذج الانتشار المتخصصة خفيفة الوزن في نموذج عام باستخدام بيانات غير مُصنفة وفيرة، مما يحقق تعلماً فعالاً متعدد الأهداف بضمانات إحصائية تعتمد فقط على تعقيد النماذج المتخصصة بدلاً من النموذج العام.

المؤلفون الأصليون: Ziheng Cheng, Yixiao Huang, Hanlin Zhu, Haoran Geng, Somayeh Sojoudi, Jitendra Malik, Pieter Abbeel, Xin Guo

نُشر 2026-05-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziheng Cheng, Yixiao Huang, Hanlin Zhu, Haoran Geng, Somayeh Sojoudi, Jitendra Malik, Pieter Abbeel, Xin Guo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت أو برنامج كمبيوتر القيام بالعديد من الوظائف المختلفة في آن واحد. رب maybe يحتاج إلى رسم صور بأسلوب الأنمي، أو بأسلوب اللوحات الزيتية، أو بأسلوب الصور الواقعية. أو ربما يحتاج إلى مساعدة ذراع روبوت لالتقاط مكعب أحمر، ومكعب أزرق، ومكعب أخضر.

في عالم الذكاء الاصطناعي، يُسمى هذا التعلم متعدد الأهداف (Multi-Objective Learning). والهدف هو بناء "عقل عام" (Generalist) واحد يكون جيداً في كل هذه المهام.

المشكلة: "متعدد المواهب" مكلف للغاية

عادةً، لتدريب هذا العقل العام، تحتاج إلى كمية هائلة من الأمثلة المثالية. لكل مهمة، تحتاج إلى زوج من البيانات: التعليمات (مثل "ارسم قطة") والنتيجة المثالية (الصورة الفعلية للقطة).

ولكن هنا تكمن العقبة: الحصول على تلك الأزواج المثالية أمر صعب ومكلف.

في الروبوتات: تحتاج إلى خبير بشري يقوم بتنفيذ المهمة آلاف الممرات فعلياً.
في الفن: تحتاج إلى أزواج صور عالية الجودة ومنقحة.

ومع ذلك، فأنت تمتلك بالفعل الكثير من "التعليمات" (الشروط). لديك الملايين من النصوص التوجيهية أو ملايين مواضع البداية للروبوت، لكن ليس لديك الإجابات المثالية لكل منها. هذه هي مشكلة "التعلم شبه المُشرف" (Semi-Supervised): الكثير من الأسئلة، ولكن القليل جداً من الإجابات.

إذا حاولت تدريب العقل العام الكبير مباشرة على الإجابات القليلة التي تملكها، فالأمر يشبه محاولة تعليم طالب دكتوراه إتقان كل موضوع في العالم باستخدام كتاب مدرسي واحد فقط. هذا غير فعال، وقد لا يتعلم الطالب بشكل جيد.

الحل: "المتخصصون" المتدربون

يقترح المؤلفون حيلة ذكية من خطوتين، تشبه تدريب رئيس طهاة جديد من قِبل شيف رئيسي.

الخطوة 1: تدريب المتخصصين (المتدربين)
بدلاً من تدريب العقل العام الكبير فوراً، تقوم أولاً بتدريب نماذج "متخصصة" صغيرة وخفيفة الوزن.

تعطي المتخصص رقم 1 الأمثلة القليلة لـ "أسلوب الأنمي" وتُعلمه ذلك الأسلوب فقط.
تعطي المتخصص رقم 2 أمثلة "اللوحات الزيتية" وتُعلمه إياها فقط.
تعطي المتخصص رقم 3 أمثلة "الواقعية" وتُعلمه إياها فقط.

لأن هؤلاء المتخصصين صغار ومركزون، فإنهم يتعلمون بسرعة وكفاءة عالية من الكمية الصغيرة المتاحة من البيانات. يصبحون خبراء في ركنهم الصغير والمحدد من العالم.

الخطوة 2: العقل العام يتعلم من المتخصصين
الآن، لديك مشكلة: لا تزال تملك الملايين من "التعليمات" (بيانات غير مصنفة) ولكن ليس لديك "إجابات".

تأخذ تلك الملايين من التعليمات وتمررها إلى المتخصصين لديك.
المتخصص رقم 1 ينشئ صورة "أنمي" مزيفة لتعليمات معينة.
المتخصص رقم 2 ينشئ صورة "لوحة زيتية" مزيفة لتعليمات أخرى.

تُسمى هذه "العينات الزائفة" (Pseudo-samples). هي ليست مثالية، لكنها جيدة بما يكفي. الآن، أصبح لديك مكتبة ضخمة من أزواج "التعليمات + الإجابة المولدة".

تأخذ نموذجك العام القوي والكبير وتدربه على هذه المكتبة الضخمة من العينات الزائفة (بالإضافة إلى الأمثلة الحقيقية القليلة الأصلية). يتعلم العقل العام من المتخصصين، مما يؤدي فعلياً إلى "تقطير" معرفتهم في عقل واحد كبير.

لماذا هذا أمر مهم (النظرية)

يقدم البحث إثباتاً رياضياً (نظرية إحصائية) يوضح سبب نجاح هذا الأسلوب بشكل كبير.

فكر في الأمر كالتالي:

الطريقة القديمة: لتعلم مهارة معقدة، تحتاج إلى عدد هائل من محاولات التدريب. عدد المحاولات المطلوبة يزدزد مع مدى تعقيد المهارة.
الطريقة الجديدة: يثبت المؤلفون أن عدد محاولات التدريب الحقيقية والمكلفة التي تحتاجها يعتمد فقط على مدى تعقيد المتخصصين، وليس مدى تعقيد العقل العام.

بما أن المتخصصين صغار وبسطاء، فأنت تحتاج إلى أمثلة حقيقية قليلة جداً لتدريبهم. أما العقل العام فهو ضخم ومعقد، ولكن لأنه يتعلم من البيانات "الزائفة" التي يولدها المتخصصون، فإنه لا يحتاج إلى عدد هائل من الأمثلة الحقيقية للتعلم.

النتيجة: تحصل على نموذج "عام" فائق الذكاء يتعامل مع مهام عديدة بشكل جيد، ولكنك لم تضطر سوى لدفع "ثمن" جمع البيانات للنماذج الصغيرة والبسيطة.

الاختبارات في العالم الحقيقي

اختبر المؤلفون هذه الفكرة في مجالين مختلفين تماماً:

الروبوتات: علموا ذراعاً روبوتية تكديس والتقاط المكعبات. قاموا بتدريب متخصصين صغار لظروف إضاءة وزوايا كاميرا مختلفة، ثم استخدمواهم لتدريب عقل عام كبير. النتيجة؟ كان الروبوت أفضل بكثير في التعامل مع البيئات الجديدة غير المرئية (مثل الإضاءات أو زوايا الكاميرا المختلفة) مقارنة بما لو كانوا قد دربوا الروبوت الكبير مباشرة على الأمثلة الحقيقية القليلة التي كانت لديهم.
ترميم الصور: حاولوا إصلاح الصور التالفة (Inpainting). قاموا بتدريب متخصصين لإصلاح أنواع مختلفة من الأضرار (مثل الخطوط، أو أقنعة الوجه، أو الخدوش العريضة). ثم استخدموا هؤلاء المتخصصين لتوليد بيانات تدريب لنموذج عام كبير. النتيجة كانت أن النموذج العام أصلح الصور بشكل أفضل بكثير من النماذج التي تدربت فقط على البيانات الحقيقية المحدودة.

الخلا-صيصة

يظهر هذا البحث أنه عندما تكون مقيداً ببيانات حقيقية ومثالية باهظة الثمن، فلا تحاول إجبار ذكائك الاصطناعي الكبير على تعلم كل شيء دفعة واحدة. بدلاً من ذلك، وظّف "متخصصين" صغاراً ورخيصين لتعلم الأساسيات بسرعة، واتركهم يولدون مواد تدريبية، ثم علّم "العقل العام" الكبير أن يتعلم من ذلك. إنها طريقة أذكى، وأرخص، وأكثر كفاءة لبناء ذكاء اصطناعي قوي.

ملخص تقني: التعلم متعدد الأهداف لنماذج الانتشار في ظل التعلم شبه الموجه

1. بيان المشكلة

يتم نشر نماذج الانتشار (Diffusion models) بشكل متزايد كمولدات شرطية لمهام متنوعة، مثل توليد الصور من النصوص عبر نطاقات مطالبات (prompts) متباينة، أو التحكم الروبوتي عبر بيئات متعددة. تشكل هذه السيناريوهات بطبيعتها مشكلة تعلم متعدد الأهداف (MOL)، حيث يجب على نموذج واحد تحقيق أداء أمثل (Pareto-optimal) عبر توزيعات مستهدفة متعددة.

يتمثل التحدي المركزي في هذا السياق في التكلفة الإحصائية لتدريب نموذج "عام" (generalist). فللتعامل مع أهداف متعددة، تتطلب فئة النموذج العام ( $\mathcal{F}$ ) عادةً قدرة استيعابية أكبر بكثير من فئات النماذج "المتخصصة" ( $\mathcal{H}_k$ ) المطلوبة للمهام الفردية. وفي حالات الإشراف الكامل، يتناسب تعقيد العينات اللازم لتدريب النموذج العام مع تعقيده الخاص ( $C_\mathcal{F}$ )، وهو ما يكون غالباً مرتفعاً بشكل غير معقول.

علاست ذلك، تواجه عمليات النشر في العالم الحقيقي غالباً نظام بيانات غير متماثل:

البيانات المقترنة $(x, y)$ (مثل أزواج النص والصورة المنسقة أو عروض الخبراء للروبوتات) نادرة ومكلفة الاقتناء.
بيانات الشروط غير المقترنة $y$ (مثل المطالبات النصية الخام أو ملاحظات الحالة) وفيرة.

يعالج هذا البحث السؤال التالي: هل يمكننا تعلم نموذج انتشار أمثل (Pareto-optimal) بطريقة فعالة من حيث العينات عبر الاستفادة من البيانات ذات الإشراف الضعيف (الشروط غير المصنفة)؟

2. المنهجية

يقترح المؤلفون إطار عمل تدريب شبه موجه من مرحلتين يوفق بين الحاجة إلى نموذج عام عالي القدرة وبين ندرة البيانات المقترنة.

المرحلة الأولى: تدريب المتخصص (Specialist Training)

لكل هدف من الأهداف $K$ (التوزيعات المستهدفة $P_k$ )، يتم تدريب دالة درجة (score function) متخصصة خفيفة الوزن $h_k \in \mathcal{H}_k$ باستخدام البيانات المقترنة المتاحة المحدودة $\{(x_i^k, y_i^k)\}_{i=1}^n$ فقط.

يُفترض أن فئات المتخصصين $\mathcal{H}_k$ تمتلك تعقيداً أقل بكثير ( $C_{\mathcal{H}_k} \ll C_\mathcal{F}$ ) من فئة النموذج العام.
يعمل التدريب على تقليل هدف مطابقة الدرجة لإزالة الضجيج (denoising score matching) على البيانات المقترنة.

المرحلة الثانية: تدريب العام عبر أخذ العينات الزائفة (Generalist Training via Pseudo-Sampling)

يتم تدريب نموذج عام ضخم $f \in \mathcal{F}$ لتقريب مجموعة الحلول المثلى (Pareto-optimal set) عبر جميع الأهداف.

توليد العينات الزائفة: تُستخدم المتخصصون المدربون $\{h_k\}$ لتوليد بيانات مقترنة زائفة. لكل شرط غير مصنف وفير $y_i^k \sim P_Y^k$ ، يقوم المتخصص بتوليد هدف زائف $\tilde{x}_i^k \sim P_{h_k}(\cdot|y_i^k)$ .
الهدف: يتم تدريب النموذج العام على مزيج من البيانات الأصلية المصنفة والبيانات الزائفة المولدة. يقلل هدف التدريب من عملية التسكير (scalarization) $S$ لخسائر مطابقة الدرجة عبر جميع الأهداف $K$ :
$\hat{f}_S = \arg\min_{f \in \mathcal{F}} S(\tilde{L}_1(f), \dots, \tilde{L}_K(f))$
حيث $\tilde{L}_k$ هي الخسارة التجريبية المحسوبة عبر العينات الزائفة (مع حد تصحيحي لمراعاة انحياز المتخصص).

التوسع في اتخاذ القرار المتسلسل

يتم توسيع إطار العمل ليشمل سياسات الانتشار (diffusion policies) في التعلم بالتقليد. هنا، يكون "الشرط" هو الحالة $s$ ، و"الهدف" هو الإجراء $a$ . يعالج المؤلفون انزياح التوزيع (distribution shift) المتأصل في عمليات التشغيل (rollouts) داخل السياسة (on-policy): بما أن توزيعات الحالة للخبير يصعب أخذ عينات منها مباشرة، تستخدم المرحلة الثانية مسارات تم توليدها بواسطة سياسات المتخصص المتعلمة تحت ديناميكيات البيئة لجمع بيانات زائفة للسياسة العامة.

3. المساهمات النظرية الرئيسية

حدود تعقيد العينات

يضع البحث حدود تعميم غير تقاربية (non-asymptotic) للنهج شبه الموجه المقترح.

النتيجة الرئيسية (النظرية 3.2): عدد العينات المقترنة (المصنفة) المطلوبة لتحقيق خطأ مستهدف $\epsilon$ $ϵ$ يعتمد فقط على تعقيد فئات المتخصصين ( $C_{\mathcal{H}_k}$ $C_{H_{k}}$ )، وليس فئة النموذج العام ( $C_\mathcal{F}$ $C_{F}$ ).
- العينات المقترنة المطلوبة: $\tilde{O}\left(\frac{K C_\mathcal{H}}{\epsilon^2}\right)$ .
- الشروط غير المصنفة المطلوبة: $\tilde{O}\left(\frac{K C_\mathcal{F}}{\epsilon^2}\right)$ .
المقارنة: في المقابل، يتطلب التدريب التقليدي للإشراف الكامل للنموذج العام $\tilde{O}\left(\frac{K C_\mathcal{F}}{\epsilon^2}\right)$ من العينات المقترنة. وهذا يوضح تحسناً كبيراً في كفاءة العينات عندما يكون $C_\mathcal{F} \gg C_\mathcal{H}$ .
التسكير الخطي (النظرية 3.5): بالنسبة لعمليات التسكير الخطي (الجمع الموزون) وفئات الدوال المحدبة، يستنتج المؤلفون معدلات أكثر دقة، مما يعزز الحد الخاص بخطأ التقريب.

تقدير التوزيع وضمانات السياسة

تقدير التوزيع: يربط البحث بين خطأ مطابقة الدرجة وتقدير التوزيع (مسافة التباين الكلي - Total Variation distance). ويثبت أن النموذج العام المتعلم يحقق أداءً أمثلاً (Pareto-optimal) في تقريب التوزيعات الشرطية المستهدفة.
سياسات الانتشار (النظرية 3.6): يقدم المؤلفون أول ضمان نظري على فجوة دون المثالية (sub-optimality gap) لسياسات الانتشار في التعلم بالتقليد تحت الإعدادات شبه الموجهة. ويظهرون أن إطار العمل يعالج بنجاح انزياح التوزيع الناتج عن عمليات التشغيل (on-policy rollouts) مع الاحتفاظ بفوائد كفاءة العينات لمسار (المتخصص إلى العام).

4. النتائج التجريبية

يتحقق المؤلفون من نظريتهم في مجالين متميزين:

التلاعب الروبوتي (StackCube & PickCube):
- الإعداد: تدريب سياسات الانتشار لمهام تحت تغيير عشوائي للمجال (المشهد، الإضاءة، وضع الكاميرا).
- النتيجة: تفوق منهج التعلم متعدد الأهداف شبه الموجه بشكل كبير على خط الأساس المعتمد على البيانات المصنفة فقط، لا سيما في حالات خارج التوزيع (OOD) (على سبيل المثال، زيادة بنسبة +16% في معدل النجاح في StackCube المستوى 2، و+14% في المستوى 3). يشير هذا إلى أن عمليات التشغيل الزائفة توفر إشرافاً حاسماً للتعامل مع انزياحات التوزيع.
ترميم الصور (CelebA-HQ Inpainting):
- الإعداد: ترميم الوجوه باستخدام ثلاثة أنواع مختلفة من الأقنعة (خطوط متبادلة، منطقة الوجه، ضربة عريضة).
- النتيجة: حسن النهج شبه الموجه قيم PSNR وSSIM وLPIPS عبر جميع أنواع الأقنعة مقارنة بخط الأساس المعتمد على البيانات المصنفة فقط، مما يثبت فعالية الطريقة في مهام الصور التوليدية.

5. الأهمية والادعاءات

يدعي البحث تقديم إطار إحصائي رصين للتعلم متعدد الأهداف في نماذج الانتشار تحت الأنظمة شبه الموجهة. تكمن أهميته الأساسية في:

الربط بين النظرية والتطبيق: إنه يضفي صبغة رسمية على مسار التقطير (distillation) من "المتخصص إلى العام"، ويقدم تبريراً نظرياً لسبب كون هذا النهج أكثر كفاءة في العينات من التعلم متعدد المهام المباشر عندما تكون البيانات المصنفة شحيحة.
كفاءة العينات: يثبت أنه يمكن فصل التكلفة الإحصائية لتعلم نموذج عام معقد عن قدرته الاستيعابية، والاعتماد بدلاً من ذلك على تعقيد المتخصصين الخفيفين الذين يتم تدريبهم على بيانات محدودة.
التعامل مع انزياح التوزيع: يوسع هذه الضمانات لتشمل اتخاذ القرار المتسلسل (التعلم بالتقليد)، مما يعالج تحدياً عملياً حرجاً في الروبوتات.

يتخذ المؤلفون موقفاً متواضعاً، حيث يقرون بأن ضماناتهم تعتمد على فرضية القابلية للتحقيق (أن دوال الدرجة الحقيقية تقع ضمن فئات المتخصصين) وأنهم لا يعالجون حالياً التعميم خارج التوزيع (OOD) بما يتجاوز مستويات تغيير المجال المختبرة. وهم يعتبرون هذا العمل خطوة تأسيسية نحو فهم الخصائص الإحصائية للتعلم متعدد الأهداف شبه الموجه للنماذج التوليدية.