🤖 machine learning

Diffusion Models Preferentially Memorize Prototypical Examples or: Why Does My Diffusion Model Love Slop?

تُثبت هذه الورقة أن نماذج الانتشار تحفظ وتنتج بشكل مفرط الأمثلة النموذجية المكونة من سلاسل فرعية شائعة بدلاً من العينات النادرة أو غير النمطية، مما يعني أن تنوع البيانات عند مستويات التجريد الأعلى أمر بالغ الأهمية لمنع الحفظ وما ينتج عنه من "هراء" (slop) في المخرجات المولدة.

المؤلفون الأصليون: Marta Aparicio Rodriguez, Anastasia Borovykh, Grigorios A. Pavliotis, Daniel J. Korchinski

نُشر 2026-06-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Marta Aparicio Rodriguez, Anastasia Borovykh, Grigorios A. Pavliotis, Daniel J. Korchinski

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوت طباخ كيفية طهي طبق جديد. أنت تعطيه كتاب طهي ضخم (بيانات التدريب) مليء بالوصفات الفريدة. هدفك هو أن يتعلم الروبوت "مبادئ" الطبخ لكي يتمكن من ابتكار وجباته الخاصة اللذيذة، وليس مجرد نسخ الكتاب صفحة بصفحة.

ومع ذلك، يكتشف هذا البحث أن لدى الروبوت عادة غريبة: فهو لا يحفظ الوصفات الغريبة والفريدة أولاً، بل يحفظ المكونات "القياسية" والخطوات الشائعة أولاً.

إليك تفصيل ما وجده الباحثون، باستخدام تشبيهات بسيطة:

١. المفهوم الخاطئ الكبير: "الأشياء الغريبة تُحفظ أولاً"

قد تعتقد أنه إذا أراد الروبوت حفظ كتابك، فسيستقر أو يعلق في الوصفات الأكثر غرابة أو ندرة أو صعوبة أولاً لأنها تبرز بشكل لافت.

الواقع: الروبوت في الواقع "يعلق" في الأشياء الشائعة أولاً.
التشبيه: تخيل طالباً يؤدي اختباراً. قد تعتقد أنه سيعاني مع الأسئلة الأصعب والأندر أولاً. لكن هذه الدراسة تظهر أن الطالب يحفظ الأسئلة الأكثر شيوعاً ومعيارية أولاً. إذا رأى الروبوت وصفة تحتوي على "ملح وفلفل" (أمر شائع)، فإنه يتعلم هذا النمط بسرعة. أما إذا رأى وصفة تحتوي على "فاكهة التنين وزيت الكمأة" (أمر نادر)، فسيستغرق وقتاً أطول بكثير لحفظ هذا المزيج المحدد.

٢. مرحلة "الركاكة" (Slop): عندما يصبح الروبوت باهتاً

الجزء الأكثر إثارة للاهتمام في الورقة البحثية هو مرحلة محددة في تعلم الروبوت تسمى مرحلة "الركاكة" (Slop).

ماذا يحدث: قبل أن يبدأ الروبوت في نسخ وصفات كاملة بدقة، يدخل في مرحلة وسطى. في هذه المرحلة، يتوقف عن محاولة الإبداع ويبدأ في الإفراط في استخدام المكونات الأكثر شيوعاً التي تعلمها في البداية.
التشبيه: تخيل موسيقياً يتعلم عزف الجاز. في البداية، يعزف مقطوعات أصلية ومعقدة. ثم يصطدم بمرحلة "الركاكة" حيث يتوقف عن الارتجال ويعزف نفس النوتات الثلاث البسيطة والشعبية مراراً وتكراراً. إنه لا ينسخ أغنية محددة، لكنه يصبح مملاً ومتكرراً لأنه يكرر فقط الأجزاء "الشائعة" التي حفظها أولاً.
النتيجة: إذا أوقفت تدريب الروبوت خلال مرحلة "الركاكة" هذه، فإنه سينتج مخرجات تبدو آمنة، عامة، وباهتة—وهو ما يسميه الناس عبر الإنترنت غالباً بـ "الركاكة الاصطناعية" (AI slop).

٣. درس "الليغو": حفظ الطوب قبل القلاع

استخدم الباحثون نوعاً خاصاً من البيانات الاصطناعية يعمل مثل مكعبات الليغو.

كيف يعمل: يتم بناء "صورة" من كتل كبيرة (مثل قطة)، والتي تتكون من كتل أصغر (أذنان، عينان)، والتي تتكون بدورها من كتل صغيرة جداً (ألوان، أشكال).
النتيجة: يحفظ الروبوت الكتل الصغيرة والشائعة (مثل اللون "البرتقالي" أو الشكل "الدائري") قبل أن يحفظ الصورة الكاملة.
الخطر: حتى لو قمت بإزالة الصور المكررة من بيانات التدريب (بحيث تكون كل صورة فريدة تماماً)، فإن الروبوت لا يزال يحفظ الأجزاء الشائعة لتلك الصور أولاً. وهذا يعني أن مجرد إزالة المكررات ليس كافياً لمنع الروبوت من "الغش" عبر حفظ الكتل البنائية.

٤. لماذا تساعد "الذيول السميكة" (الذيل الطويل للندرة)

نظرت الورقة البحثية في مجموعات البيانات التي تكون فيها بعض الأشياء شائعة جداً وأخرى نادرة جداً ("توزيع ذي الذيل السميك").

النتيسة: إذا كان لديك مجموعة بيانات تحتوي على تنوع هائل من الأشياء النادرة والغريبة (ذيل طويل)، فإن الروبوت سيستغرق وقتاً أطول ليبدأ في حفظ أي شيء.
التشبيه: إذا قدمت للروبوت مكتبة تضم 99% من الكتب عن "القطط" و1% عن "قطط فضائية غريبة"، فسيحفظ كتب "القطط" فوراً. لكن إذا قدمت له مكتبة حيث كل كتاب هو قصة فريدة وغريبة عن كائن فضائي مختلف، فسيستغرق وقتاً أطول بكثير ليبدأ في نسخها لأنه لا يوجد نمط "شائع" يمكنه التشبث به.
الدرس: التنوع هو درع. كلما كانت بياناتك أكثر تنوعاً و"غرابة"، زادت صعوبة وقوع النموذج في فخ حفظ وإنتاج المحتوى الممل ("الركاكة").

٥. الخلاصة للمبدعين

تخلص الورقة البحثية إلى أنه إذا كنت تريد تجنب إنتاج الذكاء الاصطناعي لمحتوى ممل ومتكرر ("الركاكة")، فعليك أن تكون حذراً بشأن متى توقف تدريب النموذج.

إذا توقفت مبكراً جداً، فقد يكون النموذج في مرحلة "الركاكة"، حيث يفرط في استخدام الميزات الشائعة.
إذا تركته يتدرب لفترة طويلة جداً، فإنه يبدأ في حفظ مجموعة البيانات بأكملها.
النقطة المثالية: هي نافذة ضيقة حيث يفهم النموذج القواعد ولكنه لم يبدأ بعد في الاعتماد المفرط على الأنماط الأكثر شيوعاً.

باختًا: نماذج الانتشار (Diffusion models) -وهي الذكاء الاصطناعي وراء العديد من مولدات الصور- تفضل حفظ الأشياء "المتوسطة" و"الشائعة" أولاً. يؤدي هذا إلى مرحلة تنتج محتوى باهتاً ومتكرراً قبل أن تبدأ في النهاية في نسخ أمثلة محددة. ولتجنب ذلك، تحتاج إلى بيانات متنوعة وتوقيت دقيق لمتى توقف عملية التدريب.

ملخص تقني: نماذج الانتشار تفضل حفظ الأمثلة النموذجية

بيان المشكلة

تواجه النماذج التوليدية، ولا سيما نماذج الانتشار (Diffusion Models)، قيداً مستمراً: الميل إلى حفظ بيانات التدريب بدلاً من تعلم التعميم والتركيب لعينات جديدة. تثير هذه الظاهرة مسؤوليات قانونية جسيمة تتعلق بحقوق الطبع والنشر والخصوصية، بينما تؤدي في الوقت نفسه إلى تآكل التنوع الإبداعي. وتظل هناك مشكلة مفتوحة وحرجة تتمثل في فهم أي العينات يتم حفظها، ومتى يتم حفظها، وتحت أي ظروف.

تقدم الأدبيات الحالية فرضيات متنافسة بشأن ترتيب الحفظ:

الفرضية الأولى (النادر أولاً): يتم حفظ العينات الشاذة أو النادرة أولاً لأنها تهيمن على إشارات الخسارة (Loss) والتدرج (Gradient) بمجرد تحقيق التعميم.
الفرضية الثانية (الشائع أولاً): يتم حفظ العينات ذات الميزات الشائعة أو التكرار العالي أولاً بسبب تعزيز التدرج المستمر.
الفرضية الثالثة (المتزامن): الحفظ هو ظاهرة عالمية على مستوى مجموعة البيانات حيث يتم حفظ العينات بشكل متزامن تقريباً بمجرد تجاوز عتبة معينة من خطوات التدريب.

علاوة على ذلك، غالباً ما تكون الحدود بين التعميم والحفظ ضبابية، وتفشل المقاييس الحالية في التمييز بين إعادة إنتاج التسلسل الكامل وبين "الحفظ الجزئي" للمكونات الفرعية (مثل الأنسجة المحددة أو الهياكل النحوية). هذا النقص في الدقة يجعل من الصعب تحديد ظهور "الركاكة" (Slop)—وهي المخرجات التي تفرط في استخدام الزخارف والأنماط الشائعة الملاحظة في بيانات التدريب.

المنهجية

لفك تشابك هذه الفرضيات وتحليل ديناميكيات الحفظ على مستوى دقيق، يستخدم المؤلفون إطاراً تركيبياً محكماً مقترناً بتجارب على بيانات من العالم الحقيقي.

الإطار التركيبي: نموذج الهرم العشوائي (RHM)

يستخدم المؤلفون نموذج الهرم العشوائي (RHM)، وهو مولد بيانات تركيبية يحاكي التركيب الهرمي للبيانات الطبيعية (مثل المشاهد المكونة من أشياء، والأشياء المكونة من أجزاء).

البنية: يتم توليد البيانات عبر قواعد لغوية سياقية احتمالية حيث يتم تفكيك الرموز عند العمق $\ell$ إلى مجموعات من الرموز الفرعية عند العمق $\ell+1$ .
التحكم في الندرة: لإدخال ندرة العينات، قام المؤلفون بتوسيع نموذج RHM (باتباع Cagnetta et al., 2025) عن طريق تطبيق تكرارات أخذ العينات بنمط زيبف (Zipfian sampling frequencies) على قواعد الإنتاج عند مستوى هرمي محدد $\ell_z$ . وهذا يخلق توزيعاً يتبع قانون القوة حيث تكون بعض القواعد (وبالتالي العينات التي تحتوي عليها) أكثر احتمالاً بك הרבה من غيرها.
التدريب: يتم تدريب نماذج الانتشار (انتشار متعدد الحدود بـ U-Net) على هذه السلاسل التركيبية. تم اختيار حجم مجموعة البيانات بعناية ليكون كبيراً بما يكفي لتحقيق التعميم، وصغيراً بما يكفي بالنسبة للمساحة القانونية الإجمالية للسماه بالكشف عن الحفظ.

المقاييس والتعريفات

يقدم البحث تعريفات صارمة للتمييز بين أنماط التعلم المختلفة:

الحفظ الكامل: نسبة العينات المولدة التي هي نسخ طبق الأصل من بيانات التدريب.
الحفظ الجزئي: نظام يعيد فيه النموذج إنتاج مكونات (سلاسل فرعية أو مجموعات فرعية) من بيانات التدريب دون توليد نسخ مطابقة تماماً. يعرّف المؤلفون مُقدِّراً $\lambda$ لقياس مدى انحراف سلوك النموذج عن أخذ العينات العادل نحو حفظ قواعد محددة.
وقت الحفظ ( $t_{mem}$ ): أبكر خطوة تدريب تظهر فيها عينة محددة (أو مكون فرعي) في المخرجات المولدة.

التحقق من العالم الحقيقي

للتحقق من النتائج على البيانات الطبيعية، قام المؤلفون بتدريب نماذج الانتشار على مجموعات فرعية من مجموعة بيانات CelebA. استخدموا مصنفاً متعدد الملصقات ونموذج إيزينج (Ising model) لتقدير الاحتمالية اللوغاريتمية (الندرة) للصور بناءً على 40 سمة وجهية، مما سمح لهم بربط توقيت الحفظ بندرة العينات في بيئة غير تركيبية.

المساهمات والنتائج الرئيسية

1. العينات الشائعة تُحفظ أولاً

يرفض البحث بشكل قاطع الفرضية الأولى. عبر مختلف أحجام النماذج والمستويات الهرمية، يتم حفظ العينات المكونة من سلاسل فرعية شائعة (احتمالية لوغاريتمية عالية) بشكل تفضيلي في وقت مبكر من العينات النادرة.

حتى في مجموعات البيانات المكونة بالكامل من عينات فريدة (لا توجد تكرارات مطابقة)، يتعلم النموذج ويعيد إنتاج تركيبات الميزات الشائعة أولاً.
هذا يعني أن إزالة التكرار (Deduplication) على مستوى نقطة البيانات لا يوفر ضمانة خصوصية ذات معنى ضد حفظ تركيبات الميزات الشائعة.

2. التوزيعات ذات الذيول السميكة تؤخر الحفظ

يوضح المؤلفون أن "سُمك" ذيل توزيع البيانات يؤثر مباشرة على سرعة الحفظ.

مجموعات البيانات ذات التوزيعات ذات الذيول السميكة (التي تحتوي على عينات نادرة/غير نمطية أكثر) تظهر تأخراً في الحفظ.
يتضخم هذا التأثير عندما يتم إدخال الذيل الثقيل عند مستويات أعلى من التجريد (مثل التباين على مستوى الفئة). وعلى العكس من ذلك، فإن التباين في المستويات الأدنى والأكثر دقة من التجريد (مثل ميزات مستوى الورقة) له تأثير أقوى في تسريع الحفظ.

3. نظام "الركاكة": الحفظ الجزئي

يحدد البحث نظاماً وسيطاً متميزاً من الحفظ الجزئي يحدث قبل الحفظ الكامل للتسلسل.

الآلية: خلال هذه المرحلة، يتعلم النموذج الميزات المنخفضة المستوى الشائعة أولاً. ومع تقدم التدريب، يبدأ النموذج في الإفراط في إنتاج هذه الميزات الشائعة مع نقص إنتاج الميزات النادرة.
النتيجة: يؤدي هذا إلى تحول في التوزيع حيث تتكون المخرجات المولدة من تركيبات "باهتة" أو مبتذلة من الزخارف الشائعة. يطلق المؤلفون على هذه الظاهرة اسم "الركاكة" (Slop).
الديناميكيات: يتزامن هذا الإفراط في الإنتاج مع تدهور مؤقت في قدرة النموذج على توليد عينات صالحة (انخفاض في FID للصور أو توليد سلاسل صالحة لـ RHM) مع إعادة تخصيص قدرة النموذج لترميز أمثلة التدريب.

4. قيود التوقف المبكر

يسلط البحث الضوء على خطر حرج في استراتيجيات التدريب. بينما يُستخدم التوقف المبكر غالباً لمنع الحفظ الكامل (عندما تتباعد خسارة التحقق)، يمكن أن تحدث مرحلة "الركاكة" قبل أو بالتزامن مع تباعد خسائر التدريب والاختبار.

التوقف عن التدريب في وقت متأخر جداً (حتى قبل الحفظ الكامل) يمكن أن ينتج نماذج منحازة لتوليد ميزات شائعة.
النماذج الأصغر حجماً تظهر مرحلة "ركاكة" أطول وتكون أكثر عرضة لهذا الانحياز، مما يشير إلى أن تقليل قدرة النموذج وحده قد لا يخفف من إنتاج مخرجات منخفضة التنوع.

الأهمية

يزعم البحث أن نتائجه تحل الغموض بشأن ما إذا كانت نقاط البيانات الشائعة أو الشاذة تُحفظ أولاً، مما يدعم الرؤية القائلة بأن الأمثلة النموذجية يتم تعلمها وإعادة إنتاجها أولاً.

تكمن أهمية هذا العمل في:

تحسين فهم الخصوصية وحقوق الطبع والنشر: يوضح أن الحفظ ليس مجرد وظيفة لتكرار البيانات، بل مدفوع بالبنية التركيبية وتكرار الميزات الفرعية. هذا يشير إلى أن مخاطر الخصوصية تستمر حتى في مجموعات البيانات التي تمت إزالة التكرار منها إذا وجدت تركيبات ميزات شائعة.
تفسير "الركاكة": يقدم تفسيراً ميكانيكياً لظاهرة "الركاكة" التي غالباً ما تُنتقد في الذكاء الاصطناعي التوليدي، ويربطها بمرحلة محددة من الحفظ الجزئي حيث يتم الإفراط في تمثيل الميزات الشائعة.
تنسيق مجموعات البيانات: يشير إلى أن تنوع مجموعة البيانات، وخاصة عند المستويات الأعلى من التجريد، يلعب دوراً حاسماً في منع الحفظ.
مقاييس التقييم: يجادل بضرية الحاجة إلى مقاييس تقييم أكثر دقة يمكنها اكتشاف الحفظ الجزئي والانحيازات على مستوى الميزات، بدلاً من الاعتماد فقط على مقاييس إعادة إنتاج العينة بأكملها.

يخلص المؤلفون إلى أنه بينما تكون نماذج الانتشار عرضة للحفظ، فإن العملية مرحلية وهرمية، تبدأ بالإفراط في إنتاج الميزات الفرعية الشائعة قبل الانتقال إلى إعادة إنتاج العينة الكاملة.