Adynamical systems view of training generativemodels and the memorization phenomenon

ملخص تقني: رؤية من منظور الأنظمة الديناميكية لتدريب النماذج التوليدية وظاهرة الحفظ (Memorization)

بيان المشكلة
تتناول الورقة ظاهرة "الحفظ" (memorization) في النماذج التوليدية، ولا سيما نماذج الانتشار (diffusion models). تجريبياً، يدخل هذا النوع من النماذج أحياناً أثناء عملية التدريب في مراحل تعيد فيها توليد نفس العينات أو عينات متشابهة للغاية لفترات زمنية طويلة، بدلاً من إنتاج مخرجات متنوعة. وبينما تحلل الأدبيات الحالية هذه الظاهرة غالباً من خلال الميكانيكا الإحصائية الساكنة أو الديناميكا الحرارية لمشهد الخسارة (loss landscape)، تقترح هذه الورقة منظوراً قائماً على الأنظمة الديناميكية. يجادل المؤلفون بأن الحفظ ليس مجرد خاصية ساكنة لمشهد الخسارة، بل هو سلوك ناشئ عن التطور الزمني لخوارزمية التدريب، وتحديداً بسبب استخدام أحجام خطوة ثابتة (constant step sizes) في خوارزمية التدرج الاشتقاقي العشوائي (SGD) ووجود ضجيج ماركوف (Markov noise).

المنهجية والإطار العملي
يبني المؤلفون إطاراً نظرياً يعتمد على ثلاثة مكونات أساسية:

1. ديناميكيات المقياسين الزمنيين عبر نظرية أوستن (Austin's Theorem):
   بالاستناد إلى أوستن [2016]، يفترض المؤلفون أنه في فضاءات المعلمات عالية الأبعاد ذات القيود الليبشيتزية (Lipschitz constraints)، تظهر دالة الخسارة اعتماداً قوياً على مجموعة فرعية من المعلمات واعتماداً ضعيفاً على بقية المعلمات. يحفز هذا بناء نموذج مبسط حيث تأخذ دالة الهدف $F(z)$ (حيث $z=(x,y)$) الشكل $F(z) = f(x, \epsilon y)$ مع $0 < \epsilon \ll 1$. هذا الهيكل يستحث طبيعياً مقياسين زمنيين متمايزين في تحديثات الـ SGD: مقياس سريع لـ $x$ ومقياس بطيء لـ $y$.

2. خوارزمية SGD مع ضجيج ماركوف:
   يتم نمذجة خوارزمية التدريب كنموذج تقريب عشوائي بضجيج ماركوف. ينشأ الضجيج $\{Z_n\}$ من النموذج التوليدي نفسه (على سبيل المثال، عملية الانتشار) الذي يتم ضبط معلماته. احتمالات الانتقال لهذا الضجيج يتم تعديلها بواسطة المعلمات الحالية. يستخدم المؤلفون نظرية التقريب العشوائي مع ضجيج ماركوف (Benveniste et et al. [1990]; Borkar [2025c]) لتحليل النظام، مشيرين إلى أن الضجيج يتطور على مقياس زمني "طبيعي" أسرع بكثير من المقياس الزمني "الخوارزمي" للمعلمات.

3. الانهيار كـ "سلسلة ماركوف امتصاصية" (Absorbing Markov Chain):
   تعرف الورقة "الانهيار" (collapse) رسمياً باستخدام نتائج بوركار [2025a]. في سياق النماذج التوليدية، تشكل متوالية مقاييس الاحتمال التي يولدها النموذج سلسلة ماركوف متجانسة زمنياً. وتحت شروط معينة (تحديداً عندما يكون معامل الخلط $a=0$)، تتقارب هذه السلسلة بشكل شبه مؤكد إلى مقياس ديراك (Dirac measure) متركز عند نقطة عشوائية. هذا الانهيار التقاربي إلى مخرج واحد هو التعريف الرياضي لظاهرة الانهيار.

المساهمات والنتائج الرئيسية

• التمييز بين أحجام الخطوة:
  تقارن الورقة بين خوارزمية SGD ذات حجم الخطوة المتناقص (التي تؤدي إلى التقارب) وبين SGD ذات حجم الخطوة الثابت (محل التركيز في هذا العمل). في نظام الخطوة المتناقصة، يتقارب النظام نحو الحد الأدنى العالمي، مما يؤدي إلى انهيار كامل (النظرية 7). ومع ذلك، يجادل المؤلفون بأن ظاهرة الحفظ العملية هي خاصة بـ حجم الخطوة الثابت في SGD.

• السلوك التقاربي لـ SGD ذات الخطوة الثابتة:
  بالاستفادة من النتائج الحديثة لـ Azizian et al. [2024] و Hwang [1981]، يحلل المؤلفون التوزيع المحدود لـ SGD ذات الخطوة الثابتة. ويخلصون إلى ما يلي:

  • تتركز التكرارات عند نقاط الحد الأدنى لـ "دالة معدل الانحراف الكبير" (large deviations rate function) (وهي دالة طاقة)، والتي لا تتطابق بالضرورة مع الحد الأدنى العالمي لدالة الخسارة.
  • التوزيع المستقر يفضل النقاط الدنيا "الأكثر تسطحاً" (تلك التي تمتلك محددات أقل لمصفوفة هسيان دالة المعدل)، مما يفسر التفضيل التجريبي لـ SGD للحدود الدنيا الأكثر بساطة.
  • يتصرف النظام مثل عملية انتشار حيث يعمل حجم الخطوة كمعلم درجة حرارة.

• آلية الحفظ (النظرية 11):
  النتيجة المركزية هي تفسير الحفظ باعتباره انهياراً متقطعاً (intermittent collapse).

  • يعمل النظام على مقياسين زمنيين: المتغير السريع $x$ يتتبع حداً أدنى موضعياً $\lambda(y)$ للديناميكيات السريعة، بينما المتغير البطيء $y$ ينجرف (drifts).
  • ولأن حجم الخطوة ثابت، فإن النظام لا يتقارب إلى نقطة واحدة. بدلاً من ذلك، ينجرف المتغير البطيء $y$، مما يجعل المتغير السريع $x$ يتتبع حداً أدنى متحركاً.
  • عندما يبقى المتغير البطيء $y$ في منطقة تمتلك فيها الديناميكيات السريعة جاذباً مستقراً (stable attractor)، يظهر النظام سلوك "الحفظ" (تكرار المخرجات).
  • ومع ذلك، ولأن $y$ يستمر في الانجراف (بفعل الضجيج والمقياس الزمني البطيء)، فإن النظام يخرج في النهاية من هذه المنطقة، مما يؤدي إلى انتقال إلى جاذب مختلف.
  • ينتج عن هذا سلوك "تذبذب الاسترخاء" (relaxation oscillation): فترات طويلة من التكرار (الحفظ) تتخللها انتقالات سريعة نسبياً إلى حالات جديدة. وهذا يميز الحفظ عن القفزات النادرة بين التوازنات المدفوعة بالضجيج كما في نظرية Freidlin-Wentzell التقليدية؛ ففي هذه الحالة، تكون الانتقالات مدفوعة بالانجراف الحتمي للمتغير البطيء.

• دور الضجيج وحجم الخطوة:
  يوضح المؤلفون أن أحجام الخطوات الأكبر تزيد من مستوى الضجيج في التكرار، مما يمكن أن يعطل التتبع المستقر المطلوب للحفظ، وبالتالي يقلل من هذه الظاهرة. وهذا يتوافق مع الملاحظات التجريبية (مثل Wu et al. [2025]) التي تشير إلى أن أحجام الخطوات الكبيرة تخفف من حدة الحفظ.

الأهمية والادعاءات
تدعي الورقة تقديم "تفسير من منظور نظرية النظم" للحفظ، من خلال نقل التركيز من تحليل مشهد الخسية الساكن إلى الديناميكيات الزمنية لخوارزمية التعلم.

• منظور موحد: توحد الورقة بين ظاهرتي "الانهيار" و"الحفظ"، بحجة أن الحفظ هو في الأساس ظاهرة انهيار يتم تعديلها بواسطة مخطط تعلم الدرجة (score learning scheme) والانجراف البطيء للمعلمات، مما يجعله متقطعاً بدلاً من كونه دائماً.
• المقاييس الزمنية الناشئة: تسلط الضوء على أن المقياسين الزمنيين في تدريب النماذج التوليدية عالية الأبعاد هما خصائص ناشئة عن بنية المشكلة (عبر نظرية أوستن) وحجم الخطوة الثابت، وليسا مفروضين بشكل اصطناعي.
• نطاق متواضع: يقر المؤلفون بأن نموذجهم يتضمن تبسيطات، مثل افتراض أن المقاييس المولدة تشكل مركز ثقل شرطي (conditional barycenter) واستخدام دالة خسارة ذات مقياسين زمنيين مبسطة. ويشيرون إلى أنه في الواقع، تعمل أخطاء التقريب كضجيج خارجي مستمر، مما يعني أن الحفظ غالباً ما يكون "فساداً للانهيار" وليس تركيزاً نقياً عند مقياس ديراك. وبناءً عليه، يظهر الحفظ كتحيز نحو نسخ ضوضائية من المخرات السابقة بدلاً من التكرار المطابق تماماً.

لا تقترح الورقة خوارزميات تجريبية جديدة أو حلولاً هندسية محددة، بل تقدم عدسة نظرية لفهم سبب حدوث الحفظ في خوارزمية SGD ذات الخطوة الثابتة وكيفية ارتباطه بالديناميكيات الأوسع للتقريب العشوائي في الأبعاد العالية.