DMin: Scalable Training Data Influence Estimation for Diffusion Models

إليك ملخص تقني مفصل لورقة البحث بعنوان "DMin: تقدير تأثير بيانات التدريب القابل للتوسع لنماذج الانتشار (Diffusion Models)".

1. بيان المشكلة

تعد نماذج الانتشار (DMs) أدوات توليدية قوية، ولكن بيانات تدريبها غالبًا ما تُجمع من الإنترنت، مما يؤدي إلى تحيزات أو عدم دقة أو توليد محتوى ضار. إن فهم أي عينات تدريب محددة أثرت على صورة مولدة أمر بالغ الأهمية لشفافية النموذج، وكشف التحيز، وتصحيح الأخطاء.

ومع ذلك، تواجه طرق تقدير التأثير الحالية حواجز حاسمة في القابلية للتوسع عند تطبيقها على نماذج الانتشار واسعة النطاق (مثل Stable Diffusion 3 بمليارات المعلمات):

• عنق زجاجة التخزين: تتطلب الطرق من الدرجة الثانية (التي تتطلب قلب مصفوفة هسيان - Hessian inversion) والطرق من الدرجة الأولى (التي تتطلب تخزين التدرجات) مساحات تخزين هائلة. بالنسبة لنموذج يحتوي على 2 مليار معلمة، فإن تخزين التدرجات لـ 10,000 عينة فقط عبر 10 خطوات زمنية يتطلب حوالي 800 تيرابايت من التخزين، وهو أمر غير عملي.
• التكلفة الحسابية: حساب درجات التأثير لمجموعات البيانات الكبيرة مكلف حسابيًا، وغالبًا ما يستغرق ساعات أو أيامًا.
• الهشاشة: يكون تقدير التأثير في النماذج العميقة للغاية غير مستقر بسبب ضخامة قيم التدرجات، مما يؤدي إلى نتائج غير دقيقة.

الحلول الحالية محدودة بالنماذج الصغيرة أو نماذج LoRA (المهايئات)، وتفشل في التوسع لتشمل النماذج الكاملة ذات المليارات من المعلمات.

2. المنهجية: إطار عمل DMin

يقترح المؤلفون DMin (تأثير نموذج الانتشار)، وهو إطار عمل قابل للتوسع يقدر التأثير عن طريق ضغط التدرجات واستخدام خوارزميات بحث فعالة. يتكون سير العمل من ثلاث مراحل رئيسية (كما هو موضح في الشكل 2 من الورقة):

أ. حساب التدرج (Gradient Computation)

• العملية: لكل زوج تدريبي (المطالبة $p_i$، الصورة $x_i$)، يقوم النموذج بعملية تمرير أمامي وعكسي عند خطوات زمنية محددة $t$ لحساب تدرج الخسارة $\nabla_\theta L$.
• المهايئات مقابل النموذج الكامل: بالنسبة لنماذج LoRA، يتم جمع التدرجات فقط من معلمات المهايئ. أما بالنسبة للنماذج الكاملة، فيتم جمع التدرجات من جميع المعلمات.
• أخذ العينات: بدلاً من حساب التدرجات لجميع الخطوات الزمنية $T$ (على سبيل المثال، 1,000)، يتم أخذ عينة من الخطوات الزمنية لتقليل العبء الحسابي.

ب. ضغط التدرج (الابتكار الجوهري)

للتغلب على عنق زجاجة التخزين، يستخدم DMin تقنية ضغط مكونة من أربع خطوات تقلل تخزين التدرج من جيجابايت إلى كيلوبايت دون فقدان كبير في الدقة:

1. الحشو (Padding): يتم حشو متجه التدرج بطول يقبل القسمة على عامل الضغط $v$.
2. التبديل (Permutation): يتم تطبيق تبديل عشوائي لتعطيل البنى المتأصلة في المتجه.
3. الإسقاط العشوائي (Random Projection): يتم ضرب المتجه في متجه إسقاط عشوائي (العناصر هي -1 أو 1 باحتمالية متساوية). هذا يسقط التدرج على أساس عشوائي.
4. الجمع المجموعاتي (Group Addition): يتم تقسيم المتجه المبدل إلى مجموعات بحجم $v$، ويتم جمع العناصر داخل كل مجموعة لإنتاج متجه مضغوط بأبعاد $v$.

• كفاءة التخزين: يجب تخزين مؤشرات التبديل فقط (4 بايت/عنصر) ومتجه الإسقاط الثنائي (1 بت/عنصر) بجانب المتجه المضغوط.
• التطبيع (Normalization): لمعالجة عدم استقرار التدرج في النماذج العميقة، يتم تطبيق التطبيع L2 على متجهات التدرج قبل الضغط. هذا يمنع القيم المتطرفة من الهيمنة على حسابات الضرب الداخلي.

ج. تقدير التأثير والاسترجاع

• التقدير الدقيق: يتم حساب درجة التأثير $I_\theta(X_s, X_i)$ كجموع لعمليات الضرب الداخلي بين التدرجات المضغوطة للصورة المولدة والتدرجات المضغوطة المخزنة لعينات التدريب عبر الخطوات الزمنية.
• استرجاع KNN: للمهام التي تتطلب فقط أعلى-$k$ من العينات الأكثر تأثيراً، يبني DMin فهرس أقرب الجيران (KNN) (باستخدام خوارزمية HNSW) على التدرجات المضغوطة. يسمح هذا باسترجاع أعلى-$k$ من العينات الأكثر تأثيراً في أقل من ثانية واحدة.

3. المساهمات الرئيسية

1. القابلية للتوسع لنماذج المليارات من المعلمات: يعد DMin أول طريقة قادرة على تقدير التأثير لنماذج الانتشار ذات المليارات من المعلمات (مثل SD 3 Medium Full)، وهو إنجاز كان مستحيلاً سابقاً بسبب قيود التخزين.
2. تقليل هائل في التخزين: من خلال الجمع بين ضغط التدرج والتطبيع، يقلل DMin متطلبات التخزين من مئات التيرابايت إلى مجرد ميجابايت أو كيلوبايت (على سبيل المثال، تقليل 339 تيرابايت إلى 726 ميجابايت لـ SD 3 Full).
3. الاسترجاع في الوقت الفعلي: بالاستفاء من بحث KNN على التدرجات المضغوطة، يسترجع DMin أعلى-$k$ من العينات الأكثر تأثيراً في أقل من ثانية واحدة، وهو تسريع هائل مقارنة بالطرق الحالية.
4. الاستقرار: يقلل إدخال التطبيع L2 من هشاشة تقدير التأثير في الشبكات العميقة.
5. المصدر المفتوح: يوفر المؤلفون تنفيذاً بلغة PyTorch مع دعم تعدد العمليات (multiprocessing).

4. النتائج التجريبية

قيم المؤلفون DMin على Stable Diffusion 1.4 (LoRA)، و Stable Diffusion 3 Medium (LoRA)، و Stable Diffusion 3 Medium (Full)، بالإضافة إلى نماذج DDPM غير المشروطة على مجموعات بيانات MNIST و CIFAR-10.

• الدقة (معدل الكشف):

  • تفوق DMin بشكل كبير على النماذج المرجعية (Random, SSIM, CLIP, LiSSA, DataInf, D-TRAK).
  • في مجموعة "Magic Cards" مع SD 3 Medium (Full)، حقق DMin معدل كشف Top-5 بنسبة ~96%، بينما سجلت النماذج المرجعية مثل SSIM و CLIP ما يقارب الصفر.
  • في MNIST، حقق DMin معدل كشف Top-5 قدره 0.8006، مقارنة بـ 0.2560 لـ Journey-TRAK.
  • التطبيع أمر بالغ الأهمية: أدى إزالة التطبيع إلى انخفاض كبير في الأداء، مما يؤكد دوره في تثبيت تدرجات النماذج العميقة.

• الكفاءة (الوقت والذاكرة):

  • الذاكرة: بالنسبة لـ SD 3 Medium (Full)، تتطلب التدرجات غير المضغوطة 339 تيرابايت. قلل DMin باستخدام الضغط ($v=2^{12}$) هذا الرقم إلى 726 ميجابايت (نسبة ضغط قدرها 0.00017%).
  • الوقت: استغرق استرجاع أعلى 5 عينات مؤثرة لصورة اختبار 0.004 ثانية باستخدام DMin (KNN)، مقارنة بـ 2,939 ثانية لـ LiSSA و 345 ثانية لـ D-TRAK. يمثل هذا تسريعاً يزيد عن 100,000 ضعف في بعض الإعدادات.

5. الأهمية

• دمقرطة التفسير: يجعل DMin من الممكن تحليل وتفسير سلوك نماذج الانتشار الحديثة ذات المليارات من المعلمات، وهو أمر كان مقصوراً سابقاً على الأبحاث صغيرة النطاق.
• السلامة والامتثال: من خلال تمكين التحديد السريع لأصول التدريب للمحتوى المولد، يساعد DMin في اكتشاف انتهاك حقوق الطبع والنشر، والتحيز، ومخالفات السلامة في الذكاء الاصطنا التوليدي.
• التقدم المنهجي: توضح الورقة أن الضغط الدقيق للتدرجات والتطبيع يمكن أن يتغلب على "لعنة الأبعاد" في تقدير التأثير، مما يقدم مخططاً لتفسير قابل للتوسع في مجالات التعلم العميق واسعة النطاق الأخرى.