ملخص تقني: قياس وتفكيك انفصال الأنماط عبر الانتشار الكلاسيكي (Canonical Diffusion)

1. بيان المشكلة

تتناول الورقة البحثية الصعوبة في قياس انفصال الأنماط (mode separation)—وهي الخاصية الهندسية التي تصف مدى حدة تفتت كثافة الاحتمالية إلى عناقيد تفصل بينها حواجز—في الفضاءات عالية الأبعاد. تفشل الأدوات الحالية في التمييز بين الانتشار (dispersion) (مدى اتساع الكتلة) والتفتت (fragmentation) (كيفية انقسام الكتلة بواسطة الحواجز):

• الإنتروبيا التفاضلية (Differential entropy) تزداد مع الاتساع بغض النظر عما إذا كان التوزيع أحادي النمط أم متفتتاً.
• تحليل المكونات الرئيسية (PCA) يرتب الاتجاهات حسب التباين، ويفشل في التمييز بين نمط واحد واسع ونمطين ضيقين ومنفصلين.
• المعلومات المتبادلة (Mutual information) تتطلب الوصول إلى تفكيك الخليط (العلامات الكامنة)، وهو أمر غير متاح عادةً في الممارسة العملية.

يسعى المؤلفون إلى إيجاد كمية مستمرة وجوهرية حساسة للحواجز، وطريقة لتحديد الاتجاهات الخطية التي تكون فيها هذه الحواجز أكثر وضوحاً، باستخدام العينات ودالة الدرجة (score function) فقط.

2. المنهجية

الانتشار الكلاسيكي (The Canonical Diffusion)

جوهر الإطار هو انتشار إيتو عكسي (reversible Itô diffusion) فريد مرتبط بكثافة هدف $f$. تُحدد هذه العملية عبر قيدين:

1. الاستقرار (Stationarity): $f$ هي التوزيع المستقر.
2. الانتشار القياسي الثابت (Constant Scalar Diffusion): مصفوفة الانتشار هي $A_0 = \sigma_f^2 I_d$، حيث $\sigma_f^2 = \text{tr}(\text{Cov}_f(X))/d$ هي التباين القياسي لـ $f$.

بموجب هذه الشروط، يتم تحديد الاندفاع (drift) بشكل فريد كـ $b(x) = \frac{1}{2}\sigma_f^2 \nabla \log f(x)$. يمتلك مولد هذا الانتشار طيفاً منفصلاً $0 = \mu_1 < \mu_2 \le \mu_3 \dots$، حيث تمثل القيم الذاتية الصغيرة أنماط الاسترخاء البطيئة التي تعبر حواجز الطاقة العالية.

مخرجان من التغاير الذاتي (Autocovariance)

يستخرج الإطار كميتين من مصفوفة التغاير الذاتي المستقرة $C(\tau) = \mathbb{E}_f[Y_\tau Y_0^\top]$ للعملية المركزية $Y_t = X_t - \bar{x}_f$:

1. مجموع مربعات الارتباط الذاتي (SSA - Sum of Squared Autocorrelations):
   مقياس قياسي لتعدد الأنماط (multimodality) يُعرف بأنه التكامل الزمني لمربع الارتباط الذاتي المعياري بالضرب في الأثر:
   $$S(f) = \int_0^\infty \rho(\tau)^2 d\tau, \quad \text{حيث } \rho(\tau) = \frac{\text{tr}C(\tau)}{\text{tr}C(0)}$$
   من الناحية الطيفية، $S(f) = \sum_{k,\ell \ge 2} \frac{w_k w_\ell}{\mu_k + \mu_\ell}$. وهو يتزايد رتيباً مع القيم الذاتية للمولد ويتشبع مع عدد الأنماط، مما يقيس فعلياً "ارتفاع الحاجز" بدلاً من مجرد عدد الأنماط.

2. اتجاهات الارتباط الذاتي المهيمنة (DA - Dominant Autocorrelation directions):
   تفكيك اتجاهي يتم الحصول عليه عبر التفكيك الذاتي لـ $C(\tau)$ عند تأخر زمني محدد $\tau$. تُرتب المتجهات الذاتية $v_j(\tau)$ حسب مقدار القيمة الذاتية. ومع اقتراب $\tau \to \infty$، تتقارب المتجهات الذاتية الرائدة إلى الاتجاهات التي تربط مراكز الأنماط (تحديداً معاملات الإسقاط للدوال الذاتية البطيئة)، مرتبة حسب الاستقرار الميتاستاتيكي (metastability) بدلاً من التباين.

الضمانات النظرية وأرضية الضوضاء

• الطيف الصفري (Theorem 2): تحت فرض وجود توزيع غاوسي متماثل (isotropic Gaussian null)، يتقارب طيف التغاير الذاتي التجريبي إلى عملية الجمع التراكمي الحر (free additive convolution) لقوانين مارشنكو-باستور (Marchenko–Pastur) الموزونة بمقياس معين. وهذا يعطي حافة علوية تحليلية مغلقة $\lambda_+(\tau)$، والتي تعمل كأرضية ضوضاء حادة لتمييز القيم الذاتية للإشارة عن ضوضاء العينة المحدودة.
• اختيار التأخر (Lag Selection): تسمح أرضية الضوضاء $\lambda_+(\tau)$ باختيار منهج لـ $\tau^*$ حيث لا تزال الأنماط البطيئة قابلة للكشف فوق الضوضاء، مما يوازن بين التقارب الطيفي (الذي يتطلب $\tau$ كبيراً) وبين نسبة الإشارة إلى الضوضاء (التي تتدهور عند $\tau$ الكبير).

التنفيذ باستخدام النماذج القائمة على الدرجة (Score-Based Models)

لا تتطلب الطريقة معرفة الكثافة $f$ صراحةً، بل تحتاج فقط إلى الدرجة $\nabla \log f$. بالنسبة للبيانات عالية الأبعاد (مثل الصور)، يستخدم المؤلفون نماذج توليدية قائمة على الدرجة مدربة مسبقاً (مثل SDXL) عبر هوية تويدي (Tweedie's identity)، والتي توفر الدرجة $\nabla \log f_t(x) \approx -\epsilon_\theta(x, t)/\sigma_t$. وهذا يسمح بمحاكاة الانتشار الكلاسيكي في الفضاءات الكامنة أو فضاءات الميزات عالية الأبعاد دون الحاجة لتقدير الكثافة صراحةً.

3. المساهمات الرئيسية

1. بناء الانتشار الكلاسيكي: عملية انتشار عشوائية فريدة ومتشابهة (similarity-invariant) تُعرف فقط من خلال الدرجة والعزوم العادية الأولى لكثافة ما، مصممة خصيصاً للكشف عن هياكل الحواجز.
2. مقاييس SSA و DA:
   • SSA: مقياس قياسي يتتبع ترتيب رتبة المعلومات المتبادلة (MI) في الخلائط الاصطناعية، ويلتقط التفتت الذي تغفله الإنتروبيا.
   • DA: تفكيك خطي يستعيد الاتجاهات البطيئة والمستقرة ميتاستاتيكياً (مثل فصل الأنماط) حتى عندما لا تكون هي نفسها اتجاهات التباين الأقصى (خلافاً لـ PCA).
3. نظرية ضوضاء تحليلية: اشتقاق طيف الحد النهائي للارتباط الذاتي المتماثل عند التأخر-1 تحت فرض غاوسي، مما يوفر عتبة $\lambda_+(\tau)$ مغلقة يمكن استخدامها كبديل لقانون مارشنكو-باستور المستخدم في PCA.
4. التكامل مع النماذج القائمة على الدرجة: مسار عملي لتطبيق هذه المفاهيم على البيانات عالية الأبعاد باستخدام المقللات (denoisers) المدربة مسبقاً، مما يتجاوز لعنة الأبعاد التي تواجهها الطرق القائمة على النواة (kernel-based methods).

4. النتائج التجريبية

خلائط غاوس الاصطناعية

• SSA مقابل المعلومات المتبادلة (MI): في خلائط غاوس بـ 10 أبعاد، يتتبع SSA ترتيب رتبة MI عبر عمليات مسح مختلفة (التباعد، التباين، الوزن، عدد الأنماط). وعلى عكس MI، التي تتشبع مع تعمق الحواجز، ينمو SSA أسياً مع ارتفاع الحاجز.
• SSA مقابل الإنتروبيا: في مقارنة ثنائية الأبعاد، حدد SSA بشكل صحيح توزيعاً ثنائي النمط (إهليلجات متوازية) على أنه أكثر تفتتاً من توزيع غاوسي متماثل بإنتروبيا أعلى، بينما فشلت الإنتروبيا وPCA في تمييز التفتت.
• DA مقابل PCA: في حالة الإهليلجات المتوازية، استعاد DA الاتجاه الذي يربط بين النمطين (حاجز ما بين الأنماط)، بينما اختار PCA اتجاه أقصى تباين داخل النمط الواحد.

توليدات SDXL (نص-إلى-صورة)

• تحليل مقياس التوجيه (Guidance Scale): طُبق على مخرجات SDXL عبر 11 وصفاً (prompt) و4 مقاييس توجيه ($w$).
  • الإنتروبيا انخفضت بشكل رتيب مع زيادة التوجيه (أصبح التوزيع أكثر تركيزاً).
  • SSA بلغ ذروته عند التوجيه المتوسط ($w \approx 7.5$)، ملتقطاً "النقطة المثالية" حيث يتفتت التوزيع إلى أنواع متماسكة ومتميزة (مثل أنماط مختلفة لشخص ما) قبل أن ينهار إلى تكرارات متطابقة تقريباً عند التوجيه العالي.
• التفكيك الاتجاهي: بالنسبة لوصف "بورتريه لشخص مسن"، فصل DA1 التوزيع على طول محور الجنس (معامل سبيرمان $|\rho|=0.90$)، بينما خلط PC1 بين الجنس والواقعية والأسلوب. وبالنسبة لوصف "صورة لرافعة"، التقط كل من DA1 وPC1 الانقسام بين معنى الطائر ومعنى معدات البناء، مما يوضح أن DA يتوافق مع PCA فقط عندما يتطابق محور التفتت مع محور التباين.

الديناميكا الجزيئية (ألانين دي ببتيد - Alanine Dipeptide)

• استعادة الإحداثيات البطيئة: باستخدام عينات ثابتة من نظام ألانين دي ببتيد المكون من 22 ذرة، استعاد DA الإحداثيات البطيئة لثني العمود الفقري ($\phi, \psi$) دون الوصول إلى بيانات المسار الزمني.
• المقارنة مع TICA: حقق DA نفس ترتيب الإحداثيات البطيئة مثل تحليل المكونات المستقلة المتأخر زمنياً (TICA)، وهو طريقة قياسية تعتمد على المسارات، ولكن باستخدام عينات ثابتة فقط و"أوراكل" درجة (score oracle) مشتق من تقدير كثافة النواة.

5. الأهمية والادعاءات

تدعي الورقة تقديم أداة هندسية أساسية لقياس انفصال الأنماط، وهي متميزة بنيوياً عن الانتشار. تكمن أهميتها في:

• الربط بين التحليل الساكن والديناميكي: تسمح باستخراج البنية المستقرة ميتاستاتيكياً (التي تتطلب عادةً مسارات طويلة) من العينات الساكنة عبر الاستفادة من الخصائص الطيفية للانتشار الكلاسيكي.
• القابلية للتطبيق في الأبعاد العالية: من خلال الاعتماد على النماذج القائمة على الدرجة، يمكن تطبيق الطريقة على الأبعاد التي تفشل فيها طرق النواة (مثل Diffusion Maps)، مما يتيح تحليل مخرجات النماذج التوليدية المعقدة والمساحات الجزيئية.
• الدقة النظرية: يوفر توفير أرضية ضوضاء تحليلية ($\lambda_+(\tau)$) طريقة منهجية تعتمد على البيانات لاختيار التأخر وتحديد عدد الاتجاهات المستقرة ميتاستاتيكياً، مما يعالج قصوراً رئيسياً في التجميع الطيفي وتحليل الأنماط البطيئة.

يظل المؤلفون متواضعين، مشيرين إلى أن الإطار خطي (لا يمكنه التقاط هندسة الأنماط غير الخطية) ويعتمد على جودة الدرجة المدخلة. ويضعون هذا العمل كأداة تشخيصية للنماذج التوليدية الموجودة وكطريقة لاستخراج المتغيرات الجماعية البطيئة من البيانات الساكنة، وليس كقدرة توليدية جديدة بحد ذاتها.