ملخص تقني: شكل البنية يحكم قابلية تدريب الشبكات العصبية الكمومية (QNN)

1. بيان المشكلة

تعمل الدوائر الكمومية التباينية (VQCs) ذات الترميز الزاوي (angle encoding) كأدوات تقريب لسلاسل فوريه المبتورة. وتؤكد الأبحاث النظرية (Schuld et al., 2021; Holzer & Turkalj, 2024) أنه بالنسبة لميزانية ترميز إجمالية ثابتة $E = NL$ (حيث $N$ هو عدد الكيوبتات و $L$ هو عدد طبقات الترميز لكل كيوبت)، فإن طيف الترددات المتاح والانحياز الطيفي (spectral bias) متطابقان بغض النظر عن شكل البنية $(N, L)$.

وعلى الرغم من هذا التكافؤ النظري في القدرة التعبيرية (expressivity) والوفرة الطيفية، إلا أن الملاحظات التجريبية تكشف عن تفاوت كبير في قابلية التدريب. وكما هو موضح في الشكل 1 من الورقة البحثية، تفشل البنى ذات عدد الكيوبتات المنخفض (مثل $N=1, 2$) في الوصول إلى حلول عالية الدقة ($R^2 \ge 0.95$) عبر نطاق واسع من أعداد المعلمات، بينما تنجح البنى المتوسطة (مثل $N=3, 4$) بعدد أقل بكثير من المعلمات. وبما أن دوائر الكيوبت الواحد هي أدوات تقريب دالي عالمية في الحد الأقصى، فإن القدرة التعبيرية وحدها لا يمكنها تفسير هذا الفشل. تبحث الورقة في الآليات الهيكلية المسؤولة عن هذه الفجوة في قابلية التدريب والكفاءة التفاضلية لزيادة أعداد المعلمات عبر مسارات معمارية مختلفة.

2. المنهجية والإطار النظري

2.1 التحليل الهيكلي لجاكوبي (Jacobian)

يحلل المؤلفون مصفوفة جاكوبي لمطابقة المعاملات $J \in \mathbb{R}^{|\Omega| \times P}$، حيث $|\Omega| = 2E + 1$ هو عدد معاملات فوريه الحقيقية و $P$ هو عدد المعلمات. يحدد رتبة (rank) المصفوفة $J$ عدد اتجاهات فوريه المستقلة التي يمكن للمُحسّن (optimizer) الوصول إليها. أما المعلمات التي تقع في الفضاء الصفري لـ $J$ ($\ker J$) فهي منفصلة هيكلياً عن دالة الخسارة وتتلقى إشارات تدرج (gradient signals) صفرية تماماً.

تقارن الدراسة بين طرفين معماريين متطرفين عند قيمة $E$ ثابتة:

• البنى التسلسلية ($N=1, L=E$): كيوبت واحد مع $E$ من طبقات الترميز.
• البنى المتوازية ($N=E, L=1$): $E$ من الكيوبتات مع طبقة ترميز واحدة لكل منها، والتي قد تكون متشابكة عبر طبقات الـ ansatz.

2.2 الآليات النظرية الرئيسية

• الارتباط الطوري (Phase-Locking) في الدوائر التسلسلية: يثبت المؤلفون أنه بالنسبة لدوائر الكيوبت الواحد، تشترك اتجاهات التدرج لجميع المعلمات في عامل طور عالمي مشترك. وهذا يجبر جميع متجهات التدرج على الاستقرار ضمن فضاء جزئي لا تزيد أبعاده عن $2L + 1$ (الخاصية 3.1، اللمة 3.2).
• التجويع التدرجي الهيكلي (Structural Gradient Starvation): في الدوائر التسلسلية، مع زيادة عدد المعلمات $P$ بما يتجاوز سقف الرتبة ($2L+1$)، ينمو بُعد الفضاء الصفري خطياً ($\dim(\ker J) \ge P - (2L+1)$). وبناءً على ذلك، فإن نسبة المعلمات التي تتلقى إشارة تدرج صفرية تقترب من 1 مع توجه $P \to \infty$. وهذا يختلف عن مشكلة الهضاب العريضة (barren plateaus) (McClean et al., 2018)، حيث إنه ناتج عن نقص في الرتبة الهيكلية وليس مجرد اضمحلال أسي لتباين التدرج.
• التحليل الثنائي (Bilinear Factorization) في البنى المتوازية: في البنى المتوازية، تتحلل معاملات فوريه إلى حدود ثنائية تعتمد على مجموعات منفصلة من المعلمات (الخاصية A.1). يؤدي هذا إلى كسر التماسك الطوري العالمي، مما يسمح بمسارات طور مستقلة للكيوبتات المختلفة. ونتيجة لذلك، تحافظ البنى المتوازية على رتبة كاملة للعمود ($\sigma_{\min}(J) > 0)$ بشكل عام لـ $P \le 2E + 1$، متجنبة التجويع التدرجي الهيكلي حتى يتجاوز عدد المعلمات البعد الطيفي.

2.3 التصميم التجريبي

يتحقق المؤلفون من هذه الادعاءات النظرية باستخدام:

• الأهداف الاصطناعية: سلاسل فوريه عشوائية بدرجات محددة ($d$) مصممة خصيصاً لكل تكوين أدنى.
• بيانات حقيقية: مجموعة بيانات درجات حرارة نوتنغهام (Hipel & McLeod, 1994).
• مساران للتمثيل (Parameterization):
  1. مسار خريطة الميزات (FM Route): زيادة عدد طبقات خريطة الميزات (الترميز) $L$ مع تثبيت عمق الكتلة القابلة للتدريب. هذا يوسع الطيف الترددي $|\Omega|$ ويرفع سقف الرتبة.
  2. مسار الكتل القابلة للتدريب (tbl Route): زيادة عدد طبقات الـ ansatz القابلة للتدريب مع تثبيت $L$. هذا يزيد $P$ دون تغيير الطيف أو سقف الرتبة.
• التشخيصات: تحليل أطياف القيم الذاتية لـ Jacobian QFIM لتحديد "الركبة الطيفية" (spectral knee) (مؤشر الرتبة حيث تنخفض القيم الذاتية بشكل حاد) وقياس نسبة اتجاهات التدرج القابلة للاستغلال.

3. المساهمات الرئيسية

1. تحديد التجويع التدرجي الهيكلي: تثبت الورقة أن البنى التسلسلية ذات الكيوبت الواحد تعاني من سقف رتبة هيكلي قدره $2L+1$ بغض النظر عن عدد المعلمات. يؤدي هذا إلى "تجويع تدرجي هيكلي"، حيث تصبح نسبة متزايدة من المعلمات منفصلة عن الخسارة مع نمو $P$.
2. إثبات ميزة التوازي: يوضح المؤلفون أن البنى المتوازية تتجنب هذا القيد عبر مسارات طور مستقلة، وتحافظ على رتبة عمود كاملة حتى $P \le 2E + 1$. هذه الميزة هي ميزة هيكلية وليست مجرد ميزة قائمة على العتبات.
3. التمييز بين استراتيجيات التمثيل: توضح الورقة أن إضافة طبقات خريطة الميزات (FM) وإضافة الكتل القابلة للتدريب لهما تأثيرات مختلفة جوهرياً:
   • طبقات FM: توسع الطيف الترددي المتاح وتدفع "الركنة الطيفية" نحو اليمين، مما يشغل آلية خاصة بالكم.
   • الكتل القابلة للتدريب: لا توسع الطيف؛ بل يتم تحقيق التحسينات في التدريب فقط من خلال آلية الاستكمال الكلاسيكية (الأنظمة فوق المحددة حيث $P \ge n_{train}$).
4. التحقق التجريبي من الكفاءة: تظهر التجارب أن مسار FM يحقق الدقة المستهدفة ($R^2 \ge 0.95$) بعدد معلمات أقل بنسبة 1.6–2.2× من مسار الكتل القابلة للتدريب عبر مختلف البنى ($N=1$ إلى $N=6$) ودرجات الهدف.

4. النتائج

• فجوة قابلية التدريب: عند تثبيت ميزانية الترميز $E=12$، تفشل البنى التسلسلية ($N=1$) ومنخفضة الكيوبتات ($N=2$) في الوصول إلى $R^2 \ge 0.95$ حتى مع وجود مئات المعلمات، بينما تنجح $N=3$ و $N=4$ بعدد أقل بكثير من المعلمات (الشكل 1).
• التحقق من سقف الرتبة: تؤكد القياسات التجريبية لرتبة جاكوبي أن الدوائر التسلسلية تصطدم بسقف $2L+1$ فوراً، بينما تحافظ الدوائر المتوازية على رتبة كاملة حتى $P > 2E+1$ (الشكل 5).
• التجويع التدرجي: في الدوائر التسلسلية، تنمو نسبة المعلمات في $\ker J$ بشكل رتيب مع $P$، مقتربة من 1. في الدوائر المتوازية، لا توجد معلمات في $\ker J$ حتى يتجاوز $P$ البعد الطيفي.
• FM مقابل الكتل القابلة للتدريب:
  • الركنة الطيفية: على طول مسار FM، تتحرك الركنة الطيفية نحو اليمين مع كل طبقة مضافة، مما يشير إلى الوصول إلى اتجاهات فوريه جديدة. وعلى طول مسار الكتل القابلة للتدريب، تظل الركنة ثابتة عند السقف النظري $2NL_{min} + 1$ (الشكل 3، الشكل 9).
  • كفاءة المعلمات: يتطلب مسار FM باستمرار معلمات أقل للوصول إلى حالة التشبع. بالنسبة لـ $N=1$، النسبة هي 1.9×؛ لـ $N=2$ هي 2.2×؛ لـ $N=4$ هي 2.1×؛ ولـ $N=6$ هي 1.6× (الجدول 2).
• التحقق من البيانات الحقيقية: في مجموعة بيانات نوتنغهام، عندما كانت ميزانية الترميز غير كافية ($E=12$)، فشل مسار الكتل القابلة للتدريب تماماً ($R^2 < 0$) بسبب حدود القدرة التعبيرية، بينما نجح مسار FM عبر توسيع الطيف. وعندما كانت القدرة التعبيرية كافية ($E=24$)، ظل مسار FM أكثر كفاءة في استخدام المعلمات لـ $N \in \{1, 2, 4\}$.
• استثناء نظام لاروكا (Larocca Regime): بالنسبة لـ $N=6$ مع قدرة تعبيرية عالية ($E=24$)، انعكست الميزة: نجح مسار الكتل القابلة للتدريب بينما استقرت (plateaued) نتيجة مسار FM. يعزو المؤلفون ذلك إلى دخول الدائرة في نظام لاروكا تحت-المحدد ($P \approx R_{max} = 126$) مبكراً في مسح FM، حيث تزيد إضافة طبقات الترميز من الطلب على المعلمات بسرعة أكبر مما يمكن للمعلمات المضافة تلبيته.

5. الأهمية والادعاءات

تدعي الورقة أنها تقدم تفسيراً ميكانيكياً دقيقاً لفجوة قابلية التدريب بين الشبكات العصبية الكمومية (QNNs) التسلسلية والمتوازية. وتجادل بأن هندسة فضاء الحالة للكيوبت الواحد ($CP^1$) تفرض قيداً هيكلياً أساسياً (الارتباط الطوري) الذي يحد من الرتبة الفعلية لجاكوبي في الدوائر التسلسلية، مما يؤدي إلى التجويع التدرجي الهيكلي.

الأهمية العملية الأساسية هي توصية تصميمية: أضف طبقات خريطة الميزات (FM)، وليس الكتل القابلة للتدريب. يؤكد المؤلفون أن زيادة عمق الترميز ($L$) هو المسار الوحيد الذي يشغل آلية خاصة بالكم (توسيع الطيف الترددي المتاح وتحريك الركنة الطيفية)، بينما تعتمد إضافة الكتل القابلة للتدريب على الاستكمال الكلاسيكي. هذا الفهم الهيكلي يفسر لماذا البنى المتوازية أكثر قابلية للتدريب ولماذا طبقات FM أكثر كفاءة في استخدام المعلمات.

يظل المؤلفون متواضعين فيما يتعلق بنطاق براهينهم النظرية، مشيرين إلى أنها وضعت للنماذج المتطرفة (التسلسلية $N=1$ والمنتج التناظري المتوازي). كما يقرون بأن التوسع إلى البنى الهجينة والـ ansatz المتشابكة العامة يظل مسألة مفتوحة. علاوة على على ذلك، حددوا نظام لاروكا تحت-المحدد كحالة حدية قد تنعكس فيها ميزة كفاءة FM، مما يستدير الحاجة إلى مزيد من التوصيف للمقايضة في ذلك النظام المحدد.