The optimization landscape of peaked-circuit generation

ملخص تقني: مشهد التحسين لتوليد الدوائر المرتفعة (Peaked-Circuit Generation)

بيان المشكلة
تتناول الورقة البحثية معضلة التوليد في "الدوائر المرتفعة" (peaked circuits)، وهي مسار مقترح لتحقيق التفوق الكمي القابل للتحقق. الدوائر المرتفعة هي دوائر كمية عشوائية، ورغم مظهرها العشوائي، إلا أنها تركز كسرًا ثابتًا من كتلة احتمالية المخرجات على سلسلة واحدة من قاعدة الحوسبة. وبينما يعد التحقق من مثل هذه المخرجات أمرًا فعالًا للمتحقق الكلاسيكي الذي يعرف السلسلة المستهدفة، فإن توليد الدائرة كلاسيكيًا يعد أمرًا صعبًا. اقترح آرونسون وتشانغ (AZ) نهجًا تباينيًا: إضافة جدار من الطوب (brickwall) قابل للتدريب بعمق $n/2$ إلى جدار من الطوب عشوائي من نوع "هير" (Haar) بعمق $n$، ثم تحسين المعلمات لتعظيم احتمالية السلسلة الصفرية بالكامل. لاحظ آرونسون وتشانغ أن مُحسِّن الانحداب الخاص بهم استقر عند سقف يعتمد على الحجم، وهو ما عزوه إلى "الهضبة القاحلة" (barren plateau). وقد تركا مسألة مفتوحة تتلخص في ثنائية: إما أن المُحسِّن تعثر في حلول محلية مثلى (مما يعني أن خوارزمية أفضل يمكنها الوصول لنتائج أعلى)، أو أنه لا توجد طريقة توليد فعالة. تقوم هذه الورقة برسم مشهد التحسين لحل هذه الثنائية وتوصيف مقياس "الارتفاع" (peakedness) الذي يمكن الوصول إليه.

المنهجية
تستخدم الدراسة بروتوكولًا تجريبيًا صارمًا ومسجلًا مسبقًا باستخدام محاكاة حالة المتجه (statevector) عديمة الضجيج لدوائر جدار الطوب أحادية البعد ذات الحدود المفتوحة.

• بنية الدائرة: يتكون النظام من قسم عشوائي $U_r$ (العمق $\tau_r = n$) يليه قسم قابل للتدريب $V(\theta)$ (العمق $\tau_p = n/2$). وتنتج البوابات القابلة للتدريب عن ضربات من دورات باولي 15 لكل كتلة ثنائية الكيوبت، مما يعطي $P = \Theta(n^2)$ من المعلمات.
• بروتوكول التحسين: يستخدم البروتوكول الأساسي مُحسِّن Adam مع جدول زمني محدد لمعدل التعلم و400 خطوة. وتعرف الدراسة فئة "المحسِّنات المستقرة محليًا" (stable-local class) بأنها (ديناميكيات تشبه تدفق الانحداد مع أحجام خطوات حدودية وإعادة تشغيل مستقلة).
• التصميم التجريبي: اختبر المؤلف 18 حالة لكل حجم من $n=8$ إلى $n=14$، مع "لحاق" مسجل مسبقًا ليصل إلى 18 حالة عند $n=16$. كما استخدم مجموعات إعادة تشغيل كبيرة (تصل إلى 800 إعادة تشغيل) للتمييز بين خصائص المشهد والقيود المفروضة على ميزانية المُحسِّن.
• تحليل المشهد: تحلل الورقة إحصائيات المجال الهدف $\delta(\theta)$، بما في ذلك العزوات الدقيقة (حتى الرابعة) عبر حساب "واينغارتين" (Weingarten calculus)، وإحصائيات الانحدار، والاتصال باستخدام طرق الخيط (string methods) لقياس الحد الأدنى للمسارات بين الحلول القريبة من المثالية.
• مقارنة المُحسِّنات: قارنت كتلة مسجلة مسبقًا بين Adam وL-BFGS-B وSGD البسيط عبر عمليات تهيئة مختلفة لاختبار المزايا الخاصة بكل مُحسِّن.

المساهمات والنتائج الرئيسية

1. رفض قانون القياس ذو القاعدة الثابتة:
   ترفض الورقة قانون الاضمحلال الأسي الثابت ($1.189^{-n}$) الذي اقترحه آرونسون وتشانغ. يوضح المؤلف أن معدل الاضمحلال المحلي للارتفاع الذي يمكن الوصول إليه ليس ثابتًا بل يزداد حدة بشكل رتيب مع حجم النظام.

• يزداد معدل الاضمحلال من $\approx 1.16$ لكل كيوبت عند $n=8$ إلى $\approx 1.295$ عند $n=16$ (بالنسبة للتشغيلات المتقاربة).
• وبناءً على ذلك، فإن الاستقراء إلى $n=50$ الذي قدمه آرونسون وتشانغ غير مدعوم بالبيانات عند الأحجام المتاحة؛ حيث يتقلص الارتفاع الذي يمكن الوصول إليه بشكل أسرع مما كان مقدرًا سابقًا.

2. توصيف مشهد التحسين:

• لا توجد هضبة قاحلة: يتلاشى متوسط الانحدار والمصفوفة الهيسية (Hessian) تمامًا (كما هو متوقع للحالات العشوائية من نوع هير)، لكن تباين الانحدار عند التهيئة أكبر بمقدار $O(1)$ فقط من حد "هير". "الهضبة القاحلة" لا تفسر شدة التضاؤل؛ فالمُحسِّن يستغل البنية التي يكتسبها أثناء عملية التحسين، وليس تلك الموجودة عند التهيئة.
• رف الارتفاع المتصل، ولا توجد فجوة تداخل: أظهر القياس المباشر للاتصال عبر طرق الخيط أن الحلول القريبة من المثالية تشكل مكونًا متصلًا واحدًا عند "مقياس الفخ" (trap scale) (أرضية هير $2^{-n}$). وتظل المسارات بين الحلول غير المترابطة أعلى بـ $10^2$ إلى $10^3$ مرة من مقياس الفخ. وهذا يدحض آلية "فجوة التداخل" (التكتل مع تداخلات وسيطة محظورة) كمصدر للصعوبة عند مقياس الفخ.
• التخدد المتعمق: بينما المشهد متصل، إلا أن "الرف" يصبح أكثر تخددًا (corrugated). يتلاشى الحد الأدنى للمسار بالنسبة لقيم النهايات الطرفية بمعدل $\approx 0.871^n$، وهو أسرع من أي قانون قوة ثابت. هذا التخدد المتعمق، وليس التجزؤ، هو ما يميز الصعوبة.

3. متانة المُحسِّن وفرضية الصعوبة:

• الفشل الهبوطي: يفشل SGD البسيط، ضمن فئة "المستقرة محليًا"، في الوصول إلى نفس الارتفاع الذي حققه Adam ضمن الميزانية الثابتة، ولكن هذا يُعزى إلى "الوتيرة" (حجم الخطوة) وليس إلى المشهد نفسه.
• التجاوز الصعودي: في مقارنة مسجلة مسبقًا، حقق L-BFGS-B (وهو طريقة شبه نيوتونية) ارتفاعًا أعلى بنسبة $3.9 \pm 1.6\%$ من Adam المتقارب عند $n=16$ في ثلاث حالات.
• سحب فرضية الصعوبة: أدى هذا التجاوز إلى تفعيل أداة التكذيب المسجلة مسبقًا، مما دفع المؤلف إلى سحب فرضيته القائلة بأنه "لا يوجد إحصائي داخل الفئة يتفوق على الارتفاع المتناقص". ومع ذلك، فإن قانون القياس يظل قائمًا: حتى الارتفاع الذي حققه L-BFGS-B يتقلص بعامل قدره $\approx 1.3$ لكل كيوبت.

4. الحدود النظرية:

• سقف الحد العميق: يثبت المؤلف أنه في الحد العميق (حيث تكون الحالة المشتتة هي حالة "هير")، لا يمكن لأي عائلة من المجسات ذات المعلمات $poly(n)$أن تحقق ارتفاعًا متوقعًا يتجاوز$poly(n) 2^{-n}$.
• العمق المحدود: عند العمق المحدود، يتجاوز الارتفاع الذي يمكن الوصول إليه هذا الحد العميق بعامل ينمو مع $n$، مما يشير إلى أن المُحسِّن يستغل بنية العمق المحدود غير المرئية لإحصائيات السعة من الدرجة الثانية.

الأهمية والادعاءات
تدعي الورقة أنها حلت الثنائية التي طرحها آرونسون وتشانغ من خلال توصيف المشهد بدلاً من مجرد البحث عن مُحسِّن أفضل.

• العائق: العائق الرئيسي أمام توليد الدوائر المرتفعة ليس هضبة قاحلة أو فجوة تداخل (تكتل)، بل هو "الارتفاع المتناقص" في مشهد متصل. يتقلص الارتفاع الذي يمكن الوصول إليه أسياً بمعدل يزداد حدة مع حجم النظام.
• الآثار المترتبة على التفوق الكمي: إن تقدير $n=50$ للجدوى التجريبية الذي قدمه آرونسون وتشانغ غير مدعوم. يشير معدل التضاؤل المتزايد إلى أن توليد الدوائر المرتفعة لـ $n$ كبيرة سيكون أصعب بكثير مما كان يُعتقد سابقًا، حتى لو تم العثور على مُحسِّن أفضل.
• تواضع الادعاءات: يصرح المؤلف صراحة أنه بينما سحب فرضيته القائلة بأن "لا يوجد مُحسِّن داخل الفئة يمكنه التفوق على الارتفاع المتناقص"، إلا أن العائق المقاس (معدل التناقص نفسه) يظل قائمًا لجميع المُحسِّنات المختبرة حتى الآن. لا تدعي الورقة أنها وجدت طريقة تعمل بكفاءة حتى $n=50$؛ بل إنها تقدم توصيفًا سلبيًا دقيقًا للمشهد يستبعد الاستقراءات البسيطة ويحدد السمات الهندسية المحددة (التناقص المتزايد، والتخدد المتعمق) التي تحدد عنق زجاجة التوليد.

باخت-صار، تثبت الورقة أن توليد الدوائر المرتفعة يعوقه مشهد يتقلص فيه الارتفاع الممكن الوصول إليه بسرعة أكبر من أي أس ثابت مع زيادة عدد الكيوبتات، وهي ظاهرة مدفوعة بالتخدد المتعمق على رف متصل، وليس بسبب الهضاب القاحلة أو تكتل الحلول.