Triple descent in quantum linear regression

في المجال الناشئ لتعلم الآلة الكمي، تحاول الحواسيب تعلم الأنماط من البيانات التي توجد في العالم الغريب والاحتمالي لميكانيكا الكم. فبدلاً من قراءة الأرقام على الشاشة، تتفاعل هذه الآلات مع الحالات الكمية — وهي تكوينات هشة من الجسيمات — ثم تقيسها لاستخراج المعلومات. هذه العملية بطبيعتها مشوبة بالضجيج. ولأن القياسات الكمية احتمالية، فإن نظرة واحدة خاطفة على نظام كمي نادراً ما تروي القصة كاملة. وللحصول على قراءة موثوقة، يجب على الباحثين تكرار القياس عدة مرات، وهي عملية تُعرف باسم أخذ "الطلقات" (shots)، ثم حساب متوسط النتائج. وكلما زاد عدد الطلقات، أصبحت الصورة أكثر وضوحاً، وقل تداخل الضجيج العشوائي. لسنوات طويلة، كانت الحكمة السائدة هي أن هذا الضجيج ليس سوى مصدر إزعاج، وعقبة مؤقتة يمكن تسويتها ببساطة من خلال جمع المزيد من البيانات. وإذا ارتكب الكمبيوتر خطأً بسبب طفرة في القياس، كان يُفترض أن الحل واضح: فقط قم بالقياس مرة أخرى.

لقد أظهر فريق من الباحثين الآن أن هذا الحدس غير مكتمل. ففي دراسة حول الانحدار الخطي الكمي — وهي طريقة يتعلم فيها الجهاز التنبؤ بقيمة بناءً على القياسات الكمية — اكتشفوا أن الضجيج الناتج عن هذه القياسات لا يتلاشى فحسب، بل يمكنه بدلاً من ذلك أن يعيد تشكيل كيفية سلوك عملية التعلم بشكل جوهري، مما يخلق قمم خطأ غير متوقعة تتحدى التوقعات القياسية. وجد الباحثون أنه مع زيادة عدد نتائج القياس، لا ينخفض خطأ التنبؤ بشكل مستمر، بل يرتفع وينخفض في نمط معقد يتكون من ثلاث مراحل متميزة، وهي ظاهرة يسمونها "الهبوط الثلاثي" (triple descent). يكشف هذا السلوك أن الضجيج نفسه يمكن أن يساعد عملية التعلم في بعض الأحيان، وفي أحيان أخرى، يمكنه خلق فخاخ عميقة لا يمكن حلها بمزيد من البيانات.

تركز الدراسة على نوع محدد من مشابكات التعلم حيث ينتج جهاز كمي مجموعة من الميزات، وهي في الأساس احتمالات لنتائج قياس مختلفة. ثم يحاول كمبيوتر كلاسيكي ملاءمة خط عبر هذه الميزات للتنبؤ بقيمة مستهدفة. قام الباحثون بمحاكاة هذه العملية باستخدام قياسات كمية عشوائية وبيانات تدريب، مع تغيير عدد نتائج القياس وعدد المرات التي تم فيها قياس كل حالة. ولاحظوا أن الخطأ في التنبؤ يتبع مساراً محدداً. في البداية، مع نمو عدد نتائج القياس، ينخفض الخطأ. ثم يصطدم بقمة أولى. تحدث هذه القمة الأولى عندما يصبح إعداد القياس معقداً بما يكفي نظرياً لالتقاط جميع المعلومات حول الحالة الكمية، وهي نقطة تُعرف بالاكتمال المعلوماتي (informational completeness). في هذه اللحظة الدقيقة، يصبح الهيكل الرياضي للقياس غير مستقر، مما يؤدي إلى ارتفاع حاد في الخطأ. هذه عدم الاستقرار هي مشكلة معروفة في الإحصاء الكلاسيكي، حيث يمكن أن يجعل امتلاك عدد كافٍ من نقاط البيانات لحل مشكلة ما الحل شديد الحساسية للأخطاء الصغيرة. وقد أكد الباحثون أن هذه القمة الأولى هي تأثير "كلاسيكي"، مدفوع بهندسة القياس نفسها.

ومع ذلك، فإن القصة لا تنتهي عند هذا الحد. فمع استمرار الباحثين في إضافة المزيد من نتائج القياس، لم يستمر الخطأ في الانخفاض ببساطة، بل ارتفع مرة أخرى إلى قمة ثانية متميزة. تظهر هذه القمة الثانية عندما يتطابق عدد نتائج القياس مع عدد أمثلة التدريب، وهي نقطة تُسمى عتبة الاستيفاء (interpolation threshold). وخلافاً للقمة الأولى، فإن هذه القمة ذات أصل "كمي" بحت؛ فهي تنشأ لأن العدد المحدود من "الطلقات" المستخدمة لتقدير الاحتمالات يُدخل تقلبات عشوائية تخلق ميزات وهمية. هذه الميزات الوهمية لا توجد في الحالة الكمية الحقيقية، بل هي ضجيج محض. وعندما يتطابق عدد النتأجات مع عدد حالات التدريب، تحاول خوارزمية التعلم ملاءمة هذه الميزات المكونة من الضجيج فقط بشكل مثالي، حيث تخصص لها أوزاناً ضخمة، مما يؤدي فعلياً إلى حفظ الضجي "العشوائي" بدلاً من النمط الأساسي. وهذا يخلق قفزة ثانية في الخطأ تختلف جوهرياً عن الأولى.

إن الاكتشاف الأكثر إثارة للدهشة هو كيفية استجابة هاتين القمتين لمزيد من البيانات. فالقمة الأولى، الناتجة عن هندسة القياس، يمكن كبحها من خلال زيادة عدد الطلقات أثناء مرحلة التدريب. فإذا زاد الباحثون عدد القياسات لكل حالة تدريب، يتم متوسط الضجيج وتتسطح القمة الأولى. ومع ذلك، فإن القمة الثانية، القمة الكمية، تتصرف بشكل مختلف. فحتى لو أخذ الباحثون عدداً هائلاً من الطلقات لتدريب النموذج، فإن هذه القمة الثانية لم تختفِ. لقد اختفت فقط في الحد النظري حيث تكون ميزات التدريب معروفة بدقة مطلقة ولانهائية. وفي أي سيناريو واقعي حيث تكون البيانات محدودة، تظل هذه القمة قائمة. وقد أظهر الباحثون أن إضافة المزيد من طلقات التدريب تجعل هذه القمة أسوأ قبل أن تستقر في النهاية، لأن الخوارزمية تصبح أكثر ثقة في ملاءمة الضجيج. وهذا يعني أن مجرد جمع المزيد من البيانات ليس علاجاً لكل شيء؛ بل في الواقع، في النظام الكمي، يمكن للمزيد من البيانات أن يرسخ أخطاء النموذج أحياناً.

استخدم الفريق أدوات رياضية متقدمة، وتحديداً مجالاً من الرياضيات يسمى نظرية المصفوفات العشوائية، لاشتقاق الشكل الدقيق لمنحنيات الخطأ هذه. وأثبتوا أن ارتفاع وعرض هذه القمم يعتمدان على التوازن بين عدد نتائج القياس، وعدد حالات التدريب، وعدد الطلقات المتخذة. كما أظهروا أن تقنية تسمى "تنظيم الحافة" (ridge regularization)، والتي تضيف عقوبة صغيرة لمنع النموذج من إعطاء أهمية كبيرة لأي ميزة واحدة، يمكنها تنعيم هذه القمم. وهذا يشير إلى أنه بينما يخلق الضجيج الكمي عدم استقرار جوهري، فإنه يمكن إدارته بالقيود الرياضية الصحيحة. وتتحدى النتائج الفكرة القائلة بأنه يمكن التعامل مع الميزات الكمية كما لو كانت معروفة تماماً. فإذا تجاهل الباحثون الضجيج وافترضوا أن الميزات دقيقة، فسوف يقللون من تقدير عدم الاستقرار الناجم عن هندسة القياس وسيفقدون تماماً القدرة على رؤية عدم الاستقرار الجديد الخاص بالكم والناجم عن الضجيج نفسه.

يسلط هذا العمل الضوء على علاقة دقيقة ولكنها حرجة بين دقة القياس واستقرار التعلم في الأنظمة الكمية. فهو يوضح أن الطريق نحو التنبؤات الدقيقة ليس خطاً مستقيماً. هناك عتبات محددة يصبح عندها النظام هشاً، وطبيعة هذه الهشاشة تتغير اعتماداً على ما إذا كان إعداد القياس معقداً بما يكفي ليكون مكتملاً، أو ما إذا كان النموذج يحاول ملاءمة الضجيج. ويخلص الباحثون إلى أن تصميم أنظمة التعلم الكمي يتطلب توازناً دقيقاً. فلا يمكن للمرء ببساما تزيد عدد النتأجات أو عدد الطلقات بشكل مستقل. يجب تنسيق كيفية اختيار عدد نتائج القياس مع حجم مجموعة التدريب وميزانية الطلقات المتاحة. فإذا لم تكن هذه العوامل متوافقة، فإن إضافة المزيد من نتائج القياس يمكن أن تجعل التنبؤات أسوأ، حتى مع زيادة دقة القياس نفسه. وتوفر الدراسة خارطة طريق لفهم حالات عدم الاستقرار هذه، مما يوفر طريقة للتنبؤ متى سيعاني نموذج التعلم الكمي وكيفية ضبطه لتجنب أفخاخ مشهد "الهبوط الثلاثي".