Who can sample forever? Shot noise effects in quantum linear regression
تُثبت هذه الورقة أن ضجيج أخذ العينات ذي الدفعات المحدودة يضع حداً جوهرياً للانحدار الخطي الكمي من خلال جعل المشكلة سيئة التكيّف، مما يتسبب في استمرار أخطاء التنبؤ أو حتى زيادتها مع مجموعات البيانات الأكبر عندما تكون الأهداف مشوبة بالضجيج نتيجة لشكل من أشكال الإفراط في التخصيص الكمي.
المؤلفون الأصليون:Gabriele Lo Monaco, Salvatore Lorenzo, Alessandro Ferraro, Mauro Paternostro, G. Massimo Palma, Luca Innocenti
في مجال تعلم الآلة الكمي الذي يتطور بسرعة، يحاول الباحثون تعليم الحواسيب كيفية التعرف على الأنماط باستخدام القواعد الغريبة للفيزياء الكمية. ويتضمن أحد النهج الشائعة عملية مكونة من خطوتين: أولاً، يأخذ جهاز كمي ثابت مدخلاً ويحوله إلى مجموعة من الأرقام تسمى "الميزات" (features)، والتي تصف المدخل بطريقة جديدة. ثانياً، يتعلم برنامج حاسوبي تقليدي كيفية دمج هذه الميزات لإجراء تنبؤ، مثل تحديد خاصية كيميائية معينة أو نوع من المواد. هذا الأسلوب جذاب لأن الجزء الكمي لا يحتاج إلى تدريب، مما يتجنب بعض أصعب المشكلات التي تؤرق الخوارزميات الكمية الأخرى. ومع ذلك، هناك عقبة جوهرية: لا يمكن للجهاز الكمي ببساطة إخراج أرقام هذه الميزات مباشرة؛ بل يجب عليه قياس الحالة الكمية عدة مرات لتقدير احتمالات النتائج المختلفة. هذه العملية تشبه محاولة تخمين النسبة الدقيقة للكرات الحمراء والزرقاء في جرة عن طريق سحب حفنة منها؛ فكلما سحبت المزيد من الكرات، اقترب تقديرك من الحقيقة، ولكن مع عدد محدود من السحبات، سيحتوي تقديرك دائماً على خطأ عشوائي.
لقد استقصى فريق من الفيزيائيين الآن كيف يؤثر خطأ القياس الذي لا مفر منه هذا، والمعروف باسم "ضجيج الطلقة" (shot noise)، على قدرة هذه النماذج الكمية على التعلم. وقد ركزوا على إعداد محدد حيث يولد الجهاز الكمي ميزات من مجموعة من بيانات التدريب، بينما يحاول حاسوب تقليدي إيجاد العلاقة الرياضية المثلى بين هذه الميزات والإجابة المطلوبة. واكتشف الباحثون أن فعل تقدير هذه الميزات باستخدام عدد محدود من القياسات يخلق فخاً خفياً. في عالم مثالي مع عدد لا نهائي من القياسات، ستستقر الميزات على سطح مسطح ذي أبعاد أدنى ضمن فضاء رياضي شاسع. لكن في العالم الحقيقي، حيث تكون القياسات محدودة، يدفع الضجيج العشوائي الميزات المقدرة بعيداً عن هذا السطح وإلى الفضاء الفارغ المحيط به. وعندما يحاول الحاسوب التعلم من هذه البيانات الصاخبة، فإنه يحاول مطابقة خط مع هذه النقاط الشاردة، مما يؤدي فعلياً إلى تعلم التنبؤ باتجاهات لا وجود لها في الفيزياء الأساسية.
تظهر الدراسة أن هذا يخلق نوعاً معيناً من الخطأ يتصرف بشكل مختلف عن الأخطاء في علوم الحاسوب التقليدية. في التعلم القياسي، إذا كان لديك مجموعة بيانات صاخبة، فإن إضافة المزيد من الأمثلة يساعدك عادةً في الاقتراب من الإجابة الصحيحة. أما هنا، فقد وجد الباحثون أن مجرد إضافة المزيد من أمثلة التدريب لا يحل المشكلة إذا ظل عدد القياسات المأخوذة لكل مثال منخفضاً. بدلاً من ذلك، يستقر الخطأ عند حد أدنى عنيد تحدده دقة القياسات الفردية. والطريقة الوحيدة لخفض هذا الحد هي زيادة عدد القياسات المأخوذة لكل مثال تدريبي واحد. وإذا حاول الباحثون التعلم باستخدام عدد قليل جداً من القياسات لكل مثال، فسيصبح النموذج حساساً بشكل متزايد للضجيج، وستؤدي إضافة المزيد من البيانات في الواقع إلى توقف النتائج عن التحسن.
يصبح الموقف أكثر تعقيداً عندما تكون الإجابات التي يحاول النموذج تعلمها خاطئة قليلاً، ربما بسبب عيوب في كيفية تحضير الحالات الكمية. في هذا السيناريو، يبدأ النموذج في تعلم الضجيج نفسه. وقد لاحظ الباحثون ظاهرة يسمونها "الفرط في التعلم الكمي" (quantum overfitting)، حيث يؤدي زيادة دقة بيانات التدريب إلى جعل تنبؤات النموذج أسوأ. يحدث هذا لأن النموذج يبدأ في التشبث بالاتجاهات العشوائية الناتجة عن ضجيج القياس، ومع زيادة دقة بيانات التدريب، فإنه يضخم الأخطاء في الإجابات المستهدفة. وتظهر الدراسة أن هناك مقايضة دقيقة: يجب على المرء الموازنة بين عدد أمثلة التدريب وعدد القياسات المأخوذة لكل منها.
من خلال تحليل رياضي مفصل ومحاكاة حاسوبية، رسم الفريق خريطة دقيقة لكيفية نمو وانكماش هذه الأخطاء. وأوضحوا أنه عندما تكون الإجابات المستهدفة مثالية، يتناقص الخطأ بسرعة في البداست مع زيادة القياسات، ثم يتباطأ، حيث يهيمن عليه انحياز منهجي لا يمكن إزالته بإضافة المزيد من البيانات. وعندما تكون الإجابات المستهدفة صاخبة، يمكن للخطأ أن يبدأ في الارتفاع مرة أخرى إذا أصبحت قياسات التدريب دقيقة للغاية دون زيادة مقابلة في دقة قياسات الاختبار. يوفر هذا العمل دليلاً واضحاً لكيفية تخصيص الموارد في التجارب الكمية، مما يظهر أن مجموعة بيانات أكبر ليست أفضل دائماً إذا لم يتم تحسين جودة القياسات الفردية أيضاً. وتشير النتائج إلى أن أنظمة التعلم الكمي المستقبلية يجب أن تُصمم بوعي دقيق بهذه الحدود الإحصائية، مع معاملة عدد القياسات وعدد الأمثلة كوجهين لعملة واحدة وليس كمتغيرات مستقلة.
ملخص تقني: من يمكنه أخذ العينات للأبد؟ تأثيرات ضجيج الشوت في الانحدار الخطي الكمي
بيان المشكلة يشمل الانحدار الخطي الكمي (QLR) بنيات تعلم آلي كمي غير تباينية، مثل آلات التعلم المتطرف الكمي (QELMs) ونوا kernels الوفاء الكمي، حيث تقوم أجهزة كمية ثابتة برسم خرائط لبيانات المدخلات إلى فضاء ميزات كمي، ويتم تدريب نموذج خطي كلاسيكي على قيم التوقع الناتجة. وثمة تميز جوهري بين الانحدار الخطي الكمي والانحدار الخطي الكلاسيكي هو أن الميزات الكمية لا يمكن الوصول إليها مباشرة؛ بل يجب تقديرها من عدد محدود من عينات القياس أو "الضربات" (N). وهذا يؤدي إلى إدخال ضجيج أخذ عينات جوهري (ضجيج الشوت) في مصفوفة الميزات.
يتناول البحث فجوة حرجة في فهم كيفية تأثير ضجيج الإحصاء المحدود هذا على أداء التعلم. وبينما يُعرف الانحدار الخطي الكلاسيكي مع الميزات الضوضائية (نماذج الأخطاء في المتغيرات) بأنه يسبب انحيازاً، فإن العواقب الهيكلية المحددة لضجيج الشوت على رتبة وملاءمة المصفوفات الكمية لم يتم توصيفها بشكل منهجي. وتحديداً، يبحث المؤلفون في كيفية تحديد التفاعل بين عدد حالات التدريب (ntr) وعدد الضربات لكل حالة (N) لمتوسط مربع الخطأ (MSE)، مما يتحدى الحدس القائل بأن زيادة حجم مجموعة البيانات وحدها كافية لتقليل الخطأ.
المنهجية يحلل المؤلفون إطار الانحدار الخطي الكمي حيث تُفترض أهداف التدريب في البداية دقيقة، وينشأ الضجيج فقط من تقدير احتمالات المدخلات. وهم يمثلون مصفوفة الميزات التجريبية P^N كاضطراب للمصفوفة المثالية منخفضة الرتبة P (حيث rank(P)≤d2، و d هو بُعد فضاء هيلبرت).
تحليل عدم استمرارية الرتبة: العقبة النظرية الجوهرية التي تم تحديدها هي أنه بينما تكون المصفوفة المثالية P منخفضة الرتبة (محصورة في فضاء جزئي ذي بُعد d2)، فإن المصفوفة التجريبية P^N تصبح كاملة الرتبة باحتمالية عالية بسبب ضجيج الشوت. ويؤدي هذا الارتفاع في الرتبة إلى حدوث عدم استمرارية في شبه المعكوس مورو-بنروز P^N+، مما يؤدي إلى ظهور حدود متباعدة مع اقتراب N→∞ إذا لم يتم التعامل معها بشكل صحيح.
التوسع الاضطرابي: طور المؤلفون نهجاً اضطرابياً مخصصاً لشبه المعكوس في النظام الذي يكون فيه ntr,nout>d2. ومن خلال تفكيك مصفوفة الضجيج إلى كتل بالنسبة لـ "الدعم" و"النواة المتممة" لـ P، قاموا بعزل المكونات المتباعدة. ويظهرون أنه بينما يتباعد شبه المعكوس نفسه، فإن التنبؤات الفيزيائية (التي تتضمن أهدافاً دقيقة واحتمالات اختبار) تظل محدودة لأن الكتل المتباعدة يتم إبطالها بواسطة الإسقاط على الفضاء الجزئي للإشارة.
تفكيك الانحياز والتباين: استنتجت الدراسة تفكيكاً صريحاً لمتوسط مربع الخطأ (MSE) للإحصائيات الاختبارية اللانهائية إلى انحياز التدريب وتباين التدريب. وقد استخدموا نهجين متكاملين:
نموذج ضجيج غاوسي متجانس: لحساب عزوم مكمل شير (Schur complement) تحليلياً واستنتاج قوانين القياس (scaling laws).
تحليل ضجيج متعدد الحدود صارم: يتجنب التقريبات الغاوسية، باستخدام متباينات التركيز وحدود الاحتمالية العالية للتحكم في حدود الباقي لقيم N و ntr الكبيرة.
التمدد إلى الأهداف الضوضائية: تم توسيع الإطار ليشمل السيناريوهات التي تكون فيها أهداف التدريب ضوضائية أيضاً (على سبيل المثال، بسبب أخطاء إعداد الحالة)، وتحليل كيفية تفاعل ذلك مع ضجيج الشوت الذي يزيد من الرتبة.
المساهمات والنتائج الرئيسية
سوء الملاءمة الجوهري: يثبت البحث أن تقدير عدد محدود من الضربات يجعل الانحدار الخطي الكمي سيئ الملاءمة (ill-conditioned) بشكل لا مفر منه. حيث تكتسب مصفوفة الميزات التجريبية "اتجاهات زائفة" خارج الفضاء الجزئي المثالي، تحمل قيماً مفردة عند مقياس الضجيج N−1/2.
قوانين قياس الموارد: استنتج المؤلفون قياس MSE بالنسبة لـ N و ntr، محددين نظامين متميزين:
الإحصاء المنخفض (N≲ntr): يهيمن على MSE انحياز منهجي يتناسب مع N−2. ينشأ هذا الانحياز من زيادة الرتبة وما يصاحبها من سوء ملاءمة. ومن المهم ملاحظة أن هذا الانحياز لا يتأثر بعدد حالات التدريب ntr.
الإحصاء العالي (N≳ntr): يهيمن على MSE التباين (التقلبات) والذي يتناسب مع (Nntr)−1.
المقايضة: على عكس الانحدار الكلاسيكي مع ميزات دقيقة، فإن زيادة حجم مجموعة البيانات (ntr) وحدها لا يمكنها إزالة الخطأ الناتج عن ضجيج الشوت بمجرد كبح التباين. إذ يستقر الخطأ عند أرضية يحددها ميزانية الضربات لكل حالة (N−2). ولتقليل الخطأ أكثر، يجب زيادة N جنباً إلى جنب مع ntr.
الفرط في التخصيص الكمي (Quantum Overfitting): عندما تكون أهداف التدريب ضوضائية، فإن "الاتجاهات الزائفة" (التي خلقتها ضوضاء الشوت) والتي كانت غير ضارة سابقاً، تتصل بضجيج التسمية (label noise). وهذا يؤدي إلى حد يساهم في MSE يتناسب مع N/M (حيث M هو عدد ضربات الاختبار). وبالتالي، فإن زيادة إحصائيات التدريب N دون زيادة إحصائيات الاختبار M يمكن أن تؤدي إلى زيادة خطأ الاختبار. حدد المؤلفون هذا كنوع من الفرط في التخصيص الكمي، حيث يؤدي صقل ميزات التدريب إلى تضخيم الضجيج في التسميات.
المعاملات الصريحة: توفر الورقة صيغاً صريحة لمعاملات الانحياز والتباين من حيث الـ POVM، ومجموعة التدريب، والمراقب المستهدف (target observable)، والتي تم التحقق منها عبر عمليات المحاكاة الرقمية عبر مختلف الأنظمة والأبعاد.
الأهمية والادعاءات يدعي البحث أنه يكشف عن مقايضة جوهرية بين حجم مجموعة البيانات وإحصائيات القياس لكل حالة في التعلم الكمي غير التبايني. ويجادل بأن المفاهيم المألوفة من التعلم الكلاسيكي يجب مراجعتها لتأخذ في الاعتبار هندسة فضاء الحالة الكمية، وتحديداً القيد الذي يقضي بأن الميزات الكمية المثالية تعيش في فضاء جزئي ذي بُعد d2، بينما لا تنطبق هذه الخاصية على تقديراتها.
يؤكد المؤلفون أن نتائجهم توفر خط أساس لـ استراتيجيات التدريب والانتظام الواعية بالموارد. ويزعمون أن ضمانات الأداء في التعلم الآلي الكمي (QML) يجب أن تأخذ في الاعتبار صراحةً آثار الضربات المحدودة، ومعالجة ميزانية التجربة الإجمالية كمسألة تخصيص مشترك بين عدد حالات التدريب وعدد الضربات لكل حالة، بدلاً من إعطاء الأولوية لحجم مجموعة البيانات بمعزل عن غيرها. يسلط العمل الضوء على أن الإحصائيات المحدودة يمكن أن تغير نوعياً الاستنتاقات المستمدة من التحليلات المثالية ذات العينات اللانهائية.