Which data samples matter when training a quantum model?
تقدم هذه الورقة مقياساً يعتمد على البيانات يسمى "المعلومات القابلة للاستخدام بأسلوب V المتوافقة مع الكم" لتحديد عينات البيانات الأكثر أهمية لتدريب نماذج تعلم الآلة الكمي، مما يتيح استراتيجيات اختيار مسبق مدروسة تُحسن كفاءة بيانات التدريب بشكل كبير.
المؤلف الأصلي:M. Emre Sahin, Cenk Tüysüz, David Galvin, Oscar Wallis, Alex Gregory, Paul Edwards, Christa Zoufal
في المجال الناشئ لتعلم الآلة الكمي، يبني العلماء برامج حاسوبية تعمل على معالجات كمية، وهي أجهزة تستخدم القواعد الغريبة لعالم ما دون الذرة لمعالجة المعلومات. صُممت هذه البرامج للتعرف على الأنماط وإجراء التنبؤات، تماماً مثل أنظمة الذكاء الاصطناعي الموجودة في الهواتف الذكية اليوم، ولكن مع القدرة على حل مشكلات مستعصية حالياً على الحواسيب القياسية. ومع ذلك، ظل لغز مستمر يحيط بهذه النماذج الكمية: فبينما قضى الباحثون سنوات في دراسة مدى قوة النماذج نفسها، لم يولوا اهتماماً كبيراً للبيانات التي تُغذى بها. وكما يتعلم الطالب البشري بشكل مختلف اعتماداً على ما إذا كان يقرأ كتاباً مدرسياً واضحاً أو كتاباً مربكاً، فإن نجاح النموذج الكمي يعتمد بشدة على الأمثلة المحددة التي يدرسها. وكان السؤال الكبير هو ما إذا كانت بعض قطع البيانات أكثر قيمة من غيرها ببساطة، وما إذا كان بإمكاننا تحديد الأمثلة الأكثر فائدة لتعليم هذه الآلات بكفاءة أكبر.
لقد أجاب فريق من الباحثين الآن على هذا السؤال من خلال تطوير طريقة جديدة لقياس مقدار المعلومات المفيدة التي يمكن للنموذج الكمي استخراجها من مجموعة بيانات بدقة. وبدلاً من النظر إلى النموذج بمعزل عن غيره، نقلوا تركيزهم إلى العلاقة بين النموذج والبيانات. لقد ابتكروا مقياساً يعمل كأداة تشخيصية، يحدد كمياً مدى قدرة بنية كمية معينة على التعلم من مجموعة محددة من الأمثلة. وكشف هذا النهج أن ليس كل نقاط البيانات متساوية؛ فبعض الأمثلة واضحة للغاية لدرجة أن النموذج يتعلمها فوراً، بينما البعض الآخر مربك أو متناقض لدرجة أنه يعيق عملية التعلم فعلياً. ومن خلال قياس "المعلومات القابلة للاستخدام" في كل عينة تدريب فردية، استطاع الباحثون رؤية أي الأمثلة كانت تقود نجاح النموذج وأيها لم يكن سوى ضجيج.
ولجعل هذا القياس ناجحاً، تعين على الفريق حل مشكلة فريدة متأصلة في الحوسبة الكمية. في الحوسبة الكلاسيكية، لفهم مقدار ما يتعلمه النموذج من البيانات، يقارن العلماء أداءه مع وبدون أي مدخلات على الإطلاق. أما في العالم الكمي، فإن مجرد إيقاف تشغيل مدخلات البيانات ليس أمراً مباشراً لأن الحالة الداخلية للآلة حساسة وسهلة التأثر. اختبر الباحثون عدة طرق لإنشاء مدخل "لوحة بيضاء فارغة" own—وهي حالة لا تحمل أي معلومات عن المهمة ولكنها تحترم القيود الفيزيائية للآلة. ووجدوا أن إعداد النظام الكمي في حالة من التراكب المتساوي، حيث يكون كل مخرج محتملاً مرجحاً بالتساوي، يعمل كأفضل خط أساس محايد. وقد سمح لهم ذلك بقياس الانخفاض في عدم اليقين الذي حققه النموذج بمجرد إدخال البيانات الحقيقية بدقة، مما وفر درجة واضحة توضح مقدار ما تعلمه النموذج بالفعل.
باستخدام نظام التسجيل الجديد هذا، فحص الفريق كيفية تعلم النماذج الكمية بمرور الوقت. لقد راقبوا النماذج وهي تتدرب على مجموعة بيانات مصممة لتصنيف أطوار مختلفة من المادة، وهي حالة فيزيائية معقدة تتصرف فيها الجسيمات في انسجام. وأظهرت النتائج أن النماذج لم تتعلم مجموعة البيانات بأكملها دفعة واحدة؛ بل أتقنت بسرعة الأمثلة السهلة، بينما عانت مع الأمثلة الصعبة القريبة من الحدود بين الأطوار المختلفة. وكشف المقياس أن قدرة النموذج على التعميم—أي مهارته في تطبيق ما تعلمه على بيانات جديدة لم يسبق رؤيتها—كانت مرتبطة مباشرة بمقدار المعلومات المفيدة التي استخرجها من مجموعة التدريب. وعندما أُجبر النموذج على التعلم من الأمثلة الأكثر إفادة، تحسن أداؤه بشكل كبير.
إن التطبيق العملي الأكثر أهمية لهذا الاكتشاف هو استراتيجية جديدة لتدريب هذه النماذج بكفاءة أكبر. تقليدياً، يدرب الباحثون النماذج الكمية على مجموعات بيانات ضخمة، وهي عملية بطيئة وتستهلك الكثير من الموارد. وقد أثبت الفريق أنه باستخدام مقياس المعلومات الخاص بهم لاختيار أكثر نقاط البيانات قيمة فقط، يمكنهم تدريب نموذج على جزء ضئيل من البيانات الأصلية دون فقدان الدقة. وفي إحدى التجارب، قللوا بيانات التدريب بنسبة ثمانين بالمائة، محتفظين فقط بالعشرين بالمائة العليا من العينات الأكثر إفادة. وقد أدى النموذج الذي تدرب على هذه المجموعة الفرعية المختارة بعناية إلى أداء يضاهي أداء نموذج تدرب على مجموعة البيانات الكاملة. ويشير هذا الاكتشاف إلى أنه في المستقبل، قد لا نحتاج إلى تغذية الحواسيب الكمية بكل مثال متاح؛ بل يمكننا إعطاؤها حفنة مختارة بعناسة من أفضل الدروس، مما يوفر كميات هائلة من الوقت والقدرة الحسابية.
وقد تحقق الباحثون من صحة هذا النهج عبر أنواع مختلفة من المشكلات، بما في ذلك البيانات الاصطناعية والحالات الكمية المعقدة، مؤكدين أن الطريقة تعمل باستمرار. كما أظهروا أن أداة التشخيص الخاصة بهم يمكن تطبيقها على أنظمة كبيرة جداً، من خلال محاكاة نموذج مكون من خمسين كيوبت (qubit)، وهو مقياس يصعب دراسته بالطرق التقليدية. وبينما يستند العمل حالياً إلى عمليات المحاكاة، فإنه يوفر مساراً ملموساً لجعل تعلم الآلة الكمي أكثر عملية. فمن خلال فهم أي البيانات هي الأكثر أهمية، يمكن للعلماء بناء نماذج أفضل وبسرعة أكبر، وتحويل وعد الحوسبة الكمية إلى واقع يتسم بالقوة والكفاءة في آن واحد.
ملخص تقني لورقة بحثية بعنوان: "أي عينات البيانات تهم عند تدريب نموذج كمي؟"
بيان المشكلة
بينما تمت دراسة التعبيرية (expressivity)، ومناظر الخسارة (loss landscapes)، والتعميم (generalization) لنماذج تعلم الآلة الكمي (QML) بشكل مكثف من منظور متمحور حول النموذج، إلا أن هناك نقصاً في فهم التوافق بين نماذج كمية محددة ومجموعات بيانات معينة. لا تكتفي الأبحاث الحالية بتوصيف قدرة النموذج وقابلية التدريب، بل لا تعالج مباشرة كيف تساهم عينات تدريب فردية في عملية التعلم أو كيفية اختيار مجموعات فرعية من البيانات بكفاءة لتعظيم أداء النموذج. يفترض المؤلفون أن اتباع نهج متمحور حول البيانات أمر ضروري لتحديد نقاط البيانات الأكثر أهمية لديناميكيات التعلم في النماذج الكمية ولتحسين كفاءة البيانات في مسارات تدريب تعلم الآلة الكمي.
المنهجية
يقوم المؤلفون بتوسيع إطار عمل المعلومات القابلة للاستخدام لـ V (V-usable information)، والذي قدمه Xu وآخرون في الأصل للنماذج الكلاسيكية، إلى مجال النماذج الكمية ذات المعلمات (parametrized quantum models). يحدد هذا الإطار كمية المعلومات التي يمكن لعائلة نموذج معينة استخراجها من مجموعة بيانات بالنسبة لقيودها الحسابية والمعمارية.
1. الإطار النظري:
المعلومات القابلة للاستخدام لـ V (IV): تُعرف بأنها تقليل عدم اليقين بشأن التسميات (labels) Y عند توفير البيانات X، وهو أمر لا يمكن تحقيقه إلا بواسطة عائلة النموذج V. ويتم حسابها كالتالي: IV(X→Y)=HV(Y)−HV(Y∣X)، حيث HV(Y) هو الإنتروبيا التنبؤية مع مدخل فارغ (لا توجد بيانات) و HV(Y∣X) هو الإنتروبيا الشرطية المعطاة للبيانات.
المعلومات النقطية لـ V (PVI): امتداد يخصص قيمة معلومات لكل نقطة بيانات فردية (x,y). يمكن أن تكون قيمة PVI سالبة، مما يشير إلى أن عينة معينة قد تعيق التعلم (على سبيل المثال، بسبب الضجيج أو التسمية الخاطئة) أو أن النموذج يتنبأ بها بشكل أفضل بدونها.
وكيل تعميم V (ΔV): مقياس يُعرف بأنه الفرق المطلق بين المعلومات القابلة للاستخدام لـ V على بيانات الاختبار مقابل بيانات التدريب، ويعمل كمقياس معلوماتي لأداء التعميم.
2. التكيف الكمي:
بناء المدخل الفارغ: يتمثل التحدي الح actually في السياق الكمي في تعريف "مدخل فارغ" (∅) لا يوفر معلومات خاصة بالمهمة مع الحفاظ على الانحياز الاستقرائي (inductive bias) للنموذج. قيم المؤلفون ثلاثة مرشحين: تقريب حالة Haar-random (N1)، وحالة حاصل ضرب Hadamard (N3)، والحالة الصفرية (N2). وقد حددوا أن حالة حاصل ضرب Hadamard (H⊗S∣0⟩⊗S، والمشار إليها بـ N3) توفر خط أساس عملي وعالي الإنتروبيا مشابه لحالات Haar-random دون الحاجة إلى كيوبتات مساعدة (ancilla qubits) أو محاكاة لمصفوفة الكثافة. أما الحالة الصفرية (N2)، التي لا تطبق أي بوابات (U∅=I)، فقد كان أداؤها أسوأ بكثير.
التقدير: يتم تقريب المعلومات القابلة للاستخدام لـ V تجريبياً عن طريق تدريب مجموعة (ensemble) من K من نسخ النماذج الكمية المستقلة مع بذور معاملات عشوائية.
3. الإعداد التجريبي:
مجموعات البيانات:
تصنيف الطور (Phase-Classification): الحالات الأرضية لهاملتونيان العنقود المعمم (16 كيوبت) التي تميز بين الأطوار الطوبولوجية المحمية بالتناظر، والطور المغناطيسي الحديدي، والطور المغناطيسي المضاد، والطور التافه.
Adhoc: مهمة تصنيف ثنائية الأبعاد اصطناعية مع تحكم في الغموض، والتكرار، والضجيج.
NTangled: مهمة كمية محددة على 8 كيوبت تميز الحالات من خلال قيم التشابك المركز (Concentrated Entanglement).
النماذج: دوائر كمية ذات معاملات (PQCs) مع ترميزات خرائط الميزات (feature-map encodings) وطبقات أنسات (ansatz) قابلة للتدريب (مثل 10 طبقات من الدورات و CNOTs).
النطاق: أُجريت التجارب باستخدام محاكاة متجه الحالة (state-vector simulations) للأنظمة الأصغر، واستخدام طرق الشبكة التنسورية (tensor-network methods) لتقييم نموذج مكون من 50 كيوبت، مما أظهر قابلية التوسع بما يتجاوز حدود محاكاة متجه الحالة القياسية.
المساهمات الرئيسية
صياغة المعلومات القابلة للاستخدام لـ V لتعلم الآلة الكمي (QML): يقدم المؤلفون صياغة مستقلة عن البنية للمعلومات القابلة للاستخدام لـ V قابلة للتطبيق على دوائر خرائط الميزات-الأنسات، ونماذج إعادة رفع البيانات (data re-uploading)، والترميزات ذات المعلمات المتكاملة.
استراتيجية المدخل الفارغ الكمي: يعالج المؤلفون بناء المدخل الفارغ غير البديهي للنماذج الكمية، ويتحققون من صحة حالة حاصل ضرب Hadamard (N3) كخط أساس فعال ومنخفض التكلفة.
التشخيص على مستوى العينة: من خلال استخدام PVI، تقدم هذه الدراسة رؤية دقيقة لديناميكيات التعلم، وتحدد العينات التي يتم حفظها، والتي تدعم التعميم، وكيف تتطور فائدة العينة أثناء التدريب.
استراتيجية اختيار المجموعات الفرعية للبيانات: يقترح المؤلفون استراتيجية اختيار مسبق تحدد المجموعات الفرعية المعلوماتية دون الحاجة إلى نموذج مدرب. بدلاً من التخلص من عينات PVI المنخفضة (الذي يتطلب تدريباً مسبقاً)، يقترحون اختيار العينات ذات الـ PVI المنخفض عند التهيئة. الفرضية هي أن هذه العينات لا يمثلها الانحياز الاستدلالي الأولي للنموذذ بشكل جيد، وبالتالي توفر إشارة تعلم أقوى وأكثر تنوعاً.
إثبات القابلية للتوسع: تم إثبات أن المسار قابل للتطبيق لنماذج 50 كيوبت باستخدام طرق الشبكة التنسورية، مما يسد الفجوة بين المقاييس النظرية والمحاكاة الكمية واسعة النطاق.
النتائج
ديناميكيات التعلم: كشفت خرائط PVI في مهمة تصنيف الطور أن النموذج واجه صعوبة في تعلم المعلومات بالقرب من حدود الطور وفي الطور الرابع (Phase IV)، وهو ما انعكس في قيم PVI المنخفضة. تتبع مقياس المعلومات القابلة للاستخدام لـ V التقدم في التدريب بشكل أكثر استمرارية من الدقة (accuracy)، التي كانت تعاني من الثبات والتقلب.
التعميم: أظهر وكيل تعميم V (ΔV) توافقاً نوعياً قوياً مع الفرق بين خسارة التدريب وخسارة الاختبار، مما يؤكد صلاحيته كمقياس معنوي للتعميم.
كفاءة البيانات:
في مجموعات بيانات (phase-classification) و (adhoc) و (NTangled)، تفوقت استراتيجية اختيار المجموعات الفرعية الموجهة بـ PVI على أخذ العينات العشوائية المنتظمة، وأخذ العينات القائم على الإنتروبيا، وأخذ عينات k-center، وأخذ عينات مستوحاة من TDA، خاصة عند اختيار مجموعات فرعية بنسبة 10% أو أكثر.
أنتجت المجموعات المختارة عبر PVI قيم تدرج (gradient norms) أولية أكبر وأبعاداً فعالة أعلى، مما يشير إلى تحسن في التعبيرية (expressivity).
إثبات المفهوم لـ 50 كيوبت: حقق تدريب نموذج 50 كيوبت على 20% فقط من البيانات (المختارة عبر PVI) دقة اختبار بلغت 0.716، مقارنة بـ 0.742 لمجموعة البيانات الكاملة. كان الفرق (2.6%) ضمن الانحراف المعياري لتشغيلات المجموعة الفرعية، مما يثبت أن المجموعة المختارة احتفظت بمعظم أداء مجموعة البيانات الكاملة مع تقليل عينات التدريب بنسبة 80%.
الأهمية والادعاءات
تزعم الورقة البحثية أن المعلومات القابلة للاستخدام لـ V تعد أداة تشخيصية قوية لديناميكيات التعلم ومساراً عملياً لتعلم الآلة الكمي عالي كفاءة البيانات.
رؤية متمحورة حول البيانات: تنقل التركيز من الخصائص المتمحورة حول النموذج فقط إلى التوافق بين النماذج ومجموعات بيانات محددة، مما يكشف عن هياكل قد تغفلها المقاييس القياسية (مثل الدقة) أو حدود التعميم.
كفاءة الموارد: تسمح استراتيجية الاختيار المقترحة بناءً على PVI بتحديد عينات التدريب الحرجة دون التكلفة الحسابية للتدريب على مجموعة البيانات الكاملة أولاً، مما يعالج مباشرة كثافة الموارد في تدريب تعلم الآلة الكمي (QML).
التوسيع النظري: يكمل هذا العمل التقدم الأخير في نظرية التعميم المعتمدة على النموذج من خلال توفير تشخيصات دقيقة متمحورة حول البيانات.
القيود: يشير المؤلفون بتواضع إلى أن المقياس غير معير (normalized) (مما يتطلب الحذر عند المقارنة عبر مهام ذات توزيعات تسمية مختلفة) وأن اختيار المدخل الفارغ يظل افتراضاً نمذجياً. كما يوضحون أن الحاجة لتقييم مدى متانة الإطار تجاه ضجيج الأجهزة الكمية (quantum hardware noise) لا تزال قائمة.
في الختال، يرى المؤلفون أن الدراسات التجريبية المعتمدة على البيانات باستخدام المعلومات القابلة للاستخدام لـ V ضرورية لتقييم نماذج تعلم الآلة الكمي، حيث أن الضمانات النظرية لا تتنبأ دائماً بالسلوك العملي للنماذج التي يتم تدريبها على مجموعات بيانات محدودة.