Towards interpretable AI with quantum annealing feature selection

إليك ملخص تقني مفصل للورقة البحثية بعنوان "نحو ذكاء اصطناعي قابل للتفسير باستخدام التلدين الكمي لاختيار الميزات".

1. بيان المشكلة

تُستخدم نماذج التعلم العميق (DL)، وخاصة الشبكات العصبية الالتفافية (CNNs)، على نطاق واسع في التطبيقات الحرجة، لكنها غالبًا ما تعمل كـ "صناديق سوداء". وبينما توجد تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) مثل Grad-CAM و Grad-CAM++ لتصور مناطق الصور التي تؤثر على التنبؤات، إلا أنها تعاني من قيود جوهرية:

• التجميع (Aggregation): تقوم بدمج المساهمات من جميع خرائط الميزات (FMs) في خريطة تظليل واحدة، مما يؤدي إلى الفشل في فصل الأدوار المحددة لكل خريطة ميزة على حدة.
• التكرار (Redundancy): لا تقوم بتصفية التمثيلات المكررة أو المترابطة، مما يجعل من الصعب فهم الأنماط المتعلمة المحددة التي تقود القرار.
• التعقيد التوافقي (Combinatorial Complexity): إن اختيار المجموعة الفرعية المثلى من خرائط الميزات لتفسير تنبؤ ما هو مسألة تحسين توافقية تتوسع أسياً ($2^N$) مع عدد الميزات، مما يجعلها غير قابلة للحل حسابياً عبر البحث الشامل الكلاسيكي.

يقترح المؤلفون أن اختيار الميزات (Feature Selection - FS) المطبق على التمثيلات المتعلمة الداخلية (بدلاً من بكسلات المدخلات الخام) هو أداة قوية ولكنها غير مستغلة بشكل كافٍ في مجال الذكاء الاصطناعي القابل للتفسير (XAI). ومع ذلك، فإن حل مسألة اختيار الميزات هذه بكفاءة يتطلب نهجاً جديداً.

2. المنهجية

تقترح الورقة نهجاً مبتكراً يعتمد على التلدين الكمي (Quantum Annealing - QA) لاختيار خرائط الميزات الأكثر صلة وغير المكررة لتنبؤ صورة معينة.

أ. تصفية خرائط الميزات

1. تحليل التدرج (Gradient Analysis): يحسب المؤلفون التجميع المتوسط العالمي للتدرجات بالنسبة لخرائط الميزات في الطبقة الالتفافية الأخيرة ($f^{(a)}_{ij}$).
   $$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$$
   حيث تمثل $\alpha_a$ أهمية خريطة الميزة $a$.
2. الاختيار الإيجابي (Positive Selection): يتم الاحتفاظ فقط بخرائط الميزات ذات المساهمة الموجبة في التدرج ($\alpha_a > 0$)، لأن هذا يؤكد الفئة المتنبأ بها. وهذا ينشئ مجموعة مصفاة $\{\tilde{f}\}$.

ب. صياغة QUBO

يتم ترميز مسألة الاختيار في مسألة التحسين الثنائي التربيعي غير المقيد (QUBO) (أو ما يعادل نموذج إيسينج).

• المتغيرات: تمثل المتغيرات الثنائية (الكيوبتات) تضمين ($1$) أو استبعاد ($0$) كل خريطة ميزة مصفاة.
• دالة الهدف (Hamiltonian): الهدف هو تعظيم أهمية الخرائط المختارة مع تقليل التكرار (التشابه الهندسي).
  $$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$$
  • الحد الخطي ($h_p$): يمثل الأهمية المعيارية لخريطة الميزة $p$ (المشتقة من $\alpha_p$).
  • الحد التربيعي ($J_{pq}$): يمثل تشابه جيب التمام المطلق بين خريطة الميزة $p$ و $q$. التشابه العالي يعني وجود تكرار؛ وهذا الحد يعاقب على اختيار كليهما معاً.
  • المعلم الفائق ($\beta$): يتحكم في المقايضة بين اختيار الميزات عالية الأهمية وتقليل التكرار.

ج. بروتوكول التلدين الكمي

• التهيئة (Initialization): يبدأ النظام في حالة تراكب لجميع المجموعات الفرعية الممكنة للميزات (الحالة الأرضية لهاميلتوني المحرك $\hat{H}_D = -\sum \hat{\sigma}_x$).
• التطور (Evolution): يتطور النظام عبر هاميلتوني يعتمد على الزمن $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$، حيث ينتقل $s$ من 0 إلى 1.
• أخذ العينات (Sampling): يتم أخذ عينات من الحالة النهائية للحصول على سلسلة بتات (bit-string) تمثل المجموعة الفرعية المثلى من خرائط الميزات. هذه المجموعة الفرعية تشكل "خريطة التفسير".

3. المساهمات الرئيسية

1. إطار عمل مبتكر لـ XAI: أول تطبيق للتلدين الكمي خصيصاً لاختيار خرائط الميزات (التمثيلات الكامنة) للشبكات العصبية الالتفافية (CNNs)، بدلاً من بكسلات المدخلات.
2. فك الارتباط (Disentanglement): على عكس Grad-CAM الذي يجمع كل الخرائط، يقوم هذا النهج بعزل مجموعة فرعية متفرقة وغير مكررة من خرائط الميزات، مما يوفر رؤية أوضح للأنماط المحددة التي يستخدمها النموذج.
3. التحليل المدفوع بالفيزياء: يحلل المؤلفون السلوك الحسابي للخوارزمية باستخدام مقاييس الفيزياء الكمية، مثل فجوة الطاقة الدنيا ($\Delta_{min}$) والدقة (Fidelity)، لشرح لماذا يعمل هذا النهج وما هي حدود قابليته للتوسع.
4. نهج هجين: توضح هذه الدراسة كيف يمكن محاكاة مفاهيم NISQ (الأجهزة الكمية متوسطة الحجم ذات الضجيج) لحل مشكلات اختيار الميزات عالية الأبعاد التي يصعب حلها بالخوارزميات الكلاسيكية الاستدلالية.

4. النتائج

تم تقييم الطريقة على مجموعة بيانات STL-10 باستخدام بنية ResNet-18.

• فك ارتباط الفئات (Class Disentanglement):
  • أنتج المؤلفون خرائط ارتباط (الفئة-الفئة) باستخدام معامل بهاتاشاريا (Bhattacharyya coefficient).
  • أظهرت الطريقة القائمة على التلدين الكمي (مع $N_f=16$) فك ارتباط أفضل بكثير (مصفوفة قطرية أكثر) مقارنة بنموذج ResNet-18 الكامل، مما يشير إلى أن خرائط الميزات المختارة أكثر تحديداً لكل فئة على حدة.
• الأداء الكمي (متوسط نسبة الهبوط %):
  • المقياس: يقيس "متوسط نسبة الهبوط %" مدى انخفاض ثقة النموذج عندما يتم حجب البكسلات غير الموجودة في خريطة التفسير. الانخفاض الأقل يشير إلى تفسير أفضل (الخريطة تحتوي على المعلومات الحرجة).
  • النتائج: حققت طريقة QA-fGradCAM متوسط انخفاض أقل (أداء أفضل) من كل من Grad-CAM و Grad-CAM++ في معظم الفئات عند استخدام مجموعة ميزات مخفضة ($N_f=16$).
  • ملاحظة حول القابلية للتوسع: عند التوسع إلى ResNet-18 الكامل ($N_f=512$) باستخدام التلدين المحاكي (SA)، تدهور الأداء. وعزا المؤلفون ذلك إلى صعوبة إيجاد الحد الأدنى العالمي في نماذج QUBO الأكبر، وإلى التثبيط الشديد للميزات بواسطة حد التكرار دون ضبط دقيق لـ $\beta$.
• التحليل الفيزيائي:
  • فجوة الطاقة: وُجد أن فجوة الطاقة الدنيا ($\Delta_{min}$) كبيرة نسبياً (حوالي $10^{-1}$)، مما يشير إلى أن مشهد الحل ليس من الحالات "الأصعب" لنموذج شيرنجتون-إلكينج (Sherrington-Kirkpatrick)، وأنه مسألة قابلة للحل.
  • الدقة (Fidelity): بالنسبة لأوقات التلدين $\tau > 50$، حققت الخوارزمية دقة عالية (التقارب إلى الحالة الأرضية)، مما يؤكد قوة البروتوكول.

5. الأهمية والخاتمة

• القابلية للتفسير: يعزز هذا النهج شفافية نماذج التعلم العميق من خلال تحديد المرشحات (filters) المحددة وغير المكررة المسؤولة عن القرار، متجاوزاً بذلك خرائط الحرارة العامة.
• إمكانات التفوق الكمي: رغم محدودية الأجهزة الحالية، تثبت هذه الدراسة أن صياغة XAI كمسألة QUBO يسمح باستكشاف مساحات الحل الهائلة أسياً بكفاءة. ويشير ذلك إلى أن الأجهزة الكمية المستقبلية قد تحل مشكلات التفسير هذه بشكل أسرع وأكثر دقة من الخوارزميات الكلاسيكية الاستدلالية.
• الاتجاهات المستقبلية: يقترح المؤلفون أن ضبط المعلم الفائق $\beta$ وإضافة قيود العدد (cardinality constraints) قد يؤديان إلى تحسين النتائج بشكل أكبر. الإطار العام مستقل عن البنية ويمكن تطبيقه على معماريات أخرى (مثل Vision Transformers) أو النماذج التوليدية.

باختصار، تجسر هذه الورقة الفجوة بين الحوسبة الكمية والذكاء الاصطناعي القابل للتفسير، وتثبت أن التلدين الكمي يمكنه حل المسألة التوافقية لاختيار الميزات في الشبكات العميقة بفعالية، مما يؤدي إلى تفسيرات للنماذج أكثر تميزاً، وموثوقية، وقابلية للتفسير.