⚛️ quantum physics

SHAP Meets Tensor Networks: Provably Tractable Explanations with Parallelism

تقدم هذه الورقة إطار عمل لحساب تفسيرات SHAP دقيقة ومثبتة للشبكات التنسورية، مظهرةً أنه بينما تكون المشكلة صعبة بشكل عام، إلا أنها تصبح قابلة للحل في زمن حدودي لوغاريتمي عبر الحوسبة المتوازية لهياكل "الترين التنسوري" (Tensor Train)، مما يكشف أن عرض النموذج — وليس عمقه — هو العائق الحسابي الأساسي لـ SHAP في الشبكات العصبية الثنائية.

المؤلفون الأصليون: Reda Marzouk, Shahaf Bassan, Guy Katz

نُشر 2026-03-19

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Reda Marzouk, Shahaf Bassan, Guy Katz

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صندوقاً أسود ذكياً جداً ولكنه غامض. تضع فيه بيانات، فيعطيك إجابة (مثل "يجب الموافقة على هذا القرض" أو "هذا البريد الإلكتروني هو بريد مزعج"). أنت تريد أن تعرف لماذا اتخذ هذا القرار. ما هي قطع المعلومات (الميزات) المحددة التي كانت الأكثر أهمية؟

هنا يأتي دور SHAP. فكر في SHAP كحكم عادل يراجع كل التوليفات الممكنة من الأدلة ليرى مقدار مساهمة كل دليل في الحكم النهائي.

ومع ذلك، هناك مشكلة. بالنسبة للنماذج البسيطة (مثل شجرة القرار الأساسية)، يمكن للحكم إجراء الحسابات بسرعة. ولكن بالنسبة لنماذج الذكاء الاصطناعي المعقدة والحديثة (مثل الشبكات العصبية العميقة)، تصبح الحسابات ضخمة جداً لدرجة أنها ستستغرق وقتاً أطول من عمر الكون لحساب الإجابة الدقيقة. الأمر يشبه محاولة عد كل حبة رمل على الشاطئ يدوياً.

هذه الورقة البحثية، "SHAP Meets Tensor Networks" (لقاء SHAP مع شبكات التنسور)، تقدم طريقة جديدة لحل مشكلة العد هذه، مما يجعلها سريعة وحتى قابلة للتوازي (مثل امتلاك جيش كامل من الحكام يعملون في وقت واحد).

إليك التفاصيل باستخدام تشبيهات بسيطة:

1. المشكلة: كابوس "حبات الرمل"

تخيل أنك تحاول شرح قرار معقد اتخذته شبكة عصبية. للقيام بذلك بشكل مثالي (بدقة)، عليك التحقق من كل سيناريو محتمل.

الطريقة القديمة: إذا كانت الشبكة معقدة، فإن عدد السيناريوهات يكون هائلاً لدرجة أنه يستحيل إنجاز المهمة. الأمر يشبه محاولة العثور على إبرة محددة في كومة قش بحجم المجرة.
النتيجة: نحن عادة ما نضطر للاكتفاء بـ "التخمينات" (التقريبات) لأن الرياضيات الدقيقة صعبة للغاية.

2. الأداة الجديدة: شبكات التنسور (حل "الليغو")

يركز المؤلفون على نوع معين من النماذج يسمى شبكات التنسور (Tensor Networks).

التشبيه: فكر في منحوتة ثلاثية الأبعاد ضخمة ومعقدة مصنوعة من ملايين قطع الليغو. من الصعب فهم الشيء بأكلية في آن واحد.
الحيلة: تقوم شبكة التنسور بتفكيك تلك المنحوتة الضخمة إلى سلسلة من كتل الليغو الأصغر والأكثر قابلية للإدارة المرتبطة معاً. بدلاً من النظر إلى كومة قش بحجم المجرة، تنظر إلى خط مرتب ومنظم من كتل الليغو.

توضح الورقة أنه إذا مثلنا نماذج الذكاء الاصطنا_نا كـ "سلاسل ليغو" هذه، فيمكننا أخيراً إجراء حسابات SHAP الدقيقة دون أن نتعثر.

3. اللاعب النجم: قطارات التنسور (خط التجميع)

من بين جميع الطرق لترتيب كتل الليغو هذه، وجد المؤلفون ترتيباً معيناً يسمى قطار التنسور (Tensor Train - TT).

التشبيه: تخيل أن منحوتة الليغو القياسية هي كومة فوضوية. قطار التنسور يشبه خط التجميع؛ حيث ترتبط الكتل في خط مستقيم واحد، واحدة تلو الأخرى.
القوة الخارقة: نظرًا لأنها في خط مستقيم، يمكنك معالجتها بسرعة هائلة.
- تسلسلياً: يمكنك القيام بذلك واحدة تلو الأخرى.
- بالتوازي (الفوز الكبير): الأفضل من ذلك، ولأن الخط منظم للغاية، يمكنك تقسيم العمل بين آلاف الحواسيب التي تعمل في نفس الوقت تماماً.
- النتيجة: ما كان يستغرق سنوات، يمكن الآن القيام به في جزء من الثانية. تثبت الورقة ذلك رياضياً، حيث تظهر أن مشكلة التفسير لهذه النماذج "القطارية" تنتمي إلى مسار خاص وسريع في علوم الحاسوب (يسمى NC).

4. لحظة الـ "آها!" (الاكتشاف): العرض مقابل العمق

أحد أكثر الاكتشافات إثارة للدهشة في الورقة يتعلق بـ الشبكات العصبية الثنائية (نماذج الذكاء الاصطناعي التي تستخدم فقط 1 و -1، مثل مفتاح الضوء).

الاعتقاد القديم: اعتقد الناس أن العمق (عدد الطبقات في الشبكة) هو السبب الرئيسي في جعل التفسيرات صعبة. ظنوا أنه إذا جعلوا الشبكة ضحلة (طبقات أقل) فستكون سهلة التفسير.
الرؤية الجديدة: تثبت الورقة أن العمق لا يهم كثيراً. يمكنك امتلاك شبكة عميقة جداً، وإذا كانت ضيقة (أي لا يوجد الكثير من الخلايا العصبية جنباً إلى جنب)، فستكون في الواقع سهلة التفسير!
العائق: العدو الحقيقي هو العرض. إذا كانت الشبكة واسعة جداً (الكثير من الخلايا العصبية تعمل جنباً إلى جنب)، فإن الرياضيات تنفجر.
التشبيه: تخيل ممرًا.
- العمق هو طول الممر. المشي في ممر طويل أمر جيد.
- العرض هو عدد الأشخاص الذين يحاولون المرور عبر الباب في نفس الوقت. إذا كان الممر ضيقاً، يمكن لعدد قليل فقط المرور، ويكون من السهل إدارته. أما إذا كان الممر واسعاً ومزدحماً بآلاف الأشخاص، فسيصبح الأمر فوضى عارمة (صعب حسابياً).
- الاستنتاج: لجعل الذكاء الاصطناعي قابلاً للتفسير، لا نحتاج بالضرورة إلى جعل نماذجنا أقل عمقاً؛ بل نحتاج فقط إلى إبقائها ضيقة ومتفرقة (روابط قليلة).

5. لماذا يهمك هذا؟

الثقة: يتيح لنا هذا الحصول على تفسيرات دقيقة لنماذج الذكاء الاصطناعي المعقدة، وليس مجرد تخمينات. يمكننا أخيراً القول: "نحن متأكدون بنسبة 100% أن هذه الميزة هي التي تسببت في القرار"، بدلاً من "نعتقد أنها ربما فعلت ذلك".
السرعة: نظرًا لإمكانية إجراء الحسابات بالتوازي (باستخدام العديد من المعالجات في وقت واحد)، يمكننا شرح القرارات في الوقت الفعلي.
التصميم: يعطي مهندسي الذكاء الاصطناعي قاعدة ذهبية جديدة: إذا كنت تريد للذكاء الاصطناعي الخاص بك أن يكون قابلاً للتفسير، فصممه ليكون "ضيقاً" بدلاً من مجرد "ضحل".

الملخص

الورقة البحثية تشبه العثور على طريق مختصر سري عبر متاهة.

المتاهة: شرح الذكاء الاصطناعي المعقد هو عادةً طريق مسدود (صعب للغاية).
الخريطة: وجدوا أنه إذا رسمت الذكاء الاصطناي كـ "قطار تنسور" (خط مستقيم من كتل الليغو)، فإن المتاهة تختفي.
المركبة: يمكنك القيادة عبر هذا المسار الجديد بسرعة البرق باستخدام الحواسيب المتوازية.
الدرس: عرض الذكاء الاصطناعي يهم أكثر من عمقه. اجعله ضيقاً، ويمكنك فهمه تماماً.

هذا العمل يسد الفجوة بين الذكاء الاصطناوي "القوي ولكن غير القابل للتفسير" والذكاء الاصطناوي "القابل للفهم ولكن الضعيف"، مما يعطينا أفضل ما في العالمين.

إليك ملخص تقني مفصل لورقة البحث بعنوان "SHAP يلتقي بشبكات التنسور: تفسيرات قابلة للتتبع بشكل مثبت مع التوازي" (SHAP Meets Tensor Networks: Provably Tractable Explanations with Parallelism).

1. بيان المشكلة

تُعد قيم "شابلي الإضافية" (SHAP) المعيار الذهبي لتفسير تنبؤات نماذج تعلم الآلة (ML). ومع ذلك، فإن حساب قيم SHAP الدقيقة هو عملية صعبة حاسوبياً (NP-hard) بشكل عام للنماذج المعقدة مثل الشبكات العصبية. وبينما توجد خوارات دقيقة للنماذج الأبسط (مثل أشجار القرار عبر TreeSHAP)، إلا أنها لا تتوسع لتشمل البنى الأكثر تعقيداً. وتعتمد الحلول الحالية غالباً على طرق تقدير تعتمد على أخذ العينات (مثل KernelSHAP)، مما يؤدي إلى أخطاء في التقريب.

تعالج هذه الورقة الأسئلة الجوهرية التالية:

هل يمكننا حساب تفسيرات SHAP دقيقة ومثبتة لفئة أوسع من النماذج التعبيرية؟
تحت أي شروط هيكلية يمكن حساب SHAP بشكل متوازٍ فعال (تحقيق زمن لوغاريتمي متعدد - poly-logarithmic time)؟
ما هي الاختناقات الحسابية المحددة (العمق مقابل العرض مقابل التشتت/الندرة) بالنسبة للشبكات العصبية؟

2. المنهجية

يقدم المؤلفون إطار عمل يربط بين الذكاء الاصطناعي القابل للتفسير (XAI) وشبكات التنسور (Tensor Networks - TNs)، وهو صياغة رياضية مستمدة أصلاً من الفيزياء الكمية تُستخدم لضغط النماذج وتجريدها.

أ. صياغة SHAP المنسورة (Tensorized SHAP Formulation)

قام المؤلفون بإعادة صياغة تعريف SHAP في تمثيل منسيور (Tensorized Representation).

تنسور مارجينال SHAP ( $T^{(M,P)}$ ): عرّفوا تنسوراً يجمع قيم SHAP لجميع الميزات والمدخلات.
التفكيك (Decomposition): أثبتوا أنه يمكن بناء هذا التنسور عن طريق تقليص (Contracting) مكونين:
1. تنسور الائتلاف الموزون المعدل ( $\tilde{W}$ ): الذي يمثل الأوزان التوليفية لمجموعات الميزات.
2. تنسور القيمة الهامشية ( $V^{(M,P)}$ ): الذي يمثل مخرجات النموذج المتوقعة عبر مجموعات الميزات.
الخوارزمية: يتم حساب قيمة SHP الدقيقة عن طريق تقليص هذه التنسورات مع حالة المدخلات.

ب. قيد "قطار التنسور" (The Tensor Train - TT Restriction)

بينما تعد شبكات التنسور العامة صعبة حسابياً، يركز المؤلفون على قطارات التنسور (Tensor Trains - TTs)، وهي طوبولوجيا محددة أحادية البعد لشبكات التنسور.

أظهروا أنه إذا تم تمثيل كل من النموذج ( $M$ ) وتوزيع البيانات ( $P$ ) كقطارات تنسور (TTs)، فإن "تنسور مارجينال SHAP" الناتج سيكون أيضاً قطار تنسور (TT).
التوازي (Parallelization): عملية تقليص التنسور (Tensor contraction) لقطارات التنسور (TTs) هي مشكلة مدروسة جيداً يمكن حلها عبر خوارزميات المسح المتوازي (Parallel Scan). استغل المؤلفون ذلك لإظهار أن حساب SHAP لقطارات التنسور يقع ضمن الفئة التعقيدية NC (تحديداً $NC^2$ )، مما يعني أنه يمكن حله في زمن لوغاريتمي متعدد ( $O(\log^k n)$ ) باستخدام عدد متعدد من المعالجات المتوازية.

ج. الاختزال والتعقيد المعلمي (Reductions and Parameterized Complexity)

الاختزال (Reductions): أظهر المؤلفون أن العديد من نماذج تعلم الآلة الشهيرة (أشجار القرار، مجموعات الأشجار، الشبكات العصبية المتكررة الخطية، والنماذج الخطية) يمكن اختزالها إلى قطارات تنسور مكافئة.
الشبكات العصبية الثنائية (BNNs): قاموا بتحليل الشبكات العصبية الثنائية باستخدام التعقيد المعلمي. حيث حولوا الشبكات (BNNs) إلى قطارات تنسور (TTs) عن طريق تمثيل الخلايا العصبية كآلات حالات محدودة طبقية (LDFAs) واستخدام "تنسورات النسخ" لمحاكاة منطق الشبكة. سمح لهم ذلك بتحليل كيفية تأثير المعلمات الهيكلية (العرض، العمق، التشتت/الندرة) على القابلية للتتبع.

3. المساهمات الرئيسية

إطار عام لـ SHAP الدقيق في شبكات التنسور (TNs):
- تقديم أول خوارزمية لحساب قيم SHAP الدقيقة والمثبتة لشبكات التنسور العامة ذات الهياكل التعسفية.
- إثبات أن حساب SHAP لشبكات التنسور العامة هو مسألة #P-Hard (غير قابلة للتتبع).
القابلية للتتبع والتوازي في قطارات التنسور (TTs):
- إثبات أن حساب SHAP لقطارات التنسور ليس فقط في الفئة P (الزمن متعدد الحدود)، بل في الفئة NC (تحديداً $NC^2$ ).
- يعني هذا أن حساب SHAP لقطارات التنسور يمكن تنفيذه في زمن لوغاريتمي متعدد، وهو تحسن كبير مقارنة بالزمن متعدد الحدود المتسلسل.
تشديد حدود التعقيد للنماذج القياسية:
- من خلال اختزال أشجار القرار، ومجموعات الأشجار، والنماذج الخطية، والشبكات العصبية المتكررة الخطية (Linear RNNs) إلى قطارات التنسور (TTs)، أثبت المؤلفون أن SHAP لهذه النماذج يقع أيضاً في الفئة NC.
- يسمح هذا بالتوازي الهائل لعمليات SHAP الدقيقة لهذه النماذج ويدعم توزيعات اعتماد الميزات الأكثر تعقيداً (أبعد من الاستقلالية) أثناء الحساب.
التحليل الدقيق للشبكات العصبية (BNNs):
- العمق ليس هو العائق: حتى مع وجود عمق ثابت، يظل حساب SHAP للشبكات العصبية الثنائية (BNNs) مسألة NP-Hard.
- العرض هو العائق: إذا كان عرض الشبكة ثابتاً، تنتقل المسألة إلى الفئة XP (متعددة الحدود حسب الشريحة)، فتصبح قابلة للتتبع.
- العرض + التشتت/الندرة = FPT: إذا كان كل من العرض والتشتت (المقاس بـ reified cardinality) ثابتين، تصبح المسألة من فئة FPT (قابلة للتتبع بمعلمة ثابتة). وهذا يعني أنه يمكن حساب SHAP بكفاءة حتى للشبكات الكبيرة جداً، بشرط أن تكون ضيقة (Narrow) ومتشتتة (Sparse).

4. النتائج الرئيسية

فئة النموذج	الفئة التعقيدية	القابلية للتوازي	الرؤية الجوهرية
شبكات التنسور العامة (General TNs)	#P-Hard	لا	غير قابلة للتتبع بدون قيود هيكلية.
قطارات التنسور (TTs)	NC ( $NC^2$ )	نعم (زمن لوغاريتمي متعدد)	حساب SHAP الدقيق قابل للتوازي بكفاءة عالية.
أشجار القرار / المجموعات (Decision Trees / Ensembles)	NC ( $NC^2$ )	نعم	تشديد الحدود؛ مما يتيح SHApp الدقيق المتوازي.
الشبكات العصبية المتكررة/النماذج الخطية (Linear RNNs / Models)	NC ( $NC^2$ )	نعم	توسيع القابلية للتوازي المتوازي للنماذج التسلسلية.
الشبكات العصبية الثنائية (BNNs) (عمق ثابت)	PARA-NP-Hard	لا	تقليل العمق لا يحل مشكلة عدم القابلية للتتبع.
الشبكات العصبية الثنائية (BNNs) (عرض ثابت)	XP	محدودة	العرض هو العائق الأساسي.
الشبكات العصبية الثنائية (BNNs) (عرض + تشتت ثابت)	FPT	نعم	قابلة للتتبع بكفاءة للشبكات الضيقة والمتشتتة.

5. الأهمية والأثر

الربط بين القدرة التعبيرية والقابلية للتتبع: يغلق هذا العمل فجوة كبيرة في نظرية الذكاء الاصطناعي القابل للتفسير (XAI). فقد حدد عائلة من النماذج (TTs) وهي أكثر تعبيراً من الأشجار (قادرة على تقريب دوال معقدة) ومع ذلك تسمح بحساب SHAP دقيق ومتوازٍ.
كفاءة الأجهزة: من خلال وضع حساب SHAP في الفئة NC، توفر الورقة أساساً نظرياً لاستخدام الأجهزة المتوازية الحديثة (GPUs, TPUs) لتوليد تفسيرات دقيقة للنماذج المعقدة، متجاوزةً بذلك طرق أخذ العينات البطيئة.
إعادة تعريف قابلية التتبع في الشبكات العصبية: ينقل تحليل الشبكات العصبية الثنائية (BNNs) التركيز من "العمق" (الذي يُشار إليه غالباً كمصدر للتعقيد) إلى "العرض والتشتت". وهذا يشير إلى أن تصميم شبكات عصبية "ضيقة ومتشتتة" قد يكون استراتيجية ناجحة لبناء أنظمة ذكاء اصطناği قابلة للتفسير بطبيعتها.
مرونة التوزيع: يسمح إطار عمل قطارات التنسور (TT) بحساب SHAP تحت توزيعات ماركوفية (Markovian) أو ماركوفية خفية (Hidden Markov)، مما يلتقط علاقات الاعتماد المعقدة بين الميزات التي لا تستطيع تطبيقات TreeSHAP الحالية (التي تفترض الاستقلالية غالباً) التعامل معها.

في الختام، تثبت هذه الورقة أنه من خلال النظر إلى نماذج تعلم الآلة من منظور شبكات التنسور، وتحديداً قطارات التنسور (Tensor Trains)، يمكننا الحصول على تفسيرات SHAP دقيقة، وعالية التوازي، وفعالة لمجموعة واسعة من النماذج، مما يغير جذرياً فهمنا للحدود الحسابية لقابلية تفسير النماذج.