🤖 machine learning

Provably Explaining Neural Additive Models

تقدم هذه الورقة خوارزمية فعالة خاصة بنماذج معينة للنماذج العصبية الجمعية (NAMs)، تولد تفسيرات ذات حد أدنى عددي مثبت بـتعقيد استعلام لوغاريتمي، متجاوزة بذلك الاستعصاء الحسابي للشبكات العصبية القياسية ومتفوقة على الأساليب الحالية في كل من حجم التفسير ووقت الحوسبة.

المؤلفون الأصليون: Shahaf Bassan, Yizhak Yisrael Elboher, Tobias Ladner, Volkan Şahin, Jan Kretinsky, Matthias Althoff, Guy Katz

نُشر 2026-02-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Shahaf Bassan, Yizhak Yisrael Elboher, Tobias Ladner, Volkan Şahin, Jan Kretinsky, Matthias Althoff, Guy Katz

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صندوقاً أسود ذكياً جداً، ولكنه غامض، يتخذ قرارات مهمة — مثل الموافقة على قرض، أو تشخيص مرض، أو تحديد وجود ورم. تسأل الصندوق: "لماذا قلت نعم؟"

عادةً، يعطيك الصندوق قائمة طويلة ومربكة من الأسباب: "حسناً، دخلك كان مرتفعاً، وعمرك 35 عاماً، وتعيش في الرمز البريدي 90210، ولديك كلب، واشتريت قهوة يوم الثلاثاء". من الصعب معرفة أي من هذه العوامل الـ 100+ كان هو المؤثر فعلياً.

في عالم الذكاء الاصطناعي، نسمي هذه القوائم تفسيرات (Explanations). والهدف هو إيجاد أصغر قائمة جوهرية من الأسباب التي، إذا حافظت عليها كما هي، سيظل الصندوق يعطي نفس الإجابة، بغض النظر عن كيفية تغييرك لـ 95 عاملاً أخرى.

المشكلة: كابوس "إبرة في كومة قش"

بالنسبة لنماذج الذكاء الاصطناعي القياسية (الأنواع المستخدمة في معظم التطبيقات اليوم)، فإن العثور على هذه القائمة الصغيرة والمثالية هو كابوس حسابي.

كومة القش: تخيل أن النموذج لد'يه 100 ميزة. لإيجاد القائمة المثالية، يتعين على الكمبيوتر فحص كل توليفة ممكنة من الميزات.
الرياضيات: مع وجود 100 ميزة، هناك عدد من التوليفات يفوق عدد الذرات في الكون. حتى أسرع الحواسيب الفائقة ستستغرق وقتاً أطول من عمر الكون لفحصها جميعاً.
النتيجة: الطرق الحالية عادة ما تعتمد على التخمين. تقول: "إليك قائمة من 10 أشياء من المحتمل أن تفسر ذلك". لكن لا يمكنهم إثبات ذلك. وفي المجالات الحساسة للسلامة (مثل الطب أو الطيران)، كلمة "من المحتمل" ليست كافية. أنت بحاجة إلى ضمان.

الحل: "النموذج العصبي الجمعي" (NAM)

ركز مؤلفو هذه الورقة البحثية على نوع خاص من الذكاء الاصطناعي يسمى النموذج العصبي الجمعي (Neural Additive Model - NAM).

التشبيه: الأوركسترا مقابل العازف المنفرد

الذكاء الاصطناعي القياسي يشبه فرقة روك حيث يعزف الجميع في وقت واحد. الجيتار، والطبول، والصوت كلها مختلطة معاً. من الصخلي سماع ما يفعله عازف الطبول دون بقية الفرقة.
نماذج (NAMs) تشبه أوركسترا كلاسيكية حيث يعزف كل موسيقي "سولو" (منفرداً)، ثم يقوم المايسترو ببساطة بجمع مستويات صوتهم.
- الميزة 1 (الدخل) تعزف سولو.
- الميزة 2 (العمر) تعزف سولو.
- الميزة 3 (الديون) تعزف سولو.
- القرار النهائي هو مجرد مجموع هذه السولوهات.

لأن الرياضيات هنا "جمعية" (مجرد عملية جمع للأشياء)، أدرك المؤلفون أنه يمكنهم التحايل على مشكلة "الإبرة في كومة القش".

الخدعة السحرية: كيف فعلوا ذلك؟

ابتكر المؤلفون خوارزمية مكونة من خطوتين تعمل مثل أمين مكتبة فائق الذكاء ينظم الكتب.

الخطوة 1: "فرز الأهمية" (المعالجة المتوازية)
بدلاً من فحص كل توليفة، ينظرون إلى كل "سولو" (ميزة) بشكل فردي.

يسألون: "إذا حركت هذه الميزة قدر الإمكان، فإلى أي مدى ستهز القرار النهائي؟"
يفعلون ذلك لكل ميزة في نفس الوقت (باستخدام العديد من المعالجات الحاسوبية بالتوازي).
يقومون بترتيب الميزات من "الأكثر اهتزازاً" (الأكثر أهمية) إلى "الأقل اهتزازاً" (الأقل أهمية).
التشبيه: تخيل أن لديك 100 مفتاح. بدلاً من تجربة كل مفتاح في القفل، تقوم بوزنها. أنت تعلم أن المفاتيح الثقيلة هي الأكثر احتمالاً لتكون المفتاح الصحيح. لذا تقوم بفرزها حسب الوزن.

الخطوة 2: "البحث الثنائي" (الصيد الفعال)
الآن بعد أن تم ترتيب الميزات حسب الأهمية، لا يحتاجون إلى فحص كل توليفة. يستخدمون البحث الثنائي (Binary Search).

التشبيه: لديك دليل هاتف مرتب أبجدياً. للبحث عن اسم "Smith"، لا تبدأ من الصفحة الأولى. بل تفتح المنتصف. هل "Smith" قبل أم بعد؟ أنت تقفز إلى منتصف ذلك النصف. تستمر في تقسيم مساحة البحث إلى النصف حتى تجد المكان الدقيق.
تقوم الخوارزمية بفعل الشيء نفسه مع الميزات. تسأل: "إذا احتفظت بأهم 50% من الميزات، فهل سيكون ذلك كافياً؟"
- إذا كانت الإجابة نعم، جرب أفضل 25%.
- إذا كانت الإجابة لا، جرب أفضل 75%.
يتيح لهم هذا العثور على أصغر قائمة من الميزات في جزء ضئيل جداً من الوقت.

لماذا هذا الأمر مهم؟

الإثبات، وليس التخمين: على عكس الطرق الأخرى التي تخمن، فإن هذه الطريقة تثبت رياضياً أن قائمة الميزات كافية. إذا غيرت أي ميزة أخرى، فلن يتغير القرار.
السرعة: لقد انتقلوا من مهمة قد تستغرق للأبد (وقت أسي) إلى مهمة تستغرق ثوانٍ (وقت لوغاريتمي).
تفسيرات أصغر: وجدت طريقتهم تفسيرات أصغر بكثير (عدد ميزات أقل) من الطرق السابقة.
- مثال: في مجموعة بيانات ائتمانية، قالت الطرق القديمة: "تحتاج إلى 16 عاملاً لتفسير هذا". الطريقة الجديدة قالت: "في الواقع، 4 عوامل فقط كانت ضرورية حقاً".

فخ "أخذ العينات" (Sampling)

تحذر الورقة أيضاً من اختصار شائع وهو: أخذ العينات (Sampling).

الفخ: يحاول البعض تفسير الذكاء الاصطناعي عبر اختبار مدخلات عشوائية فقط (مثل رمي السهام على لوحة). "لقد رميت 1,000 سهم، وظل القرار كما هو، لذا أنا بخير!"
الخطر: قد يحتوي الذكاء الاصطناعي على "فخ" صغير مخفي (قمة أو وادٍ حاد) فاتته السهام. تُظهر الورقة أن أخذ العينات يمكن أن يكون مضللاً بشكل خطير، خاصة في المواقف الحساسة للسلامة. طريقتهم تفحص النطاق بالكامل رياضياً، لذا لا يمكن تفويت أي فخاخ مخفية.

الخلاصة

هذه الورقة البحثية تمثل طفرة لأنها أخذت مشكلة كانت تُعتبر مستحيلة الحل بشكل مثالي للنماذج المعقدة للذكاء الاصطناعي، وحلتها لنوع محدد ومفيد للغاية من النماذج (NAMs).

إنه يشبه الانتقال من محاولة العث find حبة رمل معينة على الشاطئ عبر فحص كل حبة واحدة تلو الأخرى، إلى امتلاك مغناطيس يجذب فوراً فقط حبات الرمل التي تهمنا. هذا يجعل الذكاء الاصطناعي ليس فقط أكثر ذكاءً، بل موثوقاً وقابلاً للتفسير في العالم الحقيقي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "تفسير النماذج العصبية المضافة بشكل برهاني" (ICLR 2026).

1. بيان المشكلة

تعالج الورقة تحدي توليد تفسيرات كافية، وذات حد أدنى من حيث العدد (cardinally-minimal)، ومبرهنة لتنبؤات الشبكات العصبية.

السياق: على الرغم من وجود طرق التفسير اللاحقة (مثل LIME وSHAP)، إلا أنها غالبًا ما تكون استدلالية وتفتقر إلى الضمانات الرسمية. أما الطرق الرسمية التي تستخدم التحقق من الشبكات العصبية (neural network verification) فيمكنها تقديم ضمانات، لكنها غير قابلة للحوسبة للشبكات العصبية القياسية.
الصعوبة الجوهرية: إن إيجاد تفسير بأدنى عدد ممكن (cardinally-minimal) (وهو أصغر مجموعة فرعية من الميزات $S$ بحيث يضمن تثبيت $S$ بقاء التنبؤ دون تغيير، بغض النظر عن كيفية تغير الميزات الأخرى ضمن نصف قطر الاضطراب) هو مسألة من نوع NP-hard. بالنسبة للشبكات العصبية العامة، يتطلب هذا عددًا أسيًا من استعلامات التحقق ( $O(2^n)$ )، مما يجعله غير قابل للتنفيذ حتى للنماذج الصغيرة.
القيود الحالية: عادة ما تكتفي طرق التحقق الموجودة بتفسيرات بأدنى مجموعة فرعية (subset-minimal) (حيث لا تكون أي مجموعة فرعية حقيقية منها كافية)، وهي أسهل في الحساب ( $O(n)$ استعلام) ولكنها غالبًا ما تكون أكبر وأقل إفادة من التفسيرات ذات الحد الأدنى من حيث العدد. علاوة على ذلك، يمكن أن تكون التفسيرات القائمة على أخذ العينات (sampling-based) للنماذج القابلة للتفسير مثل النماذج العصبية المضافة (NAMs) مضللة بسبب تفويت القيم القصوى في الدوال المستمرة.

2. المنهجية

يقترح المؤلفون خوارزمية مبتكرة خاصة بالنموذج لـ النماذج العصبية المضافة (NAMs). تُعرف الـ NAMs بأنها $f(x) = \beta_0 + \sum_{i=1}^k f_i(x_i)$ ، حيث كل $f_i$ هي شبكة عصبية أحادية المتغير. تستغل الخوارزمية هذه البنية الجمعية لتقليل التعقيد من أسي إلى لوغاريتمي.

تتكون المنهجية من مرحلتين رئيسيتين:

المرحلة الأولى: ترتيب الأهمية للفترات المتوازية

الهدف: إنشاء ترتيب كلي للميزات بناءً على "أهميتها" (أي مقدار تأثيرها المحتمل في قلب التنبؤ).
الآلية:
- لكل ميزة $i$ ، تحسب الخوارزمية حدودًا $[l_i, u_i]$ للقيمة الدنيا (أو القصوى) للمكون أحادي المتغير $f_i(x_i)$ ضمن منطقة الاضطراب $B_{\epsilon_p}(x_i)$ .
- يتم ذلك باستخدام البحث الثنائي المتوازي مع مُحقق شبكة عصبية (تحديدًا $\alpha$ - $\beta$ -CROWN) على كل مكون أحادي المتغير $f_i$ .
- تقوم الخوارزمية بتكرار تنقية هذه الحدود حتى تصبح غير متداخلة، مما يسمح بترتيب صارم للميزات حسب قدرتها على تغيير المخرجات.
التعقيد: تتطلب هذه المرحلة $O(\frac{n}{p} \log(\frac{\text{range}}{\xi})$ من استعلامات التحقق المتوازية، حيث $p$ هو عدد المعالجات و $\xi$ هو فجوة الفصل بين قيم أهمية الميزات.

المرحلة الثانية: اختيار الميزات اللوغاريتمي

الهدف: تحديد المجموعة الفرعية الكافية ذات الحد الأدنى من حيث العدد باستخدام الترتيب المفرز من المرحلة الأولى.
الآلية:
- على عكس الشبكات العامة حيث يكون ترتيب الميزات عشوائيًا، فإن الترتيب المفرز في نماذج NAMs يضمن أنه إذا كانت المجموعة الفرعية من أعلى $k$ ميزات كافية، فإن أي مجموعة فرعية تحتوي عليها ستكون كافية أيضًا.
- تقوم الخوارزمية بإجراء بحث ثنائي عبر القائمة المفرزة للميزات للعثور على أصغر $k$ بحيث تشكل مجموعة أعلى $k$ ميزة تفسيرًا كافيًا.
- تتحقق الخوارزمية من كفاية المجموعة المرشحة $\{F[1], \dots, F[m]\}$ وتعدل نطاق البحث وفقًا لذلك.
التعقيد: تتطلب هذه المرحلة فقط $O(\log n)$ من استعلامات التحقق على النموذج الكامل $f$ .

3. المساهمات الرئيسية

أول تفسيرات مبرهنة ذات حد أدنى من حيث العدد لنماذج NAMs: تقدم الورقة أول خوارزمية قادرة على توليد تفسيرات كافية وذات حد أدنى من حيث العدد لنماذج Neural Additive Models.
تقليل التعقيد: تقلل الطريقة من أسوأ حالة لتعقيد إيجاد التفسيرات ذات الحد الأدنى من حيث العدد من أسي ( $O(2^n)$ ) للشبكات العامة إلى لوغاريتمي ( $O(\log n)$ ) لنماذج NAMs (بعد خطوة معالجة مسبقة متوازية).
التفوق على طرق الحد الأدنى للمجموعة الفرعية: تتفوق الخوارزمية على الطرق الموجودة المصممة لمهمة "الحد الأدنى للمجموعة الفرعية" الأضعف. فهي تنتج تفسيرات أصغر بكثير (أقرب إلى المثالية العالمية) وتفعل ذلك بشكل أسرع، رغم حلها لمسألة أصعب.
الضمانات الرسمية مقابل أخذ العينات: يوضح المؤلفون أن التفسيرات القائمة على أخذ العينات لنماذج NAMs يمكن أن تعطي نتائج مضللة (الفشل في اكتشاف القيم القصوى التي تقلب التصنيف)، بينما يضمن نهج التحقق الرسمي لديهم الصحة.
الحدود النظرية: تقدم الورقة براهين رسمية (الافتراضات 1-4، النظريات 1-2) تثبت صحة منطق الترتيب وحدود تعقيد الاستعلام، بما في ذلك تحليل الحالات الحدية حيث تكون فجوات أهمية الميزات ( $\xi_i$ ) صغيرة.

4. النتائج التجريبية

قيم المؤلفون خوارزميتهم على ثلاثة مجموعات بيانات من العالم الحقيقي (Breast Cancer, CREDIT, FICO HELOC) باستخدام المُحقق المتطور $\alpha$ - $\beta$ -CROWN.

حجم التفسير: أنتجت الطريقة المقترحة تفسيرات أصغر بكثير من النهج الجشع (greedy) للحد الأدنى للمجموعة الفرعية.
- مثال (Breast Cancer): طريقتنا (4.00) مقابل Lexicographic (16.58) مقابل Sensitivity (16.27).
- مثال (CREDIT): طريقتنا (3.76) مقابل Lexicographic (12.42).
وقت الحوسبة: على الرغم من حلها لمهمة أصعب، كانت الطريقة الجديدة أسرع بشكل ملحوظ.
- مثال (Breast Cancer): طريقتنا (35.6 ثانية) مقابل Lexicographic (634.9 ثانية).
- مثال (CREDIT): طريقتنا (132.7 ثانية) مقابل Lexicographic (473.6 ثانية).
مقارنة أخذ العينات: عند مقارنتها بالطرق القائمة حصريًا على أخذ العينات، حققت الطريقة المقترحة كفاية بنسبة 100% (تم التحقق منها بواسطة المُحقق)، بينما حققت طرق أخذ العينات حوالي 25-31% فقط من الكفاية، وغالبًا ما أنتجت تفسيرات فشلت تحت التحقق الصارم.
القابلية للتوسع: أظهرت موازاة مرحلة الترتيب (المرحلة 1) تسريعًا كبيرًا مع زيادة عدد نوى المعالج (CPU cores)، بينما ظلت مرحلة البحث الثنائي (المرحلة 2) فعالة بغض النظر عن التوازي.

5. الأهمية

سد الفجوة: يعمل هذا العمل على سد الفجوة بين الحاجة إلى القابلية للتفسير (عبر NAMs) والحاجة إلى ضمانات السلامة (عبر التحقق الرسمي). وهو يثبت أن القيود الهيكلية المحددة (الجمعية) يمكن أن تجعل التفسيرات القابلة للتحقق رسميًا عملية على نطاق واسه.
التطبيقات الحرجة للسلامة: من خلال تقديم تفسيرات مبرهنة كافية وذات حد أدنى من حيث العدد، تعد هذه الطريقة ذات قيمة عالية في المجالات الحرجة للسلامة (مثل الرعاية الصحية والتمويل) حيث تكون التفسيرات الاستدلالية غير كافية وطرق أخذ العينات غير موثوقة.
الاتجاهات المستقبلية: تقترح الورقة أن تصميم نماذج توازن بين التعبير العالي والقدرة على تقديم تفسيرات مبرهنة بكفاءة هو مسار قابل للتطبيق نحو ذكاء اصطناائي جدير بالثقة، حيث تعمل نماذج NAMs كإثبات نجاح للمفهوم.

باخت-صار، توضح الورقة أنه من خلال الاستفادة من البنية المحددة للنماذج العصبية المضافة، يمكن التغلب على الحواجز الحسابية للـ XAI الرسمي، وتقديم تفسيرات أصغر (أكثر إيجازًا) وأسرع في الحوسبة من الطرق الحالية للشبكات العصبية العامة.