🤖 machine learning

Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction

تقدم هذه الورقة إطار عمل جديد لتفسير الشبكات العصبية الرسومية (GNN) على مستوى النموذج، يقوم بإعادة بناء القيم اللوجستية الأصلية متعددة الفئات عبر تركيب مفاهيم المخططات الفرعية المرتكزة في قواعد رمزية وتمريرها عبر مصنف مجمد، مما يحقق تفسيرات عالمية عالية الدقة وقابلة للتجسيد عند وقت الاختبار مع تحليل للمساهمة على مستوى القواعد، وبسرعة أكبر بكثير من الطرق السابقة.

المؤلفون الأصليون: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا فائق الذكاء (شبكة عصبية رسومية، أو GNN)، ينظر إلى شبكات معقدة من النقاط والخطوط — مثل الجزيئات أو الشبكات الاجتماعية — ويقوم بالتنبؤات. إنه دقيق للغاية، لكنه عبارة عن "صندوق أسود". تسأله: "لماذا قلت إن هذا الجزيء خطير؟" فيجيب ببساة: "لأنني قلت ذلك"، دون أن يشرح كيف توصل إلى هذا الاستنتاج.

تحاول الطرق الحالية شرح الروبوت من خلال الإشارة إلى أنماط محددة يحبها. على سبيل المثال: "أوه، إنه يحب الجزيئات التي تحتوي على حلقة حمراء". لكن هذا يشبه محاولة شرح وصفة طاهٍ معقدة بمجرد سرد المكونات التي يفضلها؛ فهذا لا يخبرك كيف يمزج الطاهي تلك المكونات، أو كم يستخدم من كل منها، أو كيف يوازن بين النكهات للوصول إلى المذاق النهائي.

TreeX هو أداة جديدة تغير قواعد اللعبة. فبدلاً من مجرد سرد المكونات، يحاول TreeX إعادة بناء عملية اتخاذ القرار الخاصة بالروبوت بأكملها باستخدام قواعد بسيطة يمكن للبشر فهمها.

إليك كيف يعمل TreeX، باستخدام تشبيهات إبداعية:

1. تشبيه "إعادة بناء الوصفة"

فكر في تنبؤ الروبوت النهائي ليس كإجابة واحدة بـ "نعم/لا"، بل كملف تعريف نكهة معقد (مثل درجة لـ "الحرارة"، و"الحلاوة"، و"الحموضة").

الطريقة القديمة: حاولت الأدوات السابقة إيجاد قاعدة مثل "إذا كان يحتوي على حلقة حمراء، فهو حار". لقد قامت فقط بمطابقة الأنماط مع التصنيفات.
طريقة TreeX: يقول TreeX: "دعونا نأخذ درجات النكهة الخام للروبوت ونعيد بناءها من الصفر باستخدام وصفة". إنه يفكك قرار الروبوت إلى قواعد منطقية (مثل "إذا كان يحتوي على حلقة حمراء وَ لا يحتوي على مربع أزرق، أضف 5 نقاط إلى الحرارة").

لا يكتفي TreeX بتخمين التصنيف النهائي فحسب؛ بل يحاول رياضياً إعادة بناء الأرقام الدقيقة (اللوجيتس - logits) التي استخدمها الروبوت قبل اتخاذ خياره النهائي. إذا استطاع TreeX إعادة بناء "ملف تعريف النكهة" الخاص بالروبوت بشكل مثالي، فنحن نعلم أن تلك القواعد هي تفسير حقيقي لكيفية تفكير الروبوت.

2. "حقيبة البناء" (استخراج المفاهيم)

لبناء هذه القواعد، يحتاج TreeX إلى قطع بناء. إنه ينظر داخل عقل الروبوت (طبقاته الخفية) ويجد مفاهيم المخططات الفرعية (subgraph concepts).

التشبيه: تخيل أن الروبوت يرى جزيئاً. ينظر TreeX إلى رؤية الروبوت الداخلية ويقول: "آه، أرى 'مجموعة نيترو' هنا و'بنية حلقية' هناك". إنه يجمع الأجزاء المتشابهة من الرسم البياني في "مفاهيم" قابلة لإعادة الاستخدام.
اللمسة المميزة: TreeX ذكي في هذا الصدد. فهو لا يلتقط قطعاً عشوائية؛ بل يجد أنماطاً مستقرة ومتكررة (مثل العثور على نفس نوع الطوبة في منازل مختلفة) حتى يتمكن من استخدامها كقطع بناء موثوقة لقواعده.

3. "كتاب القواعد" (المنطق الرمزي)

بمجرد حصوله على قطع البناء، يكتب TreeX كتاب قواعد.

يستخدم منطقاً مثل: "إذا (المفهوم أ موجود) وَ (المفهوم ب مفقود)، إذن زد الدرجة للفئة 1".
خدعة "الغياب": إحدى الميزات الرئيسية لـ TreeX هي أنه يفهم الغياب. تماماً كما قد يقول الطاهي: "هذا الحساء جيد لأنه لا يوجد به ملح"، يمكن لـ TreeX إنشاء قواعد بناءً على ما هو مفقود. هذا أمر بالغ الأهمية للقرارات المعقدة حيث يكون غياب ميزة ما بنفس أهمية وجودها.

4. "الأداء الحي" (التأسيس وقت الاختبار)

هنا يتألق TreeX مقارنة بغيره.

الطريقة القديمة: تعطي بعض الأدوات كتاب قواعد ثابتاً ينطبق على مجموعة البيانات بأكملها، لكنها لا تستطيع أن تريك كيف يعمل على جزيء محدد جديد قدمته لها للتو.
طريقة TreeX: عندما تعطيه رسماً بيانياً جديداً، يقوم TreeX بتنشيط القواعد ذات الصلة فوراً. إنه يشير إلى الأجزاء الدقيقة من الرسم البياني التي فعلت القاعدة (التأسيس/grounding) ويظهر لك بالضبط مقدار ما دفعته تلك القاعدة الدرجة للأعلى أو للأسفل.
التشبيه: الأمر يشبه معلقاً رياضياً في بث مباشر. بدلاً من إعطائك النتيجة النهائية فقط، يقول TreeX: "الآن، الفريق فائز لأن اللاعب (أ) (القاعدة 1) سجل هدفاً، مما أضاف +2 نقطة، بينما اللاعب (ب) (القاعدة 2) أضاع ركلة، مما خصم -1 نقطة".

لماذا يعد هذا أفضل؟

تدعي الورقة البحثية أن TreeX متفوق لثلاثة أسباب رئيسية:

الأمانة (Faithfulness): إنه لا يخمن الإجابة الصحيحة فحسب؛ بل يعيد بناء "درجات الثقة" الداخلية للروبوت (اللوجيتس) بدقة عالية. إذا استطاعت قواعد TreeX إعادة إنشاء أرقام الروبوت بدقة، فإن التفسير موثوق.
السرعة: إنه أسرع بما يصل إلى 20 مرة من الطرق السابقة. إنه يشبه الانتقال من كتابة رواية بخط اليد إلى استخدام آلة كاتبة عالية السرعة.
الرؤية القابلة للتنفيذ: هو لا يكتفي بالقول "هذا هو السبب". بل يقول: "هذه القاعدة تدعم الفريق الفائز، بينما تلك القاعدة تُضعف الفريق الخاسر". يتيح لك ذلك رؤية أي القواعد هي "نجوم العرض" وأيها مجرد ضجيج في الخلفية.

باختصار

يأخذ TreeX روبوتاً "صندوقاً أسود"، ويشرح عملية اتخاذ قراره إلى مجموعة من قواعد "إذا-إذن" المنطقية البسيطة، ويثبت أن هذه القواعد تعمل من خلال إعادة بناء تنبؤات الروبوت الدقيقة. إنه يتعامل مع ما هو موجود وما هو مفقود، ويعمل بسرعة هائلة، ويعطيك تفصيلاً حياً ومفصلاً لكيفية تفكير الروبوت لكل مثال جديد يراه.

ملخص تقني: TreeX - تفسيرات النماذج على مستوى الشبكات العصبية الرسومية (GNN) عبر القراءة من القواعد إلى الرسم البياني

بيان المشكلة

بينما تحقق الشبكات العصبية الرسومية (GNNs) أداءً تنبؤياً قوياً، يظل فهم منطق اتخاذ القرار الخاص بها أمراً صعباً. تركز النهج الحالية بشكل أساسي على التفسيرات على مستوى الحالة (instance-level)، والتي تحدد العقد أو المخططات الفرعية (subgraphs) المحددة المسؤولة عن تنبؤ واحد. ومع ذلك، تفشل التفسيرات المحلية في الكشف عما إذا كان يتم استخدام الأدلة بشكل منهجي عبر مجموعة بيانات معينة، أو ما إذا كانت النماذج تعتمد على اختصارات زائفة، أو كيف تُعرّف المفاهيم المتعددة حدود القرار على مستوى الفئة (class-level) بشكل مشترك.

تحاول المفسرات على مستوى النموذج (model-level explainers) الحالية عادةً تحديد الأنماط الرسومية أو القواعد الرمزية المرتبطة بفئة معينة. ويتمثل أحد القيود الحرجة لهذه الأساليب في أنها تعامل القواعد كواصفات للفئة بعد عملية التنبؤ (post-hoc) بدلاً من كونها وحدات حسابية وظيفية. فهي لا تشرح كيف تنتج القواعد المتعددة في النهاية قرار الـ GNN أو كيف تعيد بناء لوجيتات (logits) التنبؤ الخام للنموذج. وبناءً على ذلك، تفتقر هذه الأساليب إلى القدرة على إجراء تحليل مساهمة على مستوى القاعدة في وقت الاختبار، أو شرح كبح الفئات المنافسة.

المنهجية: TreeX

يقترح المؤلفون TreeX، وهو إطار عمل جديد لتفسير الـ GNN على مستوى النموذج، ينقل هدف التفسير من استخراج القواعد لكل فئة إلى إعادة بناء اللوجيت القائم على القواعد (rule-based logit reconstruction). يتدخل TreeX عند واجهة القراءة (readout interface) لنموذج GNN مدرب مسبقاً، حيث يبقي طبقات تمرير الرسائل (message-passing layers) ورأس المصنف (classifier head) مجمدة، بينما يستبدل عملية القراءة الأصلية من العقدة إلى الرسم البياني بقراءة من القاعدة إلى الرسم البياني (rule-to-graph readout) موزونة.

تتكون المنهجية من أربع مراحل رئيسية:

1. استخراج المفاهيم المستوحى من الأشجار الفرعية (Subtree-Inspired Concept Mining)

لترسيخ القواعد العالمية على الحالات المحلية، يقوم TreeX باستخراج مفاهيم المخططات الفرعية من الحالات الخفية للـ GNN:

الاستخراج المحلي: يتم تجميع تمثيلات العقد (node embeddings) داخل الرسم البياني. يتم تحويل كل تجمع (cluster) إلى مخطط فرعي داعم عبر تجميع المجالات المستقبلة لـ $l$ -hop من العقد الأعضاء (الأشجار الفرعية). هذا يوجه المفاهيم نحو الأدلة المستقرة هيكلياً بدلاً من الضوضاء.
الاستخراج العالمي: يتم تجميع تمثيلات المفاهيم المحلية مرة أخرى لتشكيل بنك مفاهيم عالمي. يتم اختيار المخططات الفرعية التمثيلية باستخدام مرشح أغلبية ليكسيكوغرافي ثنائي المرحلة (بناءً على توقيعات الشكل والدرجة) متبوعاً بكسر التعادل عبر مسافة المركز (centroid-distance).
التبرير النظري: يجادل البحث بأن نماذج MPNN الأكثر قوة (مثل GIN)، يكون فيها تمثيل عقدة الطبقة $l$ -th عبارة عن "تمثيل شجرة جذرية مثالية" (Perfect Rooted Tree Representation) لكامل الشجرة الفرعية ذات الـ $l$ -hop، مما يبرر استخدام تمثيلات العقد لتمثيل البنى التحتية.

2. تعلم القواعد العصبي-الرمزي (Neuro-Symbolic Rule Learning)

يتعلم TreeX قواعد رمزية فوق مفاهيم المخططات الفرعية العالمية باستخدام بنية الصيغة العطفية المعتدلة (CNF)، وتحديداً تمديد OR-of-CNF:

الاكتشاف لكل فئة: يتم تعلم القواعد في البداية بطريقة "واحد مقابل الكل" لكل فئة مستهدفة. يتم إنشاء الحروف (literals) الإيجابية ( $P[k]$ ) والسلبية ( $\neg P[k]$ ) بناءً على القدرة التمييزية للمفاهيم العالمية.
المنطق القابل للتفاضل: يتم استخدام بارامترية منطقية متدرجة هرمياً. يتم استيفاء البنود عبر تابع Gödel t-conorm (الحد الأقصى عبر الحروف المبوّبة)، وتتشكل القواعد عبر "AND" ناعم بأسلوب الضرب عبر البنود. يستخدم التنبؤ النهائي بالفئة مجموعاً احتمالياً (noisy-OR) عبر القواعد المرشحة.
الدمج: يتم دمج مرشحات القواعد الخاصة بكل فئة في بنك قواعد موحد ومشترك. يضمن هذا التصميم ثنائي المرحلة اكتشاف قواعد تمييزية لكل فئة مع الحفاظ على بنية مشتركة لإعادة البناء متعدد الفئات.

3. القراءة من القاعدة إلى الرسم البياني (Rule-to-Graph Readout)

الابتكار الجوهري هو إعادة صياغة طبقة القراءة:

تمثيلات القواعد: يتم حساب تمثيلات القواعد عبر تجميع تمثيلات حروفها المكونة (موزونة بتنشيطات البوابة). يتم تمثيل الحروف السلبية كتمثيلات سالبة لنظائرها الإيجابية.
إعادة بناء اللوجيت: يتم وزن القواعد النشطة بواسطة متجه وزن عالمي متعلم $w$ . يتم تمرير الجمع الموزون لتمثيلات القواعد النشطة عبر رأس المصنف المجمد للـ GNN الأساسي لإعادة بناء اللوجيتات متعددة الفئات الخام ( $\hat{o}_G$ ).
الهدف: يتم تدريب النموذج لتقليل متوسط الخطأ التربيعي (MSE) بين اللوجيتات المعاد بناؤها ولوجيتات الـ GNN الأصلية الخام.

4. التجذير والتحليل في وقت الاختبار (Test-Time Grounding and Analysis)

في وقت الاختبار، يقوم TreeX بإسقاط الرسوم البيانية غير المرئية في فضاء المفاهيم المشترك، وتقييم القواعد الثابتة، وإنتاج تفسيرات خاصة بكل حالة. يتيح ذلك:

التجذير (Grounding): ربط الحروف المستوفاة بالأدلة الملموسة للمخططات الفرعية المحلية (للحروف الإيجابية) أو غياب المفاهيم (للحروف السلبية).
الاستئصال (Ablation): قياس مساهمة كل قاعدة عن طريق تصفير وزنها ومراقبة التغيير في اللوجيتات المعاد بناؤها ( $\Delta_{g,r}$ ).

المساهمات الرئيسية

هدف تفسيري جديد: صياغة تفسير الـ GNN على مستوى النموذج كعملية إعادة بناء لوجيت قائمة على القواعد، متجاوزة مجرد الربط بين الأنماط والتسميات إلى شرح توليد اللوجيتات الخام.
واجهة قراءة رمزية: تقديم قراءة من القاعدة إلى الرسم البياني حيث تعمل القواعد المنطقية المجذرة كوحدات حسابية. يتم تجميع تمثيلات القواعد النشطة وتمريرها عبر المصنف المجمد لإعادة بناء اللوجيتات متعددة الفئات.
بناء قواعد مجذرة وتكوينية: استخراج مفاهيم المخططات الفرعية المستوحاة من الأشجار للتمثيلات المستمرة والأدلة الملموسة. يتعلم النظام قواعد OR-of-CNF، التي تحافظ على التحققات البديلة ضمن القيود المطلوبة، مما يوفر تعبيراً هيكلياً أكبر من صيغ DNF تحت نفس ميزانية القواعد.
تفسيرات وظيفية وأمينة: يثبت أن القواعد الحرجة المحددة تدعم الفئة المتوقعة بنشاط وتكبح الفئات غير المستهدفة، مما يجعلها تعمل كوحدات وظيفية وليس مجرد آثار لاحقة (post-hoc artifacts).

النتائج التجريبية

تم تقييم TreeX على ثلاثة مجموعات بيانات اصطناعية (BA-2Motifs, BAMultiShapes, BA-Neg) ومجموعتي بيانات جزيئية من العالم الحقيقي (Mutagenicity, NCI1).

الأمانة في اللوجيت (Logit Faithfulness): يعيد TreeX بناء لوجيتات الـ GNN الخام بدقة عالية، محققاً أمانة احتمالية مطلقة (APF) عالية (مثلاً: >97% في BA-2Motifs، و>75% في مجموعات بيانات العالم الحقيقي).
تأثير القاعدة: تظهر دراسات الاستئصال أن القواعد النشطة العليا تزيد باستمرار من لوجيت الفئة المستهدفة بينما تكبح الفئات غير المستهدفة، مما يؤكد دورها الوظيفي.
ضرورة التصميم: تؤكد تجارب الاستئصال أن إزالة وحدة القواعد، أو خطوة الدمج، أو الحروف السلبية، يؤدي إلى تدهور كبير في الأداء، لا سيما في إعادة بناء اللوجيتات الخام.
الكفاءة والمقارنة: مقارنة بالمفسرات القائمة على القواعد لكل فئة (مثل LogicXGNN, GLGExplainer, GraphTrail)، يحقق TreeX اتفاق تنبؤ (PA) تنافسياً أو أفضل، وهو أسرع بما يصل إلى 20 ضعفاً. وعلى عكس النماذج المرجعية، يوفر TreeX أوزان القواعد، والتجذير في وقت الاختبار، وتحليل المساهمة على مستوى اللوجيت.

الأهمية والادعاءات

يدعي البحث أن TreeX يوفر إطار عمل للتفسير عالمي، وقابل للتنفيذ في وقت الاختبار، ومجذّر في المخططات الفرعية. من خلال نقل التركيز إلى إعادة بناء اللوجيت، يقدم TreeX تقييماً أكثر صرامة للقابلية للتفسير: فالقواعد ليست مجرد وصفية بل أُثبت أنها وحدات وظيفية تشكل هامش القرار بنشاط.

يؤكد المؤلفون أن TreeX ليس مجرد أداة تلخيص لاحقة، بل هو آلية تكشف كيف يمكن تفكيك منطق قرار الـ GNN إلى قواعد رمزية قابلة لإعادة الاستخدام وموزونة. يسمح هذا النهج بتحليل كيفية دعم القواعد للفئات المتوقعة وكبح المنافسين، مما يعالج فجوة في قابلية التفسير الحالية على مستوى النموذج حيث يظل التفاعل بين القواعد المتعددة وحد القرار النهائي غامضاً. يقترح الإطار مساراً أوسع لشرح النماذج العصبية عبر تحديد مفاهيم قابلة للتفسير بشرياً، وتكوينها في قواعد رمزية، واستخدام هذه القواعد كوحدات على مستوى القراءة لإعادة بناء سلوك النموذج.