🤖 machine learning

Neural Message Passing on Structural Interaction Graphs for Fully-Inductive Graph Neural Networks

تقدم هذه الورقة SIGIL، وهو إطار عمل استقرائي بالكامل يتغلب على عدم تجانس المدخلات في نماذج الرسوم البيانية التأسيسية من خلال رسم خرائط الرسوم البيانية ذات السمات التعسفية إلى رسم بياني تفاعلي بنيوي موحد، مما يتيح نقل تمثيلات الميزات المتعلمة عبر رسوم بيانية متنوعة وتوحيد نهج الاستدلال في الرسوم البيانية للمعرفة القائمة.

المؤلفون الأصليون: Omer Yom Tov, Avigdor Gal

نُشر 2026-08-11

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Omer Yom Tov, Avigdor Gal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيف يفهم العالم. في عالم النصوص، لدينا قاموس ضخم من الكلمات يتفق عليها الجميع؛ فبمجرد أن يتعلم الروبوت معنى كلمة "قطة" أو "ركض"، يمكنه قراءة كتاب جديد عن القطط أو الركض دون الحاجة إلى درس جديد. ولكن في عالم الرسوم البيانية (graphs)—وهي شبكات من الأشياء المتصلة مثل أصدقاء التواصل الاجتماعي، أو الجزيئات الكيميائية، أو شبكات الاستشهاد المرجعي—لا يوجد قاموس عالمي موحد. فكل رسم بياني يأتي مع مجموعة فريدة خاصة به من "السمات" (مثل السمات المحددة لشخص ما أو جزيء ما) والتي قد تكون مختلفة تمامًا عن غيرها. النموذج الذي تم تدريبه لفهم شبكة من العلماء قد يصاب بالارتباك التام عندما يُقدم إليه شبكة من المتسوقين عبر الإنترنت لأن "الكلمات" (السمات) لا تتطابق. وهذا يجعل من الصعب للغاية بناء "نموذج تأسيسي" واحد وذكي يمكنه الانتقال من نوع شبكة إلى آخر دون الحاجة إلى إعادة التدريب من الصفر. السؤال الكبير الذي يطرحه الباحثون هو: هل يمكننا بناء مترجم عالمي لهذه الشبكات الفوضوية والمختلفة، يعمل على أي شيء، في أي مكان، دون الحاجة إلى قاموس لكل مهمة جديدة؟

تقدم هذه الورقة إطار عمل جديدًا وذكيًا يسمى Sigil (والذي يرمز إلى الرسوم البيانية للتفاعل الهيكلي للتعلم الاستقرائي - Structural Interaction Graphs for Inductive Learning) لحل تلك المشكلة تحديدًا. فكر في Sigil كطاهٍ ماهر لا يهتم بنوع المكونات التي تقدمها له (سواء كانت تفاحًا، أو جزرًا، أو فاكهة فضائية). فبدلاً من محاولة حفظ كل مكون ممكن، ينظر Sigil إلى كيفية تفاعل هذه المكونات مع بعضها البعض. إنه يأخذ شبكة فوضوية ومعقدة ويرفعها إلى مستوى جديد ومبسط يسمى "الرسم البياني للتفاعل الهري" (SIG). في هذه الرؤية الجديدة، لم تعد "العُقد" هي الأشخاص أو الجزيئات بعد الآن؛ بل أصبحت هي السمات نفسها (مثل "الطول"، أو "السعر"، أو "اللون"). وتوضح الروابط في هذا الرسم البياني الجديد كيف تميل هذه السمات إلى التوافق أو التصادم بناءً على كيفية اتصال الشبكة الأصلية.

من خلال تشغيل لعبة "تمرير رسائل" خاصة على خريطة السمات الجديدة هذه، يتعلم Sigil لغة عالمية للسمات. إنه يترجم أي رسم بياني، مهما كان غريبًا أو مختلفًا في سماته، إلى تنسيق قياسي ثابت الحجم يمكن للذكاء الاصطناعي اللاحق فهمه بسهولة. تظهر الورقة أن هذا ليس مجرد حيلة جديدة؛ بل هو نظرية توحيدية. فعندما تكون السمات عبارة عن أكواد بسيطة "أحادية الساخن" (one-hot) (مثل أنواع العلاقات المنفصلة في الرسم البياني للمعرفة)، يستعيد Sigil بدقة النماذج القوية الموجودة حاليًا. ولكن عندما تكون السمات عبارات عن أرقام مستمرة (مثل بيانات المستشعرات ذات القيم الحقيقية)، يذهب Sigil إلى حيث لم تستطع تلك النماذج القديمة الوصول. لقد اختبر المؤلفون ذلك في مجموعة واسعة من المهام، بما في ذلك التنبؤ بالروابط المفقودة في الشبكات وتصنيف العُقد. ووجدوا أن نموذجًا واحدًا من Sigil، تم تدريبه على رسم بياني واحد فقط (مثل شبكة استشهاد Cora)، يمكنه الأداء بشكل جيد للغاية على رسوم بيانية مختلفة تمامًا وذات سمات مختلفة، متفوقًا في كثير من الأحيان على النماذج الأخرى "الاستقرائية الكاملة" التي تحاول التعميم. الأمر يشبه تعليم طالب كيفية قراءة كتاب واحد، ثم نجاحه بتفوق في اختبار حول كتاب مكتوب بلغة مختلفة تمامًا، لمجرد أنه تعلم القواعد الأساسية لكيفية اتصال الأفكار، بدلًا من حفظ الكلمات.

ملخص تقني: تمرير الرسائل العصبية على الرسوم البيانية للتفاعل الهيكلي لنماذج الشبكات العصبية الرسومية كاملة الاستقراء

1. بيان المشكلة

يواجه تطوير نماذج التأسيس الرسومية (GFMs) عقبة مركزية: عدم تجانس المدخلات. فخلافًا للغة الطبيعية، حيث تسمح المفردات المشتركة للنماذج بترميز أي نص، تأتي الرسوم البيانية بمساحات ميزات فريدة تختلف في الأبعاد، ودلالات الإحداثيات، ومجموعات التصنيفات. وبناءً على ذلك، فإن النموذج المدرب على رسم بياني واحد لا يمكنه عمومًا "قراءة" رسم بياني آخر.

تعالج النهج الحالية أجزاءً من هذا التحدي لكنها تفشل في توحيدها:

نماذج التأسيس لتصنيف العقد: تتعامل طرق مثل GraphAny مع مساحات الميزات والتصنيفات التعسفية، لكنها مصممة حصريًا لتصنيف العقد، وتفتقر إلى آليات للتنبؤ بالروابط أو الاستدلال العلاقاتي.
نماذج التأسيس للرسوم البيانية المعرفية (KGFMs): تحقق نماذج مثل ULTRA انتقالًا صفري القدرة (zero-shot transfer) على الرسوم البيانية المعرفية من خلال بناء "رسم بياني علاقاتي" فوق أنواع علاقات منفصلة. ومع ذلك، فإن هذا النهج منفصل جوهريًا؛ فهو يفترض وجود مفردات محدودة من العلاقات ويفتقر إلى آليات للميزات المستمرة للعقد أو الحواف.

التحدي الجوهري هو تصميم نموذج رسومي كامل الاستقراء (fully-inductive) يمكنه التعميم عبر ثلاثة محاور في آن واحد: هياكل الرسوم البيانية غير المرئية، ومساحات الميزات غير المرئية (الأبعاد والدلالات التعسفية)، ومساحات التصنيف غير المرئية.

2. المنهجية: إطار عمل Sigil

يقترح المؤلفون Sigil (الرسوم البيانية للتفاعل الهيكلي للتعلم الاستقرائي)، وهو إطار عمل يقوم برسم خريطة لأي رسم بياني ذي سمات إلى مساحة تمثيل موحدة وثابتة الأبعاد. الابتكار الجوهري هو الرسم البياني للتفاعل الهيكلي (SIG).

2.1 بناء الرسم البياني للتفاعل الهيكلي (SIG)

بفرض وجود رسم بياني مدخل $G=(V, E)$ مع ميزات عقد $X \in \mathbb{R}^{n \times d}$ ، يقوم Sigil بـ "رفع" الرسم البياني من نطاق العقد إلى نطاق أبعاد الميزات.

الانتشار متعدد الرتب: يتم نشر الميزات عبر رتب جوار متزايدة $k$ (من $0 $إلى$ K $) باستخدام انتشار غير معلمي:$ X^{(k)} = A^k X$.
عوامل التفاعل: لكل رتبة $k$ ، يتم تطبيق عامل تفاعل $g$ (مثل الطرح أو الضرب العنصري) على ميزات العقد المتجاورة لإنشاء ميزات الحواف.
تجميع الأدوار: يتم تجميع ميزات الحواف هذه مرة أخرى في العقد، مع الفصل حسب الدور (الرأس/الذيل للرسوم البيانية الموجهة)، مما ينشئ مصفوفات ملخصة $\bar{X}^{(k)}_h$ و $\bar{X}^{(k)}_t$ . وتعمل هذه المصفوفات على توصيف كيفية تجسد قيم الميزات عبر الجوارات المحلية.
بناء مصفوفة جرام: يتم التقاط المحاذاة بين أبعاد الميزات عن طريق حساب مصفوفات جرام (الضرب الداخلي) لمتجهات الملخص هذه: $\bar{A}^{(k)} = (\bar{X}^{(k)})^\top \bar{X}^{(k)}$ .
الرسم البيائي (SIG): تشكل المصفوفات الناتجة $\bar{A}^{(k)}$ $\overset{ˉ}{A}^{(k)}$ رسمًا بيانيًا للتفاعل الهكلي $G_{struct}$ $G_{s t r u c t}$ . في هذا الرسم البياني:
- العقد هي أبعاد الميزات المدخلة $[d]$ .
- الحواف موزونة ونوعية، وتُشفر كيفية محاذاة أزواج الميزات عبر درجات مختلفة من الاتصال.
- بالنسبة للرسوم البيانية الموجهة، ينتج عن البناء أربعة شرائح لكل رتبة (رأس-رأس، ذيل-ذيل، رأس-ذيل، ذيل-رأس)، مما يلتقط التفاعلات الاتجاهية.

2.2 تعلم التمثيلات عبر تمرير الرسائل العلاقاتي

بمجرد بناء الـ SIG، تعمل شبكة تمرير الرسائل العلاقاتية (RMPNN) عليه:

التضمين: تقوم RMPNN بتضمين كل بُعد ميزة $f \in [d]$ في مساحة مخفية ثابتة الحجم $d_h$ .
التحويل: تُستخدم تضمينات الميزات المتعلمة $\Theta^{(T)} \in \mathbb{R}^{d \times d_h}$ لتحويل ميزات العقد الأصلية لأي رسم بياني إلى تمثيل موحد: $H = X \Theta^{(T)}$ .
خاصية الاستقراء: نظرًا لأن معاملات RMPNN تعمل فقط على العرض المخفي الثابت $d_h$ ولا تعمل أبدًا على البعد المدخل $d$ ، يمكن لنموذج Sigil واحد مدرب أن يعالج رسومًا بيانية ذات أبعاد ميزات تعسفية.

2.3 المهام النهائية

التنبؤ بالروابط: يتم تغذية تمثيلات العقد الموحدة في شبكات GNN تعبيرية (مثل NBFNet) لأداء استدلال صفري القدرة.
تصنيف العقد: تعمل التمثيلات الموحدة كمدخلات لمفكك (decoder) نهائي (مثل MLP خفيف أو حل تحليلي مغلق الصيغة) للتنبؤ بالتصنيفات.

3. المساهمات الرئيسية والخصائص النظرية

3.1 التعميم الصارم لنماذج KGFMs

يثبت البحث أن Sigil هو تعميم صارم لنماذج التأسيس للرسوم البيانية المعرفية (مثل ULTRA).

النظرية 1: عندما تكون الميزات المدخلة عبارة عن مؤشرات (one-hot) منفصلة لأنواع العلاقات، فإن بناء SIG يستعيد بالضبط رسم العلاقات المستخدم في نماذج KGFMs.
التوسيع: خلافًا لـ KGFMs، يقبل Sigil ميزات مستمرة. تصبح مصفوفات جرام مصفوفات محاذاة ميزات مستمرة بدلاً من عدّات التواجد المشترك الصحيحة. علاوة على ذلك، يقوم الانتشار متعدد الرتب في Sigil بترميز التفاعلات عالية الرتبة بين الميزات التي تفتقر إليها نماذج KGFMs (المقتصرة على أنماط الخطوة الواحدة).

3.2 التماثل والتماثل التبايني (Equivariance)

يحقق Sigil التماثلات المطلوبة للتعميم كامل الاستقراء:

التماثل التبايني لتبديل العقد: تمثيلات العقد الناتجة هي متماثلة تبانيًا مع تبديلات العقد المدخلة.
الثبات لتبديل الميزات: التمثيل الموحد ثابت تجاه ترتيب أو هوية أبعاد الميزات المدخلة. وهذا يسمح للنموذج بقراءة رسوم بيانية ذات مساحات ميزات لم يسبق له رؤيتها.
التماثل التبايني لتبديل التصنيفات: عند اقترانه بمفكك متماثل تبانيًا، يحترم النموذج تبديلات التصنيفات.

4. النتائج التجريبية

قيم المؤلفون Sigil عبر ثلاثة أنظمة، باستخدام نموذج واحد مدرب مسبقًا على مجموعة بيانات Cora (للتنبؤ بالروابط وتصنيف العقد) أو مزيج من الرسوم البيانية المعرفية (للاستدلال على الرسوم البيانية المعرفية).

4.1 التنبؤ بالروابط (الميزات المستمرة)

تم التقييم على 11 معيارًا (7 ذات سمات، 4 بدون سمات).

الرسوم البيانية ذات السمات: يعد Sigil-lp هو أقوى طريقة كاملة الاستقراء في كل مجموعة بيانات، حيث يتفوق على النماذج المرجعية مثل UniLP و TFMLinker. ومن الجدير بالذكر أنه يتفوق بشكل كبير على UniLP في مجموعات بيانات مثل CiteSeer و AmazonPhotos، مما يثبت أن الاستفادة من مساحات الميزات عبر SIG أفضل من التخلص منها.
الرسوم البيانية بدون سمات: يظل Sigil-lp تنافسيًا، حيث يحتل المركز الثاني بين الطرق كاملة الاستقراء ويظهر استقرارًا عاليًا.
الكفاءة: يكمل Sigil-lp عملية الاستدلال في دقائق، بينما تتجاوز النماذج المرجعية مثل Uni-in-context (التي تعتمد على السياق) ميزانية الـ 24 ساعة.

4.2 الاستدلال على الرسوم البيانية المعرفية

تم التقييم على معيار ULTRA (إعدادات استقرائية مع كيانات وعلاقات غير مرئية).

إعادة الإنتاج: يعيد Sigil(0) (رتبة 0 لـ SIG) إنتاج أداء ULTRA ضمن هامش صغير (على سبيل المثال، يطابق MRR تمامًا في رسوم التدريب المسبق).

التعبيرية: تظهر الـ SIGs ذات الرتب الأعلى (Sigil(1)، Sigil(2)) أداءً متغيرًا اعتمادًا على مجموعة البيانات، مما يشير إلى أنه بينما تضيف التفاعلات عالية الرتبة تعبيرية، إلا أنها لا تحسن الأداء بشكل موحد عبر جميع المهام.

4.3 تصنيف العقد

تم التقييم على 26 معيارًا بتباين في أبعاد الميزات وأعداد الفئات.

الأداء: يعد Sigil-nc تنافسيًا، حيث يحتل المركز الأول أو الثاني في 10 من أصل 26 مجموعة بيانات. إنه يتأخر عن النماذج المتخصصة مثل RGVT و TAG (المحسنة لمهام محددة)، ولكنه يتفوق على GraphAny و TS-MEAN.
التحليل: يعزو المؤلفون فجوة الأداء إلى "تكلفة التوحيد": ضغط مساحات الميزات التعسفية في بُعد ثابت $d_h$ يجعل الإحداثيات الأصلية غير متاحة للمفكك، مما يتطلب إشرافًا أكبر. ومع ذلك، تؤكد النتائج أن التعلم على SIGs هو نهج صالح لنماذج التأسيس لتصنيف العقد.

5. الأهمية والادعاءات

يدعي البحث أن Sigil يوحد عدة أنظمة كانت منفصلة سابقًا في تصميم نماذج التأسيس الرسومية:

التوحيد: يسد الفجوة بين نماذج تصنيف العقد (التي تتعامل مع ميزات تعسفية) ونماذج KGFMs (التي تتعامل مع الاستدلال العلاقاتي)، مما يوفر آلية واحدة لكليهما.
القابلية للنقل: يثبت أنه يمكن لنموذج واحد، مدرب على رسم بياني واحد، أن يقدم أداءً قويًا صفري القدرة على رسوم بيانية ذات مساحات ميزات وهياكل مختلفة تمامًا.
التعميم: من خلال صياغة الرسم البياني العلاقي كحالة منفصلة من الرسم البياني للتفاعل الهيكلي، يوفر العمل أساسًا نظريًا لتوسيع الاستدلال العلاقاتي ليشمل مساحات المدخلات المستمرة.

يخلص المؤلفون إلى أن القابلية للنقل، والاستدلال العلاقاتي، والمهام على مستوى الحافة يمكن أن تنشأ من آلية واحدة (بناء SIG وتمرير الرسائل) بدلاً من اشتراط تصميمات منفصلة لأنواع مختلفة من الرسوم البيانية. ويُقترح كعمل مستقبلي تحسين البنى المعمارية للتعلم على SIGs ودراسة قدرتها التعبيرية.