ملخص تقني: رموز تجميع الرسوم البيانية القابلة للتعلم والمدركة للاستعلام كـ "برومبت" للنماذج اللغوية الكبيرة

1. بيان المشكلة

تتناول الورقة البحثية تحدي دمج البيانات ذات البنية الرسومية (Graph-structured data) مع النماذج اللغوية الكبيرة (LLMs) لمهام الإجابة على الأسئلة المتعلقة بالرسوم البيانية ذات السمات النصية (Graph QA). وبينما تمتلك النماذج اللغوية الكبيرة قدرات استدلال قوية، فإن دمج البنى الرسومية المعقدة بفعالية يظل أمراً صعباً. تندرج الأساليب الحالية عموماً تحت فئتين، وكلاهما يواجه قيوداً كبيرة:

• الإسقاط على مستوى العقدة (Node-Level Projection): تمرر هذه الطريقة جميع تضمينات العقد (node embeddings) التي تم إنشاؤها بواسطة الشبكة العصبية الرسومية (GNN) إلى النموذج اللغوي الكبير كرموز (tokens) فردية. وبينما يحافظ هذا على المعلومات الهيكلية الدقيقة، فإنه يعاني من مشكلات حادة في القابلية للتوسع (Scalability). فمع نمو الرسوم البيانية بشكل أسّي، يتجاوز طول "البرومبت" حدود نافذة السياق للنماذج اللغوية الكبيرة، أو تصبح التكلفة الحسابية باهظة.
• الإسقاط على مستوى الرسم البياني (Graph-Level Projection): تقوم هذه الطريقة بضغط جميع معلومات العقد في متجه واحد (على سبيل المثال عبر التجميع المتوسط - mean pooling) قبل تمريره إلى النموذج اللغوي الكبير. وبينما تحل هذه الطريقة مشكلة القابلية للتوسع، إلا أنها تؤدي حتماً إلى فقدان المعلومات، حيث تُكثف السياقات العلاقاتية المعقدة في تمثيل واحد، مما يجعل من الصعب على النموذج اللغوي الكبير الوصول إلى تفاصيل محددة.

علاوة على ذلك، غالباً ما تستخدم الطرق الحالية دمج الاستعلام المتأخر (Late Query Fusion)، حيث يتم تشفير الاستعلام والرسم البياني بشكل مستقل ولا يتم دمجهما إلا بعد بناء تمثيل الرسم البياني بالكامل. وقد يفشل هذا النهج في الاستفادة بفعالية من سياق الاستعلام المحدد أثناء مرحلة تشفير الرسم البياني الحرجة.

2. المنهجية

يقترح المؤلفون إطار عمل مبتكر باسم رمز تجميع الرسم البياني القابل للتعلم (LGPT)، مدمجاً مع استراتيجية دمج الاستعلام المبكر (Early Query Fusion). تعمل هذه الطريقة دون الحاجة إلى ضبط النموذج اللغوي الكبير نفسه (fine-tuning)، مع التركيز بدلاً من ذلك على تحسين مشفر الرسم البياني وتوليد "البرومبت".

2.1 دمج الاستعلام المبكر (Early Query Fusion)

بدلاً من تشفير الرسم البياني والاستعلام بشكل منفصل، تدمج الطريقة المقترحة سياق الاستعلام قبل بناء تمثيل الرسم البياني.

• يتم تضمين الاستعلام $q$ في فضاء تضمين الرسم البياني كـ عقدة استعلام افتراضية ($n_q$) باستخدام مشفر نصي.
• تتصل هذه العقدة الافتراضية بجميع العقد في الرسم البياني، مما يسمح بمرور الرسائل عبر شبكة عصبية رسومية ($GNN_{query}$) لتوليد تضمينات عقد مدركة للاستعلام.
• يقوم بعد ذلك رسم بياني آخر ($GNN_{graph}$) بتشفيد المعلومات العلاقاتية لهذا الهيكل الرسومي المعدل. وهذا يضمن أن تمثيل الرسم البياني هو بطبيعته مدرك لسياق الاستعلام، وليس مجرد هيكل ثابت.

2.2 رموز تجميع الرسم البياني القابلة للتعلم (LGPT)

لسد الفجوة بين الإسقاط على مستوى العقدة والإسقاط على مستوى الرسم البياني، قدم المؤلفون $n$ من المعلمات القابلة للتعلم (الرموز) التي تعمل كجسر بين الرسم البياني والنموذج اللغوي الكبير.

• الآلية: تتم معالجة الرسم البياني بواسطة شبكة عصبية رسومية للتجميع ($GNN_{pool}$)، حيث تكون جميع العقد الأصلية متصلة بالكامل بـ $n$ من الرموز القابلة للتعلم. ومن خلال تمرير الرسائل، تقوم هذه الرموز بتجميع المعلومات من الرسم البياني.
• المخرج: بدلاً من متجه واحد أو $k$ من متجهات العقد (حيث $k$ هو عدد العقد)، تنتج الطريقة $n$ من الرموز ($\{g'_1, \dots, g'_n\}$).
• الإسقاط: يتم تمرير هذه الرموز عبر طبقة إسقاط (MLP) لتطابق أبعاد تضمين النموذج اللغوي الكبير، ويتم دمجها مع البرومبت النصي للرسم البياني وتضمين الاستعلام.
• الأساس المفاهيمي: يجمع النهج مفاهيمياً بين التجميع الناعم (soft clustering) (حيث يمكن للعقد أن تنتمي إلى عدة مجموعات، على غرار التجميع الهرمي) وآليات الانتباه الذاتي (self-attention mechanisms) (على غرار المحولات الرسومية - Graph Transformers). ومن خلال استخدام رموز متعددة بدلاً من متجه واحد، فإنه يخفف من فقدان المعلومات مع الحفاظ على طول "برومبت" ثابت ومقدور عليه.

2.3 هدف التدريب

يتم الإبقاء على النموذج اللغوي الكبير وطبقة التضمين النصي في حالة تجميد (frozen). يتمثل هدف التدريب في تحسين المعلمات القابلة للتعلم $\psi$ لمكونات مشفر الرسم البياني ($GNN_{query}$، و $GNN_{graph}$، و $GNN_{pool}$، و LGPT، وطبقة الإسقاط) لتقليل خسارة الإنتروبيا المتقاطعة (Cross-Entropy Loss) بين الإجابة المتوقعة والحقيقة الأرضية (ground truth).

3. المساهمات الرئيسية

تحدد الورقة مساهمتين رئيسيتين:

1. رمز تجميع الرسم البياني القابل للتعلم (LGPT): آلية تجميع مبتكرة تمثل معلومات الرسم البياني باستخدام عدد ثابت من الرموز القابلة للتعلم. توازن هذه الآلية بين قابلية التوسع للإسقاط على مستوى الرسم البياني وغنى المعلومات للإسقاط على مستوى العقدة.
2. دمج الاستعلام المبكر (Early Query Fusion): نهج يدمج سياق الاستعلام في عملية تضمين الرسم البياني قبل تشفير الرسم البياني. يرى المؤلفون أن هذا أكثر فعالية من طرق الدمج المتأخر حيث يتم دمج الاستعلام والرسم البياني بعد عملية التشفير.

4. النتائج التجريبية

تم تقييم الطريقة على مقياس GraphQA، والذي يضم ثلاثة مجموعات بيانات: ExplaGraphs (الاستدلال القائم على المنطق العام)، و SceneGraphs (الفهم المكاني)، و WebQSP (الإجابة على الأسئلة في الرسوم البيانية المعرفية).

• الأداء بدون تدريب النموذج اللغوي الكبير: حققت الطريقة المقترحة تحسناً في الأداء بمتوسط 4.13% مقارنة بالنموذج المرجعي القوي G-Retriever (الذي يستخدم الإسقاط على مستوى الرسم البياني بـ 1 رمز) عبر جميع مجموعات البيانات. وتحديداً، تحسنت بنسبة 5.77% في ExplaGraphs، و3.92% في SceneGraphs، و2.38% في WebQSP.
• دراسات الاستئصال (Ablation Studies):
  • دمج الاستعلام المبكر: ساهم بمتوسط تحسن قدره 2.88% عن النموذج المرجعي.
  • LGPT: ساهم بمتوسط تحسن قدره 3.87% عن النموذج المرجعي.
  • الجمع بينهما: أدى استخدام التقنيتين معاً إلى تحقيق أعلى المكاسب، مما يؤكد طبيعتهما التكاملية.
• المقارنة مع الدمج المتأخر: أظهرت التجارب التي قارنت بين الدمج المبكر والدمج المتأخر (باستخدام التجميع عبر الوسائط) أن الدمج المبكر تفوق باستمرار على الدمج المتأخر. وفي بعض الحالات، أدى الدمج المتأخر فعلياً إلى تدهور الأداء مقارنة بعدم الدمج على الإطلاق، مما يشير إلى أن دمج التضمينات المعالجة بالكامل يمكن أن يدخل ضجيجاً.
• تحليل عدد الرموز: وجد المؤلفون أن استخدام 8 رموز من نوع LGPT حقق الأداء الأمثل. ولم يؤدِ رفع العدد إلى 32 إلى تحسين النتائج، بل أدى في بعض الحالات إلى انخفاض الأداء بسبب الإفراط في التخصيص (overfitting) أو تكرار المعلومات.
• تدريب النموذج اللغوي الكبير (LoRA): عندما تم تدريب النموذج اللغوي الكبير أيضاً باستخدام التكيف منخفض الرتبة (LoRA)، لا تزال الطريقة المقترحة تتفوق على النماذج المرجعية، محققة تحسناً إضافياً بنسبة 11.48% فوق نموذج G-Retriever المدرب بـ LoRA.

5. الأهمية والادعاءات

تدعي الورقة أن النهج المقترح يعالج بفعالية "عنق زجاجة المعلومات" في النماذج اللغوية الكبيرة المعززة بالرسوم البيانية. فمن خلال تقديم رموز قابلة للتعلم، تتجنب الطريقة القيود الحسابية لمعالجة كل عقدة، وفي الوقت نفسه تمنع فقدان المعلومات المرتبط بضغط الرسم البياني في متجه واحد.

يؤكد المؤلفون أن طريقتهم ذات أهمية خاصة لأنها تحقق هذه المكاسب دون الحاجة إلى تدريب النموذج اللغوي الكبير نفسه، مما يجعلها حلاً قابلاً للتوسع وفعالاً للتعامل مع البيانات الرسومية ذات السمات النصية المعقدة. ويُقدم دمج سياق الاستعلام مبكراً في خط الإنتاج كعامل حاسم لتوليد تضمينات رسم بياني أكثر فعالية ومصممة خصيصاً للسؤال المطروح.