Graph Neural Network based Hierarchy-Aware Embeddings of Knowledge Graphs: Applications to Yeast Phenotype Prediction

ملخص تقني: التضمينات المدركة للهياكل الهرمية لرسوم المعرفة عبر الشبكات العصبية الرسومية (GNNs)

بيان المشكلة
تُستخدم رسوم المعرفة (KGs) على نطاق واسع لتمثيل المعرفة النطاقية المهيكلة، لا سيما في علوم الحياة حيث تُثريها المعلومات الأنطولوجية. وبينما تنجح طرق تضمين رسوم المعرفة القياسية (KGE) في تعلم الثلاثيات العلاقاتية المرصودة بفعالية، إلا أنها غالباً ما تخفق في فرض القيود الدلالية العالمية المستمدة من الأنطولوجيات الأساسية بشكل صريح، مثل التسلسل الهرمي للفئات (subClassOf) وعدم التقاطع (disjointness). إن الشبكات العصبية الرسومية (GNNs) القياسية، رغم قوتها في تجميع معلومات الجوار المحلي، لا تحترم بطبيعتها هذه الهياكل الهرمية، مما قد يؤدي إلى تعلم تمثيلات تنتهك المنطق النطاقي المعروف. تعالج الورقة البحثية تحدي دمج التمثيلات الحجمية (تحديداً تضمينات الصناديق - box embeddings) مع الشبكات العصبية الرسومية لإنشاء تضمينات "مدركة للهياكل الهرمية" تتوافق مع القيود الأنطولوجية مع البقاء فعالة في مهام التنبؤ الكمي اللاحقة.

المنهجية
يقترح المؤلفون إطار عمل يجمع بين الشبكات العصبية الرسومية والتضمينات القائمة على الصناديق، ويسمى الشبكات العصبية الرسومية المدركة للهياكل الهرمية (Hierarchy-aware GNNs).

1. بناء الرسم البياني: تعامل الطريقة رسم المعرفة كأنه مجموعة من بديهيات نمط (TBox). يتم إعادة كتابة تأكيدات الفئات ($C(a)$) كبديهيات احتواء ($\{a\} \sqsubseteq C$)، وتأكيدات الأدوار ($r(a, b)$) كقيود وجودية ($\{a\} \sqsubseteq \exists r.\{b\}$). هذا يوحد الحقائق على مستوى المثيل والمعرفة الاصطلاحية في رسم بياني حوسبي واحد حيث تمثل العقد الفئات والأسماء، وتمثل الحواف العلاقات المنطقية.
2. البنية الهندسية:
   • العمود الفقري للشبكة العصبية الرسومية (GNN Backbone): تستخدم الطريقة شبكة عصبية رسومية غير متجانسة تعتمد على بنية (GraphSAGE). وهي توظف تمرير رسائل خاص بكل علاقة (نماذج SAGEConv) لتجميع المعلومات من الجوار المحلي عبر أنواع مختلفة من الحواف.
   • تضمينات الصناديق (Box Embeddings): يُعامل مخرج كل طبقة من طبقات الشبكة العصبية الرسومية كمتغير كامن $\theta$ يتم تحويله إلى مستطيل متوازي مستطيلات محاذٍ للمحاور (box) باستخدام معلمة تضمن صحة إحداثيات الصندوق (الحد الأدنى $\le$ الحد الأعلى).
   • الخسارة الدلالية (Semantic Loss): لفرض القيود الأنطولوجية، تدمج الطريقة حدود خسارة دلالية أثناء التدريب. يتم تقييم نوعين من الخسائر للاحتواء ($C \sqsubseteq D$):
     • خسارة المسافة ($L_{distance}$): تعاقب المسافة الهندسية بين صندوق الفئة الفرعية وحدود صندوق الفئة العليا.
     • خسارة التداخل ($L_{overlap}$): تعاقب بناءً على حجم التقاطع بالنسبة لحجم الفئة الفرعية.
     • يتم فرض قيود عدم التقاطع ($C \sqcap D \sqsubseteq \bot$) عبر خسائر سلبية مقابلة ($L^{-}_{distance}$ أو $L^{-}_{overlap}$).
   • التدريب المشترك: تجمع دالة الخسارة الإجمالية بين خسارة خاصة بالمهمة (مثل متوسط مربع الخطأ MSE للتراجع) مع الخسائر الدلالية الموزونة وحدود التنظيم. يسمح هذا للنموذج بتعلم ميزات خاصة بالمهمة مع الالتزام بالتسلسل الهرمي للفئات.

المساهمات الرئيسية

• إطار عمل الشبكة العصبية الرسومية المدركة للهياكل الهرمية: بنية مبتكرة تدمج تضمينات الصن boxes في الشبكات العصبية الرسومية، مما يتيح التعلم المتزامن لبنية الرسم البياني والتسلسلات الهرمية الأنطولوجية.
• تكامل الخسارة الدلالية: تطبيق حدود الخسارة الدلالية (المستمدة من البديهيات الأنطولوجية) مباشرة في تدريب الشبكات العصبية الرسومية لمهام التنبؤ الكمي، بدلاً من مجرد التضمين الأنطولوجي الساكن.
• التنبؤ بالنمط الظاهري للخميرة: بناء رسم معرفة شامل ومثري أنطولوجياً لخميرة Saccharomyces cerevisiae يدمج بيانات من SGD وGO وChEBI وAPO وBioCyc.
• توليد الفرضيات: طريقة لتحديد السمات المتفاعلة من خلال تحليل أهمية أزواج الحواف في النموذج المدرب، مما يؤدي إلى فرضيات بيولوجية تم التحقق منها تجريبياً.
• تقييم الروابط: طريقة مقترحة لتصنيف مراجعات رسم المعرفة المحتملة بناءً على تغيرات المسافة في التضمينات الناتلة وتأثيرها على الخسارة الدلالية.

النتائج
تم تقييم الطريقة في مهمة التنبؤ بلياقة النمو الخلوي لتعطيل الجينات المزدوج في الخميرة.

• الأداء التنبئي: حققت الشبكة العصبية الرسومية المدركة للهياكل الهرمية متوسط معامل تحديد ($R^2$) قدره 0.360 باستخدام تضمينات الصناديق المسبقة. أدى دمج الخسارة الدلالية (تحديداً خسارة المسافة) إلى تحسين الأداء بشكل أكبر ليصل إلى 0.377، متفوقة بشكل كبير على النماذج المرجعية بما في ذلك الشبكات العصبية الرسومية القياسية بدون تضمينات الصناديق، ونماذج LightGBM على سمات النمط الظاهري المتفرقة، وتضمينات ComplEx.
• التعميم: أظهر النموذج قدرات تعميم عند اختباره على تعطيل ثلاثة جينات (بيانات لم تُشاهد أثناء التدريب)، محققاً $R^2$ قدره 0.415 مع الخسارة الدلالية، مما يشير إلى أن التمثيلات المتعلمة تلتقط سمات بيولوجية قوية.
• التحقق من الفرضية: حدد النموذج تفاعلاً محتملاً بين استخدام الإينوزيتول ومقاومة الإجهاد الأسموزي. أكدت تجربة بيولوجية آلية هذه النتيجة، حيث أظهرت أن مكملات الإينوزيتول أنقذت الخلايا بشكل كبير من الإجهاد الناجم عن NaCl، مما يؤكد قدرة النموذج على توجيه الاكتشاف.
• تحليل التضمينات: أظهرت عمليات التصور لتمثيلات ثنائية الأبعاد لنطاق الوظيفة الجزيئية أن الشبكة العصبية الرسومية تحول التضمينات المسبقة لتلتزم بشكل أفضل بعدم التقاطع والاحتواء، رغم استمرار بعض الانتهاكات الهرمية، ويرجع ذلك على الأرج_ح إلى تعقيد النطاق وأبعاد فضاء التضمين.
• تقييم الروابط: أظهرت الاختبارات الأولية لتصنيف مراجعات الرسم البياني أن مقياس المسافة يمكنه التمييز بين الحواف الحقيقية والحواف المسحوبة عشوائياً لأنواع معينة من العلاقات، وإن كان التباين مرتفعاً.

الأهمية والادعاءات
تدعي الورقة أن دمج المعرفة النوعية عالية المستوى (التسلسلات الهرمية للفئات) عبر الخسائر الدلالية يحسن أداء التنبؤ الكمي في المجالات البيولوجية. ويجادل المؤلفون بأن هذا النهج يوفر تأثيراً تنظيمياً وتأصيلاً دلالياً لتمثيلات النموذج.

وعلى نحو حاسم، توضح الورقة أن النماذج المدربة باستخدام التأصيل الدلالي يمكن استخدامها لتوليد فرضيات قابلة للتفسير تؤدي إلى اكتشافات علمية في العالم الحقيقي. ويعد النجاح في التحقق التجريبي من تفاعل الإينوزيتول وNaCl بمثابة إثبات مفهوم لاستخدام النماذج الحسابية لتوجيه التجارب البيولوجية. ويظل المؤلفون متواضعين بشأن طريقة تقييم الروابط، مشيرين إلى أنها لا تزال بدائية وتتطلب مزيداً من الاستقصاء للتمييز بفعالية بين الحواف الحقيقية والعشوائية في الرسوم البيانية المعقدة. كما يقرون بأن الإعداد الحالي لا يستخدم معلومات التسلسل، والتي يمكن أن تعزز تمثيلات الجينات بشكل أكبر، وأن تبسيط الأفراد كصناديق (بدلاً من نقاط) هو مقايضة لفرض القيود الهرمية.