💻 computer science

KGPFN: Unlocking the Potential of Knowledge Graph Foundation Model via In-Context Learning

تقترح الورقة البحثية نموذج KGPFN، وهو نموذج تأسيسي للرسوم البيانية المعرفية يستفيد من الشبكات المتوافقة مع البيانات المسبقة لتوحيد الانتظامات العلاقاتية القابلة للنقل مع التعلم السياقي المحلي والعالمي، محققاً تكيفاً فائقاً مع الرسوم البيانية غير المرئية عبر 57 معياراً دون الحاجة إلى الضبط الدقيق.

المؤلفون الأصليون: Yisen Gao, Jiaxin Bai, Haoyu Huang, Zhongwei Xie, Yufei Li, Hong Ting Tsang, Sirui Han, Yangqiu Song

نُشر 2026-05-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yisen Gao, Jiaxin Bai, Haoyu Huang, Zhongwei Xie, Yufei Li, Hong Ting Tsang, Sirui Han, Yangqiu Song

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز، مثل معرفة جنسية شخص ما بمجرد النظر إلى بضعة أدلة عن حياته.

في عالم الذكاء الاصطناعي، تُعد رسوم المعرفة البيانية (Knowledge Graphs) بمثابة شبكات ضخمة ومترابطة من الحقائق (مثل: "ديميس هاسابيس ولد في لندن"، "لندن تقع في المملكة المتحدة"). لفترة طويلة، كان على نماذج الذكاء الاصطناعي التي تحاول حل هذه الألغاز أن تُعاد "تدريبها" من الصفر في كل مرة تواجه فيها شبكة حقائق جديدة. كان الأمر يشبه توظيف محقق يعرف مسرح الجريمة في لندن بشكل مثالي، لكن يتعين عليه الذهاب إلى المدرسة لمدة ستة أشهر ليتعلم كيفية التحقيق في جريمة في طوكيو.

تقدم هذه الورقة البحثية نموذجاً جديداً للذكاء الاصطناني يسمى KGPFN والذي يغير قواعد اللعبة. فبدلاً من إعادة التعلم، يستخدم "قوة خارقة" تسمى التعلم في السياق (In-Context Learning). فكر في الأمر كمحقق لا يحتاج إلى مدرسة جديدة؛ بل يحتاج فقط إلى بعض الملاحظات من القضية الحالية ليحلها فوراً.

إليك كيف يعمل KGPFN، مقسماً إلى مفاهيم بسيطة:

1. نوعا "السياق" (ملاحظات المحقق)

تجادل الورقة بأنك لكي تحل لغزاً، تحتاج إلى نوعين من المعلومات، واللذان يسميهما المؤلفان السياق المحلي (Local Context) والسياق العالمي (Global Context).

السياق المحلي (الجوار المباشر):
تخيل أنك تحاول تخمين وظيفة شخص ما. إذا كنت تعرف فقط أنه "يعمل في مستشفى"، فهذا دليل. ولكن إذا عرفت أيضاً أنه "يرتدي معطفاً أبيض" و"يحمل سماعة طبية"، فهذا هو الجوار المحلي.
- المشكلة: أحياناً قد يعني نفس الدليل أشياء مختلفة. "ولد في بكين" تعني عادةً "جنسية صينية". ولكن بالنسبة لعالم مشهور انتقل إلى الولايات المتحدة ويعمل في جامعة ستانفورد، فقد يكون هذا الدليل مضللاً. يحتاج النموذج إلى النظر في المحيط المباشر للشخص ليعرف ما إذا كان الدليل ينطبق هنا.
- حل KGPFN: يقوم بالتقريب (Zoom in) على الشخص المحدد وأصدقائه وارتباطاته المباشرة لرؤية الصورة الكاملة.
السياق العالمي (كتاب القواعد الخاص بالعالم):
الآن تخيل أنك بحاجة لمعرفة كيف تعمل قاعدة "الجنسية" عادةً عبر العالم بأكر. تنظر إلى آلاف الأشخاص الآخرين: "يان ليكون من فرنسا"، "يوشوا بنجيو من كندا".
- المشكلة: إذا نظرت إلى شخص واحد فقط، فقد تفوتك النمط الكبير.
- حل KGPFN: يستدعي "ورقة غش" من الأمثلة المشابهة من قاعدة البيانات بأكملها. يسأل: "كيف يتصرف ارتباط 'الجنسية' عادةً في هذا الرسم البياني؟" وهذا يعطي النموذج إحساساً بالقواعد العامة قبل أن ينظر إلى الشخص المحدد.

2. المحرك السحري: "الشبكة الملائمة للبيانات المسبقة" (PFN)

جوهر KGPFN هو محرك خاص يسمى الشبكة الملائمة للبيانات المسبقة (Prior-Data Fitted Network - PFN).

التشبيه: فكر في نموذج الذكاء الاصطناعي القياسي كطالب يحفظ الكتاب المدرسي. إذا كان سؤال الاختبار ليس في الكتاب، فسيفشل.
نهج KGPFN: فكر في KGPFN كعبقري تدرب على ملايين الألغاز المزيفة والمصنوعة. هو لم يحفظ الإجابات، بل تعلم كيف يتعلم.
كيف يعمل: عندما تعطيه لغزاً جديداً (رسم بياني جديد لم يره من قبل)، لا يحتاج KGPFN إلى الدراسة. ينظر إلى "السياق العالمي" (ورقة الغش من الأمثلة) و"السياق المحلي" (الأدلة المحددة) ويفهم النمط فوراً. إنه مثل طاهٍ ماهر يمكنه تذوق طبق جديد ومعرفة التوابل التي يجب إضافتها فوراً لأنه يفهم مبادئ الطبخ، وليس مجرد قائمة من الوصفات.

3. كيف يحل اللغز

تصف الورقة عملية مكونة من ثلاث خطوات:

جمع الأدلة: يبني "سياقاً عالمياً" عبر العثور على العديد من الأمثلة لنفس نوع العلاقة (على سبيل المثال، 20 مثالاً لـ "ولد في" و60 مثالاً لـ "ليس مولوداً في") لفهم القاعدة العامة.
التقريب (Zoom In): يبني "سياقاً محلياً" من خلال النظر في الجوار المكون من 3 خطوات حول الشخص المعني (من يعرف، أين يعيش، أين يعمل).
آلية "الانتباه" (Attention Mechanism): يستخدم النموذج نظام "انتباه" خاص. إنه يشبه تسليط الضوء.
- يسلط الضوء على السياق المحلي ليرى أي الأدلة المحددة تهم هذا الشخص.
- يسلط الضوء على السياق العالمي ليرى أي القواعد العامة تنطبق.
- يدمج بينهما لتقديم توقع.

النتائج

اختبر المؤلفون هذا على 57 رسمًا بيانيًا مختلفًا للمعرفة (تتراوح من قواعد بيانات الأفلام إلى السجلات الطبية).

الفوز الكبير: تمكن KGPFN من حل الألغاز على رسوم بيانية لم يسبق له رؤيتها من قبل دون أي تدريب إضافي.
المقارنة: تفوق على أفضل نماذج الذكاء الاصطناً الأخرى التي كان لزاماً عليها أن تمر بعملية "الضبط الدقيق" (Fine-tuning) أو إعادة التدريب لكل رسم بياني محدد. فعل KGPFN ذلك بمجرد النظر في السياق، مما أثبت أن "التعلم أثناء العمل" هو وسيلة قوية للتعامل مع البيانات الجديدة.

باختختصار

KGPFN هو نوع جديد من الذكاء الاصطناعي الذي يتوقف عن محاولة حفظ كل حقيقة في الكون. بدلاً من ذلك، يتعلم كيفية قراءة الغرفة. من خلال الجمع بين نظرة سريعة على المحيط المباشر (المحلي) وفهم واسع لكيفية سير الأمور عادةً (العالمي)، يمكنه حل ألغاز العلاقات المعقدة فوراً، حتى في البيئات الجديدة تماماً. إنه الفرق بين روبوت يحتاج إلى دليل تشغيل جديد لكل وظيفة، وبين خبير بشري يمكنه دخول أي غرفة وفهم ما يجب فعله.

ملخص تقني لنموذج KGPFN: إطلاق إمكانات النموذج التأسيسي للرسوم البيانية للمعرفة عبر التعلم في السياق

1. تعريف المشكلة

تتناول الورقة البحثية قصوراً حرجاً في النماذج التأسيسية الحالية للرسوم البيانية للمعرفة (Knowledge Graph - KG): فبينما تتفوق هذه النماذج في تعلم الأنماط العلاقاتية القابلة للنقل (الشمولية/Universality)، فإنها تهمل إلى حد كبير التعلم في السياق (In-Context Learning - ICL)، وهو الركيزة الثانية للنماذج التأسيسية. غالباً ما تبالغ النماذج التأسيسية الحالية في تطبيق الأنماط العامة القابلة لإعادة الاستخدام، وتفشل في تكييف التنبؤات مع حالات رسوم بيانية محددة دون الحاجة إلى الضبط الدقيق (Fine-tuning).

يجادل المؤلفون بأن الاستدلال الفعال في الرسوم البيانية للمعرفة يتطلب التكييف مع نوعين متميزين من السياق، وهما بطبيعتهما مهيكلان وغير متجانسين:

السياق المحلي (Local Context): الجوار الخاص بالاستعلام حيث يحدث الاستدلال. فقد يؤدي نفس الإشارة الهيكلية (مثل نمط "المثلث") إلى استنتاجات مختلفة اعتماداً على الرسم البياني الفرعي المحيط (على سبيل المثال: موقع الميلاد مقابل الجنسية).
السياق العالمي (Global Context): الأدلة على مستوى العلاقة المتراكمة عبر العديد من الحالات، والتي تصف كيفية سلوك علاقة معينة عادةً عبر الرسم البياني (مثل العلاقات المتزامنة، وتكرار المسارات، والقيود على الكيانات الصالحة).

تعاني الطرق الحالية من صعوبة في توحيد هذه الإشارات المتكاملة لتمكين التكيف في حالات "الصفر من الأمثلة" (Zero-shot) أو "الأمثلة القليلة" (Few-shot) مع الرسوم البيانية غير المرئية دون إعادة تدريب.

2. المنهجية: KGPFN

يقترح المؤلفون KGPFN، وهو نموذج تأسيسي للرسوم البيانية للمعرفة يستفيد من نموذج الشبكة الملائمة للبيانات المسبقة (Prior-Data Fitted Network - PFN) لأداء التعلم في السياق على بيانات الرسوم البيانية للمعرفة المهيكلة. يعمل الإطار دون ضبط دقيق على الرسوم البيانية المستهدفة، معتمداً بدلاً من ذلك على التدريب المسبق والتكيف أثناء الاستدلال.

المكونات الرئيسية:

بناء السياق:
- السياق العالمي: بالنسبة لعلاقة استعلام $r$ ، يسترجع النموذج مجموعة من الثلاثيات (Instances) الموجبة والسالبة من الرسم البياني. تشكل هذه الثلاثيات، جنباً إلى جنب مع جيرانها المحليين، مجموعة دعم (Support set) تلتقط الانتظامات على مستوى العلاقة.
- السياق المحلي: بدلاً من استخراج رسوم بيانية فرعية كاملة لكل مرشح (وهو أمر مكلف حاسوبياً)، يبني النموذج جواراً بمركز الرأس (Head-centric) بمدى $k$ -hop حول كيان الرأس المستعلم عنه. وهذا يضمن التوسع بكفاءة مع مجموعات المرشحين الكبيرة.
مشفر الرسم البياني السياقي (Contextual Graph Encoder):
- تمثيلات العلاقات: تقوم آلية تمرير الرسائل (Message-passing) على رسم بياني للعلاقات (حيث العقد هي أنواع العلاقات والحواف تمثل التفاعلات) بتوليد تضمينات علاقات مشروطة بالاستعلام. هذا يلتقط الثوابت العلاقاتية عبر الرسوم البيانية.
- الترميز المحلي: يقوم نموذج NBFNet (شبكة انتشار الاعتقاد العصبية) متعدد الطبقات بترميز الجوار المتمحور حول الرأس، مما ينتج ناقلات سياق محلي متعددة المقاييس تجمع الأدلة من مدى يصل إلى $k$ من الخطوات (Hops).
- تسجيل الوعي بالذيل (Tail-Aware Scoring): يجمع النموذج بين تمثيل الرأس، وتضمين العلاقة، وتمثيل الذيل (من طبقة NBFNet الأخيرة) باستخدام ميزات التفاعل (TransE، وDistMult، وتشابه جيب التمام) لتشكيل تمثيل درجة واعية بالذيل.
- الدمج (Fusion): يتم محاذاة الميزات غير المتجانسة (السياق المحلي، ميزات العلاقة، وميزات التفاعل) في فضاء كامن مشترك عبر محولات (Adapters) خفيفة الوزن وعملية دمج (Concatenation).
بنية PFN (التعلم في السياق):
- يتم تغذية التمثيلات المدمجة للاستعلام ومجموعة السياق العالمي المصنفة إلى وحدة PFN.
- انتباه الميزات (Feature Attention): يعمل على تحسين أبعاد الميزات داخل كل عينة (السياق المحلي).
- انتباه العينات (Sample Attention): يجمع الأدلة عبر أمثلة السياق (السياق العالمي). يتيح ذلك للاستعلام استرجاع أدلة خاصة بالعلاقة من مجموعة الدعم المصنفة.
- الآلية: تقرب الـ PFN التنبؤ البايزي اللاحق (Bayesian posterior prediction). فهي تعامل مجموعة السياق كأدلة مرصودة لاستحثاث توزيع تنبئي للاستعلام، مما يسمح بتعلم متى يجب تفعيل الأنماط القابلة لإعادة الاستخدام ومتى يجب تجاوزها بناءً على الأدلة السياقية.
هدف التدريب:
- يتم تدريب النموذج على رسوم بيانية متنوعة باستخدام مزيج من فقدان التقاطع الثنائي المتشعب (BCE) (لفصل الإيجابيات عن السلبيات) وفقدان التقاطع الناعم المتشعب (Softmax Cross-Entropy) (لفرض ترتيب الإيجابيات فوق السلبيات المختارة).
- تُستخدم عملية أخذ العينات السالبة (Negative sampling)، مع وزن السلبيات الصعبة عبر آلية درجة حرارة تكيفية.

3. المساهمات الرئيسية

تحدد الورقة ثلاث مساهمات رئيسية:

بناء السياق المزدوج للرسوم البيانية للمعرفة: قدم المؤلفون استراتيجية تبني صراحةً كلاً من السياق المحلي (الجوار الخاص بالاستعلام) والسياق العالمي (الانتظامات على مستوى العلاقة)، مما يعالج الفجوة في النماذج التأسيسية الحالية التي تركز بشكل أساسي على الأنماط القابلة للنقل.
التعلم في السياق القائم على PFN: يعد KGPFN أول من يطبق نموذج الشبكة الملائمة للبيانات المسبقة (PFN) على بيانات الرسوم البيانية للمعرفة المهيكلة. ومن خلال الجمع بين انتباه مستوى الميزات وانتباه مستوى العينات، فإنه يتيح التكيف أثناء الاستنباط للرسوم البيانية غير المرئية دون تحديث المعلمات.
الأداء المتميز (State-of-the-Art): أظهرت التجارب المكثفة أن KGPFN يحقق أداءً فائقاً في كل من الإعدادات الاستقرائية (Inductive) والاستقرائية الكاملة (Full-inductive).

4. النتائج التجريبية

تم تقييم النموذج على 57 معياراً للرسوم البيانية للمعرفة عبر ثلاثة إعدادات: الاستدلالي (Transductive)، والاستقرائي (Inductive - كيانات غير مرئية)، والاستقرائي الكامل (Fully Inductive - كيانات وعلاقات غير مرئية).

الأداء: حقق KGPFN أفضل متوسط لمرتبة الاسترداد المتوسطة (MRR) وHits@10 عبر جميع البيانات الـ 57.
القدرة الاستقرائية: في الإعداد الأكثر تحدياً وهو الاستقرائي الكامل، كان تفوق KGPFN أكثر وضوحاً، حيث تفوق باستمرار على نماذج مثل ULTRA وTRIX وMOTIF، حتى عندما تم ضبط تلك النماذج دقيقاً على مجموعات البيانات المستهدفة.
الحساسية للسياق: أظهر التحليل أن زيادة عدد الأمثلة السالبة في السياق العالمي أدت إلى تحسين الأداء بشكل كبير، بينما كان لعدد الأمثلة الموجبة تأثير أقل. علاوة على ذلك، كان استخدام السياق المحلي متعدد الخطوات (3-hop) أمراً حاسماً، حيث أدى استخدام جيران بـ 1-hop أو 2-hop إلى تدهور الأداء.
التصور (Visualization): أكدت خرائط الانتباه أن النموذج يركز الانتباه بشكل صحيح على أمثلة السياق الموجبة للمرشحين الصحيحين للذيل، ويشتت الانتباه فوق الأمثلة السالبة للمرشحين غير الصحيحين.

5. الأهمية والادعاءات

تدعي الورقة أن KGPFN يثبت قوة التكيف القائم على السياق للاستدلال في الرسوم البيانية للمعرفة. من خلال توحيد الانتظامات العلاقاتية العالمية مع الإشارات الهيكلية المحلية عبر نموذج PFN، يحقق النموذج تعميماً قوياً للرسومات البيانية غير المرئية سابقاً.

يؤكد المؤلفون أن نهجهم يسمح للنموذج بتعلم التعبير الوظيفي (Functional expressivity) — وليس فقط الثوابت الهيكلية. نظرياً، تقوم آلية انتباه PFN بتكوين وظائف تسجيل خاصة بكل علاقة آنياً عبر محاذاة الأدلة الهيكلية المحلية مع إحصائيات الأنماط الموزونة بالملصقات المستنتجة من مجموعة الدعم في السياق. وهذا يمكن النموذج من التكيف مع العلاقات غير المرئية دون ضبط دقيق، مما يمثل خطوة كبيرة نحو نماذج تأسيسية حقيقية للرسوم البيانية للمعرفة.

يُعرض العمل كنسخة أولية (Preprint)، وقد أتاح المؤلفون الكود للمجتمع العلمي. كما أشار المؤلفون إلى قيود تتعلق بالتحقق من قوانين القياس (Scaling laws) بسبب قيود الموارد الحسابية.