🤖 machine learning

Agentic Graph Token Reasoning

تقدم هذه الورقة البحثية "الاستدلال الرمزي الرسومي الوكيل" (Agentic Graph Token Reasoning)، وهو إطار عمل مبتكر يحول عملية ترميز الرموز الرسومية من عملية استاتيكية ذات دفعة واحدة إلى قدرة استدلال ديناميكية وخطوة بخطوة، حيث تقوم النماذج اللغوية الكبيرة باختيار وتشفير الرؤى الرسومية بنشاط عند الطلب، مما يتفوق بشكل كبير على النماذج المرجعية الحالية عبر مجالات متنوعة ويمكّن من الانتقال الصفري للمهام غير المرئية.

المؤلفون الأصليون: Zhuoyi Peng, Yi Yang

نُشر 2026-08-04

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Zhuoyi Peng, Yi Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز، ولكن بدلاً من دليل واحد، لديك شبكة هائلة ومتشابكة من الروابط. في عالم علوم البيانات، تُسمى هذه الشبكة "رسمًا بيانيًا" (Graph). فكر في الرسم البياني كشبكة اجتماعية ضخمة حيث كل شخص هو "عقدة" (Node) وكل صداقة هي "خط" يربط بينهما. لكن إليك التحول المثير: في كثير من الرسوم البيانية الواقعية، هؤلاء الأشخاص (أو العقد) ليسوا مجرد نقاط؛ بل يحملون قصصًا غنية، مثل ورقة بحثية لعالم، أو وصف لمنتج، أو وظيفة بروتين.

لفترة طويلة، عانت الحواسيب من قراءة هذه الشبكات لأنها تتحدث لغة مختلفة عن النص المرفق بالعقد. وهنا يأتي دور النماذج اللغوية الكبيرة (LLMs)، وهي روبوتات الدردشة الذكية للغاية التي يمكنها كتابة المقالات وحل الألغاز. ولجعل هذه الروبوتات تفهم الرسوم البيانية، اخترع الباحثون "رموز الرسم البياني" (Graph Tokens). فكر في رمز الرسم البياني كـ "بطاقة ملخص سحرية". فبدلاً من تغذية الذكاء الاصطناعي بالشبكة الفوضوية بأكملها، تقوم أداة خاصة بضغط جزء صغير من الرسم البياني (مثل شخص وأصدقائه) في كتلة صغيرة وكثيفة من الكود التي يمكن للذكاء الاصطناعي قراءتها فورًا. الأمر يشبه تحويل مكتبة كاملة إلى علامة مرجعية واحدة مثالية.

لكن كانت هناك مشكلة. الطريقة القديمة لاستخدام هذه البطاقات السحرية كانت تشبه محققًا يختار دليلاً واحدًا، ويضعه في صندوق، ثم يحاول حل اللغز بأكمله دون فتحه مرة أخرى أبدًا. إذا لم يكن الدليل الأول كافيًا، يظل المحقق عالقًا. لم يكن بإمكان الذكاء الاصطناعي أن يسأل: "مهلًا، أحتاج لرؤية جار الجار!" لأن النظام كان ثابتًا لا يتغير. تسأل هذه الورقة سؤالاً بسيطًا ولكنه ثوري: ماذا لو استطاع الذكاء الاصطناعي أن يعمل كمحقق حقيقي، يختار بالضبط أي الأدلة ينظر إليها، خطوة بخطوة، ويجلب المعلومات التي يحتاجها فقط عندما يحتاجها؟

المحقق الذي يختار أدلته بنفسه

تقدم هذه الورقة طريقة جديدة للتفكير تسمى "الاستدلال الرمزي للرسوم البيانية الوكيل" (Agentic Graph Token Reasoning). يقترح المؤلفان، تشويوي بينغ ويي يانغ من جامعة هونج كونج للعلوم والتكنولوجيا، أنه بدلاً من إجبار الذكاء الاصطناعي على النظر إلى الرسم البياني في لقطة ثابتة واحدة، يجب أن نجعل الذكاء الاصطناعي "وكيلًا" (Agent) يبحث بنشاط عن الأدلة.

في الطريقة القديمة (التي تسميها الورقة "اللقطة الواحدة" أو single-shot)، يقرر النظام قبل أن يرى الذكاء الاصطناعي السؤال أي جزء من الرسم البياني سيتم تلخيصه. الأمر يشبه أمين مكتبة يعطيك كتابًا بناءً على تخمين، وعليك الإجابة على سؤال حوله دون أن يُسمح لك بفتح الغلاف أو طلب كتاب مختلف. إذا كان التخمين خاطئًا، يفشل الذكاء الاصطناعي.

طريقة AGT الجديدة تغير قواعد اللعبة تمامًا. إليك كيف تعمل:

السؤال: تطرح سؤالاً على الذكاء الاصطناعي حول عقدة معينة (مثل "هل هذا البروتين خطير؟").
الاختيار: يتوقف الذكاء الاصطناعي ويفكر: "ليس لدي معلومات كافية بعد. أحتاج للنظر إلى جيراني المباشرين". يصدر أمرًا لجلب ذلك المشهد المحدد.
البطاقة السحرية: يقوم مشفر الرسم البياني فورًا بتحويل ذلك المشهد المحدد إلى "رمز رسم بياني" جديد (بطاقة ملخص سحرية) ويدرجه في ذاكرة الذكاء الاصطناعي.
الحلقة: يقرأ الذكاء الاصطناعي هذه البطاقة الجديدة، ويفكر مرة أخرى، وقد يقرر: "حسنًا، الآن أحتاج لرؤية المجتمع الذي ينتمي إليه هذا الشخص بالكامل". فيقوم بجلب بطاقة أخرى.
الإجابة: تتكرر هذه الدورة حتى يشعر الذكتا الاصطناعي أن لديه أدلة كافية لتقديم إجابة واثقة.

أدرك المؤلفون أن "الأدلة" المطلوبة لمشكلة الرسم البياني نادرًا ما تكون واضحة في البداية. أحيانًا تكون الإجابة في نص العقدة نفسها؛ وأحيانًا في الأشخاص المتصلين بها؛ وأحيانًا في المجموعة (Cluster) بأكملها. ومن خلال السماح للذكاء الاصطناعي باختيار المشهد عند الطلب، يتكيف النظام مع صعوبة المشكلة. المشكلات السهلة تحصل على نظرة سريعة؛ والمشكلات الصعبة تحصل على غوص عميق.

معسكر التدريب المكون من ثلاث مراحل

لم يكن تعليم الذكاء الاصطناعي القيام بذلك أمرًا سهلاً. وجد المؤلفون أنه إذا تركت الذكاء الاصطناعي يتحدث إلى رسم بياني فحسب، فإنه يميل إلى تجاهل رموز الرسم البياني ويعتمد فقط على التخمين بناءً على النص، لأن النص أسهل في الفهم. ولحل هذه المشكلة، بنوا مسار تدريب مكونًا من ثلاث مراحل:

المرحلة 1: تعلم القراءة. أولاً، علموا الذكاء الاصطناعي معنى "البطاقات السحرية" (رموز الرسم البياني) بالفعل. استخدموا مهام التعلم الذاتي حيث كان على الذكاء الاصطناعي إعادة بناء نص العقدة أو التنبؤ بما إذا كان هناك عقدتان متصلتان بمجرد النظر إلى الرمز. ضمن هذا أن الذكاء الاصطناعي فهم بيانات الرسم البياني فعليًا، وليس مجرد الكلمات.
المرحلة 2: المحقق القوي. بعد ذلك، علموا الذكاء الاصطناعي تتبع أثر الأدلة. أنشأوا سيناريوهات حيث كانت بيانات الرسم البياني مشوهة قليلاً (مثل إزالة بعض الاتصالات) لإجبار الذكاء الاصطناعي على الاعتماد على محتوى الرموز بدلاً من الارتباك بسبب التغييرات الصغيرة. هذا جعل استدلال الذكاء الاصطناعي "قويًا" (Robust).
المرحلة 3: اختبار الحقيقة. أخيرًا، استخدموا تقنية تسمى "تحسين التفضيل" (Preference Optimization). عرضوا على الذكاء الاصطناعي مسارين: أحدهما حيث تتفق أدلة الرسم البياني مع أدلة النص، والآخر حيث تم إفساد النص ليتعارض مع الرسم البياني. تم مكافأة الذكاء الاصطناعي لاختياره المسار الذي يتفق فيه الرسم البياني والنص، مما علمه الثقة في هيكل الرسم البياني فوق النص المضلل.

النتائج: أذكى، أسرع، وبدون تدريب مسبق

اختبرت الورقة هذا النهج الجديد على سبعة أنواع مختلفة من الرسوم البيانية، تتراوح من شبكات الاقتباس (أوراق بحثية تستشهد بأوراق أخرى) إلى تفاعلات البروتينات وعادات التسوق عبر الإنترنت.

كانت النتائج مبهرة. تفوق نموذج AGT الجديد على الأساليب الحالية بفارق كبير. على سبيل المثال، في مجموعة بيانات الأوراق الأكاديمية (ogbn-arxiv)، سجل إصدار النموذج الذي يحتوي على 3 مليارات معلمة نسبة 73.0%، متفوقًا على أفضل نموذج مشابه في الحجم بأكثر من 9 نقاط. وفي شبكات المنتجات، وصل إلى 76.8%.

لكن السحر الحقيقي حدث في النقل بدون تدريب (Zero-shot transfer). قام الباحثون بتدريب النموذج على نوع واحد من الرسوم البيانية (الأوراق الأكاديمية) ثم اختبروه على رسوم بيانية مختلفة تمامًا لم يرها من قبل، مثل الشبكات الاجتماعية أو سلاسل البروتين، دون أي تدريب إضافي. لم ينجُ نموذج AGT فحسب، بل ازدهر. ففي مجموعة بيانات البروتين (STRING-db)، حقق دقة بنسبة 37.4% في وضع الـ zero-shot، بينما كافحت الأساليب الأخرى للبقاء فوق 20%.

اكتشف المؤلفون أيضًا لماذا نجح الأمر بهذا الشكل الجيد. قارنوا نهج "رمز الرسم البياني" هذا بنسخة كان على الذكاء الاصطناعي فيها قراءة الرسم البياني كنص عادي (مثل قراءة قائمة طويلة من الأسماء). كان إصدار رمز الرسم البياني أفضل بكثير، خاصة في البيانات الجديدة غير المرئية. هذا يشير إلى أن تنسيق "الرمز" يحافظ على الشكل الهيكلي للرسم البياني بطريقة لا يستطيع النص العادي فعلها. فقد فقدت نسخة النص "شكل" الاتصالات، بينما حافظت نسخة الرمز عليها سليمة، مما سمح للذكاء الاصطناعي بالاستدلال حول الهيكل نفسه.

لماذا يهم هذا؟

يشير هذا العمل إلى تحول في كيفية استخدامنا للذكاء الاصطناعي للبيانات المعقدة. بدلاً من معاملة الرسوم البيانية كصور ثابتة يجب تلخيصها مرة واحدة وإلى الأبد، يمكننا معاملتها كبيئات تفاعلية يستكشفها الذكاء الاصطناعي خطوة بخطوة. تجادل الورقة بأن "الوسيط" (Medium) يهم بقدر أهمية الاستدلال نفسه. من خلال إبقاء الاستدلال بلغة الرسم البياني (الرموز) بدلاً من ترجمتها كلها إلى كلمات، يظل الذكاء الاصطناعي راسخًا في الهيكل الحقيقي للبيانات.

يخلص المؤلفون إلى أن هذا النهج "الوكيل" يطلق العنان للإمكانات الكاملة للنماذج اللغوية الكبيرة لتحليل الرسوم البيانية، مما ينقلنا من عالم يكون فيه الذكاء الاصطناعي قارئًا سلبيًا لملخص مختار مسبقًا إلى مستكشف نشط يعرف بالضبط أي الأدلة يطاردها.

ملخص تقني: الاستدلال عبر الرموز الرسومية الوكيلية (Agentic Graph Token Reasoning)

1. بيان المشكلة

تنتشر الرسوم البيانية (Graphs) في كل مكان في العلوم والصناعة، وغالبًا ما تحمل سمات نصية غنية على عقدها (مثل ملخصات الأوراق البحثية، أو أوصاف المنتجات، أو تعليقات البروتينات). وبينما أظهرت النماذج اللغوية الكبيرة (LLMs) واعدًا في تحليل هذه النصوص، إلا أن هناك عدم توافق جوهري: النماذج اللغوية الكبيرة مُدربة على اللغة، بينما البيانات الرسومية هي بيانات هيكلية.

تحاول الحلول الحالية سد هذه الفجوة باستخدام الرموز الرسومية (graph tokens)، حيث يقوم مشفر الرسم البياني بضغط "رؤية" محددة للرسم (مثل الجوار ذي $k$ -خطوة للعقدة) إلى كتلة ثابتة الطول من الرموز المستمرة. ومع ذلك، تعاني الطرق الحالية من نموذج استاتيكي أحادي الخطوة:

رؤى محددة مسبقًا: يتم اختيار الرؤية الرسومية المراد تشفيرها قبل أن يرى النموذج السؤال (على سبيل المثال، دائمًا الجوار ذي الخطوتين).
لا يوجد مراجعة: بمجرد التشفير، لا يتم مراجعة الرموز أبدًا، بغض النظر عن عملية الاستدلال.
عدم الكفاءة: يفرض هذا النهج استراتيجية جمع أدلة "مقاس واحد يناسب الجميع". فالحالات السهلة قد تُثقل ببيانات غير ضرورية، بينما الحالات الصعبة قد تفتقر إلى أدلة كافية، لأن النموذج لا يمكنه طلب معلومات هيكلية محددة بناءً على خطوات استدلاله الوسيطة.

التحدي الجوهري هو كيفية تمكين النموذج اللغوي الكبير من إجراء استدلال وكيلي خطوة بخطوة حيث يكون جمع الأدلة (ترميز الرموز الرسومية) ديناميكيًا، ومعتمدًا على المسار، ومدفوعًا باحتياجات النموذج نفسه.

2. المنهجية: الاستدلال بالرموز الرسومية الوكيلية (AGT)

يقترح المؤلفون الاستدلال بالرموز الرسومية الوكيلية (AGT)، والذي يعيد صياغة ترميز الرموز الرسومية من خطوة معالجة مسبقة إلى جزء لا يتجزأ من حلقة الاستدلال.

إطار عمل AGT

بدلاً من تمريرة أمامية واحدة، يعمل النموذج في حلقة متعددة الخطوات:

تهيئة السياق: يبدأ النموذج بالرسم البياني $G$ والسؤال $Q$ .
إصدار الإجراء: في كل خطوة $t$ ، يصدر النموذج إجراءً منفصلًا $a_t$ من مساحة إجراء محددة مسبقًا (مثل one_hop_token أو cluster_token أو retrieval_token). يحدد هذا الإجراء رؤية رسم بياني $GV_t$ (مثل الجوار ذي الـ 3 خطوات للعقدة).
التشفير عند الطلب: يتم استدعاء مشفر الشبكة العصبية الرسومية (GNN) $f_{GNN}$ عند الطلب لتشفير الرؤية المختارة $GV_t$ إلى كتلة ثابتة الحجم من الرموز الناعمة $Z^{AGT}_t$ .
لصق السياق: يتم لصق كتلة الرموز الناتجة في السياق الجاري $\tau_t$ .
التكرار: يقرأ النموذج السياق المحدث (بما في ذلك الرموز الرسومية الجديدة) ويقرر الإجراء التالي. يستمر هذا حتى يتم إصدار إجراء الإجابة النهائي answer.

من الضروري أن الرموز الرسومية التي يقرأها النموذج تعتمد على المسار؛ حيث يختار النموذج ماذا يشفر ومتى بناءً على الأدلة التي تم جمعها حتى الآن.

خطة التدريب ثلاثية المراحل

استخراج هذا السلوك ليس بالأمر الهين، حيث تميل النماذج إلى تجاهل الرموز الرسومية لصالح النص. يستخدم المؤلفون خطة تدريب ثلاثية المراحل:

المرحلة 1: القراءة ذاتية الإشراف (التأسيس/Grounding)
- الهدف: تعليم النموذج اللغوي الكبير تفسير كتل الرموز الرسومية التي لا تحتوي على لغة طبيعية.
- المهام:
  1. إعادة بناء النص: بالنظر إلى كتلة رموز عقدة ما، يعيد بناء عنوانها وملخصها.
  2. التنبؤ بالروابط المقنعة: بالنظر إلى كتلة رموز عقدة ومرشح جار، يتنبأ ما إذا كانت هناك حافة موجودة.
- النتيجة: مواءمة مساحة مخرجات مشفر الـ GNN مع مساحة تضمين النموذج اللغوي الكبير، مما يضمن أن يعامل النموذج الرموز كأدلة ذات معنى.
المرحلة 2: ضبط التعليمات (SFT) المتوافق مع المسار والرموز
- الهدف: تعليم النموذج إصدار إجراءات والاستدلال عبر تسلسل من الرموز، مع منع الاعتماد المفرط على الإشارات السطحية الهشة.
- الآلية:
  1. الإحماء: ضبط تعليمات خاضع للإشراف (SFT) قياسي على مسارات مصنعة (تسلسلات الإجراءات + الإجابات).
  2. تنظيم الاتساق: يتم تدريب النموذج على أزواج من التشفيرات: رؤية "نظيفة" ورؤية "معززة" (مع حذف حواف أو حجب رموز). يعمل فقدان تباعد كولباك-لايبلر (KL divergence) على إجبار النموذج على إنتاج استجابات متسقة بغض النظر عن هذه الاضطرابات.
- النتيجة: يتعلم النموذج الاعتماد على محتوى الرموز الرسومية بدلاً من الأنماط السطحية، مما يجعل الاستدلال قويًا تجاه الضجيج.
المرحلة 3: تحسين التفضيل لاتساق الرسم والنص (IPO)
- الهدف: تحفيز النموذج على تأسيس تنبؤاته في البنية الرسومية بدلاً من مجرد نص العقدة (الذي قد يكون مضللاً).
- الآلية: يتم بناء أزواج تفضيل حيث:
  - المفضل ( $\tau^+$ ): مسار تتفق فيه الرموز الرسومية مع نص العقدة، مما يؤدي إلى الإجابة الصحيحة.
  - غير المفضل ( $\tau^-$ ): مسار يتم فيه إفساد نص العقدة (استبداله بنص عقدة أخرى) ليتعارض مع الرموز الرسومية، مما يؤدي إلى إجابة خاطئة.
- التحسين: يُستخدم تحسين التفضيل الهوياتي (IPO) لتعظيم احتمالية المسار المتسق فوق المسار غير المتسق.
- النتيجة: تتعلم السياسة الوثوق في الدليل الرسومي عندما يتعارض مع النص، مما يقضي فعليًا على "الاختصار النصي".

3. المساهمات الرئيسية

إطار عمل الرموز الرسومية الوكيلية: أول إطار عمل يدمج ترميز الرموز الرسومية مباشرة في حلقة الاستدلال، مما يسمح للنماذج باختيار الرؤى الرسومية ديناميكيًا (من العقد المنفردة إلى التجمعات/clusters) عند الطلب.
وصفة تدريب ثلاثية المراحل: خطة مبتكرة تتكون من التأسيس ذاتي الإشراف، وضبط التعليمات (SFT) المتوافق مع الرموز مع تنظيم الاتساق، وتحسين تفضيل الرسم والنص.
التفوق التجريبي: أظهر أداءً رائدًا في سبعة مجالات رسومية (الاقتباس، التجارة الإلكترونية، الشبكات الاجتماعية، وشبكات البروتينات) لكل من تصنيف العقد والتنبؤ بالروابط، متفوقًا على طرق الرموز الرسومية الاستاتيكية والنماذج الوكيلية القائمة على النص.

4. النتائج التجريبية

تم تقييم النموذج على عشرة رسوم بيانية ذات سمات نصية (مثل OGBN-Arxiv، OGBN-Products، PubMed، STRING-db) باستخدام نماذج Qwen2.5-3B و 7B كخلفيات.

الأداء داخل المجال: حقق نموذج AGT (3B) دقة 73.0% في تصنيف عقد OGBN-Arxiv، متفوقًا على خط الأساس القوي AgentGL-3B (63.9%) بمقدار 9.1 نقطة. كما تصدر في ستة من أصل سبعة مجالات لتصنيف العقد وستة من أصل سبعة للتنبؤ بالروابط.
النقل صفري المعرفة (Zero-Shot Transfer): تم اختبار نموذج تم تدريبه فقط على OGBN-Arxiv على سبعة مجالات غير مرئية دون ضبط دقيق. وقد تفوق بشكل كبير على جميع خطوط الأساس (مثل 82.0% على PubMed مقابل 39.8% لـ AgentGL)، مما يدل على قدرة قوية على التعميم.
دراسات الاستئصال (Ablation Studies):
- أدى إزالة منظم الاتساق (المرحلة 2) إلى أكبر انخفاض في الأداء، مما يؤكد الحاجة إلى قراءة قوية للرموز.
- أدت إزالة إجراءات معينة (مثل رموز الجيران) إلى تدهور الأداء، مما يثبت قيمة مساحة الإجراءات الديناميكية.
- مقارنة الوسيط: أدى استبدال الرموز الرسومية بنصوص لفظية (مع الحفاظ على نفس الحلقة الوكيلية) إلى انخفاض بنسبة 29.3% في دقة صفري المعرفة. وهذا يؤكد أن وسيط الرموز الرسومية نفسه، وليس فقط الحلقة الوكيلية، هو المحرك الرئيسي لزيادة الأداء، حيث يحافظ على الإشارات الهيكلية المضغوطة التي تُفقد في التسلسل النصي.
تحليل الخطأ: قلل النموذج من معدلات الخطأ بشكل كبير في العقد الصعبة ذات الدرجة المنخفضة حيث يكون النص وحده غامضًا، مما يظهر أن النهج الوكيلي يجمع بفعالية الأدلة الهيكلية المفقودة.

5. الأهمية والادعاءات

يزعم البحث دفع تحليل الرسوم البيانية القائم على النماذج اللغوية الكبيرة من نموذج استاتيكي أحادي الخطوة نحو نموذج وكيل أصيل للرسوم البيانية.

تحول النموذج: على عكس الطرق السابقة التي تعامل الرموز الرسومية كنمط مدخل ثابت، يعامل AGT الرموز كأداة يستدعيها النموذج أثناء الاستدلال. يسمح هذا للنموذج بجمع الأدلة بشكل تكيفي (مثل التحقق من نص العقدة، ثم جيرانها، ثم مجتمعها) بناءً على صعوبة الحالة المحددة.
الكفاءة والفعالية: يحقق النهج دقة عالية مع استهلاك محدود للرموز (كتل ثابتة الحجم لكل إجراء) مقارنة بالوكلاء القائمين على النص الذين يعانون من تضخم السياق.
التأسيس (Grounding): تجبر خطة التدريب النموذج صراحةً على تأسيس قراراته في الاتساق بين البنية الرسومية والنص، مما يمنع النموذج من الاعتماد فقط على سمات العقدة التي قد تكون مضللة.

باختصار، يوضح العمل أن تمكين النماذج اللغوية الكبيرة من "طلب" و"قراءة" الرموز الرسومية ديناميكيًا، بدلاً من استقبال ملخص محسب مسبقًا بشكل سلبي، يفتح قدرات استدلالية فائقة للبيانات ذات البنية الرسومية.