🤖 machine learning

\textsc{MasFACT}: Continual Multi-Agent Topology Learning via Geometry-Aware Posterior Transfer

تقدم الورقة البحثية إطار عمل \textsc{MasFACT}، وهو إطار نقل خلفي مدرك للهندسة يخفف من نسيان الطوبولوجيا في الأنظمة متعددة الوكلاء المستمرة عبر الاستفادة من النقل الأمثل لـ "غرو-ف-وارستاينين" المدمج والتكيف الموجه بـ "باك-بيز" للحفاظ على معرفة التعاون التاريخية وإعادة استخدامها عبر المهام المتطورة.

المؤلفون الأصليون: Xuefei Wang, Jialu Wang, Fengbo Zhang, Yihan Hu, Di Zhang, Yutong Ye, Yikun Ban, Jun Han, Ruijie Wang

نُشر 2026-05-19

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xuefei Wang, Jialu Wang, Fengbo Zhang, Yihan Hu, Di Zhang, Yutong Ye, Yikun Ban, Jun Han, Ruijie Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث MasFACT باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

الصورة الكبيرة: مشكلة "فريق العمل الجماعي"

تخيل أن لديك فريقاً من المساعدين الآليين (الوكلاء - agents) يعملون معاً لحل المشكلات. لكي يعملوا بشكل جيد، يحتاجون إلى طريقة محددة للتواصل فيما بينهم. رب المثال: الوكيل (أ) يتحدث إلى الوكيل (ب)، الذي يتحدث بدوره إلى الوكيل (ج). تُسمى "خريطة المحادثة" هذه بـ الطبولوجيا (Topology).

الطريقة القديمة: عندما تظهر مشكلة جديدة، يحاول الفريق ابتكار خريطة محادثة جديدة تماماً من الصفر. إنهم ينسون كيف حلوا المشكلة السابقة.
المشكلة الجديدة (نسيان الطبولوجيا): بينما يواجه الفريق سلسلة من المهام المختلفة (مثل الرياضيات، ثم البرمجة، ثم الكتابة)، يستمرون في تغيير خريطة المحادثة الخاصة بهم. وبفعل ذلك، "ينسون" بالخطأ الخريطة المثالية التي كانت لديهم للمهام السابقة. الأمر يشبه مجموعة من الأصدقاء يحاولون حل لغز، ثم لعبة شطرنج، ثم تحدي طبخ، ولكن في كل مرة يغيرون فيها اللعبة، ينسون كيف كانوا يجلسون ويتحدثون مع بعضهم البعض خلال اللعبة السابقة.

يسمي المؤلفون هذا "نسيان الطبولوجيا" (Topology Forgetting). يصبح الفريق أفضل في المهمة الحالية، لكنهم يصبحون أسوأ في المهام القديمة لأنهم يستمرون في استبدال أساليب عملهم الجماعي الناجحة القديمة.

الحل: MasFACT (حقيبة الذاكرة للعمل الجماعي)

يقترح المؤلفون نظاماً جديداً يسمى MasFACT. فكر فيه كأنه أمين مكتبة ذكي لخرائط المحادثة الخاصة بالفريق. بدلاً من رمي الخرائط القديمة، يقوم MasFACT بحفظها، وتنظيمها، ومساعدة الفريق على اختيار الخريطة المناسبة للوظيفة الجديدة.

إليك كيف يعمل ذلك في ثلاث خطوات بسيطة:

1. "كتاب الوصفات" (الطبولوجيا التاريخية المفككة)

تخيل أن الفريق قد حل العديد من المشكلات من قبل. MasFACT لا يقوم فقط بحفظ المطبخ الفوضوي بأكمله؛ بل يستخلص الوصفات الجوهرية.

هو يفصل بين الهيكل (من يتحدث مع من) وبين الأشخاص (أي وكيل يقوم بماذا).
ينشئ "كتاب وصفات" (بنك الأولويات - Prior Bank) لأنماط العمل الجماعي الناجحة. على سبيل المثال، يحفظ نمطاً مثل: "عندما تحتاج إلى التحقق من الحقائق، يتحدث الباحث إلى الناقد، الذي يتحدث بدوره إلى الكاتب".

2. "الخاطبة الذكية" (الاسترجاع المدرك للهندسة)

عندما تصل مهمة جديدة (مثل "اكتب قصيدة")، لا يقوم النظام بالتخمين فحسب. بل ينظر إلى المهمة الجديدة ويسأل: "أي وصفة قديمة هي الأكثر تشابهاً مع هذه؟"

يستخدم أداة رياضية خاصة (تسمى Fused Gromov-Wasserstein) لمقارنة المهمة الجديدة بالوصفات القديمة.
التشبيه: تخيل أنك تنتقل إلى مدينة جديدة. أنت لا تبحث فقط عن منزل يشبه منزلك القديم تماماً، بل تبحث عن منزل حيث يكون تخطيط الحي (الهيكل) وأنواع المحلات القريبة (الدلالات/Semantics) مألوفين. يقوم MasFACT بإيجاد "الحي" من الماضي الذي يناسب المدينة الجديدة بشكل أفضل، حتى لو كانت أسماء الشوارع مختلفة.

3. "التعديل اللطيف" (التكيف اللاحق المحافظ)

بمجرد أن يختار الفريق أفضل وصفة قديمة، فإنهم لا يقومون بمجرد النسخ واللصق. بل يجرون تعديلات طفيفة وحذرة لتناسب المهمة الجديدة.

التشبيه: فكر في الأمر مثل ارتداء سترة قديمة مفضلة لديك. أنت لا ترميها من أجل واحدة جديدة، بل تأخذ السترة القديمة وربما تطوي الأكمام أو تضيف رقعة لتناسب الطقس الجديد.
يستخدم النظام قاعدة سلامة (تسمى PAC-Bayes) لضمان عدم تغيير السترة أكثر مما ينبغي. وهذا يمنعهم من إفساد الأجزاء التي كانت تعمل بشكل مثالي في السترة عن طريق الخطأ.

لماذا يهم هذا (النتائج)

اختبر المؤلفون هذا النظام على "سلسلة" من المهام المختلفة (الرياضيات، البرمجة، المعلومات العامة، إلخ).

بدون MasFACT: يصبح الفريق جيداً في المهمة الحالية ولكنه ينسى كيفية القيام بالمهام السابقة. ينخفض أداؤهم في المهام القديمة بشكل كبير.
مع MasFACT: يتعلم الفريق المهمة الجديدة ويتذكر أيضاً كيفية القيام بالمهام القديمة. في الواقع، أحياناً يساعد تعلم مهمة جديدة الفريق على أن يصبح أفضل في المهام القديمة (وهي ظاهرة تسمى "النقل العكسي" أو Backward Transfer).

ملخص التشبيه

تخيل فرقة موسيقية تعزف أنواعاً مختلفة من الموسيقى.

المشكلة: في كل مرة ينتقلون فيها من الجاز إلى الروك، ينسون تتابعات الأوتار والإيقاعات التي استخدموها في الجاز. عليهم إعادة تعلم كل شيء من الصفر.
حل MasFACT: يحتفظون بكتاب "أفضل الأغاني" (Greatest Hits) لتوزيعاتهم الموسيقية الناجحة. عندما ينتقلون إلى الروك، ينظرون في الكتاب، ويجدون توزيعاً موسيقياً من نوع الجاز له إيقاع مشابه، ثم يعدلونه بلطف ليبدو كأنه موسيقى روك. إنهم يحافظون على "روح" الأغاني القديمة مع التكيف مع النمط الجديد.

باختصار: يعلم MasFACT فرق الذكاء الاصطيٍ في كيفية تعلم مهارات جديدة دون نسيان مهاراتهم القديمة، وذلك عبر التعامل مع أنماط العمل الجماعي الماضية كأصول قيمة وقابلة لإعادة الاستخدام، وليس كمجرد مسودات قابلة للتخلص منها.

ملخص تقني: MasFACT

تعريف المشكلة

تتناول الورقة البحثية تحدي تعلم طوبولوجيا الأنظمة متعددة الوكلاء (MAS) المستمرة. في حين أثبتت الأنظمة متعددة الوكلاء القائمة على النماذج اللغوية الكبيرة (LLM) فاعليتها في الاستدلال المعقد، إلا أن أداءها يعتمد بشكل كبير على طوبولوجيا الاتصال الأساسية (كيفية تنسيق الوكلاء فيما بينهم). تعاني الطرق الحالية، التي تعمل على تحسين الطوبولوجيا للمهام المنعزلة والثابتة، من مشكلة نسيان الطوبولوجيا (topology forgetting) عند تطبيقها في سيناريوهات العالم الحقيقي حيث تتطور المهام في تدفقات مستمرة؛ فمع تكيف النظام مع مهام جديدة، يبتعد مولد الطوبولوجيا عن هياكل التواصل التي كانت فعالة للمهام السابقة.

يختلف نمط الفشل هذا عن نسيان المعلمات (parameters) القياسي، إذ ينشأ من عدم المحاذاة عبر المهام (cross-task misalignment) في بُعدين:

الدلالات الوظيفية على مستوى الوكيل: قد تتغير معاني الأدوار والأدوات عبر المهام المختلفة.
هياكل الاتصال العلاقاتية: تتغير الروابط البيانية المثلى، مما يؤدي إلى قيام المولد باستبدال أنماط التعاون التي كانت مفيدة سابقاً.

تؤدي النهج الحالية (سواء القائمة على البحث أو التوليد) إما إلى استبدال الهياكل الماضية أو تعاني من انحراف التوزيع دون وجود ذاكرة هيكلية صريحة، مما يؤدي إلى مقايضة يتدهور فيها المعرفة طويلة الأمد مقابل التكيف قصير المدى.

المنهجية: MasFACT

يقترح المؤلفون إطار عمل MasFACT (نقل طوب la topology المتوافق والمجزأ - Factorized Aligned Consensus Topology transfer)، وهو إطار نقل يعتمد على الهندسة ويدعم اللاحقة (posterior transfer)، مصمم للحفاظ على معرفة التعاون التاريخية وإعادة استخدامها. يعمل الأسلوب من خلال ثلاث مراحل:

1. بناء الطوبولوجيا التاريخية المجزأة

يحافظ MasFACT على بنك أولويات (Prior Bank - $M$ ) من "الذرات الأولية" المستمدة من الطوبولوجيا التاريخية ذات المنفعة العالية. يتم تجزئة كل ذرة $H_m$ إلى ثلاثة مكونات لتمكين النقل عبر مهام ذات هويات وكلاء وأعداد عقد (cardinalities) مختلفة:

طوبولوجيا الإجماع ( $S_m$ ): رسم بياني موجه يرمز لهياكل التواصل القابلة لإعادة الاستخدام.
سمات النموذج الأولي ( $X_m$ ): سمات الوكيل التي تلتقط الدلالات الوظيفية القابلة للنقل (الأدوار، الأدوات).
مقياس العقدة ( $\nu_m$ ): مقياس فوق عقد النماذج الأولية لتحقيق محاذاة النقل الأمثل.
البيانات الوصفية: تخزن كل ذرة أيضاً المنفعة التاريخية ( $\bar{U}_m$ ) والتشتت الهيكلي ( $\sigma_m$ ) لتوجيه عملية الاسترجاع.

2. استرجاع الأولويات الواعي بالهندسة

عند وصول مهمة جديدة $T_t$ ، يقوم MasFACT باسترجاع الذرة الأولية الأكثر قابلية للنقل. بدلاً من المطابقة البسيطة للفهارس، يصيغ النظام الاسترجاع كمسألة نقل أمثل (Optimal Transport) باستخدام مسافة Gromov-Wasserstein المدمجة (FGW).

المحاذاة: يقوم النظام بمحاذاة الرسم البيائي للسقالات (scaffold graph) الخاص بالمهمة الحالية (الوكلاء والهيكل المؤقت) مع الذرات التاريخية عن طريق تقليل تكلفة مطابقة سمات الوكيل (الدلالات) والعلاقات البيانية (الهيكل) بشكل مشترك.
معيار الاسترجاع: يختار النظام الذرة $H_{m_t}$ التي توازن بين قابلية النقل الهندسي (تكلفة FGW)، والتركيز الهيكلي (التشتت)، والمنفعة التاريخية.
الإسقاط: يتم إسقاط طوبولوجيا الإجماع المختارة في فضاء الوكلاء الحالي عبر مصفوفة الاقتران المثلى، مما يخلق أولية هيكلية مستمرة ( $C_t$ ) تعمل كنقطة مرجعية.

3. التكيف اللاحق المحافظ

للتكيف مع المهمة الجديدة دون نسيان، يتعلم MasFACT لاحقة عشوائية (stochastic posterior) $q_t$ متمركزة حول الأولية المحاذية ( $C_t$ )، بدلاً من البحث في كامل فضاء الطوبولوجيا.

التعلم المتبقي (Residual Learning): تُعرف اللاحقة بأنها اضطراب للأولية: $q_t(B) \propto \exp(\langle C_t + R_t, B \rangle)$ ، حيث $R_t$ هي مصفوفة درجات متبقية قابلة للتعلم وتتميز بالندرة (sparsity). يضمن هذا أن التكيف يقتصر على التعديلات المحلية الضرورية فقط.
قيد PAC-Bayes: يتم توجيه هدف التدريب بواسطة حد نقل PAC-Bayes. تقلل دالة الخسارة من المخاطر التجريبية مع معاقبة تعقيد اللاحقة بالنسبة للأولية (تباعد KL) وفرض الندرة على التعديلات المتبقية. هذا يضع حداً نظرياً لمخاطر نسيان الطوبولوجيا من خلال التحكم في الانحراف الهيكلي.

المساهمات الرئيسية

صياغة المشكلة: حدد المؤلفون وصاغوا نسيان الطوبولوجيا كنمط فشل متميز في التعلم المستمر للأنظمة متعددة الوكلاء، ناتج عن عدم المحاذاة في كل من فضاء الطوبولوجيا ودلالات الوكيل.
إطار عمل مبتكر (MasFACT): قدموا إطار عمل واعٍ بالهندسة يعامل الطوبولوجيا التاريخية كأولويات هيكلية قابلة للنقل. من خلال الجمع بين محاذاة FGW للنقل عبر المهام مع التكيف اللاحق المحافظ الموجه بـ PAC-Bayes، يوازن Mas-FACT بين المرونة (التكيف مع المهام الجديدة) والاستقرار (الاحتفاظ بالطوبولوجيا القديمة).
بروتوكول التقييم: تقترح الورقة بروتوكول تقييم مستمر هرمي لـ MAS يمتد عبر مستويات المهمة (عائلات الاستدلال المختلفة)، والمجال (مجموعات بيانات مختلفة داخل العائلة الواحدة)، والفئة (المهارات الفرعية الدقيقة) عبر أربعة مجالات استدلال و17 مجموعة بيانات.

النتائج التجريبية

أُجريت التجارب عبر 12 سيناريو مستمر باستخدام نموذج Llama-3.1-8B كنموذج أساسي. تمت مقارنة MasFACT مع طرق الوكيل الواحد، والطوبولوجيا الثابتة، ومولدات الطوبولوجيا التكيفية الحديثة (مثل GDesigner، وMasRouter، وARGDesigner)، بما في ذلك المتغيرات القائمة على إعادة التشغيل (replay-based).

الأداء: تفوق MasFACT باستمرار على جميع النماذج المرجعية. عبر جميع الإعدادات، حقق تحسناً في متوسط الدقة (AA) بنحو 9.3% وخفض متوسط النسيان (AF) بنسبة 69.4% مقارنة بالنماذج المرجعية القوية.
تخفيف النسيان: على عكس الطرق الأخرى التي غالباً ما تظهر نسياناً إيجابياً (تدهور الأداء في المهام القديمة)، حقق Mas frequentely نسياناً سلبياً (نقل خلفي إيجابي)، مما يشير إلى أن أنماط التعاون المتعلمة حسنت الأداء في المهام السابقة.
القابلية للتركيب (Plug-and-Play): عمل MasFACT كطبقة مستمرة فعالة لمختلف مولدات الطوبوا-لوجيا (القائمة على التقليم، أو توليد الرسوم البيانية، أو التوجيه)، مما حسن أداءها دون تعديل بنيتها الأساسية.
دراسة الاستئصال (Ablation): أدى إزالة الأولوية التاريخية، أو محاذاة FGW، أو قيود PAC-Bayes إلى تدهور الأداء بشكل كبير، مما يؤكد أن المحاذاة المشتركة للهيكل والدلالات، جنباً إلى جنب مع التكيف المحافظ، أمر بالغ الأهمية.

الأهمية والادعاءات

تدعي الورقة أن نسيان الطوبولوجيا هو ظاهرة هيكلية متميزة عن نسيان المعلمات، وتتطلب تحولاً من التعلم المستمر المرتكز على المعلمات إلى النقل المرتكز على الهيكل.

المعرفة الهيكلية كأولويات: يثبت العمل أن طوبولوجيا التعاون الفعالة هي معرفة هيكلية قابلة لإعادة الاستخدام يمكن تجزئتها ومحاذاتها ونقلها، بدلاً من إعادة اكتشافها من الصفر لكل مهمة.
النقل الواعي بالهندسة: باستخدام FGW، ينجح الأسلوب في التعامل مع عدم المحاذاة بين أدوار الوكلاء وهياكل الرسوم البيانية عبر المهام، وهو ما يعد قصوراً في عمليات الاسترجاع القياسية القائمة على المسافة الإقليدية أو الفهرسة.
توازن الاستقرار والمرونة: توفر صياغة PAC-Bayes ضماناً نظرياً يسمح للنظام بالتكيف مع المهام الجديدة مع وضع حدود صارمة للانحراف عن الهياكل التاريخية المثبتة.

يخلص المؤلفون إلى أن MasFACT يقدم حلاً قوياً وغير مرتبط ببنية معينة لتوسيع نطاق الأنظمة متعددة الوكلاء المعتمدة على LLM والتي تتسم بالموثوقية والقدرة على التكيف في البيئات الديناميكية والمتطورة، متجاوزاً بذلك التصميم الاستاتيكي للطوبولوجيا لمرة واحدة.