ملخص تقني: تعلم التنسيق بين الوكلاء المتعددين عبر Sheaf-ADMM

بيان المشكلة

تتعامل البنى العصبية القياسية عادةً مع المدخلات ككيانات متجانسة، وهو ما يتناقض مع الذكاء الجماعي الملحوظ في الطبيعة، حيث تنسق مجموعات من الوكلاء ذوي الرؤى المحلية المحدودة لحل مهام عالمية. تعالج هذه الورقة تحدي تعلم التنسيق بين الوكلاء المتعددين في السيناريوهات التي يمتلك فيها الوكلاء الأفراد مجرد قطع محلية صغيرة وغير كافية من المدخلات (مثل رقعة 3×3 من صورة أو شبكة سودوكو) ويجب عليهم التواصل لإنتاج مخرج عالمي صحيح. الهدف هو تطوير إطار عمل يسمح للوكلاء بتعلم كيفية تنسيق قراراتهم المحلية لاستيفاء القيود العالمية دون الاعتماد على متحكم مركزي أو شبكة واحدة ضخمة.

المنهجية: Sheaf-ADMM

يجمع الإطار المقترح، Sheaf-ADMM، بين التحسين الموزع ونظرية الحزم الخلوية (Cellular Sheaf Theory) في نظام قابل للاشتقاق بالكامل. يقوم بصياغة التنسيق كمسألة تحسين مقيدة يتم حلها عبر طريقة اتجاه الضرب الموجه (ADMM).

البنية الأساسية

يقوم النظام بتفكيك مدخل $D$ إلى $N$ من الرؤى المحلية المتداخلة، حيث يتم تخصيص كل منها لوكيل. يحافظ كل وكيل $i$ على ثلاثة متغيرات حالة متميزة:

1. المتغير الأولي ($x_i$): قرار أو مقترح محلي.
2. متغير التوافق ($z_i$): حالة تمثل الاتساق العالمي.
3. المتغير المزدوج ($u_i$): مجمع لعدم الاتفاق السابق (سجل الخطأ).

يمر الوكلاء عبر $K$ من خطوات ADMM، والتي يتم فك تسلسلها (unrolled) وتدريبها بالكامل من البداية إلى النهاية عبر الانتشار العكسي (backpropagation). تتكون كل تكرار من ثلاث عمليات تحديث:

1. التحسين المحلي (تحديث $x$):
   يحل كل وكيل مسألة فرعية محدبة محلية معلمة بمشفر عصبي $\text{Enc}_\theta$ يعالج رؤيته المحلية $d_i$. دالة الهدف $f_i(x_i)$ هي عادةً دالة تربيعية (مع خيار تنظيم $\ell_1$ لتحقيق التناثر). يأخذ التحديث شكل مؤثر تقريبي (proximal operator):
   $$x_i^{k+1} = \arg\min_{x_i} f_i(x_i) + \frac{\rho}{2} \|x_i - z_i^k + u_i^k\|^2$$
   بالنسب لدوال الهدف التربيعية، يقبل هذا حلاً مغلق الصيغة (مثل الحل الخطي أو العتبة الناعمة).

2. خطوة التوافق (تحديث $z$):
   ينسق الوكلاء لفرض الاتساق العالمي. على عكس ADMM القياسي الذي يتطلب غالباً اتفاقاً كاملاً على متجهات الحالة، يستخدم Sheaf-ADMM الحزم الخلوية لتعريف توافق مرن.

• بنية الحزمة (Sheaf Structure): الوكلاء هم عقد في رسم بياني $G$. لكل حافة $e$ "ساق حافة" (edge stalk) مرتبطة بها (فضاء ذو أبعاد أقل). تقوم خرائط التقييد الخطية $F_{i \to e}$ بإسقاط حالات الوكلاء في هذه الفضاءات الخاصة بالحواف.
• القيد: يتطلب الاتساق أنه بالنسبة للوكلاء المتصلين $i, j$، يجب أن تتفق حالاتهم المسقطة: $F_{i \to e}x_i = F_{j \to e}x_j$.
• التحديث: يقوم تحديث $z$ بإسقاط الحالة الحالية على نواة مؤثر كوبوداري الحزمة (sheaf coboundary operator) (الفضاء المتسق). يتم تنفيذ ذلك عبر انتشار الحزمة (sheaf diffusion) (الانحدار الاشتقاقي على لابلاسيان الحزمة $L_F = F^\top F$) أو طريقة التدرج المترافق (Conjugate Gradient)، مما يسمح بمرور الرسائل بشكل لامركزي.

3. التحديث المزدوج (تحديث $u$):
   يجمع المتغير المزدوج الفرق بين المقترح المحلي والتوافق:
   $$u_i^{k+1} = u_i^k + x_i^{k+1} - z_{i}^{k+1}$$

آلية التعلم

خط الإنتاج بأكمله قابل للاشتقاق. يقوم النظام بفك تسلسل عدد ثابت من تكرارات ADMM وتقليل دالة خسارة خاصة بالمهمة (مثل الإنتروبيا المتقاطعة) بين المخرج العالمي المجمع والهدف. يتم تعلم المشفر، وفك التشفير، وخرائط التقييد (المتعلمة عبر تعديل LoRA للخرائط الأساسية)، ومعلمات الجزاء من البيانات.

المساهمات الرئيسية

1. إطار عمل Sheaf-ADMM قابل للاشتقاق: توسع هذه الورقة العمل السابق حول ADMM المقيد بالحزم (الذي استخدم هياكل ثابتة للتحكم الخطي) إلى نظام قابل للتعلم بالكامل من البداية إلى النهاية ومناسب لمهام التعلم العميق.
2. التوافق غير المتجانس عبر الحزم الخلوية: من خلال استخدام الحزم الخلوية، يسمح الإطار للوكلاء بالاتفاق فقط على إسقاطات محددة لحالاتهم بدلاً من متجهات الحالة الكاملة الخاصة بهم. وهذا يتيح مفاهيم غير متجانسة للتوافق العالمي (على سبيل المثال، الاتفاق فقط على اتصال المسار في متاهة بدلاً من هيكل المسار الكامل).
3. القابلية للتفسير وفصل الحالة: على عكس شبكات تمرير الرسائل العصبية (MPNNs) القياسية التي تنشر حالة مخفية واحدة، يقوم Sheaf-ADMM بفصل المقترحات المحلية، وحالات التوافق، وذاكرة عدم الاتفاق بشكل صريح. يكشف هذا الهيكل عن ديناميكيات التنسيق (المتغيرات الأولية، والتوافق، والمزدوجة) للتحليل المباشر والتدخل.
4. التحيز الاستقرائي: يقدم هذا الأسلوب تحيزاً استدلالياً متميزاً مستمداً من نظرية التحسين (المؤثرات التقريبية ولابلاسيان الحزمة) بدلاً من الخرائط غير الخطية المتعلمة عشوائياً، مما يؤدي إلى خصائص تعميم ومتانة مختلفة.

النتائج التجريبية

تم تقييم الإطار في ثلاث مهام حيث يمتلك الوكلاء رؤى محلية غير كافية:

• تصنيف MNIST: يعالج الوكلاء قطعاً بحجم 3×3 من صور 28×28. أظهر Sheaf-ADMM تحسناً في المتانة تجاه تغير التوزيع (مثل الحشو، سقوط القطع، الضجيج) مقارنة بشبكات CNN القياسية. على سبيل المثال، مع حشو 16 بكسل، حافظ Sheff-ADMM على دقة 86.3% بينما انخفضت دقة CNN إلى 11.4%.
• إيجاد مسار المتاهة: يتنقل الوكلاء في متاهات 19×19 باستخدام رؤى محلية 3×3. حقق Sheaf-ADMM معدل حل بنسبة 99.9% في اختبارات التوزيع المماثل، و98.1% في المتاهات خارج التوزيع (OOD) بمقدار ضعفين، متفوقاً بشكل كبير على نماذج MPNN المتكررة المماثلة في عدد المعلمات (التي انخفضت إلى 68.3% في حالات OOD). كما أظهر قدرة قوية على التعميم في الحجم، حيث حل متاهات تصل إلى 39×39 دون تغييرات هيكلية.
• سودوكو: يمثل الوكلاء مجموعات القيود (الصفوف، الأعمدة، الصناديق). حقق Sheaf-ADMM معدل حل بنسبة 92.6% بـ 1.12 مليون معلمة، متفوقاً بشكل ملحوظ على MPNN المماثل في عدد المعلمات (10.7%) وعلى MPNN أكبر بكثير بـ 4.62 مليون معلمة (34.7%).

أكدت دراسات الاستئصال (Ablation Studies) أن:

• التنسيق (تكرارات ADMM) أمر ضروري؛ حيث يؤدي إزالته ($K=0$) إلى انهيار الأداء.
• خرائط التقييد المتعلمة (تحديداً مع تعديل LoRA) حاسمة لمهام معقدة مثل المتاهات.
• تنظيم $\ell_1$ في الهدف المحلي يحسن الأداء في السودوكو والمتاهة من خلال تحفيز التناثر.
• حلول التدرج المترافق (Conjugate Gradient) لتحديث $z$ تتفوق على التدرج الاشتقاقي البسيط بسبب تحسين شروط لابلاسيان الحزمة.

الأهمية والادعاءات

تزعم الورقة أن Sheaf-ADMM يوفر فصلاً واضحاً بين الحساب المحلي والتنسيق بين الوكلاء، مما يوفر إطار عمل يتسم بالمتانة والقابلية للتفسير. ومن خلال ترسيخ البنية في ADMM ونظرية الحزم، يجادل المؤلفون بأن النظام يرث أدوات تحليلية من التحسين (ضمانات التقارب، التحليل الطيفي) غير متوفرة في بنيات تمرير الرسائل القياسية.

يضع المؤلفون هذا العمل كاستكشاف لـ الذكاء الجماعي كنموذج حوسبي، موضحين كيف يمكن لمجموعات من الوكلاء البسيطين ذوي الرؤى المحدودة التنسيق لحل مشكلات تتجاوز القدرة الفردية. ويشيرون إلى أنه بينما يركز التنفيذ الحالي على المسائل الفرعية المحدبة ضمن إطار عمل قابل للاشتقاق، فإن النهج يفتح آفاقاً للتحديثات غير المتزامنة، والحواف المختلطة، والبيئات الديناميكية. وتدرك الورقة بتواضع وجود قيود، مثل افتراض أن المهام تتفكك إلى مسائل محلية متداخلة، والاحتياج المحتمل لآفاق زمنية أطول للتنسيق بعيد المدى.