تخيل عالماً حيث يريد آلاف الأشخاص تعليم روبوت فائق الذكاء كيف يتحدث، ويكتب، ويحل المشكلات، لكنهم لا يستطيعون مشاركة دفاتر ملاحظاتهم الخاصة. هذا هو جوهر التعلم الاتحادي (Federated Learning): وهي طريقة تتيح للحواسيب أن تتعلم معاً دون إرسال بياناتها الشخصية أبداً إلى مدير مركزي. عادةً ما يعمل هذا بشكل رائع عندما يتعلم الجميع الشيء نفسه، مثل تعلم التعرف على القطط. ولكن ماذا لو كان أحد الأشخاص يعلم الروبوت الرياضيات، وآخر يعلمه الشعر، وثالث يعلمه كيفية إصلاح المحركات؟ يُسمى هذا عدم تجانس المهام (task heterogeneity). إذا خلطنا كل هذه الدروس المختلفة في وعاء واحد كبير، فسيصاب الروبوت بالارتباك، ويمزج بين المعادلات الرياضية وقصائد الشعر.

ولإصلاح ذلك، يستخدم العلماء حيلة تسمى LoRA (التكيف منخفض الرتبة)، وهي تشبه إعطاء الروبوت مجموعة من "دفاتر الملاحظات" الصغيرة والقابلة للفصل ليتعلم مهارات جديدة دون إعادة كتابة دماغه بالكامل. كما يستخدمون خليط الخبراء (Mixture of Experts - MoE)، وهو يشبه امتلاك فريق من المتخصصين حيث يقرر "الموجه" (router) أي خبير يجب استدعاؤه لكل سؤال. ومع ذلك، فإن الطريقة القديمة للقيام بذلك في بيئة جماعية كانت تشبه تعيين متخصص واحد لكل شخص في الغرفة. فإذا كان شخص واحد يحاول تعلم كل من الرياضيات والشعر، فإن متخصصه الوحيد سيتلقى تحديثاً فوضوياً ومختلطاً، ولن يعرف الموجه بمن يثق.

هنا يأتي دور FedWeave، وهي طريقة جديدة تعيد التفكير في كيفية تنظيم فرق التعلم هذه. فبدلاً من تخصيص خبراء لأشخاص بأكمل، ينظر FedWeave داخل دفتر ملاحظات كل شخص ليجد مجموعات أصغر ونقية من الأسئلة المتشابهة. ثم يخصص متخصصاً لتلك المجموعات المحددة، مع الحفاظ على "موجه" واحد ذكي قد رأى كل شيء. والنتيال؟ روبوت يتعلم بشكل أسرع، ويرتكب أخطاء أقل، ويعرف بالضبط أي متخصص يستدعي، حتى عندما يحاول الطلاب تعلم أشياء مختلفة تماماً في نفس الوقت.

المشكلة: الفصل الدراسي المرتبك

تخيل فصلاً دراسياً يحاول فيه كل طالب تعلم موضوع مختلف. البعض يدرس التاريخ، والبعض يدرس التفاضل والتكامل، والبعض الآخر يتعلم الخبز. في نظام التعلم الاتحادي القديم، سيقوم المعلم بتعيين "مدرس خصوصي" واحد لكل طالب. ولكن هنا تكمن المشكلة: الطالب (أ) يحاول تعلم كل من التفاضل والتكامل والخبز. عندما يرسل الطالب (أ) واجباته إلى المدرس الخصوصي، يتلقى المدرس مزيجاً مشوشاً من المعادلات الرياضية ووصفات الكعك. يصاب المدرس بالارتباك، محاولاً تطبيق قواعد الخبز على المسائل الرياضية. وفي الوقت نفسه، الطالب (ب) يتعلم أيضاً التفاضل والتكامل، ولكن لأنه شخص مختلف، فإن مدرسه الخصوصي لن يرى أبداً مسائل الرياضيات الخاصة بالطالب (أ) لمقارنة الملاحظات. ينتهي الأمر بالمدرسين بالعمل في جزر منعزلة، ويحصل "الموجه" (الشخص الذي يقرر أي مدرس يستخدم) على إشارة مشوشة لأنه يرى الطالب ككل، وليس المهام المحددة التي يقوم بها.

أدرك الباحثون أن المشكلة لم تكن فقط في وجود عدد كبير من الطلاب، بل في كيفية تجميع الدروس. لقد وجدوا أن الخبراء (المدرسين) يحتاجون إلى النقاء. يحتاجون لرؤية المسائل الرياضية فقط ليصبحوا بارعين في الرياضيات، أو وصفات الخبز فقط ليتقنوا الخبز. إذا رأوا مزيجاً، فستضيع مهاراتهم الخاصة. ولكن الموجه (صانع القرار) يحتاج إلى التباين. ليعرف متى يستدعي مدرس الرياضيات ومتى يستدعي الخباز، يحتاج الموجه إلى رؤية مزيج من كل شيء. يحتاج لمقارنة مسألة رياضية مقابل وصفة خبز ليتعلم الفرق.

حاولت الطرق القديمة القيام بكل ذلك في وقت واحد مع نفس طريقة التجميع، وهو أمر يشبه محاولة إطعام قط وكلب نفس الوعاء من الطعام وتوقع أن يكون كلاهما سعيداً. هذا ببساطة لا ينجح.

الحل: الرقصة غير المتماثلة لـ FedWeave

يحل FedWeave هذه المشكلة عن طريق تقسيم العمل إلى مسارين مختلفين، وهو مفهوم يسميه المؤلفون التجميع غير المتماثل (asymmetric aggregation). فكر في الأمر كنظام مكتبة عالي التقنية.

1. اكتشاف "الأوعية" (إيجاد المجموعات النقية)
أولاً، ينظر كل طالب (عميل) إلى كومة واجباته الفوضوية الخاصة. ودون أن يسأل المعلم عن الموضوع، يستخدم أداة فرز ذكية لتجميع أوراقه في "أوعية" بناءً على مدى تشابهها. قد يكون أحد الأوعية مليئاً بالمسائل الرياضية، وآخر بالشعر، وثالث بتعليمات الخبز. يحدث هذا محلياً، لذا لا تغادر أي بيانات خاصة مكتب الطالب.

2. تعيين المتخصصين (النقاء للخبراء)
بمجرد تشكيل الأوعية، يرسل الطلاب "توقيعاً" صغيراً لكل وعاء إلى الخادم المركزي. ينظر الخادم إلى هذه التواقيع ويطابق الأوعية المتشابهة من طلاب مختلفين. يتم تجميع جميع "أوعية الرياضيات" من الطالب (أ) والطالب (ب) والطالب (ج) معاً. ثم يتم تعيين خبير واحد لهذه المجموعة العالمية من الرياضيات. هذا الخبير لا يرى سوى مسائل الرياضيات من الجميع، مما يحافظ على تدريبه نقياً ومركزاً. إنه لا يرى وصفة كعك أبداً في حصة الرياضيات الخاصة به.

3. الموجه العالمي (التباين لاتخاذ القرار)
هذا هو الجزء الذكي. بينما يتم تدريب الخبراء على الرياضيات النقية أو الشعر النقي، يتم تدريب الموجه بشكل مختلف. هو لا ينظر إلى الأوعية بشكل منفصل، بل يراقب رحلة الطالب الكاملة. يرى الطالب (أ) وهو يدرس الرياضيات، ثم ينتقل إلى الشعر، ثم يعود إلى الرياضيات. من خلال رؤية المزيج الكامل، يتعلم الموجه التباين. يتعلم قائلاً: "آه، عندما يبدو الواجب بهذا الشكل، يجب أن أستدعي خبير الرياضيات. وعندما يبدو بهذا الشكل، يجب أن أستدعي الشاعر". يظل الموجه عالمياً ويرى كل شيء، لذا يصبح بارعاً في اتخاذ القرار الصحيح.

4. الاستدلال (الامتحان النهائي)
عندما يحين وقت إجابة الروبوت على سؤال ما، يستخدم FedWeave وضع "الاستدلال المتفرق" (sparse inference). بدلاً من استدعاء جميع الخبراء وخلط إجاباتهم (وهو أمر بطيء وثقيل)، يختار الموجه خبيراً واحداً فقط — وهو الأنسب لهذا السؤال المحدد — ويقوم بتنشيطه هو فقط. إنه يشبه استدعاء مدرس الرياضيات فقط لمسألة رياضية، وتجاهل الخباز تماماً. هذا يجعل النظام سريعاً وفعالاً للغاية.

ماذا وجدوا؟

اختبر الباحثون هذه الفكرة على اختبار معياري يتضمن أربع مهام مختلفة تماماً: تحرير النصوص، حل مسائل الرياضيات اللفظية، تحليل مشاعر التغريدات، والإجابة على تحديات الاستنتاج. استخدموا نموذجين لغويين كبيرين (Llama3.2-3B و Gemma-2-2B) وحاكوا شبكة من 20 طالباً بأساليب تعلم مختلفة.

كانت النتائج واضحة: تفوق FedWeave على أفضل الأساليب الموجودة.

• في نموذج Llama، حسن الدرجة الإجمالية من 0.5673 إلى 0.5872.
• في نموذج Gemma، قفز من 0.4839 إلى 0.5163.
• كما قلل معدل الخطأ (الخسارة) بشكل كبير، حيث انخفض من 0.7496 إلى 0.7264 في نموذج Llama.

والأهم من ذلك، أظهرت الدراسة أن هذا التحسن لم يكن بسبب امتلاكهم لعدد أكبر من الخبراء فحسب. فعندما حاولوا فرض التجميع القديم "على مستوى العميل" (حيث يتعامل خبير واحد مع واجبات الطالب المختلطة بالكامل)، انخفض الأداء. وعندما حاولوا تقسيم الموجه إلى قطع صغيرة لكل وعاء، ارتبك الموجه ولم يستطع اتخاذ قرارات جيدة. فقط النهج غير المتماثل — الأوعية النقية للخبراء، والأوعية المختلطة للموجه — هو ما نجح.

وجدوا أيضاً أن وضع "الاستدلال المتفرق" (تنشيط خبير واحد فقط) كان يكاد يكون بجودة وضع "التوجيه الناعم" المعقد (خلط جميع الخبراء)، ولكنه كان أسرع بكثير. في اختباراتهم، قلل استخدام خبير واحد فقط من الوقت المستغرق لتوليد الإجابة من 3177 ميلي ثانية إلى 2147 ميلي ثانية، أي تسريع بنسبة 32.4%، مع عدم وجود خسارة تذكر في الجودة.

الخلاصة

يعلمنا FedWeave أنه في عالم من البيانات المختلطة، لا يصلح مقاس واحد للجميع. لا يمكنك معاملة "الطالب" كوحدة واحدة إذا كان يتعلم أشياء متعددة. من خلال فصل الحاجة إلى النقاء (للخبراء) والتباين (للموجه)، ومعاملتهما بشكل مختلف، يمكننا بناء أنظمة ذكاء اصطناعي أذكى وأسرع وأكثر تعاوناً. إنه تذكير بأنه في بعض الأحيان، أفضل طريقة لحل مشكلة معقدة هي التوقف عن محاولة فعل كل شيء بنفس الطريقة، والبدء في نسج خيوط مختلفة معاً في نمط أكثر ذكاءً.