🤖 machine learning

Tunable MAGMAX: Preference-Aware Model Merging for Continual Learning

تقدم هذه الورقة البحثية Tunable MAGMAX، وهو إطار عمل لدمج النماذج يعتمد على التفضيل من أجل التعلم المستمر، يقوم ببناء ناقلات تفضيل تلقائياً للتحكم في أداء مهام محددة، مما يتيح تكيفاً فعالاً للنماذج المدمجة مع بيئات نشر متنوعة دون الحاجة إلى تحديد يدوي.

المؤلفون الأصليون: Kei Hiroshima, Kento Uchida, Shinichi Shirakawa

نُشر 2026-05-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kei Hiroshima, Kento Uchida, Shinichi Shirakawa

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك شيفاً ماهراً تعلم طهي خمسة مطابخ مختلفة تماماً: الإيطالي، والياباني، والمكسيكي، والهندي، والفرنسي. في عالم الذكاء الاصطناعي، هذا الشيف هو نموذج "التعلم المستمر" (Continual Learning). والمشكلة هي أنه عندما يتعلم الشيف كيفية صنع "سوشي" مثالي، قد يبدأ في نسيان كيفية صنع "بيتزا" مثالية. وهذا ما يسمى بـ "النسيان الكارثي" (Catastrophic Forgetting).

عادةً، لإصلاح ذلك، يحاول الباحثون إنشاء "شيف خارق" يكون جيداً بشكل عام في جميع المطابخ الخمسة، بهدف تحقيق أعلى متوسط درجات. لكن في العالم الحقيقي، هذا لا يعمل دائماً. فمطعم في طوكيو قد يهتم فقط بالسوشي ولا يهتم بالبيتزا على الإطلاق. ومطعم في المكسيك قد يحتاج إلى العكس تماماً. هم لا يريدون "شيفاً خارقاً"؛ بل يريدون شيفاً يكون "سيداً في صنع السوشي" ولكنه "جيد بما يكفي" في الأطباق الأخرى.

تقدم هذه الورقة أداة جديدة تسمى Tunable MAGMAX لحل هذه المشكلة تحديداً. وإليك كيف تعمل باستخدام تشبيهات بسيطة:

1. المشكلة في الطريقة القديمة (MAGMAX)

كانت الطريقة السابقة، المسماة MAGMAX، تشبه "حكم برنامج مواهب". كان ينظر إلى مهارات الشيف في كل طبق ويختار أفضل حركة لكل خطوة من خطوات الطهي. إذا كانت أفضل حركة لتقطيع البصل تأتي من تدريبه الإيطالي، فإنه يحتفظ بها. وإذا كانت أفضل حركة لتتبيل الطعام تأتي من تدريبه الياباني، فإنه يحتفظ بها.

النتيجة؟ شيف "متوسط" رائع. لكن الورقة تشير إلى وجود خلل: المطبخ الأخير الذي تعلمه الشيف غالباً ما يسيطر على الوصفة النهائية. إذا تعلم الشيف المطبخ الفرنسي آخراً، فقد تبدو الطبخة النهائية بنكهة فرنسية طاغية، حتى لو كان المطعم يريد طعاماً إيطالياً. لم يكن بإمكانك إخبار الشيف بسهولة: "مهلاً، أريدك أن تكون إيطالياً بنسبة 80% ويابانياً بنسبة 20% فقط".

2. الحل الجديد: Tunable MAGMAX

يقترح المؤلفون Tunable MAGMAX. تخيل هذا كمنح صاحب المطعم "جهاز تحكم عن بعد" يحتوي على مفاتيح تمرير (Sliders) لكل مطبخ.

متجه التفضيل (جهاز التحكم): هو قائمة من الأرقام تخبر النظام مقدار كل "مهارة مطبخ" يجب الاحتفاظ بها. إذا كنت تريد شيفاً يركز على السوشي، فقم برفع مفتاح "الياباني" وخفض مفتاح "الإيطالي".
عملية الدمج: بدلاً من مجرد اختيار أفضل حركة واحدة لكل خطوة، ينظر Tunable MAGMAX إلى "ميزانية المهارة". إذا ضبطت مفتاح الياباني على درجة عالية، فإن النظام يضمن أن عدداً كبيراً من حركات الشيف تأتي من تدريبه الياباني. وإذا ضبطت المفتاح الإيطالي على درجة منخفضة، فإنه يحتفظ فقط بالقليل من الحركات الإيطالية.

يتيح لك هذا بناء نموذج مخصص لبيئة معينة (مثل مدينة أو مستشفى معين) دون الحاجة إلى إعادة تدريب الشيف بالكامل من الصفر.

3. كيف نضبط جهاز التحكم؟ (الجزء "السحري")

قد تتساءل، "كيف أعرف الأرقام التي يجب وضعها على مفاتيح التمرير؟ هل عليّ التخمين؟"

تقول الورقة لا. لقد ابتكروا طريقة لـ ضبط جهاز التحكم تلقائياً بناءً على عينة صغيرة من البيئة الجديدة.

التشبيه: تخيل أنك تفتتح مطعماً جديداً في مدينة ممطرة. لست بحاجة للطهي من أجل العالم أجمع؛ تحتاج فقط لمعرفة ما يأكله السكان المحليون.
الطريقة: يأخذ النظام عينة صغيرة من البيانات من موقعك الجديد ("مجموعة البيانات الميتا"). ثم يقارن هذه العينة ببيانات التدريب التي لديه بالفعل.
- إذا كان لديك تسميات (أسماء أطباق): يتحقق من: "هل يقدم المطعم الجديد تاكو أكثر أم سوشي أكثر؟" يحسب التشابه ويضبط مفاتيح التمرير وفقاً لذلك.
- إذا كان لديك صور فقط (بدون أسماء): يستخدم أداة رياضية تسمى "النقل الأمثل" (Optimal Transport) للنظر في "شكل" البيانات. يسأل: "هل صور الطعام هنا تشبه مجموعة التدريب الإيطالية أم اليابانية؟"

بمجرد حساب هذا التشابه، يقوم تلقائياً ببناء "متجه التفضيل" المثالي (إعدادات جهاز التحكم) لتلك البيئة المحددة.

4. النتائج

اختبر الباحثون هذا على معايير الذكاء الاصطناعي القياسية (مثل CIFAR-100 و ImageNet-R)، والتي تشبه مسابقات الطهي الموحدة.

التحكم: أظهروا أنه من خلال تغيير مفاتيح التمرير، يمكنهم جعل النموذج يعمل بشكل ممتاز في مهام محددة (مثل الطبق الأول أو الأخير الذي تم تعلمه) مع السماح للمهام الأخرى بالانخفاض قليلاً.
القدرة على التكيف: عندما قاموا بمحاكاة "بيئات مستهدفة" مختلفة (خلط أنواع مختلفة من البيانات)، نجحت طريقتهم التلقائية باستمرار في إنشاء "شيفات" أفضل من الطرق القديمة. كان بإمكانها بناء نموذج مثالي لـ "مدينة ممطرة" أو "مدينة مشمسة" بمجرد النظر إلى عينة صغيرة من البيانات من تلك المدينة.

ملخص

باختًا، Tunable MAGMAX هو طريقة لأخذ نموذج ذكاء اصطناعي عام تعلم أشياء كثيرة، وتفصيلها خصيصاً لتناسب وظيفة معينة دون إعادة تدريبه. يستخدم "متجه تفضيل" ليقرر مقدار كل مهارة متعلمة يجب الاحتفاظ بها، ويمكنه معرفة الإعدادات الصحيحة تلقائياً من خلال النظر إلى عينة صغيرة من البيئة الجديدة. إنه يشبه امتلاك شيف ماهر يمكنه ضبط قائمة طعامه بالكامل فوراً لتناسب تماماً الأذواق الخاصة في أي حي جديد يفتحه.

ملخص تقني: MAGMAX القابل للضبط (Tunable MAGMAX)

بيان المشكلة

يهدف التعلم المستمر (CL) إلى تدريب النماذج بالتتابع على مهام متعددة مع التخفيف من حدة النسيان الكارثي (CF). وبينما أظهرت التطورات الأخيرة في النماذج الضخمة المدربة مسبقًا (LPMs) وتقنيات دمج النماذج مثل MAGMAX (اختيار الحد الأقصى للمقدار) أداءً فعالًا في التعلم المستمر، إلا أن الطرق الحالية تركز أساسًا على تحسين متوسط الأداء عبر جميع المهام. وهي تفشل في معالجة الضرورة العملية لبناء نماذج تستوعب بيئات النشر المتنوعة أو تفضيلات المستخدمين المحددة. على سبيل المثال، قد يعطي نظام تشخيص طبي في مستشفى ما الأولوية لاكتشاف الأورام، بينما يعطي مستشفى آخر الأولوية للاضطرابات القلبية، رغم اعتمادهما على نفس النموذج الأساسي الضخم (LPM). إن تقنيات التعلم المستمر الحالية، بما في ذلك MAGMAX، لا توفر آلية كافية للتحكم المرن في أولويات الأداء لكل مهمة. علاوة على ذلك، فإن اعتماد MAGMAX على اختيار الحد الأقصى للمقدار لكل عنصر غالبًا ما يؤدي إلى هيمنة متجه المهمة الأخيرة التي تم تدريبها على النموذج المدمج، مما قد يؤدي إلى أداء دون المستوى للمهام السابقة.

المنهجية

يقترح البحث Tunable MAGMAX، وهو إطار عمل لدمج النماذج يراعي التفضيلات، مصمم للتحكم في أداء مهام محددة في التعلم المستمر. وتوسع هذه الطريقة نموذج MAGMAX عبر تقديم متجه تفضيل يحدد عدد العناصر المختارة من كل متجه مهمة أثناء عملية الدمج.

الآلية الجوهرية: Tunable MAGMAX

في MAGMAX القياسي، يتم تشكيل متجه المهمة المدمج عن طريق اختيار العنصر ذي المقدار المطلق الأقصى عبر جميع متجهات المهام لكل مؤشر معلمة. يقوم Tunable MAGMAX بتعديل ذلك من خلال فرض قيد الميزانية المحدد بواسطة متجه التفضيل $\mathbf{n}_T = (n_1, \dots, n_T)$ ، حيث $\sum n_t = d$ (إجمالي عدد معلمات النموذج).

عملية الاختيار: تقوم الخوارزمية بالمرور عبر المهام بترتيب عكسي (من المهمة الأخيرة $T$ إلى المهمة الأولى). لكل مهمة $t$ ، تحدد المعلمات غير المختارة حيث يكون لمتجه المهمة $t$ أكبر مقدار بين المهام المتبقية.
فرض الميزانية: إذا تجاوز عدد العناصر المخت pula طبيعيًا الميزانية $n_t$ ، يتم التخلص من الزيادة عشوائيًا للوفاء بالحصة. وإذا لم يتم استيفاء الميزانية بعد المرور الأول، تقوم الخوارزمية بعمل تكرارات محاذاة إضافية (تم ضبطها عند $K=2$ في التجارب) لتعيين المعلمات غير المختارة المتبقية للمهام التي لم تصل بعد إلى ميزانيتها.
النتيجة: يسمح هذا للنموذج المدمج بالانحياز نحو مهام معينة عن طريق تخصي ص أكثر من المعلمات لمتجهات المهام الخاصة بها، وبالتالي التحكم في المقايضة في الأداء بين المهام المبكرة والمتأخرة.

البناء التلقائي للتفضيلات

لإزالة الحاجة إلى التحديد اليدوي لمتجه التفضيل، يقترح المؤلفون آلية تعتمد على التشابه. وتستفيد هذه الآلية من قدر ضئيل من البيانات الوصفية ( $D_{meta}$ ) من بيئة النشر المستهدفة لحساب التشابه مع مجموعات بيانات التدريب ( $D_t$ ).

القائم على الميزات (OT): إذا كانت مجموعات الميزات متاحة، يتم حساب التشابه باستخدام مسافة النقل الأمثل (Optimal Transport - OT) بين الميزات المضمنة لمهمة التدريب والبيانات الوصفية.
القائم على التسميات (Labels): إذا كانت مجموعات التسميات فقط متاحة، يتم حساب التشابه بناءً على حاصل الضرب الداخلي لتوزيعات التسميات التجريبية.
يتم بعد ذلك إنشاء متجه التفضيل $n_t$ عن طريق تخصيص المعلمات بالتناسب مع درجات التشابه هذه.

المساهمات الرئيسية

إطار عمل Tunable MAGMAX: طريقة مبتكرة لدمج النماذج تنظم عدد العناصر المختارة من كل متجه مهمة عبر متجه تفضيل، مما يتيح التحكم المرن في أداء المهام في التعلم المستمر.
الأتمتة القائمة على التشابه: طريقة لبناء متجهات تفضيل مناسبة تلقائيًا للبيئات المستهدفة عبر الاستفيد من تشابه مجموعات البيانات (عبر مسافة OT أو توزيع التسميات) بين كميات صغيرة من البيانات الوصفية المستهدفة ومجموعات بيانات التدريب.
التحقق التجريبي: إثبات من خلال اختبارات التعلم المتزايد للطبقات (CIFAR-100 و ImageNet-R) أن إطار العمل ينجح في بناء نماذج مدمجة تتكيف مع بيئات مستهدفة متنوعة، متفوقًا على الطرق المرجعية أو مضاهاً لها في سيناريوهات نشر محددة.

النتائج التجريبية

قيم المؤلفون Tunable MAGMAX في إعدادات التعلم المتزايد للفئات باستخدام CIFAR-100 و ImageNet-R مع أعداد متفاوتة من المهام ( $T \in \{5, 20, 50\}$ ).

القابلية للتحكم: من خلال تغيير معامل القياس $\alpha$ في متجه التفضيل، نجحت الطريقة في تحويل التركيز في الأداء. حيث أعطت قيم $\alpha$ العالية الأولوية للمهام المبكرة، بينما أعطت قيم $\alpha$ المنخفضة الأولوية للمهام المتأخرة، مما أظهر القدرة على المقايضة في الأداء بين المهام.
التكيف مع البيئة المستهدفة: في التجارب التي تحاكي بيئات مستهدفة متنوعة (مزيج متوازن وغير متوازن من المهام)، حقق Tunable MAGMAX باستخدام التحكم القائم على التسميات (Label-based) دقة متوسطة أعلى أو موازية للطرق المرجعية (MAGMAX، TIES-Merging، Model Soup، والخلط العشوائي).
المتانة: أظهر التحكم في التفضيل القائم على التسميات متانة فائقة عبر أعداد المهام المتغيرة في البيئة المستهدفة مقارنة بالنهج القائم على OT، خاصة عندما تضمنت البيئة المستهدفة عددًا صغيرًا من المهام.

الأهمية والادعاءات

يزعم البحث أن Tunable MAGMAX يقدم حلاً عمليًا لنشر نماذج التعلم المستمر في السيناريوهات التي تختلف فيها أولويات المهام عبر التطبيقات أو المستخدمين. ومن خلال تمكين التحكم القائم على التفضيلات دون التكلفة الحسابية لإعادة التدريب من الصفر، تسمح الطة للممارسين ذوي الموارد المحدودة بتخصيص النماذج المدمجة لتلبية احتياجات النشر المحددة. ويشير المؤلفون إلى أنه بينما تعالج الطريقة بفعالية الحاجة إلى مرونة تحديد أولويات المهام، إلا أنها تعتمد على توفر البيانات الوصفية لتقريب البيئة المستهدفة ولا تأخذ حاليًا في الاعتبار التبعيات بين مهام التدريب.