Mitigating Negative Flips via Margin Preserving Training

تخيل أنك رئيس طهاة ماهر قضيت سنوات في إتقان قائمة طعامك. يعرف زبائنك تماماً ما يتوقعونه: "التوفو الحار" دائماً حار، و"المشروم الكريمي" دائماً كريمي. ثم تقرر توسيع القائمة؛ أضفت أصنافاً جديدة ومثيرة مثل "سوربيه فاكهة التنين" و"آيس كريم الواسابي". يبدو هذا رائعاً، ولكن هناك فخ؛ ففي غمرة الاستعجال لإفساح المجال لهذه النكهات الجديدة، قمت عن طريق الخطأ بتعديل وصفات الأطباق المفضلة القديمة. فجأة، أصبح طعم "التوفو الحار" باهتاً بعض الشيء، أو أصبح لـ "المشروم الكريمي" مذاق غريب. يشعر زبائنك الأوفياء بالارتباك والاستياء، رغم أن قائمة الطعام الجديدة "أفضل" من الناحية النظرية. هذه هي المعاناة اليومية للذكاء الاصطنا Artificial Intelligence. فبينما تتعلم أنظمة الذكاء الاصطنا أشياء جديدة، فإنها غالباً ما تنسى كيفية القيام بالأشياء القديمة بشكل صحيح. وفي عالم علوم الحاسوب، يُسمى هذا النوع المحدد من الارتباك — حيث يصبح الذكاء الاصطناعي أسوأ في شيء كان يتقنه سابقاً — بـ "الانقلاب السلبي" (negative flip). إنه خلل محبط حيث يؤدي التحديث إلى كسر شيء لم يكن مكسوراً.

الورقة البحثية التي ستطالعها الآن تتناول هذه المشكلة تحديداً. لاحظ الباحثون، أثناء عملهم على تصنيف الصور (تعليم الحواسيب التعرف على صور القطط والكلاب والسيارات وما إلى ذلك)، أنه عندما يضيفون فئات جديدة إلى عقل الذكاء الاصطناعي، تصبح "خطوط القرار" التي يرسمونها بين الأشياء القديمة والجديدة مزدحمة للغاية. كان الأمر يشبه محاولة حشر الكثير من الناس في غرفة صغيرة؛ بدأ الجميع يصطدمون ببعضهم البعض، وأصبح الذكاء الاصطناعي مرتبكاً بشأن هوية كل منهم. ولحل هذه المشكلة، ابتكروا طريقة تدريب جديدة تسمى التدريب المحافظ على الهامش (Margin Preserving Training - MPT). فكر في الأمر كطريقة ذكية لتعليم الذكاء الاصطناعي احترام المساحة الشخصية لأصدقائه القدامى مع إفساح المجال للجدد. فبدلاً من مجرد حشر كل شيء معاً، يستخدمون "انحيازاً" خاصاً للحفاظ على سلامة الفئات القديمة ونظام "المعلم المزدوج" للتأكد من عدم تخلف الفئات الجديدة عن الركب. وتظهر تجاربهم أن هذه الطريقة تنجح في منع الذكاء الاصطناعي من ارتكاب تلك الأخطاء المزعجة في المهام القديمة، كل ذلك مع تعلم المهام الجديدة بنفس الكفاءة السابقة.

المشكلة: عندما يعني "الأفضل" معنى "الأسوأ"

في عالم الذكاء الاصطناعي المتسارع، يتم تحديث النماذج باستمرار. يقوم المطورون بتدريب نسخة جديدة من الذكاء الاصطناعي، آملين أن يكون أكثر ذكاءً وسرعة وقدرة على التعرف على المزيد من الأشياء. عادةً ما ينجح هذا الأمر بشكل رائع. ولكن أحياناً، يحدث شيء غريب. فالذكاء الاصطناعي الذي كان مثالياً في تحديد نوع "جولدن ريتريفر" يبدأ فجأة في تسميته "لابرادور" بعد التحديث. أو قد يخلط بين "علامة التوقف" و"علامة تحديد السرعة" عندما لم يكن يفعل ذلك من قبل.

تسمى هذه الظاهرة الانقلاب السلبي (negative flip). وهي عكس "الانقلاب الإيجابي"، حيث يتعلم الذكاء الاصطناعي أخيراً التعرف على شيء كان يخطئ فيه سابقاً. وبينما يعد الانقلاب الإيجابي هو الهدف، فإن الانقلابات السلبية هي التكلفة الخفية للتقدم. وهي خطيرة بشكل خاص لأنها يمكن أن تسبب سلوكاً غير متوقع في الأنظمة الواقعية، مثل سيارة ذاتية القيادة تبدأ فجأة في تحديد علامة طريق مألوفة بشكل خاطئ.

وجد الباحثون أن هذه الانقلابات السلبية تحدث غالباً عندما يُطلب من الذكاء الاصطناعي تعلم المزيد من الفئات (classes). تخيل فصلاً دراسياً حيث يتعين على المعلم التمييز بين 10 طلاب؛ الأمر سهل. الآن، تخيل دخول 100 طالب إلى الفصل؛ يتعين على المعلم حشرهم جميعاً في نفس الغرفة. لكي يستوعبهم جميعاً، تصبح "المساحة الشخصية" (أو الهامش - margin) بين كل طالب وآخر أصغر. وفي مصطلحات الذكاء الاصطناعي، "الهامش" هو منطقة الأمان التي يحتفظ بها النموذج بين الفئات المختلفة. عندما تضيف فئات جديدة، يحاول النموذج ضغط كل شيء معاً لتعظيم المساحة للجميع، لكن هذا غالباً ما يدفع الفئات القديمة لتكون قريبة جداً من الحافة، مما يجعل من السهل الخلط بينها.

الحل: الحفاظ على السلام مع MPT

يقترح المؤلفون طريقة جديدة تسمى التدريب المحافظ على الهامش (MPT). هدفهم بسيط: تحديث الذكاء الاصطناعي لتعلم أشياء جديدة دون تقليص مناطق الأمان للأشياء التي يعرفها بالفعل.

إنهم يعالجون ذلك عبر حيلتين رئيسيتين تعملان معاً مثل آلة متناغمة:

1. "بطاقة الـ VIP" (خسارة معايرة الهامش - Margin-Calibrated Loss)
أولاً، يمنحون الفئات الجديدة "بداية قوية" أثناء التدريب. تخيل أنك تعلم فصلاً من الطلاب؛ الطلاب القدامى (الفئات القديمة) يجلسون بالفعل في مقاعدهم. أما الطلاب الجدد (الفئات الجديدة) فيقفون عند الباب. إذا طلبت من الجميع الجلوس فحسب، فقد يتم دفع الطلاب القدامى من مقاعدهم لإفساح المجال.

لمنع ذلك، يمنح الباحثون الطلاب الجدد "بطاقة VIP" (انحياز لوغاريتمي موجب). تخبر هذه البطاقة الذكاء الاصطناعي: "مهلاً، هؤلاء الجدد مهمون، امنحهم مساحة إضافية للعثور على مقاعدهم". ومن خلال تعزيز الثقة للفئات الجديدة اصطناعياً أثناء التدريب، يُجبر الذكاء الاصطناعي على دفع حدود القرار بعيداً عن الفئات القديمة. وهذا يضمن احتفاظ الفئات القديمة بهوامشها الواسعة والآمنة وعدم تعرضها للضغط. الأمر يشبه قولك للذكاء الاصطناعي: "لا تقلق كثيراً بشأن الأشياء الجديدة الآن؛ تأكد من بقاء الأشياء القديمة آمنة".

2. نظام "المعلم المزدوج" (التقطير بؤري ثنائي المصدر - Double-Source Focal Distillation)
لكن هناك مشكلة في بطاقة الـ VIP؛ فإذا منحت الفئات الجديدة بداية قوية جداً، فقد تصبح واثقة أكثر من اللازم وتتجاهل السمات الفعلية للصورة، مما يؤدي إلى أخطاء في الفئات الجديدة. قد يتعلم الذكاء الاصطناعي الفئات الجديدة بشكل سيء لأنه كان مشغولاً جداً بحماية الفئات القديمة.

لحل هذه المشكلة، يقدم الباحثون معلماً ثانياً:

• المعلم (أ) (النموذج القديم): هذا المعلم يعرف الفئات القديمة تماماً، ويساعد النموذج الجديد على تذكر كيفية التعامل مع الأشياء القديمة.
• المعلم (ب) (نموذج جديد كلياً): هذا نموذج جديد تماماً تم تدريبه من الصفر على جميع الفئات (القديمة والجديدة) دون أي انحياز خاص. وهو يعرف كيفية التعامل مع الفئات الجديدة بشكل صحيح.

يتعلم النموذج الجديد من كلا المعلمين في نفس الوقت؛ فهو يستمع للمعلم (أ) للحفاظ على سلامة الفئات القديمة، ويستمع للمعلم (ب) لضمان عدم وقوعه في أخطاء فيما يخص الفئات الجديدة. يضمن هذا النهج "ثنائي المصدر" توازناً مثالياً: تبقى الفئات القديمة آمنة، وتُتعلم الفئات الجديدة بدقة.

ما وجدوه

اختبر الباحثون فكرتهم على مجموعتي بيانات شهيرتين للصور: CIFAR100 (100 فئة من الصور الصغيرة) و ImageNet1K (1,000 فئة من الصور الأكبر والأكثر تعقيداً). وقارنوا طريقتهم بالعديد من التقنيات الشائعة الأخرى المستخدمة لمعالجة الانقلابات السلبية.

كانت النتائج واعدة؛ فقد نجحت طريقتهم، MPT، باستمرار في تقليل عدد الانقلابات السلبية.

• في CIFAR100، باستخدام نموذج ResNet-18 قياسي، خفضت أفضل نسخة من طريقتهم (MPT-KL) معدل الانقلاب السلبي (NFR) إلى 9.26%، مقارنة بـ 14.04% للنموذج الذي لم يعالج المشكلة.
• في ImageNet1K، كان التحسن أكثر وضوحاً؛ حيث انخفض معدل الانقلاب السلبي إلى 6.09%، متفوقاً على أفضل طريقة تالية (ELODI) التي سجلت 7.61%.

والأهم من ذلك، أنهم لم يكتفوا فقط بمنع الانقلابات السلبية، بل لم يضحوا أيضاً بالدقة الإجمالية. لا تزال النماذج تصيب في الأشياء الجديدة؛ بل في الواقع، على مجموعة بيانات ImageNet1K، حسنت طريقتهم معدل الخطأ الإجمالي في الفئات القديمة من 28.40% (بدون معالجة) إلى 24.68%.

كما أجروا تجربة "ماذا لو" (دراسة استئصال - ablation study) لمعرفة أي جزء من وصفتهم هو "السر". ووجدوا أنه إذا أزالوا "بطاقة الـ VIP" (انحياز الهامش)، فإن الانقلابات السلبية تعود للارتفاع. وإذا أزالوا نظام "المعلم المزدوج"، فإن النموذج يعاني مع الفئات الجديدة. لقد تبين أنك تحتاج حقاً إلى كلا الجزأين يعملان معاً للحصول على أفضل النتائج.

تصور السحر

لرؤية ما كان يحدث حقاً، قام الباحثون بإنشاء خريطة مرئية لكيفية "رؤية" الذكاء الاصطنا الصور. لقد حولوا الرياضيات المعقدة داخل الذكاء الاصطناعي إلى رسم بسيط ثنائي الأبعاد.

• بدون طريقتهم: كانت تجمعات الفئات القديمة (مثل "القطط") والفئات الجديدة (مثل "الكلاب") مضغوطة معاً. وكانت الخطوط التي تفصل بينهما رفيعة ومتذبذبة، وقد يعبر "القط" بالخطأ إلى منطقة "الكلب".
• باستخدام طريقتهم: ظلت الفئات القديمة في دوائرها المنظمة والواسعة الخاصة بها. ووجدت الفئات الجديدة أماكنها دون ازدحام الفئات القديمة. وظلت "خطوط القرار" واسعة وواضحة، تماماً كما كانت في النموذج الأصلي.

الخلاصة

تشير هذه الورقة البحثية إلى أن مفتاح تحديث الذكاء الاصطنا دون كسره يكمي في احترام "المساحة الشخصية" لما يعرفه بالفعل. من خلال الحفاظ صراحةً على هوامش القرار للفئات القديمة واستخدام نظام معلم مزدوج ذكي لتوجيه تعلم الفئات الجديدة، يمكننا تحديث نماذج الذكاء الاصطناعي بشكل أكثر أماناً.

يشير المؤلفون إلى أن طريقتهم تتطلب تدريب نموذج "مرجعي" إضافي، مما يستهلك قدرة حوسبية أكبر قليلاً، لكنها لا تزال أرخص بكثير من الطرق المعقدة الأخرى التي تتطلب مجموعات ضخمة من النماذج. كما يؤكدون أن قوة "بطاقة الـ VIP" (قيمة الانحياز) تحتاج إلى ضبط دقيق لمختلف مجموعات البيانات.

باختصار، تقدم MPT طريقة لنمو عقل الذكاء الاصطنا دون تقليص ذاكرته. إنها خطوة نحو أنظمة ذكاء اصطناعي يمكنها التعلم المستمر، والتكيف مع عوالم جديدة دون نسيان دروس الماضي.