🤖 AI

ACIL: Active Class Incremental Learning for Image Classification

تقترح هذه الورقة إطار عمل ACIL، وهو إطار تعلم نشط جديد للتعلم التزايدي للفئات يستفيد من معايير عدم اليقين والتنوع لاختيار عينات غنية بالمعلومات لغرض التوسيم، مما يقلل بشكل كبير من تكاليف التوسيم مع التخفيف بفعالية من النسيان الكارثي.

المؤلفون الأصليون: Aditya R. Bhattacharya, Debanjan Goswami, Shayok Chakraborty

نُشر 2026-02-05

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Aditya R. Bhattacharya, Debanjan Goswami, Shayok Chakraborty

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتدريب روبوت ذكي جداً للتعرف على أنواع مختلفة من الحيوانات. في العالم الحقيقي، لا يمكنك ببساطة صب مليون صورة مصنفة لكل حيوان داخل عقل الروبوت دفعة واحدة. بدلاً من ذلك، يتعلم الروبوت عبر "حلقات" (Episodes): أولاً، يرى بضع صور لقطط؛ ثم بضع صور لكلاب؛ ثم طيور، وهكذا.

المشكلة هي أنه بينما يتعلم الروبوت عن الطيور، فإنه يميل إلى "نسيان" شكل القطة. يُسمى هذا "النسيان الكارثي" (Catastrophic Forgetting).

علاوة على ذلك، هناك تكلفة باهظة لعملية التعلم هذه: وهي "التصنيف البشري" (Human Annotation). لكي يتعلم الروبوت، يجب على إنسان أن ينظر إلى كل صورة ويقول: "نعم، هذه قطة". إذا كان لديك مليون صورة، فهذا يعني مليون ساعة من العمل البشري. معظم الطرق الموجودة تفترض أنك تقوم بتصنيف كل صورة في كل حلقة، وهو أمر مكلف للغاية ومبدد للموارد، خاصة وأن الروبوت لن يرى تلك الصور المحددة مرة أخرى في المستقبل.

الحل: ACIL (المنسق الذكي)

يقترح مؤلفو هذه الورقة نظاماً جديداً يسمى ACIL (التعلم التدخلي النشط للفئات). فكر في ACIL كأنه "منسق ذكي" لمتحف.

إليك كيف يعمل، باستخدام تشبيهات بسيطة:

1. قاعدة "التصنيف الجزئي"

في الطرق التقليدية، يُجبر المنسق على تصنيف كل معرض جديد يصل.
في ACIL، يُمنح المنسق "ميزانية" صغيرة من الوقت. هو لا يصنف كل شيء، بل ينظر إلى كومة ضخمة من الصور غير المصنفة ويختار فقط الأكثر أهمية منها لتصنيفها.

التشبيه: تخيل أنك تجهز حقيبة سفر لرحلة طويلة، لكن لديك مساحة لـ 10 قطع فقط. أنت لا تأخذ مجرد جوارب عشوائية، بل تختار بعناية الـ 10 قطع التي ستكون الأكثر فائدة للرحلة بأكملها. ACIL يختار الصور "الأكثر فائدة" لتصنيفها.

2. "بنك الذاكرة" (النماذج المثالية - Exemplars)

عندما ينتهي الروبوت من تعلم القطط، فإنه لا يرمي الصور. بل يحتفظ بمجموعة صغيرة وخاصة من أفضل صور القطط في "بنك ذاكرة".

اللمسة المبتكرة: عندما يبدأ الروبوت في تعلم الكلاب، فإنه لا ينظر فقط إلى صور الكلاب الجديدة، بل ينظر أيضاً إلى "بنك الذاكرة" الخاص بالقطط.
الابتكار: معظم الأنظمة تختار الصور الجديدة من الكومة الحالية فقط. أما ACIL فهو ذكي بما يكفي ليدرك: "مهلاً، أحتاج أيضاً للحفاظ على بعض صور القطط القديمة حية في ذاكرتي!". لذا، فهو يقسم ميزانية التصنيف الخاصة به: جزء منها يذهب لاختيار أفضل صور الكلاب الجديدة، والجزء الآخر يذهب لاختيار أفضل صور القطط القديمة لإعادة التحقق منها.

3. استراتيجية الاختيار (عدم اليقين والتنوع)

كيف يقرر ACIL أي الصور يختار؟ إنه يستخدم قاعدتين:

عدم اليقين (Uncertainty): يبحث عن الصور التي يشعر فيها الروبوت بالارتباك. "هل هذه قطة أم كلب؟". إذا كان الروبوت غير متأكد، يحتاج إلى تدخل بشري لتصنيفها حتى يتعلم الروبوت.
التنوع (Diversity): يضمن أن الصور المختارة جميعها مختلفة عن بعضها البعض. فهو لا يختار 10 صور لنفس القطة وهي تجلس في نفس الوضعية، بل يختار قطة نائمة، وقطة تركض، وقطة تأكل. هذا يعطي الروبوت رؤية شاملة ومتكاملة.

النتائج: توفير الوقت دون فقدان الذكاء

اختبرت الورقة هذا النظام على ست مجموعات بيانات صور مختلفة (مثل MNIST وCIFAR وTiny ImageNet). وإليكم ما وجدوه:

توفير هائل: لأن ACIL يصنف فقط جزءاً ضئيلاً جداً من الصور (النماذج المثالية) بدلاً من تصنيف كل شيء، فقد قلل من الجهد البشري (تكلفة التصنيف) بشكل هائل. على سبيل المثال، في إحدى مجموعات البيانات، وفر حوالي 4 أضعاف كمية العمل مقارنة بالطرق القياسية.
لا نسيان: رغم تصنيف عدد قليل جداً من الصور، إلا أن الروبوت لم ينسَ الفئات القديمة، بل قدم أداءً يضاهي الطرق المكلفة التي تصنف كل شيء.
أفضل من الاختيار "العشوائي": عند مقارنته بطرق "التعلم النشط" الأخرى التي تختار عينات عشوائية أو بسيطة، كان ACIL أكثر ذكاءً ودقة بكثير.

باخت-الخلاصة

ACIL هو وسيلة لتعليم الروبوت أشياء جديدة بمرور الوقت دون جعل البشر يقومون بكل العمل الممل المتمثل في تصنيف كل صورة. إنه يعمل مثل أمين مكتبة حكيم يعرف بالضبط أي الكتب القليلة التي يجب الاحتفاظ بها على الرف لتذكر المكتبة بأكملها، مما يضمن بقاء الروبوت ذكياً بشأن الأشياء القديمة أثناء تعلمه لأشياء جديدة، وكل ذلك مع توفير كم هائل من وقت البشر وأموالهم.

ملخص تقني: ACIL – التعلم الفئوي النشط للتعلم التدريجي للفئات في تصنيف الصور

1. بيان المشكلة

تتناول الورقة البحثية تحدي التعلم الفئوي التدريجي (Class Incremental Learning - CIL) في الرؤية الحاسوبية، وهو سيناريو يجب فيه على الشبكات العصبية العميقة (DNNs) تعلم فئات جديدة بالتتابع من بيانات حلقية (episodic data) مع الحفاظ على المعرفة بالفئات التي تم تعلمها سابقاً. ويتمثل العائق الرئيسي في الـ CIL في النسيان الكارثي (catastrophic forgetting)، حيث يؤدي تحسين الشبكة للفئات الجديدة إلى محو المعرفة بالفئات القديمة.

تركز أبحاث الـ CIL الحالية بشكل أساسع على التخفيف من حدة النسيان، وغالباً ما تفترض أن جميع عينات التدريب في كل حلقة (episode) مصنفة بالكامل. ويرى المؤلفون أن هذا الافتراض غير واقعي وغير فعال لسببين:

تكلفة التصنيف العالية: التصنيف اليدوي مكلف من حيث الوقت والجهد والخبرة.
هدر التصنيف: في الإعدادات الحلقية، تكون معظم البيانات من الحلقة الحالية غير متاحة في الحلقات المستقبلية. وبالتالي، فإن تصنيف جميع العينات في حلقة ما يعد جهداً ضائعاً، حيث لن نحتاج إلا لمجموعة فرعية من هذه العينات (العينات النموذجية/exemplars) لمنع النسيان في الخطوات اللاحقة.

تقترح الورقة إطار عمل جديداً حيث يتم في كل حلقة تصنيف جزء صغير فقط من البيانات، بينما تظل غالبية البيانات غير مصنفة. والهدف هو تطوير إطار عمل يختار مجموعة دنيا من العينات النموذجية (exemplar samples) ليتم تصنيفها ونقلها إلى الحلقات المستقبلية، مما يقلل تكاليف التصنيف مع منع النسيان الكارثي بفعالية.

2. المنهجية: إطار عمل ACIL

يقترح المؤلفون ACIL (التعلم الفئوي النشط - Active Class Incremental Learning)، وهو إطار عمل يدمج استراتيجيات التعلم النشط (Active Learning) في مسار الـ CIL. وتتضمن الآلية الجوهرية اختيار مجموعة نموذجية بحجم ثابت $k$ في كل حلقة ليتم تصنيفها يدوياً وإلحاقها ببيانات الحلقة التالية.

2.1 إعداد المشكلة

تدفق البيانات: تصل بيانات التدريب في $N$ من الحلقات المتتالية. تحتوي كل حلقة $n$ على مجموعة صغيرة مصنفة ( $X^L_n$ )، ومجموعة كبيرة غير مصنفة ( $X^U_n$ )، ومجموعة نموذجية ( $E_{n-1}$ ) من الحلقة السابقة.
القيد: يتم تدريب النموذج على $X^L_n$ و $E_{n-1}$ . ومن الحلقة الحالية، يجب على النظام اختيار مجموعة نموذجية جديدة $E_n$ بحجم $k$ ليتم تصنيفها.
مصدر الاختيار: يتم بناء $E_n$ عن طريق اختيار عينات من $X^U_n$ (البيانات الحالية غير المصنفة)، و $E_{n-1}$ (النماذج السابقة)، وربما $X^L_n$ (رغم أن المؤلفين يشيرون إلى منح الأولوية لـ $X^U_n$ نظراً لحجمها).

2.2 استراتيجية تقسيم الميزانية

لموازنة تعلم الفئات الجديدة والاحتفاظ بالمعرفة القديمة، يقوم ACIL بتقسيم ميزانية التصنيف $k$ بين المجموعة غير المصنفة الحالية ( $X^U_n$ ) ومجموعة النماذج السابقة ( $E_{n-1}$ ).

التقسيم يتناسب مع عدد الفئات الموجودة في كل مجموعة ( $|C_{episode}|$ مقابل $|C_{exemplar}|$ ).
المعادلة:
$k_{unlabeled} = \left( \frac{|C_{episode}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$
$k_{exemplar} = \left( \frac{|C_{exemplar}|}{|C_{episode}| + |C_{exemplar}|} \right) \cdot k$
يضمن ذلك أن المجموعة النموذجية $E_n$ تحافظ على تمثيل لجميع الفئات التي شوهدت حتى الآن، مما يخفف من حدة النسيان.

2.3 استراتيجية أخذ العينات النشطة

يتم توجيه اختيار عينات محددة ضمن الميزانية المخصصة بواسطة معيار يجمع بين عدم اليقين (uncertainty) والتنوع (diversity).

عدم اليقين: يُقاس باستخدام إنتروبيا شانون (Shannon's entropy) لتنبؤات النموذج.
التنوع: يتم تحقيقه عن طريق تقسيم المجموعة المرشحة إلى $B$ من المجموعات (حيث $B$ هي الميزانية) بحيث يتم تقليل التباين داخل كل مجموعة إلى أدنى حد.
التحسين: يصيغ المؤلفون مشكلة تقسيم المجموعة الموزونة لتقليل التباين الموزون داخل الأجزاء، حيث يكون الوزن هو عدم اليقين في التنبؤ.
$\text{argmin}_P \sum_{b=1}^{B} \sum_{x \in X_b} I(x) ||F(x) - c_b||^2$
حيث $I(x)$ هو عدم اليقين (الإنتروبيا) و $F(x)$ هو تمثيل الميزات (feature embedding).
الخوارزمية: مشكلة صعبة حسابياً (NP-hard) يتم تقريبها باستخدام K-Means الموزون (Weighted K-Means). حيث يتم اختيار العينة الأقرب إلى المركز الموزون في كل جزء لغرض التصنيف.

2.4 دالة الخسارة

يتم تدريب الشبكة العصبية العميقة باستخدام مزيج من:

خسارة الإنتروبيا المتقاطعة الموزونة ( $L_{WCE}$ ): تُطبق على البيانات المصنفة ( $X^L_n \cup E_{n-1}$ ) للتعامل مع عدم توازن الفئات، مع أوزان تتناسب عكسياً مع تكرار الفئة.
خسارة تقطير المعرفة ( $L_D$ ): تُطبق على المجموعة النموذجية $E_{n-1}$ لنقل المعرفة من النموذج السابق ( $M_{n-1}$ ) إلى النموذج الحالي ( $M_n$ )، مما يمنع النسيان.
$L = L_{WCE} + \lambda L_D$

3. المساهمات الرئيسية

نموذج تعلم جديد: تقديم إطار عمل لـ CIL لا يفترض التصنيف الكامل للبيانات الحلقية، مما يعالج التكلفة العالية وعدم الكفاءة في اختبارات CIL الحالية.
إطار عمل ACIL: خوارزمية محددة تختار النماذج بناءً على معيار مزدوج لعدم اليقين والتنوع، باستخدام استراتيجية تقسيم الميزانية لضمان تغطية كل من الفئات الجديدة والقديمة.
الكفاءة مقابل الأداء: إثبات أن ACIL يمكنه تحقيق أداء يقارب أساليب CIL المتطورة (التي تفترض التصنيف الكامل) مع تقليل عدد العينات التي تتطلب تصنيفاً بشرياً بشكل جذري.

4. النتائج التجريبية

تم تقييم إطار العمل على ست مجموعات بيانات رؤية: MNIST، SVHN، CIFAR-10، CIFAR-100، COIL، و Tiny ImageNet.

الدقة: تفوق ACIL على نماذج التعلم النشط المرجعية (Random, Coreset, BADGE) بشكل كبير، حيث فشلت تلك الأساليب في الاحتفاظ بالمعرفة من الحلقات السابقة لأنها كانت تأخذ عينات من المجموعة غير المصنفة الحالية فقط. حقق ACIL دقة قابلة للمقارنة، وفي بعض الحالات أفضل قليلاً، من نماذج CIL التي تعتمد على التصنيف الكامل (مثل iCaRL, GDumb, Rainbow Memory).
جهد التصنيف: حقق ACIL أقل جهد تصنيف بين جميع الطرق. على سبيل المثال، في مجموعة بيانات CIFAR-10، تطلب ACIL حوالي 4.13 مرة أقل من عمليات التصنيف لكل حلقة مقارنة بنماذج CIL المرجعية مع الحفاظ على دقة مماثلة.
الاحتفاظ بالمعرفة: أظهر ACIL قدرة قوية على الاحتفاظ بالمعرفة من الحلقة الأولى، بما يضاهي طرق CIL القائمة على إعادة التشغيل (replay-based)، مما يثبت قدرته على التخفيف من النسيان الكارثي.
المتانة: أظهرت التجارب التي غيرت حجم المجموعة النموذجية (الميزانية) أن ACIL يحافظ على اتجاهات الأداء المتوافقة مع نماذج CIG المرجعية عبر مختلف قيود الذاكرة.

5. الأهمية والادعاءات

تدعي الورقة أن ACIL يقدم حلاً عملياً لتطبيقات التعلم التدريجي في العالم الحقيقي حيث:

الذاكرة مقيدة: حجم المجموعة النموذجية ثابت، مما يحاكي سعة التخزين المحدودة.
التصنيف مكلف: يقلل إطار العمل بشكل جذري من العمل البشري المطلوب لتدريب النماذج بمرور الوقت.
البيانات مؤقتة: القدرة على التعلم من بيانات مصنفة محدودة في كل حلقة تتماشى مع قيود الخصوصية والتخزين حيث لا يمكن الاحتفاظ بالبيانات الماضية بالكامل.

خلص المؤلفون إلى أنه من خلال الاختيار الذكي لمجموعة فرعية صغيرة من العينات المعلوماتية لنقلها، ينجح ACIL في موازنة المقايضة بين تكلفة التصنيف وأداء النموذج، مما يجعل التعلم المستمر أكثر جدوى في البيئات ذات الموارد المحدودة. كما تمت الإشارة إلى أن العمل المستقبلي قد يمتد ليشمل تطبيق هذا الإطار على مهام الانحدار (regression tasks).