← أحدث الأبحاث
🤖 machine learning

Gradient-Free Continual Learning

تقدم الورقة البحثية EvoCL، وهي طريقة للتعلم المستمر خالية من التدرج تستخدم الخوارزميات التطورية ووحدة مهايئ خفيفة الوزن لمنع النسيان الكارثي بفعالية دون الحاجة إلى بيانات ماضية مخزنة أو حسابات تدرج.

المؤلفون الأصليون: Grzegorz Rypeść

نُشر 2026-07-28
📖 7 دقيقة قراءة🧠 قراءة متعمّقة

المؤلفون الأصليون: Grzegorz Rypeść

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل طالباً ذكياً للغاية ولكنه يعاني من مشكلة غريبة جداً في الذاكرة: في اللحظة التي يتعلم فيها موضوعاً جديداً، ينسى فوراً كل ما عرفه عن الموضوع القديم. إذا درس لامتحان في التاريخ، فقد ينسى كيفية حل المعادلات الرياضية. وإذا تعلم عزف الجيتار، فقد ينسى كيفية التحدث بلغته الأم. هذا ليس مجرد سمة عابرة في البيولوجيا البشرية؛ بل هو صداع كبير لأنظمة الذكاء الاصطناعي (AI) التي نبنيها اليوم. في عالم تعلم الآلة، تُسمى هذه الظاهرة "النسيان الكارثي" (catastrophic forgetting).

عادةً، عندما نعلم ذكاءً اصطناعياً مهمة جديدة، نُظهره أمثلة من دروسه السابقة لتذكيره بما يعرفه بالفعل. ولكن ماذا لو لم نتمكن من فعل ذلك؟ تخيل لو أن قوانين الخصوصية أو قيود الذاكرة الصارمة منعت الذكاء الاصطناعي من حفظ أي صور أو مستندات أو بيانات من دروسه السابقة. سيتعين عليه تعلم أشياء جديدة أثناء العمل مع الحفاظ على مهاراته القديمة حية، ولكن دون أي مواد مرجعية للعودة إليها. هذا هو تحدي "الخلو من النماذج المثالية" (exemplar-free). تحاول معظم طرق الذكاء الاصطناعي الحالية حل ذلك باستخدام رياضيات معقدة لتذكر كيف تغير "دماغها" في الماضي، لكن هذا يتطلب نوعاً معيناً من الإشارات الرياضية (تسمى "التدرج" أو gradient) والتي لا توجد ببساطة عندما لا تملك البيانات القديمة.

هنا يأتي نهج جديد يسمى EvoCL، والذي يحاول حل هذا اللغز عبر إلقاء كتاب القواعد جانباً تماماً. بدلاً من محاولة حساب المسار الرياضي المثالي للأمام باستخدام التدرجات، يستخدم EvoCL طريقة مستوحاة من الطبيعة: التطور. فكر في الأمر كأنه لعبة "تخمين الحل"، حيث ينشئ الذكاء الاصطناعي مجموعة كاملة من النسخ المختلفة قليلاً من نفسه، ويختبر جميعها، ثم يحتفظ بالأفضل منها، ويمزجها معاً لإنشاء جيل تالٍ أكثر تطوراً. إنها طريقة للتعلم لا تحتاج إلى النظر إلى البيانات القديمة أو استخدام الإشارات الرياضية القياسية التي تتعطل عادةً في مثل هذه الحالات.

المشكلة: فقدان الذاكرة لدى الذكاء الاصطناعي

في عالم الشبكات العصبية (الهياكل الشبيهة بالدماغ وراء الذكاء الاصطناعي الحديث)، هناك خوف مستمر: عندما تعلم الشبكة شيئاً جديداً، فإنها تميل إلى الكتابة فوق معرفتها القديمة. الأمر يشبه كتابة فصل جديد في دفتر ملاحظات، لكن الحبر قوي جداً لدرجة أنه يتسرب ويمحو الصفحات السابقة. لإيقاف ذلك، يستخدم معظم العلماء تقنية تسمى "الانتشار العكسي" (backpropagation)، وهي في الأساس طريقة متطورة لحساب كيفية تعديل إعدادات الشبكة لتذكر المعلومات القديمة والجديدة معاً.

ومع ذلك، تصطدم هذه الطريقة بحائط مسدود في سيناريوهات "الخلو من النماذج المثالية". هذا هو الإطار الذي لا يُسمح فيه للذكاء الاصطناعي بتخزين أي بيانات خام من المهام السابقة بسبب مخاوف الخصوصية أو قيود الذاكرة. بدون البيانات القديمة، لا يستطيع الذكاء الاصطناعي حساب الإشارات الرياضية (التدرجات) اللازمة للمهام الماضية. إنه يشبه محاولة إصلاح محرك سيارة دون رؤية المخططات الهندسية للأجزاء القديمة أبداً. والنتيجة هي أن الذكاء الاصطناعي يبتعد عن مهاراته القديمة، وينساها بسرعة.

الحل: التطور بدلاً من المعادلات

يقترح مؤلفو هذه الورقة، بقيادة غرزيج ريبيتش (Grzegorz Rypeść)، تحولاً جذرياً. بدلاً من محاولة إجبار الذكاء الاصطناعي على حساب تدرجات لا يمكنه العثور عليها، يقترحون استخدام استراتيجية التطور (ES).

تخيل أنك تحاول العثور على أفضل طريق عبر غابة كثيفة الضباب للوصول إلى كنز مخفي.

  • الطريقة القديمة (الاشتقاق المتدرج - Gradient Descent): تحاول حساب ميل الأرض بدقة تحت قدميك لمعرفة الاتجاه الذي يؤدي "للأسفل" نحو الكنز. ولكن في الضباب (بدون البيانات القديمة)، لا يمكنك رؤية الأرض، لذا تكون حساباتك خاطئة، وتضيع الطريق.
  • طريقة EvoCL (استراتيجية التطور - Evolutionary Strategy): بدلاً من الحساب، ترسل فريقاً كاملاً من المستكشفين (مجموعة من نماذج الذكاء الاصطناعي). كل مستكشف يسلك مساراً مختلفاً قليلاً. تتحقق من من وجد أكبر قدر من الكنز (أفضل أداء). ثم، تأخذ أفضل مستكشفين، وتمزج مساراتهما معاً (العبور/Crossover)، وتضيف القليل من التجوال العشوائي (الطفرة/Mutation) لإنشاء فريق جديد ومحسن من المستكشفين. تكرر هذه العملية حتى تجد المسار المثالي.

هذه الطريقة لا تحتاج إلى معرفة "ميل" الماضي؛ هي فقط تحتاج لمعرفة أي الحلول تعمل بشكل أفضل من غيرها.

كيف يعمل EvoCL: المهايئ السحري

هناك جزء واحد صعب: كيف يعرف الذكاء الاصطناعي ما إذا كان المسار الجديد جيداً للمهام الماضية إذا لم يكن لديه البيانات القديمة؟

يستخدم EvoCL خدعة ذكية تتضمن مخزناً كامناً (Latent Buffer) وشبكة مهايئ (Adapter Network).

  1. بنك الذاكرة: بعد الانتهاء من مهمة، لا يحفظ الذكاء الاصطناعي الصور أو النصوص الخام. بدلاً من ذلك، يحفظ ملخصاً مضغوطاً صغيراً لما تعلمه (يسمى "الميزات الكامنة"). هذا يشبه حفظ رسم تخطيطي للوحة بدلاً من اللوحة نفسها. إنه يشغل مساحة صغيرة جداً ويحمي الخصوصية.
  2. المترجم (المهايئ): بينما يتعلم الذكاء الاصطناዊ مهاماً جديدة، تتغير "لغته" الداخلية. الرسوم التخطيطية من الأيام القديمة قد لا تبدو منطقية في السياق الجديد. لذا، يقوم EvoCL بتدريب مترجم صغير ومؤقت (شبكة المهايئ) لتحويل تلك الرسم التخطيطية القديمة إلى اللغة الجديدة.
  3. المحاكاة: يأخذ الذكاء الاصطناعي هذه الرسوم التخطيطية المترجمة ويتظاهر بأنها البيانات القديمة الحقيقية. يقوم بحساب "خسارة" (Loss) وهمية (مقياس للخطأ) بناءً على هذه الرسوم. وهذا يسم يسمح للخوارزمية التطورية باختبار ما إذا كانت مجموعة الإعدادات الجديدة تساعد في المهمة الحالية وفي المهام الماضية "المحاكاة".

ماذا أظهرت التجارب؟

اختبر الباحثون EvoCL على عدة مجموعات بيانات قياسية، تتراوح من الأرقام المكتوبة بخط اليد البسيطة (MNIST) إلى صور الطائرات المعقدة (FGVCAircraft) ومجالات مختلفة (DomainNet). وقارنوه بأفضل الطرق الموجودة التي تحاول حل هذه المشكلة دون تخزين بيانات قديمة.

كانت النتائج واعدة. تفوق EvoCL باستمرار على منافسيه.

  • في مجموعة بيانات MNIST (الأرقام المكتوبة بخط اليد)، حقق EvoCL دقة نهائية بلغت 92.3% عند تعلم 3 مهام في وقت واحد، متفوقاً على أفضل طريقة تالية بفارق كبير.
  • في مجموعة FashionMNIST الأكثر صعوبة (صور الملابس)، وصل إلى دقة 77.2%، متصدراً المجموعة مرة أخرى.
  • وحتى في مجموعة بيانات CIFAR100 المعقدة (100 فئة مختلفة من الأشياء)، تمكن EvoCL من البقاء في المقدمة، محققاً دقة 24.8%، وهو تحسن واضح عن الطرق الأخرى.

كما أجرت الورقة اختباراً محدداً لمعرفة ما إذا كانت الطريقة التطورية أفضل بالفعل من الطريقة الرياضية القياسية (SGD) عندما تغيب التدرجات. ووجدوا أن الطريقة القياسية فشلت فشلاً ذريعاً، مما تسبب في نسيان الذكاء الاصطناعي لكل شيء تقريباً (انخفضت الدقة إلى حوالي 14% في بعض الحالات)، بينما حافظ EvoCL على أداء قوي. هذا يشير إلى أنه عندما لا يمكنك حساب التدرجات، فإن التطور هو بالفعل استراتيجية متفوقة.

المقايضة: السرعة مقابل الذكاء

هناك عقبة، ومع ذلك. بينما يعد EvoCL أكثر ذكاءً في تذكر الأشياء بدون بيانات قديمة، إلا أنه أبطأ. لأنه يضطر لاختبار العديد من النسخ المختلفة من الذكاء الاصطناعي في وقت واحد (المجموعة)، فإنه يستغرق وقتاً أطول بك كثيراً للتدريب.

  • في مجموعة بيانات CIFAR100، بينما استغرقت الطرق الأخرى حوالي 3 إلى 20 دقيقة للتدريب، استغرق EvoCL ما يقرب من 985 دقيقة (أكثر من 16 ساعة).
  • يشير المؤلفون إلى أن هذه مقايضة: أنت تدفع بالوقت لتكتسب القدرة على التعلم دون تخزين البيانات.

القيود والخطوات المستقبلية

توضح الورقة بحذر أن هذا ليس حلاً سحرياً لكل المشكلات بعد.

  • النطاق: تعمل الطريقة بشكل جيد على مجموعات البيانات الصغيرة والمتوسطة. ويعترف المؤلفون بأنهم لم يختبروها على مجموعات بيانات ضخمة مثل ImageNet-1k بعد لأن عملية "التطور" ستتطلب قدرة حوسبة هائلة لمثل هذه النماذج الضخمة.
  • التقريب: تعتمد الطريقة على "الخسارة" الوهمية المحسوبة من الرسوم التخطيطية المترجمة. إذا لم يكن المترجم (المهايئ) جيداً جداً، فقد يتعلم الذكاء الاصطناعي أشياء خاطئة.
  • الذاكرة: بينما يوفر مساحة بعدم تخزين الصور الخام، فإنه لا يزال بحاجة لتخزين تلك الرسوم التخطيطية المضغوطة وشبكة المهايئ.

الخلاصة

تشير هذه الورقة إلى أنه عندما يُجبرت أنظمة الذكاء الاصطناعي على نسيان بياناتها القديمة بسبب الخصوصية أو قيود الذاكرة، فلا ينبغي لنا محاولة إجبارها على استخدام نفس الرياضيات التي نستخدمها دائماً. بدلاً من ذلك، يمكننا تركها تتطور. من خلال استخدام نهج قائم على المجموعات ومترجم ذكي لمحاكاة الماضي، يظهر EvoCL أن الذكاء الاصطناعي يمكنه تعلم مهارات جديدة دون فقدان مهاراته القديمة، حتى عندما لا يُسمح له بالنظر إلى واجباته المنزلية القديمة. إنها طريقة أبطأ وأكثر استهلاكاً للحوس、 ولكنها تفتح باباً جديداً للذكاء الاصطناعي في الحالات التي تكون فيها خصوصية البيانات ذات أهمية قصوى.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →