When Blocks Outlive Tasks: Three Safeguards for
Task-ID-Free Routing in Growing Continual Learners
تقترح هذه الورقة وتتحقق من صحة ثلاث ضمانات محددة — وهي إعادة تشغيل الفترات السابقة، وتسجيل حالات الموجه عند تجميد الكتلة، ومنع الكتابة فوق إحصائيات الكتلة المجمدة — لتمكين التوجيه القوي الخالي من هوية المهمة في المتعلمين المستمرين المتنامين حيث تعيش الكتل لفترة أطول من المهام الفردية.
تخيل طالباً يتعين عليه تعلم موضوع جديد كل عام، من علم النبات إلى الفيزياء الفلكية، دون أن ينسى أبداً الدروس التي تعلمها في السنوات السابقة. في عالم الذكاء الاصطناعي، يتمثل هذا في تحدي "التعلم المستمر". ولحل هذه المعضلة، غالباً ما يبني الباحثون أنظمة تنمي أجزاءً جديدة من عقلها لكل موضوع جديد، مع تجميد الأجزاء القديمة لحماية ما تعلمته بالفعل. يعمل هذا النهج بشكل جيد عندما يعرف النظام بالضبط الموضوع الذي يتم اختباره فيه، مما يسم يسمح له ببساطة باختيار القسم المجمد المناسب من عقله. ولكن في العالم الحقيقي، غالباً ما يواجه الذكاء الاصطناعي سؤالاً دون وجود تسمية توضح الموضوع الذي ينتمي إليه. عليه أن يكتشف أي جزء من عقله المتنامي يحمل الإجابة. هذا هو لغز "التوجيه الخالي من المهام": كيف ترسل سؤالاً إلى بنك الذاكن الصحيح عندما لا يملك النظام أي فكرة عن موضوع السؤال.
تصبح المشكلة أكثر صعوبة عندما لا يكون نمو الذكاء الاصطناعي مجدولاً بدقة. ففي العديد من الأنظمة المتقدمة، قد يتعلم قسم واحد من الدماغ لعدة سنوات متتالية قبل أن يتم تجميده وتخصيصه نهائياً. وخلال تلك السنوات، يتغير هذا القسم ويتطور. وإذا حاول النظام تذكر ما كان يعرفه ذلك القسم عندما كان أصغر سناً، فقد يكون ينظر إلى ذاكرة لم تعد تتطابق مع النسخة الحالية من ذلك القسم. علاوة على على ذلك، إذا استمر النظام في التدريب على بيانات جديدة، فقد يقوم عن طريق الخطأ بمسح الملاحظات التي دونها عن الأقسام القديمة، مما يجعله ينسى أي جزء من عقله هو الأنسب لسؤال معين. وبدون وسيلة للتعامل مع هذه الذاكرات المتغيرة، يمكن للذكاء الاصطناعي أن يتوه، ويرسل الأسئلة إلى الخبراء الخطأ ويفشل في التعلم.
لقد وضع فريق من الباحثين في المعهد الهندي للتكنولوجيا (ISM) دانهد (Dhanbad) حلاً لهذه المشكلة تحديداً. فقد ركزوا على تنمية أنظمة ذكاء اصطناعي تتعلم على مراحل، حيث يمكن لكتلة تعلم واحدة أن تمتد لعدة فترات زمنية قبل أن تُغلق وتُثبّت. وقد حددوا ثلاث قواعد حاسمة، أو ضمانات، يجب اتباعها للحفاظ على عمل نظام التوجيه بشكل صحيح عندما تعيش هذه الكتل لفترة أطول من مهامها الأصلية. القاعدة الأولى هي أن كتلة التعلم النشطة يجب أن تحتفظ بنسخة مؤقتة صغيرة من البيانات التي رأتها في الفترات السابقة بينما لا تزال تتعلم أشياء جديدة؛ وهذا يضمن أنه عند تجميد الكتلة أخيراً، سيكون لديها سجل كامل لتاريخها بأكته، وليس فقط لدروسها الأخيرة. القاعدة الثانية تنص على أن النظام يجب أن يدون ملاحظاته النهائية حول الكتلة فقط في اللحظة التي يتم فيها تجميد تلك الكتلة تماماً. فإذا حاول النظام تحديث هذه الملاحظات لاحقاً، فلن يعود الوصف مطابقاً للحالة النهائية للكتلة. أما القاعدة الثالثة فتتطلب أنه بمجرد تجميد الكتلة، يجب ألا يسمح النظام أبداً لبيانات التدريب الجديدة بمسح الملاحظات التي دونها عن تلك الكتلة؛ إذ يجب أن تظل الملاحظات كما هي تماماً، محفوظة في حالة لا يمكن تغييرها من خلال التعلم المستقبلي.
ولاختبار ما إذا كانت هذه القواعد ضرورية حقاً، أجرى الباحثون سلسلة من التجارب الصارمة عبر عشر بذور حاسوبية مختلفة، وهي تشبه إجراء التجربة نفسها عشر مرات مع نقاط بداية عشوائية مختلفة قليلاً. وقد اختبروا النظام على خمس معايير مختلفة، وهي مجموعات قياسية من البيانات تُستخدم لقياس أداء الذكاء الاصطناعي، تتراوح من التعرف البسيط على الصور إلى فهم اللغة المعقدة. وفي تسعة عشر اختباراً من أصل عشرين اختباراً محدداً، كان أداء النظام أفضل بكثير عندما كانت الضمانات الثلاثة موجودة مقارنة بحالات إزالة أي منها. فعندما أزالوا القاعدة الأولى، نسي النظام دروسه الماضية قبل أن يتمكن من حفظها. وعندما أزالوا الثانية، كانت الملاحظات التي دونها عن الكتل قديمة وغير دقيقة. وعندما أزالوا الثالثة، تم مسح ذاكرة النظام عن الكتل القديمة بواسطة البيانات الجديدة، مما أدى إلى فقدانه للطريق. وكان الاستثناء الوحيد هو اختبار واحد على نوع معين من بيانات الصور المشوشة، حيث لم تحدث القاعدة الثانية أي فرق تقريباً، مما يشير إلى أن ليس كل نوع من البيانات يتطلب كل قاعدة بنفس الدرجة.
اكتشف الباحثون أيضاً أمراً مفاجئاً حول كيفية اختيار النظام بين إصدارات مختلفة من نفس كتلة التعلم. فأحياناً، يتم تنقيح الكتلة، مما يخلق نسخة قديمة ونسخة جديدة. ووجد الفريق أن الطريقة المصممة لاختيار الإصدار "الأكثر كفاءة" نجحت جيداً عند مقارنة هذين الإصدارين ببعضهما البعض فقط. ومع ذلك، عندما حاولوا استخدام نفس الطريقة للاختيار بين جميع الكتل في النظام بأكته، أدى ذلك في الواقع إلى جعل النظام أسوأ؛ حيث مالت الطريقة إلى سحب الأسئلة بعيداً عن الكتل التي تملكها حقاً ونحو النسخ المنقحة، لمجرد أن تلك النسخ حصلت على درجة أعلى قليلاً. لقد علّمهم ذلك أن الإشارة التي تعمل في قرار محلي صغير يمكن أن تكون ضارة عند تطبيقها على النظام ككل.
وعلى الرغم من هذه النجاحات، كشفت الدراسة أيضاً عن حد صعب. فحتى مع وجود الضمانات وعمل التوجيه بشكل مثالي، لا تزال الأنظمة المتنامية غير قادرة على التفوق على نوع آخر من الذكاء الاصطناعي الذي لا ينمو أبداً. فبالنسبة للميزات المجمدة التي استخدموها، تفوق نظام يسمى RanPAC (وهو نظام غير نامٍ) باستمرار على كل بنك من البنوك المتنامية والموجهة. وهذا يشير إلى أنه بينما تمنع الضمانات النظام المتنامي من الفشل، فإنها لا تجعل النمو الخيار الأفضل تلقائياً. بل يجب على آلية النمو أن تثبت جدارتها من خلال تعلم شيء جديد لا يستطيع النظام الثابت تعلمه. وخلص الباحثون إلى أن عملهم يوفر أساساً ضرورياً لجعل الأنظمة المتنامية تعمل دون الحاجة لتسميات المهام، لكن السؤال الأكبر حول ما إذا كان النمو هو المسار الصحيح دائماً لا يزال قائماً. فالضمانات تحافظ على عدم تعطل التوجيه، لكنها لا تضمن أن المتعلم المتنامي سيكون هو الأذكى في الغرفة.
ملخص تقني: عندما تعيش الكتل لفترة أطول من المهام
إطار المشكلة تتناول الورقة تحدي التوجيه الخالي من هوية المهمة في المتعلمين المستمرين المتنامين (growing continual learners). في هذا النظام، تتوسع البنية من خلال إضافة كتل جديدة (متنبئات) لفترات بيانات جديدة وتجميد القديمة منها، بدلاً من تدريب نموذج واحد على جميع البيانات. وخلافاً للشبكات التقدمية التقليدية حيث تقابل كل كتلة مهمة واحدة، فإن المتعلمين "المتنامين" يقررون متى يتوسعون بناءً على التشبع أو قواعد مدفوعة بالبيانات. وبناءً على ذلك، قد تتعلم كتلة واحدة عبر فترات بيانات متعددة، وتستمر حالتها الداخلية (الأوزان وتوزيعات الميزات) في التطور بعد أن يتعلم الموجه بالفعل الاعتماد عليها.
تتمثل المشكلة الجوهرية في أن متنبئات هوية المهمة القياسية (التي تختار كتلة بناءً على ألفة المدخلات) تفترض وجود ارتباط ثابت بين الكتل والمهام. أما في المتعلمين المتنامين، فإن هذا الافتراض ينكسر:
النسيان: قد تنسى الكتلة النشطة الفترات السابقة أثناء تعلم فترات جديدة قبل تجميدها.
الإحصائيات القديمة (Stale Statistics): الإحصائيات التوجيهية التي كُتبت أثناء التدريب تصف كتلة لم تعد موجودة بنفس الحالة بمجرد تطور الكتلة.
تحيز الحداثة: قد ينحرف الموجه الذي تم تدريبه على تدفق بيانات دون أمثلة قديمة نحو تفضيل الكتلة الأحدث، متجاهلاً الكتل المجمدة التي لا تزال تحتفظ بمعرفة صالحة.
تحدد الورقة "عقداً معلوماتياً" حيث يتلقى الموجه المدخلات والتنبؤات الكاملة للكتل المتاحة ولكن بدون تسميات مهام، أو مؤشرات فترات، أو فترات ولادة عند الاستدلال.
المنهجية والضمانات تقترح الورقة ثلاث ضمانات محددة مطلوبة لكي تعمل أنظمة التعلم المتنامي القائمة على إعادة التشغيل (replay-based) بشكل صحيح دون معرفة هوية المهمة. وقد تم اختبار هذه الضمانات عن طريق إزالتها بشكل فردي من بناء مرجعي (R19) لإثبات تدهور الأداء.
الضمان 1: إعادة التشغيل حتى التجميد (Replay until Freeze).
الآلية: تحافظ الكتلة النشطة على مخزن (buffer) لفتراتها السابقة وتقوم بإعادة تشغيلها أثناء التدريب على بيانات جديدة.
الغرض: منع الكتلة النشطة من نسيان فتراتها السابقة قبل تجميدها. بدون ذلك، تُفقد المعرفة قبل أن يتمكن الموجه من الوصول إليها أبداً.
الاختبار: إزالة المخزن يؤدي إلى انخفاض كبير في "سقف البنك" (نسبة الصفوف التي تستطيع بعض الكتل الإجابة عنها بشكل صحيح)، وهو فقدان لا يمكن لأي موجه استدراكه.
الضمان 2: سجلات وقت التجميد (Freeze-Time Records).
الآلية: يتم إعادة بناء إحصائيات التوجيه (مثل المتوسطات والتباينات للفئات) للكتلة باستخدام صفوفها المخزنة باستخدام أوزانها الحالية في اللحظة الدقيقة للتجميد.
الغرض: ضمان أن السجلات التي يمتلكها الموجه تصف الكتلة كما هي موجودة عند تجميدها، وليس كما كانت خلال مراحل التدريب الوسيطة.
الاختبار: استخدام إحصائيات آنية (قديمة) أو الفشل في إعادة البناء عند التجميد يؤدي إلى ضرر نشط، حيث يعتمد الموجه على مساحة مخفية قد تغيرت.
الضمان 3: حالة الموجه غير القابلة للتغيير (Immutable Router State).
الآلية: بمجرد تجميد الكتلة، يجب ألا يتم تجاوز (overwrite) الأدلة التي يمتلكها الموجه عنها بواسطة التدريب اللاحق. ويتحقق ذلك إما من خلال الاحتفاظ بالحالة لكل كتلة (تتجمد مع الكتلة) أو باستخدام موجه مشترك تحليلي (مثل المربعات الصغرى المتكررة - RLS) الذي يراكم إحصائيات العزم الثاني بدقة دون الحاجة للاشتقاق المتدرج.
الغرض: منع الموجه من الانحراف نحو الكتلة الأحدث بسبب تحيز الحداثة في التدريب القائم على التدرج.
الاختبار: المقيّم المشترك المدرب بالتدرج (R8a) عند تلاشي الذاكرة ينهار نحو الكتلة الأحدث، مما يسبب انخفاضات هائلة في الدقة.
المساهمات الرئيسية
النظام والمتطلبات: تصيغ الورقة ثمانية متطلبات للتوجيه الخالي من هوية المهمة عبر الكتل التي تعيش أطول من المهام (الجدول 1)، مع التمييز بين قدرة البنك وقدرة الموجه على الاختيار.
ثلاث ضمانات تم التحقق منها: من خلال تأكيد مسبق على عشر بذور مستقلة عبر خمس معايسات (Split/Permuted/Rotated MNIST, Split CIFAR-100, CLINC150)، تؤكد المؤلفة أن إزالة أي من الضمانات الثلاثة يؤدي إلى تدهور الأداء (تم إثبات 19 من أصل 20 فرضية).
سجلات الكفاءة والإصدارات: تبحث الورقة في "سجلات الكفاءة" (تتبع الدقة على مجموعات محددة) للتمييز بين الإصدارات المختلفة لنفس الكتلة.
النتيجة: إشارة الكفاءة التي تختار بشكل صحيح الإصدار الصحيح بين إصدارين لنفس الكتلة (R20r) تضر بالتوجيه عند تطبيقها عبر البنك بأكمله. حيث يتسبب تمركز درجة الكفاءة في جعل الإصدار "الكفء" يسحب مدخلات من كتل أخرى، مما يقلل الدقة النهائية.
خسارة البنك (Bank Loss): الصفوف التي لا تستطيع أي كتلة الإجابة عنها (يحميها الضمان 1).
خسارة الاختيار (Selection Loss): الصفوف التي تستطيع كتلة ما الإجابة عنها، لكن الموجه اختار خطأ (يحميها الضمانان 2 و3).
النتيجة: حتى مع وجود الضمانات، تظل خسارة الاختيار كبيرة. في Split CIFAR-100، يمتلك البنك دقة 0.80، بينما يصل الموجه لكل كتلة إلى 0.51، ويصل الموجه المشترك التحليلي الذي يستخدم كل صف تدريبي إلى 0.62.
النتائج
فعالية الضمانات: الضمانات ضرورية للمتعلمين المتنامين القائمين على إعادة التشغيل. إزالتها تسبب انخفاضات كبيرة في الدقة (على سبيل المثال، إزالة الضمان 3 تخفض دقة Split-MNIST بنحو 0.62).
أداء الموجه: الموجه المرجعي (R19)، الذي يجمع بين مسافة ماهالانوبيس، والثقة، وكثافة المدخلات، يعمل بقوة ولكنه لا يتفوق عالمياً على قواعد التوجيه الأخرى المنشورة (مثل كثافة المدخلات أو max-softmax) في جميع التدفقات. "أفضل" نتيجة تعتمد على خصائص التدفق.
المقارنة مع المتعلمين غير المتنامين:
في تدفقات الميزات المجمدة (Split CIFAR-100, CLINC150)، يتفوق RanPAC (متعلم غير نامٍ يستخدم إسقاطات عشوائية مجمدة وانحدار ريدج) على كل بنوك النمو الموجهة.
الضمانات تمنع فشل التوجيه، لكنها لا تجعل النمو استراتيجية تعلم متفوقة في هذه الأنظمة المحددة. تظل "فجوة الاختيار" (الفرق بين ما يمتلكه البنك وما يسترجعه الموجه) مشكلة مفتوحة وهامة.
الانجراف الطبيعي (CLEAR-10): في مجموعة بيانات ذات انجراف سنوي طبيعي، لا تختلف الكتل بشكل كبير في المعرفة (كتلة واحدة تغطي كل عام تقريباً)، مما يجعل الضمانات أقل أهمية لأن اختيار الكتلة لا يشكل فرقاً كبيراً.
الأهمية والادعاءات تدعي الورقة بتواضع أنها تقدم دراسة تشخيصية ومعياراً للتقرير للمتعلمين المستمرين المتنامين، بدلاً من تقديم خوارزمية توجيه جديدة تحقق أداءً قياسياً (SOTA).
المساهمة: تثبت أنه لكي يعمل المتعلمون المتنامون بدون معرفة هوية المهمة، يلزم وجود ضمانات معمارية وإحصائية محددة للحفاظ على المعرفة واستقرار الموجه.
القصور: الضمانات تضمن أن الموجه يمكنه الوصول إلى المعرفة المخزنة، لكنها لا تغلق الفجوة بين إمكانات البنك واختيار الموجه.
الخلاصة: يخلص المؤلفون إلى أن "الضمانات تمنع التوجيه من الفشل؛ أما سد فجوة الاختيار التي تتركها فهو ما سيجعل النمو مجدياً". ويؤكدون أن على الميزات المجمدة، يتفوق المتعلمون غير الناميين (مثل RanPAC) حالياً على بنوك النمو الموجهة، مما يشير إلى أن النمو يكون مفيداً فقط إذا كانت التمثيلية (representation) نفسها تحتاج إلى التغيير—وهو شرط لم يتم اختباره بالكامل في تجارب الميزات المجمدة الخاصة بهم.
يعمل هذا العمل كتحقق صارم من الشروط التي يكون بموجبها التوجيه المستقل عن المهمة في البنى الديناميكية ممكناً، مؤكداً أن العائق الرئيسي ليس آلية النمو نفسها، بل قدرة الموجه على اختيار الكتلة الصحيحة من مجموعة متغيرة.