SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning
تقترح الورقة البحثية إطار عمل SAME، وهو إطار عمل "خليط من الخبراء" مستقر لضبط التعليمات متعدد الوسائط بشكل مستمر، والذي يخفف من انحراف الموجه والخبير من خلال التوجيه في الفضاء الجزئي المتعامد، والتحجيم المدرك للانحناء، والتنشيط التكيفي للخبير، محققاً أداءً هو الأفضل في فئته على معيار مرجعي جديد للتسلسلات الطويلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل طالباً بارعاً في حل المسائل الرياضية، لكنه عندما يُطلب منه قراءة قصيدة، ينسى فجأة كيف يعدّ. هذا هو التحدي الجوهري الذي يواجه أنظمة الذكاء الاصطناعي الحديثة المعروفة بنماذج اللغات الكبيرة متعددة الوسائط. هذه حواسيب قوية يمكنها رؤية الصور وقراءة النصوص، وتتعلم الإجابة عن أسئلة حول العالم من خلال دراسة كميات هائلة من البيانات. لقد تم تدريبها على اتباع التعليمات، مثل "صف القطة الموجودة في الصورة" أو "حل هذه المسألة الفيزيائية". ومع ذلك، في العالم الحقيقي، لا تتعلم هذه الأنظمة كل شيء دفعة واحدة، بل تواجه أنواعاً جديدة من المهام تلو الآخر، مثل طالب ينتقل من حصة الرياضيات إلى حصة التاريخ، ثم إلى حصة الفنون. المشكلة هي أنه بينما تتعلم هذه النماذج مهارات جديدة، فإنها غالباً ما تنسى المهارات القديمة، وهي ظاهرة يسميها العلماء "النسيان الكارثي". وللحفاظ على فائدة هذه النماذج، يحتاج الباحثون إلى طريقة لتعليمها أشياء جديدة دون مسح ما تعرفه بالفعل.
لفترة من الوقت، حاول الخبراء حل ذلك عبر إعطاء النموذج فريقاً من المساعدين المتخصصين، وهو هيكل يُعرف باسم "خليط من الخبراء". فكر في النموذج كأنه مكتب كبير حيث يتولى عمال مختلفون، أو "خبراء"، أنواعاً مختلفة من الوظائف. وعندما يأتي سؤال ما، يقرر مدير، يُسمى "الموجه" (router)، من هو العامل الأنسب للإجابة. فإذا كان السؤال عن رسم بياني، يرسله الموجه إلى محلل البيانات؛ وإذا كان عن قصيدة، يذهب السؤال إلى الكاتب. يعمل هذا النظام بشكل جيد عندما تكون المهام مستقرة، لكن الباحثين اكتشفوا خللاً عندما يتعين على النموذج تعلم تسلسل طويل من المهام الجديدة. فبينما كان النموذج يتعلم مهارات جديدة، بدأ المدير يرتكب أخطاء، ويرسل أنواعاً قديمة من الأسئلة إلى العمال الخطأ. وفي الوقت نفسه، بدأ العمال أنفسهم يتغيرون، ويفقدون المهارات المحددة التي طوروها للمهام السابقة. هذا الفشل المزدوج يعني أن النموذج لم يكن يرسل الأسئلة فقط إلى الأشخاص الخطأ، بل كان ينسى أيضاً كيفية أداء الوظائف التي كان من المفترض أن يقوموا بها.
لقد اقترح فريق من الباحثين الآن طريقة جديدة تسمى SAME لإصلاح هذه المشكلات. فقد وجدوا أن ارتباك المدير وفقدان الذاكرة لدى العمال هما مشكلتان منفصلتان تتطلبان حلولاً مختلفة. ولمنع المدير من الارتباك، صمم الباحثون نظاماً يتتبع بدقة كيفية رؤية النموذج للعالم. فبدلاً من ترك المدير يغير رأيه تماماً مع كل درس جديد، قاموا بتقييد مدى قدرته على تغيير تركيزه. لقد سمحوا للمدير بتعلم طرق جديدة لفرز الأسções، لكنهم حموا طرق الفرز القديمة التي كانت ضرورية للمهام السابقة. وهذا يضمن أن سؤالاً عن صورة طبية، على سبيل المثال، سيستمر في الذهاب إلى الخبير الطبي، حتى بعد أن يتعلم النموذج قراءة الخرائط أو حل مسائل الكيمياء.
ولمنع العمال من نسيان وظائفهم، قدم الباحثون طريقة لقياس مدى تأثير تعلم العامل الجديد على مهاراته القديمة. لقد نظروا في أنواع البيانات التي رآها العمال في الماضي واستخدموا هذا التاريخ لإبطاء التغييرات التي قد تضر بمهاراتهم القديمة. الأمر يشبه قولك لعامل: "يمكنك تعلم هذه المهارة الجديدة، ولكن افعل ذلك بطريقة لا تمحو كيفية إصلاحك للآلات القديمة". ومن خلال القيام بذلك، يحافظ النموذج على القدرات المحددة التي اكتسبها من المهام السابقة مع استمرار قدرته على التكيف مع المهام الجديدة. بالإضافة إلى ذلك، وجد الباحثون أن ليس كل عامل يحتاج لأن يكون نشطاً في كل درس؛ لذا وضعوا قاعدة لإيقاف العمال الذين لا تبرز الحاجة إليهم مؤقتاً، مما يوفر الطاقة ويمنع تغييرهم بالخطأ بسبب معلومات غير ذات صلة.
اختبر الفريق هذا النهج الجديد على سلسلة من الاختبارات المعيارية الصعبة، بما في ذلك مجموعة جديدة من المهام التي أنشأوها لمحاكاة الواقع الفوضوي والمتنوع في العالم الحقيقي. تضمنت هذه الاختبارات الجديدة عشرة أنواع مختلفة من المهام، تتراوح من قراءة الوثائق الطبية وتحليل الرسوم البيانية العلمية إلى فهم مشاهد الطرق المعقدة والصيغ الكيميائية. وأظهرت النتائج أن طريقتهم، SAME، كانت أفضل بكثير في تذكر المهام القديمة مقارنة بالطرق السابقة. وفي اختبار محدد يتضمن تسلسلاً طويلاً من ثماني مهام، حافظت الطريقة الجديدة على مستوى أعلى بكثير من الدقة في المهمة الأولى مقارنة بالنهج الأخرى. كما أثبتت أنها أكثر كفاءة، حيث تطلبت وقتاً وذاكرة حاسوبية أقل للتدريب لأنها قامت فقط بتحديث العمال الضروريين.
ولعل الأهم من ذلك، لاحظ الباحثون أن طريقتهم منعت نوعاً خفياً وشائعاً من الفشل حيث يعطي النموذج الإجابة الصحيحة ولكن بصيغة غير صحيحة. فعلى سبيل المثال، إذا كانت المهمة تتطلب إجابة بأحرف كبيرة، فقد يبدأ النموذج في تقديم الإجابة بأحرف صغيرة بعد تعلم مهمة جديدة تستخدم الأحرف الصغيرة. حافظ النظام الجديد على اتساق النموذج، مما يضمن اتباعه لقواعد التنسيق المحددة لكل مهمة دون الارتباك من أسلوب المهمة التالية. ومن خلال تثبيت قرار من يجيب على السؤال وذاكرة الشخص الذي يجيب، يقدم هذا العمل طريقة أكثر موثوقية لتعلم الذكاء الاصطناعي المستمر، مما يوسع قدراته دون فقدان الأساس الذي يعرفه بالفعل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.