SemiAdapt-Instruct: Extensible Instruction Tuning via Latent Domain-Specialised Adapters
يُعد SemiAdapt-Instruct إطار عمل نمطيًا يتيح ضبط التعليمات القابل للتوسع عبر اكتشاف المجالات الكامنة، وتدريب محولات LoRA متوازية لكل مجال، واستخدام التوجيه الخالي من المعلمات لدمج قدرات جديدة عبر تحديثات المحول المنفرد دون الحاجة إلى إعادة تدريب النموذج بالكامل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت فائق الذكاء كيف يتحدث كالبشر. لقد اكتشف العلماء طريقة للقيام بذلك عبر عرض ملايين الأمثلة على أشخاص يطرحون أسئلة ويتلقون إجابات. تسمى هذه العملية "ضبط التعليمات" (Instruction Tuning). الأمر يشبه إعطاء الروبوت مكتبة ضخمة من الواجبات المنزلية ليدرسها حتى يتعلم اتباع التوجيهات. لكن الجزء الصعب هنا هو أن مكتبة الروبوت عبارة عن خليط فوضوي من كل شيء—مسائل رياضية، وصفات طبخ، تعليمات برمجة، ونصائح طبية كلها مختلطة معاً. عندما تحاول تعليم الروبوت كل شيء في وقت واحد، فإنه يصاب بالارتباك. الأمر يشبه محاولة تعلم كيفية عزف الكمان، وإصلاح محرك سيارة، وخبز كعكة، كل ذلك في ساعة واحدة؛ قد ينتهي بك الأمر بالقيام بكل هذه الأشياء بشكل سيء.
المشكلة الكبيرة هي أنه بمجرد تدريب الروبوت، إذا أردت تعليمه شيئاً جديداً (مثل لغة برمجة جديدة) أو إصلاح خطأ في معرفته، فعادة ما يتعين عليك جعله "ينسى" كل شيء ويبدأ من الصايد. هذا الأمر مكلف، وبطيء، ويتطلب حواسيب فائقة لا يملكها معظم الناس. يبحث العلماء عن طريقة أذكى لتحديث هذه الروبوتات دون الحاجة إلى الضغط على زر "إعادة الضبط" في كل مرة يتغير فيها العالم. إنهم يريدون نظاماً يمكنه النمو والتكيف، تماماً كما يفعل البشر عندما يتعلمون مهارة جديدة دون فقدان مهاراتهم القديمة.
وهنا تأتي فكرة جديدة تسمى SemiAdapt-Instruct. فكر في عقل الروبوت ليس كعقل واحد ضخم وفوضوي، بل كمنزل يحتوي على غرف عديدة. بدلاً من محاولة تعليم المنزل بأكمله في وقت واحد، تقوم هذه الطريقة تلقائياً بفرز واجبات الروبوت المنزلية إلى "نطاقات كامنة" (Latent Domains) مختلفة—وهي مجرد طريقة معقدة لقول إنها تحدد أي الأسئلة تنتمي إلى "غرفة الرياضيات"، وأيها تنتمي إلى "غرفة البرمجة"، وأيها تنتمي إلى "الغرفة الطبية".
اكتشف الباحثون أنه باستخدام نظام فرز ذكي (مثل أمين مكتبة يمكنه فوراً تمييز ما إذا كان الكتاب يتحدث عن التمويل أو الخيال)، استطاعوا تقسيم كومة التعليمات الفوضوية إلى مجموعات مرتبة ومنفصلة. ثم، بدلاً من تدريب الروبوت بأكم، يقومون بتدريب "مساعد" صغير ومتخصص (يسمى Adapter) لكل غرفة محددة. هؤلاء المساعدون يشبهون الخبراء الصغار: أحدهم عبقري في الرياضيات، والآخر خبير في البرمجة، والآخر متخصص في الطب. جميعهم يعملون مع نفس العقل الرئيسي للروبوت، لكنهم يعدلون فقط الأجزاء التي يحتاجها عملهم المحدد.
الجزء الأكثر روعة هو كيف يقررون أي مساعد سيستخدمون. عندما تسأل الروبوت سؤالاً، فإنه لا يحتاج إلى مدير معقد ليقرر من سيجيب. بدلاً من ذلك، يستخدم حيلة بسيطة ومجانية: يقارن سؤالك بـ "الانطباع العام" (Average Vibe) لكل غرفة. إذا بدا سؤالك وكأنه ينتمي إلى غرفة الرياضيات، يتدخل مساعد الرياضيات. إذا بدا سؤال برمجة، يتولى مساعد البرمجة المهمة. هذا يحدث فوراً ولا يتطلب أي تدريب إضافي.
تظهر الورقة البحثية أن هذا النهج يعمل بشكل جيد حقاً. فعندما اختبروه، أعطى الروبوت المزود بهؤلاء المساعدين المتخصصين إجابات أفضل من الروبوت الذي تم تدريبه على كل شيء دفعة واحدة. بل كان في مستوى روبوت تم تدريبه باستخدام مساعد واحد ضخم، ولكن مع ميزة هائلة: القابلية للتوسع (Extensibility). وهذا يعني أنه إذا أردت تعليم الروبوت موضوعاً جديداً تماماً، فلا يتعين عليك إعادة تدريب النظام بأكلمه. أنت فقط تقوم بتدريب مساعد واحد جديد لهذا الموضوع الجديد وتقوم بتوصيله. تظل المساعدات القديمة كما هي تماماً، لذا لا ينسى الروبوت أي شيء كان يعرفه بالفعل.
في تجاربهم، قام الباحثون بمحاكاة موقف تمت فيه إضافة بيانات جديدة إلى أحد هؤلاء المساعدين فقط. وكانت النتيجة؟ أصبح المساعد المحدث أفضل بكثير في أداء مهمته مما لو حاولوا إعادة تدريب الروبوت بأكمله من الصفر. وجدوا أن هذه الطريقة ليست فقط أسرع في التدريب (حوالي 1.7 مرة أسرع من الطريقة القياسية في اختباراتهم) بل توفر أيضاً كمية هائلة من ذاكرة الحاسوب.
ومع ذلك، يلاحظ المؤلفون بحذر أن هذا ليس عصا سحرية تحل كل المشكلات. فقد وجدوا أنه بينما يتفوق النظام في الحفاظ على التنظيم، إلا أن "الفرز" ليس مثالياً دائماً، وقد يتم إرسال سؤال إلى الغرفة الخطأ. ولكن حتى مع هذه الأخطاء الصغيرة، كان النظام لا يزال يتفوق على الطرق القديمة التي تجمع كل شيء في واحد. كما أشاروا إلى أنه بالنسبة لبعض المواضيع المعقدة، مثل النصائح الطبية، فإن الطريقة القياسية لقياس النجاح (عد الكلمات المتطابقة) لم تكن تروي القصة كاملة؛ حيث قدمت المساعدات المتخصصة إجابات أفضل، حتى لو لم تكن الكلمات مطابقة تماماً.
إذاً، ما هي الخلاصة؟ تقترح الورقة البحثية أنه بدلاً من بناء عقل روبوت واحد ضخم وصلب ينكسر بسهما عند حدوث تغييرات، يجب علينا بناء أنظمة نموذجية (Modular) ذات أجزاء متخصصة وقابلة للتبديل. هذا يجعل الروبوت أسهل في التحديث، وأرخص في التدريب، وأكثر مرونة في العالم الحقيقي، حيث تظهر مواضيع وتحديات جديدة باستمرار. إنه تحول من محاولة أن تكون سيداً لكل شيء، إلى أن تكون سيداً لأشياء كثيرة، يتم التعامل مع كل منها بواسطة الخبير المناسب في الوقت المناسب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.