Layer-wise LoRA fine-tuning: a similarity metric approach
تقترح هذه الورقة نهجًا لضبط التكييف باستخدام التكيف منخفض الرتبة (LoRA) على مستوى الطبقات، يقوم باختيار الطبقات الأكثر صلة بشكل منهجي بناءً على تشابه التمثيل الداخلي، مما يقلل عدد المعلمات القابلة للتدريب بنسبة تصل إلى 50% مع الحفاظ على الأداء التنبؤي أو حتى تحسينه عبر مختلف بنيات النماذج والمهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت فائق الذكاء كيفية القيام بمهمة محددة، مثل حل المسائل الرياضية أو كتابة الأكواد البرمجية. هذا الروبوت، المسمى "نموذج لغوي كبير" (LLM)، قد تعلم بالفعل كمية هائلة من المعرفة العامة من قراءة كل شيء تقريبًا على الإنترنت. إنه يشبه عبقريًا يعرف القليل عن كل شيء، لكنه يحتاج إلى التخصص. لتعليمه خدعة جديدة، يتعين عليك عادةً "ضبطه بدقة" (fine-tuning)، وهو ما يعني تعديل إعداداته الداخلية. ولكن هنا تكمن المشكلة: هذه الروبوتات ضخمة جدًا بحيث أن تعديل جميع إعداداتها يتطلب حاسوبًا قويًا ومكلفًا لا تستطيع تحمله إلا شركات التقنية العملاقة. الأمر يشبه محاولة إصلاح مسمار واحد مرتخٍ في ناطحة سحاب عن طريق إعادة بناء المبنى بأكాని.
لحل هذه المشكلة، اخترع العلماء اختصارًا ذكيًا يسمى "LoRA" (التكيف منخفض الرتبة). بدلًا من لمس كل مسمار في ناطحة السحاب، يقترح LoRA إضافة رقعة صغيرة وخفيفة الوزن من المسامير الجديدة لمساعدة الروبوت على تعلم المهمة الجديدة. هذا يوفر الكثير من المال والطاقة. ومع ذلك، حتى مع هذا الاختصار، لا يزال الروبوت ضخمًا لدرجة أن "الرقعة" يمكن أن تكون ثقيلة أحيانًا على الحواسيب الأصغر. السؤال الكبير هو: هل نحتاج حقًا إلى رقع كل جزء من الروبوت لجعله ذكيًا في مهمته الجديدة؟ أم أن هناك مجرد بضعة أماكن محددة يحدث فيها السحر؟ يبحث هذا البحث في هذا السؤال، متسائلًا عما إذا كان بإمكاننا العثور على "البقع الذهبية" لإصلاحها وترك بقية الآلة الضخمة وشأنها.
العمل الاستقصائي "طبقة تلو الأخرى"
قرر مؤلفو هذا البحث، كيث أندو أوغوا وفريقه، معاملة عقل الروبوت كبناء متعدد الطوابق. داخل النموذج اللغوي الكبير، تتدفق المعلومات عبر سلسلة من "الطبقات"، تشبه الطوابق في ناطحة السحاب. وبينما تنتقل الجملة من الطابق السفلي إلى الطابق العلوي، يتم معالجتها وتحويلها. اشتبه الفريق في أن ليس كل الطوابق متساوية في الأهمية لكل مهمة جديدة؛ فقد تقوم بعض الطوابق بالعمل الشاق لحل المسائل الرياضية، بينما قد تكون طوابق أخرى أكثر فائدة لكتابة الشعر.
كانت فكرتهم بسيطة ولكنها قوية: بدلًا من وضع رقعة LoRA على كل طابق، لماذا لا نكتشف أي الطوابق تتغير أكثر عندما يتعلم الروبوت شيئًا جديدًا؟ لقد ابتكروا طريقة لقياس هذا "التغيير" باستخدام أداة رياضية تسمى "مقياس التشابه". فكر في الأمر كأنه "كاشف تغيير". لقد نظروا في ما "فكر" فيه الروبوت قبل تمرير المعلومات إلى طابق معين، وما "فكر" فيه بعد أن قام ذلك الطابق بمعالجتها. إذا كان المدخل والمخرج متطابقين تقريبًا، فهذا يعني أن ذلك الطابق لم يكن يفعل الكثير. أما إذا كان المدخل والمخرج مختلفين تمامًا، فهذا يعني أن ذلك الطابق كان يقوم بعمل كبير!
أطلقوا على هذه الطريقة اسم "الضبط الدقيق لـ LoRA على مستوى الطبقة" (Layer-wise LoRA fine-tuning). الأمر يشبه توظيف محقق يتجول في ناطحة السحاب، ويفحص كل طابق ليرى أين يحدث أكبر قدر من النشاط. وبمجرد تحديد الطوابق الأكثر نشاطًا، يضعون رقع LoRA على تلك الطوابق المحددة فقط ويتركون الطوابق الهادئة وغير النشطة ثابتة في مكانها.
ما وجدوه: القليل يعني الكثير
عندما اختبر الفريق هذه الفكرة على أنواع مختلفة من عقول الروبوتات، كانت النتائج جيدة بشكل مفاجئ. وجدوا أنه من خلال اختيار الطبقات الأكثر نشاطًا فقط — وتحديدًا حوالي نصف إجمالي الطبقات — استطاعوا تقليل عدد المعلمات القابلة للتدريب (المسامير التي يعدلونها) بنسبة 50%.
إليك الجزء الأفضل: على الرغم من أنهم كانوا يعدلون نصف العدد من الإعدادات، إلا أن الروبوتات لم تصبح أقل ذكاءً. في الواقع، بالنسبة لبعض النماذج مثل LLaMA 2-7B و Mistral-7B، أصبح الروبوتات في الواقع أفضل في حل المسائل الرياضية وكتابة الأكواد البرمجية عندما ركزوا فقط على الطبقات الأكثر أهمية. وبالنسبة لنماذج أخرى، مثل Gemma-7B، انخفض الأداء بنسبة ضئيلة جدًا تكاد لا تُلاحظ.
كما قارن الباحثون طريقة "كاشف التغيير" الخاصة بهم بطرق أخرى يحاول الناس من خلالها اختيار الطبقات، مثل اختيار الطوابق الوسطى فقط أو الطوابب العليا والسفلية. تفوقت طريقتهم باستمرار على هذه التخمينات البسيطة. على سبيل المثال، في اختبار قياسي يسمى GLUE، حافظت طريقتهم على أداء الروبوت مرتفعًا مع تقليل العمل إلى النصف، بينما تسببت طريقة اختيار الطبقات الوسطى أحيانًا في تعثر الروبوت.
تحققوا أيضًا مما إذا كان هذا سيؤثر على ذاكرة الحاسوب وسرعته. نظرًا لأنهم كانوا يعدلون عددًا أقل من الطبقات، أصبحت عملية التدريب أسرع. في بعض النماذج، رأوا تسارعًا بنحو 1.25 مرة، وكان الحاسوب يحتاج إلى ذاكرة أقل للقيام بالمهمة. وهذا أمر بالغ الأهمية لأي شخص يحاول تشغيل هذه النماذج على حواسيب أصغر وأرخص.
لماذا يهم هذا الأمر
يشير البحث إلى أننا لسنا بحاجة إلى معاملة كل جزء من نموذج الذكاء الاصطناعي العملاق على أنه متساوٍ في الأهمية. من خلال استخدام قياس بسيط لمدى تغير الطبقة للمعلومات المارة عبرها، يمكننا العثور على "النقاط المثالية" للتعلم. هذا يعني أنه يمكننا جعل أدوات الذكاء الاصطناعي القوية هذه أكثر كفاءة دون فقدان ذكائها.
اختبر المؤلفون هذا على أنواع مختلفة من الروبوتات، بما في ذلك تلك التي تقرأ النصوص فقط، وتلك التي تكتب النصوص فقط، وحتى روبوت متعدد الوسائط (LLaVA-1.5-7B) يمكنه رؤية الصور وقراءة النصوص. في جميع الحالات، كان اختيار الطبقات الصحيحة يعمل بشكل جيد. حتى أنهم حاولوا مضاعفة "الرتبة" (جعل الرقع أكثر تعقيدًا) على الطبقات المختارة لمعرفة ما إذا كان ذلك سيساعد، لكنهم وجدوا أن ذلك لم يشكل فرقًا كبيرًا. يبدو أن مجرد اختيار الطبقات الصحيحة هو المفتاح، وليس جعل الرقع نفسها أكثر تعقيدًا.
بينما لا يدعي البحث أنه قد حل كل مشكلة في الذكاء الاصطناعي، إلا أنه يقدم طريقة عملية وفعالة لجعل الضبط الدقيق أرخص وأسرع. إنه يشير إلى أنه بالنسبة للعديد من المهام، فإن جهدًا صغيرًا ومستهدفًا يضاهي في جودته عملية إصلاح شاملة وضخمة. وكما يذكر المؤلفون، فإن هذا النهج يعمل بشكل جيد مع الأدوات الموجودة ويمكن أن يساعد المزيد من الباحثين والشركات الأصغر على المشاركة في بناء ذكاء اصطناعي أكثر ذكاءً، دون الحاجة إلى حاسوب فائق بحجم منزل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.