PreFT: Prefill-only finetuning for efficient inference
تقدم هذه الورقة PreFT، وهو نهج ضبط دقيق يعتمد على مرحلة التعبئة المسبقة فقط (prefill-only) يقوم بالتخلص من المهايئات (adapters) بعد معالجة رموز الإدخال لتحسين إنتاجية الخدمة متعددة المستخدمين بشكل كبير مع حد أدنى من التأثير على أداء النموذج، مما يوفر مقايضة فائقة بين الدقة والإنتاجية مقارنة بطرق الضبط الدقيق التقليدية الموفرة للمعلمات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير مخبزاً ضخماً فائق التقنية (نموذج لغوي كبير) يمكنه خبز ملايين الأنواع المختلفة من الخبز. عادةً، يستخدم المخبز وصفة واحدة ضخمة ومعيارية لكل شيء. ولكن الآن، يريد العملاء خبزاً مخصصاً: أحدهم يريد خميرة طبيعية (Sourdough) إضافية، والآخر يريد مزيج توابل سري، والثالث يريد شكلاً معيناً.
للتعامل مع هذا، يوظف المخبز "طهاة متخصصين" (يُطلق عليهم اسم المهايئات - Adapters أو الضبط الدقيق فعال التكلفة - PEFTs). هؤلاء الطهاة لا يعيدون كتابة كتاب وصفات المخبز بالكامل؛ بل يحملون فقط مفكرة صغيرة وخفيفة الوزن تحتوي على تعديلاتهم الخاصة.
المشكلة: عنق زجاجة ساعة الذروة
في الماضي، عندما يطلب عميل خبزاً، كان الطاهي المتخصص يقف بجانب الفرن ويهمس بتعليماته المحددة لكل خطوة من خطوات عملية الخبز:
- عجن العجين.
- ترك العجين يتخمر.
- خبز الشريحة الأولى.
- خبز الشريحة الثانية... وهكذا حتى تنضج الرغيف.
تجادل الورقة البحثية بأن هذا غير فعال عندما يكون لديك آلاف العملاء (المهايئات) ينتظرون في الطابور.
- مرحلة "العجن" (التعبئة المسبقة - Prefill): هذه تشبه خلط دفعة كبيرة من العجين دفعة واحدة. إنها عملية سريعة وتستخدم كامل قوة الفرن (تعتمد على الحوسبة - compute-bound).
- مرحلة "الخبز" (فك التشفير - Decode): هذه تشبه إخراج شريحة خبز واحدة في كل مرة، واحدة تلو الأخرى. إنها عملية بطيئة وتتطلب من الطاهي الركض باستمرار إلى الثلاجة لإحضار برطمان التوابل المحدد لتلك الشريحة الواحدة.
عندما يحاول 500 طاهٍ مختلف الهمس بتعليماتهم لكل شريحة خبز، يزدحم المطبخ. يقضي الطهاة وقتاً في الركض إلى الثلاجة (لتحميل مفكراتهم الصغيرة) أكثر مما يقضونه في الخبز الفعلي. تسمي الورقة هذا "عنق زجاجة الذاكرة".
الحل: PreFT (الضبط الدقيق لمرحلة التعبئة المسبقة فقط)
تقترح المؤلفة طريقة جديدة للعمل تسمى PreFT.
إليك التشبيه:
بدلاً من أن يهمس الطاهي المتخصص بتعليماته طوال عملية الخبز، فإنه يهمس بالتعليمات فقط خلال مرحلة الخلط الأولية.
- الخلط (التعبئة المسبقة): يقرأ الطاهي مفكرته ويخبر العجين بكيفية التصرف الآن. يقوم بخلط الخميرة الطبيعية أو التوابل.
- الخبز (فك التشفير): بمجرد خلط العجين ووضعه في الفرن، يغادر الطاهي المطبخ. يتوقف عن إعطاء التعليمات. يقوم الفرن بخبز بقية الرغيف باستخدام القواعد القياسية والثابتة للمخبز.
لماذا هذا أفضل؟
- لا مزيد من الركض إلى الثلاجة: خلال مرحلة الخبز البطيئة (شريحة تلو الأخرى)، لا يحتاج المطبخ لتحميل 500 برطمان توابل مختلف. هو فقط يقوم بالخبز.
- السرعة: لأن المطبخ لا يحتاج للتبديل المستمر بين مفكرات 500 طاهٍ مختلف، يمكنه خبز الخبز لـ 500 عميل بنفس سرعة خبزه لعميل واحد تقريباً.
ما وجدته الورقة البحثية
قام الباحثون ببناء هذا النظام واختباره على نماذج حقيقية (مثل Llama و Qwen). إليك نتائجهم الرئيسية، مترجمة:
إنه أسرع بكثير:
عند خدمة 512 "شخصية" مختلفة (مهايئات) في وقت واحد، كانت طريقتهم الجديدة (PreFT) أسرع بـ 1.9 مرة من الطريقة القديمة. تخيل مخبزاً كان يستغرق 10 دقائق لخدمة حشد، والآن أصبح ينجز المهمة في 5 دقائق، دون تغيير الأفران أو المبنى.هل طعم الخبز هو نفسه؟ (الأداء):
- بالنسبة للرياضيات والبرمجة: طعم الخبز يكاد يكون متطابقاً. كانت تعليمات "الخلط" كافية لتعليم النموذج كيفية حل المسائل الرياضية أو كتابة الكود. لم يكن النموذج بحاجة إلى همس الطاهي خلال مرحلة الخبز للوصول إلى الإجابة الصحيحة.
- بالنسبة للقصص الطويلة: هنا تصبح الأمور معقدة. إذا طلبت من النموذج كتابة قصة طويلة جداً، فإن تعليمات "الخلط" قد تتلاشى أحياناً.
- أحد أنواع الطهاة (يسمى LoRA) حافظ على عمل التعليمات بشكل مثالي، حتى في القصص الطويلة.
- نوع آخر (يسمى ReFT) فقد التركيز أحياناً وكتب "أكثر من اللازم" أو خرج عن المسار.
- بشكل عام: لمعظم المهام، تعمل طريقة "الخلط فقط" بنفس جودة طريقة "الهمس في كل خطوة"، لكنها أسرع بكثير.
الخلاصة الكبرى
تخلص الورقة إلى أنه بالنسبة للذكاء الاصطناعي المخصص (حيث يكون لكل مستخدم "طاهيه" الصغير الخاص به)، فنحن لسنا بحاجة لتحمل التكلفة الباهظة لتحميل هؤلاء الطهاة من أجل كل كلمة يولدها الذكاء الاصطناعي.
من خلال السماح للطهاة بالقيام بعملهم فقط في البداية (مرحلة التعبئة المسبقة)، يمكننا خدمة آلاف المستخدمين المخصصين في وقت واحد دون أن يتوقف النظام عن العمل. إنها طريقة أذكى لتنظيم المطبخ توفر الوقت والطاقة مع الحفاظ على جودة الخبز عالية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.