ملخص تقني: المحاذاة التوزيعية كمعيار لتصميم نواقل المهام في التعلم داخل السياق

بيان المشكلة

يتيح التعلم داخل السياق (ICL) للنماذج اللغوية الكبيرة (LLMs) التكيف مع مهام جديدة عن طريق إرفاق نماذج توضيحية مصنفة بمدخلات الاستعلام. ورغم فعاليته، إلا أن التعلم داخل السياق يتسبب في تكاليف استدلال وأعباء ذاكرة متزايدة مع زيادة طول السياق، مما يعيق فائدته العملية في ظل قيود الموارد. ولمعالجة ذلك، اقترح البحث الحديث نواقل المهام (Task Vectors - TVs): وهي تمثيلات مدمجة للحالات الخفية المستخرجة من تنشيطات النموذج اللغوي الكبير أثناء التعلم داخل السياق. تلخص هذه النواقل معلومات المهمة المستنتجة من النماذج التوضيحية، مما يسمح للنموذج بأداء التكيف مع المهمة أثناء الاستدلال بنمط "الصفر محاولات" (zero-shot) دون الحاجة لإعادة معالجة النماذج التوضيحية.

ومع ذلك، تفتقر الطرق الحالية لاستخراج نواقل المهام إلى معيار تصميم مبدئي. فحالياً، يتم تقييم جودة طريقة استخراج ناقل المهمة حصرياً من خلال دقة المهمة اللاحقة، وهو مقياس غير مباشر يقدم رؤية محدودة حول سبب تفوق طريقة على أخرى أو كيفية تصميم آليات استخراج أكثر فعالية. ومن هنا تبرز الحاجة إلى معيار مباشر وذو أساس نظري لتقييم وتحسين جودة ناقل المهمة.

المنهجية

1. المعيار المقترح: المحاذاة التوزيعية

يفترض المؤلفون أن الهدف الأساسي لناقل المهمة هو تكثيف تأثير النماذج التوضيحية بحيث يتوافق التوزيع التنبؤي الناتج بدقة مع توزيع التعلم داخل السياق القياسي. ولتكميم هذا التوافق، قدموا مقياس dNTP (التباين في احتمالية الرمز التالي).

• التعريف: يقيس dNTP التباين (Kullback-Leibler divergence) بين التوزيع التنبؤي للرمز التالي تحت ظروف التعلم داخل السياق ($P_{icl}$) والتوزيع تحت ظروف الاستدلال القائم على ناقل المهمة ($P_{tv}$).
  $$dNTP(f; Z) = \mathbb{E}_{x \sim D} \left[ D_{KL} \left( P_{icl}(\cdot | x, Z) \parallel P_{tv}(\cdot | x, f(Z)) \right) \right]$$
  حيث $f$ هي دالة الاستخراج و $Z$ تمثل النماذج التوضيحية.
• التحقق: يكشف التحليل التجريبي عبر نماذج ومعايير متعددة عن وجود ارتباط سلبي قوي بين dNTP والدقة اللاحقة للمهمة. حيث يتنبأ انخفاض dNTP باستمرار بدقة أعلى، مما يثبت أن dNTP هو بديل صالح لجودة ناقل المهمة لا يتطلب تسميات مجموعة الاختبار.

2. الطريقة المقترحة: ناقل المهمة الخطي (LTV)

بدافع من الهدف المتمثل في تقليل dNTP، اقترح المؤلفون ناقل المهمة الخطي (Linear Task Vector - LTV). وتُشتق هذه الطريقة من مشكلة تحسين تقريبية.

• المنطق: إن تقليل dNTP بشكل مباشر أمر مستعصٍ لأنه يفتقر إلى حل مغلق الشكل ويتطلب تحديثات تكرارية. أثبت المؤلفون أن تقليل متوسط الخطأ التربيعي (MSE) بين الحالات الخفية للتعلم داخل السياق ($h_{icl}$) والحالة الخفية للصفر محاولات مضافاً إليها ناقل المهمة ($h_{zs} + v$) يعمل كحد علوي لـ dNTP.
  $$LMSE(f) = \mathbb{E} \left[ \| h_{icl} - (h_{zs} + f(Z)) \|_2^2 \right]$$
• الرسم الخطي: للحفاظ على ميزة "الخلو من التدريب" التي يتميز بها التعلم داخل السياق (تجنب تحديث معاملات النموذج)، يقيد LTV دالة الاستخراج لتكون تحويلاً خطياً. يتم تقدير ناقل المهمة $v$ كتحويل خطي للحالة الخفية للصفر محاولات $h_{zs}$:
  $$v = W h_{zs}(x)$$
• الحل المغلق: يتم حساب الخريطة الخطية المثلى $W^*$ عبر انحدار ريدج (ridge regression) على مجموعة من استعلامات التدريب غير المصنفة. يستهدف الانحدار الفرق بين الحالة الخفية للتعلم داخل السياق والحالة الخفية للصفر محاولات ($h_{icl} - h_{zs}$).
  $$W^* = \arg\min_W \left( \| Y - W H \|_F^2 + \lambda \| W \|_F^2 \right)$$
  حيث يحتوي $H$ على حالات خفية للصفر محاولات ويحتوي $Y$ على الفروقات المستهدفة. ينتج عن ذلك حل مغلق الشكل، مما يضمن الكفاءة.

المساهمات الرئيسية

1. مقياس dNTP: تقديم مقياس يكمّم التباين بين الاستدلال القائم على ناقل المهمة والاستدلال القائم على التعلم داخل السياق. أظهرت الورقة أن dNTP هو بديل قوي للأداء، حيث يرتبط عكسياً بالدقة اللاحقة.
2. ناقل المهمة الخطي (LTV): تطوير طريقة لاستخراج ناقل المهمة تقلل من dNTP عبر رسم خطي مغلق الشكل. تتجنب هذه الطريقة التحسين التكراري أو ضبط معاملات النموذج.
3. التفوق التجريبي: أظهرت التجارونات المكثفة أن LTV يتفوق على جميع النماذج المرجعية (baselines) الخالية من التدريب (مثل Function Vector, Task Vector, State Vector, I2CL) عبر ثمانية معايلات للتصنيف وخمسة نماذج لغوية كبيرة.
4. النقل عبر النماذج: إثبات أن نواقل المهام المستخرجة من نموذج أكبر (مثل 72B) يمكن نقلها إلى نموذج أصغر (مثل 7B) لتعزيز الأداء، مما يعالج السيناريوهات التي يكون فيها نموذج الاستدلال ذا قدرة أو طول سياق محدود.

النتائج التجريبية

• أداء التصنيف: عبر خمسة نماذج لغوية كبيرة (بما في ذلك متغيرات LLaMA-2/3 و Qwen) وثمانية معايلات (مثل SST-2, AGNews, DBPedia)، حقق LTV أعلى متوسط دقة. وتحديداً، في نموذج LLaMA-2-13B، حسن LTV متوسط الدقة بنسبة 9.2% مقارم أفضل نموذج مرجعي (State Vector)، ليصل إلى 79.46%.
• الكفاءة: يحافظ LTV على زمن استجلال (latency) مقارن بالاستدلال بنمط الصفر محاولات (حوالي 0.0226 ثانية لكل عينة)، وهو أسرع بكثير من التعلم داخل السياق. وبينما يتطلب الاستخراج تكلفة حساب مسبق لمرة واحدة، إلا أنها تُوزع على مجموعة الاختبار.
• مهام الانحدار: تم تقييم LTV أيضاً على مهام الانحدار الخطي وانحدار ReLU، حيث حقق أدنى متوسط خطأ تربيعي (MSE) بين جميع نماذج نواقل المهام المرجعية.
• المتانة: تظل الطريقة متينة تجاه التغيرات في المعاملات الفائقة (عدد استعلامات التدريب $N$ والانتظام $\lambda$) وعدد النماذج التوضيحية ($k$).
• القابلية للنقل: نقل LTV من نموذج Qwen-2.5-72B إلى نموذج Qwen-2.5-7B أدى إلى تحسين متوسط دقة التصنيف للنموذج الأصغر بنسبة 6.43%، بل ووصل في بعض الحالات إلى أداء LTV الخاص بالنموذج الأكبر نفسه.

الأهمية والادعاءات

تدعي الورقة أن المحاذاة التوزيعية هي معيار أساسي ومفيد لتصميم طرق استخراج ناقل المهمة. ومن خلال تحويل التركيز في التقييم من الدقة اللاحقة غير المباشرة إلى التباين التوزيعي المباشر (dNTP)، يقدم المؤلفون إطاراً مبدئياً لفهم وتحسين نواقل المهام.

تكمن أهمية LTV في قدرته على:

1. سد الفجوة بين الهدف النظري للتعلم داخل السياق (الاستدلال البايزي الضمني) والتطبيق العملي (النواقل المدمجة) دون الحاجة لتحديثات النموذج.
2. تقديم بديل فعال حاسوبياً للتعلم داخل السياق، مما يقلل من زمن استدلال المهام مع الحفاظ على دقة عالية.
3. تمكين النقل عبر النماذج، مما يشير إلى أن تمثيلات المهام المستخرجة من نماذج أكبر وأكثر قدرة يمكن أن تعمل كمورد للنماذج الأصغر ذات السياق أو القدرة المحدودة.

يخلص المؤلفون إلى أن LTV يوفر إطاراً أكثر كفاءة وفعالية لضغط المهام في النماذج اللغوية الكبيرة، مما يؤكد فرضية أن تقليل التباين بين توزيعات ناقل المهمة وتوزيعات التعلم داخل السياق يؤدي إلى تكيف أفضل مع المهام.