💻 computer science

Disentangling Task Conflicts in Multi-Task LoRA via Orthogonal Gradient Projection

تقترح هذه الورقة البحثية Ortho-LoRA، وهي طريقة لإسقاط التدرج تعمل ديناميكياً على حل صراعات المهام في Multi-Task LoRA عن طريق إسقاط التدرجات المتصارعة على فضاءات فرعية متعامدة، مما يقلل بشكل كبير من الانتقال السلبي ويستعيد أداءً يقارب أداء المهمة الواحدة مع تكلفة حوسبية ضئيلة.

المؤلفون الأصليون: Ziyu Yang, Guibin Chen, Yuxin Yang, Aoxiong Zeng, Xiangquan Yang

نُشر 2026-01-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziyu Yang, Guibin Chen, Yuxin Yang, Aoxiong Zeng, Xiangquan Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: عقل واحد، وظائف متعددة

تخيل أن لديك مكتبة ضخمة وذكية للغاية (نموذج لغوي كبير) تعرف كل شيء تقريبًا. ومع ذلك، فإن هذه المكتبة ضخمة جدًا بحيث لا يمكنك حملها في جيبك. ولجعلها محمولة، تقوم بإنشاء "دفتر ملاحظات" صغير وخفيف الوزن (يسمى LoRA) تقوم بإرفاقه بالمكتبة. يتيح هذا الدفتر للمكتبة تعلم مهارات جديدة ومحددة دون الحاجة إلى إعادة كتابة الموسوعة بأكملها.

عادةً، أنت تعطي المكتبة وظيفة واحدة في كل مرة (مثل "اكتب قصيدة" أو "حل مسألة رياضية"). ولكن ماذا لو أردت دفتر ملاحظات واحدًا للتعامل مع العديد من الوظائف في وقت واحد؟ هذا هو هدف التعلم متعدد المهام (Multi-Task Learning).

المشكلة: "ازدحام مروري" في غرفة صغيرة

تجادل الورقة البحثية بأنه بينما يوفر مشاركة دفتر ملاحظات واحد مساحة، إلا أنه يتسبب في حدوث ازدحام مروري.

السيناريو: تخيل أن دفتر الملاحظات عبارة عن غرفة صغيرة بها عدد قليل من الكراسي (هذا هو قيد الرتبة المنخفضة - Low-Rank). لديك ثلاثة أصدقاء (المهمة أ، المهمة ب، والمهمة ج) يحاولون الجلوس وإعطائك تعليمات في نفس الوقت.
النزاع: الصديق (أ) يريد الجلوس في الزاوية لكتابة قصة. الصديق (ب) يريد الجلوس في نفس الزاوية لحل لغز. الصديق (ج) يريد الوقوف في المنتصف لتحليل جملة.
النتيجة: نظرًا لأن الغرفة صغيرة جدًا (سعة منخفضة)، فإن تعليماتهم تتصادم. الصديق (أ) يدفع الصديق (ب) بعيدًا عن طريقه. الصديق (ج) يتعرض للاصطدام. من الناحية التقنية، "تدرجاتهم" (الاتجاهات التي يريدون التحرك فيها أثناء التعلم) تتصارع مع بعضها البعض. وهذا ما يسمى النقل السلبي (Negative Transfer). كلما أضفت مهامًا أكثر، زاد صراعهم، وأصبح دفتر الملاحظات أسوأ في جميع هذه المهام مقارنة بما لو كنت قد أعطيت كل صديق دفتر ملاحظات خاص به.

الحل: Ortho-LoRA (ساحة الرقص السحرية)

يقترح المؤلفون طريقة جديدة تسمى Ortho-LoRA. بدلاً من ترك الأصدقاء يتصارعون على نفس المكان، يستخدمون تقنية خاصة لجعل تعليماتهم "متعامدة" (Orthogonal) مع بعضها البعض.

فكر في الأمر كأنه ساحة رقص ذات مسارات غير مرئية:

الطريقة القديمة (التدريب المشترك): يحاول الجميع الرقص في منتصف الساحة. يصطدمون ببعضهم البعض، ويدوسون على أقدام بعضهم، وتصبح الرقصة فوضوية.
طريقة Ortho-LoRA: يعمل النظام كمُدرب رقص. يخبر الصديق (أ): "ارقص من الشمال إلى الجنوب". ويخبر الصديك (ب): "ارقص من الشرق إلى الغرب". على الرغم من وجودهم في نفس الساحة، إلا أن حركاتهم لا تتعارض لأنهم يتحركون في اتجاهات مختلفة ومتعامدة.

كيف يعمل تقنيًا (ببساًط):

يتكون دفتر الملاحظات من جزأين رئيسيين: جزء يقرأ المدخلات (المصفوفة A) وجزء يكتب المخرجات (المصفوفة B).
عندما يكتشف النظام أن الصديق (أ) والصديق (ب) يحاولان دفع دفتر الملاحظات في اتجاهات متعاكسة، فإنه يقوم رياضيًا بـ "إسقاط" تعليمات الصديق (أ) على مستوى لا يدفع فيه ضد الصديق (ب).
والأهم من ذلك، أنهم يفعلون ذلك بشكل منفصل لجزء "القراءة" وجزء "الكتابة". وهذا يعني أن دفتر الملاحظات يمكنه تعلم قراءة قصة وحل مسألة رياضية بنفس الطريقة، ولكنه يكتب الإجابات بشكل مختلف، دون أن تلغي إحدى المهام الأخرى.

النتائج: الحصول على أفضل ما في العالمين

اختبر الباحثون هذه الطريقة على مجموعة معيارية من الاختبارات اللغوية (مقياس GLUE). وإليكم ما وجدوه:

الأساس (Baseline): عندما قاموا بدمج جميع المهام معًا ببساطة دون مساعدة (Joint-LoRA)، انخفض الأداء بشكل كبير. كان الأمر يشبه محاولة التلاعب بثلاث كرات وأنت معصوب العينين؛ ستسقطها جميعًا.
المعيار الذهبي: إذا قمت بتدريب دفتر ملاحظات منفصل لكل مهمة، يكون الأداء مثاليًا، ولكنه يشغل ذاكرة أكبر بـ 3 أضعاف (ثقيل جدًا للحمل).
Ortho-LoRA: باستخدام طريقة "المسار المتعامد"، حقق دفتر الملاحظات المشترك الواحد أداءً يقارب أداء الدفاتر الثلاثة المنفصلة.
- استعادوا 95% من فجوة الأداء بين نهج "الكل في واحد" الفوضوي والنهج "المنفصل" المثالي.
- فعلوا ذلك بقدر ضئيل جدًا من قوة الحوسبة الإضافية. "مدرب الرقص" (رياضيات الإسقاط) سريع جدًا لدرجة أنه يكاد لا يبطئ العملية.

لماذا يهم هذا؟

تخلص الورقة البحثية إلى أن Ortho-LoRA هي طريقة ذكية وفعالة للسماح لوحدة ذكاء اصطنا-ئي صغيرة واحدة بالتعامل مع العديد من الوظائف المختلفة دون أن تتصارع فيما بينها. إنها تثبت أنك لست بحاجة لبناء آلة معقدة ومكلفة ذات أجزاء منفصلة عديدة (مثل بعض الطرق الأخرى التي تحاول تقسيم المهام إلى "خبراء" مختلفين) للحصول على نتائج جيدة. أنت فقط بحاجة لتعليم المهام كيفية التحرك في اتجاهات مختلفة على نفس المسرح الصغير.

باخت-صار: يعمل Ortho-LoRA على منع المهام المختلفة من الدوس على أقدام بعضها البعض، مما يسمح لملحق ذكاء اصطناعي واحد وصغير بتعلم مهارات متعددة بكفاءة تقارب تعلمها واحدة تلو الأخرى.

ملخص تقني: فك تشابك صراعات المهام في LoRA متعدد المهام عبر الإسقاط المتعامد للتدرج

1. بيان المشكلة

تتناول الورقة البحثية تحدي النقل السلبي (negative transfer) في التعلم متعدد المهام (MTL) عند تطبيقه على النماذج اللغوية الكبيرة (LLMs) باستخدام التكيف منخفض الرتبة (LoRA). وبينما يوفر LoRA طريقة فعالة من حيث عدد المعلمات لضبط النماذج اللغوية الكبيرة عبر تحديث المصفوفات منخفضة الرتبة ( $A$ و $B$ ) فقط، فإن مشاركة محول (adapter) واحد عبر مهام متعددة غالبًا ما يؤدي إلى تدهور الأداء مقارنة بالضبط الدقيق للمهمة الواحدة.

ويرى المؤلفون أن هذه المشكلة تتفاقم في LoRA بسبب "صراع عنق الزجاجة" (bottleneck conflict). فخلافًا للضبط الدقيق الكامل (full fine-tuning)، الذي يعمل في فضاء عالي الأبعاد مع درجات حرية وفيرة لإيجاد نقطة "باريتو مستقرة" (Pareto stationary) للأهداف المتصارعة، يقوم LoRA بتقييد التحسين ضمن مَناحي (manifold) منخفضة الرتبة (على سبيل المثال، رتبة $r=8$ ). هذا الاختزال الشديد في القدرة يجبر تدرجات المهام المحددة على التصادم بشكل متكرر، مما يؤدي إلى تداخل مدمر حيث يأتي التحسن في مهمة ما على حساب المهام الأخرى.

2. المنهجية: Ortho-LoRA

الحل المقترح، Ortho-LoRA، هو طريقة إسقاط تدرج مصممة خصيصًا للبنية الجبرية ثنائية الأجزاء لـ LoRA.

الآلية الجوهرية: استلهامًا من تقنية PCGrad (إسقاط التدرجات المتصارعة)، يقوم Ortho-LoRA ديناميكيًا بإسقاط تدرجات المهام المتصارعة على المتمم المتعامد لبعضها البعض قبل تحديث المعلمات. إذا كان تشابه جيب التمام (cosine similarity) بين تدرجي مهمتين سالبًا، يتم إسقاط تدرج إحدى المهمتين على المستوى العمودي للمهمة الأخرى لإزالة المكون المتصارع.
فك الارتباط الواعي بالبنية: الابتكار الرئيسي هو تطبيق هذا الإسقاط على مصفوفات LoRA المكونة ( $A$ $A$ و $B$ $B$ ) بشكل مستقل، بدلاً من تسطيح جميع المعلمات في متجه واحد.
- تقوم المصفوفة $A$ بإسقاط المدخلات في فضاء فرعي كامن (استخراج الميزات).
- تقوم المصفوفة $B$ بإسقاط الميزات الكامنة مرة أخرى إلى فضاء المخرجات (إعادة بناء الحالة).
- من خلال فرض التعامد بشكل منفصل على $g^{(A)}$ و $g^{(B)}$ ، تسمح الطريقة للنموذج بمشاركة التمثيلات المدخلة المفيدة حتى لو اختلفت متطلبات المخرجات، مما يحافظ على معلومات النقل التي قد تُفقد في الإسقاط العالمي.
إجراء التدريب: تحسب الخوارزمية التدرجات لكل مهمة على حدة، وتكتشف الصراعات، وتطبق الإسقاط. ولضمان التحسين غير المنحاز في بيئات تعدد المهام ( $T > 2$ )، يتم تغيير ترتيب الإسقاط عشوائيًا في كل خطوة تدريب.
التعقيد: على الرغم من أن الطريقة تتطلب $T$ من عمليات التمرير الخلفي (واحدة لكل مهمة) بدلاً من عملية واحدة، إلا أن العبء الحسابي ضئيل للغاية. يعمل الإسقاط حصريًا على معلمات LoRA، والتي تشكل أقل من 0.1% من الحجم الإجمالي للنموذج. وتظل العقبة الحسابية الرئيسية هي عملية التمرير الأمامي/الخلفي عبر هيكل LLM المجمد.

3. المساهمات الرئيسية

تحدد الورقة ثلاث مساهمات رئيسية:

تحديد المشكلة: حدد المؤلفون وحللوا "صراع عنق الزجاجة" المتأصل في تطبيق MTL على المحولات منخفضة الرتبة، بحجة أن قيود الرتبة المنخفضة تضخم النقل السلبي مقارنة بالضبط الدقيق الكامل.
اقتراح الخوارزمية: اقترحوا Ortho-LoRA، وهي خوارزمية فعالة حسابيًا تفرض تعامد التدرج تحديدًا داخل فضاء المحول (المصفوفتين $A$ و $B$ ) لتخفيف النقل السلبي دون تعديلات هيكلية.
التحقق التجريبي: من خلال التجارب على مقياس GLUE، أظهروا أن Ortho-LoRA يستعيد حوالي 95% من فجوة الأداء بين نماذج Joint-LoRA ونماذج المهمة الواحدة باستخدام $1/N$ فقط من المعلمات (حيث $N$ هو عدد المهام).

4. النتائج التجريبية

أُجريت التجارب على مقياس GLUE (مهام MNLI, QQP, SST-2) باستخدام هيكل RoBERTa-base مع رتبة LoRA قدرها $r=8$ .

الأداء: أظهر نموذج Joint-LoRA القياسي (محول مشترك مُدرب على مجموع الخسائر) انخفاضًا في الأداء بنحو 1.5 نقطة مقارنة بـ Single-Task LoRA. وقد خفف Ortho-LoRA هذا الانخفاض بشكل كبير، محققًا متوسط درجة 89.6، وهو ما يقل بـ 0.3 نقطة فقط عن الحد الأعلى للمهمة الواحدة (89.9).
معدل الاستعادة: استعاد Ortho-LoRA حوالي 80% من انخفاض الأداء عبر جميع المهام، مع استعادة شبه كاملة لمهمة QQP (87.9 مقابل 88.1 للمهمة الواحدة).
دراسات الاستبعاد (Ablation Studies):
- حساسية الرتبة: قدمت الطريقة مكاسب ثابتة عبر الرتب $r \in \{4, 8, 16, 32\}$ . وكان التحسن أكثر وضوحًا عند الرتب المنخفضة ( $r=4$ )، مما يؤكد قيمة الطريقة في سيناريوهات كفاءة المعلمات العالية حيث يكون عنق الزجاجة في أقصى حالاته.
- التقارب: على الرغم من أن Ortho-LoRA استغرق وقتًا أطول بمقدار 1.4 مرة في وقت التشغيل الفعلي بسبب عمليات التمرير الخلفي المتعددة، إلا أنه تقارب في عدد دورات (epochs) أقل من Joint-LoRA. لقد عمل على تثبيت مسار التحسين، متجنبًا منحنيات الخسارة المتذبذبة الناتجة عن التحديثات المتصارعة.

5. الأهمية والادعاءات

تدعي الورقة أن Ortho-LoRA يقدم حلًا "وسطًا" قويًا بين كفاءة التدريب المشترك وأداء الضبط الدقيق للمهمة الواحدة.

الكفاءة مقابل الأداء: توضح الطة أن التعامد الصريح للتدرج يمكن أن يحقق فك ارتباط للمهام يضاهي الحلول الهيكلية المعقدة (مثل Mixture-of-Experts أو FlyLoRA) دون إدخال معلمات إضافية (الموجهات/routers) أو منطق توجيه معقد.
القابلية للتوسع: تحافظ الطريقة على البساطة الهيكلية لوحدة LoRA مشتركة واحدة، مما يجعلها مناسبة لنشر نظام واحد للتعامل مع مهام متعددة بحد أدنى من عبء التخزين.
الاتجاهات المستقبلية: يقترح المؤلفون بتواضع إمكانية استكشاف تطبيق استراتيجية الإسقاط هذه على طرق PEFT أخرى (مثل Prefix-Tuning) ودمجها مع التوزين الديناميكي للمهام.

باختاصر، يوفر Ortho-LoRA تدخلًا خفيف الوزن على مستوى التحسين، يعالج بفعالية صراعات التدرج المحددة الناشئة عن قيود الرتبة المنخفضة لـ LoRA، مما يتيح تكيفًا متعدد المهام عالي الأداء بتكلفة حسابية ضئيلة.