ملخص تقني: S2R2 – رؤية على مستوى القطع (Segment-Level) لمتانة النماذج اللغوية المضبوطة بتقنية LoRA

1. بيان المشكلة

تُظهر النماذج اللغوية الكبيرة (LLMs) حساسية كبيرة تجاه التغييرات الطفيفة في المطالبات (prompts)، مثل الأخطاء الطباعية، أو حذف الكلمات، أو استبدال المرادفات، أو إعادة الصياغة. وبينما تفرض طرق المتانة الحالية الاتساق على مستوى التسلسل الكامل (على سبيل المثال، تقليل تباعد كولباك-ليبلر بين المخرجات النظيفة والمضطربة)، فإن هذا النهج الشمولي يعاني من قصور حرج: إذ يمكنه إخفاء الإخفاقات المحلية. فقد يظل الرد المضطرب مشابهاً للرد النظيف على المستوى العالمي، بينما ينحرف في "قطعة دلالية" (semantic segment) حرجة، مثل كيان محدد، أو قيمة عددية، أو علاقة سببية، أو استنتاج.

علاوة على ذلك، تفتقر الطرق الحالية إلى تفسير من جانب الآلية (mechanism-side) لسبب حدوث هذه الانحرافات. يمكن للاضطرابات أن تغير كيفية إعادة تخصيص النموذج للاهتمام (attention) عبر الأدلة المصدرية أثناء التوليد، ولكن نادراً ما يتم تنظيم ذلك صراحة. تجادل الورقة بأن المتانة يجب أن تُحلل من خلال الانحراف الدلالي المحلي بدلاً من مجرد الاتساق التسلسلي العالمي، وأن التحكم في عملية التكيف (وتحديداً في التكيف منخفض الرتبة، أو LoRA) أمر ضروري لمنع تحول الأدلة الناتج عن تضخيم الاضطرابات.

2. المنهجية: S2R2

يقترح المؤلفون S2R2 (تنظيم متانة القطع الدلالية)، وهو إطار عمل للضبط الدقيق المتين للنماذج المعدلة بتقنية LoRA. يتكون الإطار من مكونين مقترنين: هدف محاذاة دلالي من جانب المخرجات، ومنظم استقرار للمهايئ (adapter stability regulariser) من جانب الآلية.

2.1 التفكيك والمحاذاة على مستوى القطع

بدلاً من معاملة المخرج كتسلسل واحد، يقوم S2R2 بتفكيك التوليدات النظيفة ($y$) والمضطربة ($y'$) إلى قطع دلالية ($G(y)$ و $G(y')$).

• تمثيل القطعة: يتم تمثيل القطع بمتوسط الحالات الخفية (hidden states) لكل توكن (token).
• محاذاة النقل الأمثل (Optimal Transport Alignment): للتعامل مع الاختلافات في ترتيب القطع أو حجمها، تقوم الطريقة بمحاذاة مجموعات القطع باستخدام خطة نقل أمثل ($T^*$). ويُحدد التكلفة بين القطع بـ $1 - \cos(e_u, e'_v)$.
• معاقبة أسوأ انحراف (Worst-Drift Penalization): تم تصميم خسارة المتانة الدلالية ($\mathcal{L}_{sem}$) لمعاقبة القطع ذات أكبر انحراف في المعنى. وهي تجمع بين متوسط الانحراف وحد أقصى سلس (يتحكم فيه $\beta$) للتركيز على قطع "أسوأ انحراف":
  $$\mathcal{L}_{sem} = \frac{1}{U} \sum_{u} d_u + \frac{1}{\beta} \log \sum_{u} \exp(\beta d_u)$$
  حيث $d_u$ هو انحراف القطعة $u$.

2.2 منظم استقرار المهايئ (Adapter-Stability Regulariser)

لربط انحراف المخرات بتكيف النموذج، قدم المؤلفون منظماً ($\mathcal{L}_{stab}$) يتحكم في نمو تحديثات LoRA في إسقاطات الاهتمام (تحديداً مصفوفات الاستعلام Query والمفتاح Key).

• الآلية: يُعرف المنظم بمجموع حاصل ضرب معايير فوروبنيوس (Frobenius norms) لمصفوفات عوامل LoRA (المصفوفات $A$ و $B$) عبر الطبقات:
  $$\mathcal{L}_{stab} = \sum_{\ell} \sum_{\ast \in \{Q,K\}} \|B^\ell_\ast\|_F \|A^\ell_\ast\|_F$$
• المبرر: يعمل هذا الحد كوكيل قابل للقياس للحد من إعادة تخصيص الاهتمام المضخم بالاضطراب. يمكن للتحديثات الكبيرة لـ LoRA أن تضخم تأثير اضطرابات المدخلات على درجات الاهتمام، مما يؤدي إلى تخصيص غير مستقر للأدلة. ومن خلال تقييد هذه المعايير، تمنع الطريقة النموذج من الاعتماد على حركة مفرطة في المعلمات لتناسب الأمثلة المضطربة.

2.3 تفسير التعقيد (من منظور PAC-Bayesian)

تفسر الورقة حد استقرار المهايئ من خلال عدسة تعقيد PAC-Bayesian.

• القبل والبعد (Prior/Posterior): يُنظر إلى النموذج المدرب مسبقاً والمجمد على أنه المركز القبلي ($P$)، وتحدد معلمات LoRA توزيعاً بعدياً ($Q$).
• التحكم في التعقيد: يُفسر التحكم في معايير LoRA على أنه تحديد لتعقيد الفرضية المتكيفة بالنسبة للقبلي. وهذا يشير إلى أن المتانة تتحقق من خلال الحفاظ على فضاء فرضية ما قبل التدريب مع تثبيت القطع الدلالية الحرجة، بدلاً من الإفراط في التخصيص (overfitting) لأنماط اضطراب معينة.

2.4 الهدف النهائي

يجمع هدف التدريب الإجمالي بين خسارة الإنتروبيا المتقاطعة القياسية ($\mathcal{L}_{CE}$)، وخسارة القطع الدلالية، وحد استقرار المهايئ:
$$\mathcal{L}_{S2R2} = \mathcal{L}_{CE} + \lambda_{sem}\mathcal{L}_{sem} + \lambda_{stab}\mathcal{L}_{stab}$$

3. المساهمات الرئيسية

1. رؤية المتانة على مستوى القطعة: تقترح الورقة تحليل إخفاقات متانة المطالبات من خلال الانحراف الدلالي المحلي بدلاً من اتساق التسلسل الكامل، بحجة أن المقاييس العالمية يمكن أن تخفي الإخفاقات المحلية الحرجة.
2. إطار عمل S2R2: تقديم إطار عمل للضبط الدقيق المتين لـ LoRA يقوم بمحاذاة التوليدات النظيفة والمضطربة على مستوى القطع الدلالية ويعاقب صراحةً قطع "أسوأ انحراف".
3. الارتباط باستقرار المهايئ: ربط جديد بين المتانة على مستوى القطعة واستقرار المهايئ، حيث يُفسر التحكم في معيار LoRA كوكيل قابل للقياس للحد من إعادة تخصيص الاهتمام المضخم بالاضطراب وكمنظم تعقيد PAC-Bayesian.
4. التحقق التجريبي: تقييم شامل على مهام التلخيص (CNN/DailyMail, XSum, PubMed) باستخدام نماذج مثل BART-base, Flan-T5-base, و Mistral-7B-Instruct-v0.2.

4. النتائج التجريبية

قيم المؤلفون S2R2 على مهام التلخيص (CNN/DailyMail, XSum, PubMed) باستخدام نماذج مثل BART-base, Flan-T5-base, و Mistral-7B-Instruct-v0.2. شملت الاضطرابات الضوضاء الطباعية، والحذف، واستبدال المرادفات، وإعادة الصياغة.

• أداء المتانة: قلل S2R2 بشكل كبير من معدل هبوط الأداء (PDR) تحت الاضطرابات. على سبيل المثال، في CNN/DailyMail مع BART-base، حقق S2R2 معدل PDR قدره 0.0012، وهو انخفاض بنسبة 81% مقارنة بـ SMART.
• الاستقرار الدلالي: حافظت الطريقة على اتساق دلالي تنافسي (مقاس بـ Self-BERTScore) مع تقليل عدم الاستقرار في الشكل السطحي (Output Edit Rate).
• التعقيد والتعميم: من المهم أن S2R2 حقق هذه النتائج مع حد تعقيد LoRA (DKL) أصغر بكثير مقارنة بالنماذج المرجعية. وهذا يشير إلى أن S2R2 لا يعتمد على تحركات كبيرة في المعلمات لتناسب الاضطرابات.
• النقل عبر البيانات (Cross-Dataset Transfer): في تقييمات Zero-shot (على سبيل المثال، تم ضبطه على CNN/DailyMail واختباره على PubMed)، أظهر S2R2 قدرة أقوى على النقل مقارنة بالنماذج المرجعية، محققاً مخاطر تجريبية ودرجات معدلة بالتعقيد أقل. وهذا يشير إلى أن الحفاظ على القطع الدلالية لأسوأ انحراف يدعم نقل المتانة إلى بيانات لم تُلاحظ فيها تلك الاضطرابات.

5. الأهمية والادعاءات

تدعي الورقة أن S2R2 يقدم نهجاً أكثر استهدافاً للمتانة من خلال معالجة الضعف غير الموحد للمخرجات اللغوية. تكمن أهميته الأساسية في:

• تغيير التركيز: الانتقال من اتساق التسلسل الشمولي إلى الحفاظ على القطع الدلالية، مما يلتقط بشكل أفضل الإخفاقات الحرجة في مهام التوليد.
• التنظيم من جانب الآلية: توفير طريقة قابلة للقياس للتحكم في إعادة تخصيص الاهتمام عبر قيود معيار LoRA، مما يربط استقرار المخرات بتكيف النموذج الداخلي.
• التعميم: إثبات أن التحكم في نمو المهايئ (التعقيد) جنباً إلى جنب مع المحاذاة الدلالية يؤدي إلى تعميم أفضل عبر مجموعات البيانات وأنواع الاضطرابات غير المرئية.

يحافظ المؤلفون على موقف متواضع، مشيرين إلى أن تفسير PAC-Bayesian هو "تفسير موجه نحو التعميم" وليس ضماناً معتمداً، وأن إعادة تخصيص الاهتمام هي "وكيل تشخيصي" وليس تفسيراً سببياً كاملاً لسلوك التوليد. ويُقترح العمل المستقبلي لتوسيع الإطار باستخدام تشخيصات مباشرة للاهتمام ومزيد من الدرازل (ablations).