ملخص تقني: الحقن، المحاذاة، الاستعادة (IAR)

تعريف المشكلة

تتناول الورقة تحدي استيعاب المعرفة الوثائقية في النماذج اللغوية الكبيرة (LLMs). في نظام استرجاع المعزز بالتوليد (RAG) القياسي، تعتمد النماذج على الاسترجاع الخاري للإجابة على الأسئلة بناءً على مجموعة نصوص محددة. ومع ذلك، في العديد من سيناريوهات النشر (بسبب قيود زمن الاستجابة، أو الخصوصية، أو قيود الاختبار)، يكون الاسترجاع غير متاح. الهدف هو تحويل مجموعة وثائق ثابتة ومحدودة إلى معرفة بارامترية قابلة للاستخدام داخل النموذج، مما يمكنه من الإجابة على الأسئلة المحجوبة دون الحاجة للوصول إلى الوثائق المصدرية وقت الاستدلال.

تواجه الأساليب الحالية قيودًا كبيرة:

• الضبط الدقيق الخاضع للإشراف (SFT) على أزواج (سؤال-جواب): يوفر التنسيق الصحيح للمدخلات والمخرجات، ولكنه يقدم إشارات تعلم شحيحة، حيث تساهم فقط الحقائق التي اختارها مولد الأسئلة والأجوبة في عملية التعلم.
• الاستمرار في التدريب المسبق (CPT): يوفر تعرضًا أكثر كثافة لنص الوثيقة، ولكنه يفشل في تعليم النموذج صراحةً كيفية الإجابة على الأسئلة ضمن واجهة اتباع التعليمات.
• المقايضة: غالبًا ما تعاني كلتا الطريقتين من النسيان الكارثي، حيث يؤدي تكييف النموذج مع مجال معين إلى تدهور قدراته العامة على اتباع التعليمات وأدائه في الاختبارات المعيارية الواسعة.

المنهجية: إطار عمل IAR

يقترح المؤلفون إطار عمل IAR (الحقن، المحاذاة، الاستعادة)، وهو إطار عمل مكون من ثلاث مراحل لما بعد التدريب، مصمم لفصل اكتساب المجال، ومحاذاة المهام، واستعادة القدرات العامة.

المرحلة 1: الحقن (Inject)

بدلاً من التدريب المسبق المستمر الخام، تقوم هذه المرحلة بتحويل الوثائق المصدرية إلى مهام إعادة بناء منظمة ومشروطة بالتعليمات. الهدف هو حقن إشراف وثائقي أكثر كثافة من تدريب (سؤال-جواب) فقط دون استخدام خسارة التدريب المسبق المستمر الخام. تستخدم هذه المرحلة ثلاثة أهداف محددة:

1. الاستكمال (Continuation): التنبؤ بنهاية الوثيقة بناءً على مقدمة مشروطة بالتعليمات.
2. إعادة الكتابة (Rewrite): إعادة بناء وثيقة نظيفة من ملخص، أو مخطط تفصيلي، أو هيكل معرفي تم توليده.
3. إعادة البناء بتنسيق التعليمات (Instruction-Formatted Reconstruction): التنبؤ بالوثيقة النظيفة من تعليمات قراءة قصيرة وعامة.
   تُخلط هذه الأهداف لإنشاء مجموعة بيانات "وصفة" تعرض النموذج لهيكل الوثيقة الكامل مع الحفاظ على تنسيق اتباع التعليمات.

المرحلة 2: المحاذاة (Align)

يتم الآن ضبط النموذج، الذي يحتوي الآن على المعرفة الوثائقية المحقونة، باستخدام أزواج (سؤال-جواب) المستمدة من الوثائق. ومن الأهمية بمكان أن تستخدم هذه المرحلة الضبط الدقيق الخاضع للإشراف على الإجابة فقط. هذا يعمل على محاذاة المعرفة المحقونة مع واجهة (سؤال-جواب)، مما يعلم النموذج كيفية استرجاع واستخدام الحقائق الداخلية للإجابة على أسئلة محددة. تنتج هذه المرحلة نسخة (checkpoint) متكيفة مع المجال ($\theta_{IA}$).

المرحلة 3: الاستعادة (Recover)

للتخفيف من حدة النسيان الكارثي، يقوم إطار العمل بـ دمج النماذج اللاحق. يتم دمج النسخة المتكيفة مع المجال ($\theta_{IA}$) مع نموذج التعليمات الأساسي الأصلي ($\theta_0$). قيم المؤلفون عدة معاملات دمج، بما في ذلك SLERP وTask Arithmetic وTIES وDARE.

• استراتيجية الاختيار: لا تكون النسخة النهائية بالضرورة هي الأعلى في دقة المجال. بدلاً من ذلك، يختار المؤلفون نقطة على الحد الفاصل العام للمجال. إنهم يعطون الأولوية لدقة المجال كهدف أساسي بينما يستخدمون الاختبارات المعيارية العامة (IFEval، MMLU، MSBench) كـ "حواجز حماية" لضمان قابلية النشر.

المساهمات الرئيسية

1. صياغة المشكلة: تصيغ الورقة مسألة الإجابة على الأسئلة بدون استرجاع عبر مجموعة وثائق ثابتة كـ مشكلة نقطة تشغيل عامة للمجال، حيث تقيس صراحةً المقايضة بين إمكانية الوصول للمجال والقدرة العامة.
2. إطار عمل IAR: تقدم (الحقن، المحاذاة، الاستعادة) كعملية تفكيك (ثلاث مراحل) تفصل بين التعرض الوثائقي المنظم، ومحاذاة الإجابة فقط، واستعادة القدرة. يسمح هذا بعزل أي تدخل أدى إلى مكاسب أو إخفاقات محددة.
3. تقييم شامل: تم تقييم الطريقة عبر مجموعتين من الوثائق (Common Corpus/CC وCCI) وأربع عائلات من النماذج (Llama، Phi، Qwen، SmolLM). وتقارن مع مجموعة واسعة من الخطوط المرجعية، بما في ذلك Vanilla SFT وCPT+SFT وLoRA وSDFT وReplay وFAPM.
4. الأدلة التجريبية: توفر الدراسة أدلة قوية وحدودية، موضحة متى تكون قوة التهيئة، أو وصفات البيانات، أو اختيار نقطة التشغيل هي الأكثر أهمية.

النتائج

تظهر التجارب أن IAR يحسن الحد الفاصل العام للمجال لاستيعاب الوثائق بدون استرجاع:

• الأداء مقابل Vanilla SFT: يتفوق IAR على Vanilla SFT في جميع المقاييس الأربعة المذكورة في 7 من أصل 8 من إعدادات (مجموعة البيانات-النموذج).
  • الاستثناء: في إعداد Phi-4-mini CCI، حسن IAR من IFEval وMSBench ولكنه قلل قليلاً من دقة المجال وMMLU مقارنة بـ Vanilla SFT.
  • متوسط المكاسب: عبر الإعدادات، يحقق IAR زيادة متوسطة قدرها 3.6 نقطة مئوية في دقة (سؤال-جواب) للمجال و12.1 نقطة مئوية في متوسط الأداء العام (عبر IFEval وMMLU وMSBench) مقارنة بـ Vanilla SFT.
  • مثال محدد: في مجموعة بيانات CC مع Qwen3-4B، حسن IAR دقة المجال من 42.4% (Vanilla SFT) إلى 50.5% مع تحسين جميع المقاييس العامة الثلاثة في آن واحد.
• المقارنة مع BudgetMatch: عند مقارنته بخط مرجعي "BudgetMatch" (الذي يستخدم نفس ميزانية الرموز ولكن يستخدم تدريب السؤال-جواب فقط)، أظهر IAR أداءً متفوقًا في ثلاثة من أصل أربعة إعدادات، مما يشير إلى أن المكاسب ليست ناتجة فقط عن زيادة عدد الرم tokens بل أيضًا عن التعرض المرحلي والاستعادة.
• التوسع (Scaling): في مجموعة بيانات CC، أظهر توسيع نماذج Qwen3 (8B, 14B, 32B) أن ITR يحافظ على دقة المجال ضمن 1.1 نقطة من أفضل نسخة ما قبل الاستعادة، بينما يستعيد 14.9–24.1 نقطة في متوسط الأداء العام.
• الحالات الحدية: تشير الورقة إلى أن IAR لا يهيمن بشكل موحد على كل مقياس في كل إعداد (على سبيل المثال، أظهر Phi-4-mini في CCI انخفاضًا طفيفًا في دقة المجال مع تحسين المقاييس العامة)، مما يسلط الضة على أن تفضيلات النشر هي التي تحدد نقطة التشغيل المثلى.

الأهمية والادعاءات

تدعي الورقة أن IAR يحسن حد نقطة التشغيل لاستيعاب الوثائق بدون استرجاع. وتكمن أهميتها في إثبات أن:

1. التفكيك فعال: فصل التعرض للوثائق، ومحاذاة السؤال-الجواب، والاستعادة أكثر فعالية من دمج هذه الوظائف في وصفة تدريب واحدة.
2. الاستعادة أمر بالغ الأهمية: دمج النماذج اللاحق هو استراتيجية قابلة للتطبيق لاستعادة القدرات العامة المفقودة أثناء التكيف مع المجال دون التضحية بالمعرفة الوثائقية المستوعبة.
3. المقايضات قابلة للقياس: يجب قياس التعرض للوثائق، ومحاذاة الإجابة، ووصفات البيانات، والاستعادة بشكل منفصل. تجادل الورقة ضد دمج هذه العناصر في درجة واحدة، حيث قد تفوز الخطوط المرجعية المختلفة (مثل LoRA أو FAPM) في مقاييس عامة محددة ولكنها تفشل في استيعاب المجال، بينما يوفر IAR نقطة تشغيل متوازنة وقوية تركز على المجال.

يخلص المؤلفون إلى أن IAR يمثل نقطة تشغيل قوية تعتمد على الإعداد وليس مجرد وصفة مهيمنة عالميًا، مما يوفر إطارًا قويًا لاستيعاب المعرفة الوثائقية مع الحفاظ على فائدة النموذج العامة.