ملخص تقني: صائدو أشباح النماذج اللغوية الكبيرة: كبح الهلوسة الجراحي عبر النسيان التكيفي

1. بيان المشكلة

تنتج النماذج اللغوية الكبيرة (LLMs) المستخدمة في توليد الأكواد البرمجية بشكل متكرر "هلوسات": مخرجات سليمة لغوياً ولكنها غير صحيحة واقعياً. وفي سياق تطوير البرمجيات، يتجلى هذا في صورة هلوسة الحزم (package hallucination)، حيث يبتكر النموذج أسماء مكتبات برمجية غير موجودة (على سبيل المثال، حزمة بايثون وهمية).

يخلق نمط الفشل هذا ثغرة أمنية حرجة في سلسلة التوريد تُعرف باسم "الاستحواذ على الحزم الوهمية" (Slopsquatting). حيث يمكن للمهاجم تسجيل هذه الأسماء المهلوسة استباقياً على السجلات العامة (مثل PyPI) مع حمولات خبيثة. وإذا قام المطورون أو الوكلاء المستقلون بتثبيت هذه الحزم بناءً على توصية النموذج، فسيتم تنفيذ الكود الخبيث.

إن استراتيجيات التخفيف الحالية غير كافية لعمليات الضبط الدقيق بعد النشر:

• إعادة التدريب الكامل (Full retraining): مكلفة حاسوبياً بشكل كبير.
  ‌* التوليد المعزز بالاسترجاع (RAG) والتحقق أثناء الاستدلال: تزيد من زمن الاستجابة والتعقيد دون تغيير التمثيلات المتعلمة الأساسية للنموذج.
• النسيان القياسي (Standard Machine Unlearning): (مثل Gradient Ascent أو NPO) يتطلب عادةً "مجموعة نسيان" محددة ومحدودة مسبقاً. ومع ذلك، فإن مساحة المطالبات (prompts) التي تثير الهلوسة هي مساحة مفتوحة، والهلوسات المحددة التي ينتجها النموذج لا تُعرف إلا بعد استدعائها.
• الانهيار الجزئي للنموذج (Partial Model Collapse - PMC): يوفر آلية لإزالة المحتوى المستهدف، ولكنه يفترض وجود مجموعة بيانات ثابتة ومعروفة، وهو ما لا ينطبق على الطبيعة الديناميكية وغير المحدودة للهلوسات.

2. المنهجية: النسيان التكيفي (Adaptive Unlearning - AU)

يقترح المؤلفون النسيان التكيفي (AU)، وهو نظام حلقة مغلقة للضبط الدقيق بعد النشر، مصمم لكبح الهلوسة جراحياً مع الحفاظ على المنفعة العامة للنموذج. يعمل AU حصرياً على البيانات الاصطناعية التي يولدها النموذج نفسه ولا يتطلب أي تسميات توضيحية بشرية (human annotation).

المكونات الأساسية

1. حلقة تحوير المطالبات التكيفية (Adaptive Prompt Mutation Loop):

   • بدلاً من الاعتماد على مجموعة بيانات نسيان ثابتة، يقوم AU باكتشاف سياقات جديدة تثير الهلوسة باستمرار.
   • يقوم النظام بأخذ عينات من النموذج الحالي. إذا لم تؤدِ المطالبة إلى هلوسة أو تم تدريبها لعدد ثابت من العصور (epochs)، تُعتبر "مستهلكة".
   • يتم بعد ذلك تحوير المطالبة (تغييرها دلالياً) لاستفزاز أنماط هلوسة جديدة، مما يضمن تعلم النموذج كيفية كبح الأنماط بدلاً من حفظ أزواج (المطالبة-المخرج) المحددة.

2. توجيه الرموز ثلاثي القناع (Tri-Mask Token Routing):

   • تعمل آلية توجيه التدرج الثلاثية المبتكرة على تقسيم تدفق الرموز (tokens) لكل عينة تدريب إلى ثلاث مجموعات منفصلة:
     • القناع = 0 (التنظيم - Regularize): الرموز السياقية (المطالبات، بنية الكود، علامات الترقيم). تتلقى خسارة "الاعتراض المتقاطع" (Cross-Entropy - CE) بمقياس معين لتثبيت توزيع النموذج ومنع المخرجات غير المتماسكة.
     • القناع = 1 (التعزيز - Strengthen): الرموز الصالحة (مثل أسماء الحزم الصحيحة التي أكدها "أوراكل" السجل/Registry Oracle). تتلقى خسارة CE قياسية لتعزيز التوليدات الصحيحة.
     • القناع = 2 (الكبح - Suppress): الرموز المهلوسة (مثل أسماء الحزم غير الموجودة). تتلقى خسارة "تحسين التفضيل السلبي" (Negative Preference Optimization - NPO) لدفع الكتلة الاحتمالية بعيداً عن هذه الرموز.
   • يضمن هذا التقسيم الثلاثي أن تدرجات التعزيز والكبح تعمل على مجموعات رموز منفصلة، مما يمنع الانهيار الكارثي الذي يحدث غالباً عند تطبيق أهداف متضاربة على نفس الرموز.

3. دالة الهدف الهجينة (Hybrid Objective Function):

   • تجمع الخسارة الإجمالية بين الحدود الثلاثة:
     $$L_{AU} = \lambda_{retain} L_{CE}^{T_{retain}} + \lambda_{forget} L_{NPO}^{T_{forget}} + \lambda_{reg} L_{CE}^{T_{reg}}$$
   • وهذا يتيح للنموذج تعلم ما لا ينبغي توليده (الهلوسات) وما ينبغي توليده (البدائل الصالحة) في آن واحد ضمن نفس التسلسل.

4. حلقات التدريب المتداخلة (Nested Training Loops):

   • لتثبيت عملية النسيان، يستخدم AU هيكل تدريب ذي زمنين (two-timescale):
     • العصور الخارجية (Outer Epochs): توليد عينات جديدة واكتشاف الهلوسات لتحديث الأقنعة الثلاثية.
     • العصور الداخلية (Inner Epochs): التدريب على العينات المخزنة مؤقتاً من العصر الخارجي عبر خطوات متعددة قبل إعادة أخذ العينات. يسمح هذا للنموذج بترسيخ إشارة الكبح بدلاً من ملاحقة "عينات جديدة" باستمرار.

3. المساهمات الرئيسية

1. إطار النسيان التكيفي: أول طريقة نسيان تربط حلقة اكتشاف الهلوسة التكيفية بهدف هجين على مستوى الرمز، مما يتيح التعميم على مطالبات غير مرئية دون الحاجة لمجموعة نسيان محددة مسبقاً.
2. توجيه الرموز ثلاثي القناع: آلية تتيح التدخلات الجراحية داخل تسلسل واحد عبر تقسيم الرموز إلى فئات (صحيحة، مهلوسة، وسياقية)، مما يسمح لأهداف CE و NPO بالعمل دون تعارض.
3. تحوير المطالبات التكيفي: استراتيجية توسع النسيان من المجموعات المحدودة إلى مساحات المطالبات المفتوحة، مما يضمن كبح النموذج لأنماط الهلوسة بدلاً من الإفراط في ملاءمة (overfitting) مطالبات محددة.
4. التدريب المتداخل للاستقرار: مخطط تحديث ذاكرة مؤقتة يعالج عدم الاستقرار في طرق الانهكار السابقة، وهو أمر بالغ الأهمية لتقليل الهلوسة بشكل مستقر.
5. التقييم المشترك المنهجي: مقارنة تجريبية تقيم معدل الهلوسة، والانزياح التوزيعي، وفائدة الكود في آن واحد، مما يثبت أن التخفيف الفعال يتطلب موازنة هذه المحاور الثلاثة.

4. النتائج التجريبية

قيم المؤلفون منهجية AU على نماذج DeepSeek-Coder (بمعلمات 7B و 16B) باستخدام مجموعة بيانات من مطالبات توليد الكود المصممة لاستدعاء هلوسات الحزم.

• الحد من الهلوسة:

  • بالنسبة لنموذج DeepSeek-7B، خفض AU معدل هلوسة الحزم الإجمالي من 21.2% (الأساس) إلى 2.56%، أي انخفاض بنسبة 88%.
  • بالنسبة لنموذج DeepSeek-16B، انخفض المعدل من 27.75% إلى 6.13%، أي انخفاض بنسبة 78%.
  • تفوق هذا بشكل كبير على النماذج المرجعية: Gradient Ascent (GA)، و Negative Preference Optimization (NPO)، و Partial Model Collapse (PMC).

• الحفاظ على المنفعة:

  • حافظ AU على الأداء أو حسنه قليلاً في معايير الكود القياسية (HumanEval، MBPP، ونسخ EvalPlus الخاصة بها).
  • لنموذج DeepSeek-7B، تحسن متوسط درجة معيار الكود إلى 68.57 (مقابل 66.98 للنموذج الأساسي).
  • لنموذج DeepSeek-16B، ظل المعدل مستقراً عند 73.17 (مقابل 77.4 للنموذج الأساسي، مع انخفاض طفيف يُعزى إلى ديناميكيات تدريب MoE، ومع ذلك ظل متفوقاً على غيره من نماذج النسيان المرجعية).

• الانزياح التوزيعي (تباعد KL):

  • أظهر التحليل أن التغييرات السلوكية الناجمة عن AU كانت مركزة بشدة في توزيع توليد الحزم (تباعد KL ~1.4 Nats لاستعلامات الحزم)، بينما ظلت ضئيلة في توليد الكود العام (تباعد KL ~0.08 Nats) واتباع التعليمات.
  • يؤكد هذا الطبيعة "الجراحية" للنسيان ويتجنب الأضرار الجانبية الواسعة لقدرات النموذج.

• دراسات الاستئصال (Ablation Studies):

  • تركيبة الخسارة: لم يكن CE-only (التعزيز) ولا NPO-only (الكبح) كافيين؛ حيث أدى كل منهما إلى معدلات هلوسة >12%. كان النهج الهجين ضرورياً.
  • العصور الداخلية: فشل التدريب بدون العصور الداخلية (إعادة أخذ العينات في مرحلة واحدة) في تحقيق تقليل فعال للهلوسة. كان مطلوباً ما لا يقل عن 10 عصور داخلية للترسيخ المستقر.
  • تحوير المطالبات: كان التحوير التكيفي حاسماً للتعميم. بدون التحوير، ظلت معدلات الهلوسة مرتفعة (~10.7%)؛ ومع 6 تحويرات، انخفضت إلى ~3.9%.

5. الأهمية والادعاءات

يزعم العمل أن النسيان التكيفي يقدم مساراً مبدئياً وعملياً لمعالجة الهلوسة في النماذج المنشورة بين دورات الإصدار.

• الأثر الأمني: من خلال تقليل معدلات هلوسة الحزم بأكثر من 80%، يقلص AU مباشرةً سطح الهجوم لعمليات الاستحواذ على الحزم الوهمية (Slopsquatting)، وهي ثغرة أمنية حرجة في سلسلة التوريد.
• الجدوى التشغيلية: على عكس إعادة التدريب الكامل، يعمل AU على بيانات اصطناعية يولدها النموذج نفسه، ولا يتطلب أي تسميات توضيحية بشرية، ولا يعتمد على قواعد معرفية خارجية أو عبء التحقق أثناء الاستدلال.
• القدرة على التعميم: رغم أن التجارب تركز على هلوسات الحزم في لغة بايثون، إلا أن المؤلفين يجادلون بأن إطار العمل مستقل عن الأنظمة البيئية ويمكن تطبيقه على أي مجال يمتلك "أوراكل" حتمياً (مثل نقاط نهاية API، أو الاستشهادات، أو الادعاءات التاريخية).
• القيود: أشار المؤلفون بتواضع إلى أن "الأوراكل" الحالي يتحقق من صحة السلسلة النصية (وجودها في السجل) بدلاً من الصحة الدلالية داخل الكود. كما أقروا بأن الضبط الدقيق لكامل المعلمات في مقاييس أكبر (تتجاوز 16B) يتطلب موارد تتجاوز دراستهم الحالية، وأن التعميم على النماذج اللغوية العامة (غير المتعلقة بالكود) يظل امتداداً مفتوحاً.

باختصار، يقدم هذا العمل AU كمنهج ينجح في الموازنة بين قمع سلوكيات غير مرغوب فيها محددة وبين الحفاظ على المنفعة العامة للنموذج، مما يسد الفجوة حيث فشلت طرق النسيان السابقة بسبب الطبيعة المفتوحة للهلوسات.